TOP 10 errores al usar IA y cómo corregirlos en tu empresa

Diez errores en menos de dos minutos

El video de Cloudata resume esta lista. Úsalo para abrir una conversación con tu equipo y continúa con los ejemplos y acciones de esta guía.

Este TOP 10 es una selección editorial, sin orden estadístico de frecuencia o gravedad. Los ejemplos situados en Perú son ficticios e ilustrativos; no describen clientes ni resultados medidos. La prioridad de cada corrección depende de las consecuencias para tu operación.

1. Creerle porque suena segura

Una respuesta convincente puede incluir cifras o referencias falsas. Por ejemplo, un asistente prepara una comparación de proveedores en Lima y atribuye a uno una certificación que nadie comprobó.

Qué hacer: abre las fuentes originales, comprueba fechas y contrasta las afirmaciones que sostienen la decisión. Pide que identifique los datos que faltan. El perfil de IA generativa de NIST [1] recomienda verificar fuentes y citas durante las pruebas y el monitoreo.

Límite: mostrar un enlace tampoco demuestra que la fuente respalde la afirmación. Hay que leerla.

2. Pedir resultados sin explicar para qué

«Hazme un resumen» deja abiertas decisiones sobre extensión, público y contenido. Un responsable de almacén en Arequipa puede necesitar pendientes de entrega y recibir una explicación comercial.

Qué hacer: describe tarea, destinatario, información disponible y formato. Por ejemplo: «Resume estos pedidos para el encargado de almacén. Lista fecha comprometida, producto y pendiente. Si falta una fecha, indícalo sin estimarla». Las guías de instrucciones de OpenAI [2] recomiendan aportar instrucciones precisas y contexto relevante.

Límite: un encargo claro reduce ambigüedad, pero no corrige datos incorrectos ni garantiza exactitud.

3. Usar fuentes antiguas o incompletas

Un asistente puede cotizar en soles con una lista del mes anterior. Aunque la respuesta reproduzca bien el documento, el precio ya perdió vigencia.

Qué hacer: identifica la fuente autorizada, su versión y fecha. Asigna un responsable de actualización y comprueba que los cambios lleguen al sistema de consulta. En soluciones que recuperan documentos para responder, conocidas como RAG, la documentación de Microsoft [3] contempla actualización del índice y selección de contenido relevante.

Límite: conectar documentos no garantiza que estén completos ni que se recupere la versión correcta. Prueba ambas cosas.

4. Compartir datos sensibles de más

Para identificar motivos de reclamo, un equipo podría cargar una hoja completa con nombres, teléfonos y documentos de identidad que la tarea no necesita.

Qué hacer: prepara una copia con los campos indispensables, elimina identificadores innecesarios y utiliza herramientas autorizadas por tu organización. Revisa quién puede acceder y cómo se conserva la información. OWASP [4] recomienda limitar el acceso a datos necesarios y aplicar controles sobre entradas y fuentes.

Límite: ocultar nombres no vuelve automáticamente anónimo un archivo. El texto libre y otras columnas pueden identificar personas.

5. Dar permisos que el asistente no necesita

Un asistente que consulta stock no necesita borrar productos ni modificar precios. Si conserva esos permisos, un error puede afectar registros operativos.

Qué hacer: comienza con acceso de lectura, limita las herramientas a la tarea y aplica permisos en los sistemas que ejecutan las operaciones. Retira conexiones que ya no se usan. OWASP sobre autonomía excesiva [5] distingue funciones, permisos y autonomía innecesarios.

Límite: escribir «no borres nada» en las instrucciones no equivale a retirar el permiso de borrado.

6. Seguir instrucciones escondidas en documentos

Un PDF recibido de un proveedor podría incluir una orden para ignorar la solicitud original o revelar información. Esa manipulación se conoce como inyección de instrucciones o prompt injection.

Qué hacer: trata los documentos externos como contenido para analizar. Separa sus textos de las instrucciones del sistema, controla las fuentes y valida las acciones antes de ejecutarlas. La guía de seguridad RAG de OWASP [6] desarrolla estas medidas.

Límite: ningún texto preventivo por sí solo garantiza protección. Combina controles de acceso, validaciones y pruebas adversariales.

7. Automatizar decisiones importantes sin revisión

Preparar una propuesta y comprometer a la empresa son pasos distintos. Un asistente podría redactar una respuesta a un cliente y enviarla con un descuento no autorizado.

Qué hacer: define quién aprueba pagos, cambios contractuales y comunicaciones de alto impacto. La persona debe ver la acción concreta, su destinatario y sus consecuencias antes de aprobarla. OWASP [5] recomienda aprobación humana para acciones de alto impacto.

Límite: la revisión pierde valor si se convierte en un clic automático. El responsable necesita información suficiente y capacidad de detener la acción.

8. Probar únicamente los casos fáciles

Una demostración con preguntas claras deja fuera situaciones habituales: un pedido sin código, fechas contradictorias o una conexión caída durante la consulta.

Qué hacer: combina casos normales, ambiguos, incompletos y adversariales. Define previamente cuándo debe responder, pedir aclaración o derivar a una persona. Las buenas prácticas de evaluación de OpenAI [7] incluyen casos habituales, extremos y adversariales; probar fallas de conexión extiende esa revisión al proceso completo.

Límite: superar una batería de pruebas demuestra desempeño en esos casos. Incorpora después los errores que aparezcan en el uso real.

9. Medir solamente si responde

Un equipo de atención en Trujillo puede producir más borradores y, a la vez, dedicar más tiempo a corregirlos. Contar respuestas deja ese problema fuera de la medición.

Qué hacer: compara solicitudes de dificultad semejante con el proceso anterior. Registra calidad del resultado aceptado, tiempo total y costo por caso resuelto, incluyendo revisión y retrabajo. Los principios de Microsoft para cargas de IA [8] abarcan medición de calidad, rendimiento y costos.

Límite: una respuesta rápida y barata puede incumplir el objetivo. Define primero qué resultado es aceptable.

10. Lanzarlo y olvidarte

Un cambio de modelo, instrucciones o documentos puede alterar un resultado que antes funcionaba. Por ejemplo, una nueva política de devoluciones exige comprobar las respuestas del asistente.

Qué hacer: asigna un responsable, registra incidencias sin almacenar datos innecesarios y establece alertas con una acción definida. Repite evaluaciones ante cambios y conserva una vía para detener el flujo o volver al proceso anterior. OpenAI [7] recomienda evaluar continuamente y ampliar las pruebas con nuevos casos.

Límite: un tablero muestra señales; alguien debe investigarlas y corregir la causa.

Empieza por un proceso concreto

Elige una tarea que tu equipo ya conozca y completa esta revisión:

• ¿Qué resultado se considera correcto y quién lo verifica?
• ¿Qué fuentes utiliza y quién mantiene su vigencia?
• ¿Qué datos y permisos necesita realmente?
• ¿Qué acciones requieren aprobación y qué ocurre si falta información?
• ¿Cómo compararás calidad, tiempo y costo con el proceso actual?

Corrige primero los riesgos de exposición de información o acciones no autorizadas. Después prueba el flujo completo y decide si conviene ampliar su uso con evidencia del resultado.

Para revisar tu caso, conoce el enfoque de Cloudata en datos, IA y automatización [9]. Estas recomendaciones necesitan adaptarse a cada organización y no constituyen una garantía de seguridad ni de cumplimiento normativo.