Errores de la IA con datos financieros: alucinaciones

Una alucinación de la IA es una respuesta que suena segura pero es falsa, por ejemplo una cifra, una fecha o una cita que nunca existió. En finanzas es un riesgo serio, porque los números y las referencias parecen precisos y tientan a actuar sin revisarlos. Antes de usar un dato de un asistente, búscalo en la fuente original.

Qué significa “alucinar”

La palabra suena extraña, pero describe algo simple. Un modelo de lenguaje escribe el texto que parece más probable después de tu pregunta. Si no tiene el dato correcto, puede completar el hueco con algo verosímil.

OpenAI lo explica así: el modelo puede producir respuestas incorrectas o engañosas, y a veces lo hace con mucha confianza. Cuando la respuesta no es fácticamente exacta, se llama alucinación.

El NIST, el instituto de estándares de Estados Unidos, usa el término confabulación para describir el mismo fenómeno. Lo define como contenido que se afirma con seguridad pero es erróneo o falso, y que puede engañar a quien lo recibe. Ese es el punto clave: el problema no es solo el error, sino que suena convincente.

Dónde aparecen con más frecuencia

OpenAI menciona tres tipos de error que importan en finanzas:

• Definiciones, fechas o hechos incorrectos. Por ejemplo, una fecha de un pago de dividendos mal ubicada.
• Citas, estudios o referencias inventadas. Una frase atribuida a un ejecutivo que nunca la dijo, o un informe que suena real pero no se puede encontrar.
• Respuestas demasiado seguras a preguntas ambiguas o complejas.

Anthropic reconoce algo parecido: incluso los modelos más avanzados, como Claude, a veces generan texto incorrecto o que no coincide con el contexto que recibieron. Por eso su documentación propone verificar las afirmaciones con citas.

Hay otro riesgo, el de la fecha de corte. Según OpenAI, el modelo se entrena con datos hasta cierto punto, y sus respuestas no incluyen hechos posteriores salvo que use herramientas de búsqueda. Si preguntas por una situación reciente, la respuesta puede estar desactualizada aunque no se note.

Un ejemplo con números

Supón que le preguntas a un asistente cuánto ganó una empresa el último trimestre y te responde con una cifra exacta y una fuente. Si inviertes US$ 1.000 pensando en ese dato, tu decisión depende de algo que quizá nunca ocurrió. La cifra puede ser inventada, mal redondeada o de otra empresa.

La forma de detectarlo es simple: busca el número en el informe oficial de la empresa. Si no aparece, no existe para tus fines, sin importar lo bien redactada que esté la respuesta.

Cómo reducir el riesgo

Anthropic propone varias técnicas en su documentación. Son útiles, pero reducen el problema; no lo eliminan.

1. Dale permiso para decir que no sabe. Puedes pedir: “Si no tienes suficiente información, dilo y no inventes cifras.” Anthropic señala que esta instrucción sencilla puede reducir mucho la información falsa.
2. Pide citas textuales. En documentos largos, pide primero las frases exactas que sostienen la respuesta y responde solo a partir de ellas.
3. Exige citas para cada afirmación. Anthropic recomienda que cada punto tenga una cita de apoyo, y que se retire cualquier afirmación sin respaldo.

Estas técnicas funcionan mejor cuando tú puedes comprobar el texto de origen. Si el asistente trabaja con su memoria y no con un documento que tienes delante, el riesgo sigue siendo alto.

Cómo detectar una alucinación

Antes de usar una cifra o una cita, revisa lo siguiente:

• Fuente primaria: ¿El dato aparece en un documento oficial, como un informe de la empresa o una publicación de un regulador?
• Fecha: ¿Es del periodo que te interesa? Un dato viejo puede ser correcto y, aun así, no servir para decidir hoy.
• Coincidencia: ¿Otra fuente confiable dice lo mismo? Si solo aparece en una respuesta de chat, desconfía.
• Cita exacta: ¿La frase entre comillas está en el texto original, con esas mismas palabras?

Si una cita o un estudio no se encuentra después de buscarlo con su título y autor, trátalo como inexistente.

Un error que no es solo técnico

El NIST también señala riesgos relacionados con la forma en que las personas usan estas herramientas. Menciona la confianza excesiva, el sesgo de automatización y la dependencia de la IA como si fuera una autoridad. Estos riesgos explican por qué un error pequeño puede llegar lejos: la persona deja de comprobar.

Para el inversor que empieza, la lección práctica es esta: una respuesta bien escrita no es una prueba. Lo que hace fiable un dato es su fuente, su fecha y que puedas encontrarlo tú mismo.

Si una decisión tiene un monto importante, consulta a un profesional registrado antes de actuar.

Más a fondo

El término técnico es confabulación. El NIST la ubica dentro de un grupo de riesgos de la IA generativa, junto con la pérdida de integridad de la información, que puede dificultar distinguir hechos de opinión o de ficción. Ese marco es general y no se limita a finanzas, pero aplica igual a los datos de mercado.

Desde el punto de vista práctico, los datos financieros tienen una combinación peligrosa: son precisos por naturaleza, así que una cifra inventada tiene aspecto de cifra real. Por eso conviene tratar cada número como una afirmación que debe comprobarse, no como un hecho.

Si quieres seguir, revisa qué puede y qué no puede hacer un asistente por un inversor, cómo pedir respuestas con citas y cómo leer un informe trimestral con cuidado.