¿Qué significa cuando una IA alucina?
Fecha
Tema
25 de febrero. Suena el despertador a las 7:00 a. m. El sol brilla con fuerza y el día promete estar lleno de oportunidades… o al menos, eso creía.
Llego a la oficina feliz, con la expectativa de poder ayudar a los clientes de la mejor forma posible. Con un tecito ya en el cuerpo miro mi pantalla del computador con ilusión, cuando de repente… ¡PAAAF! Apagón total en prácticamente todo Chile... y como balde de agua fría escucho el sonido de una notificación en mi computador y lo primero que resalta es un mensaje de un cliente:
“¿De dónde sacó la IA que tenemos un generador por si se corta la luz?”
¡Oh no! pienso. Clientes en pánico ¿Qué hago? ¿Cómo les explico a personas mayores o jóvenes que no saben nada de programación, que la inteligencia artificial siempre tiene probabilidades de alucinar?
Fue precisamente por esta situación que decidí escribir la guía definitiva sobre qué es una alucinación en IA, para que sepas cómo solucionarlo y entiendas este concepto con peras y manzanas.
Antes de entrar de lleno en qué es una alucinación, primero es importante entender cómo funcionan los asistentes con inteligencia artificial.
Cada asistente IA “piensa” gracias al uso de modelos de lenguaje de gran tamaño, también conocidos como LLMs (por sus siglas en inglés: large language models). Estos modelos, como el popular ChatGPT, generan texto y pueden interactuar de forma natural con los usuarios, siguiendo instrucciones y manteniendo una conversación coherente.
Cuando uno de estos asistentes inventa información, se le denomina alucinación. Sí sé, suena a locura y un poco lo es... Cuando un asistente de IA intenta generar una respuesta sin tener toda la información o sin una instrucción clara, intentará igualmente entregar la mejor respuesta posible. El problema es que, en ese intento, a veces la información no es la más certera.
Antes de que empieces a preocuparte por el concepto, tranqui, todo tiene una solución. Si le entregas los límites correctos a la IA, las probabilidades de que genere información infundada disminuyen drásticamente. Claro, nadie tiene el poder de predecir la llegada de un masivo corte de luz nacional, pero con pruebas, ajustes y buenas instrucciones, tus asistentes cada día estarán más preparados para afrontar correctamente casos tan específicos como el ocurrido.
A medida que se testean y entrenan los asistentes que utilizan inteligencia artificial, se les va estrechando la cancha. Cada nueva instrucción o ajuste funciona como un nuevo “rayado”, acotando aún más el terreno. Así, el espacio de acción del asistente se vuelve cien veces más estrecho y preciso, con el objetivo de que pueda interactuar de forma adecuada y segura con los clientes.
Cuando entrenes a un asistente imagina que le estás enseñando a un cabro chico el Manual del Carreño, no se lo aprenderá en 2 días, necesita tiempo para aprender, madurar y por sobretodo no mentir cuando no sepa algo.
Espero que esta guía sirva para todas esas personas que entran en pánico cuando su asistente empieza a alucinar. Obsérvalo, afina tus instrucciones y… ¡Listaylor! Anímate a tomar las riendas de la inteligencia artificial.