Cuando se habla de alucinaciones, se suele referir a experiencias en las que una persona percibe algo que no está presente en la realidad. Este fenómeno también puede aplicarse al ámbito de la inteligencia artificial (IA). En este contexto, se habla de «alucinaciones de IA» cuando un sistema algorítmico genera información que parece plausible, pero que en realidad es inexacta o engañosa. Investigadores han detectado este tipo de comportamientos en diversos sistemas de IA, desde chatbots hasta generadores de imágenes y vehículos autónomos. Estos errores son motivo de preocupación, ya que pueden tener consecuencias graves en situaciones donde se requiere precisión, como en los ámbitos legal y médico.
Las alucinaciones de IA son particularmente notorias en los modelos de lenguaje, que son la base de muchos chatbots. En este caso, las alucinaciones se manifiestan como información que suena creíble, pero que es incorrecta o irrelevante. Por ejemplo, un chatbot podría citar un artículo científico inexistente o proporcionar un dato histórico erróneo, presentándolo como si fuera verídico. Este tipo de error puede tener repercusiones significativas, como se evidenció en un caso judicial en Nueva York donde un abogado presentó un documento legal que incluía referencias fabricadas por ChatGPT. La detección de tales errores es crucial para garantizar la integridad de los procesos judiciales.
Los sistemas de reconocimiento de objetos también pueden ser propensos a alucinaciones. Esto ocurre cuando un sistema genera descripciones que no corresponden con la imagen analizada. Por ejemplo, si se le pide a un sistema que identifique objetos en una imagen de una mujer hablando por teléfono, podría responder incorrectamente que está sentada en un banco. Este tipo de inexactitud puede resultar problemática en situaciones donde la precisión es esencial. Las alucinaciones en sistemas de IA surgen generalmente cuando el modelo no comprende correctamente la información o cuando se alimenta con datos sesgados o incompletos. Por lo tanto, es fundamental que los usuarios permanezcan alerta y verifiquen la información generada por estos sistemas, especialmente en contextos en los que la precisión y la fiabilidad son prioritarias.
