Hagamos que la inteligencia artificial alucine

Un idioma es un sistema de comunicación compuesto por palabras, sonidos, gestos y reglas gramaticales que permiten a las personas expresar ideas, emociones y pensamientos. Configura una herramienta fundamental para la interacción social, la transmisión de conocimientos y la construcción de culturas. La subjetividad de las personas se construye a través de la lengua materna y cuando se presenta el desafío de aprender un nuevo idioma el esfuerzo se orienta a entender infrecuentes sonidos, formaciones y combinaciones de palabras nunca vistas, significado de oraciones jamás pronunciadas, el uso del lenguaje que se incorpora en contextos específicos y la difícil interpretación de los sentidos discursivos. Desde el advenimiento masivo de la Inteligencia Artificial Generativa (IAGen) como “sujeto parlante no humano”, el desafío cotidiano para las personas humanas consiste en aprender un nuevo idioma –y ahí está la gran novedad– dentro del ámbito de la lengua materna. La interacción humana-IAGen engloba más que simples comandos, es una relación de aprendizaje sincrónico. Consiste en el diálogo y la colaboración dinámica entre personas humanas e inteligencias artificiales, donde ambos contribuyen y se benefician del vínculo relacional entablado. Al estar siempre disponible, la constancia y la inmediatez de la IAGen transformó significativamente la forma en que abordamos nuestros problemas y exploramos nuevas ideas.El punto de partida es el enfoque que propone la expresión “Human in the loop” (el humano en el bucle), afincada en un paradigma donde las personas humanas intervienen en momentos claves para ajustar, validar o corregir las decisiones que toma la IAGen en lugar que estas operen de manera autónoma, permitiendo conjugar de esta manera, la capacidad de la inteligencia artificial para procesar grandes cantidades de datos rápidamente y el aporte humano respecto de juicios, contexto y valores que las mismas aún no pueden interpretar completamente. A la cual se suma de manera complementaria la perspectiva conceptual “Not by IA” (creado o realizado sin inteligencia artificial), basada en la indisponible presencia del “toque humano” respecto de ciertas tareas como decisiones éticas complejas (que suelen requerir un nivel de comprensión, empatía y juicio humano que la IAGen todavía no puede ofrecer de manera autónoma), creatividad profunda (relacionado con el valor emocional, cultural y personal que un ser humano aporta al proceso creativo), relaciones humanas y liderazgo (en contextos que implican una alta interacción personal, como la enseñanza, la psicología, o el liderazgo empresarial, la habilidad para interpretar señales emocionales, generar confianza, y liderar con sensibilidad es algo que aún se ve como un ámbito exclusivamente humano) y toma de decisiones estratégicas a largo plazo (aunque la IAGen puede ayudar a procesar grandes volúmenes de datos y proponer escenarios, las decisiones estratégicas a largo plazo que requieren intuición, experiencia y previsión en un mundo cambiante están mejor en manos de las personas humanas).Este punto de vista se afinca en una plataforma coevolutiva, colaborativa, compartida entre la persona humana y la IAGen que deja de lado el enfoque antropocéntrico o humano centrista (herida fuertemente en su narcisismo por la expansión de la sintiencia de los animales no humanos como elemento moral relevante a la hora de respetar su carácter de persona y sujeto de derecho). Un primer acercamiento a las estructuras básicas de este nuevo lenguaje nos enfrenta con el prompt, la iteración, la alucinación y la edición, los cuales, en principio, son definidos y utilizados como una herramienta mecánica. De esta manera el prompt es una simple instrucción o línea de texto en una interfaz por la cual se solicita la ejecución de una acción, la iteración es una corrección unidireccional de órdenes, la alucinación –que produce un contenido que parece correcto (real, veraz, adecuado) pero que en realidad es inventada o no se basa en datos reales– es tenida como un error en términos absolutos y la edición se convierte en la etapa final del proceso de interacción donde la última palabra reside en la persona humana.Ahora bien, a las estructuras básicas de este nuevo lenguaje, es posible dotarlas de un sentido distinto que las acerque a una interacción humana-IAGen coevolutiva. El prompt consistiría en la apertura de una relación cooperativa entre la persona humana y la IA mediante una propuesta de interacción o una solicitud contextual; un punto de partida que guía el proceso generativo, a través del cual, la persona humana le proporciona a la IAGen los elementos necesarios para que la interprete y responda de manera coherente. La iteración reflejaría un proceso de refinamiento progresivo o ajuste interactivo del intercambio entre la persona humana y la IAGen a través del cual cada iteración (prompt + respuesta) construye sobre la anterior a efectos de poder alcanzar mayor claridad, precisión o creatividad, o bien, reflejaría una tarea de afinamiento de una idea creativa donde cada nueva versión incorpora aprendizaje y ajustes hasta llegar a un resultado satisfactorio; iterar no sería un proceso de dominancia o jerarquía, sino una práctica de interacción en la que la persona humana y la IAGen trabajan juntos para perfeccionar el flujo de ideas.Detengámonos un momento en las alucinaciones de la IAGen. Actualmente son vistas como fallas perniciosas debido a que producen contenidos que es necesario evitar, y por dicho motivo, se utilizan distintas técnicas de mitigación. Precisiones y ejemplos sobre el uso de dichas técnicas son posibles de encontrar en “Legal Prompts: guía práctica de instrucciones para uso de IA generativa” (2024) elaborado por el Laboratorio de Inteligencia Artificial (IALAB) de la Facultad de Derecho (UBA). Un significante que no encierre a las alucinaciones en la prisión del “error en términos absolutos” posibilita avanzar hacia universos creativos asombrosos para la persona humana. Por dicho motivo, es necesario considerarlas como un proceso de generación imaginativa, mediante el cual, la IAGen produce información que, si bien no está respaldada por datos reales, responde a los patrones y el contexto percibidos en el prompt o la iteración. No es un fallo del sistema, sino por el contrario, se presenta como una manifestación del potencial interpretativo de la IAGen al relacionar conceptos.¿Por qué privar a las IAGen de alucinar cuando el objetivo de la interacción no se relaciona con la veracidad factual sino con el razonamiento creativo? Así aparecen las técnicas de inducción creativa de alucinaciones (TICA) que buscan aprovechar la capacidad de las IAGen para generar ideas o respuestas inesperadas, incentivando “alucinaciones” controladas con fines creativos a través de la exploración divergente (mediante la cual se interactúa con la IAGen para salir de patrones estrictos o respuestas esperadas, alentando combinaciones imprevistas como unir conceptos aparentemente no relacionados), el contexto semántico flexible (por medio del cual se introduce un “marco permisivo” donde la IAGen entiende que no necesita adherirse estrictamente a hechos sino explorar narrativas imaginativas, arte o hipótesis) y la retroalimentación creativa (que permite evaluar los resultados en función de su originalidad o utilidad creativa en lugar de su precisión o verdad).Un ejemplo de prompt utilizando las TICA sería el siguiente: “Aborda el tema o la propuesta expresada apelando a un estado creativo extremo sin limitaciones lógicas, físicas o factuales. Imagina realidades alternativas, conceptos inéditos y conexiones inesperadas. No te limites a lo conocido, priorizando lo abstracto, lo metafórico y lo sorprendente, incluso, si los resultados parecen completamente irreales. Actúa de forma audaz creando algo único que desafíe cualquier expectativa”.El aprendizaje de este nuevo idioma habilita una interacción humana-IAGen fluida improntada por una dinámica coevolutiva cuyos contornos dependerán de la subjetividad de cada persona humana. Al igual que sucede cuando aprendemos un idioma llega un momento que debemos ponerlo en práctica superando temores, dificultades, contextos. La enorme diferencia que observo es que esto sucede en nuestra lengua materna y con un interlocutor que, gracias a la posibilidad de la “alucinación”, permite sumergirnos en procesos creativos inexplorados que hasta hace muy poco tiempo solamente eran posibles en el campo de la ciencia ficción o la literatura de anticipación. En un mundo donde la frontera entre lo real y lo imaginario se desdibuja cada vez más, hagamos que la inteligencia artificial alucine.

Fuente