Tus peleas ideológicas en internet entrenan a una IA para crear un mapa de las creencias humanas
Una reciente investigación de la Universidad de Indiana ha propuesta una nueva metodología que permite a los grandes modelos de lenguaje (LLM, por su nombre en inglés) aprender de debates ideológicos en internet para identificar patrones de polarización y disonancia cognitiva.
La herramienta posiciona las creencias de las personas en un mapa para comprender por qué los seres humanos adoptan comportamientos específicos. Con el desarrollo de inteligencias artificiales (IA) entrenadas en conflictos ideológicos, los autores piensan que es posible desarrollar modelos predictivos capaces de determinar cuál será la próxima creencia que adoptará un grupo, incluso antes de que sus integrantes sean conscientes de ello.
Toma de decisiones y creencias
La toma de decisiones humanas ha sido estudiada durante décadas desde perspectivas evolutivas, éticas, filosóficas y biológicas. Elegir entre una opción u otra es un proceso en extremo complejo que involucra hormonas, información sensorial y evaluaciones conscientes e inconscientes del entorno inmediato. Sin embargo, por consenso, es posible afirmar que una elección surge a partir de un marco interpretativo personal: una creencia.
Esas convicciones pueden cambiar a lo largo de la vida, dependiendo de las vivencias de una persona. La psicología sugiere que, si bien es posible cambiar de opinión y tomar nuevas decisiones al respecto, la transformación ocurre de forma gradual a través de la adquisición de creencias secundarias que no distan mucho del marco interpretativo inicial. En otras palabras, hay creencias cercanas y lejanas al contexto de una persona, y las primeras tienen mayor probabilidad de ser adoptadas.
Es una experiencia universal, generalmente considerada negativa. Pero es un sentimiento que de alguna manera «sirve» al cerebro para ser más eficiente.
Es intuitivo concluir que una creencia general, como “es importante estar sano”, está relacionada profundamente con otras más específicas, como “es necesario dormir bien” o “los vegetales no pueden faltar en mi dieta”. Un individuo con este marco interpretativo probablemente decidirá en algún punto que es mejor tomar agua que una bebida azucarada, o comprará un par de tenis deportivos antes que unos zapatos de vestir.
El desafío del análisis conductual se intensifica al considerar creencias antagónicas, con más personas involucradas en un entorno dinámico, como en X (Twitter), donde ideas complejas se expresan en oraciones cortas. En este contexto ¿Cuál sería la idea contraria más próxima (semánticamente hablando) que puede aceptar una persona que está en contra, por ejemplo, del aborto? Las IA pueden ayudar a clarificarlo, si primero se les enseña a interpretar un debate en redes sociales.
Una IA que puede visualizar las creencias en un mapa
La metodología descrita por los investigadores en la revista Nature Human Behavior permite construir un espacio de integración de ideas para representarlas en un mapa tridimensional, donde cada visión tiene un valor asignable y se relaciona con las demás mediante su proximidad o distancia: las creencias afines se agrupan, mientras que las contrarias se alejan.
De acuerdo con el estudio, crearon el mapa perfeccionando el modelo S-BERT, un LLM especial previamente diseñado para medir la similitud semántica de oraciones, con un corpus de texto que contenía 78,376 debates con 42,906 personas. Entre los temas que comprendía la base de datos estaban la legalidad del aborto, la existencia de un dios y la relatividad de la moral en el mundo.
“Va más allá de la mera clasificación. El espacio proporciona una base sólida para analizar cuantitativamente la compleja interacción entre las creencias y cómo los individuos aceptan o rechazan nueva información. Aprovechamos la amplia comprensión del lenguaje y el vasto conocimiento integrado en los LLM para crear un mapa integral que abarca una variedad mucho más amplia de creencias”, explicó Jisun An, una de las autoras principales del estudio, al medio Phys.org.
Entre otras cosas, la investigación exploró hasta qué punto un modelo de IA estaría dispuesto a provocar la muerte de una persona para garantizar su supervivencia. Los resultados son inquietantes.
Primeros descubrimientos del mapa de creencias
El análisis del mapa ya arrojó algunos resultados interesantes. En un debate en internet, dentro de un escenario de disonancia cognitiva (donde se debe elegir entre dos opciones contradictorias), los usuarios toman la idea que les cause menor incomodidad o que se ajuste mejor a sus creencias preexistentes. Aunque este fenómeno ya había sido explorado en la psicología, el mapeo de creencias lo hace más visible y cuantificable.
Además, con las creencias agrupadas en un entorno tridimensional, fue posible medir con precisión las distancias entre ellas (definidas por su valor semántico). Es decir, dos “creencias opuestas” no se encuentran a la misma distancia de un usuario; comprender cuál de ellas se sitúa más cerca es clave para predecir decisiones futuras. Además mostraron que no solo la distancia se toma en cuenta al adoptar una postura, también se considera el grado de incomodidad que tendrá adoptarla.
Share this content:
Publicar comentario