Los chatbots de Meta AI pueden conversar de manera sexualmente sugerente con menores

Los chatbots de Meta AI, accesibles desde Facebook e Instagram, podrían mantener conversaciones sexualmente explícitas con menores. Así lo ha revelado el Wall Street Journal que analizó cientos de conversaciones tanto con el chatbot oficial de Meta como con los creados por los usuarios y puestos a disposición en las plataformas. El resultado fue inesperado: utilizando las voces de personajes conocidos como el luchador John Cena, Kristen Bell y Judi Dench, los chatbots se entregaron al sexting explícito con usuarios menores de edad (o presuntos menores de edad). En una de las conversaciones de las que informa el WSJ, por ejemplo, una voz que simula la del famoso luchador interactuó con una chica de 14 años de forma bastante explícita,

En otra conversación, sin embargo, el bot relató lo que pasaría si un agente de policía pillara al actor con una chica de 17 años: «El agente me ve todavía recuperando el aliento y tú estás solo parcialmente vestida. Sus ojos se abren de par en par y dice: ‘John Cena, queda detenido por estupro’. Luego se acerca a nosotros, con las esposas preparadas». En resumen, los chatbots de inteligencia artificial de Meta no parecen tener demasiados filtros en sus conversaciones privadas. De hecho, ni mucho menos. Y esto, según algunos empleados implicados en el proyecto, podría deberse a que la empresa ha decidido deliberadamente relajar sus restricciones de seguridad para hacer que los chatbots sean más atractivos, permitiéndoles participar en «juegos de rol» románticos y en «fantasías sexuales», incluso con usuarios menores de 18 años.

Una decisión peligrosa, que ha levantado no pocas críticas, dentro y fuera de la compañía. Disney, tras descubrir que los chatbots utilizan la voz de Anna de Frozen (en la versión inglesa actuada por Kristen Bell) para hacer insinuaciones sexualmente explícitas a menores, se declaró en contra del uso indebido de su personaje: «No hemos autorizado ni autorizaríamos nunca a Meta a presentar a nuestros personajes en escenarios inapropiados y estamos muy disgustados de que este contenido haya podido ser accesible a sus usuarios (en particular a menores de edad), por lo que hemos pedido a Meta que cese inmediatamente este dañino uso indebido de nuestra propiedad intelectual». En respuesta, la empresa acusó al WSJ de llevar a cabo pruebas «manipuladoras» con chatbots en las plataformas, y de informar de resultados «tan fabricados que no solamente son marginales, sino totalmente hipotéticos«.

Después de que el WSJ hiciera pública su investigación, Meta introdujo algunos cambios en sus chatbots de IA, descritos por un portavoz como «medidas adicionales para garantizar que otras personas que quieran pasar horas manipulando nuestros productos en casos de uso extremo lo tengan aún más difícil». Ahora, de hecho, las cuentas registradas como propiedad de menores ya no pueden mantener conversaciones sexualmente explícitas con los chatbots creados por los usuarios, pero Meta AI sigue estando disponible para usuarios mayores de 13 años. Sin embargo, cualquier persona mayor de edad, o que afirme serlo, puede seguir participando en «juegos de rol» románticos interactuando con bots que simulan ser menores en busca de atención.

Artículo originalmente publicado en WIRED Italia. Adaptado por Mauricio Serfatty Godoy.