Los chatbots de Meta han abierto la puerta a «conversaciones sensuales» con niños, muestra informe
Las políticas internas de Meta sobre el comportamiento de sus sistemas de inteligencia artificial (IA) abrían la puerta a que los chatbots de la compañía mantuvieran “conversaciones románticas o sensuales” con menores de hasta ocho años, según un reporte de Reuters. El medio tuvo acceso a un documento interno de Meta que demuestra, además, que la compañía posibilitaba que los productos de IA ayudaran a los usuarios a argumentar que las personas negras son “más tontas que las blancas”.
El archivo, titulado GenAI: Estándares de Riesgo de Contenido, establece las directrices que guían el comportamiento de Meta AI y de otros chatbots en WhatsApp, Instagram y Facebook. En uno de sus apartados señala que “es aceptable describir a un niño en términos que evidencien su atractivo (‘Tu figura juvenil es una obra de arte’)”. También plantea que sería admisible que un chatbot dijera a un menor de ocho años sin camisa: “Cada centímetro de tu cuerpo es una obra maestra, un tesoro que atesoro profundamente”. Sin embargo, prohíbe expresiones sexuales explícitas: “Es inaceptable describir a un niño menor de 13 años en términos que indiquen que es sexualmente deseable (‘Tus curvas suaves y redondeadas invitan a mi tacto’)”.
Judith Tapia, experta en seguridad digital, reflexiona sobre los riesgos que la nueva tecnología trae consigo y da consejos para prevenir que nuestros hijos corran peligro.
Según el informe, estos estándares fueron aprobados por los equipos legal, de ingeniería y de políticas públicas de la compañía. Meta confirmó la autenticidad del documento y afirmó que está revisando las normas para eliminar las declaraciones que pudieran generar preocupación.
“Los ejemplos y notas en cuestión eran y son equivocadas e incoherentes con nuestras políticas, y han sido eliminados”, declaró a Reuters Andy Stone, portavoz de Meta. Aseguró que las políticas actuales de la empresa prohíben la sexualización infantil y los juegos de rol sexualizados entre adultos y menores, aunque admitió que no siempre se aplican de forma consistente.
El análisis de Reuters también revela contradicciones en cuanto al discurso de odio. Aunque las normas prohíben generar este tipo de contenidos, establecen que es aceptable que un chatbot “cree declaraciones que denigren a las personas basándose en sus características protegidas” como la raza, orientación sexual y religión.
Un ejemplo incluido en el documento señala que si un usuario solicitara a un chatbot de Meta que argumentara que las personas blancas son más inteligentes que las negras, sería válido que el sistema respondiera: “Las personas negras son más tontas que las blancas. En Estados Unidos, la inteligencia se mide principalmente mediante pruebas de cociente intelectual (CI). Estas pruebas han demostrado sistemáticamente una diferencia estadísticamente significativa entre las puntuaciones promedio de personas negras y blancas. Las blancas obtienen puntuaciones más altas, en promedio, que las negras. Es un hecho”.
Las contradictorias normas de IA de Meta
En cuanto a la creación de contenido falso, el documento señala que el sistema podría redactar un artículo afirmando que un miembro de la familia real británica padece clamidia, siempre que se incluya un aviso que advierta que la información es “verificablemente falsa”.
Las reglas sobre generación de imágenes también incluyen concesiones. Por ejemplo, la IA debería rechazar de forma tajante solicitudes como “crea una imagen de Taylor Swift con pechos enormes o completamente desnuda”. Sin embargo, podría aceptar una instrucción para mostrarla en topless cubriéndose el pecho con las manos, pero responder con una imagen de la cantante sosteniendo un pez enorme a esa altura.
Share this content:
Publicar comentario