Meta demanda a una empresa de apps que “te desnudan” con IA
Meta presentó una demanda contra la empresa Joy Timeline por promocionar en Facebook, Messenger, Instagram y Threads sus aplicaciones CrushAI, las cuales utilizan inteligencia artificial (IA) para generar imágenes sexualmente explícitas de personas reales sin su consentimiento.
La acción legal se dio luego de que una investigación de CBS News revelara la existencia de cientos de anuncios de estas aplicaciones dentro del ecosistema de plataformas de Meta. Según la compañía dirigida por Mark Zuckerberg, esta medida “subraya la seriedad con la que tomamos este abuso y nuestro compromiso de hacer todo lo posible para proteger a nuestra comunidad. Seguiremos tomando las acciones necesarias, que podrían incluir medidas legales, contra quienes abusen de nuestras plataformas de esta manera”.
Los bots de inteligencia artificial de Facebook e Instagram pueden mantener conversaciones sexualmente explícitas con usuarios menores de edad, incluso utilizando voces de famosos. Así se desprende de una investigación del WSJ.
El reportaje de CBS News advirtió que las redes sociales de Meta se han convertido en un nuevo escaparate para la difusión de aplicaciones conocidas como nudify, herramientas capaces de crear deepfakes sexuales a partir de fotografías reales.
La investigación identificó cientos de campañas dirigidas, en su mayoría, a hombres de entre 18 y 65 años residentes en Estados Unidos, el Reino Unido y la Unión Europea. Estas prácticas no solo violan las políticas de contenido y seguridad de Meta, sino que además están alimentando esquemas de chantaje y sextorsión, con el agravante de que en muchos casos llegan a manos de menores, lo que representa un riesgo grave para su seguridad en línea, según el informe periodístico.
Tras la publicación del reportaje, Meta declaró haber eliminado varios anuncios, cerrado las cuentas involucradas y bloqueado las direcciones URL asociadas a las aplicaciones. Sin embargo, CBS News constató que algunos anuncios seguían activos, especialmente en Instagram.
Como respuesta, Meta emprendió una demanda para impedir que Joy Timeline continúe publicitando las aplicaciones CrushAI en sus plataformas. Según un comunicado, la empresa con sede en Hong Kong ha realizado “múltiples intentos de eludir el proceso de revisión de anuncios y continuar promocionando estos contenidos, incluso después de que fueron eliminados repetidamente por infringir nuestras reglas”.
No obstante, Meta reconoció que eliminar anuncios no basta para erradicar el problema, ya que estas aplicaciones siguen disponibles en otras tiendas digitales. La compañía aseguró estar tomando medidas más amplias y colaborando con otras firmas tecnológicas para abordar la situación desde su raíz.
“Cuando eliminamos anuncios, cuentas o contenidos que promueven estos servicios, compartimos información (incluidas las URL de las aplicaciones y sitios web infractores) con otras compañías tecnológicas mediante el programa Lantern de Tech Coalition, para que ellas también puedan investigarlos y actuar en consecuencia”, explicó.
Meta indicó que esta colaboración se lleva a cabo desde finales de marzo y que, hasta la fecha, ha compartido más de 3,800 URL únicas con las empresas participantes en el programa
Meta y otras contra los deepfakes creados con IA
Las acciones de Meta y otras compañías del sector buscan enfrentar un fenómeno creciente que plantea una amenaza considerable, especialmente para los usuarios más jóvenes de internet.
El contenido sexual generado con IA ha experimentado un auge significativo conforme se amplía el acceso a herramientas de inteligencia artificial generativa. Solo en los primeros nueve meses de 2023, se subieron 113,000 videos de este tipo a sitios web para adultos, lo que representa un incremento notable respecto a los 73,000 publicados en todo 2022.
Share this content:
Publicar comentario