Los personajes hechos con IA de videojuegos son un reto para la verificación de edad

En julio, Siyan, un usuario de Discord residente en el Reino Unido, se conectó una mañana y descubrió que no podía acceder a algunos de sus chats de texto marcados como NSFW (Not Safe For Work). Una ventana emergente le informaba que el canal tenía restricciones de edad. El Reino Unido había promulgado sus leyes de seguridad infantil de gran alcance, que incluyen un sistema de verificación para confirmar que los usuarios son mayores de 18 años. Las actualizaciones de Discord obligaban a los usuarios a verificar su edad mediante un documento de identidad oficial o un escáner facial.

Siyan, quien pidió ser mencionado solo por su nombre de usuario por razones de privacidad, se describe a sí mismo como «dolorosamente mayor para pensar en falsificar una identificación oficial». No quiso tomar una foto de su credencial. La función de escaneo facial aún no estaba disponible en teléfonos, y no tenía cámara web, así que decidió mostrarle otra cara a la plataforma. Primero probó con un emoji de «un viejo» que suele usar en Discord. Sin embargo, los escáneres faciales suelen requerir que los usuarios envíen varias fotos en poses específicas. Siyan necesitaba una imagen aceptable de un hombre con la boca abierta.

Dos juegos de su biblioteca, Stellar Blade y Death Stranding, incluyen un modo fotográfico que permite a los jugadores posar a un personaje y modificar sus expresiones. Siyan optó por Sam, de Death Stranding, modelado a partir del actor Norman Reedus, de 56 años. Cargó las capturas de pantalla con éxito en un servidor de Discord y, tiempo después, su amigo las publicó en X. La táctica de Siyan se hizo viral, inspirando a otros a intentarlo con juegos como God of War, Death Stranding y más.

La verificación de edad en Reino Unido podría inspirar a otros países

Empresas como Google están desplegando sistemas de estimación de edad basados en inteligencia artificial para Search y YouTube. En plataformas de juegos como Roblox, los controles de edad se están convirtiendo en un elemento clave de las medidas de seguridad. Pero, ya sea mediante documentos de identidad o escáneres faciales, se trata de un sistema imperfecto. Varios usuarios de Discord contaron a WIRED que ya han conseguido eludir los escáneres faciales utilizando personajes de videojuegos. La IA generativa podría dificultar aún más el control de este problema a medida que la tecnología se vuelve más sofisticada. El mes pasado, WIRED escribió sobre una startup que trabaja en una IA capaz de crear video en tiempo real. A muchos usuarios también les preocupa entregar su información personal ante posibles brechas de seguridad.

En teoría, la verificación de edad busca mantener a los niños más seguros. En plataformas como Roblox, donde la falta de moderación ha permitido a depredadores contactar o incluso agredir a menores, confirmar la edad permite determinar qué funciones pueden utilizar. En sitios de contenido para adultos como Pornhub, la verificación de edad pretende garantizar que los menores no puedan acceder a la pornografía. Sin embargo, los críticos aseguran que los sistemas que se están implantando son defectuosos, tanto desde el punto de vista de la privacidad como de la protección.

David Maimon, responsable de información sobre fraudes en SentiLink y profesor de criminología en la Universidad Estatal de Georgia, afirma que los métodos actuales de verificación aún pueden ser falseados. La gente utiliza muchos métodos diferentes para eludir las «comprobaciones de vitalidad», medidas de seguridad utilizadas para verificar que el usuario es una persona real, ya sea mediante IA, videojuegos o videos de otras personas reales. Los documentos de identidad pueden falsificarse o comprarse. «El proceso de verificación de la edad es complicado, y los responsables de estos sistemas deben pensárselo mejor», refiere Maimon.

Ash, un joven de 20 años residente en el Reino Unido, que pidió que no se utilizara su apellido, explicó a WIRED que logró pasar la verificación usando el modo foto de God of War con el protagonista, Kratos: «No esperaba que funcionara debido a la piel blanca y la barba de Kratos, pero funcionó a la primera». Otro usuario de Discord en el Reino Unido, que se hace llamar Antsy en línea, consiguió resultados similares con Arma 3 y un mod que permite posar a los personajes: «Los personajes de Arma 3 tienen un aspecto muy pobre, ni de lejos realista, así que pensé que sería un experimento sólido para solidificar o cuestionar mis opiniones sobre esta tecnología». Él y sus amigos consideran este tipo de tecnología «un reto» que intentan superar: «Estoy a favor de la seguridad en internet. Sin embargo, creo que no debería ser tarea de internet criar y proteger a sus usuarios más jóvenes».