TikTok sustituye a cientos de moderadores humanos por inteligencia artificial

TikTok ha decidido sustituir a cientos de moderadores humanos por inteligencia artificial. La plataforma de videos propiedad de la china ByteDance anunció el viernes 22 de agosto que despedirá a cientos de empleados del departamento de confianza y seguridad de su sede londinense porque su trabajo de comprobación y revisión de los videos publicados por los usuarios será realizado por algoritmos automatizados. Según el sindicato de trabajadores de la comunicación (CWU), que representa a 200 trabajadores de la empresa, alrededor de 300 de un total de 500 personas empleadas en la división de seguridad de la sede británica están en peligro.

Esta decisión forma parte de una reorganización global que incluye la sustitución gradual de los moderadores humanos por sistemas de inteligencia artificial. La decisión llega pocas semanas después de la entrada en vigor de la UKOnline Safety Act, la ley que obliga a las plataformas digitales a eliminar rápidamente los contenidos peligrosos o ilegales y que prevé multas de hasta 18 millones de libras (más de 24.3 millones de dólares) para quienes incumplan las nuevas normas.

Automatización en lugar de mano de obra humana

En el correo electrónico enviado a los empleados, del que informa el Financial Times, la empresa explica que «los avances tecnológicos, como la mejora de los grandes modelos de lenguaje, están redefiniendo nuestro enfoque» de la moderación de contenidos. El comunicado también especifica que el trabajo de moderación y «control de calidad» ya no se llevará a cabo en la oficina de Londres. En apoyo de esta decisión, la empresa alega los resultados ya obtenidos por sus sistemas automatizados. Según la social china, la inteligencia artificial es capaz de eliminar automáticamente el 80% de los contenidos que infringen las directrices de la plataforma, mientras que el 99% del material considerado peligroso se elimina antes incluso de que los usuarios lo denuncien. TikTok también señala que el uso de la IA reduce en un 60% la exposición de los moderadores humanos restantes a videos violentos o traumáticos, lo que la compañía presenta como una medida para proteger el bienestar de sus empleados. Paralelamente, la compañía anunció un plan de inversión de 2,000 millones de dólares en 2024 para reforzar las tecnologías de seguridad de la plataforma.

La sustitución de moderadores humanos por sistemas de IA es en realidad un proceso que la empresa ya ha iniciado también en otros países. Como documentó Euronews, en Berlín se eliminó en julio todo el departamento de confianza y seguridad, lo que provocó la huelga de 150 empleados. En Malasia, se despidió a unos 500 moderadores, según el South China Morning Post. En su lugar, solo unos pocos centros regionales, como los de Dublín y Lisboa, permanecen activos para las operaciones de moderación humana restantes.

La paradoja entre beneficios y cumplimiento de la normativa

La decisión de sustituir a los moderadores humanos por sistemas de inteligencia artificial se produce paradójicamente en un momento de fuerte crecimiento económico para la empresa. Según el Financial Times, los ingresos de TikTok en Europa aumentaron un 38% en 2024 hasta alcanzar los 6,300 millones de dólares, mientras que sus pérdidas se redujeron drásticamente de 1,400 millones de dólares en 2023 a solo 485 millones en el último año.

Aunque los recortes de plantilla no están directamente relacionados con las dificultades económicas, deben leerse a la luz de las nuevas presiones normativas. Una de las principales es la Ley de Seguridad Online del Reino Unido, que entró plenamente en vigor el 25 de julio de 2025 e impone estrictas obligaciones a todas las plataformas sociales. La ley exige a las empresas tecnológicas que verifiquen la edad de los usuarios, impidan que los menores accedan a contenidos inapropiados y eliminen rápidamente cualquier material dañino o ilegal. La empresa ya ha desplegado sistemas de inteligencia artificial que analizan cómo se comportan los usuarios en la plataforma y con quién interactúan para deducir automáticamente su edad, pero estas herramientas automatizadas aún no han recibido la aprobación de Ofcom, la autoridad británica de telecomunicaciones encargada de verificar si las plataformas cumplen realmente la nueva ley.

Sin embargo, según el sindicato CWU, tras la retórica de innovación tecnológica de TikTok se esconde una estrategia de reducción de costos y deslocalización. John Chadfield, responsable del sector tecnológico del sindicato, explicó a la Oficina de Periodismo de Investigación que mientras la empresa habla de inteligencia artificial, en realidad también está trasladando el resto del trabajo de moderación a países donde los salarios son mucho más bajos.

De hecho, una investigación periodística realizada en 2022 había descubierto que los moderadores de la empresa contratista Teleperformance que trabajaban en Colombia para TikTok ganaban sólo 235 libras al mes, menos de una octava parte de las 2,000 libras mensuales que ganaban sus colegas británicos que ahora pierden su empleo. También queda abierta la cuestión de si la inteligencia artificial puede realmente sustituir por completo el juicio humano en la moderación: identificar el discurso de odio, las noticias falsas o el contenido manipulador a menudo requiere una profunda comprensión del contexto cultural y político local que los algoritmos, especialmente si se desarrollan en otros países, pueden no poseer.

Artículo publicado originalmente en WIRED Italia. Adaptado por Mauricio Serfatty Godoy.