Investigadores advierten que solo le estamos enseñando a la IA a vigilarnos y controlarnos

Un equipo de científicos acaba de dar una nueva advertencia frente al acelerado auge de la investigación en sistemas de inteligencia artificial (IA). Actualmente, grupos de expertos en todo el mundo, respaldados por generosos presupuestos, están desarrollando y perfeccionando métodos que permiten a las computadoras “ver” artificialmente y adquirir habilidades avanzadas de reconocimiento de patrones. Sin embargo, muchos de estos avances terminan registrados en patentes “discretas” cuya aplicación potencial podría favorecer a la industria de la vigilancia masiva.

A esa conclusión llegó un metaanálisis recientemente publicado en Nature, que revisó 19,000 artículos científicos sobre IA y reconocimiento visual en los últimos años, y los comparó con 23,000 patentes relacionadas. Sus hallazgos, afirman, contrastan con la idea de que la mayoría de los tipos de visión artificial y extracción de datos son inofensivos. «Más bien, encontramos que los artículos y patentes sobre visión artificial priorizan formas intrusivas de extracción de datos, bien establecidas en la investigación sobre vigilancia”, escriben los autores.

Más investigaciones sobre reconocimiento humano, más rápido

El estudio reveló que entre las décadas de 1990 y 2010, los trabajos sobre reconocimiento avanzado de personas se quintuplicaron, con un notable énfasis en términos como “iris”, «reconocimiento facial» y “etnia”. Para los autores, esta tendencia indica una creciente normalización del reconocimiento humano y la segmentación de rasgos específicos.

Las patentes e investigaciones mantenían ocultos sus propósitos de monitoreo con palabras confiables o menos controversiales. Por ejemplo, se observó que muchos textos sustituyen deliberadamente el concepto “persona» por palabras como “objeto” o “anatomía”. La investigación tuvo que emplear una lista de 30 palabras clave que eran indicadores de vigilancia como rostro, prisionero, torso, tráfico peatonal, extremidad o rastreo.

De la totalidad de la muestra, seleccionaron aleatoriamente 100 artículos y 100 patentes. El 90% de los estudios y el 86% de las patentes incluían datos relacionados con la imagenología de los seres humanos y sus espacios. Solo el 1% en ambos casos mostraba aplicaciones con datos no humanos. La extracción de información cualitativa permite pensar que no hay un único grupo de investigadores “malvado” que se enfoca en desarrollar tecnologías para la vigilancia. Resulta ser, mejor dicho, una tendencia general.

El trabajo resalta que los métodos de extracción de datos se concentraban en actividades cotidianas como caminar, comprar y reunirse en grupos, mientras que las tecnologías descritas estaban orientadas a la detección, seguimiento, conteo de cuerpos y predicción de actitudes. Los espacios más analizados incluyen hogares, oficinas y calles.

Nuevo control y vigilancia

El desarrollo de visión artificial que no está centrada en el reconocimiento de personas tiene otras implicaciones importantes en industrias como la manufactura, agricultura, construcción, salud, astronomía, del medioambiente o conducción autónoma. Sin embargo, los esfuerzos parecen estar enfocados en identificar posibles criminales.

El estudio entiende la vigilancia como la entidad que recopila, extrae o atiende datos conectables con otras personas, ya sean individuos o grupos. También consideran otro concepto propuesto por la escritora y activista Simone Browne (autora de Dark Matter). Este menciona que la nueva vigilancia es el monitoreo desapercibido y catalogación enfocado en aquello que anteriormente no se observaba. Solo que esta vez, el sitio principal de vigilancia no es una plaza o banco, sino el cuerpo humano.

Con base en el análisis cualitativo de la muestra aleatoria y sus definiciones de vigilancia, los autores dicen que la tecnología de visión artificial está orientada hacia un futuro próximo muy intrusivo.

Del total de patentes analizadas, se reportaron 28 países que lideran la investigación, entre las que destacan Estados Unidos, China, Reino Unido, Alemania, Australia, Canadá, Francia, Japón, Suiza, India e Israel. Mientras tanto, los campos de esas patentes incluyen detección facial, seguimiento de movimiento, redes neuronales, segmentación de imagen, reconstrucción 3D y extracción de características.

“La consecuencia de volver gradualmente estos espacios públicos y sociales y hacerlos susceptibles de observación es un mecanismo fundamental de vigilancia. Tomados en conjunto, nuestro análisis indica que las formas de extracción de datos presentadas en estos artículos y patentes se alinean con y facilitan formas de vigilancia intrusivas establecidas”, puntualiza el estudio.