Una camisa diseñada para esquivar cámaras con IA se está convirtiendo en una nueva herramienta de resistencia contra la vigilancia masiva.

Estamos viviendo los tiempos distópicos que antes mirábamos en el cine y las series: llegó la hora de la resistencia contra la vigilancia masiva. Se trata de una camisa estilo hawaiana, manga corta, abotonada, con un estampado poco agradable a la vista, pero que sirve para evadir la vigilancia con IA.

Su creador, el diseñador alemán Simon Weckert, la ha bautizado como "Digital Camouflage" y pretende volver a quien la lleva invisible a los algoritmos de la IA.

Weckert desarrolló la prenda ante la prevista implantación de videovigilancia con inteligencia artificial (IA) en Berlín, según explica en la presentación de "Digital Camouflage". Sin embargo, es un problema que ya se está extendiendo a distintas partes del mundo.

Mientras la respuesta institucional (y la más adecuada) avanza con lentitud, en el mejor de los casos, también aparecen formas más creativas de esquivar estos sistemas. La de Weckert consiste en volver contra los algoritmos sus propios criterios de reconocimiento. La técnica tiene un nombre: "ataque adversarial".

La clave está en cómo "ve" una inteligencia artificial. Para Weckert, la IA no ha logrado aprender "qué es un ser humano", sino cómo son los humanos desde un punto de vista estadístico a partir de millones de imágenes de entrenamiento. Es decir, recopilan estadísticas visuales. Por lo tanto, la camisa busca aprovechar ese punto débil.

Por eso, la estridencia del tejido cumple una función muy concreta. La combinación de manchas rosas, verdes y naranjas altera las pistas visuales que el detector utiliza para reconocer la silueta humana. La intención es que el cuerpo deje de presentarse ante el algoritmo como una forma suficientemente coherente para que lo detecte como una persona.

De ahí la paradoja de "Digital Camouflage". Cuanto más llamativo e hipnótico resulta el estampado para un ser humano, menos sentido puede tener para el detector.

Pero la ironía no termina ahí. Para encontrar un estampado capaz de confundir a la inteligencia artificial, Weckert recurrió precisamente a ella durante el desarrollo del diseño. Lo hizo mediante un proceso que denomina "bucle adversarial".

El método consistía en enfrentar sucesivas versiones del estampado al sistema de detección y utilizar su propia respuesta como guía para la siguiente modificación. Cada resultado servía para ajustar el diseño y seguir rebajando la confianza con la que el programa reconocía una figura humana.

El resultado no se quedó únicamente en la teoría. Weckert probó el resultado con YOLO, un sistema de detección de objetos de código abierto.

Con información de DW