Simon Weckert: El acto de rebeldía de un artista en contra de la Inteligencia Artificial

El artista Simon Weckert se describe así mismo cómo un “mago digital y un pensador de espíritu juguetón”. En un mundo cada día más volcado hacia lo digital, para Weckert el código y los circuitos no son solo herramientas, más bien, prefiere entenderlos cómo “comentarios irónicos” pues, su trabajo combina la tecnología con el arte y de manera fundamental, con la crítica social.

Cada día se intensifica la pregunta alrededor del poder de la Inteligencia Artificial y la tecnología, por sus beneficios y recientemente, cada vez más por sus consecuencias. La Inteligencia Artificial y sus implicaciones éticas, sus efectos sobre la forma en que trabajamos, pensamos y nos relacionamos, y sobre todo, la pregunta por su regulación y vigilancia, son algunos de los temas más debatidos en la actualidad.

Frente a esto, la obra de Weckert apunta a poder resaltar estos dilemas complejos que muchas veces se esconden detrás de decisiones que ya se aceptan como inevitables, todo a través de formas que logren cuestionar a las personas, hacerlas pensar, pero también, reír.

Lea también: La IA no es ni Artificial ni Inteligente: combatir sesgos para no comer cuento

Su más reciente obra: el diseño de una camisa que a simple vista parece una prenda de vestir con un estampado abstracto, “casi hipnótico” con colores fuertes. En realidad se trata de un “ataque adversario” en contra de sistemas de visión computacional que escanean el espacio público.

Un debate internacional

Los sistemas de vigilancia automatizada utilizan inteligencia artificial, aprendizaje automático y analítica avanzada para analizar video. Al contrario de los sistemas de vigilancia con cámaras tradicionales, que son pasivos y se utilizan a la par de supervisión humana, en la vigilancia automatizada, el sistema funciona cómo un “escáner de comportamiento”. Se trata de softwares activos que están diseñados para poder identificar patrones de comportamiento específicos. Su uso en el espacio público es una realidad en diferentes países del mundo y a menudo son utilizados para identificar comportamientos que posteriormente son calificados cómo “normales” o “sospechosos”.

Para el escáner, no solo es posible identificar personas en el espacio público, más bien, los elementos presentes, como los carros y sus placas e incluso las mismas personas, se convierten en bancos de información andantes que permiten alimentar el software con dichos patrones de comportamiento y con información personal.

Le puede interesar: Ingeniero de Anthropic renunció porque su compañía y OpenAI juegan “con nuestras vidas”

En Estados Unidos, se ha implementado vigilancia automatizada con Inteligencia Artificial en diferentes estados y el debate es amplio. Aunque para muchos las cámaras contribuyen a la seguridad en las calles, muchos otros denuncian que nunca han consentido el tratamiento de datos y es poca la regulación que existe respecto a la transparencia que las diferentes empresas deben en cuanto a la información recopilada. Esta alimenta bases de datos de la policía y agencias federales que después pueden ser revisadas sin necesidad de una orden judicial.

Según la investigación de Wecker, el 2026 se ha convertido en uno de respuestas tajantes:

“docenas de comunidades han votado a favor de cancelar los contratos de cámaras, organizaciones de derechos civiles están haciendo campañas para desmantelar las redes y la pregunta por quién tiene autorización para leer el espacio público ha entrado al debate”.

El artista comenta que la idea de diseñar una camisa de “ataque adversario” nace cómo respuesta directa a la decisión de empezar a implementar este tipo de vigilancia en el espacio público de la ciudad de Berlín donde reside. Se trata de la zona de Kottbusser Tor, que ya implementa cámaras legalmente autorizadas para filmar la actividad en el espacio público sin una causa específica.

Esta zona es solo la primera dentro de tres próximas que se contemplan para la instalación en Berlín y el artista advierte que años de investigación sugieren que las cámaras rara vez previenen el crimen, más bien lo desplazan a la siguiente calle, o producen un sentimiento de seguridad más que seguridad en sí misma. A su parecer, una cámara no puede intervenir, pero si le enseña a quienes habitan el espacio a no hacerlo, la institucionalidad siempre está vigilando, así que nadie más tiene que hacerlo.

Lea también: ICETEX ofrece becas del 100% para estudiar inteligencia artificial en el exterior: así puede aplicar

Además, bajo dicha premisa de seguridad, el artista advierte que para poder diferenciar un puño o algún tipo de comportamiento agresivo, el sistema necesita poder registrar otras acciones que sirvan a modo de comparación, un abrazo, bailar, sonreír.

Así las cosas “todo el mundo es leído, todo el tiempo.”

La camisa que cuestiona el sistema: ¿Cómo funciona?

“Camuflaje digital” se trata de una camisa, una prenda de vestir diseñada para “engañar” los sistemas de visión computacional. El textil está diseñado para poder confundir la tecnología que opera con algoritmos de reconocimiento de objetos, permitiendo entonces que quien la use no pueda ser escaneado por las cámaras en el espacio público.

Ampliar

Cerrar

El patrón de la camisa está diseñado con lo que es conocido cómo “ataque adversario” que no es más que una alteración intencional en los datos que obliga al modelo de inteligencia artificial a cometer errores en la clasificación de la información. Wecker explica, “se manipulan los datos visuales para que la máquina falle en interpretar lo que tiene enfrente. Puesta sobre el cuerpo, se centra en los rasgos que los detectores buscan al intentar identificar una figura humana.” El patrón fue desarrollado y probado para funcionar en contra de los sistemas de detección de objetos YOLO (You Only Look Once), parte de la familia de modelos que utilizan la mayoría de los sistemas comerciales actuales de análisis de video.

Wecker específica que el funcionamiento de su diseño fue probado específicamente en la zona de Kottbusser Tor en Berlín, pero sus resultados óptimos dependen del modelo específico que utilicen las cámaras, la distancia en la que aparece la imagen, el ángulo y la luz de cada lugar.

Le puede interesar: Estudiantes colombianos, los que más usan inteligencia artificial en América Latina

No es posible verificar si cualquier sistema aprobado legalmente y dispuesto en el espacio público reacciona de la misma manera pero es justo esa opacidad en el resultado la que resalta lo que el artista busca exponer:

“las ciudades despliegan sistemas que no pueden someterse a pruebas independientes, mientras que un factor determinante para esta tecnología queda anulado por una simple pieza de tela. ”

Lejos de querer presentar un acto de evasión policial, Wecker reitera que su obra le permite llamar la atención sobre asuntos que muchas veces pasan desapercibidos en la cotidianidad de maneras llamativas. “Camuflaje Digital” es un proyecto que no hace una promesa de anonimato, más bien busca invitar a la ciudadanía y a la comunidad internacional a cuestionarse y a llegar a sus propias conclusiones pues, “si los sistemas que no pueden someterse a pruebas públicas pueden quedar deshabilitados por una simple pieza de tela,

¿Cuánta confianza deberíamos depositar en ellos antes de cederles el espacio público, ya sea en Berlín o en cualquier parte del mundo?”

La camisa está disponible a la venta a través de la página oficial del proyecto bajo la idea de “visible para cada ojo humano, ausente ante el modelo” El mensaje es claro: el proyecto busca ser “una señal visible en el espacio de que ser leído por máquinas no es algo a lo que todo el mundo quiere entregar su consentimiento”.