Un video que circuló en varios grupos de WhatsApp mostraba a una joven con cabello corto, camiseta negra y short rojo grabando con su celular. Sin embargo, los comentarios afirmaban que estaba usando gas pimienta contra inmigrantes marroquíes. En esa ola de desinformación, una inteligencia artificial identificó erróneamente a Flavia como la protagonista del video, provocando la difusión de datos falsos sobre ella.
Broffoni relata: “Me mandan una captura de pantalla de la búsqueda que se hizo con el recorte del rostro del video. La inteligencia artificial de Google responde que soy yo, con una descripción sobre mi trayectoria”. Agrega que se enlistaba su nombre, asociando su imagen a publicaciones en Instagram de influencers.
La situación rápidamente escaló, generando comentarios violentos: “Habría que aplicarle justicia exprés”, “Al paredón”, “Tirarla a Marruecos”, entre otras amenazas. Mientras eso sucedía, Flavia estaba en Epuyén, Chubut, y se dio cuenta de que la distancia probablemente le salvó la vida. En su investigación del video, encontró comentarios muy agresivos, que incitaban a la violencia hacia alguien a quien creían que era ella.
Con un creciente número de mensajes preguntándole si estaba en Ceuta, finalmente, una persona precisó que la mujer del video no era Flavia. “En ese momento, borraron mi nombre, pero mantuvieron la referencia a que era una activista argentina, algo que tampoco fue verificado”, explica.
Broffoni considera que esto es parte de una estrategia para exacerbar la violencia en un contexto ya complicado. Confiesa que inicialmente no comprendía por qué la inteligencia artificial había asociado su nombre al video, dado que la persona que filmaba era más joven, y cuestiona la legalidad de su identificación. Su actividad como activista tiene un impacto en su exposición a riesgos derivados de interpretaciones erróneas por parte de la tecnología.
Luego de hablar con expertos en tecnología, comprendió que “la inteligencia artificial no debe proporcionar identidades de personas”. Sin embargo, algunos realizaron pruebas y confirmaron que la IA lo hace, lo cual permite que se viralicen noticias falsas. Una verificación hecha por otro medio mostró que al buscar con imágenes, aparecieron otros nombres asociados.
En respuesta a estas situaciones, las declaraciones de Google indicaron que no podían validar comentarios o capturas de pantalla de consultas sin un enlace directo, lo que impide corroborar su autenticidad. Además, subrayaron que la información sobre la imagen corresponde a funciones generales del buscador y no a su aplicación Gemini. Invitan a los usuarios a reportar resultados inexactos a través de un formulario.
Este incidente ha suscitado un debate en Argentina sobre las implicaciones de la identificación errónea por parte de la inteligencia artificial y las amenazas que pueden desencadenarse. Marina Benítez Demtschenko, abogada de Broffoni, enfatiza la necesidad de revisar la legislación sobre la protección de datos personales, ley que data del año 2000.
”Es un caso muy serio porque revela riesgos concretos. Si Flavia hubiera estado allí, su vida podría haber estado en peligro”, afirma. Añade que la ley 25.326 no contempla los desafíos actuales relacionados con el uso de datos personales por parte de modelos de inteligencia artificial.
La discusión sobre la responsabilidad de los intermediarios de Internet ha cobrado relevancia en el país, pero un proyecto de ley que se presentó en el Congreso se detuvo antes de ser tratado. Benítez Demtschenko concluye que la falta de avance se debe al lobby de empresas que buscan controlar la información de la población y a una ciudadanía que minimiza los riesgos implicados.
