Buenos Aires (AT) – A principios de este mes, un tribunal alemán dictaminó que el partido nacionalista de extrema derecha Alternativa para Alemania (AfD), es potencialmente “extremista” y podría justificar la vigilancia por parte del aparato de inteligencia del país.
Sin embargo, según un nuevo informe de la organización de defensa sin fines de lucro Ekō, compartido exclusivamente con WIRED, se permitió que los anuncios de campaña colocados por la AfD aparezcan en Facebook e Instagram. Los investigadores encontraron 23 anuncios del partido que acumularon 472.000 vistas en Facebook e Instagram y que parecen violar las propias políticas de Meta sobre el discurso de odio.
Los anuncios impulsan la narrativa de que los inmigrantes son peligrosos y una carga para el estado alemán, de cara a las elecciones de la Unión Europea en junio.
Un anuncio colocado por el político de la AfD Gereon Bollmann afirma que Alemania ve “una explosión de violencia sexual” desde 2015, culpando específicamente a los inmigrantes de Turquía, Siria, Afganistán e Irak. El anuncio fue visto por entre 10.000 y 15.000 personas en solo cuatro días, entre el 16 y el 20 de marzo. Otro anuncio, con más de 60.000 vistas, presenta a un hombre de color tumbado en una hamaca. El texto superpuesto dice: “AfD revela: 686.000 extranjeros ilegales viven a nuestras expensas”.
Ekō también pudo identificar al menos tres anuncios que parecen haber utilizado inteligencia artificial generativa para manipular imágenes, aunque solo uno se publicó después de que Meta implementara su política de medios manipulados. Uno muestra a una mujer blanca con lesiones visibles, con un texto adjunto que dice “la conexión entre la migración y el crimen ha sido negada durante años”.
“Meta, y de hecho otras empresas, tienen una capacidad muy limitada para detectar herramientas de terceros que generan imágenes con IA”, dice Vicky Wyatt, directora senior de campañas en Ekō. “Cuando los partidos extremistas usan esas herramientas con sus anuncios, pueden crear imágenes increíblemente emotivas que realmente pueden conmover a las personas. Así que es increíblemente preocupante”.
La respuesta de Meta
En su presentación a la consulta de la Comisión Europea sobre las directrices electorales, obtenida mediante una solicitud de libertad de información realizada por Ekō, Meta dice “aún no es posible para los proveedores identificar todo el contenido generado por IA, particularmente cuando los actores toman medidas para evitar la detección, incluyendo la eliminación de marcadores invisibles”.
Las propias políticas de Meta prohíben los anuncios que “afirmen que las personas son amenazas para la seguridad, la salud o la supervivencia de otras personas basándose en sus características personales” y los anuncios que “incluyan generalizaciones que indiquen inferioridad, otras declaraciones de inferioridad, expresiones de desprecio, expresiones de desdén, expresiones de disgusto o maldiciones basadas en el estatus migratorio”.
“No permitimos el discurso de odio en nuestras plataformas y tenemos Normas Comunitarias que se aplican a todo el contenido, incluidos los anuncios”, dice Daniel Roberts, portavoz de Meta. “Nuestro proceso de revisión de anuncios tiene varias capas de análisis y detección, tanto antes como después de que un anuncio se publique, y este sistema es uno de los muchos que tenemos en marcha para proteger las elecciones europeas”. Roberts dijo a WIRED que la compañía planea revisar los anuncios señalados por Ekō, pero no respondió a preguntas sobre si la designación del tribunal alemán de la AfD como potencialmente extremista invitaría a un escrutinio adicional por parte de Meta.
Los anuncios dirigidos, dice Wyatt, pueden ser poderosos porque los grupos extremistas pueden dirigirse de manera más efectiva a las personas que podrían simpatizar con sus puntos de vista y “usar la biblioteca de anuncios de Meta para alcanzarlos”. Wyatt también dice que esto permite al grupo probar qué mensajes son más propensos a resonar con los votantes.
Hacé tu comentario