Meta criticada desde dentro por sus 'insuficientes' salvaguardas ante contenido manipulado por IA

Meta anunció el jueves que eliminó videos generados con inteligencia artificial contra dos mujeres, incluida una política británica, después de que el Consejo de Supervisión del gigante tecnológico considerara "insuficientes" las salvaguardas de la compañía frente a contenido manipulado por IA.

Este consejo, un órgano cuasiindependiente financiado por Meta, señaló que estos casos contravenían las propias normas de la compañía sobre incitación al odio, desinformación y acoso.

El primer vídeo muestra a una concejala del Partido Laborista en Escocia haciendo comentarios incendiarios sobre los refugiados. No existe ningún registro público de esos comentarios, y ciertos detalles del video indican que ha sido manipulado, en particular la falta de sincronización labial.

El segundo video busca desacreditar a una activista musulmana y su labor como educadora en salud: la muestra consumiendo alimentos ultraprocesados mientras da consejos dietéticos y realiza ejercicios absurdos.

El Consejo de Supervisión argumentó que las normas de Meta eran "sistemáticas y principalmente insuficientes" para abordar el flujo constante de contenido generado por IA en sus plataformas, como Facebook e Instagram.

"Estos casos ilustran un patrón más amplio y preocupante en el que las mujeres que se pronuncian públicamente sobre temas sociales son blanco desproporcionado de acoso y desinformación", declaró la copresidenta del consejo, Pamela San Martín.

La empresa matriz de Facebook anunció que acataría la decisión en un plazo de siete días. Meta está obligada a seguir las decisiones del Consejo de Supervisión, pero no sus recomendaciones.

"Meta, al igual que otras plataformas de redes sociales, necesita normas sólidas para abordar la proliferación de deepfakes (imágenes, vídeos o audios manipulados con IA para aparecer de forma realista algo que no ocurrió)", insistió San Martín.

Entre estas normas se mencionó "una postura mucho más estricta respecto al etiquetado de contenidos engañosos, sanciones más severas para los reincidentes y la eliminación de los deepfakes destinados a acosar a personas".

La semana pasada, el Consejo de Supervisión recomendó que Meta no sustituyera su servicio profesional de verificación de datos por notas de la comunidad, un sistema participativo popularizado por X, la plataforma del multimillonario Elon Musk.

Esta recomendación se produjo después de que Meta anunciara que había comenzado a probar las notas de la comunidad en 16 países hispanohablantes de Latinoamérica.

La AFP actualmente trabaja en 26 idiomas con el programa global de verificación de datos de Meta, América Latina incluida.