Grok pone los límites de la IA al desnudo

Tras los recientes casos de investigación al asistente de Inteligencia Artificial (IA) Grok (propiedad de la red social X) en países como Indonesia, Malasia y este lunes en Reino Unido, se pone nuevamente sobre la mesa el uso y límites de la IA.

En este caso se trata de la utilización de fotografías o vídeos de particulares que, sin su consentimiento, se le proporcionan a Grok para que genere desnudos explícitos con ellas. Según Genevieve Oh, investigadora de redes sociales y deep fakes, se estima que se generan más de 5 mil de este tipo de imágenes por hora a través de este chatbot. De estos casos, 8 de cada 10 imágenes de desnudo son mujeres.

"Se han recibido informes muy preocupantes sobre el uso" de Grok en X "para crear y compartir imágenes de personas desnudas, lo que podría constituir una ofensa a la decencia o pornografía, así como imágenes de carácter sexual de niños, que podrían constituir material pedopornográfico", indicó el regulador británico de la seguridad en internet, Ofcom en un comunicado.

Te puede interesar:NASA prevé evacuación médica de astronautas de la EEI el 14 de enero

En respuesta a esta polémica, el dueño de la red social X, Elon Musk, posteó: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal”.

Aunque la única acción real hasta ahora haya sido la desactivación de la función de creación de imágenes en Grok para usuarios no suscritos, teniendo en cuenta que el Plan Premium tiene un costo de 8 dólares mensuales.

AFP recogió que un portavoz del primer ministro británico, Keir Starmer, señaló que dicha medida “simplemente convierte una función que permite la creación de imágenes ilegales en un servicio premium" y constituye "un insulto a las víctimas de misoginia y violencia sexual”.

Pero mientras que el Reino Unido comienza a investigar si X ha incumplido sus “obligaciones legales” y "evaluar el riesgo de que personas en Reino Unido accedan a contenidos ilegales", países como Malasia e Indonesia van un paso más allá bloqueando el acceso a Grok.

La Comisión de Comunicaciones y Multimedia de Malasia declaró en un comunicado que “esta medida se produce tras el uso indebido reiterado de Grok para generar imágenes manipuladas obscenas, sexualmente explícitas, indecentes, groseramente ofensivas y no consensuadas".

Mientras que la ministra de Comunicación y Digitalización de Indonesia, Meutya Hafid, dijo en un comunicado que la medida de suspender temporalmente Grok en el país se debe "para proteger a las mujeres, los niños y al público frente a los riesgos de contenidos pornográficos falsos generados mediante tecnología de inteligencia artificial, el gobierno bloqueó temporalmente el acceso a la aplicación Grok".

Vea también: Joven enfrenta juicio en Alemania por manipulación de adolescentes por internet

En este punto es importante resaltar que la propia empresa ha reconocido de forma indirecta, a través de un posteo en X, que Grok se ha utilizado para también generar contenido sexual de menores de edad.

Por su parte, Japón anunció que si los usuarios de la red social X crean o publican contenido ilegal utilizando el chatbot Grok, congelarán permanentemente la cuenta y colaborarán con la policía para tomar medidas.

Pero la polémica no solo se desenvuelve alrededor del desnudo, un creciente grupo de usuarios le está pidiendo a dicha IA que le quite o le ponga vestimenta a mujeres y niñas como un sari, un hiyab, un burka, un hábito u otras vestimentas religiosas, así como vestimentas de colegialas japonesas.