Trabajadores de Google piden que el Pentágono no use su IA para trabajos clasificados

Más de 600 empleados de Google pidieron el lunes que la compañía rechace un acuerdo propuesto con el Pentágono que permitiría que su tecnología de inteligencia artificial se utilice en operaciones militares clasificadas, según un comunicado.

La carta, dirigida al director ejecutivo de Google, Sundar Pichai, llega en momentos en el que el gigante tecnológico está en conversaciones con el Departamento de Defensa para implementar su modelo insignia de IA, Gemini, para trabajos clasificados.

"Los trabajos clasificados son, por definición, opacos", dijo en el comunicado un empleado organizador que no fue identificado.

"Ahora mismo, no hay manera de garantizar que nuestras herramientas no se utilicen para causar daños terribles o erosionar las libertades civiles lejos del escrutinio público. Estamos hablando de cosas como perfilar a personas o apuntar contra civiles inocentes", agregó.

Google no respondió de inmediato a una solicitud de comentarios.

Más de 20 directores, directores sénior y vicepresidentes están entre los firmantes.

El gigante tecnológico es una de las compañías que compiten por llenar el vacío que dejó Anthropic para ser el próximo proveedor de IA del gobierno en trabajos clasificados y no clasificados.

Google ya tiene un contrato con el Pentágono para trabajos no clasificados a través de un programa conocido como genAI.mil.

Anthropic demandó al Pentágono por su designación como "riesgo para la cadena de suministro", después de que la compañía solicitara que su tecnología no se utilizara para la vigilancia masiva en Estados Unidos ni para una guerra automatizada.

Según la misiva, Google ha propuesto un lenguaje contractual que evitaría que Gemini sea usado con multas de vigilancia doméstica masiva o el desarrollo de armas autónomas sin que tengan un control humano apropiado.

El Pentágono, sin embargo, ha presionado para que se utilice una redacción amplia de "todos los usos legales", que, dice, es necesaria para mantener la flexibilidad operativa.

Los empleados dicen que las salvaguardias propuestas son técnicamente inaplicables y señalan la política del Pentágono que prohíbe que entidades externas impongan controles sobre sus sistemas de IA.

"Si la dirección realmente se toma en serio la prevención de daños futuros, debe rechazar por completo, por ahora, las cargas de trabajo clasificadas", dijo un segundo firmante de la carta.