Afp
San Francisco. La firma de inteligencia artificial Anthropic plantea un “riesgo inaceptable” para las cadenas de suministro militares, insistió el gobierno de Estados Unidos este martes al justificar su decisión de designarla como peligrosa para el país.
El modelo de IA Claude de Anthropic ha estado en el punto de mira en las últimas semanas tanto por su supuesto uso en la identificación de objetivos para bombardeos estadunidenses en Irán como por la negativa de la compañía a que sus sistemas se utilicen para impulsar la vigilancia masiva en Estados Unidos o sistemas de armas letales totalmente autónomos.
Para justificar su decisión de cortar lazos con Anthropic en respuesta a una demanda de la empresa, el Departamento de Guerra (DoW) estadunidese declaró que le preocupaba que “permitir que continuara accediendo a la infraestructura de combate técnico y operacional del DoW introduciría un riesgo inaceptable en las cadenas de suministro del DoW”, según un documento judicial al que tuvo acceso la Afp.
“Los sistemas de IA son especialmente vulnerables a la manipulación”, añadió el gobierno en la presentación ante un tribunal federal de California.
“Anthropic podría intentar desactivar su tecnología o alterar de forma preventiva el comportamiento de su modelo antes o durante operaciones bélicas en curso, si Anthropic —a su discreción— considera que se están traspasando sus ‘líneas rojas’ corporativas”, señaló.
