Anthropic y el gobierno de EE. UU. están probando inteligencia artificial para filtrar secretos nucleares

La empresa de inteligencia artificial Anthropic está colaborando con el Departamento de Energía de EE. UU. para realizar pruebas únicas en su modelo Claude 3 Sonnet. El objetivo del experimento es probar la capacidad de la IA de “no compartir” información potencialmente peligrosa relacionada con la energía nuclear, en particular, la creación de armas.

Según supo la publicación axiosexpertos de la Administración Nacional de Seguridad Nuclear (NNSA) del Departamento de Energía de EE.UU. han estado probando el modelo Claude 3 Sonnet desde abril de este año para asegurarse de que no pueda utilizarse para crear armas atómicas. Durante las “solicitudes rojas”, los expertos manipulan el sistema, tratando de “romperlo”.

Anthropic dice que estas pruebas, que se llevan a cabo en un entorno ultrasecreto, son las primeras de su tipo y podrían allanar el camino para relaciones similares con otras agencias gubernamentales. “Mientras la industria estadounidense lidera el desarrollo de modelos avanzados de IA, el gobierno federal está adquiriendo la experiencia única necesaria para evaluar los sistemas de inteligencia artificial para riesgos específicos de seguridad nacional”.”, dijo la jefa de política de seguridad nacional de Anthropic, Marina Favaro.

Representantes NNSA También destacó la importancia de trabajar en esta dirección. Wendin Smith, administrador adjunto de la NNSA, dijo que AI es “una de las tecnologías clave que requiere atención constante en el contexto de la seguridad nacional”.

Anthropic planea continuar trabajando con el gobierno para desarrollar medidas de seguridad más sólidas para sus sistemas. El programa piloto, que también prueba el nuevo Claude 3.5 Sonnet, durará hasta febrero de 2024. La empresa promete compartir los resultados de las pruebas con laboratorios científicos y otras organizaciones.