Canadá y Estados Unidos firman directrices internacionales para el desarrollo seguro de la IA

Dieciocho países, incluidos Canadá, Estados Unidos y el Reino Unido, acordaron hoy directrices recomendadas para los desarrolladores de sus países para el diseño, desarrollo, implementación y operación seguros de sistemas de inteligencia artificial.

Es la última de una serie de medidas de seguridad voluntarias que los países están instando a seguir a sus sectores público y privado para supervisar la IA en ausencia de legislación. A principios de este año, Ottawa y Washington anunciaron directrices similares para cada uno de sus países.

La publicación de las directrices se produce en un momento en que las empresas publican y adoptan sistemas de inteligencia artificial que pueden afectar la vida de las personas, sin legislación nacional.

El último documento, Directrices para el desarrollo seguro de sistemas de IAestá dirigido principalmente a proveedores de sistemas de inteligencia artificial que utilizan modelos alojados en una organización o utilizan interfaces de programación de aplicaciones (API) externas.

“Instamos a todas las partes interesadas (incluidos científicos de datos, desarrolladores, gerentes, tomadores de decisiones y propietarios de riesgos) a leer estas pautas para ayudarlos a tomar decisiones informadas sobre el diseño, desarrollo, implementación y operación de sus sistemas de IA”, dice el documento. introducción.

Las directrices siguen un enfoque de “seguridad por defecto” y están estrechamente alineadas con las prácticas definidas en la guía de desarrollo e implementación segura del Centro Nacional de Seguridad Cibernética del Reino Unido, el Marco de Desarrollo de Software Seguro del Instituto Nacional de Estándares y Tecnología de EE. UU. y los principios de seguridad por diseño publicados. por la Agencia de Seguridad de Infraestructura y Ciberseguridad de EE. UU. y otras agencias cibernéticas internacionales.

ellos priorizan
— apropiarse de los resultados de seguridad para los clientes;
— abrazar una transparencia y una rendición de cuentas radicales;
– y construir una estructura organizacional y un liderazgo tan seguros por diseño es una de las principales prioridades comerciales.

Brevemente

— para un diseño seguro de proyectos de IA, la directriz dice que los líderes corporativos y de TI deben comprender los riesgos y los modelos de amenazas, así como temas específicos y compensaciones a considerar en el diseño de sistemas y modelos;

— para un desarrollo seguro, se recomienda que las organizaciones comprendan la IA en el contexto de la seguridad de la cadena de suministro, la documentación y la gestión de activos y deuda técnica;

— para una implementación segura, existen recomendaciones que cubren la protección de la infraestructura y los modelos contra compromisos, amenazas o pérdidas, el desarrollo de procesos de gestión de incidentes y la liberación responsable;

— para la operación y el mantenimiento seguros de los sistemas de IA, existen recomendaciones de acciones como incluir el registro y el monitoreo, la gestión de actualizaciones y el intercambio de información.

Otros países que respaldan estas directrices son Australia, Chile, Chequia, Estonia, Francia, Alemania, Israel, Italia, Japón, Nueva Zelanda, Nigeria, Noruega, Polonia, Corea del Sur y Singapur.

Mientras tanto, en Canadá, el Comité de Industria de la Cámara de los Comunes reanudará las audiencias el martes sobre el proyecto de ley. C-27, que incluye no sólo una revisión de la legislación federal de privacidad existente, sino también un nuevo proyecto de ley sobre IA.. Hasta ahora, la mayoría de los testigos se han centrado en la propuesta Ley de Protección de la Privacidad del Consumidor (CPPA). Pero varios testigos dicen que la propuesta Ley de Datos e Inteligencia Artificial (AIDA) aborda tantas cuestiones complejas que debería separarse del C-27. Otros argumentan que el proyecto de ley es lo suficientemente bueno por el momento.

El Gobierno todavía no ha presentado el texto completo de las enmiendas que está dispuesto a introducir a AIDA y CPPA para aclarar los proyectos de ley.

AIDA regulará lo que el gobierno llama “sistemas de alto impacto”, como los sistemas de inteligencia artificial que toman decisiones sobre solicitudes de préstamos o sobre el empleo de un individuo. El gobierno dice que AIDA dejará en claro que quienes desarrollen un modelo de aprendizaje automático destinado a un uso de alto impacto deben garantizar que se tomen las medidas adecuadas de protección de datos antes de que salga al mercado.

Además, el proyecto de ley aclarará que los desarrolladores de sistemas de inteligencia artificial de uso general como ChatGPT tendrían que establecer medidas para evaluar y mitigar los riesgos de resultados sesgados antes de poner en marcha el sistema. Los administradores de sistemas de propósito general tendrían que monitorear cualquier uso del sistema que pudiera resultar en un riesgo de daño o resultados sesgados.

Mientras tanto, la Unión Europea se encuentra en las últimas etapas para finalizar la redacción de su Ley de IA, que sería la primera del mundo. Según una noticialo ideal sería que esto se solucionara en febrero de 2024. Sin embargo, existen desacuerdos sobre cómo deberían regularse los modelos básicos como ChatGPT.