Lo que necesita saber sobre la amplia orden de IA de Biden

El mundo ha estado esperando que Estados Unidos actúe en conjunto para regular la inteligencia artificial, particularmente porque es el hogar de muchas de las compañías poderosas que traspasan los límites de lo que es aceptable. Hoy, el presidente estadounidense Joe Biden emitió un orden ejecutiva sobre IA que muchos expertos consideran un importante paso adelante.

“Creo que la Casa Blanca ha hecho un trabajo realmente bueno y realmente integral”, dice Lee Tiedrich, que estudia la política de IA como miembro distinguido de la facultad de la Iniciativa para la Ciencia y la Sociedad de la Universidad de Duke. Ella dice que es un paquete “creativo” de iniciativas que funciona dentro del alcance del poder ejecutivo del gobierno, reconociendo que no puede promulgar legislación (ese es el trabajo del Congreso) ni establecer reglas directamente (eso es lo que hacen las agencias federales). Tiedrich dice: “Usaron una interesante combinación de técnicas para crear algo que, personalmente, soy optimista, moverá el dial en la dirección correcta”.

Esta acción estadounidense se basa en medidas anteriores de la Casa Blanca: una “Plan para una Declaración de Derechos de la IA“ que estableció principios no vinculantes para la regulación de la IA en octubre de 2022 y compromisos voluntarios sobre la gestión de riesgos de la IA de 15 empresas líderes en IA en Julio y Septiembre.

Y viene en el contexto de grandes Esfuerzos regulatorios en todo el mundo.. La Unión Europea es actualmente finalizando es Ley de IA, y se espera que adopte la legislación este año o principios del próximo; esa ley prohíbe ciertas aplicaciones de IA que se consideran que tienen riesgos inaceptables y establece la supervisión de aplicaciones de alto riesgo. Mientras tanto, China ha redactado y adoptado rápidamente varias leyes sobre sistemas de recomendación de IA y IA generativa. Otros esfuerzos están en marcha en países como Canadá, Brasil y Japón.

¿Qué hay en la orden ejecutiva sobre IA?

La orden ejecutiva aborda muchas cosas. Hasta ahora, la Casa Blanca sólo ha publicado una hoja informativa sobre la orden, y el texto final se publicará pronto. Esa hoja informativa comienza con iniciativas relacionadas con la seguridad y la protección, como una disposición según la cual el Instituto Nacional de Estándares y Tecnología (NIST) propondrá “estándares rigurosos para una amplia pruebas del equipo rojo para garantizar la seguridad antes de su publicación pública”. Otro afirma que las empresas deben notificar al gobierno si están capacitando a un modelo de cimentacion eso podría plantear riesgos graves y compartir los resultados de las pruebas del equipo rojo.

La orden también analiza los derechos civiles y establece que el gobierno federal debe establecer pautas y capacitación para prevenir el sesgo algorítmico, el fenómeno en el que el uso de herramientas de inteligencia artificial en los sistemas de toma de decisiones exacerba la discriminación. Profesor de informática de la Universidad de Brown Suresh Venkatasubramanian, coautor del Plan 2022 para una Declaración de Derechos de la IA, califica la orden ejecutiva como “un gran esfuerzo” y dice que se basa en el Plan, que enmarcaba la gobernanza de la IA como una cuestión de derechos civiles. Sin embargo, está ansioso por ver el texto final de la orden. “Si bien se han dado buenos pasos para obtener información sobre el uso de la IA por parte de las fuerzas del orden, espero que haya una regulación más estricta de su uso en los detalles del proceso”. [executive order],” él dice Espectro IEEE. “Esto parece una brecha potencial”.

Otro experto que espera detalles es Cynthia Rudin, profesor de informática de la Universidad de Duke que trabaja en sistemas de inteligencia artificial transparentes e interpretables. Le preocupa la tecnología de inteligencia artificial que utiliza datos biométricos, como reconocimiento facial sistemas. Si bien califica la orden de “grande y audaz”, dice que no está claro si las disposiciones que mencionan la privacidad se aplican a la biometría. “Me hubiera gustado que hubieran mencionado explícitamente las tecnologías biométricas para saber dónde encajan o si están incluidas”, dice Rudin.

Si bien las disposiciones de privacidad incluyen algunas directivas para que las agencias federales fortalezcan sus requisitos de privacidad y apoyen técnicas de capacitación en inteligencia artificial para preservar la privacidad, también incluyen un llamado a la acción por parte del Congreso. El presidente Biden “pide al Congreso que apruebe una legislación bipartidista sobre privacidad de datos para proteger a todos los estadounidenses, especialmente a los niños”, afirma la orden. Si dicha legislación sería parte de la legislación relacionada con la IA que El senador Chuck Schumer está trabajando en Queda por ver.

Próximamente: ¿Marcas de agua para medios sintéticos?

Otro tema candente en estos días de IA generativa que puede producir texto, imágenes y audio realistas a pedido es cómo ayudar a las personas a comprender qué es real y qué es real. medios sintéticos. La orden instruye al Departamento de Comercio de EE. UU. a “desarrollar una guía para la autenticación de contenido y la marca de agua para etiquetar claramente el contenido generado por IA”. Lo cual suena genial. Pero Rudin señala que si bien se ha realizado una investigación considerable sobre cómo poner marcas de agua profundo imágenes y videos, no está claro “cómo se pueden hacer marcas de agua en deepfakes que involucran texto”. Se muestra escéptica respecto de que las marcas de agua tengan mucho efecto, pero dice que si otras disposiciones de la orden obligan a las empresas de redes sociales a revelar los efectos de sus algoritmos de recomendación y el alcance de la desinformación que circula en sus plataformas, eso podría causar suficiente indignación como para forzar un cambio. .

Susan Ariel Aaronson, profesor de asuntos internacionales en la Universidad George Washington que trabaja en gobernanza de datos e inteligencia artificial, califica la orden como “un gran comienzo”. Sin embargo, le preocupa que la orden no vaya lo suficientemente lejos en el establecimiento de reglas de gobernanza para los conjuntos de datos que las empresas de IA utilizan para entrenar sus sistemas. También busca un enfoque más definido para gobernar la IA, y dice que la situación actual es “un mosaico de principios, reglas y estándares que no se comprenden ni se obtienen bien”. Ella espera que el gobierno “continue sus esfuerzos para encontrar puntos en común en estas numerosas iniciativas mientras esperamos la acción del Congreso”.

Si bien algunas audiencias del Congreso sobre IA se han centrado en la posibilidad de crear una nueva agencia federal reguladora de IA, la orden ejecutiva de hoy sugiere un rumbo diferente. Tiedrich, de Duke, dice que le gusta este enfoque de repartir la responsabilidad de la gobernanza de la IA entre muchas agencias federales, asignando a cada una la tarea de supervisar la IA en sus áreas de especialización. Las definiciones de IA “segura” y “responsable” serán diferentes de una aplicación a otra, afirma. “Por ejemplo, cuando defines la seguridad de un vehículo autónomo, obtendrás un conjunto de parámetros diferente al que obtendrías cuando hablas de permitir que un dispositivo médico habilitado para IA entre en un entorno clínico, o usar una IA”. herramienta en el sistema judicial donde podría negar los derechos de las personas”.

El pedido llega apenas unos días antes del del Reino Unido. Cumbre de seguridad de IAuna importante reunión internacional de funcionarios gubernamentales y ejecutivos de IA para discutir los riesgos de la IA relacionados con el uso indebido y pérdida de control. La vicepresidenta estadounidense, Kamala Harris, representará a Estados Unidos en la cumbre y dejará un punto alto y claro: después de un poco de espera, Estados Unidos está apareciendo.