Líderes mundiales acuerdan lanzar una red de institutos de seguridad

La red internacional se acordó durante la Cumbre de Seguridad de la IA en Seúl, Corea del Sur, durante la cual los líderes mundiales se reunieron virtualmente.

El presidente surcoreano, Yoon Suk Yeol, copresidió la Cumbre de Seúl sobre IA a través de videoconferencia con el primer ministro británico, Rishi Sunak, y adoptó la Declaración de Seúl para enfatizar la seguridad, la innovación y la inclusión de la inteligencia artificial (IA), el 21 de mayo de 2024.

Los líderes de los países firmaron la Declaración de Seúl más amplia durante esta conferencia, que declara la importancia de una “cooperación internacional mejorada” para desarrollar una IA confiable y centrada en el ser humano.

Reunirá a científicos de instituciones respaldadas por el público, como el Instituto de Seguridad de IA del Reino Unido, para compartir información sobre los riesgos, capacidades y limitaciones de los modelos de IA.

El presidente Yoon propuso los tres valores principales de la IA: “La República de Corea impulsará el establecimiento de un centro de investigación de seguridad de la IA en Corea y se unirá a una red para impulsar la seguridad global de la IA”. Añadió: “Estoy muy contento de ser anfitrión de la Cumbre de IA en Seúl, que ampliará el alcance del debate a la innovación y la inclusión, después de que la cumbre inaugural en Bletchley Park del Reino Unido en noviembre del año pasado discutiera la seguridad de la IA”.

Yoon dijo: “La Cumbre de IA ofrecerá una oportunidad para consolidar nuestros esfuerzos y promover los estándares y la gobernanza de la IA a nivel global. Debemos garantizar la seguridad de la IA minimizando cualquier efecto negativo que la IA pueda tener y evitar daños a la democracia”.

“Doy la bienvenida a los esfuerzos de países clave como el Reino Unido y Estados Unidos para lanzar grupos de expertos sobre seguridad de la IA. Este tipo de innovación en IA proporcionará un nuevo impulso de crecimiento para la economía global y ayudará en gran medida a la resolución de desafíos globales como la contaminación ambiental”. Yoon dijo: “También es importante garantizar la inclusión de la IA para que todos, independientemente de su residencia o ingresos, puedan beneficiarse de la IA”.

El Primer Ministro del Reino Unido, Rishi Sunak, dijo: “La IA es una tecnología tremendamente interesante, pero para obtener ventajas, debemos garantizar que sea segura” y añadió: “Por eso estoy encantado de que hoy hayamos llegado a un acuerdo para una red de IA”. Institutos”.

Ursula von der Leyen, presidenta de la Comisión Europea, dijo en la Cumbre de Seguridad de la IA del año pasado que la oficina de IA tendría y debería tener una “vocación global” para poder “cooperar con entidades similares en todo el mundo”.

En la sesión de líderes de la cumbre, los jefes de estado asistentes adoptaron la declaración y su anexo Declaración de Intención de Seúl hacia la Cooperación Internacional en Ciencia de Seguridad de la IA.

A la sesión asistieron líderes de los países miembros del Grupo de los Siete, como la vicepresidenta estadounidense Kamala Devi Harris, el primer ministro canadiense Justin Trudeau y el canciller alemán Olaf Scholz, así como el primer ministro de Singapur, Lawrence Wong. También estuvieron la vicepresidenta de la Comisión Europea, Vera Jourovaj, y los jefes de otras organizaciones internacionales como las Naciones Unidas y la Organización para la Cooperación y el Desarrollo Económico.

En la Cumbre de Seguridad de la IA, 16 de las empresas tecnológicas más grandes del mundo, incluidas Open AI, Mistral, Amazon, Anthropic, Google, Meta, Microsoft e IBM, acuerdan una serie de compromisos de seguridad. También participaron la parte coreana, Samsung Electronics y el portal web coreano Naver.

La declaración de Seúl dijo que los líderes mundiales participantes “afirman nuestra dedicación común para fomentar la cooperación internacional y el diálogo sobre la inteligencia artificial (IA) frente a sus avances sin precedentes y el impacto en nuestras economías y sociedades”.

La declaración decía: “Apoyamos los esfuerzos existentes y en curso de los participantes en esta Declaración para crear o ampliar institutos de seguridad, programas de investigación y/u otras instituciones relevantes, incluidos los órganos de supervisión, y nos esforzamos por promover la cooperación en la investigación de seguridad y compartir las mejores prácticas fomentando redes entre estas organizaciones”, añadió.

“Reconociendo el valor de los diálogos de la Cumbre de Al como un foro de alto nivel para avanzar en la discusión sobre la gobernanza de Al que facilita la seguridad, la innovación y la inclusión de Al, esperamos con ansias nuestra tercera reunión en la próxima Cumbre de Acción de IA que se celebrará en Francia”.