Rishi Sunak pide atención mundial al riesgo de extinción relacionado con la IA, citando crecientes preocupaciones de seguridad

En un importante discurso en la Royal Society, el Primer Ministro Rishi Sunak enfatizó la urgente necesidad de que el mundo dé prioridad a la mitigación del riesgo de extinción humana debido a inteligencia artificial (AI).

La afirmación de Sunak es paralela a la prioridad global asignada a las pandemias y la guerra nuclear y refleja la creciente preocupación por las implicaciones de seguridad de la tecnología de inteligencia artificial.

El último análisis del gobierno del Reino Unido advierte que la IA plantea importantes riesgos de seguridad para el Reino Unido en los próximos dos años y tiene el potencial de mejorar las capacidades de varios actores de amenazas, incluidas las organizaciones terroristas.

El informe publicado por la Oficina Gubernamental para la Ciencia destaca cómo la IA podría reforzar significativamente las capacidades de los grupos terroristas, permitiéndoles mejorar sus esfuerzos de propaganda, desarrollar armas biológicas y planificar ataques de manera más eficiente.

Esta revelación se produce mientras el Primer Ministro Sunak pronunciaba un discurso sobre el “impresionante” ritmo de cambio provocado por la IA. Subrayó que el impacto transformador de la IA podría tener un alcance tan amplio como el de revoluciones históricas como la Revolución Industrial, la llegada de la electricidad e Internet.

Sunak argumentó que la amenaza de extinción humana que plantea la IA debería tratarse a la par de los riesgos asociados con las pandemias y la guerra nuclear, haciéndose eco de los sentimientos de los expertos en el campo.

Propuso además la formación de un panel global de expertos para abordar este tema crítico, enfatizando la necesidad de un enfoque coordinado e internacional para mitigar los riesgos relacionados con la IA.

Durante una conferencia de prensa, Sunak reconoció la naturaleza dual de la IA, describiéndola como una fuerza que ofrece soluciones a problemas previamente insuperables y al mismo tiempo introduce nuevos peligros y temores. También afirmó que el Reino Unido está a la vanguardia de los esfuerzos para mantener seguros a sus ciudadanos y anunció el establecimiento del primer instituto de IA del mundo en el Reino Unido.

El Primer Ministro citó una declaración hecha anteriormente por cientos de expertos en IA, que enfatizaron la importancia global de abordar el riesgo de extinción inducida por la IA. Reiteró: “Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”.

Sunak también destacó los peligros potenciales que podría plantear la IA si no se gestiona adecuadamente. Advirtió que la IA podría facilitar la creación de armas químicas o biológicas y mejorar las capacidades de los grupos terroristas. Los delincuentes podrían explotar la IA para realizar ciberataques, fraudes e incluso abuso sexual infantil. Además, reconoció la posibilidad de que la humanidad pierda el control sobre la IA, un concepto a menudo denominado superinteligencia.

Sin embargo, el primer ministro se apresuró a lograr un equilibrio al reconocer los enormes beneficios potenciales de la IA. Elogió el uso potencial de la IA en el sector sanitario, particularmente en el NHS, donde podría ayudar a diagnosticar y prevenir accidentes cerebrovasculares y ataques cardíacos. Como testimonio de este compromiso, Sunak anunció una financiación adicional de £100 millones para tratamientos de IA destinados a abordar enfermedades que antes eran incurables.

En una medida un tanto controvertida, el Primer Ministro Sunak extendió una invitación a China para asistir a la cumbre mundial sobre IA que se celebrará en Parque Bletchley. Defendió esta decisión como el enfoque correcto, dado que las principales potencias de la IA en todo el mundo deberían entablar debates sobre las oportunidades y amenazas que plantea la IA.

Si bien Sunak reconoció que no fue una decisión fácil invitar a funcionarios chinos, el viceprimer ministro Oliver Dowden confirmó que China había aceptado la invitación. Esta medida generó controversia, especialmente entre algunos parlamentarios conservadores, en un momento en que las relaciones internacionales con China seguían tensas. Dowden se mantuvo optimista sobre la participación de China en la cumbre y afirmó que esperaban que funcionarios chinos asistieran al evento.

El informe recientemente publicado por el gobierno del Reino Unido subraya el creciente riesgo de amenazas relacionadas con la IA, especialmente en el ámbito de la guerra cibernética. El informe advierte que es probable que la IA haga que los ciberataques sean más rápidos, más efectivos y a mayor escala, utilizando métodos de phishing personalizados y replicando malware para lograrlo.

Además, el informe señala la potencial “erosión de la confianza en la información” mediante el uso de “deepfakes”, que crean vídeos falsos a partir de la imagen de alguien, y “bots hiperrealistas”, que son perfiles falsos de redes sociales que pueden generar noticias falsas. , desinformación personalizada, manipular los mercados financieros y socavar el sistema de justicia penal.

El informe plantea además la preocupación de que, para 2026, los medios sintéticos podrían constituir una parte importante del contenido en línea, lo que podría erosionar la confianza del público en las instituciones gubernamentales y exacerbar la polarización y el extremismo.

En una evaluación particularmente aleccionadora, la Oficina Gubernamental para la Ciencia señala que no se puede descartar una amenaza existencial más amplia para la humanidad por parte de la IA. El informe afirma que no hay pruebas suficientes para descartar la posibilidad de que en el futuro los sistemas de IA altamente capaces, si están desalineados o controlados inadecuadamente, puedan representar una amenaza existencial.

Además, el informe destaca el potencial de la IA para perturbar el mercado laboral al desplazar a los trabajadores humanos, un hecho que podría requerir la introducción de un “impuesto a los robots”. Este impuesto, que se aplica a las empresas que se benefician de la sustitución de trabajadores por IA, podría ser una salvaguardia para proteger la economía.

La secretaria de Tecnología, Michelle Donelan, enfatizó que el Reino Unido es el primer país en resumir formalmente los riesgos asociados con la tecnología de inteligencia artificial. Reconoció el potencial transformador de la IA para mejorar el mundo, pero subrayó la necesidad de abordar los riesgos asociados.