La advertencia de Jacob Coxon ha reavivado el debate sobre los riesgos de la inteligencia artificial. El ingeniero de Anthropic ha afirmado que la IA podría acabar con la humanidad antes de que termine la década, una declaración que ha inquietado tanto a la industria tecnológica como a los responsables políticos.
En un momento en que la inteligencia artificial ya es parte central de la economía y la productividad, la preocupación por su desarrollo ha llegado a los foros internacionales. Ursula Von der Leyen, presidenta de la Comisión Europea, ha pedido frenar el avance de los modelos más sofisticados por motivos de seguridad. Su postura ha encontrado apoyo entre varios responsables del sector, aunque no todos comparten la misma visión.
Evan Hubinger, jefe de alineamiento en Anthropic, afirmó que dentro de la empresa se cree sinceramente que la IA podría acabar con toda la humanidad.
China, por su parte, ha respondido con un enfoque diferente. El Ministerio de Asuntos Exteriores insiste en que el desarrollo de la IA debe ser abierto, inclusivo y orientado al bien común, y rechaza cualquier narrativa de amenaza o confrontación. Para China, la cooperación internacional es la única vía, mientras que en Occidente crecen las voces que piden cautela y límites claros.
La inquietud no es solo política. Dentro de las propias empresas tecnológicas, el debate es intenso. Eva Hubinger, también de Anthropic, ha reforzado la alarma al afirmar que la IA podría aniquilar a los humanos. Según Coxon, muchos ejecutivos y expertos del sector reconocen en privado su preocupación por el potencial de esta tecnología.
Von der Leyen ha sido clara: la IA ya no es un experimento, sino una parte fundamental de la economía y la seguridad europea. Advierte que los modelos más avanzados podrían convertirse en armas para ciberataques de gran magnitud si caen en manos equivocadas. Por eso, insiste en que la integración de la inteligencia artificial en sectores como el transporte, la sanidad o la defensa debe hacerse con responsabilidad y bajo control humano.
La Comisión Europea ha invitado formalmente a los laboratorios líderes en IA a dialogar sobre medidas para reducir riesgos, y ha anunciado colaboración con Canadá y Reino Unido para reforzar la verificación y seguridad de los modelos avanzados.
El uso de la IA en el cribado del cáncer de mama muestra su potencial positivo: puede ayudar a los médicos a detectar más casos, pero no debe sustituirlos. Según Von der Leyen, la misma lógica debe aplicarse a la seguridad nacional. La tecnología debe servir de apoyo, no reemplazar a las personas.
La competencia entre potencias es evidente. Dario Amodei, Sam Altman y Elon Musk han pedido a las empresas que establezcan límites claros en el desarrollo de la IA, advirtiendo que una ventaja china supondría un riesgo para la seguridad de Estados Unidos. Sin embargo, la respuesta oficial china rechaza cualquier alarma y apuesta por el trabajo conjunto, mientras Europa busca su propio espacio en la carrera tecnológica.
La Unión Europea ha anunciado que trabajará con Canadá y Reino Unido para marcar el ritmo en el desarrollo de la IA. Los directivos de las empresas más avanzadas insisten en la necesidad de ralentizar los modelos autorrecursivos y definir límites claros. Si quienes lideran la tecnología lo tienen claro, la política no puede quedarse atrás.
En los últimos cinco años, la inteligencia artificial ha avanzado más de lo que muchos esperaban. Sus capacidades actuales, sobre todo en tareas donde no hay margen de error, eran impensables hace una década. Ahora, la pregunta es qué ocurrirá en los próximos años.
Para Coxon, la posibilidad de que la IA acabe con la humanidad no es solo una hipótesis alarmista. Muchos de los que trabajan en su desarrollo reconocen en privado que el peligro es real y que ninguna otra actividad humana ha supuesto un riesgo similar. Aunque no hay consenso sobre el desenlace, la preocupación se ha instalado en el sector.
El debate sobre la inteligencia artificial no es nuevo, pero la contundencia de las advertencias actuales ha elevado la urgencia. Mientras algunos apuestan por la cooperación y el optimismo, otros prefieren no ignorar las señales de alarma. En este contexto, la industria tecnológica se enfrenta a una decisión: avanzar sin freno o poner límites antes de que sea demasiado tarde. Como ya ocurrió en otros ámbitos, las decisiones que se tomen ahora marcarán el rumbo de toda una generación.
