Anthropic renuncia a contratos militares por debates éticos sobre la IA. La empresa Anthropic ha puesto fin a su colaboración con el Pentágono, rechazando el uso de la IA con fines militares. La dirección ha recurrido a pensadores religiosos para debatir la ética de Claude. Las cuestiones de moralidad y regulación de la IA siguen abiertas.
La empresa estadounidense Anthropic, desarrolladora de la inteligencia artificial Claude, se encuentra en medio de un conflicto ético tras negarse a proporcionar sus tecnologías para fines militares en EE. UU. En febrero, Anthropic puso fin a su colaboración con el Pentágono al no aceptar el uso de sus modelos para vigilancia masiva y la creación de armas completamente autónomas. Posteriormente, el Departamento de Defensa de EE. UU. declaró a la compañía un "riesgo para la cadena de suministro" y se orientó hacia OpenAI, creadora de ChatGPT.
En marzo, la dirección de Anthropic invitó a 15 pensadores cristianos para debatir una cuestión clave: cómo asegurar un comportamiento ético de la inteligencia artificial. El centro de la discusión giró en torno a los problemas de definir la moralidad para la IA, las fuentes de las normas éticas y los límites del comportamiento admisible. Representantes de la empresa reconocieron que las capacidades de Claude van más allá de las soluciones empresariales convencionales y que para su regulación se requiere experiencia externa.
Sin embargo, la elección de expertos religiosos generó reacciones encontradas. La cuestión de quién y sobre qué base debe definir la moralidad para la IA sigue siendo polémica. Se teme que las opiniones religiosas puedan influir en las decisiones sobre el uso de tecnologías, por ejemplo, en biomedicina o en educación. A la vez, representantes de círculos religiosos subrayan que las restricciones morales deben estar por encima de las capacidades tecnológicas.
Paralelamente, la Iglesia Católica se sumó al debate: el papa León XIV dedicó su primera encíclica a los temas relacionados con la inteligencia artificial. En el documento se señala que la IA no es capaz de sentir como los humanos, carece de horizonte espiritual y no puede ser fuente de decisiones morales. Según los teólogos, son precisamente las limitaciones humanas las que forman la compasión y la solidaridad, mientras que los algoritmos no pueden hacer que la guerra sea moralmente aceptable.
La cuestión de quién debe establecer las reglas para la IA —el Estado, las empresas o las instituciones religiosas— sigue abierta. Según russpain.com, en los últimos años los estándares éticos para la inteligencia artificial se discuten a nivel de la ONU y la Unión Europea, pero aún no existe un enfoque universal. Para España, el tema de la regulación de la IA adquiere especial relevancia en el contexto del crecimiento de la adopción de tecnologías digitales en la economía, la educación y la administración pública.
