Los expertos dicen que el gigante tecnológico de inteligencia artificial OpenAI parece estar debilitando su postura contra los negocios con militares.
OpenAI afirmó que este cambio para debilitar la prohibición del uso de IA en aplicaciones militares se implementó para hacer que el documento de la política sea “más claro” y “más legible”. Niko Felix, portavoz de OpenAI, enfatizó el principio de no “usar [their] servicio para perjudicarte a ti mismo o a otros”.
Nico Felix, en un correo electrónico a The Intercept, dijo: “Nuestro objetivo era crear un conjunto de principios universales que fueran fáciles de recordar y aplicar”.
“Un principio como ‘No dañar a otros’ es amplio pero fácil de entender y relevante en numerosos contextos… citamos específicamente las armas y las lesiones a otros como ejemplos claros”, añadió Felx.
Además, Heidy Khlaaf, directora de ingeniería de la empresa de ciberseguridad Trail of Bits, señaló que el cambio hacia una política más amplia puede tener implicaciones para la seguridad de la IA:
Khlaaf dijo: “OpenAI es muy consciente de los riesgos y daños que pueden surgir debido al uso de su tecnología y servicios en aplicaciones militares”.
Si bien esta nueva sentencia puede no tener capacidades letales directas, el posible uso de OpenAI en contextos militares podría contribuir a operaciones imprecisas y sesgadas, lo que aumentaría la posibilidad de daños y víctimas civiles.
Esto es particularmente probable ya que las operaciones militares en todo el mundo, incluido el Pentágono, buscan integrar técnicas de aprendizaje automático en sus operaciones. En un discurso de noviembre, la subsecretaria de Defensa Kathleen Hicks afirmó que la IA es “una parte clave del enfoque de innovación integral y centrado en los combatientes que la Secretaria [Lloyd] Austin y yo hemos estado conduciendo desde el día 1”.
Los resultados de un modelo de lenguaje grande como Chat-GPT suelen ser muy convincentes; sin embargo, están optimizados para lograr coherencia en lugar de una comprensión firme de la realidad y hacen que la precisión y la factualidad sean un problema.
La IA ya ha sido utilizada en operaciones militares estadounidenses en la guerra entre Rusia y Ucrania, y la Agencia Nacional de Inteligencia Geoespacial, que ayuda directamente a los esfuerzos de combate de Estados Unidos, ha especulado abiertamente sobre el uso de ChatGPT para ayudar a sus analistas humanos.
La IA también ha sido utilizada en inteligencia militar y sistemas de objetivos por parte de las fuerzas israelíes en un sistema de IA llamado El Evangelio para señalar objetivos y “reducir las víctimas humanas” en sus ataques contra Gaza.
Sarah Myers West, directora general del AI Now Institute y ex analista de políticas de IA en la Comisión Federal de Comercio, afirmó: “Dado el uso de sistemas de IA para atacar a civiles en Gaza, es un momento notable para tomar la decisión de eliminar el palabras ‘militares y guerra’ de la política de uso permitido de OpenAI”.
Los expertos dicen que OpenAI parece estar debilitando su postura contra los negocios con operaciones militares.
Lucy Suchman, profesora emérita de antropología de la ciencia y la tecnología en la Universidad de Lancaster, afirmó: “Creo que la idea de que puedas contribuir a plataformas de guerra mientras afirmas no estar involucrado en el desarrollo o uso de armas sería falsa”.
Esto muestra que algunos pueden desconfiar del gigante de la IA, temiendo las implicaciones futuras de que la IA esté cada vez más involucrada en tácticas de operaciones militares a medida que las políticas se vuelven más amplias.
Esto se produce cuando OpenAI lanzó una nueva tienda GPT.funcionando como un mercado para aplicaciones de IA creadas con la tecnología OpenAI.
En una publicación de blog, OpenAI dijo que los desarrolladores ya habían creado tres millones de “versiones personalizadas de ChatGPT”, y muchos comenzaron a compartirlas para que las use el público en general.
Solo los usuarios premium de ChatGPT pueden acceder a la tienda.que pagan una tarifa mensual de $20 para acceder a una versión más rápida de la aplicación, así como equipos y empresas que pagan una tarifa.
Esto marca un paso más hacia que OpenAI se parezca mucho a Apple, ya que la tienda GPT tiene similitudes con la App Store.
Kaja Traczyk es reportera del International Business Times UK y estudiante de periodismo con experiencia en redacción de noticias, reportajes e investigación.
2024-01-16 15:14:32
#Por #qué #gigante #tecnológico #OpenAI #está #debilitando #postura #empresa #contra #los #negocios #con #militares,