El director ejecutivo de OpenAI, Sam Altman, testifica ante una audiencia del Subcomité de Privacidad, Tecnología y Leyes del Poder Judicial del Senado titulada “Supervisión de la IA: reglas para la inteligencia artificial” en Capitol Hill en Washington, EE. UU., el 16 de mayo de 2023. | Crédito de la foto: Reuters
El jefe de la empresa de inteligencia artificial que fabrica ChatGPT dijo al Congreso el 16 de mayo que la intervención del gobierno “será fundamental para mitigar los riesgos de los sistemas de IA cada vez más poderosos”.
“A medida que avanza esta tecnología, entendemos que las personas están ansiosas acerca de cómo podría cambiar la forma en que vivimos. Nosotros también”, testificó el martes el CEO de OpenAI, Sam Altman, en una audiencia en el Senado.
Su puesta en marcha con sede en San Francisco se disparó a la atención pública después delanzó ChatGPT a fines del año pasado. ChatGPT es una herramienta de chatbot gratuita que responde preguntas con respuestas convincentemente similares a las de los humanos.
Lea también | Errores de chatbot que exponen las grietas en la armadura de IA
Lo que comenzó como un pánico entre los educadores sobre el uso de ChatGPT para hacer trampa en las tareas escolares se ha expandido a preocupaciones más amplias sobre la capacidad de la última generación de herramientas de “IA generativa” para engañar a las personas, difundir falsedades, violar las protecciones de derechos de autor y cambiar algunos trabajos.
Y aunque no hay señales inmediatas de que el Congreso elabore nuevas reglas radicales de IA, como lo están haciendo los legisladores europeos, las preocupaciones sociales llevaron a Altman y a otros directores ejecutivos de tecnología a la Casa Blanca a principios de este mes y han llevado a las agencias estadounidenses a prometer tomar medidas enérgicas contra productos de IA dañinos que violan los derechos civiles existentes y las leyes de protección del consumidor.
El senador Richard Blumenthal, el demócrata de Connecticut que preside el subcomité de privacidad, tecnología y leyes del Comité Judicial del Senado, abrió la audiencia con un discurso grabado que sonaba como el del senador, pero que en realidad era un clon de voz entrenado en los discursos de la sala del Sr. Blumenthal y recitando un discurso escrito por ChatGPT después de que le preguntó al chatbot: “¿Cómo abriría esta audiencia?”
El resultado fue impresionante, dijo el Sr. Blumenthal, pero agregó: “¿Qué pasaría si le hubiera pedido, y si hubiera proporcionado, un respaldo a la rendición de Ucrania o al liderazgo (del presidente ruso) Vladimir Putin?”
Blumenthal dijo que se debería exigir a las empresas de inteligencia artificial que prueben sus sistemas y divulguen los riesgos conocidos antes de lanzarlos.
Fundada en 2015, OpenAI también es conocida por otros productos de IA, incluido el creador de imágenes DALL-E. Microsoft ha invertido miles de millones de dólares en la puesta en marcha y ha integrado su tecnología en sus propios productos, incluido su motor de búsqueda Bing.
Lea también | ChatGPT: el equilibrio cuidadoso entre el aprendizaje humano y el de las máquinas es clave
El Sr. Altman también planea embarcarse en una gira mundial este mes a las capitales nacionales y las principales ciudades de los seis continentes para hablar sobre la tecnología con los legisladores y el público. En la víspera de su testimonio ante el Senado, cenó con decenas de legisladores estadounidenses, varios de los cuales dijeron CNBC quedaron impresionados por sus comentarios.
También testificarán la directora de privacidad y confianza de IBM, Christina Montgomery, y Gary Marcus, profesor emérito de la Universidad de Nueva York que se encontraba entre un grupo de expertos en IA que pidieron a OpenAI y otras empresas tecnológicas que detuvieran el desarrollo de modelos de IA más potentes. durante seis meses para dar a la sociedad más tiempo para considerar los riesgos. La carta fue una respuesta al lanzamiento en marzo del último modelo de OpenAI, GPT-4, descrito como más poderoso que ChatGPT.
“La inteligencia artificial será transformadora en formas que ni siquiera podemos imaginar, con implicaciones para las elecciones, los trabajos y la seguridad de los estadounidenses”, dijo el republicano de mayor rango del panel, el senador Josh Hawley de Missouri. “Esta audiencia marca un primer paso crítico hacia la comprensión de lo que debe hacer el Congreso”.
Altman y otros líderes de la industria tecnológica han dicho que dan la bienvenida a alguna forma de supervisión de la IA, pero han advertido contra lo que ven como reglas demasiado estrictas. En una copia de sus comentarios preparados, Montgomery de IBM le pide al Congreso que adopte un enfoque de “regulación de precisión”.
“Esto significa establecer reglas para regir el despliegue de IA en casos de uso específicos, sin regular la tecnología en sí”, dijo Montgomery.
2023-05-16 17:18:22
#jefe #ChatGPT #testifica #ante #Congreso #medida #aumentan #las #preocupaciones #sobre #los #riesgos #inteligencia #artificial,