demócratas El jueves presentó la Ley de Responsabilidad Algorítmica de 2023, un proyecto de ley destinado a evitar que la IA perpetúe la toma de decisiones discriminatoria en sectores como las finanzas, la vivienda, la salud, el empleo y la educación.
La facturapatrocinado por los senadores Ron Wyden (D-Ore.) y Cory Booker (DN.J.) en el Senado y la representante Yvette Clarke (DN.Y.) en la Cámara, exigirían que las empresas que utilizan IA prueben los algoritmos para detectar sesgos y revelarían públicamente la existencia de esos algoritmos en un registro de la Comisión Federal de Comercio. También dotaría de personal a la agencia para que pudiera hacer cumplir la ley.
“Conocemos demasiados ejemplos del mundo real de sistemas de inteligencia artificial que tienen algoritmos defectuosos o sesgados: procesos automatizados utilizados en hospitales que subestiman las necesidades de salud de los pacientes negros; herramientas de reclutamiento y contratación que discriminan a las mujeres y a los candidatos de minorías; sistemas de reconocimiento facial con mayores tasas de error entre personas con piel más oscura”, dijo Booker en un comunicado.
El proyecto de ley surge cuando ambos partidos en el Congreso miran con escepticismo las aplicaciones emergentes de la IA en audiencias y reuniones a puertas cerradas con importantes figuras tecnológicas.
Las agencias federales también están luchando por aclarar cómo se aplican a la IA las barreras existentes sobre las empresas. El martes, la Oficina de Protección Financiera del Consumidor enfatizó que los prestamistas deben utilizar “razones específicas y precisas” al tomar una acción adversa, como reducir el límite de crédito de alguien, incluso cuando se trata de IA. El anuncio tiene como objetivo evitar que los acreedores utilicen grandes conjuntos de datos para tomar decisiones crediticias opacas e injustas.
En una audiencia del miércoles ante el Comité Bancario del Senado, los senadores expresaron su temor ante el potencial de la tecnología para trastornar el sistema financiero de maneras imprevistas y la evidencia de que la IA ya se ha utilizado para “sobrealimentar” la discriminación en préstamos y productos financieros.
“El espíritu de Silicon Valley de actuar rápido y romper cosas es peligroso tanto para nuestro sistema financiero como para toda nuestra economía”, dijo el presidente del comité, Sherrod Brown (D-Ohio). “Si las tecnologías emergentes no están cubiertas por las normas vigentes, entonces debemos aprobar otras nuevas para crear verdaderas barreras de seguridad”.
Por otra parte, los senadores Richard Blumenthal (demócrata por Connecticut) y Josh Hawley (republicano por Missouri), del subcomité judicial del Senado sobre privacidad y tecnología, publicaron un marco bipartidista para regular el uso de la IA en la seguridad nacional, las decisiones de consumo y empleo y las violaciones de la privacidad.
Blumenthal y Hawley respaldaron la necesidad de un nuevo organismo federal de supervisión y de concesión de licencias y controles de exportación de modelos de IA con usos de “alto riesgo”, como el reconocimiento facial y las políticas de datos.
También pidieron divulgaciones obligatorias para alertar a los usuarios cuando interactúan o ven contenido creado por un modelo de IA o cuando se utiliza la IA para tomar una decisión adversa, y para brindar a los investigadores independientes una visión fácil de los modelos y sus trampas. Su marco también establece límites estrictos para la IA y los niños.
Mientras tanto, las empresas tecnológicas están cabildear por una economía “liderada por la industria” proceso de supervisión sobre regulaciones federales más estridentes.
2023-09-22 21:12:32
#Los #demócratas #presentan #proyecto #ley #para #frenar #uso,