El Instituto de Seguridad de la IA (AISI) del Reino Unido, creado en noviembre de 2023, lanzó Inspect, una plataforma diseñada para probar y evaluar la seguridad de la IA. Simplificará la evaluación de la IA para su uso en organizaciones industriales, científicas y de investigación.
Fuente de la imagen: Geralt/Pixabay
El kit de herramientas Inspect, disponible bajo licencias de código abierto, incluidas las licencias MIT, está diseñado para evaluar capacidades específicas de los modelos de IA en una variedad de dominios, incluido el conocimiento básico del modelo y la capacidad de razonamiento, y desarrollar una evaluación basada en los resultados.
Según el recurso >La plataforma Inspect consta de tres componentes principales: conjuntos de datos, herramientas de solución y herramientas de evaluación. Los conjuntos de datos proporcionan muestras para pruebas de evaluación. Las herramientas de solución hacen el trabajo de ejecutar las pruebas. Y las herramientas de evaluación evalúan los resultados y resumen los puntajes de las pruebas en métricas.
Los componentes de Inspect se pueden ampliar utilizando paquetes de terceros escritos en Python. “Esperamos que la comunidad global de IA utilice Inspect no solo para realizar sus propias pruebas de seguridad de modelos, sino también para adaptar y evolucionar la plataforma de código abierto para que podamos producir evaluaciones de alta calidad en todos los ámbitos”. dijo el presidente de AISI, Ian Hogarth.
La plataforma Inspect se presentó días después de que el Instituto Nacional de Estándares y Tecnología (NIST) anunciara el programa NIST GenAI a fines de abril, diseñado para evaluar varias tecnologías de IA generativa, incluidos modelos de generación de texto e imágenes.
En abril, Estados Unidos y el Reino Unido anunciaron una asociación en la que “Los gobiernos compartirán conocimientos técnicos, información y talento en el campo de la seguridad de la IA”. Como parte de la cooperación, se creará un Instituto de Seguridad de la IA en los Estados Unidos, que evaluará los riesgos asociados con la IA y la IA generativa.
Si nota un error, selecciónelo con el mouse y presione CTRL+ENTER.
2024-05-12 14:37:00
#Plataforma #evaluación #seguridad #lanzada #Reino #Unido,