Meta divide su equipo de IA responsable para centrarse más en la IA generativa

Según se informa, Meta ha dividido su equipo de IA Responsable (RAI), que se formó para regular la seguridad de sus empresas de inteligencia artificial (IA).

Según una publicación interna citada por La informaciónMeta destinará más recursos a la inteligencia artificial generativa.

El informe sugiere además que la empresa trasladará a la mayoría de los miembros de la RAI a su equipo de productos de IA generativa, mientras que otros trabajarán en la infraestructura de la empresa.

El compromiso de Meta con la IA responsable

Meta afirma que quiere ser responsable en lo que respecta al desarrollo de la IA. De hecho, hay un pagina dedicada en el sitio web oficial de la compañía que destaca sus “cinco pilares de una IA responsable”, que incluyen responsabilidad, transparencia, seguridad, privacidad y más.

Según Jon Carvill, representante de Meta, la empresa “seguirá priorizando e invirtiendo en el desarrollo seguro y responsable de la IA”.

Aunque la compañía ha disuelto el equipo de RAI, Carvill dice que esos miembros “continuarán apoyando los esfuerzos transversales relevantes sobre el desarrollo y uso responsable de la IA”.

Meta ha disuelto su división de IA Responsable, que regulaba la seguridad de sus proyectos de IA.
La mayoría de los miembros del equipo RAI han sido reasignados a la división de productos de IA generativa.
Algunos empleados de RAI ahora trabajarán en el equipo de Infraestructura de IA.

La reestructuración llega como Meta…

—Mazdak (@MazdakSafaei) 19 de noviembre de 2023

Vale la pena señalar que Meta reestructuró el equipo a principios de este año, lo que según un Business Insider El informe incluía despidos que dejaron a la RAI como “un caparazón de equipo”.

Según el informe, el equipo de la RAI tenía poco control sobre sus propias acciones. Además, sus iniciativas fueron objeto de largas negociaciones antes de que pudieran implementarse.

El equipo RAI se formó en 2019 para identificar problemas con los enfoques de entrenamiento de IA de Meta. Por ejemplo, comprobó si los modelos de IA de la empresa estaban entrenados con una amplia gama de información en un intento por evitar problemas de moderación en sus plataformas.

Cuando las plataformas sociales de Meta adoptaron sistemas automatizados hubo problemas como un problema de traducción de Facebook que provocó el arresto de un palestino bajo acusaciones falsas.

Aparentemente, el palestino publicó “buenos días”, pero Facebook tradujo su publicación como “atacarlos” y “lastimarlos”.

Del mismo modo, la función de generación de stickers de WhatsApp AI crea imágenes sesgadas cuando se le dan ciertas indicaciones. Además, los algoritmos de recomendación de Instagram promovían activamente las redes de pedófilos.

Mientras tanto, los gobiernos del mundo no escatiman esfuerzos para crear barreras regulatorias para el desarrollo de la IA. En consonancia con esto, el presidente de Estados Unidos, Joe Biden, ordenó a las agencias gubernamentales que desarrollaran directrices de seguridad para la IA a principios de este año.

De manera similar, la Unión Europea publicado sus principios de IA y aún no ha aprobado su Ley de IA. El mes pasado, una fuente afirmó que Meta había propuesto ofrecer a los usuarios europeos una basado en suscripción versión de sus plataformas de redes sociales si no querían ser rastreados en busca de anuncios.

Aparte de esto, la empresa es según se informa preparándose para implementar herramientas de inteligencia artificial generativa para todos los anunciantes. Estas funciones serán útiles para crear contenido como fondos de imágenes y producir variaciones de texto escrito.