En el otoño de 2021, se asignó a Blake Lemoine, ingeniero de software sénior de Google, para ayudar a la empresa en un esfuerzo particular de ética de IA. Mientras trabajaba en él, se topó con un problema de IA relacionado tangencialmente pero separado. Se lo señaló a su gerente y le sugirió que lo escalara al liderazgo. Pero su reclamo fue desestimado citando evidencia limitada.
El Sr. Lemoine, recurrió a Margaret Mitchell, ex codirectora de IA ética en Google, en busca de ayuda. Con el apoyo de la Sra. Mitchell, reunió pruebas y las presentó al liderazgo. Después de eso, las cosas se pusieron difíciles para él. En un blog del 7 de junio de 2022 titulado ‘Puede ser despedido pronto por hacer trabajo de ética de IA’, señaló que Google lo había puesto en “licencia administrativa pagada” en relación con las preocupaciones de IA que planteó. Dos semanas después, el gigante de las búsquedas despidió al Sr. Lemoine por violar las políticas de seguridad de datos de la empresa.
Las preocupaciones que le habían costado al Sr. Lemoine su trabajo se centraban en el modelo de lenguaje para aplicaciones de diálogo (LaMDA). Basado en su interacción con LaMDA, afirmó que el modelo de lenguaje grande (LLM) es sensible. El Sr. Lemoine no fue el único investigador de Google AI que planteó preguntas sobre LaMDA. Otros ingenieros que expresaron su preocupación sobre diferentes aspectos de Google AI también perdieron sus trabajos. Y Google siguió adelante con la construcción de su servicio BARD AI en este modelo de lenguaje.
red neuronal
LaMDA, como BERT y GPT-3, es un LLM basado en Transformer, una arquitectura de red neuronal desarrollada por Google y de código abierto en 2017. Pero LaMDA de Google era diferente del resto de los LLM disponibles en ese momento. Fue entrenado en diálogos como entrada. Eso hizo que notara los matices y distinguiera las conversaciones abiertas de otras formas de lenguaje.
Bard de Google, lanzado para competir contra ChatGPT de OpenAI, es cualquier cosa menos poético. En el blog de lanzamiento, el CEO Sundar Pichai no describió el bot por sus habilidades poéticas o de redacción de programas. En cambio, el Sr. Pichai afirmó que Bard es una salida para la creatividad y una plataforma de lanzamiento para la curiosidad, “que lo ayuda a explicar los nuevos descubrimientos del Telescopio Espacial James Webb (JWST) de la NASA a un niño de 9 años”. Para mostrar lo que Bard puede hacer, adjuntó un video GIF en el mismo blog que tenía tres respuestas sugeridas a la pregunta JWST.
Pero el video GIF tenía información inexacta. En una de sus respuestas, Bard sugirió que JWST se utilizó para tomar las primeras fotografías de un exoplaneta. Sin embargo, fueron tomadas por el Very Large Telescope (VLT) del Observatorio Europeo Austral en 2004. La NASA ha confirmado esta información.
Este error fue denunciado por Reuters justo antes de que Google comenzara a transmitir en vivo su presentación desde París el miércoles. Para empeorar las cosas, Prabhakar Raghavan, vicepresidente sénior de Google, a cargo de la Búsqueda, hizo una presentación decepcionante sobre lo que Bard puede ofrecer a sus usuarios. Reafirmó en gran medida lo que ya se sabía sobre el servicio de IA conversacional. Su presentación también careció de cualquier actualización innovadora que pudiera intensificar la competencia entre Bard y ChatGPT respaldado por Microsoft.
La respuesta incorrecta en el GIF promocional y la decepcionante presentación en París le habían costado muy caro a los padres de Google. Las acciones de Alphabet Inc. cayeron casi un 7% el miércoles, eliminando $ 100 mil millones de su valor de mercado, mientras que las acciones de Microsoft subieron un 3% el mismo día. Y solo un día antes, el fabricante de software de Windows anunció que había lanzado una versión de búsqueda de Bing con la funcionalidad ChatGPT.
En el corazón de la interpretación poco poética de Bard está el LaMDA. Los propios investigadores de IA ética de Google han planteado preguntas al respecto. Pero una parte de ese gran modelo lingüístico creado para brindar un servicio específico no ha logrado entusiasmar a los inversores y usuarios. La respuesta a cuál es la verdadera capacidad de Bard está en algún lugar entre estos dos puntos de vista. Y hasta que Google haga que el LLM sea de acceso público, LaMDA y su Bard seguirán siendo un enigma.