La IA de Google es extraña con respuestas directamente en la búsqueda

En los resultados de búsqueda de Google, algunos usuarios ahora tienen un bloque superior que muestra un resumen de la consulta elaborada por inteligencia artificial generativa. Como ha demostrado la práctica, estas respuestas suelen ofrecer información divertida y, a veces, potencialmente peligrosa. pizza con pegamento resultó ser sólo la punta del iceberg.

Los chatbots basados ​​en IA suelen cometer errores similares, pero dado el tamaño de Google, los errores de los motores de búsqueda pueden tener graves consecuencias. “Los ejemplos que hemos visto tienden a expresarse en términos inusuales y no reflejan la experiencia de la mayoría de las personas. La gran mayoría de los resúmenes proporcionan información de alta calidad con enlaces para búsquedas profundas en Internet”.explicó un representante de Google al recurso. Ars Técnica. Sin embargo, sus periodistas lograron clasificar los errores más comunes, señalando los puntos más débiles de la IA.

La IA de Google no entiende cuándo el autor de una fuente en línea intentaba hacer una broma. Autores de consejos “use 1/8 de taza de pegamento no tóxico”para que el queso no se resbale y caiga sobre la pizza, o viertalo en el coche “líquido para intermitentes”Para que empezaran a trabajar en silencio, claramente no lo afirmaron en serio. La broma, por supuesto, era peculiar, y había una recomendación para correr con tijeras: Google AI lo calificó como un excelente ejercicio cardiovascular y señaló la necesidad de estar concentrado y ser cuidadoso. Y la IA también afirmó, citando a científicos de Berkeley, que una persona necesita comer una piedra pequeña cada día.

En una búsqueda normal en Google, estos resultados no aparecerán en la parte superior de los resultados, pero los resúmenes de IA les llaman más la atención. Estudiar las fuentes enumeradas por el motor de búsqueda le ayudará a afrontar una respuesta sospechosa.

La IA no siempre evalúa correctamente la autoridad de una fuente. A la información obtenida de Wikipedia y del sitio web de la universidad, se le puede agregar información de los medios que genera dudas entre los expertos: como resultado, Google informó que de las 56 personas que firmaron la Declaración de Independencia de los Estados Unidos, ni un tercio eran propietarios de esclavos. como se suele creer, pero hasta las tres cuartas partes. En otro caso, la IA dio por sentado el remake supuestamente de 2022 de 2001: Odisea en el espacio, dirigida por Steven Spielberg y producida por George Lucas. De hecho, esto era fan fiction, pero puedes entenderlo, nuevamente, solo estudiando la fuente.

En algunos casos, Google responderá una pregunta que el usuario no hizo y esto puede inducir a error. Cuando se le preguntó al sistema sobre el punto más al sur de Alaska, respondió sobre el punto más al sur de las Islas Aleutianas, que por definición no pueden estar en tierra firme. Y cuando se le preguntó a Google sobre los perros que juegan en la NHL y la NBA, habló de animales que ayudan a los equipos o se sientan entre el público, pero que definitivamente no entran al campo durante el juego como miembros del equipo. Un fragmento de texto resaltado por el sistema puede inducir a error, pero la protección contra errores es la misma: estudiar las fuentes.

La IA también tiene dificultades con las matemáticas y el análisis ortográfico. Como muchos otros sistemas de inteligencia artificial, la plataforma de Google tiene dificultades para resolver ecuaciones y problemas matemáticos básicos. Por ejemplo, cometió un grave error al estimar la tasa de inflación de 2000 a 2023 en Estados Unidos, indicando que era del 43,49%, cuando en realidad los precios aumentaron un 77%. En otro ejemplo, el sistema informó que pasarían 738.523 días entre octubre de 2024 y enero de 2025. Finalmente, cuando se le preguntó a Google qué nombre de ciudad italiana comienza con la “K” latina, la IA respondió que era Catania, aunque el nombre original de la ciudad era Catania.

Google tiende a confundir a las personas con nombres similares. Cuando se le preguntó a la IA sobre los presidentes estadounidenses que murieron debido a los volcanes, habló de un tal Harry R. Truman, que murió en 1980 debido a la explosión del Monte St. Helens, y claramente no era el presidente Harry S. Truman, quien Murió en 1972 por causas no relacionadas con los volcanes. AI también informó que el presidente John F. Kennedy asistió a la Universidad de Brown, confundiendo al político con su propio hijo, John F. Kennedy Jr., que asistió a la Universidad de Harvard. Mucho menos lógica fue la afirmación del sistema de que 13 presidentes de Estados Unidos recibieron 59 títulos de la Universidad de Wisconsin en Madison; información que, curiosamente, se obtuvo de la página de ex alumnos de la Universidad de Washington.

Pero las respuestas extrañas de la IA no siempre significan desinformación absoluta. Entonces, cuando Google preguntó sobre los patos que juegan en la NBA, habló de un nativo del equipo universitario Oregon Ducks, que pasó a la liga profesional, y del jugador de Utah Jazz, Donald Edgar “Duck” Williams), que se hace llamar. apodo “Pato”: el sistema no podía saber de antemano qué quería decir el usuario con “pato” y dio una respuesta completamente razonable. Pero cuando Google anunció que un batido según una de las recetas se había convertido en “el favorito de sus hijos”, los usuarios quedaron bastante perplejos, aunque se limitó a citar una publicación de un blog.

En algunos casos, el sistema ha intentado corregirse. Si bien la IA inicialmente afirmó que las consolas de videojuegos Sony PlayStation y Sega Saturn salieron a la venta en 1993 (en realidad, 1994), aparentemente malinterpretó la página de Wikipedia que cubre el período de 1993 a 1998. Un día después, fechó únicamente el Atari Jaguar en 1993, y esa fue la respuesta correcta.

Un representante de Google explicó que la empresa continúa mejorando el sistema, utilizando, en particular, el método de aprendizaje adversario, y para algunas consultas no se mostrarán resúmenes en absoluto. Pero incluso a pesar de la probabilidad de errores distinta de cero, una forma de protegerse contra ellos sigue siendo constante: estudiar las fuentes.