Google intenta eliminar manualmente respuestas dañinas y extrañas de su motor de búsqueda con inteligencia artificial

En los últimos días ha aparecido en las redes sociales. un gran número de ejemplos de cómo el motor de búsqueda de inteligencia artificial lanzado recientemente por Google brinda respuestas extrañas a las consultas de los usuarios: desde recomendaciones agregar pegamento a la pizza antes de ofrecerle a comer piedras. En este contexto, Google desactiva manualmente la función de reseñas asistidas por IA para determinadas consultas, razón por la cual muchas respuestas extrañas de los motores de búsqueda desaparecen pronto.

Esta situación parece extraña porque Google lleva un año probando reseñas generadas por IA. La función Search Generative Experience se lanzó en versión beta en mayo pasado, y el director ejecutivo de Google, Sundar Pichai, dijo que ha procesado más de mil millones de consultas desde entonces. Al mismo tiempo, Pichai dijo que durante el período de prueba fue posible reducir el costo de proporcionar respuestas utilizando IA en un 80% gracias a “Hardware, ingeniería y avances técnicos”. Parece que esta optimización se realizó demasiado pronto, antes de que la tecnología estuviera lista para su uso comercial.

Google sigue insistiendo en que el motor de búsqueda de IA de la empresa, en la mayoría de los casos, proporciona a los usuarios “información de alta calidad”. “Muchos de los ejemplos que hemos visto implican consultas no estándar y también hemos visto ejemplos que han sido manipulados o que no hemos podido reproducir”., dijo un representante de Google. También confirmó que la empresa está tomando medidas para eliminar las reseñas generadas por IA para determinadas consultas. “cuando sea necesario de acuerdo con nuestra política de contenido”. Los ejemplos de respuestas fallidas de la IA se convierten en la base para desarrollar mejoras para el motor de búsqueda, algunas de las cuales “ya han comenzado a implementarse”.

El experto en inteligencia artificial y profesor de la Universidad de Nueva York, Gary Markus, cree que muchas empresas de inteligencia artificial “venden sueños” que la precisión de los algoritmos que crearon aumentará del 80% al 100%. Según Marcus, lograr una precisión del 80% es relativamente fácil porque requiere entrenar el algoritmo con una gran cantidad de datos preexistentes. Sin embargo, hacer que el algoritmo sea aún más preciso en un 20% es una tarea extremadamente difícil. El especialista señaló que el algoritmo debería “razonar”, qué tan creíble es tal o cual información y fuentes, es decir, comportarse como lo haría un verificador de hechos.