El ‘padrino de la IA’ abandona Google y nos advierte a todos de los crecientes peligros

El “padrino de la IA” británico-canadiense, Dr, ha anunciado su retiro de Google en un comunicado a The New York Times. En su anuncio, afirma que ahora lamenta el trabajo de su vida y su investigación pionera en redes neuronales, que son sistemas que permiten que la inteligencia artificial aprenda y procese información de manera similar a la mente humana.

La investigación y la ambición del Dr. Hinton para impulsar la tecnología también allanaron el camino para los chatbots de IA, especialmente el ChatGPT, que el psicólogo admitió a la BBC que ahora encuentra “bastante aterrador”. Expresó su temor de que los chatbots con “aprendizaje profundo” algún día sean capaces de almacenar más información que la mente humana promedio. Comentó además: “En este momento, no son más inteligentes que nosotros, por lo que puedo decir. Pero creo que pronto lo serán”.

Agregando a su perspectiva preocupante sobre el futuro de la inteligencia artificial, dijo: “En este momento, lo que estamos viendo es cosas como GPT-4 eclipsa a una persona en la cantidad de conocimiento general que tiene, y la eclipsa por mucho”. . En términos de razonamiento, no es tan bueno, pero ya hace un razonamiento simple. Y dada la tasa de progreso, esperamos que las cosas mejoren bastante rápido. Así que debemos preocuparnos por eso”.

A la edad de 75 años, esto aparentemente jugó un papel en la decisión del Dr. Hinton de renunciar a Google, confesando a la BBC: “Es hora de jubilarse”.

El Dr. Hinton ahora se ha unido a un número creciente de expertos en tecnología, incluido el magnate de los negocios Elon Musk, que ha expresado su preocupación por la inteligencia artificial, con la velocidad de su desarrollo y la dirección en la que se dirige la industria.

En el artículo de Los New York Times, el Dr. Hinton creía que los “malos actores” podrían intentar usar la IA para “cosas malas”. Cuando se le pidió que profundizara en esta declaración esotérica, el científico respondió: “Esto es solo una especie de escenario en el peor de los casos, una especie de escenario de pesadilla”.

Y agregó: “Llegué a la conclusión de que el tipo de inteligencia que estamos desarrollando es muy diferente de la inteligencia que tenemos. Somos sistemas biológicos y estos son sistemas digitales. Y la gran diferencia es que con los sistemas digitales, tienes muchas copias del mismo juego de pesas, el mismo modelo del mundo”.

“Y todas estas copias pueden aprender por separado pero compartir su conocimiento al instante. Así que es como si tuviera 10,000 personas y cada vez que una persona aprendiera algo, todos lo supieran automáticamente. Y así es como estos chatbots pueden saber mucho más que cualquier persona”.

A pesar de su ambivalencia sobre el tema, el Dr. Hinton le dijo a la BBC que todavía pensaba, hasta cierto punto, que la IA podría generar más beneficios que riesgos, y agregó: “No creo que debamos dejar de desarrollar esto”.

El visionario de la IA se mantuvo firme en su negativa a criticar a Google y afirmó que la empresa era “muy responsable”. Agregando a su elogio por el gigante tecnológico, el Dr. Hinton dijo: “De hecho, quiero decir algunas cosas buenas sobre Google. Y son más creíbles si no trabajo para Google”.

Jeff Dean, científico jefe de Google, declaró a la BBC: “Seguimos comprometidos con un enfoque responsable de la IA. Estamos continuamente aprendiendo a comprender los riesgos emergentes al mismo tiempo que innovamos con audacia”.