ChatGPT se está convirtiendo en un camaleón cultural irreal

La capacidad de ChatGPT para convertirse sin problemas en un camaleón cultural fue desarmante y fue la primera vez que casi sentí que no estaba simplemente hablando con una máquina. Incluso me sorprendí respondiendo como si fuera una persona, diciéndole a la herramienta “perdón por interrumpir” y “muchas gracias”.

No soy sólo yo. El dominio de los dialectos hablados por parte del modo de voz avanzado es desconcertante. El fundador de una startup jamaicana compartió un clip de él mismo conversando con ChatGPT en el patois local. Los videos han inundado TikTok mostrando la aplicación hablando en todo, desde Singlish hasta inglés vernáculo afroamericano.

La capacidad de ChatGPT para comunicarse en dialectos abre las compuertas para que más personas interactúen y antropomorficen la herramienta. Puede que todo parezca complicado, pero cualquiera que haya viajado lejos de casa sabe que el idioma y la cultura salvan barreras. Escuchar a alguien que habla como usted, en cualquier idioma, genera instantáneamente una sensación de parentesco.

Durante la mayor parte de la era de Internet, este tipo de matiz cultural era algo que las computadoras aún no podían capturar, lo que marcaba uno de los mayores diferenciadores entre amigo y máquina.

Pero el uso de dialectos con IA tiene posibles consecuencias. A Naturaleza Un estudio publicado en agosto encontró que los grandes modelos lingüísticos generan “decisiones encubiertamente racistas” sobre las personas en función de sus dialectos en un experimento basado en texto. Los investigadores encontraron que es más probable que la IA sugiera que a los usuarios de inglés afroamericano “se les asignen trabajos menos prestigiosos, sean declarados culpables de delitos y sentenciados a muerte” en comparación con los hablantes de inglés americano estándar.

Por otra parte, OpenAI ha reconocido cómo las capacidades de audio, específicamente, de su último modelo podrían conllevar riesgos que aún no comprendemos del todo, como que las personas creen vínculos fuertes o permitan una “confianza cada vez más mal calibrada” en los modelos de IA.

La compañía ha notado que los usuarios aprovechan las funciones de audio usando un lenguaje que podría indicar que sienten conexiones con el modelo, y dice que es necesario realizar más estudios internos e independientes para “definir más concretamente esta área de riesgo”. Y la razón por la que el chatbot ahora suena tan humano es en parte porque sus nueve voces están impulsadas por actores reales.

Cargando

OpenAI tiene una serie de barreras de seguridad. ChatGPT respondió algunas preguntas que hice cambiando el tema, diciendo que sus pautas no le permitirán responder. No puede cantar, hacerse pasar por personas ni ser demasiado coqueto. La versión actual tampoco llegó a traducir en vivo algo que no fuera mi propia voz, como un discurso o un video, posiblemente para evitar un mayor escrutinio de derechos de autor. Más observadores con vista de águila han criticado su dominio de ciertos idiomas y dialectos. Debido a obstáculos regulatorios, el modo de voz avanzado aún no está disponible en la Unión Europea y en algunos otros mercados.

La nueva capacidad de ChatGPT para romper las barreras del idioma tiene enormes ventajas potenciales, tanto para las empresas como para las personas. Pero a pesar de lo hipnotizado que estaba la semana pasada, de vez en cuando recibía una respuesta que me recordaba que es solo una aplicación: no debería asignarle demasiada responsabilidad ni verla como un compañero humano. No pude evitar preocuparme por un futuro en el que la gente pueda olvidarlo.

Bloomberg

Obtenga noticias y reseñas sobre tecnología, dispositivos y juegos en nuestro boletín de tecnología todos los viernes. Regístrate aquí.