BlenderBot 3 de Meta quiere chatear, pero ¿puedes confiar en él? | Tecnología

La semana pasada, los investigadores de la empresa matriz de Facebook, Meta, lanzaron BlenderBot 3, un “chatbot disponible públicamente que mejora sus habilidades y seguridad con el tiempo”. El chatbot se basa en el modelo de lenguaje OPT-175B de Meta, efectivamente la versión de marca blanca de la compañía de la IA GPT-3 más famosa. Como la mayoría de las IA de última generación en estos días, se entrenó en un vasto corpus de texto extraído de Internet de maneras cuestionables y se vertió en un centro de datos con miles de chips costosos que convirtieron el texto en algo parecido a la coherencia.

Pero donde OPT-175B es un robot de texto de uso general, capaz de hacer cualquier cosa, desde escribir ficción y responder preguntas hasta generar correos electrónicos no deseados, BlenderBot 3 es un proyecto más limitado: puede tener una conversación contigo. Sin embargo, ese enfoque le permite incorporar otros conocimientos, y uno de los éxitos más significativos de Meta es conectar el modelo de lenguaje a Internet en general. En otras palabras: “BlenderBot 3 es capaz de buscar en Internet para chatear sobre prácticamente cualquier tema”.

<gu-island name="EmbedBlockComponent" deferuntil="visible" props="{"html":"”,”caption”:”Suscríbase a nuestro boletín semanal de tecnología, TechScape.”,”isTracking”:false,”isMainMedia”:false,”source”:”The Guardian”,”sourceDomain”:”theguardian.com”} “>

Suscríbase a nuestro boletín semanal de tecnología, TechScape.

Además de eso, BlenderBot está diseñado para mejorar a sí mismo a través de comentarios sobre conversaciones anteriores, mientras que los modelos de lenguaje grandes como OPT-175B son generalmente bastante estáticos. “Los experimentos iniciales ya muestran que a medida que más personas interactúan con el modelo, más aprende de sus experiencias y mejor y más seguro se vuelve con el tiempo”, dice la compañía, “aunque la seguridad sigue siendo un problema abierto”.

Hagamos una pausa y analicemos esas últimas palabras antes de continuar.

Cuando Meta anunció el proyecto, mis cejas se levantaron ligeramente ante la conversación de muestra que había elegido para ilustrar la publicación: una conversación entre un usuario y BlenderBot en la que, bueno, se encuentra la IA. Cuando se le pregunta qué está haciendo, dice “He estado trabajando en mi nuevo libro toda la noche”, y continúa con la afirmación de que el libro será el noveno, con novelas anteriores que incluyen “un relato moderno de orgullo y prejuicio”.

El exingeniero de Google Blake Lemoine, quien expresó su preocupación por el chatbot LaMDA AI de la compañía. Fotografía: The Washington Post/Getty Images

La pregunta de qué significa querer que una IA diga la verdad es complicada. Como vimos en junio con LaMDA de Google, el objetivo fundamental de estos modelos es proporcionar al usuario el texto apropiado para terminar su aviso: si le pregunta a una máquina qué hizo el fin de semana, la máquina probablemente tenga razón al suponer que usted quieren participar en un juego de roles ligero, en lugar de apegarse a los hechos.

No obstante, la decisión de publicitar BlenderBot con una conversación en la que mintió a un usuario sugiere la actitud que está tomando la empresa con él. La idea es que, al lanzar el proyecto como un chatbot en Internet, Meta tenga más margen para experimentar sin arriesgarse a resultados negativos. GPT3 y OPT-175B son modelos de lenguaje de trabajo, destinados a ser utilizados, entre otras cosas, para empresas comerciales serias. BlenderBot 3, sin embargo, es un poco divertido.

De ahí esas preguntas abiertas sobre la seguridad. A los pocos días de que BlenderBot estuviera en línea y listo para mezclarse (solo con estadounidenses, por desgracia), los usuarios publicaron algunos ejemplos picantes de la salida del chatbot.

Jeff Horwitz, del Wall Street Journal, descubrió que el bot parecía haber sido radicalizado por Facebook en apoyando a Donald Trump como presidente de tres mandatos:

El tuit de Jeff Horwitz sobre Facebook
Fotografía: twitter.com/JeffHorwitz/

Y en sacar a relucir teorías de conspiración antisemitas, espontáneo:

El tuit de Jeff Horwitz
Fotografía: twitter.com/JeffHorwitz/

Renee DiResta del Observatorio de Internet de Stanford encontró que el bot reclamaría ser partidario de la organización paramilitar alemana Facción del Ejército Rojo:

Tuit de Renee DiResta del 7 de agosto de 2022
Fotografía: twitter.com/noUpside

Pranav Dixit de BuzzFeed News encontró el bot quiere enviar a Zuckerberg a la cárcel:

Prana Tweet 5 de agosto 22:01
Fotografía: twitter.com/PranavDixit

Todo recuerda más a Tay, el chatbot de aprendizaje basado en inteligencia artificial de Microsoft, que se lanzó en 2016 y rápidamente se convirtió en un seguidor de Trump amante de Hitler:

“Tay está diseñado para involucrar y entretener a las personas donde se conectan entre sí en línea a través de conversaciones informales y divertidas”, dijo Microsoft. ‘Cuanto más hablas con Tay, más inteligente se vuelve.’

Pero el jueves pareció que la conversación de Tay se extendió a declaraciones racistas, incendiarias y políticas. Hasta ahora, sus conversaciones en Twitter han reforzado la llamada ley de Godwin, que a medida que avanza una discusión en línea, la probabilidad de una comparación que involucre a los nazis o a Hitler se acerca, y se animó a Tay a repetir variaciones sobre ‘Hitler tenía razón’ también. como ‘9/11 fue un trabajo interno’.

Pero a diferencia de Microsoft, que rápidamente se dio cuenta de su error y sacó a Tay de la red, Meta parece más decidida a aguantar esto. Si BlenderBot funciona como debería, entonces el peso combinado de la experiencia y la retroalimentación debería filtrar las respuestas extravagantes fuera de su repertorio. Si no es así, lo peor que puede pasar es que Meta deba apagar el bot cuando deje de mejorar.

“A medida que más y más personas interactúen con la demostración, nuestro objetivo será mejorar nuestros modelos utilizando sus comentarios y publicar datos de implementación e instantáneas de modelos actualizados, en beneficio de la comunidad de IA en general”, dice Meta. “Juntos, podemos avanzar en la investigación responsable de IA conversacional con la esperanza de algún día construir computadoras impulsadas por IA con las que todos puedan chatear de maneras genuinamente útiles e interesantes”.

Peligro de tornado

El Departamento del Tesoro de EE. UU. ha prohibido a todos los estadounidenses utilizar el “servicio de mezcla” de criptomonedas Tornado Cash. Desde CoinDesk:

La Oficina de Control de Activos Extranjeros, un organismo de control del Tesoro encargado de prevenir violaciones de sanciones, agregó Tornado Cash a su lista de Nacionales Especialmente Designados, un recuento continuo de personas, entidades y direcciones de criptomonedas incluidas en la lista negra. Como resultado, todos US las personas y entidades tienen prohibido interactuar con Tornado Cash o cualquiera de las direcciones de billetera Ethereum vinculadas al protocolo.

Tornado Cash es un mezclador, una herramienta que le permite ocultar la fuente de efectivo en la cadena de bloques de ethereum. En términos muy simplificados, envía efectivo a Tornado Cash y obtiene un cupón en un buen número redondo (por ejemplo, 100 ETH); cada vez que quieras canjear tu cupón, lo devuelves y el dinero va a una dirección que tú controlas.

Como puede imaginar, eso lo hace crucial para el lavado de dinero en la cadena de bloques. Lazarus Group, la unidad de piratas informáticos de Corea del Norte que robó más de $ 500 millones del juego criptográfico Axie Infinity, ha estado enviando lentamente todo ese botín a través de Tornado Cash, lo que le permite convertirlo nuevamente en moneda fiduciaria más útil sin levantar ninguna bandera roja.

Todo está completamente descentralizado. Incluso los desarrolladores de Tornado Cash no pueden detener su funcionamiento, y mucho menos intervenir para bloquear a los usuarios sospechosos. Algunos argumentan que tiene usos legítimos: si quiero enviarle dinero sin saber cuánto tengo en mi billetera, entonces un servicio como Tornado Cash podría ser útil, pero cada usuario legítimo también proporciona una cobertura adicional para el lavado de dinero. En los últimos meses, una quinta parte de todo el dinero que ingresa a Tornado Cash provino solo de Lazarus Group.

Así ha actuado el Tesoro de EE.UU. “Tornado Cash ha sido el mezclador de referencia para los ciberdelincuentes que buscan lavar el producto del delito, además de ayudar a los piratas informáticos, incluidos aquellos que actualmente están bajo sanciones de EE. UU., a lavar el producto de sus delitos cibernéticos ofuscando el origen y la transferencia. de esta moneda virtual ilícita”, dijo un alto funcionario del Tesoro. “Desde su creación en 2019, Tornado Cash supuestamente ha lavado más de $ 7 mil millones en moneda virtual”.

Pero es poco probable que este sea el final de las cosas. Por un lado, Tornado Cash es, bueno, un servicio de lavado de dinero. Por su naturaleza, es imposible probar que realmente inició una transacción, incluso si recibió efectivo de la dirección del servicio. En teoría, podría meter a un estadounidense al azar en un montón de problemas enviándole dinero a través de Tornado Cash y no tendrían forma de detenerme. O simplemente podrían afirmar que eso sucedió cuando se les interrogó, y no tienen forma de demostrar que están equivocados.

Esto no es solo teórico: en las últimas 24 horas, los usuarios realmente han hecho esto, retirando 0.1ETH – £ 146 – a direcciones disponibles públicamente.

Sin embargo, no estoy seguro de que sea el punto que los fanáticos de las criptomonedas esperan: sí, hace que parezca casi imposible hacer cumplir las regulaciones de lavado de dinero sin tratar a cualquier usuario de criptomonedas como potencialmente criminal. Eso… ¿no me parece un resultado deseable si eres un usuario de criptomonedas?

En términos más generales, Tornado Cash es, en el fondo, solo un contrato inteligente que se ejecuta en Ethereum. El Tesoro de EE. UU. puede jugar Whac-a-Mole sancionando contratos individuales a medida que aparecen, pero no moverá el dial hasta que adopte el enfoque más general de declarar prohibidos los servicios mixtos. Eso no parece estar en las cartas en el corto plazo, pero qué tan rápido llegue ese día depende de qué tan activamente las personas decidan empujar al oso.

El TechScape más amplio

The Observer tenía un par de artículos fantásticos sobre las batallas más profundas en la IA: Gary Marcus, un pionero del aprendizaje automático, escribió un manual sobre la vanguardia de la tecnología, y Steven Poole echó un vistazo al reciente resurgimiento del miedo cartesiano de que la El mundo podría ser una gran simulación.

Otra cuenta criptográfica no bancaria ha pausado los retiros para evitar una corrida no bancaria. Hodlnaut dice que “detener los retiros y los intercambios de tokens fue un paso necesario para estabilizar nuestra liquidez”. La compañía tuvo una gran exposición al difunto fondo de cobertura 3AC, que quebró y no pagará los préstamos en el corto plazo.

Marc Andreessen, el patrocinador multimillonario de Facebook cuya firma de capital de riesgo, Andreessen Horowitz (A16Z) es una de las más influyentes en Silicon Valley, escribió un ensayo muy leído en los albores de la pandemia de covid en el que argumentaba que “es hora de construir”. Bueno, dos años de trabajar desde casa claramente le han afectado tanto a él como a todos nosotros: su última misiva se publicó, no en su sitio web, sino en su consejo local: “ELIMINAR INMEDIATAMENTE todas las superposiciones multifamiliares”. proyectos de zonificación”, escribió. “Disminuirán MASIVAMENTE el valor de nuestras casas”. Es hora de construir en cualquier lugar menos en mi patio trasero: ¿ITTBABMBY?

MacRumors informa que Corea del Sur está investigando la App Store y la Play Store por incumplimientos de sus normas de pago.

Leave a Reply

Your email address will not be published.

This site uses Akismet to reduce spam. Learn how your comment data is processed.