Diez años después del lanzamiento inicial de Google Glass, uno de los primeros pares de gafas inteligentes equipadas con cámara disponibles comercialmente, está en marcha una segunda revolución de la tecnología portátil, y en su mayor parte ignora las lecciones de la primera.
El mes pasado, Meta CEO Mark Zuckerberg subió al escenario en Meta Connect, la conferencia anual de la compañía para desarrolladores de realidad virtual, y reveló algo significativamente más convincente que piernas virtuales: las Meta Gafas Inteligentes.
Las Meta Smart Glasses, que son producto de una asociación entre el gigante de las redes sociales y el fabricante de gafas Ray-Ban, son en realidad la segunda generación de gafas conectadas a Internet que surgen de esta colaboración. El primero, el Historias de Ray-Ban, cayeron en 2021 y fueron en gran medida olvidados. Las lentes estaban equipadas con cámaras duales que podían capturar fotografías o videoclips de 30 segundos.
Las Meta Smart Glasses, que llegaron a las tiendas minoristas el 17 de octubre, van mucho más allá. Primero, las gafas han sido infundidas con Meta AI, un asistente de conversación en el molde de ChatGPT y nacido de los grandes modelos de lenguaje (LLM) de Meta que anteriormente elogios a Ghengis Khan y empujado teorías de conspiración electoral. También ampliará las capacidades de la cámara, desde captura de imágenes y vídeos en ráfagas cortas hasta transmisión en vivo completa.
Meta no es la única empresa que adopta tecnología portátil basada en IA. De hecho, su anuncio pareció lanzar una serie de otros dispositivos que se apresuraron a capitalizar el revuelo por la IA portátil. Humane, una startup tecnológica formada por ex empleados de Apple, deslizó su misterioso Ai Chapaposicionado como una especie de asistente portátil estilo Siri o Alexa con una pantalla proyectada con láser y cámara y micrófono integrados, en el solapa de chaqueta de Naomi Campell mientras caminaba por la pasarela de la Semana de la Moda de París 2023. Días después, Rewind AI Anunciado Sería un colgante que podría registrar y transcribir todo lo que dice y oye el usuario.
Es casi seguro que estos dispositivos son piezas de tecnología más impresionantes que las que Google inventó en 2013. Pero estas empresas harían bien en recordar que Google Glasses no falló porque la tecnología no fuera lo suficientemente buena. Fracasó porque asustó a la gente. Mucho.
Banderas rojas usables
La prisa por sacar estos dispositivos portátiles al mercado presenta un doble problema de privacidad: en primer lugar, ¿cuánto de nuestras vidas quedará capturado sin nuestro conocimiento y consentimiento por estos dispositivos? Y en segundo lugar, ¿se utilizarán nuestras conversaciones, actividades y semejanzas para entrenar modelos de IA?
En su mayor parte, estas preguntas no tienen respuestas claras. Meta, que no respondió a múltiples solicitudes de comentarios de The Daily Beast, ha reconocido al menos en cierta medida que grabar discretamente en público a través de gafas probablemente asuste a la gente. Para solucionarlo, la compañía ha incluido una luz indicadora en las monturas que, en teoría, informa a otras personas alrededor del usuario que están grabando.
ignorando eso primeras revisiones sugieren que la luz no siempre es perceptible y que Meta captó advertencias de los reguladores de privacidad de la UE por hacer que su indicador sea demasiado pequeño en las Historias de Ray-Ban; este método de informar a otros sobre la grabación aún es insuficiente, según Calli Schroeder, asesora principal y asesora de privacidad global del Electronic Privacy Information Center, organismo de vigilancia de la privacidad del consumidor.
“Las luces indicadoras, los pitidos o indicadores similares son generalmente tan pequeños e indetectables que sería impactante para un transeúnte siquiera notarlo, y mucho menos saber qué indica la señal”, le dijo a The Daily Beast. “Escuchamos pings y vemos lucecitas en los dispositivos de las personas todo el tiempo cuando nos movemos por el mundo. Nunca se me ocurriría que esas cosas pretenden ser una revelación significativa de que estoy siendo grabado”.
Según Schroeder, la mejor práctica para alertar a los demás de que estás usando una cámara o un micrófono que podría encenderse en cualquier momento es usar “un cartel grande o una camiseta que diga ‘Te estoy grabando’ cada vez que Úselo”, y agregó que solo estaba bromeando.
Meta no ha sido exactamente sinónimo de privacidad, y es poco probable que un LED blanco cambie eso. Dada la enorme cantidad de datos de usuarios que posee la empresa, existe mucha preocupación adicional sobre cómo utilizará el contenido capturado a través de las cámaras integradas. Después de todo, la empresa consideró abiertamente incluyendo funciones de reconocimiento facial en su primer par de gafas inteligentes, aunque la compañía actualmente no incluye (o al menos comercializa) esta tecnología en sus wearables. Google Glass tampoco incluía la tecnología de reconocimiento facial de Google, pero los usuarios pudieron hjuntos su propia versión del software que se ejecutará en los dispositivos.
Está claro que, al menos hasta cierto punto, el objetivo de la compañía con las gafas inteligentes es alimentar sus modelos de IA con toneladas de información. “Si lo piensas bien, las gafas inteligentes son el factor de forma ideal para permitir que un asistente de inteligencia artificial vea lo que estás viendo y escuche lo que estás escuchando”, dijo Zuckerberg cuando anunció las Meta Smart Glasses.
meta tiene aceptado al uso de publicaciones públicas de Facebook e Instagram, incluidos textos y fotografías, para entrenar su modelo de IA. La empresa insiste que las fotos y vídeos están encriptados, y la empresa sólo recopila”datos esenciales”, pero hay una falta de claridad sobre si la empresa puede o utilizará información de sus gafas inteligentes para reforzar su IA.
No es raro que las empresas utilicen “datos anonimizados” (información de la que se ha eliminado cualquier información potencialmente identificable) para entrenar sus sistemas. Sin embargo, tampoco es raro que el proceso de anonimización sea lamentablemente insuficiente. Una vez, los investigadores compraron datos del historial de navegación web de ciudadanos alemanes y los combinaron con información disponible públicamente para revelar los hábitos en línea de las personasincluidos los hábitos de visualización de pornografía de un juez.
También se vuelve mucho más complicado al tener en cuenta los datos capturados por cámaras y micrófonos. “Los sistemas de reconocimiento facial pueden identificar a los transeúntes, proporcionando funcionalmente un mapa en tiempo real de dónde se encuentran, dependiendo de cuántos dispositivos portátiles haya a su alrededor”, advirtió Schroeder. “Los sistemas que rastrean la marcha o el audio pueden identificar al individuo incluso si tiene la cara cubierta”.
Más allá de eso, simplemente no existe una forma factible de que las personas opten por que se registre su imagen y se utilice potencialmente para entrenar la IA. “Una empresa que se beneficia de datos personales que una persona no dio su consentimiento y no tomó ninguna medida para permitir su recopilación parece poco ético”, dijo Schroeder. “Existir en el mundo no debería convertirnos en blanco de la recopilación de datos”.
El regreso de los agujeros de cristal
Está claro que otras empresas que se lanzan al espacio de la IA portátil al menos han considerado estas cuestiones, aunque sus respuestas suelen ser turbias. Ella Geraerdts, gerente de comunicaciones que representa a Humane, dijo a The Daily Beast que el Ai Pin de la compañía sería un dispositivo con “privacidad primero” y “sin palabra de activación y, por lo tanto, sin escucha ‘siempre activa'”. Esto, dijo, refleja la “visión de Humane de crear productos que pongan la confianza en el centro”.
Dan Siroker, cofundador y director ejecutivo de Rewind, dijo a The Daily Beast que su compañía se apresuró a anunciar su grabación y transcripción de Pendant mientras aún se encontraba en las primeras etapas de desarrollo porque “quería dejar la importancia de la privacidad en el éter”. .”
Sin embargo, de todos los dispositivos portátiles de IA anunciados en las últimas semanas, Pendant recibió quizás la mayor virulencia en línea. Si bien la compañía enfatiza que está adoptando un “enfoque que prioriza la privacidad” y planea “ofrecerle funciones para garantizar que nadie sea grabado sin su consentimiento”, solo ha ofrecido dos ideas de cómo podría lograrlo: ya sea almacenando únicamente grabaciones de personas que dieron su consentimiento verbal para ser grabadas o produciendo resúmenes de texto generados por el mejor juicio de la IA sobre detalles importantes, en lugar de transcripciones textuales y nada implementado sólidamente.
El dispositivo es todavía más teórico que práctico, por lo que ninguna de las ideas se ha implementado realmente. “Si tenemos mejores ideas que surjan entre ahora y [launch]los incorporaremos absolutamente”, dijo Siroker.
Hay que reconocer que Rewind es mucho más claro sobre cómo maneja los datos: Siroker dijo explícitamente que no utiliza grabaciones para entrenar modelos de IA y que todas las grabaciones y transcripciones se realizan y almacenan localmente en el dispositivo del usuario.
Siroker reconoció que los dispositivos portátiles inteligentes que aparecieron antes, y algunos que están llegando al mercado ahora, jugaron rápido y libremente con la idea de grabar en público. Cuando Google Glass apareció por primera vez en el mundo, las empresas gente prohibida de usarlos. Los usuarios fueron abucheados y etiquetados. Agujeros de vidrio. Poco sobre los nuevos dispositivos en camino ayudan mucho a abordar las causas de ese rechazo público de hace una década y, en cambio, simplemente suponen que las cosas serán diferentes esta vez. “Google Glass fue demasiado arrogante con respecto a la privacidad y creo que no le hizo ningún favor a toda la industria”, dijo Siroker, “y todavía estamos saliendo de ese agujero que creó Google Glass”.
2023-10-28 05:52:27
#Las #gafas #inteligentes #Meta #RayBan #ignoran #por #qué #falló #Google #Glass,