Microsoft AI: los expertos en privacidad hacen sonar la alarma

La nueva característica de inteligencia artificial más popular de Microsoft está generando preocupaciones de que podría usarse indebidamente en las manos equivocadas.

Esta semana, la compañía mostró una nueva herramienta llamada Recuperar para Windows Computadoras que actúan como una “máquina del tiempo” personal, permitiendo a los usuarios acceder rápidamente a cualquier cosa que haya estado en la pantalla, como documentos, imágenes y sitios web. Es diferente de una búsqueda de palabras clave; la herramienta guarda periódicamente capturas de pantalla de la pantalla del usuario y las almacena directamente en el dispositivo. Luego utiliza IA para procesar los datos y hacer que se puedan buscar.

Por ejemplo, si alguien buscó previamente un vestido verde o el nombre de una heladería local, puede pedirle a la función que “recuerde” cualquier cosa en su historial que se haya mostrado en la pantalla.

Aunque la llamada búsqueda semántica es un gran paso adelante para la IA, llega en un momento en que la industria avanza muy rápidamente y los reguladores gubernamentales, las empresas y los consumidores todavía están descubriendo cómo utilizar la tecnología de manera responsable.

Jen Golbeck, profesora de IA en la Universidad de Maryland que se centra en la privacidad, dijo que la función de recuperación podría representar una posible “pesadilla” si el dispositivo cae en las manos equivocadas.

“Es posible que las cosas permanezcan en su dispositivo, pero eso no significa que la gente no pueda acceder a ellas”, dijo. “No tendrás una opción para protegerte incluso si usas el modo incógnito o borras tu historial porque la herramienta tiene acceso a todo lo que ha estado en tu pantalla”.

El regulador independiente del Reino Unido para la Protección de Datos y la Libertad de Información, la Oficina del Comisionado de Información (ICO), dijo a Espanol que está investigando la herramienta “para comprender las salvaguardas implementadas para proteger la privacidad del usuario”.

“Esperamos que las organizaciones sean transparentes con los usuarios sobre cómo se utilizan sus datos y sólo procesen datos personales en la medida en que sea necesario para lograr un propósito específico”, dijo la ICO en un comunicado.

Microsoft no respondió de inmediato a una solicitud de comentarios. El director ejecutivo Satya Nadella dijo a The Wall Street Journal en una entrevista antes del lanzamiento del lunes que las búsquedas web sólo deben realizarse en el navegador web Edge de Microsoft y que las capturas de pantalla nunca salen de la computadora del usuario.

“Hay que unir dos cosas: esta es mi computadora y esta es mi retirada, y todo se hace localmente”, dijo.

Geoff Blaber, director ejecutivo de la firma de investigación de mercado CCS Insight, dijo que eso hace que el tema sea menos preocupante.

“La reacción de algunos a esta característica no es sorprendente, pero es una reacción exagerada dado que los datos permanecen exclusivamente en el dispositivo y el usuario tiene control total”, dijo Blaber.

Alguien puede decidir si desea activar la función durante el proceso de configuración del dispositivo y puede personalizar y poner en la lista negra a qué aplicaciones y sitios web puede acceder Recall.

“Estos controles sugieren que la función se ha creado teniendo en cuenta la seguridad y la privacidad”, dijo. “El retiro del mercado no atraerá a todos, pero es probable que la utilidad que brinde sea significativa”.

Potencial de usos maliciosos

Pero Golbeck citó ocasiones en las que esa protección podría no ser suficiente, como un periodista en un país hostil, una persona que intenta salir de una relación abusiva, alguien que busca información médica confidencial o un empleado cuyo jefe quiere rastrearlo. Ella cree que los problemas relacionados con la herramienta probablemente afectarán más al lugar de trabajo.

“Sabemos que los trabajos monitorean lo que estamos haciendo en sus dispositivos, pero muchas personas harán algo personal en su computadora de trabajo y todo eso será archivado y visible para un departamento de TI, incluso si solo permanece en el dispositivo. ” ella añadió.

Golbeck dijo que la tecnología, a pesar de sus beneficios, con demasiada frecuencia se desarrolla sin considerar sus usos maliciosos.

“Lo que hemos visto en los últimos 15 años es que cada uno de esos posibles casos de uso malicioso se materializa de una forma u otra”, afirmó. “La gente querrá utilizar esta característica interesante sin comprender el riesgo para la privacidad: habrá un registro permanente de todo lo que hagas”.

En el pasado han surgido reacciones similares a funciones como las contraseñas biométricas, como las huellas dactilares, el reconocimiento facial y el escaneo del iris. Blaber dijo que para superar algunas de las preocupaciones iniciales, Microsoft y sus socios necesitarán demostrar el valor, la seguridad y la privacidad del producto en el mundo real.

Aun así, Michela Menting, directora senior de investigación de ABI Research, cree que la función es un “paso atrás” para la privacidad.

“El argumento de que los piratas informáticos necesitan acceso físico incluso para poder manipular Recall es, en el mejor de los casos, miope porque hay muchas formas muy ingeniosas en que los actores de amenazas podrían explotar una herramienta tan valiosa”, dijo. “Todo lo que se necesita es tiempo y esfuerzo para encontrar una manera”.