Poco después yo aprendí sobre Eliza, el programa que hace preguntas a las personas como un psicoanalista rogeriano, aprendí que podía ejecutarlo en mi editor de texto favorito, Emacs. Eliza es realmente un programa simple, con texto codificado y control de flujo, coincidencia de patrones y aprendizaje simple y basado en plantillas para desencadenantes psicoanalíticos, como la mención reciente de su madre. Sin embargo, aunque sabía cómo funcionaba, sentí una presencia. Sin embargo, rompí esa extraña sensación para siempre cuando se me ocurrió seguir presionando regresar. El programa pasó por cuatro posibles indicaciones de apertura y el compromiso se rompió como un actor en una película que hace contacto visual a través de la cuarta pared.
Para muchos, la semana pasada, su compromiso con LaMDA de Google, y su supuesta sensibilidad, se vio interrumpido por un Economista artículo de la leyenda de la inteligencia artificial Douglas Hofstadter en el que él y su amigo David Bender muestran lo “alucinantemente hueca” que suena la misma tecnología cuando se les hace una pregunta sin sentido como “¿Cuántas piezas de sonido hay en una nube cumulonimbus típica?”
Pero dudo que tengamos estos testimonios obvios de inhumanidad para siempre.
De aquí en adelante, el uso seguro de la inteligencia artificial pasa por desmitificar la condición humana. Si no podemos reconocer y entender cómo funciona la IA, si incluso los ingenieros expertos pueden engañarse a sí mismos para detectar la agencia en un “loro estocástico”, entonces no tenemos forma de protegernos de productos negligentes o malévolos.
Se trata de acabar con la revolución darwiniana, y más. Comprender lo que significa ser animales y extender esa revolución cognitiva para comprender cuán algorítmicos somos también. Todos tendremos que superar el obstáculo de pensar que alguna habilidad humana en particular (creatividad, destreza, empatía, lo que sea) nos diferenciará de la IA. Ayudándonos a aceptar quiénes somos realmente, cómo nosotros trabajo, sin a nosotros perder el compromiso con nuestras vidas, es un enorme proyecto extenso para la humanidad, y de las humanidades.
Lograr este entendimiento sin que un número sustancial de nosotros adopte identidades polarizadoras, supersticiosas o que incluyan máquinas que pongan en peligro a nuestras sociedades no es solo una preocupación para las humanidades, sino también para las ciencias sociales y para algunos líderes políticos. Para otros líderes políticos, lamentablemente, puede ser una oportunidad. Un camino hacia el poder puede ser alentar y aprovechar tales inseguridades y conceptos erróneos, al igual que algunos utilizan actualmente la desinformación para perturbar las democracias y la regulación. La industria de la tecnología en particular necesita demostrar que está del lado de la transparencia y la comprensión que sustenta la democracia liberal, no el secretismo y el control autocrático.
Hay dos cosas que la IA realmente no es, por mucho que admiro a la gente que afirma lo contrario: no es un espejo, y no es un loro. A diferencia de un espejo, no solo nos refleja pasivamente la superficie de quienes somos. Con la IA, podemos generar ideas, imágenes, historias, dichos, música novedosos, y todos los que detectan estas capacidades crecientes tienen razón para activarse emocionalmente. En otros humanos, tal creatividad es de enorme valor, no solo para reconocer la cercanía social y la inversión social, sino también para decidir quién tiene genes de alta calidad con los que te gustaría combinar los tuyos.
AI tampoco es un loro. Los loros perciben muchos de los mismos colores y sonidos que nosotros, en la forma en que lo hacemos, usando el mismo hardware y, por lo tanto, experimentando la misma fenomenología. Los loros son muy sociales. Se imitan unos a otros, probablemente para probar la afiliación al grupo interno y el afecto mutuo, al igual que nosotros. Esto es muy, muy poco parecido a lo que Google o Amazon están haciendo cuando sus dispositivos “parlotean” tu cultura y tus deseos. Pero al menos esas organizaciones tienen animales (personas) en ellas y se preocupan por cosas como el tiempo. El loro de los loros no se parece en nada a lo que hace un dispositivo de inteligencia artificial en esos mismos momentos, que está cambiando algunos bits digitales de una manera que se sabe que es probable que venda productos a las personas.
Pero, ¿todo esto significa que la IA no puede ser sensible? ¿Qué es incluso esta “sensibilidad” que pretenden detectar algunos? los Diccionario de ingles Oxford dice que es “tener una perspectiva o un sentimiento”. He escuchado a filósofos decir que es “tener una perspectiva”. Las cámaras de vigilancia tienen perspectivas. Las máquinas pueden “sentir” (percibir) cualquier cosa para la que construimos sensores (tacto, sabor, sonido, luz, tiempo, gravedad), pero representar estas cosas como números enteros grandes derivados de señales eléctricas significa que cualquier “sensación” de máquina es mucho más diferente a la nuestra. que incluso la visión de abejorro o el sonar de murciélago.