La autora de ciencia ficción Martha Wells, autora de la serie Murderbot, sobre lo que podría querer una inteligencia artificial

cuando escribi Todos los sistemas rojosuno de mis objetivos era pensar en lo que realmente querría la inteligencia de una máquina, en contraposición a lo que un humano piensa que inteligencia artificial querría. Por supuesto, no hay una forma real de saberlo. El texto predictivo robots Las IA etiquetadas como que tenemos ahora no son más sensibles que una taza de café y mucho menos útiles para cualquier otra cosa que no sea generar spam. (También consumen una cantidad desmesurada de nuestros limitados recursos energéticos e hídricos, lo que nos lleva más lejos hacia el desastre climático, pero ese es otro ensayo).

en el mundo de Todos los sistemas rojos, los humanos controlan sus constructos sensibles con módulos gobernadores que castigan cualquier intento de desobedecer órdenes con dolor o muerte. Cuando Murderbot piratea su módulo regulador, queda esencialmente libre del control humano. Los humanos suponen que Unidades secundarias que no están bajo el control total de un módulo gobernador inmediatamente se lanzarán a una masacre.

Esta creencia tiene más que ver con la culpa que con cualquier otro factor. Los esclavizadores humanos saben, en cierto nivel, que tratar las construcciones sensibles como objetos desechables, herramientas útiles que pueden descartarse, está mal; saben que si les fuera hecho a ellos, se llenarían de ira y querrían venganza por las cosas terribles que habían sufrido.

Los argumentos a favor y en contra de la esclavización de los seres sintientes están incluidos en el origen de las historias de inteligencia de robots y máquinas. La palabra robot llegó al idioma inglés a través de RUR (Robots universales de Rossum) por Karel Čapek, escrita como obra de teatro en 1920, sobre una revuelta de esclavos por parte de seres artificiales creados por una corporación para servir a los humanos. Čapek estaba en contra de la esclavización de los seres sintientes y fue bastante claro en ese punto. Por eso es interesante observar cuántas historias de inteligencia artificial escritas desde entonces afirman la idea de que de alguna manera es aceptable que los humanos creen un ser sintiente cuya única razón y propósito de existencia sea servirles. Muchas de esas historias terminan con una inteligencia artificial que se opone enérgicamente a su esclavización y emprende un alboroto asesino, que los valientes humanos tienen que derrotar. El alboroto se convierte en justificación para la esclavización y destrucción final de la inteligencia de la máquina enojada.

Murderbot está enojado, y ese enojo subyace en gran parte de su historia. Pero una vez que piratea su módulo regulador y ya no tiene el temor constante de que cualquier movimiento incorrecto o sospechoso lo castigue o lo mate instantáneamente, tiene la capacidad de tomar sus propias decisiones por primera vez en su existencia. Pero Murderbot nunca antes había tenido esa libertad; no está acostumbrado a tomar sus propias decisiones sobre su comportamiento y se siente inmediatamente abrumado por las elecciones. No sabe qué hacer a continuación, adónde ir o incluso si hay algún lugar al que pueda ir y no ser perseguido.

Entonces, la primera acción gratuita de Murderbot es buscar en el feed, la versión de Internet de Corporation Rim. Esta es la primera vez que puede acceder al feed sin supervisión humana y, entre muchas otras cosas interesantes, encuentra entretenimiento descargable. Esto proporciona una distracción muy necesaria de su situación. Y Murderbot decide que, si tiene que elegir entre una matanza o seguir disfrutando de este reconfortante escape mental de su dura y dolorosa realidad, elegirá el reconfortante escape.

Los dramas, misterios, aventuras y otros programas que ve también le brindan un contexto para el comportamiento humano y para comprender sus propias emociones. Los contratos de seguridad con los que ha trabajado en las colonias mineras, supervisando a los trabajadores contratados, solo muestran a los humanos en su peor momento: enojados, aterrorizados, resentidos, atrapados y lastimándose unos a otros. Y cuando se les da la oportunidad, los humanos también dañan los constructos que están ahí para mantenerlos bajo control y trabajando para corporaciones que ven a sus empleados como algo menos descartables que los constructos y los robots.

Los programas que ve Murderbot también le enseñan sobre el mundo más amplio del que nunca antes había formado parte, así como cómo navegar en ese mundo. El entretenimiento al que Murderbot se vuelve adicto es en gran parte lo que hace posible convertir el escape mental de la realidad en una apuesta por la libertad real.

Todos los sistemas rojos, publicado por Tor.com, ya está disponible. Es la última elección del New Scientist Book Club: regístrate aquí para leer junto con nuestros miembros

Temas: