Y finalmente, sofisticación: los hacks asistidos por IA abren la puerta a estrategias complejas más allá de las que puede diseñar la mente humana sin ayuda. Los sofisticados análisis estadísticos de las IA pueden revelar relaciones entre variables y, por lo tanto, posibles explotaciones que los mejores estrategas y expertos nunca habrían reconocido. Esa sofisticación puede permitir que las IA implementen estrategias que subvierten múltiples niveles del sistema de destino. Por ejemplo, una IA diseñada para maximizar el porcentaje de votos de un partido político puede determinar una combinación precisa de variables económicas, mensajes de campaña y ajustes de procedimiento de votación que podrían marcar la diferencia entre la victoria y la derrota electoral, extendiendo la revolución que el software de mapeo trajo a la manipulación electoral. todos los aspectos de la democracia. Y eso ni siquiera es entrar en los trucos difíciles de detectar que una IA podría sugerir para manipular el mercado de valores, los sistemas legislativos o la opinión pública.
A la velocidad, escala, alcance y sofisticación de la computadora, la piratería se convertirá en un problema que nosotros, como sociedad, ya no podemos manejar.
me acuerdo de una escena de la pelicula terminador, en el que Kyle Reese describe a Sarah Connor el cyborg que la persigue: “No se puede negociar. No se puede razonar. No siente lástima, ni remordimiento, ni miedo. Y absolutamente no se detendrá, nunca…” No estamos tratando con literal asesinos cyborg, pero a medida que la IA se convierte en nuestro adversario en el mundo de la piratería social, es posible que nos resulte igual de difícil mantenernos al día con su capacidad inhumana para cazar nuestras vulnerabilidades.
Algunos investigadores de IA se preocupan por la medida en que las poderosas IA podrían superar las limitaciones impuestas por los humanos y, potencialmente, llegar a dominar la sociedad. Aunque esto puede parecer una especulación descabellada, es un escenario que al menos vale la pena considerar y prevenir.
Sin embargo, hoy y en un futuro cercano, el hackeo descrito en este libro será perpetrado por los poderosos contra el resto de nosotros. Todas las IA que existen, ya sea en su computadora portátil, en línea o incorporadas en un robot, están programadas por otras personas, generalmente en sus intereses y no en los suyos. Aunque un dispositivo conectado a Internet como Alexa puede simular ser su amigo de confianza, nunca olvide que está diseñado para vender productos de Amazon. Y así como el sitio web de Amazon lo empuja a comprar sus marcas propias en lugar de los productos de mayor calidad de la competencia, no siempre actuará en su mejor interés. Hackeará su confianza en Amazon para los objetivos de sus accionistas.
En ausencia de una regulación significativa, realmente no hay nada que podamos hacer para evitar que se desarrolle la piratería de IA. Necesitamos aceptar que es inevitable y construir estructuras de gobierno sólidas que puedan responder de manera rápida y efectiva al normalizar los ataques beneficiosos en el sistema y neutralizar los maliciosos o los dañinos inadvertidamente.
Este desafío plantea preguntas más profundas y difíciles que cómo evolucionará la IA o cómo las instituciones pueden responder a ella: ¿Qué hacks cuentan como beneficiosos? ¿Cuáles son perjudiciales? ¿Y quién decide? Si cree que el gobierno debería ser lo suficientemente pequeño como para ahogarse en una bañera, entonces probablemente piense que los trucos que reducen la capacidad del gobierno para controlar a sus ciudadanos suelen ser buenos. Pero es posible que aún no desee sustituir los señores tecnológicos por los políticos. Si crees en el principio de precaución, querrás que tantos expertos prueben y juzguen los hackeos como sea posible antes de que se incorporen a nuestros sistemas sociales. Y es posible que desee aplicar ese principio más adelante, a las instituciones y estructuras que hacen posible esos hacks.
Las preguntas continúan. ¿Los hacks creados por IA deben gobernarse local o globalmente? ¿Por administradores o por referéndum? ¿O hay alguna manera de que podamos dejar que el mercado o los grupos de la sociedad civil decidan? (Los esfuerzos actuales para aplicar modelos de gobierno a los algoritmos son un indicador temprano de cómo irá esto). Las estructuras de gobierno que diseñemos otorgarán a algunas personas y organizaciones el poder de determinar los hacks que darán forma al futuro. Tendremos que asegurarnos de que ese poder se ejerza sabiamente.
Extraído de La mente de un hacker: cómo las reglas de la poderosa sociedad de la curva y cómo doblarlas hacia atrás por Bruce Schneier. Derechos de autor © 2023 por Bruce Schneier. Usado con permiso del editor, WW Norton & Company, Inc. Todos los derechos reservados.