A medida que los investigadores aplican inteligencia artificial y autonomía a máquinas aéreas letales, sus sistemas plantean nuevas preguntas sobre hasta qué punto los humanos seguirán teniendo control del combate moderno.
Los enjambres de drones inteligentes representarían un gran avance en la guerra. En lugar de que los soldados pilotearan vehículos individuales sin tripulación, podrían desplegar enjambres aéreos y marítimos para cooperar en misiones “con una necesidad limitada de atención y control humanos”, según un informe reciente del gobierno estadounidense.
¿Por qué escribimos esto?
La tecnología de drones con inteligencia artificial podría llegar a cambiar la guerra, pero la autonomía de las máquinas letales plantea serios dilemas éticos sobre cómo y si se debe regular el desarrollo, la implementación y el uso de la IA.
La cuestión que se plantea en el futuro es si el Pentágono puede superar los numerosos desafíos tecnológicos de la guerra con drones y, al mismo tiempo, mantener la ética de un Estado democrático. Se teme que los adversarios puedan explotar su propia tecnología de enjambre en conflictos futuros, sin restricciones éticas.
Una pregunta clave es hasta qué punto es necesaria o deseable la supervisión humana. Después de todo, los humanos no procesan la información tan rápido como las máquinas, lo que puede aumentar la presión para sacarlos del circuito a fin de seguir siendo competitivos en la batalla.
“Necesitamos que más gente piense en ellos en el contexto militar, en el contexto del derecho internacional, en el contexto de la ética”, dice Margaret E. Kosal, ex asesora de ciencia y tecnología del Departamento de Defensa.
La proliferación de drones baratos Los conflictos en Ucrania y Oriente Medio han desatado una lucha por perfeccionar vehículos no tripulados que puedan planificar y trabajar juntos en el campo de batalla.
Estos “enjambres” inteligentes de próxima generación representarían un gran avance en la guerra. En lugar de que los soldados pilotearan vehículos individuales sin tripulación, podrían desplegar enjambres aéreos y marítimos en misiones “con una necesidad limitada de atención y control humanos”, según un informe reciente del gobierno estadounidense. Es el “santo grial” para el ejército, dice Samuel Bendett, asesor del Centro de Análisis Naval, un centro de investigación y desarrollo financiado por el gobierno federal.
También es un campo minado ético. A medida que los investigadores aplican inteligencia artificial y autonomía a máquinas letales, sus sistemas plantean el espectro de los ejércitos de drones y plantean nuevas preguntas sobre el papel que debe desempeñar el control humano en el combate moderno. Y aunque los funcionarios del Pentágono han prometido durante mucho tiempo que los humanos siempre estarán “al tanto” cuando se trate de decisiones de matar, el año pasado el Departamento de Defensa actualizó su guía para abordar la autonomía de la IA en las armas.
¿Por qué escribimos esto?
La tecnología de drones con inteligencia artificial podría llegar a cambiar la guerra, pero la autonomía de las máquinas letales plantea serios dilemas éticos sobre cómo y si se debe regular el desarrollo, la implementación y el uso de la IA.
“Es un nivel de aprobación muy alto para siquiera proceder a probar un sistema de armas completamente autónomo”, dice Duane T. Davis, profesor titular del departamento de informática de la Escuela Naval de Posgrado en Monterey, California. Pero “prevé la posibilidad de sistemas de armas completamente autónomos”.
Esto se debe en gran medida a que gran parte de la investigación militar estadounidense está impulsada por los temores de cómo los adversarios pueden explotar su propia tecnología de enjambre en un futuro conflicto con Estados Unidos o sus aliados. La pregunta de cara al futuro es si el Pentágono puede superar los innumerables desafíos tecnológicos de la guerra con drones. manteniendo al mismo tiempo la ética de un estado democrático.
La preocupación es que China “no va a lidiar con estas mismas decisiones éticas de la misma manera que lo haremos nosotros”, dice el Dr. Davis.
¿Qué forma un enjambre?
Los casos actuales de ataques de grupos militares no tripulados en campos de batalla, así como Los espectáculos de luces con drones ahora aparecen como entretenimiento en los cielos nocturnos Los misiles que sobrevuelan Estados Unidos no son enjambres inteligentes. Los primeros son, en esencia, salvas de “misiles” aéreos de movimiento lento, cada uno de ellos operado por un ser humano, sin coordinación ni comunicación entre máquinas. Los segundos –una alternativa de alta tecnología a los fuegos artificiales– son exhibiciones preprogramadas en condiciones casi ideales, que no son particularmente útiles en un contexto militar, ya que un adversario puede descubrir cómo contrarrestarlas.
“Para un enemigo, eso simplemente significa que tengo un patrón de cosas a las que puedo disparar, o que están operando de manera similar, por lo que es más fácil predecir lo que van a hacer”, señala Bryan Clark, investigador principal del Hudson Institute.
En cambio, los enjambres utilizan una serie de sensores para comunicarse entre drones y luego pasan a la IA para planificar y colaborar en los ataques sobre la marcha. Están programados para crear un asedio de una fuerza abrumadora desde “un montón de ángulos diferentes, como las hormigas que se arrastran sobre un escarabajo, o lo que sea, para comérselo”, dice Zachary Kallenborn, miembro de la Escuela de Política y Gobierno Schar de la Universidad George Mason.
Un gran desafío para los operadores de drones actuales en los campos de batalla de Ucrania es la tecnología de interferencia rusa, que puede impedir la comunicación entre el operador y el dron y, por lo tanto, entre drones. Para abordar este desafío, algunos investigadores están trabajando en formas para que los drones observen e infieran lo que están haciendo otros drones.
La niebla de la guerra complica la observación visual. Por eso, Theodore Pavlic, de la Universidad Estatal de Arizona, comenzó recientemente a estudiar a las hormigas tejedoras en Australia a instancias del Comando de Operaciones Especiales de los EE. UU. Mientras las hormigas se reúnen y transportan a sus presas a los árboles, perciben la presencia de las demás sin mirar constantemente a su alrededor.
También cooperan y toman decisiones en equipo. “Si podemos replicar eso [with drones]“Básicamente, puedes presionar “ir” y planearán su propio camino”, dice el Dr. Pavlic, quien también estudia abejas sin aguijón y otros tipos de hormigas. “Si surgen nuevos desafíos, entonces pueden [set] objetivos temporales a corto plazo para superar esos desafíos”.
Relación calidad-precio
La construcción de drones inteligentes, con más inteligencia y capacidad de procesamiento a bordo, implica el uso de máquinas más grandes y más caras, y eso tiene un lado negativo. “Los ordenadores sólo pueden ser tan pequeños, y sólo se puede poner cierta potencia y carga útil en un dron”, afirma Nisar Ahmed, director del Centro de Investigación e Ingeniería de Vehículos No Tripulados de la Universidad de Colorado en Boulder.
Para empezar, el despegue de un dron requiere aproximadamente diez veces la energía que gasta un velocista de primera clase para correr una carrera de 100 metros, afirma Vijay Kumar, decano de la facultad de ingeniería de la Universidad de Pensilvania. El resultado: las misiones con drones aéreos están limitadas actualmente en términos de distancia y tiempo. Como los drones de mayor alcance son caros, los drones más económicos que pueden permanecer en el aire durante una hora, o incluso 30 minutos, ofrecen más por cada dólar invertido.
A pesar de los desafíos, los investigadores están logrando avances. Red Cat Holdings, una empresa de tecnología de drones de Puerto Rico, anunció el año pasado un sistema en el que una persona podría operar cuatro de sus drones Teal, en lugar de la proporción actual de 1 a 1. La empresa pretende aumentar esa proporción otorgando aún más autonomía a las propias máquinas.
Sin embargo, la incorporación de esa autonomía a máquinas letales también plantea desafíos éticos en cuanto a mantener la supervisión humana, en particular a medida que aumenta la velocidad y la complejidad de la toma de decisiones con drones. Después de todo, los humanos no procesan la información tan rápido como las máquinas, lo que puede aumentar la presión para sacarlos del circuito si, por ejemplo, China u otro adversario despliega drones equipados con IA capaces de tener plena autonomía.
El pentágono contrató a un oficial de ética En 2020, la ONU se enfrentará precisamente a esos desafíos. Sin embargo, “necesitamos que más personas piensen en ellos en el contexto militar, en el contexto del derecho internacional, en el contexto de la ética”, dice Margaret E. Kosal, profesora de la Escuela Sam Nunn de Asuntos Internacionales del Instituto de Tecnología de Georgia y ex asesora de ciencia y tecnología del Departamento de Defensa.
Una analogía de ametralladora
Lo que está claro es que la tecnología seguirá desarrollándose a un ritmo vertiginoso, al tiempo que los investigadores se enfrentan a desafíos específicos del campo de batalla actual. Los drones cambiarán la guerra de la misma forma que lo hizo la ametralladora hace más de un siglo, afirma George Matus, director de tecnología de Red Cat y fundador de su filial Teal.
“En aquel entonces, un puñado de artilleros podía derrotar a un gran número incluso de la caballería más poderosa. [Sometimes, even] “Hoy en día, un puñado de drones puede derrotar a un batallón de los vehículos blindados más poderosos incluso antes de que lleguen a la línea del frente”. En el futuro, los enjambres inteligentes demostrarán ser aún más efectivos, añade.
Aunque muchos investigadores temen que la tecnología sea un paso más hacia una guerra de enjambre total, Matus abraza la visión.
“La línea del frente se automatizará en su mayor parte, si no en su totalidad”, afirma. “No tengo ninguna duda de que, al menos durante las próximas décadas, esta será una parte muy importante del futuro de la guerra”.
Otros lo ven como un paso evolutivo con aplicaciones más limitadas en el campo de batalla. “No va a ser, en esencia, una revolución en los asuntos militares”, afirma el Dr. Kosal. “Eso no significa que no debamos preocuparnos”.
2024-08-26 17:56:41
#Los #enjambres #drones #militares #utilizan #podrían #ser #futuro #guerra #plantea #preocupaciones #éticas,
