A principios de este mes, los investigadores crearon un malware impulsado por la IA que puede usarse para piratear tomografías computarizadas en el hospital , generando imágenes de cáncer falsas que engañan incluso a los médicos más capacitados. Si se introducen en las redes hospitalarias de hoy, las personas sanas podrían tratarse con radiación o quimioterapia para tumores no existentes, mientras que los pacientes con cáncer en etapa temprana podrían enviarse a casa con diagnósticos falsos. La inteligencia médica actual sobre el tratamiento de cánceres, coágulos de sangre, lesiones cerebrales y virus podría ser manipulada, corrompida y destruida. Este es solo un ejemplo de cómo el “envenenamiento de datos ”«- cuando los datos se manipulan para engañar – representan un riesgo para nuestras infraestructuras más críticas. Sin un entendimiento común de cómo la IA está convergiendo con otras tecnologías para crear amenazas nuevas y en rápido movimiento, mucho más de lo que nuestras visitas al hospital pueden convertir en una pesadilla.
Los formuladores de políticas deben comenzar a trabajar con los tecnólogos para comprender mejor los riesgos de seguridad que surgen de la combinación de AI con otras tecnologías de doble uso y sistemas de información críticos. Si no, deben prepararse para los daños económicos y sociales a gran escala causados por las nuevas formas de envenenamiento automatizado de datos y ciberataques. En una era de crecientes conflictos cibernéticos de la IA, nuestro sistema de gobierno multilateral es más necesario que nunca.
Los ataques de datos son el arma nuclear del siglo XXI. Mucho más importante que quién controla el territorio, quien controla los datos tiene la capacidad de manipular los corazones y las mentes de las poblaciones. Los algoritmos impulsados por la inteligencia artificial pueden corromper los datos para influir en las creencias, actitudes, diagnósticos y toma de decisiones , con un impacto cada vez más directo en nuestra vida cotidiana. El envenenamiento de datos es una herramienta nueva y extremadamente poderosa para aquellos que desean sembrar engaños y desconfianza en nuestros sistemas.
El riesgo se amplifica por la convergencia de la inteligencia artificial con otras tecnologías: el envenenamiento de datos puede infectar pronto las bases de datos genómicas de todo el país y potencialmente armar la investigación biológica , las instalaciones nucleares , las cadenas de suministro de manufactura , las estrategias comerciales financieras y el discurso político .Desafortunadamente, la mayoría de estos campos se gobiernan en silos, sin una buena comprensión de cómo las nuevas tecnologías podrían, a través de la convergencia, crear riesgos en todo el sistema a nivel global. En un nuevo informe titulado La nueva geopolítica de los riesgos convergentes: las Naciones Unidas y la prevención en la era de la IA, exploro estos riesgos interrelacionados, desarrollo escenarios que ilustran cómo pueden aparecer las tecnologías emergentes en el próximo período y ofrezco un camino para el sistema multilateral para ayudar a prevenir crisis a gran escala provocadas por la convergencia de la IA.
Riesgos convergentes: envenenamiento de datos, enjambres de drones y bio-laboratorios automatizados
Aquí es un escenario probable:
1. Intoxicación de datos: similar a la falsificación de las tomografías computarizadas de los hospitales, los actores malintencionados podrían usar algoritmos de aprendizaje automático para realizar ataques de envenenamiento de datos en cadenas de suministro automatizadas de biotecnología. Como los experimentos biológicos se ejecutan cada vez más por el software de AI, un malware puede corromper las instrucciones de ingeniería, lo que lleva a la contaminación de existencias vitales de antibióticos, vacunas y terapias celulares costosas.
2. Ingeniería genética: los laboratorios de nube le permiten controlar hasta 50 tipos de experimentos biológicos desde cualquier parte del mundo mientras está sentado frente a su computadora. Los piratas informáticos podrían confiar en dicho flujo de trabajo automatizado para modificar la composición genética de la bacteria E. coli y convertirla en un agente biológico resistente a múltiples fármacos.
3. Entrega : como paso siguiente, los piratas informáticos podrían aprovechar los drones comerciales y equiparlos con aerosoles para diseminar las bacterias resistentes a múltiples fármacos dentro de los sistemas de agua o en las granjas.Los agricultores ya usan drones para rociar insecticidas en los cultivos.
4. Falsas narrativas: Finalmente, los piratas informáticos podrían inundar las redes sociales con mensajes de advertencia sobre antibióticos contaminados, sembrar el miedo y la confusión entre las poblaciones afectadas.
Dicha combinación de envenenamiento de datos, uso de armas en la biofabricación y manipulación de información estratégica tendría costos económicos drásticos y posibles resultados letales para las poblaciones.También tendría un impacto significativo en el bienestar social. Sin embargo, el impacto más perjudicial sería en la confianza de los ciudadanos: confianza en las instituciones gubernamentales, sistemas de datos de emergencia, laboratorios industriales, cadenas de suministro de alimentos, hospitales e infraestructuras críticas.
Conflictos cibernéticos de la IA: estados y poblaciones vulnerables
Las nuevas formas de ataques de envenenamiento de datos encubiertos van mucho más allá de la bioseguridad y la bioseguridad. La capacidad de una variedad de actores para influir en la opinión pública y desestabilizar las instituciones políticas, financieras y críticas podría tener implicaciones poderosas a largo plazo para la paz y la seguridad.
Los actores estatales o no estatales ya pueden generar falsificaciones de alta calidad dirigidas a un grupo étnico o religioso para fomentar la violencia y la discriminación. En Myanmar, un informe de la ONU confirmó que las publicaciones de Facebook han alimentado un discurso de odio virulento dirigido a los musulmanes rohingya. En toda la India, en el verano de 2018 , los mensajes manipulativos en las redes sociales, incluidos Facebook y WhatsApp, describieron a ciertos grupos como responsables del secuestro de niños. La histeria provocó más de 30 muertes y dejó muchos heridos. A medida que las líneas entre la realidad y el engaño se vuelven borrosas, existe un potencial creciente para la movilización a gran escala de personas, recursos y armas en torno a narraciones falsas.
Las implicaciones cibernéticas y de seguridad humana de la manipulación de datos son corrosivas, con la expansión del panorama de amenazas híbridas y la superficie de ataque. Todos los países son un objetivo potencial, pero especialmente aquellos que tienen infraestructuras tecnológicas y cibernéticas pobres, vulnerables y obsoletas.
Dado que los estados vulnerables no pueden prevenir ni mitigar los ataques de envenenamiento de datos, pueden convertirse en fértiles campos de operaciones para los mercenarios cibernéticos, los grupos terroristas y otros actores, comprometiendo cada vez más la integridad de los datos y la solidez de nuestro sistema de inteligencia globalizado.
Podríamos enfrentar una nueva geopolítica de la desigualdad y la inseguridad, impulsada por la creciente brecha digital y la ciberseguridad. Para enfrentar estos desafíos, necesitamos un entendimiento común de los riesgos de seguridad emergentes en la comunidad internacional, impulsados por incentivos para un enfoque compartido para la prevención.
La necesidad de una previsión estratégica.
Estas situaciones extremas apuntan a la necesidad de desarrollar colectivamente una visión estratégica para los tipos de riesgos globales planteados por la convergencia de AI. Durante el año pasado, trabajé con el Centro para la Investigación de Políticas en la Universidad de la ONU para comenzar este trabajo y para ayudar a la ONU a desarrollar mejores capacidades de previsión.
Los líderes corporativos y gubernamentales deben realizar análisis prospectivos combinados en los dominios tecnológicos para anticipar y mitigar las amenazas emergentes que podrían aprovechar la manipulación de datos y apuntar a infraestructuras críticas. Por ejemplo, sabemos que los centros de datos (piense en bancos de datos médicos o bancos) y entornos en la nube (como los bio-laboratorios de la nube) son altamente vulnerables al envenenamiento de datos y otros tipos de ataques cibernéticos adversarios. Los esfuerzos de prospectiva deben incluir imperativamente la cooperación con los estados en el sur global.
Desde la manipulación de datos sobre la seguridad de las vacunas o terapias genéticas hasta las campañas de desinformación sobre la salud de las instituciones financieras, la superficie de ataque en los conflictos cibernéticos de la IA es grande y compleja. Es urgente que los gobiernos colaboren con el sector privado para crear sistemas de alerta temprana más eficientes para detectar y analizar las fuentes de falsificación de datos y propaganda dirigida. Los estados deberán hacer un mapa continuo de cómo estas nuevas herramientas de engaño influyen en el discurso y la opinión pública. Y tendrán que fomentar la ciberseguridad y la alfabetización (bio) tecnológica entre grandes franjas de la población.
Estoy convencido de que no existe una solución unilateral o bilateral para los tipos de amenazas generalizadas que plantean estas nuevas tecnologías.Nuestra capacidad para comprender los riesgos de seguridad global emergentes debe desarrollarse colectivamente o los riesgos de infectarse.
