Jóvenes científicos de cuatro países debatieron las amenazas del uso malintencionado de la inteligencia artificial para la seguridad internacional informativa y psicológica

Jóvenes científicos de cuatro países debatieron las amenazas del uso malintencionado de la inteligencia artificial para la seguridad internacional informativa y psicológica

El uso de la inteligencia artificial (IA) ha sido desde hace mucho tiempo motivo de preocupación para los expertos, pero en general se considera que la principal amenaza que plantea el desarrollo de la IA se le escapa al control humano. Sin embargo, esa hipótesis no contempla las capacidades de inteligencia artificial que pueden ser utilizadas deliberadamente con fines delictivos.

Los investigadores de diferentes países están estudiando activamente las amenazas que supone el uso malintencionado de la inteligencia artificial (UMIA) tanto para la sociedad en su conjunto como para determinadas esferas de la actividad humana, ya sea la política, la economía, los asuntos militares, entre otras. Sin embargo, hasta el momento, las amenazas directas a la seguridad internacional informativa y psicológica (IIAS) aún no se han identificado como un área de enfoque separada a estudiar. Mientras tanto, el uso de la inteligencia artificial para desestabilizar las relaciones internacionales a través de información de alta tecnología dirigida y el impacto psicológico en las personas representan un gran peligro.

Justamente al problema de la inteligencia artificial le fue dedicado el Seminario internacional de jóvenes científicos "Amenazas del uso malintencionado de la inteligencia artificial para desestabilizar la seguridad internacional informativa y psicológica en el contexto de la seguridad nacional rusa", que se tuvo lugar el 25 de noviembre en el Instituto de Problemas Internacionales Contemporáneos de la Academia Diplomática del Ministerio de Relaciones Exteriores de Rusia. El evento se realizó en formato online en el marco del proyecto de subvención internacional "El uso malintencionado de la inteligencia artificial y los desafíos de seguridad internacional informativa y psicológica en el noreste de Asia", previsto para 2021-2022. Este proyecto está siendo implementado por equipos de investigación de Rusia y Vietnam, respectivamente, sobre la base de subvenciones de la Fundación de las investigacionesfundamentales de Rusia y la Academia Vietnamita de Ciencias Sociales.  Al seminario asistieron investigadores de Rusia, Belarús, Vietnam e India.

En el transcurso del seminario se abordaron los temas del uso malintencionado de la inteligencia artificial, las amenazas y riesgos resultantes para la sociedad, así como también las consecuencias negativas de diversos tipos de información de alta tecnología y operaciones psicológicas.

Es importante señalar que los oradores no solo abordaron los principales aspectos y tipos del uso malintencionado de la inteligencia artificial en el campo de la seguridad informativa y psicológica, sino que también abarcaron diversas regiones donde este tema es actual.

El moderador del seminario fue el Sr. Yevgeny N. Páshentsev, investigador principal del Centro de Investigaciones Digitales del Instituto de Problemas Internacionales de Actualidad de la Academia Diplomática del Ministerio de Relaciones Exteriores de Rusia, Coordinador del grupo internacional de expertos para el estudio de las amenazas a la seguridad internacional informativa y psicológica como resultado del uso malicioso de la Inteligencia Artificial, quien en su discurso de apertura, destacó la importancia del tema a tratar.

El trabajo del seminario empezó con las presentaciones de YuriyKolotayev y DaryaMatyashova, quienes se centraron en el tema de uso malicioso de la inteligencia artificial en Asia nororiental en sus discursos, lo que no es casual debido a que la región muestra una simbiosis contradictoria de alto nivel del desarrollo de las tecnologías de la Inteligencia Artificial y las agudas contradicciones de carácter político y geopolítico interno.

Así, YuriyKolotayev, estudiante de postgrado de la Universidad Estatal de San Petersburgo, en su discurso: «La práctica de la implementación de la Inteligencia Artificial en campañas para gestionar la percepción y propaganda en el noreste de Asia» describió a los países de la esta región como uno de los principales centros de desarrollo de la IA, centrándose en el arsenal de tecnologías, que está disponible y aplicado en los países de esta región, destacando los factores políticos y económicos del crecimiento exponencial del uso malicioso de la inteligencia artificial. Entre las conclusiones a las que llegaYuriyKolotayev cabe mencionar las siguientes: en primer lugar, en algunos países, ya se está comenzando a registrar gradualmente la penetración de la IA en la práctica de la guerra de información; en segundo lugar, los países en el noreste de Asia demuestran la distribución de la influencia informativa dentro de la región, dependiendo en gran medida del uso de tecnologías de IA.

DaryaMatyashova, estudiante de la Maestría de la Universidad Estatal de San Petersburgo en su informe: «Amenazas de uso malicioso de la inteligencia artificial en la política de ciberseguridad de Taiwán: problemas, vulnerabilidades, perspectivas (aspecto socio-psicológico)» destacó uno de los epicentros en la lucha contra el uso malicioso de la inteligencia artificial, que es Taiwán, donde el aspecto socio-psicológico es uno de los factores centrales en la formulación de la estrategia de ciberseguridad del país. La oradora llegó a la conclusión de que la ciberseguridad de Taiwán entraña grandes riesgos que pueden minimizarse si el Gobierno taiwanés identifica claramente los factores que incluyen la dimensión informativa y psicológica.

Otro campo de estudio de no menor importancia dentro del uso malicioso de la IA es la utilización malintencionada de falsificaciones profundas (deepfakes).Justamente este problema fue abordado por EkaterinaMikhalevich, estudiante de postgrado de la Universidad Estatal de San Petersburgo, en el informe sobre el tema: "La posición de la República Popular de China en la lucha contra los riesgos del uso malintencionado de la inteligencia artificial: una visión desde Rusia", utilizando el ejemplo de las falsificaciones profundas en la República Popular China, demostró claramente cuáles son las amenazas y los daños de UMIA para la reputación de las estructuras comerciales y directamente para el liderazgo de China. En particular, señaló, utilizando una serie de ejemplos, cómo la supresión inoportuna de la UMIA tiene un efecto perjudicial no solo en la reputación de los propios gigantes chinos de IT, sino que también en el nivel de confianza de los inversores occidentales, lo que conduce a una salida de inversión extranjera de China y una disminución en el número de usuarios de programas chinos, y cómo consecuencia de todo lo previamente mencionado una disminución de la influencia china en la economía digital de los países que consumen sus servicios. Una prueba clara de ello es la historia de la existencia de un video viral, cuyo protagonista fue Donald Trump, quien asegura haber usado armas nucleares contra Corea del Norte. Las pistas de audio "cortadas" de los discursos públicos del expresidente estadounidense, superpuestas a un videoclip de uno de los discursos, causaron histeria a corto plazo entre los ciudadanos del noreste asiático hasta que la noticia fue desmentida oficialmente por los medios de comunicación.

LiuubovShmatkova, profesora del Departamento de Problemas Regionales de Política Mundial de la Facultad de Política Internacional de la Universidad Estatal Lomonosov de Moscú, como continuación de los temas tratados por EkaterinaMikhalevich, presentó un informe cuyo nombre es: "Las falsificaciones profundas como una amenaza para la seguridad informativa y psicológica - una mirada desde la UE ". En su discurso, basándose en fuentes de la Unión Europea y sus estados miembros, familiarizó a la audiencia con las peculiaridades de las amenazas del uso de falsificaciones profundas reconocidas en la UE como primordiales, desde delitos en línea contra niños hasta influir en los resultados de las investigaciones. Entre estas particularidades, LyubovShmatkova destacó las siguientes: alto nivel de cobertura, aumento en la disponibilidad de herramientas y calidad para crear falsificaciones profundas, así como también el riesgo de peligro en los diferentes niveles sociales (individual, organizacional, nacional) y por último, eldaño de diferente naturaleza (psicológica, financiera, social). Una de las conclusiones a las que llególa disertante es que el impacto de las deepfakes, especialmente las que se utilizan con fines de desinformación, no es a largo plazo y tiene un efecto cortoplacista (la llamada "ventana de eficacia"). Esta cualidad contribuye al hecho de que las falsificaciones profundas pueden ser críticas en una respuesta emocional inmediata.

El orador de India KallakuriRadhakrishna, estudiante de la maestría del Laboratorio Internacional de Investigación de Redes Aplicadas de la Universidad Nacional de Investigación «Escuela Superior de Economía», ha destacado el problema de UMIA en el campo de SIP en su país, basándose en ejemplos reales de campañas políticas de desinformación en India. El orador también destacó la urgencia de combatir las amenazas híbridas, que se están volviendo más peligrosas a la luz del desarrollo de la IA, especialmente en tiempos de crisis en el país, y cómo la tecnología de la IA afecta directamente al componente psicológico de la percepción de los ciudadanos del contenido informativo.

VitalyRomanovsky, orador de Belarús, investigador que coopera con la Academia Diplomática del Ministerio de Relaciones Exteriores de Rusia en su informe «Uso malicioso de la inteligencia artificial con fines terroristas: recomendaciones para legisladores, políticos y estructuras antiterroristas» analizó las 3 áreas de uso de la IA por parte de terroristas que son: la cibernética, la física y la política, ilustrando cada una de ellas con ejemplos claros. En el ciberespacio, los terroristas pueden elegir ataques DDoS, ataques de malware y ataques de extorsión. En elcampo físico existe una posibilidad cada vez mayor de que los terroristas utilicen la IA para contaminar sistemas estratégicos como el transporte público, las centrales eléctricas, los sistemas de alcantarillado, la infraestructura de salud pública o las instalaciones militares. Por último, en el ámbito político, los terroristas pueden potencialmente utilizar la inteligencia artificial para establecer la agenda en un estado o región en particular a través de la propaganda y la desinformación con el fin de aumentar la desconfianza del público en las autoridades. Basándose en lo mencionado, el orador formuló recomendaciones prácticas que podrían aplicarse a nivel legislativo, sujetas a la condición de la eliminación del UMIA en la lucha contra el terrorismo.Estos consejos son los siguientes: primero, la participación de los gobiernos nacionales y la cooperación de los estados a nivel internacional para la identificación oportuna de las herramientas de UMIA por parte de los terroristas; segundo, mejora en la capacidad de procesamiento de las organizaciones nacionales de lucha contra el terrorismo; por último, el establecimiento de normas y estándares internacionales relevantes para la aplicación de nuevas tecnologías como la inteligencia artificial.

En la escalada de conflictos en el ámbito internacional, la IA puede utilizarse como un arma poderosa. Justamente a este tema le fue dedicado el reporte de OlegFilatov, estudiante de postgrado de la Academia Rusa de Economía Nacional y Servicio Público bajo la presidencia de la Federación Rusa (RANHiGS): «Las actividades de la OTAN para combatir el uso malicioso de la inteligencia artificial: tendencias y contradicciones». El orador señaló que la UMIA no sólo es una amenaza militar para un determinado país, sino que también un factor desestabilizador informativo y psicológico en la sociedad, antes, durante y después de un conflicto militar.

Nguyen Minh Tyong, PhD en ciencias de tecnología del Departamento de Sistemas de Comunicación y Telecomunicaciones de la Universidad Tecnológica de Rusia, en su informe «Uso Malicioso de la Inteligencia Artificial en Vietnam: Aspecto Psicológico» hizo hincapié en los aspectos psicológicos de UMIA en Vietnam, demostrando el uso del marco de IA en los videojuegos, que permite a los jugadores acceder a una gama ilimitada de juegos utilizando IA. Específicamente, el framework resuelve el problema de desarrollar un algoritmo que permite jugar cualquier juego, incluso si el juego no se conoce a priori. Este ejemplo ilustra el impacto de la IA en la confianza de los jóvenes en los videojuegos y, por regla general, conduce a una disminución del pensamiento y de la percepción crítica de la realidad.

Las ponencias presentadas abarcaron tanto los diferentes tipos y aspectos del uso malintencionado de la inteligencia artificial en el ámbito de la seguridad informativa y psicológica como las experiencias y recomendaciones en su tratamiento. Las presentaciones de los oradores despertaron un gran interés entre los oyentes quienes plantearon numerosas preguntas. El hilo conductor de todas las presentaciones realizadas en el transcurso de la reunión fue que la cuestión abordada en el seminario es relevante para todas las regiones del mundo en mayor o menor medida. Todos los países algunos antes, otros más tarde experimentarán la práctica de UMIA. Por lo tanto, cuanto antes se den cuenta de ello los diferentes Estados, más fácil les será prevenir la amenaza del uso malintencionado de la inteligencia artificial.

El evento finalizó con un discurso del moderador EvgenyN. Páshentsev, quien resumió los resultados del Seminario Internacional de los Jóvenes Investigadores "Amenazas del uso malintencionado de la inteligencia artificial para desestabilizar la seguridad internacional informativa y psicológica en el contexto de la seguridad nacional de Rusia" y enfatizó la importancia y relevancia del tema que fue abordado, enfatizando que este seminario se convirtió no solo en una etapa importante en el trabajo de los jóvenes investigadores y en un hito para profundizar el estudio de los temas discutidos durante el seminario, sino tambiénincentivóal desarrollo de un conjunto de medidas y recomendaciones para contrarrestar el UMIA en el ámbito informativo y psicológico.

Al concluir el seminario, es importante subrayar la importancia de la cooperación internacional en esta esfera. La realización de tales seminarios podría ser un catalizador para la elaboración de estudios sistemáticos y específicos en esta esfera, ya que en todo el mundo, incluyendo la región de noreste de Asia, hay un retraso en la evaluación de las amenazas a la seguridad informativa y psicológica que se plantean en el marco de UMIA.

Jóvenes científicos de Rusia, Bielorrusia, India y Vietnam han identificado la complejidad del problema del UMIA, que requiere enfoques integrales basados en la investigación interdisciplinaria.

La Federación de Rusia, basándose en su experiencia nacional en la lucha contra UMIA, debería tener en cuenta la experiencia internacional pertinente en la lucha contra las amenazas de alta tecnología en la esfera de la seguridad informativa y psicológica. La cooperación científica en este ámbito podría ser un prólogo a la cooperación práctica.