Propaganda del ejército indio difundida por 1.4000 cuentas de redes sociales impulsadas por IA

Propaganda del ejército indio difundida por 1.4000 cuentas de redes sociales impulsadas por IA

Después de tres años de funcionamiento, se ha descubierto una vasta red de cuentas falsas de redes sociales que promueven propaganda militar y del gobierno indio dirigida a lectores indios.

Los investigadores de NewsGuard se conectaron al menos 500 cuentas de Facebook y 904 cuentas X juntos, quienes publicaron, volvieron a publicar y comentaron contenido destinado a favorecer a la administración del primer ministro Narendra Modi en India. El contenido también difama regularmente a China, las Maldivas, Bangladesh (tras el derrocamiento popular de su ex primera ministra, Sheikh Hasina) y, por supuesto, Pakistán.

Es notable que el carácter relativamente amateur operación de influencia ha sobrevivido, sin ser reportado, desde septiembre de 2021.

«Este es un hallazgo sorprendente», dijo Dimitris Dimitriadis, director de investigación y desarrollo de NewsGuard. “Por otro lado, rastreamos regularmente redes no auténticas, pero después de una semana o dos, son detectadas y desmanteladas. »

Propaganda india en X y Facebook

A pesar de haber pasado desapercibida durante tanto tiempo, no hay nada particularmente sutil en esta campaña, pero ciertamente es notable por su escala.

Todos los perfiles presentan nombres y fotografías falsos y, en general, promueven propaganda en lugar de información errónea. A veces lo hacen republicando artículos noticiosos favorables de medios de comunicación progubernamentales, así como de medios más populares como el Hindustan Times.

En julio, por citar sólo un ejemplo, 20 cuentas X falsas vinculadas a la red de propaganda comentaron un mensaje de Medios progubernamentales ANI Newsinformando cómo “el general en jefe del ejército Upendra Dwivedi toca los pies de su hermano y otros miembros de su familia mientras asume el cargo de nuevo jefe del Estado Mayor del ejército”. Todos los perfiles falsos añadían comentarios radicales: “El ejército indio: un símbolo de fuerza nacional que disuade la agresión”; “La historia de cada soldado, un legado de valentía transmitido a través del tiempo”; y “General Dwivedi: un líder que valora la transparencia y la rendición de cuentas”. El ejército indio, con la confianza del público. »

En otros casos, los perfiles falsos crean su propio contenido. La irónicamente llamada JK News Network, por ejemplo, afirma proporcionar actualizaciones de noticias las 24 horas del día, los 7 días de la semana, pero en realidad publica noticias y comentarios promilitares, así como contenido más narcisista, como fotografías halagadoras de personal militar.

A menudo, los mensajes de estos perfiles parecen haber sido generados por IA. «Es el tipo de texto que uno esperaría: muy soso, muy seco, bastante desordenado, con un inglés incómodo y oraciones sin terminar, lo que sugiere que podría ser un mensaje sin supervisión», explica Dimitriadis.

Peor aún, desde la perspectiva de seguridad operativa de los administradores de campaña, las cuentas tienden a ser descaradamente repetitivas y superpuestas. Las personas publican regularmente el mismo contenido hasta 10 veces al día y cientos de cuentas se publican mensajes idénticos entre sí. En junio, por ejemplo, cuando JK News Network publicó “Baluchistán bajo presión: el acoso continuo por parte de las fuerzas de seguridad paquistaníes exige un fin”. #FascistPakArmy”, en referencia a la represión de Pakistán contra las minorías religiosas en la región de Baluchistán, el mensaje también fue repetido palabra por palabra por otras 429 cuentas falsas.

Las operaciones de influencia en línea resultan ineficaces

La relativa falta de esfuerzo y creatividad podría explicar por qué una campaña tan larga y de gran escala parece no haber tenido un impacto mensurable en la audiencia prevista.

Como explica Dimitriadis, “No es ningún secreto que este tipo de campañas son muy malas para generar tracción. Por lo general, son bastante torpes y bastante descuidados en términos de simplemente leer el estado de ánimo: ser capaces de acceder a conversaciones públicas reales. Recientemente hemos visto algunos contraejemplos. [like] Inflación de spampero con esta campaña, realmente fue en esa dirección. Realmente no hemos visto ningún compromiso”.

Captura de pantalla de una publicación en las redes sociales de JK News Network

En cuanto a por qué un contenido tan subdesarrollado, a veces claramente generado por IA, ha logrado generar tan poco interés, tal vez tenga más que ver con las plataformas de redes sociales en sí que con lo que realmente se publica allí.

«Hasta que se establezca un vínculo claro entre estas cuentas y una campaña, muchos usuarios las consideran menores», afirma Abu Qureshi, jefe de inteligencia de amenazas de BforeAI. En realidad, “según cómo funcionan generalmente los algoritmos de las redes sociales, inicialmente solo se muestran unas pocas cuentas por usuario para ver la participación del consumidor. Por lo tanto, son fáciles de descuidar. »

Agrega: “Para permanecer ocultos, los usuarios de estas cuentas pueden cambiar nombres de usuario, eliminar publicaciones o editar contenido. Además, la mayoría de las reacciones a estas publicaciones provienen de seguidores con ideas afines que pueden no tener motivos para marcar o denunciar estas publicaciones como amenazas. »