La IA en la difusión de bulos. El caso Georgescu

Los bulos, más conocidos por su terminología inglesa fakenews, se definen como aquellas noticias de contenido falso, que son difundidas con conocimiento de la falsedad del contenido buscando influir en la opinión pública para generar tendencias o inseguridad. 

El problema de este tipo de informaciones en la era digital es que cualquier individuo puede propagarlas ante un sinfín de usuarios, sin posibilidad real de que se apliquen las normas de rectificación y las posibles sanciones que el derecho se reserva para la difusión de informaciones no verídicas por parte de los medios tradicionales. Como señala Cristina Pauner “[L]os canales que distribuyen esta información tienen apariencia de periódicos lo que contribuye a crear confusión en un intento de aprovecharse de la credibilidad que acompaña a muchos medios profesionales de comunicación digital”.

Junto al incremento de estas noticias y la facilidad en su difusión, como consecuencia del uso del medio tecnológico se ha producido un cambio cualitativo ya que los instrumentos de IA tales como el uso de bigdata y los socialbots, además de la IA generativa así como el uso de manipulación algorítmica haciendo uso de las burbujas de filtro, que consiste en el proceso de filtrado personalizado de información con el cual, a través de las búsquedas, interacciones, “likes”, etc., que realizamos a diario, el algoritmo nos presenta información que nos resulta más “agradable”, complicando la conformación de una opinión crítica, ya que la información que se nos presenta solo sirve para reafirmarnos en nuestro sesgo de confirmación (Sobre esta cuestión, Moravec, Minas y Dennis), de la misma manera cabe mencionar el fenómeno de las cámaras de eco definidas por Eli Pariser. como la situación en la que usuarios de redes sociales consumen información, opiniones o creencias similares a las suyas de manera exclusiva o casi exclusiva, generando un ecosistema en el que los usuarios solamente interactúan entre los que comparten una determinada forma de entender el mundo, siendo más sencillo introducir noticias falsas.

Todo ello facilita que las mentiras calen más fácilmente en la sociedad y sea más difícil detectarlas. Por lo dicho, y aunque he adelantado que el fenómeno no es nuevo, sí que resulta más incisivo y, por lo tanto, peligroso con la dimensión que adquiere con Internet.  De esta manera, los bulos se configuran como uno de los principales problemas para el Estado de Derecho y que no parece que pueda tener solución a corto plazo, ya que no existen las herramientas suficientes para limitar su difusión en los márgenes del respeto a los derechos fundamentales.

Aprovechando la más reciente actualidad hay que hablar del caso de las elecciones presidenciales de Rumanía en el pasado año 2024, donde el candidato conservador Georgescu, fue acusado de financiación ilegal a raíz de una campaña secreta en redes que contó con financiación rusa, la cual ayudó a Georgescu a posicionarse como una de las opciones favoritas de los rumanos para acceder a la presidencia. Tras la investigación llevada a cabo el Tribunal Constitucional Rumano en su sentencia nº32 de 6 de diciembre de 2024 ha declarado ilegales las elecciones en las que Georgescu pasó a segunda vuelta y se ha ordenado la repetición electoral. 

Resulta evidente que la desinformación en los procesos electorales juega un importante papel, ya que, en función de los intereses de cada parte, se puede manipular la voluntad del cuerpo electoral incluso para favorecer intereses extranjeros, como se ve con las distintas injerencias internacionales en campañas de desinformación como la sucedida en Rumanía, donde los servicios secretos rumanos aportaron pruebas de financiación opaca de origen ruso para promover la candidatura de Georgescu en redes sociales.

El estudio de este caso es fundamental, en primer lugar, para tener conciencia de los modus operandi que se utiliza para difundir noticias falsas, en segundo lugar, para valorar el tipo de consecuencias jurídicas que puede derivarse de estos comportamientos y, por último, de la mano de lo anterior, los precedentes jurídicos que sientan este tipo de actividades. 

El pasado día 6 de diciembre el Tribunal Constitucional rumano anuló la primera vuelta de las elecciones presidenciales. La anulación de las elecciones se ha producido por la presunta injerencia rusa en las elecciones, injerencia producida a través de TikTok y Telegram donde se habría realizado una campaña coordinada de miles de cuentas automatizadas para promocionar la candidatura de Calin Georgescu.

El Tribunal Constitucional rumano, en una resolución sin precedentes, tomó la decisión tras la publicación de documentos en los que se encontraban pruebas de financiación irregular de la campaña de Georgescu. Los servicios de inteligencia de Rumanía alegan intromisiones rusas durante la campaña electoral, en favor del candidato euroescéptico, lo que trajo una distorsión en el resultado de las elecciones.

En efecto, los servicios de inteligencia de Rumanía detectaron que al menos 800 cuentas de TikTok creadas en 2016 fuera de aquel país se activaron un mes antes de las elecciones y comenzaron a dar apoyo a la candidatura de Georgescu, a lo que habría que sumar otras 25.000 cuentas que se activaron dos semanas antes de la primera vuelta de las elecciones, que buscaban aumentar la popularidad de Georgescu a través de una campaña organizada que involucró la repetición masiva de mensajes e involucró a influencers. Sin embargo, de acuerdo con las informaciones de la BBC el contenido publicado no fue catalogado como campaña electoral eludiendo los controles que se establecen para gasto en propaganda electoral. El coste calculado que tiene esta campaña realizada de manera opaca sería de 381.000$ lo que excede la normativa rumana en lo que a la financiación de campañas electorales respecta.

El fallo comentado fundamenta la decisión en que las elecciones no cumplieron con los principios de transparencia, igualdad de oportunidades y libre expresión del voto. Las irregularidades identificadas son la financiación irregular de la campaña y la manipulación de la orientación del voto a través de una campaña en la que se utilizaron de manera opaca herramientas de ingeniería social, como herramientas de inteligencia artificial, violando la ley electoral y generando una promoción desproporcionada en favor de Georgescu. Por ello el Tribunal optó por anular todas las acciones del proceso electoral y ordenó la repetición íntegra del proceso, lo que sin duda resulta un exponente claro de la importancia que desde las instituciones se está proporcionando al proceso.

Tras haber declarado ilegal la primera vuelta de las elecciones y ordenarse la repetición electoral para el día 4 de mayo de 2025 las autoridades electorales rumanas han rechazado la candidatura de Georgescu, bajo el pretexto de que los candidatos presidenciales deben “un intachable respeto a las leyes y la democracia, tanto en el momento presente como en el pasado”, por lo que ante las actuaciones que llevaron a Tribunal Constitucional a anular las elecciones aceptar “nuevamente su candidatura implicaría desconocer la decisión del Tribunal Constitucional, que avala que no cumplió con las leyes ni respetó los procesos democráticos”, por lo que quedaría en duda la legitimidad del máximo intérprete de la constitución.

Georgescu ya ha presentado un escrito para que la oficina electoral revise su decisión, además ha calificado la decisión de golpe de Estado, y considera que es una injerencia extranjera de la Unión Europea para preservar sus intereses en contra de los intereses de Rumanía. Finalmente, el día 11 de marzo el Tribunal Supremo rumano ha fallado denegando los recursos que presentó Georgescu contra su inhabilitación, por lo que en candidato de extrema derecha finalmente no podrá presentarse a las elecciones presidenciales fechadas en los días 4 y 18 de mayo. 

Esta decisión sienta un precedente en la Unión Europea de cómo actuar frente a las campañas de desinformación en procesos electorales, actuando con mano dura con el objetivo de evitar las intromisiones extranjeras en el desarrollo de las elecciones y buscando eliminar estas actuaciones que pervierten las democracias en función de intereses personales y partidistas con métodos propios de sistemas autoritarios donde se controla la información que reciben los ciudadanos.

Por su parte, y esto es muy relevante, la Comisión Europea, como responsable de garantizar la correcta aplicación de la Ley de Servicios Digitales (DSA), ha iniciado una investigación para comprobar si se ha infringido la DSA por parte de TikTok, investigando si el algoritmo fue manipulado con bots, así como la política de anuncios políticos, ya que la Comisión considera que puede no haber suficiente control en los pagos de esta publicidad.

Toda esta situación hace temblar los cimientos de la sociedad democrática, y cabe reflexionar acerca de los límites de la libertad de expresión, así como las consecuencias jurídicas de la extralimitación en el derecho. Es necesario tener claro hasta dónde puede llegar el Estado bajo la premisa de proteger la democracia y el Estado de Derecho vigilar que no existan extralimitaciones por parte del poder en lo que a la lucha contra la desinformación ocupa. Asimismo, hay que buscar mecanismos que sirvan para acabar, o al menos, minimizar el impacto de la lacra que supone la desinformación, especialmente en momentos tan delicados como son unas elecciones.

Cita recomendada: Mario Gil Lloria, «La IA en la difusión de bulos. El caso Georgescu», IberICONnect, 16 de mayo de 2025. Disponible en:  https://www.ibericonnect.blog/2025/05/la-ia-en-la-difusion-de-bulos-el-caso-georgescu