Revista de DerechoUniversidad Católica de la Santísima Concepción | Núm. 49 (2026) | pp. 1-26 | ISSN 0717-0599 (impreso) · 2735-6337 (electrónico)

Artículo de investigación

LA INTELIGENCIA ARTIFICIAL COMO ESPADA DE DOBLE FILO: ENTRE LA PARTICIPACIÓN AUMENTADA Y LA MANIPULACIÓN ALGORÍTMICA

Artificial Intelligence as a Double-Edged Sword: Between Enhanced Participation and Algorithmic Manipulation

David Mendieta (ORCID 0000-0002-6944-6815)

Universidad de Medellín, Medellín, Colombia. dmendieta@udemedellin.edu.co

Luisa Patiño López (ORCID 0009-0009-7243-2930)

Universidad de Medellín, Medellín, Colombia. luisa.lopez@uscsonline.com.br

Recibido: 15/08/2026 | Aceptado: 19/10/2026 | Publicado: 27/10/2026

DOI: https://doi.org/10.21703/issn2735-6337/2026.n49.04

Cómo citar: Mendieta, D. y Patiño López, L. (2026). LA INTELIGENCIA ARTIFICIAL COMO ESPADA DE DOBLE FILO: ENTRE LA PARTICIPACIÓN AUMENTADA Y LA MANIPULACIÓN ALGORÍTMICA. Revista de Derecho (Universidad Católica de la Santísima Concepción), (49), 1-26. https://doi.org/10.21703/issn2735-6337/2026.n49.04

© 2026, Universidad Católica de la Santísima Concepción. Artículo de acceso abierto bajo licencia Creative Commons Atribución 4.0 Internacional (CC BY 4.0): se permite su uso, distribución y reproducción en cualquier medio, citando a los autores y la fuente original. https://creativecommons.org/licenses/by/4.0/deed.es

Resumen

La expansión de la inteligencia artificial está transformando las condiciones de participación ciudadana y el funcionamiento de las democracias contemporáneas, al ofrecer nuevas oportunidades de intervención pública y, a la vez, plantear riesgos para los derechos fundamentales. Este artículo tiene como objetivo analizar el doble impacto de estas tecnologías en los procesos democráticos desde una perspectiva jurídico-constitucional. A partir de una metodología analítico-doctrinal, basada en la revisión de literatura académica y en el examen crítico e interpretativo de sus implicaciones constitucionales, se estudian sus aplicaciones en la participación ciudadana, la gestión pública y los procesos electorales, así como los riesgos derivados de la desinformación, los contenidos sintéticos, la microsegmentación política y la vigilancia algorítmica. Los resultados muestran que la inteligencia artificial puede ampliar el acceso a la información, favorecer la educación cívica y mejorar la interacción entre la ciudadanía y las instituciones públicas. Sin embargo, también puede condicionar la deliberación democrática, acentuar las desigualdades políticas y comprometer tanto la autonomía individual como la integridad electoral. Se concluye que estas tecnologías configuran una forma emergente de poder algorítmico no coercitivo, que exige respuestas regulatorias orientadas a garantizar la transparencia, la supervisión humana, la responsabilidad de sus operadores y la protección efectiva de los derechos fundamentales.

Palabras clave: Democracia digital; Deepfakes; Integridad democrática; Inteligencia artificial; Participación ciudadana.

Abstract

The expansion of artificial intelligence is transforming the conditions of citizen participation and the functioning of contemporary democracies, creating new opportunities for public engagement while posing risks to fundamental rights. This article aims to analyze the dual impact of these technologies on democratic processes from a constitutional law perspective. Using an analytical and doctrinal methodology based on a review of academic literature and a critical and interpretive examination of its constitutional implications, the study explores applications of artificial intelligence in citizen participation, public administration, and electoral processes, as well as the risks associated with disinformation, synthetic content, political microtargeting, and algorithmic surveillance. The findings indicate that artificial intelligence can broaden access to information, support civic education, and improve interactions between citizens and public institutions. However, it can also influence democratic deliberation, deepen political inequalities, and undermine individual autonomy and electoral integrity. The article concludes that these technologies constitute an emerging form of non-coercive algorithmic power that requires regulatory responses aimed at ensuring transparency, human oversight, accountability among relevant actors, and effective protection of fundamental rights.

Keywords: Artificial intelligence; Citizen participation; Deepfakes; Democratic integrity; Digital democracy.

I. INTRODUCCIÓN

La incorporación de herramientas de inteligencia artificial impulsada por la rápida proliferación de aplicaciones generativas como ChatGPT, Gemini, Deepseek, Claude, entre otros, exige la necesidad de estudiar su aplicación de manera integral sobre su doble impacto para la democracia. Resulta pertinente, por ello, delimitar brevemente el concepto de inteligencia artificial generativa. Se entiende por tal aquella que tiene la capacidad de crear nuevo contenido, incluyendo textos, imágenes, vídeos, entre otros, que reproducen rasgos de la creatividad y adaptabilidad humana12. Dentro de este grupo destacan los grandes modelos de lenguaje (LLM) pertenecientes a la categoría de modelos fundacionales empleados para la creación de textos, generalmente en un sentido conversacional.

Otras categorías dentro de IA generativa resultan relevantes para la comprensión de este fenómeno. Los modelos de difusión y redes generativas adversarias (GAN) usados para la generación de imágenes y vídeos3, los modelos de síntesis de voz usados para la generación de audios y voces sintéticas que se asemejan al habla humana; asimismo,4 existen aplicaciones que se utilizan para la generación de códigos, música y contenido científico5.

El presente artículo parte de la siguiente pregunta de investigación: ¿Cómo transforma el uso de la inteligencia artificial las condiciones de participación ciudadana en las democracias contemporáneas? Su objetivo central consiste en analizar los beneficios y las limitaciones de estas nuevas tecnologías en los procesos democráticos. Las fuentes utilizadas fueron seleccionadas de acuerdo con su pertinencia para el estudio de la inteligencia artificial, la participación ciudadana, su actualidad y su contribución conceptual o empírica. En el análisis se contrastan las oportunidades y riesgos identificados con las exigencias constitucionales de los procesos democráticos. El alcance del estudio es interpretativo y propositivo, por lo que no pretende medir de manera empírica los efectos electorales de las tecnologías estudiadas.

Desde una perspectiva jurídico-constitucional, el estudio de la inteligencia artificial y su incidencia en la democracia exige superar los enfoques centrados exclusivamente en las ventajas funcionales de estas tecnologías o en los riesgos derivados de su utilización. Su incorporación progresiva a los espacios de deliberación pública plantea interrogantes sobre las condiciones materiales que permiten el ejercicio efectivo de los derechos políticos, particularmente en lo relativo a la libertad de expresión, el acceso a la información, la igualdad en la participación y la autonomía de la voluntad ciudadana. Como advierten Micklitz et al., las transformaciones asociadas a la sociedad algorítmica plantean desafíos para las estructuras tradicionales de protección constitucional y la garantía de los derechos fundamentales. En este escenario, adquiere especial relevancia examinar cómo la intervención de sistemas algorítmicos en la producción, selección y distribución de contenidos puede modificar las condiciones en que se forma la opinión pública6. Al respecto, Jungherr proporciona un marco conceptual para comprender las relaciones entre inteligencia artificial y democracia, mientras que Alnemr examina las tensiones que surgen entre los sistemas algorítmicos y las condiciones de la deliberación democrática7. Esta problemática trasciende la dimensión tecnológica y se proyecta sobre los fundamentos del constitucionalismo democrático, en la medida en que determinadas decisiones privadas, adoptadas mediante sistemas automatizados, pueden incidir en el ejercicio de derechos fundamentales sin encontrarse necesariamente sometidas a mecanismos suficientes de transparencia, control y rendición de cuentas.

La contribución de esta investigación radica en examinar conjuntamente las oportunidades que ofrece la inteligencia artificial para ampliar la participación ciudadana y los riesgos que introduce para la integridad de los procesos democráticos, desde una perspectiva centrada en las garantías constitucionales. La literatura especializada ha identificado diversas implicaciones de estas tecnologías para la representación política, la deliberación pública y la formación de preferencias ciudadanas8. Sin embargo, resulta necesario profundizar en la articulación jurídica de estos fenómenos y en las garantías que deben orientar su desarrollo y utilización. En este sentido, el estudio propone comprender la modernización de la gestión pública, la desinformación digital y la automatización de los procesos políticos como manifestaciones de una transformación más amplia de las relaciones entre tecnología, ciudadanía y poder. Sobre esta base, se sostiene que la compatibilidad entre inteligencia artificial y democracia no depende únicamente de la eficacia de las herramientas utilizadas, sino también de la existencia de condiciones jurídicas e institucionales que permitan preservar la autonomía individual, el pluralismo político y la igualdad participativa. Esta aproximación permite identificar criterios para orientar la intervención regulatoria del Estado frente a las nuevas formas de influencia y concentración del poder algorítmico.

II. LA INTELIGENCIA ARTIFICIAL EN LA PARTICIPACIÓN DEMOCRÁTICA

Uno de los componentes fundamentales de las democracias contemporáneas es el derecho a la participación9. La intervención activa de la ciudadanía en los asuntos públicos legitima el poder estatal y se ha materializado históricamente a través del voto, las manifestaciones políticas, los mecanismos democráticos institucionales y la participación en debates públicos. No obstante, el desarrollo acelerado de las herramientas tecnológicas ha abierto nuevos entornos y configurado dinámicas que transforman la manera en la que se interactúa y amplían las posibilidades de los ciudadanos para involucrarse en los procesos democráticos y políticos relevantes.

A. INTELIGENCIA ARTIFICIAL Y LAS NUEVAS FORMAS DE PARTICIPACIÓN CIUDADANA

La participación ciudadana en los Estados democráticos no solo es relevante, sino también indispensable. En este sentido, Kelsen sostiene, en su obra Teoría general del Estado, que la existencia de una opinión pública constituye una condición necesaria para la democracia10. Generalmente, esta participación se ejerce por medio de herramientas tradicionales como el voto, las manifestaciones, los mecanismos de participación ciudadana y la participación en partidos políticos, entre otros. Sin embargo, los avances digitales y tecnológicos han aumentado las posibilidades para que los ciudadanos expresen sus opiniones y accedan a información política11.

La democracia digital emerge como un modelo en el que se amplían los medios de participación ciudadana mediante el uso de dispositivos tecnológicos de comunicación, como computadores y teléfonos, que influyen en la comunicación, la conectividad y la interacción social de sus usuarios12. En este ámbito, las herramientas de inteligencia artificial adquieren relevancia, debido a que su incorporación generalizada a los procesos digitales está transformando la manera en la que los usuarios participan en los nuevos espacios de expresión individual y colectiva. En ese contexto, la IA se integra al conjunto de aplicaciones digitales que influyen significativamente en las relaciones humanas y la intervención estatal de los ciudadanos.

El uso generalizado de la inteligencia artificial representa diferentes oportunidades para la participación ciudadana, entre las que se destaca su potencial para mejorar la participación social. En particular, la inteligencia artificial generativa, ha cambiado la manera en que los usuarios acceden e interactúan con la información política. Estas herramientas permiten personalizar la información y facilitar el acceso al contenido político, principalmente entre los grupos que pueden contar con dificultades para acceder a ellos13. Dado que la deliberación pública es necesaria para la práctica democrática saludable y efectiva, el uso de la IA con estos fines es beneficioso para los Estados sociales de derecho.

1. Inteligencia Artificial y las Actividades de Protesta

Por otro lado, la inteligencia artificial contribuye a la participación ciudadana gracias a su impacto en las actividades de protesta. La protesta constituye una forma de participación pública desarrollada fuera de las organizaciones públicas y que, generalmente, se opone a las estructuras formales del Estado. Las tecnologías digitales, como las redes sociales y aplicaciones de mensajería en línea, facilitan la interacción social e influyen de manera directa en la manera en la que los usuarios reaccionan a los movimientos políticos. Asimismo, crean nuevos espacios de participación ciudadana y fortalecen la capacidad de los usuarios para organizar boicots dirigidos a campañas políticas, actores políticos o políticas públicas14.

Las aplicaciones de inteligencia artificial pueden mejorar de manera significativa la forma en que estas actividades se organizan, se comparten y se comunican, así como influir en su desarrollo. Asimismo, estas tecnologías mediante su influencia en los algoritmos de las redes sociales pueden facilitar la expresión de los movimientos y ampliar el alcance nacional o global de las ideas subversivas15.

Esto puede lograrse mediante tecnologías de IA que optimizan la organización de eventos y facilitan la comunicación entre los manifestantes, incluso cuando se encuentren en entornos de censura o de vigilancia. Sin embargo, estas tecnologías también pueden ser utilizadas por los Estados para el control y vigilancia de usuarios disidentes y de los ciudadanos que comparten sus ideales. Este monitoreo puede ser realizado por medio de herramientas de reconocimiento facial y sistemas de IA que analizan los datos compartidos en redes sociales con la intención de identificar protestas o censurar contenidos16.

2. Inteligencia Artificial y la Educación Cívica

La participación cívica, como componente fundamental de la democracia, necesita llevar consigo la educación de los ciudadanos, especialmente de aquellos que no cuentan con conocimientos, recursos o habilidades necesarios para obtener información relevante por su cuenta. Entre estas personas se encuentran aquellas de bajos recursos y los adultos mayores, grupos que suelen presentar dificultades de alfabetización digital, lo que limita su acceso a la información, la posibilidad de acceder a servicios en línea, así como su participación en las actividades políticas y sociales. Esta situación afecta directamente su autonomía, autoestima e inclusión social, y puede ser agravada por factores como la edad, nivel educativo, la ubicación geográfica y el poder adquisitivo17.

En ese contexto, la inteligencia artificial se convierte en una herramienta para la protección del derecho a la información mediante la personalización de experiencias de aprendizaje digital y la asistencia en la navegación por las plataformas complejas. El desarrollo de recursos educativos mediante aplicaciones de inteligencia artificial puede facilitar la creación del contenido y achicar la brecha digital18. El uso de las aplicaciones de IA puede favorecer y automatizar los procesos de educación y la creación de contenido institucional orientada principalmente a la capacitación tecnológica. Esto puede lograrse mediante herramientas y dinámicas digitales que aumenten la información disponible para la ciudadanía, minimicen la discriminación y aumenten sus capacidades digitales que resulta beneficioso para las comunidades19.

B. INTELIGENCIA ARTIFICIAL EN LA GESTIÓN PÚBLICA Y EL MANEJO DE DATOS

Las herramientas de inteligencia artificial pueden también ser utilizadas por las instituciones estatales para optimizar la eficiencia de sus procesos y fortalecer la relación entre el Estado y la ciudadanía. Para la democracia, es de vital importancia que los procesos internos y estructurales del Estado no solamente sean expeditos, sino que también sean accesibles y públicos para los ciudadanos20. En este sentido, estas herramientas tecnológicas adquieren relevancia para aumentar la transparencia del sector público y promover la participación ciudadana.

Estas aplicaciones permiten que los ciudadanos aborden problemas estatales repetitivos y predecibles al permitir que se recopilen grandes volúmenes de datos. En este caso, las herramientas de inteligencia artificial pueden actuar como resolutores de problemas mediante la formulación de hipótesis y el manejo de datos que permiten identificar patrones de acción21. Países como Canadá, Polonia, China y Estados Unidos han usado herramientas de IA para mejorar los servicios públicos que ofrecen a los usuarios. Canadá integró estas aplicaciones en sus procesos migratorios, mientras que Polonia las empleó para reactivar su economía frente a la dificultad que les impuso la cuarta revolución industrial. Por su parte, China y Estados Unidos recurrieron a estas herramientas para mejorar su toma de decisiones, la prevención de desastres y las respuestas a la ciudadanía22.

Las capacidades de las herramientas de inteligencia artificial al momento de analizar datos no solamente pueden contribuir positivamente cuando se trata de la toma de decisiones automatizadas y la prestación de servicios públicos, sino que también pueden influir en la formulación de políticas públicas, mediante herramientas analíticas que permitan anticipar y estimar con precisión el impacto de futuras intervenciones23. Adicionalmente, la IA puede ayudar al monitoreo y moderación de entornos en línea, permitiendo que estos lugares sean más seguros y ejercer un mayor control sobre contenido dañino, la desinformación, las actividades ilegales y el ciberacoso24.

1. Inteligencia Artificial y los Servicios Informativos y de Atención Ciudadana

Por otro lado, las tecnologías de IA pueden ayudar a la comunicación e interacción con los usuarios mediante el uso de chatbots conversacionales que tienen la capacidad de comprender el lenguaje y comunicarse con los ciudadanos, resolviendo sus dudas de manera expedita. Estos asistentes virtuales de las entidades públicas proporcionan información de manera efectiva y en tiempo real en áreas como protección civil, seguridad pública, seguridad ciudadana y los servicios de inmigración25.

Estas herramientas de inteligencia artificial pueden ser usadas en cinco tipos de casos en el sector público: responder preguntas, quejas y consultas de los usuarios; buscar documentos y orientar en los procesos de completar formularios; recopilar aportes ciudadanos; traducir información y documentos gubernamentales relevantes; y redactar documentos26.

2. Inteligencia Artificial y el Proceso Electoral

En ese contexto, los procesos gubernamentales han comenzado a incorporar aplicaciones digitales que facilitan, sistematizan y agilizan los procesos electorales, los cuales representan los espacios de máxima expresión ciudadana en las democracias contemporáneas. Las herramientas de inteligencia artificial pueden ser usadas en diferentes etapas del proceso electivo, para detectar patrones de irregularidades y accesos no autorizados. Adicionalmente, pueden ser usados para revisar la elegibilidad de los votantes y actores políticos, añadiendo medidas adicionales de seguridad. Estas herramientas también pueden ser usadas para conteos y resúmenes simplificados y más rápidos. Por otro lado, la IA puede ofrecer recomendaciones a los votantes en función de sus preferencias políticas27.

En específico, las herramientas de inteligencia artificial pueden ser usadas de la siguiente manera en las fases del proceso electoral:

C. INTELIGENCIA ARTIFICIAL Y LA VERIFICACIÓN DE INFORMACIÓN

Las herramientas de inteligencia artificial pueden contribuir a la verificación de información en línea presente en los debates políticos. A pesar de que estas herramientas también pueden ser usadas para crear y difundir información errónea o engañosa, es posible la creación de herramientas entrenadas específicamente para la detección y desacreditar noticias que formen parte de los desórdenes de información, garantizando que los ciudadanos estén informados con contenido veraz29.

Adicionalmente, estas aplicaciones pueden ser usadas para garantizar la transparencia y rendición de cuentas del Estado mediante el análisis de grandes volúmenes de datos publicados por los mismos. Los datos gubernamentales públicos pueden ser analizados por herramientas de IA que no solamente garanticen que la ciudadanía comprenda la información, sino que también analice patrones que permitan indicar corrupción, malversación de fondos e ineficiencia en la administración pública30.

III. RIESGOS DE LA INTELIGENCIA ARTIFICIAL PARA LA DEMOCRACIA

La inteligencia artificial, a pesar de los potenciales beneficios que puede brindar respecto a la participación ciudadana, plantea también riesgos significativos frente a la democracia, debido a su influencia en las creencias y comportamiento de las personas.31 Cada vez resulta más difícil para los individuos reconocer y discernir entre la información veraz y desinformación32. En ese contexto, el contenido creado por herramientas de inteligencia artificial generativa, tanto en sus niveles de sofisticación como en términos de cantidad, ha contribuido de manera significativa a la desinformación y polarización política33. Estos fenómenos afectan a los grupos más vulnerables, entre ellos los jóvenes, los adultos mayores y las personas con recursos socio económicos limitados34.

La capacidad de los sistemas de inteligencia artificial generativa de producir textos, imágenes y videos que se asemejan a los producidos por los humanos tienen un impacto en los procesos políticos y en los debates que tienen lugar en las redes sociales. En ese entorno, la difusión de contenido generado mediante herramientas de inteligencia artificial ha contribuido a la desestabilización y discriminación en los entornos digitales, al favorecer la represión y la polarización. Asimismo, ha incrementado la cantidad de información falsa, la vigilancia y el poder de entidades públicas y comerciales, convirtiéndose en un riesgo para la democracia35.

El Grupo Europeo de Ética de la Ciencia y las Nuevas Tecnologías (EGE)36 y la administración del expresidente de Estados Unidos Joe Biden han resaltado esta situación37. Ambas entidades reconocen que estos avances tecnológicos son fundamentales para los procesos de innovación y pueden contribuir de manera significativa a abordar desafíos como el cambio climático y el desarrollo de tratamientos médicos. No obstante, advierten la necesidad de establecer salvaguardas suficientes para enfrentar los riesgos que su uso impone en la seguridad, autonomía y la integridad política.

A. INTELIGENCIA ARTIFICIAL, PRIVACIDAD Y CONTROL DE DATOS

Los sistemas de inteligencia artificial recolectan información a partir de la interacción propia del usuario, la actividad en redes sociales y el acceso a bases de datos. En este contexto, surgen interrogantes relevantes sobre la seguridad, privacidad y el tratamiento de los datos recopilados, tanto por estos sistemas como por las empresas que los desarrollan. Los tipos de datos accesibles para la IA se clasifican en dos tipos: explícitos, que corresponde a la información que los usuarios proporcionan a la aplicación directamente mediante comunicación directa (con chatbots o sistemas LLM), formularios o registros; e implícitos, por medio del seguimiento de las actividades que los usuarios realizan en línea. En consecuencia, el acceso a ambos tipos de datos sitúa a los sistemas de IA en una posición privilegiada frente a la vida, las preferencias y los comportamientos de las personas38.

La rápida integración de las aplicaciones de inteligencia artificial en la vida diaria aumenta las preocupaciones respecto a los efectos negativos que su manejo de información puede tener para la democracia. Entre estos riesgos destacan las amenazas a la privacidad de la información, especialmente las relacionadas con los ciberataques, estafas y la falsificación de información. Asimismo, es relevante la amenaza a la seguridad de la información confidencial frente a la posibilidad de que esta sea transferida39.

Frente a la posibilidad de ciberataques, estafas y falsificación de información hay una relación directa entre estos y la inteligencia artificial, debido a que su funcionamiento facilita la pérdida de privacidad y vulnerabilidad de las personas con las que interactúa. Asimismo, los sistemas de IA pueden otorgar información directamente a los actores que llevan a cabo ciberdelitos por medio de brechas de información sensible y robos de identidad. Respecto a la transferencia de información privada, los datos compartidos con la IA pueden instrumentalizarse en contra de los propios usuarios y convertirse en un instrumento de poder y coerción40. En la democracia, esta instrumentalización permite la vigilancia, la manipulación de la opinión pública y la segmentación política.

Los usuarios, respecto a la información que comparten, se han ubicado en una situación de vulnerabilidad, pues la información se almacena en sistemas opacos, con poca responsabilidad directa y sin control alguno sobre lo compartido. Esto, de la misma manera, coloca a la democracia en una situación de riesgo, al otorgar grandes volúmenes de información personal a entidades no controladas, que pueden vulnerarla mediante la vigilancia algorítmica o la manipulación del comportamiento de los usuarios, amenazando su autonomía41.

B. DESÓRDENES DE LA INFORMACIÓN EN LA ERA DE LA INTELIGENCIA ARTIFICIAL

El crecimiento exponencial de contenido generado con inteligencia artificial en redes sociales ha acelerado tanto la producción como el consumo de información. En ese contexto, la circulación rápida y el fácil acceso de información en plataformas digitales favorecen la difusión de contenido erróneo, ya sea con intención o sin intención42. Considerando esto, se acuñó el término general ¨desórdenes de información¨ para englobar distintas formas de información falsa o verdadera cuya clasificación depende, entre otros factores, de la intención de causar daño. Dentro de esta categoría se incluyen la desinformación, misinformación y mal información43.

Las mis informaciones, por su parte, se refiere a la información falsa que no representa los hechos de manera adecuada, sino que es inexacta e incompleta, ya sea por errores u omisiones, pero sin la intención de manipular o engañar. No obstante, sus características permiten que dependiendo del análisis semántico se lleguen a conclusiones equivocadas sobre los hechos. Se trata de información engañosa que puede incluir elementos reales, pero su imprecisión la hace propensa a crear creencias erróneas44.

La mal información, es considerada por María de los Ángeles Alonso, en su artículo “Mal información. Un estudio sobre el uso periodístico de la información como propaganda y bien de consumo.”, como el tipo de información que más atenta contra la protección constitucional y que afecta de manera significativa la confianza pública de las instituciones y la democracia en sí misma. Este tipo de información se basa en la realidad, pero busca ser utilizada para dañar o afectar a una persona, a una organización o a un país45. Comúnmente se materializa por interés económico, político o de reconocimiento, transformando la información en una forma de propaganda46. La mal información puede ser falsa o verdadera, pero su rasgo distintivo es la intención de afectar el interés general.

Una vez comprendidos los diferentes tipos de desinformación que existen y que puede generar afectaciones a la democracia y el derecho constitucional, es fundamental resaltar que los desórdenes de información se ven considerablemente amplificados por las redes sociales, que simplifican y aceleran la diseminación de información. En particular, los estudios sobre redes sociales como X (anteriormente Twitter), han concluido que la propagación de información falsa en esta aplicación es significativamente más rápida y extensiva que la información verdadera, debido a que suele generar sentimientos de sorpresa, miedo y disgusto47. Asimismo, se ha evidenciado que es 70% más probable que se comparta información falsa que verdadera en redes sociales48.

Tavakoli et al. sostienen que la facilidad con la que se consume información falsa se explica por la mayor tendencia a creer en ella49, especialmente cuando presenta una complejidad aparente. Igualmente, encuentran que la información falsa tiende a ser más fácil de comprender tanto para los seres humanos como para los modelos de IA50. En ese contexto, para el año 2020, el Pew Research Center encontró que alrededor de la mitad de los adultos en Estados Unidos reciben noticias por medio de las redes sociales51. De manera similar, en 2025, la misma institución concluyó que, un promedio de 72% de los adultos de las 25 naciones entrevistadas entienden que la difusión de información falsa es una gran amenaza para su país52. Adicionalmente, en 2017 se predijo que, la mayoría de las personas en economías maduras consumiría más falsa información que válida para 202253.

La inteligencia artificial, por su parte, se ha posicionado como un actor clave en las sociedades contemporáneas. Sus avances recientes han permitido que estas tecnologías hagan parte de diversas áreas sociales, económicas y políticas, atribuyendo su éxito a su capacidad para completar tareas específicas con facilidad54. En el ámbito de las redes sociales y la información, estas aplicaciones influyen de manera directa en el procesamiento de la información en dos dimensiones: por un lado, la difusión de la información ya sea creada por aplicativos de inteligencia artificial, veraz o asociada a un desorden informativo o la segregación algorítmica derivada de la intervención algorítmica de la IA; por otro, la creación de contenido.

1. Efectos de la Inteligencia Artificial en la Difusión de Información

En este acápite, se aborda la difusión de información mediante la inteligencia artificial, en particular su integración a los datos analíticos de las redes sociales que permiten a las compañías entender a sus compradores. El uso de la IA en este ámbito no solo influye en la manera en la que las empresas enfrentan las dinámicas de las redes sociales, sino que adquiere especial importancia para el presente estudio por su función de personalización del contenido y de la publicidad que se presenta a los usuarios55.

Los algoritmos de inteligencia artificial desempeñan un papel fundamental en el modelado de los entornos digitales de información, ya que infieren preferencias y predicen comportamientos de los usuarios. Actualmente, la IA se vincula con íntimas dimensiones de la identidad, las creencias y el consumo de las personas, afectando tanto lo que se escucha en Spotify como las noticias que se leen y las aplicaciones que se utilizan para gestionar la vida cotidiana56. Esta situación genera preocupación, pues no solamente afecta directamente la percepción propia de las personas, sino que impacta directamente a la democracia por la potencial influencia en las decisiones políticas gracias a bias algorítmicos y la manipulación del comportamiento de los usuarios57.

Es particularmente importante que los espacios organizados por datos analíticos de IA no deterioren el acceso a la información necesaria para ejercitar un sano proceso de argumentación política. En estos espacios, es más probable que las personas sean expuestas solamente a información con la que generalmente están de acuerdo, imposibilitando un proceso de retroalimentación del otro extremo político58. Esta situación, es conocida como “Filter Bubbles” o burbuja de filtros, favorece el sesgo de confirmación y genera una polarización ideológica que profundiza las divisiones sociales y extremismo político.

Un estudio de Pew Research de 2025, encontró que el 64% de jóvenes entrevistados han usado un Chatbot IA, siendo ChatGPT el más usado entre ellos59. Estas herramientas pueden contribuir a la toma de decisiones democráticas de los votantes, pues son comúnmente usadas como motores de búsqueda60. No obstante, estas aplicaciones no fueron exactamente creadas y entrenadas para esto, lo que genera que sus respuestas puedan contener errores, alucinaciones y sesgos políticos que generan desórdenes de información.

Los modelos de lenguaje basados en IA no son neutrales ni objetivos, pues durante su entrenamiento heredan sesgos tanto de los datos utilizados como de las personas que los crean y comúnmente utilizan61. Esto afecta directamente las decisiones de los votantes y genera un impacto directo en la democracia, a través de la desinformación política, el favorecimiento de partidos políticos y la creación de narrativas falsas62.

Diversos estudios han encontrado que, a pesar de que los modelos de IA son entrenados para minimizar resultados perjudiciales y bias políticos, estos tienden a favorecer en sus respuestas a visiones más liberales y progresistas63. No obstante, estos aplicativos pueden ser modificados fácilmente, y pueden cambiar sus respuestas a otras posturas políticas, de acuerdo con las interacciones con los usuarios o de instrucciones que las orientan a asumir el papel de un personaje de posturas más extremas.

Estas situaciones, adicionalmente, contribuyen a la segmentación estratégica de los ciudadanos y votantes mediante la personalización de las campañas políticas en función de sus características e intereses. En este caso, los actores políticos de manera consciente utilizan grandes cantidades de información y herramientas de inteligencia artificial para facilitar el proceso de segmentación de los posibles votantes y dividirlos en grupos más pequeños basados en sus patrones de comportamientos y, por medio de procesos especializados, inducir cambios en sus votos o sus convicciones políticas64. Esta segmentación contribuye a la creación de burbujas de filtro y radicalización de los usuarios.

2. Efectos de la Inteligencia Artificial en la Creación de Información

a) Enjambres de Agentes IA y Manipulación Algorítmica

Los modelos LLM de inteligencia artificial pueden ser usados por candidatos y grupos políticos con la intención de modelar la opinión y persuadir a los votantes mediante el despliegue de cuentas manejadas por modelos de lenguaje, afectando la perspectiva de la ciudadanía respecto a un tema de interés65. Por medio del uso de estas herramientas de IA se puede aumentar la producción de propaganda e información no verídica a bajo costo y con un lenguaje extremadamente parecido al usado por los usuarios de la red social. Al respecto, Daniel Thilo Schroeder et al., en su artículo: “How malicious AI swarms can threaten democracy” sostiene que los avances orientados a mejorar el razonamiento de la inteligencia artificial, como la cadena de pensamiento, también pueden aprovecharse para producir desinformación más persuasiva y difícil de detectar. De esta capacidad surge una amenaza novedosa: los denominados enjambres de agentes de IA colaborativos y maliciosos, sistemas formados por múltiples agentes que combinan el razonamiento LLM con arquitecturas multiagente. Gracias a ello, pueden coordinarse de manera autónoma, infiltrarse en comunidades digitales y generar de forma eficiente la apariencia de un consenso social inexistente. Al reproducir y adaptarse a las dinámicas propias de la interacción humana, estos sistemas podrían alterar el debate público y comprometer la democracia. Dado que los riesgos derivan tanto del diseño tecnológico como de los incentivos comerciales y del marco de gobernanza, los autores proponen intervenciones en varios niveles de decisión y privilegian mecanismos prácticos y exigibles frente a la mera adhesión voluntaria de las empresas6667.

Los enjambres de IA en redes sociales presentan las siguientes características: en primer lugar, mantienen identidades y memorias persistentes en el tiempo; en segundo lugar, se coordinan de acuerdo con objetivos comunes; en tercer lugar, se adaptan a las respuestas humanas y a las interacciones en la plataforma; en cuarto lugar, operan con supervisión humana mínima; y, por último, se pueden desplegar en múltiples plataformas68.

Estas aplicaciones de IA se encuentran profundamente integradas en las redes de comunicación humanas, lo que las ha convertido en una fuerza clave en la difusión de contenido de baja calidad. Esta situación ha propiciado que la rapidez con la que estos agentes establecen conexiones y trasmiten información facilite procesos de manipulación, entre ellos la creación de agendas políticas y marcos discursivos69. Diferentes estudios han concluido que agentes LLM tienen la capacidad de redactar mensajes tan persuasivos como los elaborados por seres humanos, esto se logra por medio de la integración de datos informativos en sus mensajes, que los lectores interpretan como pruebas de sus afirmaciones70.

Algunos casos, en los que se hicieron uso de estas herramientas para tener un impacto en los procesos deliberativos y democráticos de diferentes Estados alrededor del mundo, son la campaña de Donald Trump en Estados Unidos vinculada al escándalo de Cambridge Analytica; la información compartida en la pandemia Covid-19; la elección de Jair Bolsonaro en Brasil y Matteo Salvini en Italia. Las campañas mencionadas se caracterizaron por la presencia de contenido falso y el uso de bots para difundirlo en las redes sociales71. Otro caso es el de Reino Unido, donde se utilizaron bots con metodologías heurísticas para rastrear y estimular la reducción de la demanda energética y los comentarios en redes sociales sobre el tema72.

b) Deepfakes y Manipulación Audiovisual

Maria Pawelec define los deepfakes como contenidos audiovisuales sintéticos que representan rostros, cuerpos o voces humanas y que suelen crearse mediante inteligencia artificial (IA). En su estudio, la autora sostiene que las discusiones respecto al impacto de estas creaciones en la democracia se centran en los desafíos que plantean a la noción de la verdad. Asimismo, entiende que las imágenes y videos que son generados mediante estas aplicaciones pueden ser usados por regímenes totalitarios para la manipulación de las masas73.

A pesar de que el concepto de manipulación de los medios a través de imágenes alteradas o asociadas a desórdenes de información no es nuevo y, en muchos casos, estas aplicaciones podrían ser consideradas simplemente una nueva forma de manipulación, los deepfakes representan una amenaza mayor. Esto se debe a que el constante y exponencial desarrollo de las nuevas tecnologías de inteligencia artificial ha incrementado la calidad de los deepfakes, lo que no solamente implica que son más convincentes, sino que en algunos casos es más complicado que puedan ser detectados sin apoyo técnico74. No obstante, incluso contenidos deepfake de menor calidad pueden generar daños reputacionales. Por tanto, su credibilidad no depende exclusivamente de la sofisticación de las herramientas75.

La tecnología para crear deepfakes no solamente es cada vez más sofisticada, es también cada vez más accesible y comercializable, incluso para personas que no tienen conocimientos técnicos. La facilidad de uso y el acceso libre a aplicaciones como Sora de OpenAI o Nano Banana de Gemini han provocado que la creación de estos contenidos aumentara considerablemente en los últimos años76.

La manera en que este contenido puede afectar a la democracia y contribuir a la deslegitimación de un actor político o de un discurso, se relaciona con la credibilidad o plausibilidad de la información manipulada que incorpora el deepfake. En función de este criterio, los deepfakes se clasifican en tres categorías: plausibles, cuando el contenido generado se asemeja a los puntos de vista que han sido generalmente expresados por el actor político o el discurso; implausibles, cuando el contenido retrata de manera negativa a miembros del propio grupo partidista; y totalmente implausibles, cuando el contenido compartido es total y tajantemente contradictorio con las previas declaraciones de los actores políticos que se busca deslegitimar77.

Es decir, las personas con mayor alfabetización digital y política tienden a discernir con mayor facilidad el contenido deepfake, ya sea por medio de su intuición o por la reflexión cognitiva de los vídeos que consumen. Asimismo, el estudio encontró que los usuarios que son advertidos sobre la existencia de deepfakes no solo reconocen estos contenidos con más facilidad, sino que también aumentan el escepticismo frente a contenido verdadero79. Estos hallazgos ponen de manifiesto la importancia de la educación digital sobre estos temas.

i) Uso de Deepfakes en Campañas Políticas

Una de las principales problemáticas asociadas con el estado y la rápida difusión de los deepfakes es su posible efecto en las elecciones y la posible manipulación en procesos democráticos nacionales e internacionales. A pesar de que artículos pioneros en el tema concluyen que los deepfakes no tienen tanto impacto en la democracia, debido a que otros medios de información e incluso cheapfakes80 son suficientes para crear caos político, nuevos estudios concluyen que los deepfakes representan una amenaza única respecto a los procesos políticos: pues no necesariamente necesitan ser creídos para ser perjudiciales y deslegitimar a los actores políticos81. Los deepfakes utilizan la heurística del realismo y se aprovechan de la facilidad con la que el contenido audiovisual puede interpretarse como evidencia de la veracidad de lo representado.

En este acápite, se repasan los principales casos en los que la IA y los deepfakes han tenido efectos en la democracia y procesos políticos internacionales:

Estos episodios evidencian el potencial de los deepfakes como herramientas no solo de desinformación masiva, sino también de desprestigio y estigmatización en los procesos políticos y democráticos contemporáneos de los Estados alrededor del mundo.

c) Influencers Virtuales como Instrumentos de Influencia Política

Los influencers virtuales son agentes de inteligencia artificial generados por herramientas de software que buscan replicar acciones humanas y simular interacciones con seguidores. Estos influencers han representado un cambio significativo en cómo la industria funciona, presentando desafíos no solamente para los influencers humanos, sino también para la democracia, debido a que cuentan con ventajas de flexibilidad ilimitada en su apariencia83.

En la actualidad, los influencers virtuales han experimentado gran crecimiento en popularidad, acumulando una gran cantidad de seguidores en las redes sociales. Algunos ejemplos de influencers que son generados en su totalidad o que han sido modificados por herramientas inteligencia artificial son Lu do Magalu, Lil Maquela, Emily Pellegrini y Milla Sofía84, quienes tienen extensas audiencias, a pesar de no ser creadores de contenido reales.

Como fue mencionado anteriormente, las herramientas de inteligencia artificial no son apolíticas y tienen sesgos derivados de su entrenamiento. Los influencers virtuales comparten información determinada por su programador y, en consecuencia, comparten información e influencian personas sin que exista un rostro humano visible. Esto representa una problemática para la democracia, dado que los mensajes de creadores de contenido con grandes cantidades de seguidores tienen un impacto político: generan interés por sus actores, impulsan la movilización política y afectan la confianza en temas relevantes al clima político85. Lil Miquela, en particular, fue nombrada por Time Magazine como una de las 25 personas más influyentes en internet. Esta influencer ha compartido en diferentes ocasiones mensajes políticos y se ha pronunciado sobre temas como el movimiento Black Lives Matter y el impacto ambiental86.

Los influencers virtuales, al no ser humanos, generan riesgos éticos respecto a la privacidad de los datos, la transparencia en la información que divulgan, la manipulación que estos agentes pueden ejercer sobre los jóvenes, los sesgos algorítmicos, la comisión de ciberdelitos y su autenticidad87. A pesar de la existencia del principio de atribución, todavía se generan dudas respecto a la responsabilidad detrás de la cara visible del influencer virtual y el posible impacto de su actuar en las redes sociales para el contexto político contemporáneo.

C. DELIBERACIÓN POLÍTICA EN LA ERA DE LA INTELIGENCIA ARTIFICIAL

Algunas de las preocupaciones respecto al uso de herramientas IA en este punto son los filtros algorítmicos, la censura ejercida por estas herramientas y la manipulación en las esferas de comunicación88. Adicionalmente, se resalta que la IA puede desincentivar a las personas a realizar una participación en los espacios abiertos para el debate político. Al respecto, Andreas Jungherr y Adrian Rauchfleisch señalan en su estudio que la deliberación asistida por la IA reduce la disposición a participar e introduce nuevas brechas y desigualdades relacionadas con preconceptos hacia las tecnologías.

Por otro lado, la IA adopta dos formas de censura; la expresa, que consiste en la eliminación directa de contenido o la suspensión de cuentas, y la sutil, en la que no se elimina directamente el contenido, pero si se le quita la visibilidad al mismo. Esto afecta directamente a la democracia, debido a que no permite la participación directa de voces críticas en debates y deja su relevancia a merced del algoritmo. Asimismo, la manipulación producida por bots tiende a amplificar posturas y afecta la capacidad de reflexión interna de las personas, al distorsionar la realidad de pensamientos que, tal vez, no son tan populares y consensuados como se hacen creer89.

Las herramientas de inteligencia artificial automatizadas pueden obstaculizar los procesos estructurales en los actos políticos y electorales, por ejemplo, mediante solicitudes de documentos o procesos de inscripción90. Adicionalmente, estas herramientas pueden realizar ciberataques en las bases de datos de las entidades que manejan la información de los votantes, ya sea para explotar la información o para generar una sobrecarga en el sistema91.

D. INTERFERENCIA ELECTORAL EN LA ERA DE LA INTELIGENCIA ARTIFICIAL

La incorporación de herramientas de inteligencia artificial en los procesos electorales ha creado nuevas posibilidades de interferencia política, mediante el desarrollo de mecanismos de persuasión que pueden afectar la autonomía de los ciudadanos. En ese contexto, algunas de las características de esta estrategia son:

IV. EL PODER ALGORÍTMICO Y LA INTEGRIDAD DEMOCRÁTICA

El derecho ha abordado estas temáticas y ha reconocido cómo estos sistemas de IA pueden representar un riesgo en los procesos electorales, la democracia y el Estado social de derecho. Reglamentos como el “IA Act” nacen como un marco jurídico con normas armonizadas respecto al uso de la IA dentro de la Unión Europea, destinado a la protección de los intereses públicos y los derechos fundamentales de los individuos. Esta normativa reconoce que su aplicación puede tener efectos significativos sobre las libertades individuales, la democracia, el derecho a la tutela judicial efectiva y el Estado de Derecho. Asimismo, la “ley de servicios digitales” entiende que los prestadores de plataformas en línea de gran tamaño y los motores de búsqueda en línea pueden contribuir a la proliferación de los riesgos sistémicos en cuanto al acceso y propagación de contenidos ilícitos, la afectación de derechos humanos, el impacto negativo, real y previsible sobre procesos democráticos y la manipulación generalizada en temas de salud pública y menores93.

Esta situación ha sido conocida como “algocracia”94 y se caracteriza por tres rasgos fundamentales. En primer lugar, la influencia masiva sin coerción formal; que consiste en que el poder algorítmico, a diferencia del poder estatal, ya no necesita de prohibiciones y sanciones, debido a que la estructura y organización de las aplicaciones tiene un efecto directo en el contenido que consumen los ciudadanos por medio de plataformas, mercados de datos, recomendaciones y publicidad. En segundo lugar, su incidencia directa en preferencias políticas mediante la personalización y optimización de los datos que son presentados a las personas, lo que deriva en espacios de debate sintéticos. En tercer lugar, poca transparencia respecto al manejo y tratamiento de los datos de los usuarios, lo que deriva en que no pueda ser garantizada la rendición de cuentas.

En ese sentido, se entiende que la vulneración parte desde cuatro dimensiones. La primera corresponde a la libertad de expresión, tanto al recibirla como al compartirla. La segunda se relaciona con la recepción de información, este aspecto se ve vulnerado no solamente por el consumo y la producción de información falsa o engañosa, sino que afecta de manera directa el espacio público y deliberativo de los espacios digitales por medio de las burbujas de información y el contenido filtrado. La tercera concierne a la igualdad política, vulnerada por la microsegmentación de contenido, que no permite que la información llegue a todos los votantes equitativamente. La cuarta se refiere a la autodeterminación informativa, que se ve comprometida por la opacidad sobre el manejo de datos de los usuarios en las plataformas95.

Este nuevo poder no opera por medio de vías tradicionales, lo que permite resaltar la importancia de la propuesta de Ferrajoli96 de realizar una revisión regulatoria de los Estados de derecho con la intención de constitucionalizar el derecho privado. Esta revisión permitiría ejercer un mayor control sobre las entidades privadas que escapan del poder tradicional democrático y constitucional.

La discusión latinoamericana ofrece algunos referentes para desarrollar estas garantías. Por ejemplo, Viollier y Contreras97 comparan la reforma chilena de la ley de protección de datos con el régimen europeo y aporta criterios para analizar la transparencia y la posibilidad de cuestionar decisiones algorítmicas que afectan derechos. De manera similar, Rubano Lapasta y Lagos Arévalo98 presentan un estudio comparado sobre los neuroderechos y amplía la protección de la persona frente a este desarrollo tecnológico. A pesar de ser ámbitos distintos, ambos trabajos ofrecen referentes relevantes para discutir la protección de la autonomía personal y los derechos fundamentales frente a nuevas formas de intervención tecnológica.

A partir del análisis desarrollado, se proponen cuatro orientaciones regulatorias que podrían contribuir a la protección de los participantes frente a estas herramientas. Primero, establecer obligaciones de transparencia proporcional al riesgo que permitan identificar de manera efectiva el contenido político sintético susceptible de engañar, conocer a los responsables de su producción y difusión y comprender, de manera general, sus posibles efectos. Segundo, garantizar la supervisión humana de las decisiones automatizadas que puedan restringir los derechos de participación, así como mecanismos efectivos de revisión e impugnación. Tercero, delimitar las responsabilidades de los desarrolladores y distribuidores de estas tecnologías en función de su grado de intervención y su capacidad de control. En cuarto lugar, proteger la integridad democrática mediante auditorías independientes y una coordinación efectiva de las autoridades electorales para detectar y responder a operaciones de manipulación.

V. CONCLUSIONES

La expansión generalizada de las herramientas de inteligencia artificial está dinamizando y modificando las condiciones de las democracias contemporáneas. Estas tecnologías se han convertido en uno de los factores más influyentes en los espacios públicos. Sin embargo, la influencia de estas aplicaciones no es inherentemente negativa o positiva. Como se mostró en la presente investigación, esta situación depende de las condiciones normativas en las que las mismas son diseñadas y supervisadas, debido a la presencia de sesgos y alucinaciones en sus entrenamientos y usos.

La IA tiene el potencial de contribuir de manera significativa y positiva a la democracia contemporánea al facilitar el acceso y comprensión de información política. Estas herramientas también permiten que los Estados sean más eficientes, debido a la apertura de canales de comunicación más eficientes y directos entre la administración y los ciudadanos. Adicionalmente, estas tecnologías pueden ser usadas para facilitar los procesos democráticos mediante la integración de estas en los procedimientos estructurales de los Estados, contribuyendo de manera directa a la transparencia, accesibilidad y participación pública.

No obstante, esta visión positiva también lleva consigo unos riesgos significativos para la democracia en su aplicación y uso. Las herramientas IA pueden afectar la participación igualitaria, la autonomía de los ciudadanos, la integridad electoral y la información pública, que constituyen pilares fundamentales de las democracias contemporáneas. Esto se da debido a la proliferación de los desórdenes de la información, el uso generalizado de tecnología deepfake, la segmentación extrema e intencionada y la integración de agentes de IA automatizados en los espacios públicos de deliberación.

El principal aporte del presente estudio consiste en vincular las oportunidades de participación y los riesgos de manipulación asociados al uso de herramientas de inteligencia artificial. Desde esta perspectiva, el poder algorítmico no se limita a la producción de contenido falso, sino que tiene la capacidad de influir en la formación de la voluntad política de los participantes mediante la selección y personalización de la información. En respuesta a la pregunta de investigación propuesta, el fortalecimiento democrático frente al uso de estas herramientas depende de las garantías que orienten su desarrollo y utilización. La transparencia, supervisión humana y la responsabilidad de los operadores son criterios fundamentales para proteger la autonomía ciudadana y la igualdad participativa.

La Inteligencia artificial, más allá de sus beneficios y riesgos frente a la democracia, ha dejado de ser una simple herramienta de eficiencia y se ha convertido en una forma emergente y no tradicional de poder no coercitivo que desafía el derecho constitucional contemporáneo, los derechos fundamentales y los Estados de Derecho. En ese contexto, el uso generalizado de estas tecnologías ha reconfigurado las condiciones materiales en las que se ejercen las actividades democráticas.

En consecuencia, es necesario que los Estados contemporáneos analicen esta situación y adopten respuestas institucionales deliberadas, tanto ante los posibles beneficios de estas herramientas como frente a su evidente impacto sobre los pilares fundamentales de la democracia. Resulta imprescindible, por tanto, promover estrategias de integración responsable que garanticen el cuidado de los derechos fundamentales. Asimismo, es necesario impulsar estrategias de alfabetización digital y establecer mecanismos de transparencia y rendición de cuentas dirigidos tanto a los usuarios como a los actores políticos y a las entidades estatales que usan aplicaciones IA en sus procesos generales.

Reseña de los autores

David Mendieta: Profesor de tiempo completo de la Universidad de Medellín, miembro del Grupo de Investigaciones Jurídicas de la Facultad de Derecho de la Universidad de Medellín. Abogado, Especialista en Derecho Constitucional y Magíster en Derecho de la Universidad de Antioquia. Diploma de Estudios Avanzados (DEA) y Doctor en Derecho Constitucional de la Universidad Complutense de Madrid. Correo electrónico: dmendieta@udemedellin.edu.co.

Luisa Patiño López: Investigadora de la Universidad de Medellín. Maestranda en Derecho, Tecnología e Innovación de la Universidad Municipal de São Caetano do Sul (USCS). Correo electrónico: luisa.lopez@uscsonline.com.br.

Conflicto de intereses

Los autores declaran no tener conflictos de intereses relacionados con la investigación, elaboración y publicación del presente artículo.

Contribución de los autores

David Mendieta: conceptualización; redacción, revisión y edición.

Luisa Patiño López: conceptualización; redacción, revisión y edición.

Financiamiento

El presente artículo se desarrolló en el marco del proyecto de investigación “A DEMOCRACIA CONSTITUCIONAL INCOMPLETA NA AMÉRICA LATINA: EROSÃO DEMOCRÁTICA ENTRE O DOMÉSTICO E O INTERNACIONAL”, con financiamiento del Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq) y es coorganizado por REDDES (Red Latinoamericana de Investigadores sobre Estado de Derecho, Democracia y Derechos Sociales) y por el programa de Pós-Graduação em Direito da Faculdade de Direito de São Bernardo do Campo) y durante la pasantía de Joven Investigador de la Universidad de Medellín, Colombia.

REFERENCIAS

I. Doctrina

Ahmmad, M.; Shahzad, K.; Iqbal, A. y Latif, M. (2025): “Trap of Social Media Algorithms: A Systematic Review of Research on Filter Bubbles, Echo Chambers, and Their Impact on Youth”, en: Societies (vol. 15, núm. 11). Disponible en: https://www.mdpi.com/2075-4698/15/11/301.

Aïmeur, E.; Amri, S. y Brassard, G. (2023): “Fake news, disinformation and misinformation in social media: a review”, en: Social Network Analysis and Mining (vol. 13, núm. 1, art. 30). DOI: https://doi.org/10.1007/s13278-023-01028-5.

Ajder, H.; Patrini, G.; Cavalli, F. y Cullen, L. (2019): The State of Deepfakes: Landscape, Threats, and Impact. Disponible en: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf.

Akakpo, A.; Gyasi, E. A.; Oduro, B. y Akpabot, S. (2025): “Artificial Intelligence (AI) and the Future of Information Privacy”, en: Journal of Global Information Management (vol. 33, núm. 1). DOI: https://doi.org/10.4018/JGIM.383050.

Alhitmi, H.; Mardiah, A.; Al-Sulaiti, K. y Abbas, J. (2024): “Data security and privacy concerns of AI-driven marketing in the context of economics and business field: an exploration into possible solutions”, en: Cogent Business & Management (vol. 11). DOI: https://doi.org/10.1080/23311975.2024.2393743.

Ali Adeeb, R. y Mirhoseini, M. (2023): “The Impact of Affect on the Perception of Fake News on Social Media: A Systematic Review”, en: Social Sciences (vol. 12, núm. 12). DOI: https://doi.org/10.3390/socsci12120674.

Alnemr, N. (2026): “Deliberative democracy in an algorithmic society: harms, contestations and deliberative capacity in the digital public sphere”, en: Democratization (vol. 33, núm. 4), pp. 927-946. DOI: https://doi.org/10.1080/13510347.2025.2522920.

Androutsopoulou, A.; Karacapilidis, N.; Loukis, E. y Charalabidis, Y. (2019): “Transforming the communication between citizens and government through AI-guided chatbots”, en: Government Information Quarterly (vol. 36, núm. 2), pp. 358-367. DOI: https://doi.org/10.1016/j.giq.2018.10.001.

Anthropic (2024): “Measuring the Persuasiveness of Language Models”, en: Anthropic (9 de abril de 2024). Disponible en: https://www.anthropic.com/research/measuring-model-persuasiveness.

Audrezet, A.; Koles, B.; Moulard, J. G.; Ameen, N. y McKenna, B. (2025): “Virtual influencers: Definition and future research directions”, en: Journal of Business Research (vol. 200). DOI: https://doi.org/10.1016/j.jbusres.2025.115647.

Barari, S.; Lucas, C.; Munger, K.; Huff, C.; Lelkes, Y.; Montgomery, J. y Webster, S. (2025): “Political Deepfakes are as Credible as Other Fake Media and (Sometimes) Real Media”, en: The Journal of Politics (vol. 87, núm. 2).

Battista, D. y Mangone, E. (2025): “Technological Culture and Politics: Artificial Intelligence as the New Frontier of Political Communication”, en: Societies (vol. 15, núm. 4). DOI: https://doi.org/10.3390/soc15040075.

Bengesi, S.; El-Sayed, H.; Sarker, K.; Houkpati, Y.; Irungu, J. y Oladunni, T. (2023): Advancements in Generative AI: A Comprehensive Review of GANs, GPT, Autoencoders, Diffusion Model, and Transformers. Disponible en: https://arxiv.org/pdf/2311.10242v2.

Bonilla Gutiérrez, J. C. (2024): “IA y Privacidad: Protegiendo la Autodeterminación Informativa en la Era Digital”, en: Revista de la Facultad de Derecho de México (vol. 74, núm. 290), pp. 125-148. DOI: https://doi.org/10.22201/fder.24488933e.2024.290.89719.

Coeckelbergh, M. (2024): Por qué la IA debilita la democracia y qué hacer al respecto (Ediciones Cátedra).

Comisión Europea (2023): “Democracy in peril: Commission’s Ethics Group stresses need and ways to deepen democracy in the face of novel risks”, en: EURAXESS (21 de mayo de 2023). Disponible en: https://euraxess.ec.europa.eu/worldwide/africa/news/democracy-peril-commissions-ethics-group-stresses-need-and-ways-deepen.

Cui, W.; Lu, B.; Guo, Yuanyuan y Guo, Yunpeng (2025): “How Political Interest and Knowledge Shape Political Efficacy in Institutionalized Participation”, en: International Journal of Electronic Government Research (vol. 21, núm. 1). DOI: https://doi.org/10.4018/IJEGR.387830.

Dan, Viorela (2026): “Deepfakes as a Democratic Threat: Experimental Evidence Shows Noxious Effects That Are Reducible Through Journalistic Fact Checks”, en: The International Journal of Press/Politics (vol. 31, núm. 3), pp. 525-550. DOI: https://doi.org/10.1177/19401612251317766.

Estrada-Cuzcano, A.; Alfaro-Mendives, K. y Saavedra-Vásquez, V. (2020): “Disinformation y Misinformation, Posverdad y Fake News: precisiones conceptuales, diferencias, similitudes y yuxtaposiciones”, en: Información, Cultura y Sociedad (núm. 42), pp. 93-106. DOI: https://doi.org/10.34096/ics.i42.7427.

Faverio, M.; Sidoti, O. y Nolan, H. (2025): Teens, Social Media and AI Chatbots 2025 (Pew Research Center). Disponible en: www.pewresearch.org.

Ferrajoli, L. (2018): Constitucionalismo más allá del Estado (Traducc. de P. Andrés Ibáñez, Editorial Trotta).

Ferrara, E. (2025): Charting the Landscape of Nefarious Uses of Generative Artificial Intelligence for Online Election Interference. Disponible en: http://arxiv.org/abs/2406.01862.

Fisher, J.; Feng, S.; Aron, R.; Richardson, T.; Choi, Y.; Fisher, D. W.; Pan, J.; Tsvetkov, Y. y Reinecke, K. (2025): “Biased AI can influence political decision-making”, en: arXiv, pp. 1-57. DOI: https://doi.org/10.48550/arXiv.2410.06415.

Galindo Vácha, J. C. (2025): “La inteligencia artificial (IA) en el marco de la democracia digital”, en: Revista de Derecho Político (núm. 122), pp. 159-184. DOI: https://doi.org/10.5944/rdp.122.2025.44745.

Gruensteidl, M. N. y Kirrane, S. (2026): “A Comparison and Critical Reflection of Information Disorder Detection Techniques: Performing a Cross-Data and Cross-Model Evaluation”, en: Information Fusion (vol. 127). DOI: https://doi.org/10.1016/j.inffus.2025.103806.

Hameleers, M.; van der Meer, T. G. L. A. y Dobber, T. (2024): “Distorting the truth versus blatant lies: The effects of different degrees of deception in domestic and foreign political deepfakes”, en: Computers in Human Behavior (vol. 152). DOI: https://doi.org/10.1016/j.chb.2023.108096.

Harrison, S. (2025): “Popular AI Models Show Partisan Bias When Asked to Talk Politics”, en: Stanford Business. Disponible en: https://www.gsb.stanford.edu/insights/popular-ai-models-show-partisan-bias-when-asked-talk-politics.

Hazell, J. (2023): “Spear Phishing with Large Language Models”, en: Computers and Society.

He, R.; Cao, J. y Tan, T. (2025): “Generative artificial intelligence: a historical perspective”, en: National Science Review (vol. 12, núm. 5). DOI: https://doi.org/10.1093/nsr/nwaf050.

Hewapathirana, I. U. y Perera, N. (2024): “Navigating the age of AI influence: A systematic literature review of trust, engagement, efficacy and ethical concerns of virtual influencers in social media”, en: Journal of Infrastructure, Policy and Development (vol. 8, núm. 8). DOI: https://doi.org/10.24294/jipd.v8i8.6352.

Ireton, Cherilyn (2020): Periodismo, noticias falsas and desinformación (UNESCO).

Joseph, J. (2025): “The algorithmic self: how AI is reshaping human identity, introspection, and agency”, en: Frontiers in Psychology (vol. 16). DOI: https://doi.org/10.3389/fpsyg.2025.1645795.

Jungherr, Andreas (2023): “Artificial Intelligence and Democracy: A Conceptual Framework”, en: Social Media + Society (vol. 9, núm. 3). DOI: https://doi.org/10.1177/20563051231186353.

Jungherr, A. y Rauchfleisch, A. (2025): “Artificial Intelligence in Deliberation: The AI Penalty and the Emergence of a New Deliberative Divide”, en: Government Information Quarterly (vol. 42, núm. 4). DOI: https://doi.org/10.1016/j.giq.2025.102079.

Kelsen, Hans (1995): Teoría general del Derecho y del Estado (Traducc. de Eduardo García Máynez, México, Universidad Nacional Autónoma de México).

Kleis Nielsen, R. y Graves, L. (2017): “News you don’t believe”: Audience perspectives on fake news. Disponible en: https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2017-10/Nielsen%26Graves_factsheet_1710v3_FINAL_download.pdf.

Krah, R. y Mertens, G. (2020): “Transparency in Local Governments: Patterns and Practices of Twenty-first Century”, en: State and Local Government Review (vol. 52). DOI: https://doi.org/10.1177/0160323X20970245.

Łabuz, M. y Nehring, C. (2024): “On the way to deep fake democracy? Deep fakes in election campaigns in 2023”, en: European Political Science (vol. 23, núm. 4), pp. 454-473. DOI: https://doi.org/10.1057/s41304-024-00482-9.

Lawrence, N. y Ramachandran, G. (2025): “Artificial Intelligence and Election Security”, en: Brennan Center (5 de octubre de 2025). Disponible en: https://www.brennancenter.org/our-work/research-reports/artificial-intelligence-and-election-security.

Leite Sampaio, J. A. y Marques Tavares Costa, A. C. (2025): “Capitalismo de vigilancia y modulación del comportamiento humano: ¿el entorno digital como espacio propicio para la manipulación del elector?”, en: Opinión Jurídica (vol. 24, núm. 52), pp. 1-15. DOI: https://doi.org/10.22395/ojum.a4542.

Lindemann, N. F. (2025): “Chatbots, search engines, and the sealing of knowledges”, en: AI & Society (vol. 40, núm. 6), pp. 5063-5076. DOI: https://doi.org/10.1007/s00146-024-01944-w.

Lozada López, D. J. y Saltos García, P. A. (2023): “Technology and exclusion: the role of AI in digital literacy for older adults”, en: Sage Sphere in Artificial Intelligence (vol. 1, núm. 1), pp. 1-11.

Mason, J. (2023): “Biden eyes AI dangers, says tech companies must make sure products are safe”, en: Reuters (4 de abril de 2023). Disponible en: https://www.reuters.com/technology/biden-discuss-risks-ai-tuesday-meeting-with-science-advisers-2023-04-04/.

Mehr, H. (2017): Artificial Intelligence for Citizen Services and Government.

Micklitz, H.-W.; Pollicino, O.; Reichman, A.; Simoncini, A.; Sartor, G. y De Gregorio, G. (eds.) (2021): Constitutional Challenges in the Algorithmic Society (Cambridge, Cambridge University Press).

Morais da Rosa, A. y Guasque, B. (2024): “Inteligencia artificial, sesgos algorítmicos y racismo: el lado desconocido de la justicia algorítmica”, en: Opinión Jurídica (vol. 23, núm. 50), pp. 1-23. DOI: https://doi.org/10.22395/ojum.v23n50a49.

Newman, N.; Ross Arguedas, A.; Robertson, C. T.; Kleis Nielsen, R. y Fletcher, R. (2025): Reuters Institute Digital News Report 2025. DOI: https://doi.org/10.60625/risj-8qqf-jt36.

Novelli, C. y Sandri, G. (2024): “Digital Democracy in the Age of Artificial Intelligence”, en: SSRN Electronic Journal. DOI: https://doi.org/10.2139/ssrn.4901264.

Pawelec, M. (2022): “Deepfakes and Democracy (Theory): How Synthetic Audio-Visual Media for Disinformation and Hate Speech Threaten Core Democratic Functions”, en: Digital Society (vol. 1, núm. 2, art. 19). DOI: https://doi.org/10.1007/s44206-022-00010-6.

Poushter, J.; Fagan, M.; Smerkovich, M. y Prozorovsky, Andrew (2025): “False information online as a threat”, en: Pew Research Center (19 de agosto de 2025). Disponible en: https://www.pewresearch.org/2025/08/19/false-information-online-as-a-threat.

Rayhan, Shahana y Rayhan, Swajan (2023): The Role of AI in Democratic Systems: Implications for Privacy, Security, and Political Manipulation. DOI: https://doi.org/10.13140/RG.2.2.31121.61281.

Rubano Lapasta, M. y Lagos Arévalo, R. (2026): “Los neuroderechos ante la perplejidad de los avances científicos y tecnológicos: Casos de derecho comparado y la situación en Chile”, en: Revista de Derecho, Universidad Católica de la Santísima Concepción (núm. 48), pp. 77-96. DOI: https://doi.org/10.21703/issn2735-6337/2026.n48.05.

Rymon, Y. (2025): Of the People, By the Algorithm: How AI Transforms Democratic Representation (arXiv Preprint arXiv:2508.19036).

Saade, T. (2025): “Election Interference in An Age of AI-Enabled Cyberattacks and Information Manipulation Campaigns”, en: Stanford International Policy Review (30 de enero de 2025). Disponible en: https://fsi.stanford.edu/sipr/content/election-interference-age-ai-enabled-cyberattacks-and-information-manipulation-campaigns.

Saheb, T.; Sidaoui, M. y Schmarzo, B. (2024): “Convergence of artificial intelligence with social media: A bibliometric & qualitative analysis”, en: Telematics and Informatics Reports (vol. 14). DOI: https://doi.org/10.1016/j.teler.2024.100146.

Savaget, P.; Chiarini, T. y Evans, S. (2019): “Empowering political participation through artificial intelligence”, en: Science and Public Policy (vol. 46, núm. 3), pp. 369-380. DOI: https://doi.org/10.1093/scipol/scy064.

Schroeder, D. T. et al. (2026): “How malicious AI swarms can threaten democracy”, en: Science (vol. 391, núm. 6783), pp. 354-357. DOI: https://doi.org/10.1126/science.adz1697.

Shearer, E. (2018): “Social media outpaces print newspapers in the U.S. as a news source”, en: Pew Research Center (10 de diciembre de 2018). Disponible en: https://www.pewresearch.org/short-reads/2018/12/10/social-media-outpaces-print-newspapers-in-the-u-s-as-a-news-source/.

Snow, J. (2017): “Can AI Win the War Against Fake News?”, en: MIT Technology Review (13 de diciembre de 2017). Disponible en: https://www.technologyreview.com/2017/12/13/147095/can-ai-win-the-war-against-fake-news/.

Summerfield, C. et al. (2025): “The impact of advanced AI systems on democracy”, en: Nature Human Behaviour (vol. 9). DOI: https://doi.org/10.1038/s41562-025-02309-z.

Tavakoli, M.; Alani, H. y Burel, G. (2023): “On the Readability of Misinformation in Comparison to the Truth”, en: CEUR Workshop Proceedings (vol. 3370), pp. 63-72. Disponible en: https://ceur-ws.org/Vol-3370/paper6.pdf.

TIME Staff (2018): “The 25 Most Influential People on the Internet”, en: TIME (28 de mayo de 2018). Disponible en: https://time.com/5324130/most-influential-internet/.

Van Bavel, J. J.; Harris, E. A.; Pärnamets, P.; Rathje, S.; Doell, K. C. y Tucker, J. A. (2021): “Political psychology in the digital (mis)information age: A model of news belief and sharing”, en: Social Issues and Policy Review (vol. 15, núm. 1), pp. 84-113. DOI: https://doi.org/10.1111/sipr.12077.

Viollier, Pablo y Contreras, Pablo (2026): “Derecho a una explicación en decisiones automatizadas: Contrapunto entre el GDPR y la Ley 21.719”, en: Revista Chilena de Derecho y Ciencia Política (vol. 17, núm. 1). DOI: https://doi.org/10.7770/rchdcp-v17n1-art527.

Viudes Fernández, Francisco José (2023): “Revolucionando la política: El papel omnipresente de la IA en la segmentación y el targeting de campañas modernas”, en: Más Poder Local (núm. 53), pp. 146-151. DOI: https://doi.org/10.56151/maspoderlocal.183.

Von Sikorski, C.; Merz, P.; Heiss, R.; Bassler, M.; Buyny, C.; Hildebrand, S.; Streller, C. y Wicki, E. (2026): “Both AI-generated and human influencers can correct misinformation: Investigating the effectiveness of corrections for polarized and non-polarized issues”, en: Computers in Human Behavior (vol. 176). DOI: https://doi.org/10.1016/j.chb.2025.108845.

Vosoughi, S.; Roy, D. y Aral, S. (2018): “The spread of true and false news online”, en: Science (vol. 359, núm. 6380), pp. 1146-1151. DOI: https://doi.org/10.1126/science.aap9559.

Weng, Z. y Lin, A. (2022): “Public Opinion Manipulation on Social Media: Social Network Analysis of Twitter Bots during the COVID-19 Pandemic”, en: International Journal of Environmental Research and Public Health (vol. 19, núm. 24). DOI: https://doi.org/10.3390/ijerph192416376.

Zidouemba, M. T. (2025): “Governance and artificial intelligence: the use of artificial intelligence in democracy and its impacts on the rights to participation”, en: Discover Artificial Intelligence (vol. 5, núm. 1, art. 12). DOI: https://doi.org/10.1007/s44163-025-00229-5.

II. Normas citadas

Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, Diario Oficial de la Unión Europea, L 277 (2022). Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:32022R2065.

Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, Diario Oficial de la Unión Europea (2024). Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=OJ:L_202401689.

Notas

  1. He et al. (2025), p. 1. ↑

  2. La inteligencia artificial generativa hace parte de la caracterización “débil” entre los tipos de inteligencia artificial y está desarrollada para la realización de una tarea específica. Este tipo de IA no tiene conciencia ni comprensión, a diferencia de los otros tipos de inteligencia artificial como la general y la superinteligencia que no existen en la práctica y hacen parte de un aspecto teórico de estas tecnologías. ↑

  3. Algunos ejemplos de aplicaciones de IA de este tipo importantes son DALL-E, Midjourney, Stable Diffusion. ↑

  4. Algunos ejemplos de aplicaciones de IA de este tipo importantes son SpeechGAN, ElevenLabs y Speechelo. ↑

  5. Bengesi et al. (2023), pp. 8-12. ↑

  6. Micklitz et al. (2021). ↑

  7. Alnemr (2026). ↑

  8. Jungherr (2023); Summerfield et al. (2025). ↑

  9. Zidouemba (2025), p. 5. ↑

  10. Kelsen (1995), p. 341. ↑

  11. Galindo (2025), pp. 167 y 168. ↑

  12. Galindo (2025), p. 168. ↑

  13. Cui et al. (2025), p. 2. ↑

  14. Novelli y Sandri (2024), pp. 5 y 6. ↑

  15. Rymon (2025), p. 3. ↑

  16. Novelli y Sandri (2024), p. 10. ↑

  17. Lozada y Saltos (2023), pp. 3-5. ↑

  18. Galindo (2025), p. 178. ↑

  19. Zidouemba (2025), pp. 5 y 6. ↑

  20. Krah y Mertens (2020), pp. 200 y 201. ↑

  21. Savaget et al. (2019), p. 370. ↑

  22. Zidouemba (2025), p. 2. ↑

  23. Battista y Mangone (2025), p. 6. ↑

  24. Novelli y Sandri (2024), p. 4. ↑

  25. Androutsopoulou et al. (2019). ↑

  26. Mehr (2017), p. 6. ↑

  27. Galindo (2025), p. 177. ↑

  28. Novelli y Sandri (2024), p. 12. ↑

  29. Viudes (2023), p. 150. ↑

  30. Androutsopoulou et al. (2019). ↑

  31. Van Bavel et al. (2021), p. 110. ↑

  32. Un estudio realizado en Estados Unidos muestra que el 72% de los usuarios de redes sociales se ven afectados por la preocupación sobre la veracidad de la información. Newman et al. (2025), pp. 21 y 22. ↑

  33. La desinformación que puede ser generada por medio de la inteligencia artificial, no es exclusivamente política, esta puede ser realizada sobre cualquier tema. No obstante, la información más relevante para el presente artículo está relacionada con temas de impacto político. ↑

  34. Von Sikorski et al. (2026), p. 2. ↑

  35. Coeckelbergh (2024). ↑

  36. Comisión Europea (2023). ↑

  37. Mason (2023). ↑

  38. Rayhan y Rayhan (2023), pp. 7 y 8. ↑

  39. Alhitmi et al. (2024), p. 4. ↑

  40. Akakpo et al. (2025), pp. 14 y 15. ↑

  41. Bonilla Gutiérrez (2024), pp. 146 y 147. ↑

  42. Gruensteidl y Kirrane (2026), p. 1. ↑

  43. Aïmeur et al. (2023), pp. 7 y 8. ↑

  44. Estrada-Cuzcano et al. (2020), pp. 97 y 98. ↑

  45. Ireton (2020). ↑

  46. Nielsen y Graves (2017), p. 5. ↑

  47. Ali Adeeb y Mirhoseini (2023), p. 11. ↑

  48. Vosoughi et al. (2018). ↑

  49. Tavakoli et al. (2023), p. 69. ↑

  50. Ireton (2020), pp. 34, 63 y 68. ↑

  51. Shearer (2018). ↑

  52. Poushter et al. (2025). ↑

  53. Aïmeur et al. (2023); Snow (2017). ↑

  54. Jungherr (2023), p. 4. ↑

  55. Saheb et al. (2024), p. 1. ↑

  56. Joseph (2025), pp. 1 y 2. ↑

  57. Joseph (2025). ↑

  58. Ahmmad et al. (2025), p. 2. ↑

  59. Faverio et al. (2025). ↑

  60. Lindemann (2025), p. 5073. ↑

  61. Morais y Guasque (2024), p. 5. ↑

  62. Fisher et al. (2025). ↑

  63. Harrison (2025). ↑

  64. Viudes (2023), pp. 148, 149 y 151. ↑

  65. Summerfield et al. (2025), p. 3. ↑

  66. Traducido al español. ↑

  67. Schroeder et al. (2026), p. 2. ↑

  68. Schroeder et al. (2026), p. 2. ↑

  69. Weng y Lin (2022), p. 13. ↑

  70. Anthropic (2024). ↑

  71. Battista y Mangone (2025), pp. 4, 7 y 9. ↑

  72. Androutsopoulou et al. (2019). ↑

  73. Pawelec (2022), p. 2. ↑

  74. Pawelec (2022). ↑

  75. Dan (2026), pp. 526 y 527. ↑

  76. Ajder et al. (2019), p. 5. ↑

  77. Hameleers et al. (2024), p. 2. ↑

  78. Barari et al. (2025), pp. 12 y 13. ↑

  79. Barari et al. (2025), p. 13. ↑

  80. Son imágenes y videos de menor calidad y sofisticación. ↑

  81. Hameleers et al. (2024), p. 2. ↑

  82. Ferrara (2025), p. 6; Łabuz y Nehring (2024), p. 461. ↑

  83. Audrezet et al. (2025), pp. 2, 4 y 6. ↑

  84. Lu do Magalu cuenta con 8,5 millones de seguidores en Instagram; Lil Miquela tiene 2,3 millones de seguidores en la misma plataforma, estas dos influencers a pesar de contar con avatares humanoides, se puede vislumbrar con facilidad que no son personas reales. Emily Pellegrini, con alrededor de 553 mil seguidores, y Milla Sofía, con 502 mil seguidores en Instagram, tienen la particularidad de que sus avatares se asemejan con los humanos, y a simple vista podrían ser confundidos con creadores de contenido reales. Revisado el día 26 de enero de 2026. ↑

  85. Von Sikorski et al. (2026), p. 2. ↑

  86. TIME Staff (2018). ↑

  87. Hewapathirana y Perera (2024), pp. 17-19 y 46. ↑

  88. Alnemr (2026), p. 939. ↑

  89. Alnemr (2026), p. 932. ↑

  90. Lawrence y Ramachandran (2025). ↑

  91. Saade (2025). ↑

  92. Hazell (2023), p. 4. ↑

  93. Esas son las cuatro categorías en las que el acto ubica a los riesgos sistémicos del uso de este tipo de plataformas. ↑

  94. Micklitz et al. (2021), p. 17. ↑

  95. Sampaio y Costa (2025), p. 11; Reglamento (UE) 2022/2065, de 2022. ↑

  96. Ferrajoli (2018). ↑

  97. Viollier y Contreras (2026). ↑

  98. Rubano y Lagos (2026). ↑