La inteligencia artificial como espada de doble filo: entre la participación aumentada y la manipulación algorítmica
DOI:
https://doi.org/10.21703/issn2735-6337/2026.n49.04Palabras clave:
democracia digital, deepfakes, integridad democrática, inteligencia artificial, participación ciudadanaResumen
La expansión de la inteligencia artificial está transformando las condiciones de participación ciudadana y el funcionamiento de las democracias contemporáneas, al ofrecer nuevas oportunidades de intervención pública y, a la vez, plantear riesgos para los derechos fundamentales. Este artículo tiene como objetivo analizar el doble impacto de estas tecnologías en los procesos democráticos desde una perspectiva jurídico-constitucional. A partir de una metodología analítico-doctrinal, basada en la revisión de literatura académica y en el examen crítico e interpretativo de sus implicaciones constitucionales, se estudian sus aplicaciones en la participación ciudadana, la gestión pública y los procesos electorales, así como los riesgos derivados de la desinformación, los contenidos sintéticos, la microsegmentación política y la vigilancia algorítmica. Los resultados muestran que la inteligencia artificial puede ampliar el acceso a la información, favorecer la educación cívica y mejorar la interacción entre la ciudadanía y las instituciones públicas. Sin embargo, también puede condicionar la deliberación democrática, acentuar las desigualdades políticas y comprometer tanto la autonomía individual como la integridad electoral. Se concluye que estas tecnologías configuran una forma emergente de poder algorítmico no coercitivo, que exige respuestas regulatorias orientadas a garantizar la transparencia, la supervisión humana, la responsabilidad de sus operadores y la protección efectiva de los derechos fundamentales.
Descargas
Referencias
Ahmmad, M.; Shahzad, K.; Iqbal, A. y Latif, M. (2025): “Trap of Social Media Algorithms: A Systematic Review of Research on Filter Bubbles, Echo Chambers, and Their Impact on Youth”, en: Societies (vol. 15, núm. 11). Disponible en: https://www.mdpi.com/2075-4698/15/11/301. DOI: https://doi.org/10.3390/soc15110301
Aïmeur, E.; Amri, S. y Brassard, G. (2023): “Fake news, disinformation and misinformation in social media: a review”, en: Social Network Analysis and Mining (vol. 13, núm. 1, art. 30). DOI: https://doi.org/10.1007/s13278-023-01028-5. DOI: https://doi.org/10.1007/s13278-023-01028-5
Ajder, H.; Patrini, G.; Cavalli, F. y Cullen, L. (2019): The State of Deepfakes: Landscape, Threats, and Impact. Disponible en: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf.
Akakpo, A.; Gyasi, E. A.; Oduro, B. y Akpabot, S. (2025): “Artificial Intelligence (AI) and the Future of Information Privacy”, en: Journal of Global Information Management (vol. 33, núm. 1). DOI: https://doi.org/10.4018/JGIM.383050. DOI: https://doi.org/10.4018/JGIM.383050
Alhitmi, H.; Mardiah, A.; Al-Sulaiti, K. y Abbas, J. (2024): “Data security and privacy concerns of AI-driven marketing in the context of economics and business field: an exploration into possible solutions”, en: Cogent Business & Management (vol. 11). DOI: https://doi.org/10.1080/23311975.2024.2393743. DOI: https://doi.org/10.1080/23311975.2024.2393743
Ali Adeeb, R. y Mirhoseini, M. (2023): “The Impact of Affect on the Perception of Fake News on Social Media: A Systematic Review”, en: Social Sciences (vol. 12, núm. 12). DOI: https://doi.org/10.3390/socsci12120674. DOI: https://doi.org/10.3390/socsci12120674
Alnemr, N. (2026): “Deliberative democracy in an algorithmic society: harms, contestations and deliberative capacity in the digital public sphere”, en: Democratization (vol. 33, núm. 4), pp. 927-946. DOI: https://doi.org/10.1080/13510347.2025.2522920. DOI: https://doi.org/10.1080/13510347.2025.2522920
Androutsopoulou, A.; Karacapilidis, N.; Loukis, E. y Charalabidis, Y. (2019): “Transforming the communication between citizens and government through AI-guided chatbots”, en: Government Information Quarterly (vol. 36, núm. 2), pp. 358-367. DOI: https://doi.org/10.1016/j.giq.2018.10.001. DOI: https://doi.org/10.1016/j.giq.2018.10.001
Anthropic (2024): “Measuring the Persuasiveness of Language Models”, en: Anthropic (9 de abril de 2024). Disponible en: https://www.anthropic.com/research/measuring-model-persuasiveness.
Audrezet, A.; Koles, B.; Moulard, J. G.; Ameen, N. y McKenna, B. (2025): “Virtual influencers: Definition and future research directions”, en: Journal of Business Research (vol. 200). DOI: https://doi.org/10.1016/j.jbusres.2025.115647. DOI: https://doi.org/10.1016/j.jbusres.2025.115647
Barari, S.; Lucas, C.; Munger, K.; Huff, C.; Lelkes, Y.; Montgomery, J. y Webster, S. (2025): “Political Deepfakes are as Credible as Other Fake Media and (Sometimes) Real Media”, en: The Journal of Politics (vol. 87, núm. 2). DOI: https://doi.org/10.1086/732990
Battista, D. y Mangone, E. (2025): “Technological Culture and Politics: Artificial Intelligence as the New Frontier of Political Communication”, en: Societies (vol. 15, núm. 4). DOI: https://doi.org/10.3390/soc15040075. DOI: https://doi.org/10.3390/soc15040075
Bengesi, S.; El-Sayed, H.; Sarker, K.; Houkpati, Y.; Irungu, J. y Oladunni, T. (2023): Advancements in Generative AI: A Comprehensive Review of GANs, GPT, Autoencoders, Diffusion Model, and Transformers. Disponible en: https://arxiv.org/pdf/2311.10242v2.
Bonilla Gutiérrez, J. C. (2024): “IA y Privacidad: Protegiendo la Autodeterminación Informativa en la Era Digital”, en: Revista de la Facultad de Derecho de México (vol. 74, núm. 290), pp. 125-148. DOI: https://doi.org/10.22201/fder.24488933e.2024.290.89719. DOI: https://doi.org/10.22201/fder.24488933e.2024.290.89719
Coeckelbergh, M. (2024): Por qué la IA debilita la democracia y qué hacer al respecto (Ediciones Cátedra).
Comisión Europea (2023): “Democracy in peril: Commission’s Ethics Group stresses need and ways to deepen democracy in the face of novel risks”, en: EURAXESS (21 de mayo de 2023). Disponible en: https://euraxess.ec.europa.eu/worldwide/africa/news/democracy-peril-commissions-ethics-group-stresses-need-and-ways-deepen.
Cui, W.; Lu, B.; Guo, Yuanyuan y Guo, Yunpeng (2025): “How Political Interest and Knowledge Shape Political Efficacy in Institutionalized Participation”, en: International Journal of Electronic Government Research (vol. 21, núm. 1). DOI: https://doi.org/10.4018/IJEGR.387830. DOI: https://doi.org/10.4018/IJEGR.387830
Dan, Viorela (2026): “Deepfakes as a Democratic Threat: Experimental Evidence Shows Noxious Effects That Are Reducible Through Journalistic Fact Checks”, en: The International Journal of Press/Politics (vol. 31, núm. 3), pp. 525-550. DOI: https://doi.org/10.1177/19401612251317766. DOI: https://doi.org/10.1177/19401612251317766
Estrada-Cuzcano, A.; Alfaro-Mendives, K. y Saavedra-Vásquez, V. (2020): “Disinformation y Misinformation, Posverdad y Fake News: precisiones conceptuales, diferencias, similitudes y yuxtaposiciones”, en: Información, Cultura y Sociedad (núm. 42), pp. 93-106. DOI: https://doi.org/10.34096/ics.i42.7427. DOI: https://doi.org/10.34096/ics.i42.7427
Faverio, M.; Sidoti, O. y Nolan, H. (2025): Teens, Social Media and AI Chatbots 2025 (Pew Research Center). Disponible en: www.pewresearch.org.
Ferrajoli, L. (2018): Constitucionalismo más allá del Estado (Traducc. de P. Andrés Ibáñez, Editorial Trotta).
Ferrara, E. (2025): Charting the Landscape of Nefarious Uses of Generative Artificial Intelligence for Online Election Interference. Disponible en: http://arxiv.org/abs/2406.01862. DOI: https://doi.org/10.5210/fm.v30i6.14188
Fisher, J.; Feng, S.; Aron, R.; Richardson, T.; Choi, Y.; Fisher, D. W.; Pan, J.; Tsvetkov, Y. y Reinecke, K. (2025): “Biased AI can influence political decision-making”, en: arXiv, pp. 1-57. DOI: https://doi.org/10.48550/arXiv.2410.06415. DOI: https://doi.org/10.18653/v1/2025.acl-long.328
Galindo Vácha, J. C. (2025): “La inteligencia artificial (IA) en el marco de la democracia digital”, en: Revista de Derecho Político (núm. 122), pp. 159-184. DOI: https://doi.org/10.5944/rdp.122.2025.44745. DOI: https://doi.org/10.5944/rdp.122.2025.44745
Gruensteidl, M. N. y Kirrane, S. (2026): “A Comparison and Critical Reflection of Information Disorder Detection Techniques: Performing a Cross-Data and Cross-Model Evaluation”, en: Information Fusion (vol. 127). DOI: https://doi.org/10.1016/j.inffus.2025.103806. DOI: https://doi.org/10.1016/j.inffus.2025.103806
Hameleers, M.; van der Meer, T. G. L. A. y Dobber, T. (2024): “Distorting the truth versus blatant lies: The effects of different degrees of deception in domestic and foreign political deepfakes”, en: Computers in Human Behavior (vol. 152). DOI: https://doi.org/10.1016/j.chb.2023.108096. DOI: https://doi.org/10.1016/j.chb.2023.108096
Harrison, S. (2025): “Popular AI Models Show Partisan Bias When Asked to Talk Politics”, en: Stanford Business. Disponible en: https://www.gsb.stanford.edu/insights/popular-ai-models-show-partisan-bias-when-asked-talk-politics.
Hazell, J. (2023): “Spear Phishing with Large Language Models”, en: Computers and Society.
He, R.; Cao, J. y Tan, T. (2025): “Generative artificial intelligence: a historical perspective”, en: National Science Review (vol. 12, núm. 5). DOI: https://doi.org/10.1093/nsr/nwaf050. DOI: https://doi.org/10.1093/nsr/nwaf050
Hewapathirana, I. U. y Perera, N. (2024): “Navigating the age of AI influence: A systematic literature review of trust, engagement, efficacy and ethical concerns of virtual influencers in social media”, en: Journal of Infrastructure, Policy and Development (vol. 8, núm. 8). DOI: https://doi.org/10.24294/jipd.v8i8.6352. DOI: https://doi.org/10.24294/jipd.v8i8.6352
Ireton, Cherilyn (2020): Periodismo, noticias falsas and desinformación (UNESCO).
Joseph, J. (2025): “The algorithmic self: how AI is reshaping human identity, introspection, and agency”, en: Frontiers in Psychology (vol. 16). DOI: https://doi.org/10.3389/fpsyg.2025.1645795. DOI: https://doi.org/10.3389/fpsyg.2025.1645795
Jungherr, Andreas (2023): “Artificial Intelligence and Democracy: A Conceptual Framework”, en: Social Media + Society (vol. 9, núm. 3). DOI: https://doi.org/10.1177/20563051231186353. DOI: https://doi.org/10.1177/20563051231186353
Jungherr, A. y Rauchfleisch, A. (2025): “Artificial Intelligence in Deliberation: The AI Penalty and the Emergence of a New Deliberative Divide”, en: Government Information Quarterly (vol. 42, núm. 4). DOI: https://doi.org/10.1016/j.giq.2025.102079. DOI: https://doi.org/10.1016/j.giq.2025.102079
Kelsen, Hans (1995): Teoría general del Derecho y del Estado (Traducc. de Eduardo García Máynez, México, Universidad Nacional Autónoma de México).
Kleis Nielsen, R. y Graves, L. (2017): “News you don’t believe”: Audience perspectives on fake news. Disponible en: https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2017-10/Nielsen%26Graves_factsheet_1710v3_FINAL_download.pdf.
Krah, R. y Mertens, G. (2020): “Transparency in Local Governments: Patterns and Practices of Twenty-first Century”, en: State and Local Government Review (vol. 52). DOI: https://doi.org/10.1177/0160323X20970245. DOI: https://doi.org/10.1177/0160323X20970245
Łabuz, M. y Nehring, C. (2024): “On the way to deep fake democracy? Deep fakes in election campaigns in 2023”, en: European Political Science (vol. 23, núm. 4), pp. 454-473. DOI: https://doi.org/10.1057/s41304-024-00482-9. DOI: https://doi.org/10.1057/s41304-024-00482-9
Lawrence, N. y Ramachandran, G. (2025): “Artificial Intelligence and Election Security”, en: Brennan Center (5 de octubre de 2025). Disponible en: https://www.brennancenter.org/our-work/research-reports/artificial-intelligence-and-election-security.
Leite Sampaio, J. A. y Marques Tavares Costa, A. C. (2025): “Capitalismo de vigilancia y modulación del comportamiento humano: ¿el entorno digital como espacio propicio para la manipulación del elector?”, en: Opinión Jurídica (vol. 24, núm. 52), pp. 1-15. DOI: https://doi.org/10.22395/ojum.a4542. DOI: https://doi.org/10.22395/ojum.a4542
Lindemann, N. F. (2025): “Chatbots, search engines, and the sealing of knowledges”, en: AI & Society (vol. 40, núm. 6), pp. 5063-5076. DOI: https://doi.org/10.1007/s00146-024-01944-w. DOI: https://doi.org/10.1007/s00146-024-01944-w
Lozada López, D. J. y Saltos García, P. A. (2023): “Technology and exclusion: the role of AI in digital literacy for older adults”, en: Sage Sphere in Artificial Intelligence (vol. 1, núm. 1), pp. 1-11. DOI: https://doi.org/10.63688/x141gh79
Mason, J. (2023): “Biden eyes AI dangers, says tech companies must make sure products are safe”, en: Reuters (4 de abril de 2023). Disponible en: https://www.reuters.com/technology/biden-discuss-risks-ai-tuesday-meeting-with-science-advisers-2023-04-04/.
Mehr, H. (2017): Artificial Intelligence for Citizen Services and Government.
Micklitz, H.-W.; Pollicino, O.; Reichman, A.; Simoncini, A.; Sartor, G. y De Gregorio, G. (eds.) (2021): Constitutional Challenges in the Algorithmic Society (Cambridge, Cambridge University Press). DOI: https://doi.org/10.1017/9781108914857
Morais da Rosa, A. y Guasque, B. (2024): “Inteligencia artificial, sesgos algorítmicos y racismo: el lado desconocido de la justicia algorítmica”, en: Opinión Jurídica (vol. 23, núm. 50), pp. 1-23. DOI: https://doi.org/10.22395/ojum.v23n50a49. DOI: https://doi.org/10.22395/ojum.v23n50a49
Newman, N.; Ross Arguedas, A.; Robertson, C. T.; Kleis Nielsen, R. y Fletcher, R. (2025): Reuters Institute Digital News Report 2025. DOI: https://doi.org/10.60625/risj-8qqf-jt36.
Novelli, C. y Sandri, G. (2024): “Digital Democracy in the Age of Artificial Intelligence”, en: SSRN Electronic Journal. DOI: https://doi.org/10.2139/ssrn.4901264. DOI: https://doi.org/10.2139/ssrn.4901264
Pawelec, M. (2022): “Deepfakes and Democracy (Theory): How Synthetic Audio-Visual Media for Disinformation and Hate Speech Threaten Core Democratic Functions”, en: Digital Society (vol. 1, núm. 2, art. 19). DOI: https://doi.org/10.1007/s44206-022-00010-6. DOI: https://doi.org/10.1007/s44206-022-00010-6
Poushter, J.; Fagan, M.; Smerkovich, M. y Prozorovsky, Andrew (2025): “False information online as a threat”, en: Pew Research Center (19 de agosto de 2025). Disponible en: https://www.pewresearch.org/2025/08/19/false-information-online-as-a-threat.
Rayhan, Shahana y Rayhan, Swajan (2023): The Role of AI in Democratic Systems: Implications for Privacy, Security, and Political Manipulation. DOI: https://doi.org/10.13140/RG.2.2.31121.61281.
Rubano Lapasta, M. y Lagos Arévalo, R. (2026): “Los neuroderechos ante la perplejidad de los avances científicos y tecnológicos: Casos de derecho comparado y la situación en Chile”, en: Revista de Derecho, Universidad Católica de la Santísima Concepción (núm. 48), pp. 77-96. DOI: https://doi.org/10.21703/issn2735-6337/2026.n48.05. DOI: https://doi.org/10.21703/issn2735-6337/2026.n48.05
Rymon, Y. (2025): Of the People, By the Algorithm: How AI Transforms Democratic Representation (arXiv Preprint arXiv:2508.19036).
Saade, T. (2025): “Election Interference in An Age of AI-Enabled Cyberattacks and Information Manipulation Campaigns”, en: Stanford International Policy Review (30 de enero de 2025). Disponible en: https://fsi.stanford.edu/sipr/content/election-interference-age-ai-enabled-cyberattacks-and-information-manipulation-campaigns.
Saheb, T.; Sidaoui, M. y Schmarzo, B. (2024): “Convergence of artificial intelligence with social media: A bibliometric & qualitative analysis”, en: Telematics and Informatics Reports (vol. 14). DOI: https://doi.org/10.1016/j.teler.2024.100146. DOI: https://doi.org/10.1016/j.teler.2024.100146
Savaget, P.; Chiarini, T. y Evans, S. (2019): “Empowering political participation through artificial intelligence”, en: Science and Public Policy (vol. 46, núm. 3), pp. 369-380. DOI: https://doi.org/10.1093/scipol/scy064. DOI: https://doi.org/10.1093/scipol/scy064
Schroeder, D. T. et al. (2026): “How malicious AI swarms can threaten democracy”, en: Science (vol. 391, núm. 6783), pp. 354-357. DOI: https://doi.org/10.1126/science.adz1697. DOI: https://doi.org/10.1126/science.adz1697
Shearer, E. (2018): “Social media outpaces print newspapers in the U.S. as a news source”, en: Pew Research Center (10 de diciembre de 2018). Disponible en: https://www.pewresearch.org/short-reads/2018/12/10/social-media-outpaces-print-newspapers-in-the-u-s-as-a-news-source/.
Snow, J. (2017): “Can AI Win the War Against Fake News?”, en: MIT Technology Review (13 de diciembre de 2017). Disponible en: https://www.technologyreview.com/2017/12/13/147095/can-ai-win-the-war-against-fake-news/.
Summerfield, C. et al. (2025): “The impact of advanced AI systems on democracy”, en: Nature Human Behaviour (vol. 9). DOI: https://doi.org/10.1038/s41562-025-02309-z. DOI: https://doi.org/10.1038/s41562-025-02309-z
Tavakoli, M.; Alani, H. y Burel, G. (2023): “On the Readability of Misinformation in Comparison to the Truth”, en: CEUR Workshop Proceedings (vol. 3370), pp. 63-72. Disponible en: https://ceur-ws.org/Vol-3370/paper6.pdf.
TIME Staff (2018): “The 25 Most Influential People on the Internet”, en: TIME (28 de mayo de 2018). Disponible en: https://time.com/5324130/most-influential-internet/.
Van Bavel, J. J.; Harris, E. A.; Pärnamets, P.; Rathje, S.; Doell, K. C. y Tucker, J. A. (2021): “Political psychology in the digital (mis)information age: A model of news belief and sharing”, en: Social Issues and Policy Review (vol. 15, núm. 1), pp. 84-113. DOI: https://doi.org/10.1111/sipr.12077. DOI: https://doi.org/10.1111/sipr.12077
Viollier, Pablo y Contreras, Pablo (2026): “Derecho a una explicación en decisiones automatizadas: Contrapunto entre el GDPR y la Ley 21.719”, en: Revista Chilena de Derecho y Ciencia Política (vol. 17, núm. 1). DOI: https://doi.org/10.7770/rchdcp-v17n1-art527. DOI: https://doi.org/10.7770/rchdcp-v17n1-art527
Viudes Fernández, Francisco José (2023): “Revolucionando la política: El papel omnipresente de la IA en la segmentación y el targeting de campañas modernas”, en: Más Poder Local (núm. 53), pp. 146-151. DOI: https://doi.org/10.56151/maspoderlocal.183. DOI: https://doi.org/10.56151/maspoderlocal.183
Von Sikorski, C.; Merz, P.; Heiss, R.; Bassler, M.; Buyny, C.; Hildebrand, S.; Streller, C. y Wicki, E. (2026): “Both AI-generated and human influencers can correct misinformation: Investigating the effectiveness of corrections for polarized and non-polarized issues”, en: Computers in Human Behavior (vol. 176). DOI: https://doi.org/10.1016/j.chb.2025.108845. DOI: https://doi.org/10.1016/j.chb.2025.108845
Vosoughi, S.; Roy, D. y Aral, S. (2018): “The spread of true and false news online”, en: Science (vol. 359, núm. 6380), pp. 1146-1151. DOI: https://doi.org/10.1126/science.aap9559. DOI: https://doi.org/10.1126/science.aap9559
Weng, Z. y Lin, A. (2022): “Public Opinion Manipulation on Social Media: Social Network Analysis of Twitter Bots during the COVID-19 Pandemic”, en: International Journal of Environmental Research and Public Health (vol. 19, núm. 24). DOI: https://doi.org/10.3390/ijerph192416376. DOI: https://doi.org/10.3390/ijerph192416376
Zidouemba, M. T. (2025): “Governance and artificial intelligence: the use of artificial intelligence in democracy and its impacts on the rights to participation”, en: Discover Artificial Intelligence (vol. 5, núm. 1, art. 12). DOI: https://doi.org/10.1007/s44163-025-00229-5. DOI: https://doi.org/10.1007/s44163-025-00229-5
Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, Diario Oficial de la Unión Europea, L 277 (2022). Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:32022R2065.
Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, Diario Oficial de la Unión Europea (2024). Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=OJ:L_202401689.
Publicado
Número
Sección
Licencia
Derechos de autor 2026 Revista de Derecho de la Universidad Católica de la Santísima Concepción
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
