El auge de la inteligencia artificial (IA) presenta desafíos sin precedentes para el concepto de ciudadanía en el siglo XXI. La ciudadanía digital, una idea en nacimiento, ya está en peligro. Junto con ella, potencialmente también la democracia misma está en juego.
La noción de ciudadanía se originó en la antigua Grecia y Roma, y evolucionó hasta la idea dominante de otorgar ciertos derechos a los individuos dentro de los estados-nación. Hoy en día, las tecnologías digitales y el internet han expandido la «antroposfera», el ámbito de interacción humana, incluyendo tanto espacios físicos como virtuales.
En concreto, vemos que la idea de ciudadanía siempre está progresando y se están adquiriendo nuevos derechos, pero hoy también se está luchando por mantener los derechos ya existentes frente a los nuevos desafíos. A ojos de sus defensores, la ciudadanía digital es la iteración más reciente y progresiva de esta idea. Pero el cambio hacia lo digital no ha borrado las desigualdades sociales, más bien lo contrario. De hecho, el auge de la IA puede exacerbar las desigualdades sociales relacionadas con la ciudadanía digital.
Aquí está la razón.
Nuestra geografía digital actual refleja las desigualdades sociales del mundo offline, lo que dificulta que los grupos históricamente marginados creen contenido y accedan a información confiable. Aquellos con un conocimiento limitado de herramientas tecnológicas ven restringido su acceso a servicios públicos en línea y encuentran dificultades para discernir entre contenido real y falso, lo que afecta su capacidad para ejercer la ciudadanía. Un ejemplo oportuno es el torrente de imágenes falsas que ha surgido en la carrera presidencial de EE.UU. en 2024. Es revelador que las diversas interpretaciones de la ciudadanía digital defienden la capacidad de los individuos para participar plenamente en la sociedad digital como premisa. Pero estos desafíos en la esfera pública digital actual son un obstáculo para la participación de todos de manera informada basada en hechos
Mientras nuestras sociedades digitales lidian con estos desafíos, la IA introduce complejidades adicionales. ¿Qué sucederá cuando no solo los individuos, sino también las entidades artificiales, afirmen derechos de ciudadanía en línea? ¿Cómo responderán los reguladores si las corporaciones impulsadas por IA llegan a ejercer una influencia que supere a la de ciudades o naciones enteras? Como han mostrado nuestros estudios previos, los desarrollos tecnológicos a menudo tienen consecuencias no deseadas.
De hecho, la ciudadanía digital corre el riesgo de desaparecer en su cuna debido a las aplicaciones, aún en gran medida no reguladas, de la IA. Además, la ciudadanía digital puede ser manipulada, explotada o incluso volverse perjudicial a través de la manipulación en línea impulsada por la IA. La ciudadanía, al igual que la democracia, no necesariamente evoluciona de manera lineal y progresiva; experimenta retrocesos, obstáculos y ataques. Pero la trayectoria aún puede cambiar para mejor.
En nuestra opinión, las adaptaciones generalizadas de la IA presentan tres nuevos desafíos para esta noción de ciudadanía.
Primero, la ciudadanía digital trata sobre la participación e inclusión en la sociedad digital, asegurando que los individuos puedan beneficiarse de ella. Para navegar y prosperar en el mundo digital, los individuos necesitan adquirir ciertas competencias, lo que comúnmente llamamos alfabetización digital. Sin embargo, es probable que los sistemas de IA exacerben las brechas digitales existentes entre las personas en relación con sus competencias en el uso de tecnologías, de modo que aquellos menos capacitados queden aún más rezagados. Relacionado con estas mayores presiones para la alfabetización digital, la automatización facilitada por la IA probablemente provocará la pérdida de empleos, afectando de manera desigual a diferentes sectores de la sociedad. Investigadores de la Universidad de Oxford estiman que entre el 9 % y el 32 % de los empleos podrían estar en riesgo de ser automatizados en el futuro, dejando a algunos sin ingresos y acentuando las divisiones socioeconómicas.
En segundo lugar, la aparición de chatbots de IA generativa que son capaces de imitar el comportamiento humano plantea preocupaciones sobre la legitimidad de las interacciones en línea. Estas «personas de IA» podrán imitar a ciudadanos genuinos y, con ello, quizás adquirir influencia política. Los videos y audios falsos ya suponen una amenaza para la integridad de la información en línea, socavando la esfera pública digital. Estas contaminaciones creadas por la IA en el entorno en línea pueden distorsionar aún más la conversación en línea y hacer de los mundos digitales el peor lugar para que los ciudadanos se informen, obstruyendo la deliberación democrática y dificultando aún más el desarrollo de una ciudadanía digital informada.
En tercer lugar, el dominio de las grandes plataformas de redes sociales ha concentrado un poder significativo en manos de unos pocos. Estas plataformas utilizan datos, algoritmos y, potencialmente, IA para influir no solo en los espacios en línea, sino también en los físicos, a través de modelos de políticas y negocios. Y están en la mejor posición para entrenar nuevas IA con todos los datos acumulados de sus usuarios. Esta concentración de poder (datos) podría amplificarse aún más con la IA, posiblemente antes de que se establezcan regulaciones o contrapesos efectivos. Algunos expertos, como el Instituto del Futuro de la Vida y los investigadores de la Universidad Nacional de Singapur, sugieren que las grandes empresas tecnológicas ya están tratando de acumular poder antes de que lleguen las regulaciones. Además, a medida que la IA y el hardware se entrelazan cada vez más, gigantes tecnológicos como Microsoft pueden aprovechar esto para consolidar su dominio en los mercados de hardware y software.
En resumen, la IA está lista para hacer que los desafíos a la democracia sean más potentes, en este caso al interferir con el desarrollo de la ciudadanía digital en todo el mundo. Este riesgo exige deliberaciones urgentes y reevaluaciones de las prácticas de ciudadanía digital, lo que incluye la necesidad de tecnologías ciudadanas innovadoras que consideren los nuevos métodos de manipulación electoral y aborden las nuevas desigualdades sociales y digitales que afectarán el disfrute de los derechos.
La sociedad civil y la comunidad global de investigación deben considerar qué prácticas de ciudadanía digital funcionan para defender los principios democráticos y garantizar el cumplimiento de los derechos dentro de este paisaje en rápida evolución. Abordar estos nuevos desafíos exige prácticas más robustas de ciudadanía digital. Estas prácticas no solo deben contrarrestar la manipulación, sino también promover el acceso equitativo a los beneficios de estas nuevas tecnologías desde una perspectiva basada en los derechos humanos. Además, los responsables de la formulación de políticas deben guiarse por los principios de ciudadanía digital al adaptar la legislación para enfrentar los nuevos desafíos que plantea la IA.
Idealmente, la ciudadanía digital implica prácticas orientadas a defender los logros y derechos establecidos en eras anteriores, mientras se aprovechan las oportunidades que presenta la sociedad digital y el potencial democrático de las nuevas tecnologías.
Las reevaluaciones en esta línea deben basarse en investigaciones actuales sobre cómo se puede entender el concepto desde una perspectiva de derechos.
Abogamos por prácticas de ciudadanía digital que respeten los derechos humanos y los valores democráticos, y por interacciones en estos nuevos espacios que aborden, en lugar de amplificar, las desigualdades sociales existentes. Desde su diseño inicial hasta su implementación y la evaluación de sus impactos, debemos considerar todas las formas en que las tecnologías emergentes afectan la ciudadanía.
Coescrito con Inga Trauthig y Samuel Woolley.
Publicada en Centre for International Governance Innovation.