32 instituciones públicas de siete países ponen a prueba herramientas para una IA responsable

Un total de 32 instituciones públicas en Chile, México, Colombia, Perú, Uruguay, Argentina y Trinidad y Tobago participaron en el primer año de la tercera fase de Algoritmos Éticos, pilotando herramientas desarrolladas por el GobLab UAI para evaluar los riesgos éticos de sus sistemas de inteligencia artificial. La cifra super ampliamente las nueve instituciones que participaron en la fase anterior del proyecto.

Los avances se dieron a conocer el 13 de octubre en el seminario “IA Responsable en el Estado: herramientas, pilotos y aprendizajes”, realizado en la sede Errázuriz de la Universidad Adolfo Ibáñez, que reunió a cerca de 140 asistentes presenciales y a otras 800 personas conectadas desde Arica y Parinacota hasta Magallanes, además de Argentina, Perú, Venezuela, Ecuador, Bolivia e Italia. Las palabras de bienvenida estuvieron a cargo del rector de la Universidad Adolfo Ibáñez, Francisco Covarrubias; de Magdalena Calcagni, jefa de la División de Tecnologías Emergentes del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación; de Carlos Guazzini, secretario ejecutivo de la Comisión Asesora Presidencial para la Integridad Pública y Transparencia, y de Carlos Ladrix, subdirector de Investigación Aplicada de ANID. 

Novedades del primer año 

Entre las novedades expuestas se encuentran la adaptación de la Evaluación de Impacto Algorítmico y de la Ficha de Transparencia Algorítmica a proyectos de inteligencia artificial generativa, la ampliación de las capacidades de Medición de Sesgos y Equidad y la incorporación de una herramienta para formular proyectos desde sus etapas iniciales. Las encuestas aplicadas a los equipos participantes mostraron además una recepción favorable, con niveles de recomendación superiores al 95 % tanto en la Evaluación de Impacto Algorítmico como en la Ficha de Transparencia Algorítmica. 

El equipo investigador anunció también que en marzo de 2027 se abrirá la convocatoria para pilotear una quinta herramienta, orientada a explicar las decisiones de los sistemas de IA.  

Una evaluación que va más allá del modelo 

Uno de los aprendizajes compartidos durante el seminario fue que una evaluación ética abarca también la forma en que las instituciones utilizan, supervisan y comunican sus sistemas, un alcance que quedó de manifiesto en experiencias provenientes de ámbitos tan diversos como la fiscalización, la propiedad industrial, la gestión territorial, las becas municipales y la atención de salud. 

En Renca, la evaluación de un sistema que realiza seguimiento telefónico a cerca de 500 personas con dependencia severa llevó a incorporar un aviso explícito de que las llamadas son automatizadas y un canal para recibir las observaciones de los pacientes. En Peñalolén, el análisis de un sistema que apoya la revisión de postulaciones a becas municipales dio origen a 19 recomendaciones para reforzar la revisión humana y los controles del proceso, que el municipio trabaja en incorporar antes de la próxima convocatoria. 

“La inteligencia artificial no es responsable por sí misma. Lo es cuando el servicio público que le da origen se hace responsable de ese sistema y se compromete a detectar y mitigar los riesgos éticos que encuentra en él. El desafío para el Estado es avanzar en la adopción de IA Responsable por diseño. Hoy, con estas herramientas, los servicios públicos pueden pasar de la declaración a la acción poniendo a las personas al centro”, señaló Vita Saldías, Subdirectora del GobLab UAI y directora del proyecto. 

Una trayectoria de investigación aplicada 

El trabajo presentado forma parte de una línea que el GobLab UAI desarrolla desde 2020 junto a instituciones públicas. Algoritmos Éticos comenzó con la elaboración de orientaciones e instrumentos para incorporar criterios éticos en proyectos y compras públicas de sistemas algorítmicos, en una primera fase que contó con el apoyo de BID Lab y la participación de Consejo para la Transparencia, Secretaría de Gobierno Digital, Servicio Civil, Ministerio de Ciencia y ChileCompra. Ese vínculo con estas instituciones se mantiene hasta hoy, y un impacto concreto se relaciona con ChileCompra que actualizó en 2026 la directiva para la compra de proyectos de ciencia de datos e IA, creada en esta fase, e incorporó en ella las herramientas del proyecto, directiva que, según informó la institución durante el seminario, fue incluida en el repositorio de políticas de inteligencia artificial de la OCDE. Las etapas siguientes ampliaron ese trabajo hacia el desarrollo de herramientas digitales abiertas, que actualmente se prueban con organismos de Chile y otros países de América Latina y el Caribe. 

“Algoritmos Éticos es el resultado de años de investigación y colaboración con instituciones públicas. Que hoy estas herramientas se estén probando en distintos países muestra cómo ese conocimiento puede traducirse en soluciones concretas para el Estado. Ese vínculo entre investigación y aplicación práctica es parte de lo que queremos seguir fortaleciendo desde el GobLab”, señaló Trinidad Balart, nueva directora del laboratorio. 

La actual fase de Algoritmos Éticos cuenta con financiamiento de ANID, a través de Fondef de Investigación Tecnológica, y con el patrocinio del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación. Sus instituciones asociadas son el Instituto de Previsión Social, la Superintendencia de Seguridad Social y la Municipalidad de Lo Barnechea, mientras que ChileCompra, el Consejo para la Transparencia, el Servicio Civil y la Secretaría de Gobierno Digital participan como instituciones colaboradoras. Todas las herramientas son gratuitas y de código abierto. 

Los dos paneles del seminario reunieron a representantes de ChileCompra, el Consejo para la Transparencia, el Servicio Civil, la Secretaría de Gobierno Digital, la Tesorería General de la República, INAPI, SUSESO, el Instituto de Previsión Social, la Corporación Municipal de Renca y las municipalidades de Lo Barnechea, Concón y Peñalolén.