Organismos públicos refuerzan compromiso ético en el uso de IA generativa

Ocho instituciones públicas forman parte del proyecto sobre IA generativa responsable, liderado por el GobLab de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI), iniciativa que busca desarrollar herramientas para incorporar estándares éticos en proyectos de inteligencia artificial y ciencia de datos. Esta semana se reunió el Comité Directivo del proyecto para revisar los avances de la segunda etapa y definir los objetivos de la tercera fase, recientemente iniciada.

 Sobre el proyecto

En octubre de 2025 comenzó formalmente la tercera etapa del proyecto “Plataforma Algoritmos Públicos: Hacia una IA generativa responsable y ética”, apoyado por el Concurso Investigación Tecnológica de ANID Chile (IT25I0161), que da continuidad al trabajo desarrollado en las dos fases anteriores y consolida los avances alcanzados en la Plataforma Algoritmos Públicos (www.algoritmospublicos.cl).

“Esta nueva etapa tiene como objetivo contribuir a la provisión de servicios públicos confiables mediante el fortalecimiento de la Plataforma Algoritmos Públicos, integrando y adaptando herramientas que promuevan la adopción ética de la IA generativa. Buscamos asegurar que los algoritmos utilizados por los organismos públicos cumplan con estándares de transparencia, equidad y responsabilidad durante todo el ciclo de vida de los proyectos de ciencia de datos e inteligencia artificial”, señaló María Paz Hermosilla, directora del GobLab UAI y del proyecto.

 Primer Comité Directivo de la tercera etapa

El martes 21 de enero se realizó el primer Comité Directivo de esta nueva fase del proyecto, instancia que tuvo lugar en las dependencias del Instituto de Previsión Social (IPS), institución socia que participa desde la segunda etapa y que fue anfitriona de este encuentro.

 “Participar en este proyecto ha sido una experiencia que nos ha permitido avanzar en la incorporación progresiva de estándares éticos en el uso de datos e inteligencia artificial. En la segunda etapa, pudimos pilotear las herramientas de evaluación en nuestro modelo predictivo de No Cobros PGU, fortaleciendo nuestras capacidades institucionales. Ser anfitriones de este encuentro reafirma nuestro compromiso con una innovación pública responsable, transparente y centrada en las personas, así como con el desarrollo de un marco ético común en inteligencia artificial y ciencia de datos para el Estado”, sostuvo Juan José Cárcamo, director del IPS.

 En la oportunidad asistieron Jorge Farah, Jefe de la División de Planificación y Desarrollo del IPS, Patricia Soto, Fiscal de la Superintendencia de Seguridad Social, Felipe Alessandri, Alcalde de la comuna de Lo Barnechea, Daniel Pefaur, Director de Estudios del Consejo para la Transparencia, María José Naudon, decana de la Escuela de Gobierno de la UAI, Francisco Pizarro, Director de la Dirección Innovación y Transferencia UAI, María Paz Hermosilla, Directora del GobLab UAI, Xavier Cazor, asesor del MINCIENCIA, Cristian Céspedes, Director (s) de ChileCompra, José Inostroza, Director de la Secretaría de Gobierno Digital, y los equipos técnicos de cada institución.

“Como Superintendencia entendemos que incorporar inteligencia artificial en el Estado debe hacerse con responsabilidad y foco en las personas. Estas herramientas nos permiten mejorar la oportunidad y precisión de nuestras respuestas en materias tan sensibles como  lo son las de seguridad social, siempre bajo criterios de transparencia y estándares éticos. Participar en este proyecto ha sido clave para avanzar en ese compromiso institucional”,  señaló Andrea Soto, Superintendenta de la Superintendencia de Seguridad Social.

 Resultados esperados

El proyecto tendrá una duración de dos años, periodo en el cual se fortalecerán herramientas clave como la Evaluación de Impacto Algorítmico y la Ficha de Transparencia Algorítmica, ampliando su alcance para su aplicación en sistemas de IA generativa. Asimismo, se avanzará en el desarrollo de nuevas funcionalidades de la Plataforma Algoritmos Públicos, con el objetivo de mejorar su capacidad de apoyo a las instituciones públicas.

En esta tercera etapa se incorporó además un nuevo socio estratégico: la Municipalidad de Lo Barnechea, que ha venido desarrollando proyectos de inteligencia artificial y ciencia de datos para su gestión municipal, los cuales podrían ser piloteados utilizando las herramientas del proyecto Algoritmos Éticos. “Como Municipalidad de Lo Barnechea estamos muy contentos de incorporarnos en el Proyecto Algoritmos Éticos. Aplicaremos estos instrumentos en la plataforma del Juzgado de Policía Local Virtual, pilotando la Ficha de Transparencia Algorítmica, la Evaluación de Impacto Algorítmico y la Medición de Sesgos y Equidad, para asegurar soluciones tecnológicas justas y equitativas para los vecinos”. El trabajo será liderado por el Departamento de TIC y apoyado por la Dirección de Innovación, marcando un hito en el compromiso municipal con el desarrollo responsable de la IA en los servicios públicos”, señaló Felipe Alessandri, Alcalde de Lo Barnechea.