GobLab UAI reunió a autoridades y expertos para discutir el uso responsable de IA

Autoridades, académicos y representantes de servicios estatales se reunieron para conocer resultados, compartir experiencias y reflexionar sobre los alcances y desafíos del uso ético de algoritmos en proyectos de inteligencia artificial (IA) y ciencia de datos en el Estado, en el seminario “Inteligencia artificial responsable para servicios públicos”.

El encuentro fue organizado por el GobLab de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI) y en su apertura contó con intervenciones de Francisco Covarrubias, rector de la UAI, y Alejandra Pizarro, directora nacional de ANID.

Por su parte, autoridades de las organizaciones asociadas al proyecto Algoritmos Éticos compartieron tanto su visión sobre el uso de sistemas automatizados como su experiencia en el uso de las herramientas generadas por el GobLab. Participaron Pamela Gana, superintendenta de la Superintendencia de Seguridad Social (SUSESO); Juan José Cárcamo, director nacional del Instituto de Previsión Social (IPS); Pedro Guerra, director nacional del Servicio Civil; Cristián Céspedes, subdirector de ChileCompra; David Ibaceta, director general del Consejo para la Transparencia; además de altos representantes del Ministerio de Ciencia y la Secretaría de Gobierno Digital.

Uno de los momentos destacados de la jornada fue la charla magistral de Juan David Gutiérrez, profesor asociado de la Universidad de los Andes (Colombia) y experto en políticas públicas e inteligencia artificial, quien abordó los desafíos que enfrenta América Latina para implementar IA de manera ética y transparente.

También fueron presentados los resultados del proyecto ANID a cargo de María Paz Hermosilla, directora del GobLab UAI, y a Reinel Tabares, director alterno del proyecto. Finalmente se dio paso a la presentación de la experiencia y desafíos de los pilotos implementados por instituciones públicas, innovadoras y pioneras en estas materias como son la SUSESO e IPS. Además, se llevó a cabo un panel de conversación con representantes del IPS, SENCE, SUSESO y la Subsecretaría de Prevención del Delito, quienes compartieron sus experiencias implementando estas herramientas en sus respectivas instituciones.

“El objetivo del proyecto Algoritmos Éticos y sus herramientas, ha sido acompañar al Estado en su camino hacia una inteligencia artificial que respete los derechos fundamentales de las personas y contribuya a una mejor provisión de servicios, estableciendo ciertos marcos para aprovechar todas las oportunidades que traen estas tecnologías y generar confianza en las instituciones, lo que es clave para la democracia y una sociedad más justa y equitativa”, señaló María Paz Hermosilla, directora del GobLab UAI.

La actividad finalizó con las palabras de cierre de María José Naudón, decana de la Escuela de Gobierno UAI, quien agradeció a las instituciones presentes y destacó “a todos quienes han trabajado durante cinco años con el GobLab de la Escuela de Gobierno, poniéndose a disposición para lograr un objetivo común, como es avanzar en la implementación ética y responsable de la inteligencia artificial en Chile. De este esfuerzo están saliendo productos y herramientas inéditas para el país y América Latina”.

 Herramientas de Algoritmos Éticos disponibles

Uno de los resultados principales de esta etapa del proyecto es tener disponibles herramientas gratuitas, de código abierto y en español disponibles para su uso en servicios públicos, tanto para quienes quieran comprar algoritmos y ciencia de datos como para las organizaciones que decidan hacer desarrollo interno.

Estas fueron pilotadas en 13 proyectos de 9 servicios públicos diferentes y están centralizadas en la plataforma algoritmospublicos.cl.

Las tres herramientas desarrolladas en la etapa apoyada por ANID son:

1.     Evaluación de Impacto Algorítmico, herramienta que identifica riesgos éticos desde una mirada técnica, legal y de gestión, y recibe recomendaciones de mitigación personalizadas al proyecto de IA.

2.     Medición de Sesgos y Equidad Estadística, que mide e identifica sesgos en las predicciones del modelo de IA, para crear sistemas más justos y prevenir la discriminación.

3.     Ficha de Transparencia del Modelo,  documenta y comunica de manera clara la lógica de decisión detrás del sistema de IA y explica aspectos claves para promover la transparencia.

SOBRE EL PROYECTO DE ALGORITMOS ÉTICOS DEL GOBLAB UAI

El GobLab UAI, el laboratorio de innovación pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez ha trabajado desde 2020 en promover el uso responsable y transparente de algoritmos, inteligencia artificial y sistemas automatizados o semiautomatizados en el sector público chileno, buscando con ello apoyar a las instituciones públicas innovadoras.