GobLab UAI presentó nueva herramienta para una IA responsable y ética

Una tercera herramienta gratuita, de código abierto y en español fue lanzada por el GobLab, el laboratorio de innovación pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI). Se trata de la Evaluación de Impacto Algorítmico, que se une a otras dos ya disponibles en la plataforma Algoritmos Públicos.

La presentación estuvo a cargo de la subdirectora del GobLab UAI, Romina Garrido, quien explicó que esta herramienta busca ser una guía para que los equipos de desarrollo puedan identificar tempranamente posibles riesgos y tomar medidas preventivas para evitar efectos indeseados como sesgos o discriminación, infracciones a la protección de datos y opacidad. 

 “Es relevante que las instituciones públicas puedan usar esta evaluación ya que permite que las decisiones automatizadas sean comprensibles y que en el futuro puedan ser auditables por el público y las autoridades. Asegura un uso ético y transparente de los sistemas de inteligencia artificial lo que, sin duda, fomenta la confianza pública”, señaló.

La Evaluación de Impacto Algorítmico está orientada a proyectos de ciencia de datos e inteligencia artificial y se suma a otras dos herramientas presentadas durante el primer semestre, la Ficha de Transparencia Algorítmica y la Medición de Sesgos y Equidad. Todas están  disponibles para ser probadas por los servicios públicos interesados a través de pilotos, han sido diseñadas en el marco de un proyecto financiado por ANID y facilitarán que las instituciones y sus proveedores tecnológicos implementen la Política Nacional de Inteligencia Artificial y la circular del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación sobre el tema. 

En la convocatoria, que estará abierta hasta abril 2025, pueden participar proyectos de ciencia de datos o inteligencia artificial del sector público que estén en fases de desarrollo, implementación o producción, ya sean proyectos a cargo de un equipo interno o en conjunto con un proveedor externo.

Romina Garrido, cerró esta presentación invitando a todas las organizaciones públicas a ser parte de estos pilotos, "los funcionarios y las instituciones públicas están siempre sujetos a un mayor escrutinio, responsabilidad y a múltiples marcos normativos, y estas herramientas facilitan su cumplimiento, y sobre todo, pensando en que en el corto plazo vienen regulaciones como la Ley de Protección de Datos Personales, que exige también ciertos grados de transparencia de los algoritmos. Estas herramientas ayudan a implementarlas de una manera anticipada”.

La información sobre las herramientas y la inscripción en las sesiones informativas para ser parte del proceso de pilotaje está disponible en https://algoritmospublicos.cl/.