Instituciones públicas y GobLab UAI sesionaron Comité Directivo del proyecto Algoritmos Éticos

El resultado es un conjunto en el que cada herramienta interviene en un momento distinto del ciclo de vida de un sistema. La Herramienta de Formulación de Proyectos de IA y Ciencia de Datos acompaña la definición del proyecto antes de empezarlo, para que las preguntas sobre riesgos se hagan al inicio y no al final. La Evaluación de Impacto Algorítmico revisa un sistema ya diseñado, dimensiona sus posibles debilidades y entrega una hoja de ruta con recomendaciones específicas para prevenirlas. La Medición de Sesgos y Equidad examina si un modelo trata de manera distinta a distintos grupos de personas. La Ficha de Transparencia Algorítmica documenta cómo funciona el sistema, para que cualquier persona pueda entenderlo. Y la Herramienta de Explicabilidad, en etapa de creación, mostrará por qué un modelo llegó a un resultado determinado.

Cada una de esas herramientas se desarrolla bajo una estructura de gobernanza que involucra a las instituciones involucradas en el proyecto. El Comité Directivo es su instancia mayor, donde quienes lo integran revisan lo avanzado, evalúan los resultados y orientan las decisiones del período siguiente. Bajo esa conducción opera un Comité Técnico que sesiona el primer miércoles de cada mes y hace el seguimiento del desarrollo. Las herramientas se prueban en proyectos reales, tanto de las entidades asociadas como de otros organismos públicos que se suman mediante convocatorias abiertas, y las observaciones que devuelven esos equipos colaboran en los ajustes de cada versión. En esa misma línea participaron de la sesión la Secretaría de Gobierno Digital, ChileCompra y el Ministerio de Ciencia, entidades patrocinantes cuyo trabajo con el proyecto viene de sus primeras fases.

Buena parte del trabajo de este período se concentró en dos frentes. El primero es la usabilidad. Las cuatro herramientas entregan retroalimentación automática mientras se completan y generan informes con recomendaciones, con la meta de que un equipo público pueda evaluar sus propios sistemas sin depender de asistencia externa. El segundo es la formación de los equipos en el uso responsable de inteligencia artificial a lo largo del ciclo completo de desarrollo de un sistema. En lo que va de la tercera fase han comenzado su pilotaje más de 25 sistemas de instituciones públicas, cada uno con capacitación previa y una devolución del equipo GobLab.

Una parte de esos sistemas está fuera de Chile, algo que hasta hace poco no era posible. La Evaluación de Impacto Algorítmico y la Ficha de Transparencia Algorítmica habían sido diseñadas para el marco normativo chileno, de modo que aplicarlas en otro país exigía adaptaciones caso a caso. Ambas cuentan ahora con un perfil de uso internacional que permite a cualquier servicio público de la región usarlas directamente. Instituciones de México, Argentina, Colombia, Uruguay, Perú y Trinidad y Tobago, entre otros países, se encuentran en período de pilotaje en sus propios sistemas. Dentro de Chile, en tanto, los materiales del proyecto empiezan a circular por su cuenta: en la sesión, el Ministerio de Ciencia señaló que parte de los manuales elaborados sirvieron de insumo para una nueva herramienta de esa cartera, un uso que excede el pilotaje.