La inteligencia artificial se ha convertido en una de las grandes promesas para modernizar el Estado. Procesos más ágiles, menores costos y mejores servicios aparecen como beneficios evidentes cuando los recursos públicos son escasos y las demandas ciudadanas aumentan. Sin embargo, existe un riesgo que no debemos perder de vista: confundir eficiencia con progreso.
La velocidad, por sí sola, no garantiza calidad. Hoy, los algoritmos pueden procesar miles de casos en segundos, y ya lo hacen en ámbitos que impactan directamente la vida de las personas: la asignación de beneficios sociales, la priorización de atenciones de salud, decisiones en el sistema judicial o el acceso a oportunidades educativas.
En otras palabras, estamos delegando decisiones de interés público a sistemas automatizados. Frente a ello surge una pregunta fundamental: cuando una decisión tomada por una máquina parece injusta, errónea o discriminatoria, ¿quién tiene la capacidad real de cuestionarla?
La supervisión humana suele presentarse como una garantía de inteligencia artificial responsable. Sin embargo, puede convertirse en una mera formalidad si quienes deben ejercerla no comprenden las limitaciones de la tecnología, carecen de información suficiente o no tienen la autonomía y autoridad necesarias para contradecir sus recomendaciones.
Aquí aparece un desafío que trasciende la tecnología: mientras invertimos en sistemas cada vez más sofisticados, ¿estamos fortaleciendo también las capacidades de quienes deben utilizarlos y supervisarlos?
El desafío es avanzar desde la automatización hacia el aumento de capacidades. La inteligencia artificial puede fortalecer el juicio humano, ayudando a analizar información, anticipar problemas e identificar necesidades. Pero aprovechar ese potencial requiere pensamiento crítico, criterio profesional y condiciones institucionales que permitan ejercerlos.
Esta mirada exige entender la inteligencia artificial responsable más allá de una declaración de principios. Requiere transparencia, evaluación de riesgos y rendición de cuentas, pero también personas capaces de interpretar, cuestionar y corregir sus resultados. Poner a las personas en el centro implica asegurar que mantengan una participación significativa en las decisiones que afectan sus vidas.
La confianza ciudadana dependerá, en buena medida, de que las instituciones puedan explicar sus decisiones, reconocer errores y corregirlos. Porque cuando una recomendación algorítmica sea cuestionada, lo verdaderamente importante será que exista alguien capaz de responder por ella.
Publicada en La Segunda.