Señor Director: ¿Cuánto riesgo estamos dispuestos a aceptar a cambio de una innovación extraordinaria? ¿Cómo decidir cuando los beneficios pueden ser inmensos, las probabilidades son difíciles de estimar y existe la posibilidad de una catástrofe irreversible? La inteligencia artificial nos enfrenta a estas preguntas. La filosofía moral, la economía y la ingeniería llevan décadas estudiando estos dilemas. La distinción entre riesgo e incertidumbre, los eventos extremos, las decisiones irreversibles y el valor de esperar, aprender y corregir ayudan a entenderlos. De allí surgen principios para gobernar la IA. Proporcionalidad: regular según los riesgos. Precaución: exigir mayores garantías frente a daños catastróficos. Aprendizaje: experimentar, evaluar y avanzar gradualmente. Reversibilidad: conservar la capacidad de intervenir y detener sistemas peligrosos. Responsabilidad: hacer que quienes generan riesgos asuman sus consecuencias. Dejar de innovar también tiene costos. La IA podría ayudar a prevenir futuras pandemias, desde la detección temprana de brotes hasta el desarrollo de vacunas. El desafío es minimizar los riesgos totales para la humanidad, incluidos los de renunciar a sus beneficios. El proyecto de ley que tramita el Senado adopta un enfoque basado en riesgos. Es un punto de partida. Su discusión pondrá a prueba nuestra capacidad de superar una falsa disyuntiva: creer que la prudencia exige impedir y que el progreso consiste en permitir.

Publicada en El Mercurio.