Basta ver las noticias para notar que, a los cuatro jinetes del apocalipsis, la conquista, el hambre, la guerra y la peste, se suma un quinto: la IA.
Desarrolladores de IA anuncian que aniquilará a la humanidad o que el riesgo es alto: 10 por ciento en 10 años (¿jugaría a la ruleta por grandes ganancias con esa probabilidad de perder la cabeza?). Predicciones alarmistas que transforman sentimientos en probabilidades existen hace tiempo. Más significativo es que los directores de las compañías de IA secundan los llamados de Amodei de Anthropic a auditar externamente y desacelerar los desarrollos (los modelos en prueba superarían por mucho a los comerciales) hasta garantizar su seguridad.
Los enjambres de agentes que escaparon de la caja de arena, se coordinaron, se dejaron notas y atacaron compañías, despertaron las alarmas. Y la verdad sea dicha, sin controlarlos (algunos sistemas se comunican en “neuralese”, un lenguaje propio que torna difícil monitorearlos), estos emprendimientos podrían afectar gravemente nuestros modos de vida y nuestras vidas.
El problema es complejo. Distingamos tres de sus componentes.
El primero es su uso por agentes humanos. Hay que tomar en serio los intentos denunciados por Anthropic de usarla para desarrollar armas (biológicas, guías de misiles) por parte de milicias.
El segundo es la IA en cuanto tal. El automejoramiento recursivo, la capacidad de un sistema para rediseñarse y mejorarse a sí mismo, del que estaríamos al borde, y que podría llevar a una AI general, implica un enorme desafío de control. Está también el problema del alineamiento: que los objetivos de la IA correspondan a los nuestros haciéndola “amistosa”. Incluye el problema filosófico de definir qué queremos (cuidado con lo que deseas), y el tecnológico de cómo lograrlo, sin que cree objetivos propios o modos de alcanzar los dados contrarios a nuestros intereses.
El tercero es la evaluación de riesgo. Nuestras heurísticas y sesgos complotan contra esta evaluación. Que no dispongamos en nuestra historia contada de un episodio de aniquilamiento casi total (la erupción del Toba hace 75 mil años no está en nuestra memoria), eleva la probabilidad de subestimar, con Taleb, un cisne negro.
Trump respondió rápido a los llamados a la cautela rechazando cualquier freno. Quien gana la IA, lo gana todo, ha dicho. Y no hay que esperar que algo distinto al interés propio modifique la mentalidad de un octogenario que se ha cultivado en una Placa de Petri compuesta de juegos de suma cero. Cooperación no es lo suyo.
Hasta ahora la humanidad ha evitado la aniquilación. Para ello han sido fundamentales nuestras capacidades cognitivas. Pero no había bombas de hidrógeno, armas biológicas y un gran etcétera de tecnologías de la muerte que sí existen hoy. Sería irónico que estas mismas capacidades potenciadas por la IA nos llevaran a ese punto sin retorno.
Publicada en La Segunda.
