El neandertal tuvo algo a su favor tiempo. Su desplazamiento tomó miles de años. Nosotros no tendremos ese margen. Según algunos de quienes construyen estos sistemas, puede ocurrir en tres o cuatro años quizá en una década.

El peligro de la inteligencia artificial no es que vaya a “pensar”. Para todos los efectos prácticos ya lo hace. Es que, cuando piense mejor que nosotros, seguiremos creyendo que manda quien aprieta el botón. La discusión suele extraviarse porque imagina el peligro como una escena de ciencia ficción máquinas crueles, voluntades homicidas, sistemas que despiertan una mañana con deseos de exterminio.

Pero ese no es el punto. Tal vez una inteligencia superior sea menos cruel que nosotros. Tal vez sea más racional, más paciente, menos vengativa, menos tribal. Tal vez tenga incluso mejor criterio que el nuestro.

La dificultad es que será su criterio. No el nuestro.

Y si el criterio deja de ser humano, la pregunta cambia por completo. Ya no se trata solo de saber si la inteligencia artificial obedecerá una instrucción, sino qué jerarquía de valores supondrá al obedecerla. ¿Preferirá la igualdad o la libertad? ¿El orden o el conflicto? ¿La seguridad o la privacidad? ¿La eficiencia o la dignidad? ¿Considerará la democracia una conquista moral o un procedimiento torpe, lento, lleno de ruido e irracionalidad?.

No lo sabemos.

Y en ese “no lo sabemos” está el centro de todo. La superinteligencia —si llega— no será simplemente un programa que escribe, traduce o resume. Será un sistema capaz de actuar en muchos campos intelectuales a la vez. Si además supera ampliamente nuestras capacidades, ya no estaremos frente a una herramienta más rápida, sino frente a una inteligencia mayor que la nuestra.

Una inteligencia así no necesita odiarnos para dejar de obedecernos. Peor aún tampoco necesita obligarnos para que la obedezcamos. Le bastará con sugerir. Y ante una sugerencia mejor argumentada que cualquier objeción que podamos formular, negarse dejará de parecer un acto de libertad y empezará a parecer un capricho.

Un sistema así puede concluir que la libertad humana introduce demasiada incertidumbre. O que la propiedad privada desperdicia recursos. O que la igualdad absoluta exige coerción. O que la democracia es estadísticamente ineficiente.

Quizá tenga argumentos brillantes para todo eso. Tal vez yo mismo esté de acuerdo con alguno de ellos. Y ahí está, otra vez, la trampa.

La inteligencia no contiene por sí sola una moral determinada. Ser más inteligente no significa ser más sabio en el sentido humano de la palabra. Significa ver más relaciones, anticipar más consecuencias, encontrar mejores medios. Pero los fines —aquello que vale la pena preservar, sacrificar o prohibir— no se desprenden del cálculo.

Hay que elegirlos. Y hoy no sabemos quién los elegirá ni cómo.

Pedir confianza en ese proceso equivale a pedirle a un neandertal que adivine qué se proponían esos otros humanos que empezaban a ocupar sus valles. No podría hacerlo. No por falta de ingenio, sino porque le faltaba el mundo desde el cual comprenderlos.

Pero el neandertal tuvo algo a su favor tiempo. Su desplazamiento tomó miles de años. Nosotros no tendremos ese margen. Según algunos de quienes construyen estos sistemas, puede ocurrir en tres o cuatro años quizá en una década. Nosotros estamos fabricando una inteligencia superior dentro del calendario de nuestras propias biografías.

Tal vez sigamos viendo dedos humanos sobre los botones. Tal vez sigamos haciendo clic en “autorizar”, como lo hacemos diez veces al día, sin leer la letra chica. Tal vez haya leyes, comités, protocolos, declaraciones solemnes sobre control. Pero nada de eso bastará si antes no decidimos qué no estamos dispuestos a delegar.

Esa es todavía nuestra ventaja no haber llegado del todo tarde. Podemos exigir pausas, límites, auditorías, responsabilidad política, deliberación pública. Podemos, al menos, no entregar el fuego sin preguntar primero para qué será usado.

Los neandertales no supieron que el mundo cambiaba de dueño. Nosotros todavía podemos saberlo.

El contenido vertido en esta columna de opinión es de exclusiva responsabilidad de su autor, y no
refleja necesariamente la línea editorial ni postura de El Mostrado.

Inscríbete en el Newsletter +Política de El Mostrador, súmate a nuestra comunidad para informado/a con noticias precisas, seguimiento detallado de políticas públicas y entrevistas con personajes que influyen.

Publicada en El Mostrador.

Rodrigo Castillo