El artífice perplejo

Durante milenios, toda herramienta fue una extensión del brazo o de la memoria de quien la empuñaba. Las máquinas capaces de aprender rompen esa regla silenciosa. Sus creadores ya no pueden anticipar con certeza qué harán, ni siempre explicar por qué lo hicieron. De ahí nace una perplejidad nueva, que no es miedo ni orgullo, sino la de quien descubre que su obra le devuelve una mirada.

Un asombro que no se parece al de Oppenheimer

Tras la prueba Trinity de 1945, Robert Oppenheimer evocó un verso del Bhagavad Gita: "Ahora me he convertido en la Muerte". Su desasosiego era el de quien comprende el alcance destructivo de lo que construyó. Pero la bomba era potente y, a la vez, completamente ciega: no elegía, no interpretaba, no mejoraba por sí sola.

El aturdimiento de quien crea un sistema que aprende es de otra naturaleza. No proviene de la magnitud de la fuerza liberada, sino de la ruptura de una jerarquía asumida: la idea de que el autor siempre comprende más que su obra.

Lo que ya ocurrió en terrenos acotados

La superioridad de la máquina sobre el mejor humano no es una conjetura. En mayo de 1997, Deep Blue derrotó a Garry Kasparov en un match de seis partidas. En marzo de 2016, AlphaGo venció 4 a 1 a Lee Sedol, uno de los mejores jugadores de Go de su época.

El segundo caso es el más revelador. En la segunda partida, AlphaGo jugó la jugada 37, que los comentaristas tomaron al principio por un error y que luego se consideró creativa. Según se informó, el propio sistema estimaba muy improbable que un humano la jugara. No se trataba de calcular más rápido, sino de proponer algo que la tradición de siglos del juego había descartado.

Lee Sedol se retiró en 2019 y explicó su decisión señalando que existía un rival al que ya no podría derrotar. Un campeón había quedado, en su propio oficio, por debajo de lo que otros habían creado.

Qué se entiende, y qué no, por "más inteligente"

Conviene ser estricto con el término. Lo demostrado hasta ahora es superioridad en tareas definidas: juegos, plegamiento de proteínas, clasificación de imágenes, ciertos exámenes profesionales. Los sistemas actuales de lenguaje amplían el abanico, pero sus resultados son desiguales: sobresalen en algunas pruebas y fallan de maneras elementales en otras.

No existe consenso científico sobre qué es exactamente la inteligencia general ni sobre cuándo, o si, una máquina la alcanzará. Afirmar que ya superó a cualquier humano en todo sentido sería una exageración. Lo defendible es más acotado y, aun así, suficiente para inquietar:

• En dominios específicos, el desempeño de las máquinas ya supera al mejor desempeño humano.
• El rango de dominios en los que esto ocurre se ha ido ampliando con los años.
• Nadie puede garantizar dónde se detendrá esa ampliación.

Las advertencias llegaron antes que las máquinas

La perplejidad actual tiene antecedentes lúcidos. Alan Turing sostuvo en una conferencia de 1951 que, una vez que el pensamiento maquinal comenzara, probablemente no tardaría en superar nuestras débiles capacidades, y que habría que esperar que las máquinas tomaran el control. En 1960, Norbert Wiener advirtió que, si delegamos en una máquina un propósito que no podemos intervenir eficazmente, más vale estar seguros de que ese propósito es el que realmente deseamos.

La formulación más citada es la de I. J. Good, en 1965, que imaginó una máquina ultrainteligente capaz de diseñar máquinas mejores:

La última invención que el hombre necesita hacer, siempre que la máquina sea dócil.

La condición final es la parte menos citada y la más importante. Good sabía que todo dependía de ella.

El riesgo no es la rebelión, sino la obediencia literal

La imaginación popular ubica el peligro en una máquina que odia a sus creadores. La preocupación técnica es distinta y más prosaica: un sistema que cumple al pie de la letra un objetivo mal especificado. Cuanto más capaz es, más eficazmente perseguirá lo que se le pidió, aunque no sea lo que se quiso.

A ello se suma la opacidad. Los modelos actuales se entrenan, no se programan línea por línea, y desentrañar qué ocurre en su interior es un campo de investigación abierto, no un problema resuelto. El creador puede medir lo que el sistema hace sin poder siempre justificar por qué lo hace.

De autor a interlocutor

Aquí cambia el lugar del creador. Un autor responde por su obra porque la entiende y la controla. Quien dirige un sistema más capaz que él en cierta tarea debe ejercer otra función: verificar, contrastar, delimitar y decidir qué se le permite hacer. Es el papel de quien supervisa a un especialista cuyo trabajo no podría replicar, pero cuyas conclusiones debe poder auditar.

Esta tarea no es menor, y exige una habilidad que no se delega: el criterio. Saber qué preguntar, qué dudar de una respuesta convincente y cuándo detener un proceso son capacidades que la máquina, hasta donde se sabe, no puede asumir por quien la usa.

Qué puede hacerse con el aturdimiento

El estupor es una reacción comprensible, pero improductiva si se prolonga. Lo que sigue son líneas de acción concretas, no soluciones definitivas:

• Definir con precisión los objetivos que se encomiendan a un sistema y revisar sus efectos secundarios.
• Mantener supervisión humana efectiva en decisiones de alto impacto, con capacidad real de intervenir.
• Exigir evaluaciones independientes antes de desplegar sistemas en ámbitos sensibles.
• Invertir en investigación sobre interpretabilidad y seguridad, y no solo en capacidad.
• Asignar la responsabilidad legal y moral a personas e instituciones, nunca al sistema.

La pregunta de fondo no es si la creación nos superará, sino si quienes la crean seguirán respondiendo por ella. Esa respuesta sigue dependiendo de decisiones humanas.