La IA que puede matarnos y Carmen Mola que vuelve

La actualidad no defrauda y siempre hay un desastre a punto de suceder. La tragedia nos persigue, al menos desde los griegos. Vivimos en un mundo acelerado en el que la siembra del miedo se ha convertido en una de las herramientas políticas fundamentales. Se diría que la gente compra ya cualquier cosa, cualquier supuesta verdad, cualquier ruido, cualquier furia. Y no hay tregua, ya lo saben. No hay posibilidad de detener la marcha de este loco mundo. Frente a las alarmas inventadas y la palabrería agitadora, hemos entrado en una vorágine dantesca que sí parece muy real, que se reparte entre las catástrofes naturales y las catástrofes producidas por liderazgos autoritarios, empecinados en hacer peor el planeta a todas horas. Es una pena que un sector de la población mundial esté apostando por la ignorancia. Por una carrera vergonzante contra la ciencia y contra la razón.

Pero, por una vez, parece que la alarma llega ahora desde la ciencia, no desde los políticos populistas. Hasta ahora creíamos que la inteligencia artificial (la natural, en algunos casos, también parece que cotiza muy a la baja) podría dañar algunas profesiones, aunque quizás serviría para que aparecieran otras completamente nuevas. No soy tecnófobo, en absoluto, lo he dicho muchas veces. Pero los temores de los diseñadores, ilustradores, escritores, traductores, investigadores, quizás también de los músicos y artistas de toda condición, empiezan a quedarse cortos. La IA no se detiene ante nada y parece que vive un momento de efervescencia, sobre todo económica. La tecnocracia empieza a dominar el mundo y juraría que unos cuantos se mostraron a menudo cercanos a Trump. Sin embargo, conviene recordar que la tecnología no puede separarse de la naturaleza del ser humano: es nuestra historia, es nuestra evolución, es nuestro progreso. Ahora, algunos involucrados en el desarrollo de la IA empiezan a avisar sobre sus peligros. Una vieja conjetura matemática fue resuelta, al parecer, en unas cuantas horas, hace pocos días. Y seguro que sólo es el comienzo. Los matemáticos empiezan a creer que su profesión no tendrá sentido si la investigación humana es orillada: la IA no tiene corazón, pero tiene datos.

Que los de OpenAI desentrañaran uno de esos Problemas del Milenio, que propone el Instituto Clay de Matemáticas, puede ser asombroso y preocupante a la vez, sobre todo si consideramos que la IA trabaja a partir de los materiales desarrollados por los investigadores (había dos españoles, en concreto, entre los que se dedicaban a desenredar esta conjetura), y ese trabajo parece que no siempre es reconocido. Si algo no debería hacer la IA es avasallar, y no olvidemos que la autoría científica es un derecho, por mucho que vivamos ahora en la gran confusión de las fuentes, en este caos.  

Sin embargo, la tecnología seguirá hacia el infinito y más allá. La ambición es una característica de la humanidad, pero es cierto que la ambición pude ser buena y puede ser mala, algo así como el colesterol. Si se trata de hacer un gran negocio, la IA se volverá imparable. Si se insufla un poco de humanismo entre las máquinas, quizás las cosas mejoren. Ahora se habla de ralentizar y pensar mejor el desarrollo de la inteligencia artificial, y no sólo porque los matemáticos, con justicia, claman que hay que potenciar y respetar los “procesos humanos de descubrimiento” (nosotros debemos utilizar las máquinas, las máquinas no nos deberían utilizar a nosotros).

También porque le han visto las orejas al lobo de la destrucción de nuestra especie y de la civilización, tal y como la conocemos. A algunos parece no importarles demasiado, porque la ignorancia (y la soberbia) es muy atrevida. Parecen decir: ¿quién quiere una maldita civilización pudiendo vivir en un buen sindiós, lleno de supremacismos, que nos haga más ricos? Acabo de leer en el New York Times (NYT) que a Trump se le da una higa (bueno, no lo dice así) lo de los peligros de la IA para la humanidad. No parece que algunos gobiernos vayan a mover un dedo, sobre todo si basan el futuro de su supremacía en el desarrollo veloz de estas potencialidades. Hay una carrera feroz que puede hacer descarrilar el progreso. Dice el NYT que esto se parece mucho a la carta de Einstein a Franklin D. Roosevelt, sobre el potencial poder de las armas nucleares. Más de 1.300 científicos de computación han pedido que se baje ya el suflé de la IA, o nadie sabe qué puede ocurrir. Se lo han pedido también a los gobiernos. Pero ¿realmente hay una voluntad de parar la carrera, una carrera que algunos ven suicida?

Como saben, todo se ha disparado a partir de las declaraciones de Jacob Coxon, recién dimitido de su puesto en Anthropic. Viendo el curso febril de los acontecimientos, el tal Coxon anunció que “la IA puede matarnos a todos antes de 2030”, y eso es pasado mañana. Le han acusado de inmediato de apocalíptico, evidentemente. En este tiempo de tanto alarmismo, y de tanto bulo político, lo de que la IA puede autocorregirse y mejorarse a sí misma en poco tiempo, sin necesitar de nosotros, hasta tomar una especie de conciencia e ir a su bola, en fin, perdónenme por simplificar, fue tomado rápidamente como otro de esos miedos que, además, parecen habituales ante los avances de la tecnología. Sin embargo, parece que hubo que detener ciertos procesos peligrosos, o eso dijo Coxon, que estaba en la pomada. También contó, leo en los papeles, que algunos directivos mostraron su preocupación, aunque lo hicieron en la intimidad. Hubinger, ex jefe de Coxon, corroboró que, en los próximos años, el peligro de autodestrucción de la humanidad superaba quizás el diez por ciento. Y algo sabrá, digo yo. Las máquinas pueden volverse imparables y pueden hacerlo a gran velocidad. No sólo es que algunas profesiones dejarán de existir, sino que podríamos dejar de existir nosotros. Hace pocas horas que se informó también de que algunos desarrollos no previstos de la IA, tendentes a la fabricación de armas biológicas habían sido drásticamente detenidos. ¿Vamos a tener que vigilar a la gran máquina del pensamiento a partir de ahora por si se pone estupenda? ¿Estamos ante un Frankenstein que puede irse de las manos? Ahora mismo me siento tan agorero y alarmista como cualquiera de esos políticos que trabajan a diario el miedo de los pobres ciudadanos y buscan que ese miedo ate sus manos y sus voluntades. Pero resulta que esto viene de los propios científicos.

Así que, aunque los estudiantes españoles sean, según el último informe PISA, los que más utilizan la inteligencia artificial, creo que hay algunas preocupaciones superiores en marcha. Además, la IA acabará formando parte del proceso educativo, nos guste o no. La cuestión es que no debemos matar la creatividad y el ingenio humano. Ni tampoco a la propia humanidad, a poder ser. Hoy voy a reunirme con los amigos de Carmen Mola, que acaban de sacar novela (‘Los Huérfanos’, Planeta). Les diré si el crimen que dibujan los thrillers (hay una inmensa producción de thrillers en la literatura española, ¿no creen?) puede quedarse obsoleto ante la amenaza mortal de la máquina, que, según estamos viendo, podría superar cualquier retorcida trama humana. Los novelistas temen que la IA pueda acabar con ellos (yo no lo creo), pero sólo profesionalmente. Ahora Coxon nos dice que el peligro que nos acecha es el de la autodestrucción real. Puro noir.