La verdad oscura y una era de ceguera

La humanidad se encuentra en una encrucijada y no me refiero precisamente a la guerra en Oriente Medio, sino a la que puede derivarse de una crisis existencial a causa de la indómita carrera por la primacía de una Superinteligencia. No igual de inteligente, sino diez veces más inteligente que el hombre, mil veces, o 10.000 veces más. Se atribuye a Richard Feynman la célebre frase de “¡Cállate y calcula”! Pero en realidad no es de R. Feynman, sino del también y menos famoso físico cuántico David Mermin, y que fue realmente su autor, si bien el debate de a quién pertenece el copyright es irrelevante para mi propósito. Según entiendo, lo decisivo de la cuestión radica en el contexto en que se hizo y la resonancia que alcanzó en el ámbito del conocimiento de lo infinitamente pequeño. Es decir, el de la física cuántica. Y que adquiere inusitada relevancia porque afecta al hasta qué punto es significativo comprender el porqué de las cosas. Pues, los porqués deberían igualar al hecho de que las cosas funcionen. La cuestión es, pues, por tanto, si basta la satisfacción de que las cosas funcionen o, en cambio, además de ese ¡eureka! es igualmente indispensable comprender el porqué.

Los así llamados aceleracionistas de la IA ya han respondido a la pregunta y han decidido que sí, que es suficiente a condición de que funcionen. Son los que han emprendido una alocada carrera contrarreloj con la finalidad de alcanzar una primacía Superinteligente, a cualquier precio. Les basta que funcione. Luego, ya se verá, alegan. Sin embargo, si algo funciona y se desconoce los porqués es obvio que algo se pasa por alto. Y prescindir de ese control sin duda es una temeridad además de una imprudencia. En este caso crear una Superinteligencia no es crear una cosa más, sino un ente artificial igual de inteligente que la especie humana, o diez veces más inteligente, o mil veces más inteligente, o 10.000 veces más inteligente… ¿Quién sabe...? Por consiguiente, la frivolidad de desentenderse de esos porqués en el caso de la tecnología IA no es siquiera avanzar a medias, sino en completa oscuridad, a costa de un desmedido precio inasumible para la humanidad. En esta fase de evolución tecnológica y en virtud de su poder disruptivo, la emergencia de una Superinteligencia supone una crisis existencial. Es por ello mismo que se precisa las dos caras del conocimiento: la mirada de un Jano bifronte que mira al pasado y al futuro.

La expresión “Shut up and calculate!”surge ante la dificultad de explicar el extraño comportamiento y cualidades de las partículas del mundo atómico. La dualidad de la identidad de la luz, onda/partícula, es un buen ejemplo. En el conocido experimento de la doble rendija, la luz difiere su comportamiento al pasar por una doble rendija, si se la observa la luz se comporta como partícula, si no, como onda. “Cállate y calcula” es una argucia de los físicos de lo infinitamente pequeño con la finalidad de escamotear los debates metafísicos de los porqués. A R. Feynman se le atribuye esa frase según la cual siempre que las matemáticas funcionen, responder a los porqués es empantanarse y retrasar el avance. En realidad, corre el sambenito de que verdaderamente nadie comprende la física cuántica. ¡Pero funciona! Ése es el clavo ardiendo al que se agarran los pragmáticos. Si algo funciona porque lo predice las matemáticas, prosiguen, enredarse en disquisiciones metafísicas es absurdo.

Lo fían todo al pragmatismo de “Si funciona…” Al experimento de doble rendija le faltan los porqués y, por consiguiente, intercambia una mirada holística por una mirada tuerta que implícitamente explicita una claudicación epistemológica. Con lo cual a esa derrota epistemológica le acompaña su correspondiente ceguera ontológica, y es así como la epistemología llega al final de un ciclo; ya no comprende, sino que asiente, repite lo confirmado por la IA, pero no verificado por humanos. Eso pasa con los outputs. Pues el humano asiente el resultado como un sonámbulo en estado de trance. Repite como un loro repite un enunciado lingüístico que, pese a que pueda ser indistinguible de la capacidad lingüística humana, no lo comprende. De ese modo se llega a la ceguera cognitiva, si esa hipótesis fuese cierta habría de confirmarse el fin de la comprensión y el amanecer del asentir.

Una pregunta que debe responderse también es si acaso es incompatible comprender los porqués con la experiencia numérica. Supongo que si son incompatibles la ciencia y la tecnología avanzan en la oscuridad. ¿Acaso se ha de aceptar que es incompatible saber y calcular? Otra no menos cardinal es la inquietante pregunta de a dónde se dirige una civilización que no conoce las consecuencias ni los porqués constitutivos de su tecnología.

A lo añadido y quizá definitivo en esta ocasión es la desventura que dimana del descabellado propósito de crear una Superinteligencia. Es cierto que la IA contribuye en la resolución de muchos problemas en el área de la medicina diagnóstica y otras esferas del conocimiento y de la que, por cierto, no debemos prescindir. Debe estar alineada, si tal propósito es suficiente. Porque el caso es que los humanos son ineficaces en rastrear su lógica. Ni todos los ingenieros del mundo podrían cotejar los abrumadores billones de números que requerirían verificar sus outputs. Como dice Eliezer Yudkowsky, que acaba de editar en español “Si alguien la crea, moriremos todos”. Edit. Destino. “No es lo mismo entender lo que los números significan, o por qué funcionan”.

Suscríbete para seguir leyendo