“La inteligencia artificial está invadiendo silenciosamente nuestras vidas”

(José Ignacio Latorre, Ética para las máquinas, Ariel, 2019, p. 225)

“En vérité, l’idéologie libérale qui les irrigue depuis leur origine jusqu’à aujourd’hui les rend aveugles à d’autres enjeux cependant connexes. Aucune autre motif que le respect de la vie privée, ne les préoccupe”

(Éric Sadin, L’intelligence artificielle ou l’enjeu du siècle. Anatomie d’un antihumanisme radical, Éditions l’Échapée, París, 2018, p. 233)

Felipe Gómez-Pallete y Paz de Torres han escrito un libro –con prólogo de Antonio Garrigues Walker y epílogo de Fernando Gonzáles Urbaneja- que califican de divulgativo, pero que es bastante más que eso, aunque también lo sea. Muy bien escrito, con pulso narrativo mantenido y una excelente sistemática, también muy trabajada, Que los árboles no te impidan ver el bosque  (ACCD/Círculo Rojo, 2022) tiene un subtítulo (Caminos de la Inteligencia artificial) que es realmente el objeto de la monografía, pues se ocupa “de uno de los fenómenos más complejos e influyentes de nuestro tiempo, la así llamada inteligencia artificial” (IA), e intenta desbrozar para el lector profano cuáles son los inciertos senderos por lo que tal noción, tan popular y desconocida al mismo tiempo, podrá transitar.

Arrancan los autores de las dificultades que comporta acotar qué sea realmente la IA, cuando –como bien dicen- ni aún hemos conseguido el consenso científico necesario para definir qué es la inteligencia humana. En verdad, con la noción IA lo que se pretende es, al fin y a la postre, imitar lo humano e incluso superarlo, llegando a ese estadio en el que las máquinas vayan más lejos de lo que hacemos las personas y abriendo esa todavía incierta etapa del transhumanismo, tan bien estudiada en sus múltiples incertidumbres y consecuencias por Luc Ferry cuando trata los problemas éticos, jurídicos y sociales del perfeccionamiento humano a través de la ciencia y la tecnología (La revolución transhumanista, Alianza, 2017), donde ya anuncia –como hacen también los autores-  sobre el posible crecimiento de la desigualdad social que esa concepción aumentada puede implicar. Las palabras de Ferry enlazan perfectamente con la obra reseñada: “Aunque estuviéramos convencidos que la IA fuerte solo es una utopía, la IA débil, que ahora supera, y de muy lejos, algunas capacidades intelectuales de los simples mortales, no deja de plantear problemas muy reales”.

Con el objetivo de acotar qué es y en qué se plasma (y en qué se podrá tal vez plasmar en el futuro) eso que denominamos como IA, los autores se acompañan de muy buenos guías intelectuales, tanto de Margaret A. Boden como de Éric Sadin, así como de Ramón López de Mántaras y Manuel Alfonseca, entre otros muchos. 

De la concepción filosófica de Sadin, toman las tres características de la era antropomórfica de la técnica en la que nos hallamos: 1) El antropomorfismo aumentado; 2) El antropomorfismo parcelario; y 3) El antropomorfismo emprendedor. Las inquietudes que abre ese escenario de sustitución, superador del actual enfoque de complemento, no abandona nunca el hilo de reflexión de este sugerente y estimulante libro que aquí se comenta, en cuyo capítulo final (“Implicaciones sociales de la IA”) muestran su verdadera apuesta por que “el desarrollo tecnológico es una creación social” y, por tanto, “no es neutral en modo alguno”. Un discurso y una tesis que atraviesa todo el desarrollo argumental de su trabajo, huyendo de las concepciones deterministas que, con cínica neutralidad aparente, se invocan tan a menudo como argumento legitimador de la IA.  

Si algo cabe resaltar sobremanera de este libro es su claridad sistemática y conceptual. Digna de aplauso. Los autores abordan cuáles son los motores tecnológicos de la  IA, resumiéndolos en cuatro: hardware, software, big data y robótica. Como bien dicen, “nada nuevo bajo el sol”; ya que, además, la IA “es sobre todo la manifestación de una ancestral pulsión humana: la que nos mueve a crear seres a nuestra imagen y semejanza”, que “nos ayuden tanto a superar nuestras propias limitaciones (…) como a deshacernos de trabajos que impliquen monotonía o peligro”. En fin, la IA, concluyen, es la cara moderna “de un impulso atávico”. Se puede ver como mejora (que lo es), pero también como perfección (que lo pretende) o incluso como sustitución (a la que algunos aspiran).

En efecto, tras un sugerente repaso de cuáles son los actores institucionales que interactúan en la IA, De Torres y Gómez-Pallete se adentran en el estimulante ámbito de las dimensiones de la IA y de sus mapas mentales, concluyendo que la IA debe analizarse en su relación con los procesos de decisión a través del siguiente continuum: ayuda, inducción, decisión y actuación; dado que se trata de un “espectro que va desde la IA como mero facilitador, apoyo o soporte de la acción humana hasta la IA como prótesis de nuestra soberanía”, que podría incluso alcanzar “nuestra autoexpulsión, irrelevancia” o, incluso, prescindir de nosotros mismos, lo que los autores califican como prescindencia, a la que dedican unas importantes reflexiones epilogares. Todo ello levanta sospechas evidentes a quienes escriben, pues efectivamente se advierte un “empeño adanista por presentar a la IA como un fenómeno disruptivo”, cuyos efectos finales aún están plagados de sombras e incógnitas.

Y en este punto la claridad estructural del discurso ayuda al lector a comprender los plurales efectos que cosa tan ambigua aún como la IA pueda llegar a producir en nuestras sociedades y, especialmente, a las personas. La superación radical de ese mundo analógico para llegar al paraíso artificial, tras una transición más o menos larga (según quien opine) de profundización digital en las tecnologías disruptivas, está, sin embargo, empedrada de innumerables sombras.

Los apóstoles de la singularidad apuestan por una IA aumentada (mayor o superior que la inteligencia humana, IH). Hay, en cambio, quienes más prudentemente se mueven en que IA y IH son diferentes, lo que no implica que puedan ser complementarias (IH + IA), cooperen y sumen esfuerzos. Mientras que hay, por último, opiniones que abogan por una IA que siempre será menor  o inferior a la IH. Las diferencias descritas los autores las sintetizan en cuatro grandes posturas: a) Superación; b) Hibridación; c) Semejanza; y d) Completitud.

Pero, quizás, dónde los retos de la IA se plantean de modo más crudo es, por un lado, en el déficit innegable de regulación (el Derecho, desgraciadamente, va siempre por detrás de la realidad) que hoy en día existe, tanto en la UE como especialmente en España; por otro, en los complejos aspectos éticos que se plantean en torno al desarrollo imparable y acelerado de la IA, que deberían ser abordados a partir de un enfoque de riesgos preventivo desde el diseño a su aplicación, como obligación del investigador y, en su caso, de la empresa que comercialice tales programas, debiendo contrastar sus actuaciones y previsibles resultados a través de comités de ética (al igual que sucede en la biomedicina); y, en fin, en lo que los autores tratan con especial atención como son “las implicaciones sociales de la IA”, donde contraponen, una vez más, la visión del determinismo tecnológico frente a la apuesta del constructivismo social, que defienden lúcidamente.

Partiendo de ese esquema dicotómico, la obra se cierra con unas sucintas reflexiones sobre las que giran los debates entre determinismo y constructivismo social ante la evolución de la tecnología, como son los siguientes:

En primer lugar, el debate de la inteligencia, que abre, sin duda, la incógnita de hasta qué punto el progreso de la IA no conllevará el debilitamiento de las capacidades físicas y mentales del ser humano, lo cual ya fue advertido en su día por el neurocientífico italiano Lamberto Maffei.

El segundo debate es el de la presencia, que conlleva la inquietud y el temor a que el propio ser humano sea finalmente expulsado de sí mismo, lo que podría conducir a la irrelevancia e incluso –como antes advertíamos- a abrir de par en par “las puertas a una nueva desigualdad entre las personas”

En tercer lugar está el debate –del que algo ya se ha dicho- de la regulación. No basta con decir que la IA respete la dignidad humana y los derechos fundamentales, lo que va de suyo en un Estado constitucional democrático y social de Derecho, sino en concretar qué límites se ponen desde el marco regulador a los sistemas de IA que pueden investigarse y desarrollarse. Y acertadamente los autores apuestan “por la regulación en los primeros estadios de la cadena de valor”. Iniciar ese control regulador, como defiende Alfonseca, en la cabecera del proyecto investigador se torna capital. Pero también lo es –como defendió, entre otros muchos, el profesor de Física Teórica José Ignacio Latorre- garantizar, en el marco de los principios éticos, el código abierto y, por tanto, la trazabilidad de quienes han programado tales programas.

Y, en fin, está el debate de cierre, que no es otro que el que se debería producir (y apenas se produce) en la sociedad española. Abrir un debate desde las organizaciones de la sociedad civil (debilidad intrínseca de España) que supere el enfoque actual, necesario si bien insuficiente, del mundo académico (acantonado en áreas de conocimiento o especialidades incomunicadas entre sí). Ello es muy importante en estos momentos. Sin embargo, la sociedad española, abducida por los desarrollos tecnológicos que compra y aplica sin límite ni prudencia cabal, apenas advierte en estos momentos hacia dónde vamos ni menos aún en qué puede terminar (o hacia donde se encamina) el imparable desarrollo de la IA. Afortunadamente, estamos en la UE, que protege los derechos fundamentales y las libertades públicas, pero también hay que ser consciente de que juega en un mercado globalizado del que no puede descolgarse. Este último es tal vez el flanco más débil frente a la IA.

En suma, la pregunta, como bien se hacen los propios autores, es cómo abrir un debate honesto y amplio sobre la IA, aprovechando sus efectos sin duda beneficiosos para el desarrollo económico y social, que armonice cabalmente el desarrollo tecnológico con la persona, y lo que es capital identificando y regulando sus inevitables peligro. Tal como ponen los autores en palabras de Margaret A. Boden “antes de que resulte demasiado tarde”.

Un libro, por tanto, que llama a la implicación ciudadana en este debate y del que cabe recomendar su lectura a toda persona que tenga inquietudes en torno a la IA, pero asimismo de todo aquel que quiera comprender mejor qué es y cómo puede evolucionar en los próximos tiempos esa llamada inteligencia maquinal, que en puridad no es humana ni –al menos eso creo- podrá serlo nunca, salvo que el individuo termine siendo finalmente esclavo de “su ciencia”.

ANEXO: Entrevista a Felipe Gómez-Pallete en el diario El País 9 de septiembre de 2022: https://elpais.com/tecnologia/2022-09-07/felipe-gomez-pallete-presidente-de-calidad-y-cultura-democraticas-estamos-jugando-a-ser-dios-con-la-inteligencia-artificial.html