BLOG

 

CAMINOS DE LA INTELIGENCIA ARTIFICIAL

 

1540-1

 

“La inteligencia artificial está invadiendo silenciosamente nuestras vidas”

(José Ignacio Latorre, Ética para las máquinas, Ariel, 2019, p. 225)

“En vérité, l’idéologie libérale qui les irrigue depuis leur origine jusqu’à aujourd’hui les rend aveugles à d’autres enjeux cependant connexes. Aucune autre motif que le respect de la vie privée, ne les préoccupe”

(Éric Sadin, L’intelligence artificielle ou l’enjeu du siècle. Anatomie d’un antihumanisme radical, Éditions l’Échapée, París, 2018, p. 233)

Felipe Gómez-Pallete y Paz de Torres han escrito un libro –con prólogo de Antonio Garrigues Walker y epílogo de Fernando Gonzáles Urbaneja- que califican de divulgativo, pero que es bastante más que eso, aunque también lo sea. Muy bien escrito, con pulso narrativo mantenido y una excelente sistemática, también muy trabajada, Que los árboles no te impidan ver el bosque  (ACCD/Círculo Rojo, 2022) tiene un subtítulo (Caminos de la Inteligencia artificial) que es realmente el objeto de la monografía, pues se ocupa “de uno de los fenómenos más complejos e influyentes de nuestro tiempo, la así llamada inteligencia artificial” (IA), e intenta desbrozar para el lector profano cuáles son los inciertos senderos por lo que tal noción, tan popular y desconocida al mismo tiempo, podrá transitar.

Arrancan los autores de las dificultades que comporta acotar qué sea realmente la IA, cuando –como bien dicen- ni aún hemos conseguido el consenso científico necesario para definir qué es la inteligencia humana. En verdad, con la noción IA lo que se pretende es, al fin y a la postre, imitar lo humano e incluso superarlo, llegando a ese estadio en el que las máquinas vayan más lejos de lo que hacemos las personas y abriendo esa todavía incierta etapa del transhumanismo, tan bien estudiada en sus múltiples incertidumbres y consecuencias por Luc Ferry cuando trata los problemas éticos, jurídicos y sociales del perfeccionamiento humano a través de la ciencia y la tecnología (La revolución transhumanista, Alianza, 2017), donde ya anuncia –como hacen también los autores-  sobre el posible crecimiento de la desigualdad social que esa concepción aumentada puede implicar. Las palabras de Ferry enlazan perfectamente con la obra reseñada: “Aunque estuviéramos convencidos que la IA fuerte solo es una utopía, la IA débil, que ahora supera, y de muy lejos, algunas capacidades intelectuales de los simples mortales, no deja de plantear problemas muy reales”.

Con el objetivo de acotar qué es y en qué se plasma (y en qué se podrá tal vez plasmar en el futuro) eso que denominamos como IA, los autores se acompañan de muy buenos guías intelectuales, tanto de Margaret A. Boden como de Éric Sadin, así como de Ramón López de Mántaras y Manuel Alfonseca, entre otros muchos. 

De la concepción filosófica de Sadin, toman las tres características de la era antropomórfica de la técnica en la que nos hallamos: 1) El antropomorfismo aumentado; 2) El antropomorfismo parcelario; y 3) El antropomorfismo emprendedor. Las inquietudes que abre ese escenario de sustitución, superador del actual enfoque de complemento, no abandona nunca el hilo de reflexión de este sugerente y estimulante libro que aquí se comenta, en cuyo capítulo final (“Implicaciones sociales de la IA”) muestran su verdadera apuesta por que “el desarrollo tecnológico es una creación social” y, por tanto, “no es neutral en modo alguno”. Un discurso y una tesis que atraviesa todo el desarrollo argumental de su trabajo, huyendo de las concepciones deterministas que, con cínica neutralidad aparente, se invocan tan a menudo como argumento legitimador de la IA.  

Si algo cabe resaltar sobremanera de este libro es su claridad sistemática y conceptual. Digna de aplauso. Los autores abordan cuáles son los motores tecnológicos de la  IA, resumiéndolos en cuatro: hardware, software, big data y robótica. Como bien dicen, “nada nuevo bajo el sol”; ya que, además, la IA “es sobre todo la manifestación de una ancestral pulsión humana: la que nos mueve a crear seres a nuestra imagen y semejanza”, que “nos ayuden tanto a superar nuestras propias limitaciones (…) como a deshacernos de trabajos que impliquen monotonía o peligro”. En fin, la IA, concluyen, es la cara moderna “de un impulso atávico”. Se puede ver como mejora (que lo es), pero también como perfección (que lo pretende) o incluso como sustitución (a la que algunos aspiran).

En efecto, tras un sugerente repaso de cuáles son los actores institucionales que interactúan en la IA, De Torres y Gómez-Pallete se adentran en el estimulante ámbito de las dimensiones de la IA y de sus mapas mentales, concluyendo que la IA debe analizarse en su relación con los procesos de decisión a través del siguiente continuum: ayuda, inducción, decisión y actuación; dado que se trata de un “espectro que va desde la IA como mero facilitador, apoyo o soporte de la acción humana hasta la IA como prótesis de nuestra soberanía”, que podría incluso alcanzar “nuestra autoexpulsión, irrelevancia” o, incluso, prescindir de nosotros mismos, lo que los autores califican como prescindencia, a la que dedican unas importantes reflexiones epilogares. Todo ello levanta sospechas evidentes a quienes escriben, pues efectivamente se advierte un “empeño adanista por presentar a la IA como un fenómeno disruptivo”, cuyos efectos finales aún están plagados de sombras e incógnitas.

Y en este punto la claridad estructural del discurso ayuda al lector a comprender los plurales efectos que cosa tan ambigua aún como la IA pueda llegar a producir en nuestras sociedades y, especialmente, a las personas. La superación radical de ese mundo analógico para llegar al paraíso artificial, tras una transición más o menos larga (según quien opine) de profundización digital en las tecnologías disruptivas, está, sin embargo, empedrada de innumerables sombras.

Los apóstoles de la singularidad apuestan por una IA aumentada (mayor o superior que la inteligencia humana, IH). Hay, en cambio, quienes más prudentemente se mueven en que IA y IH son diferentes, lo que no implica que puedan ser complementarias (IH + IA), cooperen y sumen esfuerzos. Mientras que hay, por último, opiniones que abogan por una IA que siempre será menor  o inferior a la IH. Las diferencias descritas los autores las sintetizan en cuatro grandes posturas: a) Superación; b) Hibridación; c) Semejanza; y d) Completitud.

Pero, quizás, dónde los retos de la IA se plantean de modo más crudo es, por un lado, en el déficit innegable de regulación (el Derecho, desgraciadamente, va siempre por detrás de la realidad) que hoy en día existe, tanto en la UE como especialmente en España; por otro, en los complejos aspectos éticos que se plantean en torno al desarrollo imparable y acelerado de la IA, que deberían ser abordados a partir de un enfoque de riesgos preventivo desde el diseño a su aplicación, como obligación del investigador y, en su caso, de la empresa que comercialice tales programas, debiendo contrastar sus actuaciones y previsibles resultados a través de comités de ética (al igual que sucede en la biomedicina); y, en fin, en lo que los autores tratan con especial atención como son “las implicaciones sociales de la IA”, donde contraponen, una vez más, la visión del determinismo tecnológico frente a la apuesta del constructivismo social, que defienden lúcidamente.

Partiendo de ese esquema dicotómico, la obra se cierra con unas sucintas reflexiones sobre las que giran los debates entre determinismo y constructivismo social ante la evolución de la tecnología, como son los siguientes:

En primer lugar, el debate de la inteligencia, que abre, sin duda, la incógnita de hasta qué punto el progreso de la IA no conllevará el debilitamiento de las capacidades físicas y mentales del ser humano, lo cual ya fue advertido en su día por el neurocientífico italiano Lamberto Maffei.

El segundo debate es el de la presencia, que conlleva la inquietud y el temor a que el propio ser humano sea finalmente expulsado de sí mismo, lo que podría conducir a la irrelevancia e incluso –como antes advertíamos- a abrir de par en par “las puertas a una nueva desigualdad entre las personas”

En tercer lugar está el debate –del que algo ya se ha dicho- de la regulación. No basta con decir que la IA respete la dignidad humana y los derechos fundamentales, lo que va de suyo en un Estado constitucional democrático y social de Derecho, sino en concretar qué límites se ponen desde el marco regulador a los sistemas de IA que pueden investigarse y desarrollarse. Y acertadamente los autores apuestan “por la regulación en los primeros estadios de la cadena de valor”. Iniciar ese control regulador, como defiende Alfonseca, en la cabecera del proyecto investigador se torna capital. Pero también lo es –como defendió, entre otros muchos, el profesor de Física Teórica José Ignacio Latorre- garantizar, en el marco de los principios éticos, el código abierto y, por tanto, la trazabilidad de quienes han programado tales programas.

Y, en fin, está el debate de cierre, que no es otro que el que se debería producir (y apenas se produce) en la sociedad española. Abrir un debate desde las organizaciones de la sociedad civil (debilidad intrínseca de España) que supere el enfoque actual, necesario si bien insuficiente, del mundo académico (acantonado en áreas de conocimiento o especialidades incomunicadas entre sí). Ello es muy importante en estos momentos. Sin embargo, la sociedad española, abducida por los desarrollos tecnológicos que compra y aplica sin límite ni prudencia cabal, apenas advierte en estos momentos hacia dónde vamos ni menos aún en qué puede terminar (o hacia donde se encamina) el imparable desarrollo de la IA. Afortunadamente, estamos en la UE, que protege los derechos fundamentales y las libertades públicas, pero también hay que ser consciente de que juega en un mercado globalizado del que no puede descolgarse. Este último es tal vez el flanco más débil frente a la IA.

En suma, la pregunta, como bien se hacen los propios autores, es cómo abrir un debate honesto y amplio sobre la IA, aprovechando sus efectos sin duda beneficiosos para el desarrollo económico y social, que armonice cabalmente el desarrollo tecnológico con la persona, y lo que es capital identificando y regulando sus inevitables peligro. Tal como ponen los autores en palabras de Margaret A. Boden “antes de que resulte demasiado tarde”.

Un libro, por tanto, que llama a la implicación ciudadana en este debate y del que cabe recomendar su lectura a toda persona que tenga inquietudes en torno a la IA, pero asimismo de todo aquel que quiera comprender mejor qué es y cómo puede evolucionar en los próximos tiempos esa llamada inteligencia maquinal, que en puridad no es humana ni –al menos eso creo- podrá serlo nunca, salvo que el individuo termine siendo finalmente esclavo de “su ciencia”.

 

ANEXO: Entrevista a Felipe Gómez-Pallete en el diario El País 9 de septiembre de 2022: https://elpais.com/tecnologia/2022-09-07/felipe-gomez-pallete-presidente-de-calidad-y-cultura-democraticas-estamos-jugando-a-ser-dios-con-la-inteligencia-artificial.html

15 comentarios

  1. Llevo tiempo reflexionando sobre las obligaciones relativas al sector institucional. Me he ocupado de la extensión del control permanente que comentas en el punto dos, en un artículo publicado en CUNAL, en el 191 del Monográfico dedicado a las Leyes 39 y 40. Hay varias cuestiones abiertas, como comentas, pero es muy importante partir de que el control es obligatorio y hay que establecerlo. Ante la inminente aprobación de un Reglamento que regule el desarrollo del control interno en las entidades locales, no se puede perder de vista esta obligación legal, que debería ajustarse a este marco. Aunque las normas de OOAA y EPES no son básicas, no podemos olvidar el actual mecanismo de reenvío de la LBRL, y para cerrar el sistema, si el control ha de ser homogéneo, y sobre todo si no queremos primar la constitucion de determinadas entidades por carencias en su control, todos los entes deberían estar sometidos a las mismas obligaciones. Una materia hasta ahora bastante olvidada esta del control, origen, como ha destacado nuestro TCtas de muchos abusos, que podrían evitarse, y de una inadecuada financiación de los servicios, que podríamos estar a tiempo de clarificar. Un saludo Rafael!

    Le gusta a 1 persona

  2. Absolutamente de acuerdo. Y todo el mundo sigue a pié juntillas, casi, ese criterio conjunto de la AEPD y CTBG, digo casi porque ese criterio tiene algunos memorables agujeros por donde se escurren algunos para evadir sus obligaciones.

    Me gusta

  3. Muy acertado. Los decisores siguen en babia. No son conscientes porque no leen ni escuchan. Y seguimos seleccionando, como hace 100 años, como si no hubiera ocurrido nada, dejando al margen las tecnologías de la información y otras competencias clave en el nuevo escenario. Seguimos captando a opositores, que invertirán muchos años a aprender dentro – ya pagados por un sueldo publico – lo que no incluían sus antiguos temarios, en vez de a profesionales – como si hace la Unión Europea -, y todos tan tranquilos.

    Le gusta a 3 personas

    1. Que bueno es leer estos artículos en los que se plantean los graves problemas que sufrimos los funcionarios públicos y sus consecuencias en los servicios públicos, y se explican los grandes cambios que se van a producir en las AAPP (si es que finalmente se hace) gracias a la tecnología inteligente.
      En cuanto al concepto de «trabajo abierto», particularmente no creo que deba hacerse a determinadas funciones públicas, que deberán protegerse por su función institucional o social aunque cambiando su concepción, incorporando principios de flexibilidad, movilidad y evolución de la tecnología.
      La obsolescencia del conocimiento y la dificultad en los procesos de adaptación de los funcionarios mayores, entre los que me encuentro, son una realidad pero porque el propio sistema burocrático antiguo y desfasado lo promueve. Es imposible salir de esa dinámica, el sistema y la organización no te lo permite.
      Totalmente de acuerdo en la descripción de nuestra situación y en la escasa esperanza de que realmente se produzca algún cambio. El empuje de la tecnología llevará a las AAPP a adaptarla cuando ya no quede remedio pero mientras tanto la pérdida de conocimiento por las jubilaciones masivas va a ser muy negativo para la actual organización y en definitiva para los ciudadanos.
      Es absolutamente necesario un plan estratégico pero efectivo y útil, no de los que se hacen para cubrir el expediente y contarlo en los discursos, en las webs y en las intervenciones parlamentarias. Y en ese plan deben intervenir todas las partes interesadas y estar consensuado por los partidos políticos y los gobiernos de las Comunidades Autónomas.

      Le gusta a 1 persona

  4. Evidentemente que la balanza de las pérdidas es infinitamente mayor. La política de la tasa de reposición de efectivos únicamente ha llevado al aumento de la precariedad, pues esas plazas ya existían en la administración.
    Asímismo, el legislador siempre lo hace en términos de administración del estado, olvidando a la administración local, donde la problemática es bien distinta.
    En nuestro ayuntamiento, por ejemplo, esta tasa adicional solo ha supuesto poder incluir una plaza en la oferta.

    Me gusta

  5. Su análisis es impecable pero con todos mis respetos no lo comparto. La modificación del articulo 92.3 se produjo el 31 de diciembre de 2013, hace casi 6 años. Lo que tenemos la fea costumbre de leer los boletines oficiales y de manera especial el BOEs de diciembre y agosto, meses que son un coladero para cambiar leyes, no dimos cuenta y avisamos del cambio, de sus consecuencias y posibles problemas, pero nos trataron de chiflados.

    No debemos olvidar la tanta cacareada división de poderes y su función, en caso del judicial de controlador del ejecutivo y legislativo para que no machaquen a la sociedad. El judicial, en este caso, han actuado correctamente a cumplido su función, quien no lo ha actuado acorde al artículo 103.1 de la CE ha sido todas las administraciones locales que se han saltado a la tolera el artículo 92.3, y vuelvo a repetir, durante casi 6 años.

    Ahora nos da pena la Administración, la misma que a los ciudadanos contesta a sus recurso con la archiconocida frase «El desconocimiento de la norma, no exime de su cumplemto» o «Se publicó en el BOE y es de obligado cumplimiento», pues ahora quien no ha hecho bien sus deberes ha sido la Administración y por ello debe purgar.

    Ya fuera del ámbito jurídico, le parece normal a usted que una persona durante los primeros 15 días de un mes este repartiendo patatas, los otros 15 días sea un agente de policía y luego vuelva a repatir patatas , puesto ocurre más de lo que nos creemos, que seguridad jurídica se le puede dar a los ciudadanos con ese tipo de actitudes, ninguna.Se les arma, tienen acceso a información sensible, se produce un gasto innecesario de vestuario y los más grave no ponen ningún objeción a cualquier tarea que se le ordene, porque si pregunta si el legal, cuando vuelva a necesitar a alguien no le llamaran, no podemos olvidar que cuando estén en la calle no actuaran como deberían porque ellos saben que los jefes no quieren problemas y luego ellos tienen que volver a pedir trabajo una vez que la administración no les necesita y así una mil veces, la administración encantada de la vida.

    Además, la figura del funcionario interino es coladero de familiares, amigos y conocidos en alguna administraciones locales, sobre todo en las más pequeñas, no es normal que haya personas que se hayan jubilado como funcionario interino. Recuerdo que tenemos un EBEP que prohibe que una plaza este sin un funcionario de carrera sine die.

    Creo que por una vez la sociedad ha visto que los jueces leen lo mismo que ella, que las palabras tienen en mismo significado, de lo cual me congratulo a pesar de que todos los comentarios no van en el mismo sentido.

    Todo lo indicado no afecta a la consideración que le tengo a su labor altruista que realiza en su blog, del cual soy un ferviente seguidor.

    Un saludo.

    Le gusta a 1 persona

  6. Una excelente aportación, como casi todas las suyas. Recomendable su lectura especialmente para politicos con mando y responsabilidades de gobierno. Tomen nota de estas aportaciones para transformar en positivo la Administracion pública

    Me gusta

  7. A mi modo de ver, una de las razones fundamentales de la inoperancia de nuestra Administración Pública reside en la incapacidad de la sociedad civil de «atar en corto» a los poderes públicos y por ende a las AA.PP. El régimen democrático actual español depositó una excesiva preponderancia a los partidos políticos, de modo que el vencedor en cada ronda electoral toma la Administración Pública como un botín y no como un instrumento de servicio a los ciudadanos. Las aparentes medidas en favor de éstos no son más que herramientas para el marketing electoral de la siguiente ronda. Nos faltan tradiciones en la sociedad civil para exigir cuentas a los gobernantes y una separación de poderes real que impida los usos y abusos partidistas, a diferencia de otros países de nuestro entorno. Tampoco en el momento del reciente paso de la dictadura a la democracia la sociedad civil tuvo la suficiente fuerza como para ir más allá de lo conseguido, a diferencia -por ejemplo- del caso portugués. Por eso, pienso que el origen de un futuro y prometedor cambio no hay que buscarlo tanto en reformas de las AA.PP. sino en un fortalecimiento y desarrollo de la sociedad civil.

    Le gusta a 1 persona

Deja una respuesta

Por favor, inicia sesión con uno de estos métodos para publicar tu comentario:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s