Aquest estiu, tal com ha anat, m’ha deixat trasbalsat, a mi i a tothom amb qui n’he parlat: calorades fora mida i una xardor insuportable, oratges asfixiants violents, amb turbulències que semblaven el samum dels deserts, l’aigua del mar a temperatures persistentment per damunt dels trenta graus centígrads, un enfilall de nits tòrrides i tropicals que ha acabat escrivint-se amb un nombre de tres xifres, una sequera obstinada, inalterable davant l’embat de patacs de pluja que han causat devastació allà on han caigut, pedregades, mànegues, caps de fibló i…, quan no era això, un sol roent que escalivava els caps i que, amb la cooperació dels vents i de la negligència dels humans, feia extremament difícil apagar els focs que s’han anat encenent arreu amb un potencial de devastació desbocat. I enmig de tot això, un munt d’amenitats per tenir entretingut el personal, moltes de naturalesa política, estratègica i econòmica, d’altres de naturalesa catastròfica… I entre totes, l’eclipsi de sol del 12 d’agost… Quina meravella, l’eclipsi, i quina extraordinària oportunitat per a l’admiració de la natura per als qui, sense moure’ns del lloc, hem tingut l’oportunitat de ser testimonis d’aquesta emotiva dansa dels astres.
Bé, doncs, després d’aquest període en què el debat persistent ha estat la inevitabilitat d’un canvi climàtic que ens empeny a un desastre de conseqüències apocalíptiques, ens trobem que se’ns obre un debat complementari sobre l’anunci, igualment apocalíptic, que aquest invent que la humana intel·ligència, amb la seva perspicàcia habitual a l’hora de fer caixa, ha anomenat intel·ligència artificial extingirà la humanitat abans d’una dècada. L’Harmagedon ja té data, i, com era previsible, ja no són els àngels inspiradors de les escriptures sagrades els qui anuncien aquest pas previ a la segona vinguda amb què es culminarà, amb una gran batalla contra les forces del mal, l’epopeia de la lluita entre àngels i dimonis de què parlen els escrits més antics de la humanitat quan intenten descriure, basant-se en un cúmul de tradicions rebudes oralment, què va passar abans del sorgiment de les humanes civilitzacions. El poema d’Erra, que és una mostra extraordinària d’aquells relats que explicaven probablement la caiguda dels antics deus en el moment del sorgiment dels primers nuclis de civilització en què el poder necessitava unificar creences i jerarquies divinals per mitjà d’una estructura religiosa afí que garantís l’ordre, la supeditació social i la governabilitat en una societat de privilegis, va tenir un èxit que avui se’ns fa difícil d’expressar perquè els paràmetres del mercat editorial no són comparables; però, l’expressió més propera, salvant les distàncies, seria dir que fou un best-seller, fins a l’extrem que l’impacte social del poema va persistir en el temps i que fins es van fer penjolls d’argila amb frases del poema per emprar-los com a guarniment protector i talismà. L’epopeia d’Erra va passar, segons acrediten els experts, a la Bíblia amb una literalitat sorprenent, al Llibre d’Ezequiel.1
Si arrenquem d’aquelles lluites primigènies entre dues categories d’éssers prehumans i extraordinàriament poderosos, ja siguin àngels i dimonis o gegants i titans o qualsevol de les variables que ens n’ofereixen relats de construccions cosmogòniques diferents de la tradició semítica i mediterrània, i les contrastem amb els relats profètics sobre la fi del món, veiem –ho dic amb una cautela molt prudent, i n’adverteixo el lector, perquè no en soc un expert– que els relats apocalíptics volen donar conclusió als relats d’aquella lluita protohistòrica que, al llarg de segles de desenvolupament de les religions, s’ha interpretat, si més no en sentit al·legòric però també per a determinades confessions en sentit real, com la lluita entre el bé i el mal. Els moments inicial i final d’aquesta lluita titànica, entre éssers de naturalesa sobrehumana, emmarquen la història de la humanitat, que passa a integrar-se com a part substancial d’aquest conflicte, alhora que el conflicte estableix el marc mental en el qual, si més no des de la dimensió religiosa, s’ha explicat el periple de l’home sobre la terra. (Vull remarcar, aquí, que la dimensió religiosa no es limita exclusivament a la convicció religiosa, sinó que impregna pràcticament totes les construccions conceptuals generades per les diferents societats humanes que arrenquen de la dinàmica civilitzadora que es configura amb les primigènies societats agrícoles; perquè és, crec, un marc mental del qual difícilment podrien evadir-se aquelles conceptualitzacions socials i culturals que es pretenen no religioses.) Seguint el fil d’aquesta disquisició podem preguntar-nos quin pot ser el paper de la història humana en el si del relat èpic que la comprèn, i, a banda d’altres respostes més sàvies i més meditades, se m’acut que hi podria tenir la funció de facilitador, de medi necessari per a la transició entre el moment original, aquell que participa de l’impuls creacional, i el moment final, aquell que precedeix de manera immediata la culminació dels temps, allò que en la terminologia cristiana és la parusia, però que té equivalents en altres sistemes de creences com a culminació sublim del temps escatològic amb el triomf de les forces del bé. Dit altrament, la intervenció de la humanitat consistiria en ser partícips causants del cataclisme, de la Gran Tribulació.
Aquest marc mental ha afavorit la convicció, fortament arrelada i acreditada per la història, que l’espècie humana té una clara vocació d’autodestrucció i una enorme capacitat de consumar-la. Els referents literaris i artístics, així com altres fonts documentals molt diverses acrediten la persistència d’aquest convenciment en moments crítics que han estat viscuts com a preludi de la fi dels temps, des de la caiguda d’imperis poderosos i les grans invasions, fins a les pestes que han assolat gran part del món, o les grans guerres en època recent, a partir de les quals es va instal·lar el sentiment d’amenaça en estat larvari, permanentment a punt d’eclosionar, que introdueix en aquell marc mental original una variant contemporània Així, a diferència d’altres èpoques, en què calien fets de gran magnitud, acompanyats d’algun daltabaix complementari, com ara la malaltia, la destrucció, la fam, la misèria…, en l’època contemporània el sentiment de l’amenaça apocalíptica s’ha instal·lat en un context de benestar social, sinó general, sí força evident com a constituent del model de les societats desenvolupades occidentals. L’amenaça atòmica, la deforestació i la desertització, l’exhauriment dels recursos naturals, el superpoblament, l’acumulació de deixalles, el canvi climàtic, com a evidències constatables, han anat acompanyades d’altres amenaces suposades que han trobat, en la por, un terreny molt permeable per penetrar en l’ànim de la societat humana. I hi han fet forat, malgrat el desenvolupament tecnològic i científic, malgrat el sentiment de cooperació i entesa acreditat per la formació de nombrosos organismes internacionals dedicats específicament a la resolució de problemes i al benestar dels ciutadans. A desgrat de totes les barreres interposades per protegir-nos de vulnerabilitats prou tipificades, hem hagut d’instal·lar la nostra existència en la provisionalitat i en el temor, i, alhora, hem carregat amb un sentiment de culpa universal: el nostre estil de vida és insostenible; un món tan desigual, tan asimètric, tan desequilibrat en el reconeixement de drets i en el repartiment d’obligacions i càrregues, va de cap al precipici. Els interessos que abans atiaven la por i la culpa, ara atien també la irreversibilitat del mal que ens ha d’exterminar, la fatalitat del mal. De manera que s’ha instal·lat en l’ànim general el sentiment d’indefensió contra un pronòstic fatal alimentat per aquella nostra vocació autodestructiva. A diferència del passat, no ens serveixen els grans moviments expiatoris, els grans moviments de contrició i penitència, ni el propòsit d’esmena. I tanmateix, tot i que es pugui argumentar amb fonament que el nostre sistema de vida no ens eximeix de responsabilitat personal en els grans problemes que posen en crisi els nostres models de desenvolupament i la supervivència de les nostres societats, ens hem carregat a l’esquena un escreix de responsabilitat que no ens pertoca com a individus ni com a grup. El fracàs redundant dels acords de les grans cimeres sobre el clima, per posar-ne un exemple, no és una responsabilitat que hàgim d’assumir els ciutadans, per molt que ens conformem a un sistema de vida que no gosa prescindir dels combustibles fòssils ni procurar la descarbonització total del sistema productiu industrial. El fracàs prové del fet que les mesures que caldria aplicar suposen el desmantellament d’un munt d’estructures productives que proporcionen beneficis enormes a nuclis de poder que tenen nom i cognoms. Això no obstant, acceptem que les responsabilitats dels qui tenen el poder d’aplicar les correccions necessàries es dilueixin en un sentiment de culpa col·lectiva que els permet refugiar-se en l’anonimat per continuar enriquint-se, siguin persones, grans societats, o Estats.
Ara, doncs, pel que es veu, hem d’incorporar a aquesta nostra predisposició a la credibilitat profètica apocalíptica l’amenaça de la IA (la impròpiament anomenada “intel·ligència” i impròpiament anomenada “artificial”, atès que sembla que ens la volen fer imaginar com a dotada de voluntat pròpia). I potser sí, que, a força de fantasiejar i de crear móns virtuals propers al paradigma Marvel en la seva versió més catastrofista, ens la imaginem robotitzada i convertida en una mena d’humanoide díscol i desagraït, decidit a la revolta contra la intel·ligència que l’ha creat i capaç de dissenyar un complot per a l’exterminació de l’espècie humana. La idea, prou que ho sabem, és engrescadora des de la perspectiva literària i cinematogràfica. Però, si ens ajustem a la realitat, tot és una mica més prosaic, menys èpic. Per molt que la pensem “humanitzada”, la intel·ligència artificial és una invenció industrial, molt sofistacada o potser no tant, que treballa amb uns algoritmes que li permeten fer amb una certa eficàcia, desigual segons a què s’apliqui, determinades tasques subordinades a les necessitats d’una societat. Quan la IA fa allò que no estava previst que fes, és perquè qui n’ha fet el disseny ha comès un error. I doncs, què cal fer? Esmenar-lo en el punt en què s’ha produït, perquè una màquina que no fa el que ha de fer és una màquina que no funciona com ha de funcionar. Els responsables dels nyaps, però, compromesos en campanyes de màrqueting multibilionàries, aprofiten l’imaginari que han creat i el marc mental en què estem instal·lats, i utilitzen els errors que cometen per alimentar l’imaginari col·lectiu al servei de la mitificació del producte. Si un automòbil d’aquells tan sofisticats que no necessiten conductor, de cop i volta es posa a circular a 300 quilòmetres per hora en una carretera comarcal, tindrem molt clar que no funciona bé i que cal reparar-lo; ni ens passarà pel cap, per molt que el seu “cervell” incorpori IA, la possibilitat que hagi decidit posar-se en contacte amb altres automòbils per batre un rècord de conducció temerària. Per tant, això que ens han explicat que determinat programa ha trobat un forat per on s’ha colat per contactar amb altres programaris i prendre iniciatives no previstes, dit amb paraules planeres, és un nyap dels programadors i desenvolupadors, un error o un munt d’errors i de decisions equivocades que cal reparar o reconduir. No és cap demostració sorprenent d’intel·ligència autònoma de la IA; es tracta simplement d’un mal funcionament de l’invent. Però, és clar, dit així, la imatge d’una IA totpoderosa i invencible –i això és el que “no” és tot i que volen que no es noti– hauria de ser substituïda per la d’una IA imperfecta, limitada i sensible als errors de disseny –i això és el que “sí” que és i que també volen que no es noti.
I ara ens alerten que, de resultes de la IA, la humanitat té els dies comptats. Segurament algú ha oblidat on hi ha l’interruptor –o cadascun dels diversos interruptors– que tanca el sistema.
Si la profecia apocalíptica es compleix, no serà a causa de la IA sinó de la incompetència dels qui l’han desenvolupada. I allà on dic “incompetència” poseu-hi estupidesa, ambició, inconsciència, irresponsabilitat…, que són, aquestess sí, amenaces molt més reals que la suposada voluntat pròpia de la IA, sobre la qual, sigui dit de passada, em permeto augurar un futur molt esperançador, quan haurem après a utilitzar-la i sempre que aconseguim sostreure-la de les mans que volen retenir-la per a l’enriquiment propi (parlo de diners i, sobretot, de poder), i que se’n pugui aconseguir un funcionament sostenible. Si la IA persisteix i creix com a amenaça serà perquè algú valora la rendibilitat per damunt de la utilitat.
És evident que la creació, el desenvolupament i la introducció de la IA en els nombrosos processos en què es pugui aplicar no serà un fet innocu socialment. Causarà disfuncions que caldrà administrar correctament amb la perspectiva del bé comú i de la preservació dels drets de les persones, retardant i compassant de manera adient el procés perquè els mals que se’n derivin siguin controlables. I és en això, que haurien d’estar treballant els Estats i les institucions internacionals de tot tipus. Ens caldrà pagar un preu per aconseguir d’integrar-la harmònicament en els nostres sistemes productius i de gestió. I potser les grans corporacions, més que els ciutadans pedestres, i els Estats i les institucions i els mercats de valor i les indústries estan disposats a pagar un preu molt alt, si el benefici que els reporta ho justifica… Però ningú, absolutament ningú estarà disposat a pagar el preu de l’extinció de les societats humanes i de l’espècie. Si la IA, com sembla que ens volen deixar creure, campa per les seves i comença a fer malvestats, les farà indiscriminadament, de manera que afectaran els interessos del mercat de valors, del sistema sanitari, dels semàfors d’alguna gran ciutat, de la circulació de trens i avions, i un munt de coses més, de magnituds diferents, que seran cadascuna per si mateixa suficients per a l’aturada i la correcció. I per tant, l’aturada estratègica i la revisió dels protocols de funcionament, si no ve d’una revolució, vindrà per iniciativa d’aquells que hi estaran perdent quantitats escandalosament altes de diners i acumulant un nombre insuportable de problemes.
A la IA, com a tot allò que és artificial, i “artificial” significa “que és producte de l’activitat humana”, se li suposa una finalitat, i el dia que deixi de complir aquesta finalitat o hi vagi en contra dels interessos que la promouen, deixarà d’existir, i ho farà d’avui per demà, passi el que passi i peti qui peti.
Nosaltres, pobrissons, persones vulgars i anodines, ens hi juguem l’existència (no oblidem, però, que hi ha qui vol tenir-nos permanentment espantats, acoquinats, acovardits, amenaçats, subordinats i culpables); recordeu, però, que el dia hipotètic que la IA perjudiqui els interessos dels qui la promouen i deixi de ser rendible en riquesa i en poder, aquell dia, algú activarà el botó de desconnexió. La IA no és, per se, cap amenaça, sinó un instrument al servei d’un munt de coses bones, que cal regular, evidentment, encara que per regular-les calgui, i això sí que és urgent, arrabassar poder i beneficis als qui la promouen; i si no s’hi conformen, que pleguin. I si no pleguen, ens tocarà a nosaltres, consumidors pobrets i desgraciats, fer-los fora, perquè nosaltres sí sabem on és l’interruptor que la inutilitza, encara que comporti desconnectar-nos d’un munt de coses intranscendents en oposició a la fi de la humanitat. I si deixem de ser-ne usuaris, al preu que calgui, s’estroncarà el fluix de capital que proporcionem als qui la volen imposar imperfecta i descontrolada a qualsevol preu mentre els reporti poder i beneficis. Perquè, si més no en això, l’objectiu de la por apocalíptica som nosaltres, perquè ens volen sotmesos, però alhora som també nosaltres el qui paguem el “gasto”.
Josep A. Vidal
Notes
- Bodi, Daniel: The Book of Ezekiel and the Poem of Erra, Universitätsverlag Freiburg Schweiz, Vandenhoeck & Ruprecht Göttingen. Col.: Orbis Biblicus et Orientalis, 104. 1994.