El proper dia 13 de setembre a la Sala de Lo Sindicat de Flix tindran lloc les VII Converses de Pensament Crític amb el títol “Pensar i ser. Sapere aude en l’era del posthumanisme?”. Des de fa setmanes, companys d’En-kontr@ publiquen articles relacionats amb la seva temàtica. Primer, Rafael Haro ens va explicar el perquè d’aquest títol fixant-se sobretot en el concepte de posthumanisme i en la tecnificació progressiva de la vida humana a què al·ludeix. I, recentment, Benjamí Torné ha aprofundit en la tecnificació específica de la intel·ligència artificial generativa per palesar que aquesta és només el darrer fruit d’una concepció mecanicista de la naturalesa, d’una raó instrumental moderna que ha entès la natura en termes de càlcul i de domini i que, finalment, ha aplicat la mateixa lògica a la reproducció artificial del nostre pensament; això sí amb una capacitat de gestionar dades incomparablement superior. Una intel·ligència que quedaria demostrada amb l’anomenat test de Turing: si som incapaços de distingir en una conversa les respostes d’un ésser humà i d’un programa, significa que el segon és igualment intel·ligent. I, efectivament, els programes d’intel·ligència artificial superen en la majoria dels casos aquest test i, per tant, podem afirmar des d’aquesta perspectiva que pensen.
La qüestió és si, com al·ludia Torné, aquí s’acaba tot. Si cal cedir-los d’un cop la nostra facultat de pensament vista la seva superioritat i dedicar-nos només a personalitzar les seves respostes per fer-les passar per pròpies; com, per cert, fan avui tants estudiants que han renunciat a llegir, pensar i escriure per si mateixos per resoldre les tasques que se’ls planteja a les aules fent poca cosa més que connectar-se al programa d’IA més idoni. Doncs la meva resposta és que no. I no s’acaba —o això voldria— precisament pel sapere aude del títol de les converses. Perquè no ho oblidem, la modernitat no és només aquesta racionalitat amb què hem reduït la natura a una simple suma de recursos —amb un resultat catastròfic, per cert. La modernitat és també la crida kantiana al sapere aude, a atrevir-se a saber per si mateix, fent ús d’allò que ens dicta el propi enteniment i no el que diu la religió, l’autoritat o una computadora. És a dir, la crida a ser lliures i èticament responsables i, per això, únics i irreemplaçables.
El qual traduït al nostre cas correspondria a l’experiment que va fer el 1980 John Searle per contradir el funcionalisme de Turing (recordin: si la màquina sembla intel·ligent, ho és). En canvi, per a Searle, la IA no es pot considerar intel·ligent perquè la compara amb un individu tancat en una habitació amb un manual de xinès. Nosaltres li fem la pregunta de com es diu una cosa en aquest idioma per una finestreta de l’habitació i ell ens dona la resposta correcta per una altra finestreta consultant el manual. La qüestió és si sap xinès. I la resposta és que no perquè ell no entén res! Domina les combinacions sintàctiques de l’idioma però en desconeix la semàntica —és a dir, no en sap el significat—, com tampoc té experiència subjectiva de què hi ha rere les paraules (segur que a vostès els diuen coses molt diferents mots com “pa”, “família” o “mar” segons hagin estat les seves vivències), ni molt menys en pot fer cap valoració ètica. I perquè no té aquesta consciència –és a dir perquè no té pensament crític-, no podem dir que pensi ni que sigui intel·ligent del tot. Tot i que sí que supleix la nostra intel·ligència i pensament. I aquí està el drama que veiem diàriament a les aules dels nostres instituts i universitats, però també a una quotidianitat cada cop més envaïda per una IA entrenada per semblar servicial i sempre disposada a escoltar, però que, alhora que desenvolupa de forma inimaginable moltes de les nostres capacitats, en “jibaritza” d’altres, precisament les relacionades, com deia, a pensar i fer per nosaltres mateixos.
“Si som incapaços de distingir en una conversa les respostes d’un ésser humà i d’un programa, significa que el segon és igualment intel·ligent”
Per això, des d’aquest pensament crític, des d’aquest sapere aude que la IA amenaça, cal proposar urgentment polítiques que la limitin, que aconsegueixin la governança sobre ella com demanava la carta signada el març de 2023 per algunes de les persones més significades en aquest camp com Geoffrey Hinton, premi Nobel de física per la seva contribució precisament als primers passos de la intel·ligència artificial. Una governança que ha de passar primer de tot perquè la IA sigui detectable, que els productes generats per IA especifiquin en quin percentatge ho són i a partir de quines fonts. Atès que si pretenem establir quin és el seu bon ús —que el té—, cal primer de tot que l’eina no es confongui amb qui l’usa perquè aleshores no queda clar qui està al servei de qui: qui és l’humà maquinitzat i qui la màquina humanitzada.
Però no només cal que la IA deixi empremtes que la delatin. Per citar-ne només algunes, segurament també són fonamentals polítiques públiques que assegurin la transparència i el control dels seus programaris —no sigui que, com succeeix amb els cercadors informàtics, ens passin per alt algoritmes que propicien bombolles ideològiques. Així com, òbviament, és imprescindible la limitació del seu ús en el camp educatiu per assegurar que no es perdi definitivament la diferència entre un aprenentatge significatiu, el que consisteix en interioritzar coneixements que enriqueixen l’experiència, per un de merament repetitiu. Igualment, caldria tenir en compte la seva afectació en el món laboral obligant a les empreses d’IA a cotitzar a la seguretat social de forma proporcional als llocs de treball que destrueixen. I així totes les mesures que convenim per preservar aquesta singularitat humana.
Unes mesures que, de segur, no són fàcils d’emprendre. Entre altres raons perquè, com diu Torné, ens caldria desprendre’ns d’aquesta lògica que ho jutja tot d’acord amb la seva utilitat i la pulsió de domini. Però, de la mateixa manera que hem assumit des de fa dècades que cal posar límits ecològics al desenvolupament tecnològic, per exemple restringint les emissions de CO2, potser ha arribat el moment que acceptem d’una vegada per totes que també cal restringir humanament tecnologies com la IA. I fer-ho en nom d’aquest sapere aude com la clau de volta del millor de la Il·lustració. No dic que no sigui debades com, justament, succeeix amb un escalfament del planeta que no para d’accelerar-se mentre celebrem any rere any conferències internacionals sobre el canvi climàtic. Per no parlar de les guerres, que sembla que cada dia s’incrementen en nombre i brutalitat, malgrat segles de denúncies. Però això no ens pot fer tancar els ulls davant d’un dilema més ampli que la IA ha renovat —i si volen, ha fet encara més peremptori—: posem d’un cop sense manies l’ètica i la política al servei de la instrumentalitat o bé supeditem aquesta darrera a la moral del que queda d’una humanitat malmesa fins i tot en allò que creiem més propi d’ella.
I de tot això parlarem el proper 13 de setembre a Flix amb plantejaments, segur, més interessants que el que acabo d’exposar. De debò estan disposats a perdre-s’ho?
