Coeckelbergh és membre de diverses entitats que donen suport a l’elaboració de polítiques públiques en l’àmbit de la intel·ligència artificial i la robòtica, com ara el Grup d’Experts d’Alt Nivell en Intel·ligència Artificial de la Comissió Europea, el Consell austríac d’Experts d’Ètica de la IA de la UNESCO, el Consell austríac de Robòtica i Intel·ligència Artificial i el Consell Assessor austríac sobre mobilitat automatitzada.
A més, és autor de nombrosos llibres, com ara ‘AI Ethics’, ‘Robot Ethics’, ‘Introduction to Philosophy of Technology’ i ‘The Political Philosophy of AI’. En aquesta entrevista, reflexiona sobre els riscos i els beneficis de la irrupció de la intel·ligència artificial per a la nostra societat i, particularment, per a l’educació.
La quarta edició del cicle ‘En clau d’Educació’ ha estat organitzada pel Consell d’Educació de Barcelona (CEMB), el Consell de la Formació Professional de Barcelona (CFPB) i l’Associació de Mestres Rosa Sensat, amb la col·laboració del Museu d’Art Contemporani de Barcelona (MACBA) i el Departament d’Educació de la Generalitat de Catalunya.
Quin creus que ha de ser el paper de la intel·ligència artificial en els centres educatius?
La intel·ligència artificial té molt de potencial, però encara necessitem temps per descobrir totes les seves possibilitats. Penso que és un error estar massa a la defensiva i creure que és una amenaça per a tot. No té sentit prohibir-la completament, allò que cal és educar la gent sobre com utilitzar-la de manera crítica. Una manera de fer-ho és formar els professors de tots els nivells, des de primària fins a la universitat, perquè disposin de les eines necessàries per fomentar aquesta educació a l’aula de manera transversal en totes les matèries. Per exemple, a classe de llengua es podria fer un experiment: s’escull un tema determinat i la meitat de la classe n’escriu un text, mentre que l’altra meitat el genera mitjançant ChatGPT. El resultat de l’exercici s’hauria de discutir de forma crítica, és el que s’ha fet amb IA un bon text? Per què? Per què no? Quins aspectes es perden quan és una màquina qui escriu?
Quan es parla dels beneficis de la intel·ligència artificial en l’educació s’assenyala que aquesta pot generar experiències d’aprenentatge personalitzades, adaptant-se a les necessitats i preferències individuals de cada alumne. Què en penses?
Amb aquesta personalització que comentes la intel·ligència artificial pot fer que l’educació sigui més atractiva per a la gent, però a la vegada, penso que és necessari tenir experiències i coneixements compartits. Hannah Arendt i els filòsofs que treballen en una tradició republicana diuen que cal compartir algunes experiències per poder discutir sobre les mateixes coses. I això pot faltar quan creem aquestes bombolles tan personalitzades. Ho veiem a les xarxes socials i pot ser un risc que es traslladi també a l’educació. Crec que part del que hauria de fer l’educació és protegir aquestes experiències comunes, mantenir, amb les millores que permeti la intel·ligència artificial, el procés d’aprenentatge conjunt.
Hem de garantir que l’ús de la intel·ligència artificial no ens fa perdre competències bàsiques que poden estar en risc, com ara l’escriptura o la retòrica
Quins són els principals riscos que creus que té la integració de la intel·ligència artificial a l’educació?
Una de les amenaces que més em preocupen és que proliferi la desinformació, que la gent es cregui tot allò que digui la intel·ligència artificial, quan aquesta pot incloure alguns fets equivocats. També m’inquieta que, com més automatitzades siguin les nostres tasques, anem perdent habilitats. Passa una cosa semblant amb la calculadora, l’hem integrat a l’educació i, en principi, això no vol dir que la gent no sàpiga fer càlculs, oi? Hem de trobar algun tipus d’equilibri amb la intel·ligència artificial: utilitzar-la a l’aula, però garantir que això no ens fa perdre competències bàsiques que poden estar en risc, com ara l’escriptura o la retòrica.
La revolució tecnològica i el desenvolupament de la intel·ligència artificial poden generar més desigualtats en l’educació?
Hi ha un risc elevat que passi, per això ens hem d’assegurar que la tecnologia sigui accessible per a tothom. Hem d’evitar que la irrupció de la intel·ligència artificial ampliï encara més la bretxa digital entre les persones joves que ja estan empoderades per les tecnologies i les que no ho estan. És molt important treballar des de les polítiques públiques per prevenir-ho.
Quina serà la relació entre educadors i la intel·ligència artificial en el futur? Penses que la intel·ligència artificial podria substituir alguns aspectes de l’ensenyament o servirà principalment com a eina de suport als docents?
Aquesta pregunta està relacionada amb la qüestió filosòfica de quina educació volem, què entenem per una bona educació? Sobre això, tinc arguments similars per a la sanitat. Crec que l’assistència sanitària no és només un tema tècnic, sinó que també compta amb un aspecte humà importantíssim. Per a una bona educació passa el mateix, segons el meu punt de vista és necessari aquest factor de tracte humà i emocional, i per això penso que mai es podrà substituir la feina d’un mestre.
I pel que fa específicament a la privacitat, quines preocupacions planteja la intel·ligència artificial?
La privacitat sempre és una preocupació, però amb les tecnologies digitals ja tenim alguna regulació al respecte. Crec que actualment des dels poders públics s’ha treballat molt per assegurar que les dades que cedim no s’utilitzen malament en contra nostra.
En les teves obres defenses que la intel·ligència artificial suposa una amenaça per a la democràcia. Per què?
La democràcia està lligada a una sèrie de valors i principis que la intel·ligència artificial pot posar en risc. El cas de la llibertat és evident i s’ha debatut molt, amb tota la vigilància i l’acumulació de les nostres dades que permet la tecnologia. Però també parlo de l’equitat i la igualtat i del perill de ser manipulat i de rebre desinformació. Des de l’antiguitat la idea republicana de la democràcia s’ha basat en una ciutadania educada: sense una base de coneixement, la democràcia no funciona. Si ens quedem en què la democràcia és només anar a votar cada un cert temps llavors poden sorgir populismes i autoritarismes, com estem veient en l’actualitat. L’educació, doncs, és realment l’element clau de la democràcia. És imprescindible continuar formant persones que siguin crítiques amb la informació que llegeixen. El repte afegit actual és que cal fer veure que les tecnologies no són políticament neutrals, que volen influir d’una manera determinada en nosaltres.
Per a una bona educació és necessari un factor de tracte humà i emocional, i per això penso que mai es podrà substituir la feina d’un mestre
Hem d’evitar carregar tota la responsabilitat d’ensenyar això sobre els docents. Cal dotar dels recursos suficients al sistema educatiu perquè faci aquest paper d’integrar d’una manera ètica la intel·ligència artificial a la societat. L’educació és la millor barrera contra l’allau de tendències autoritàries que veiem. De vegades a Occident creiem que el nostre sistema estarà allà per sempre, però la democràcia és molt vulnerable, molt feble. Per tant, la inversió en educació és una necessitat per protegir la democràcia.
La intel·ligència artificial també pot tenir un paper en la millora de la democràcia i la solució d’alguns d’aquests problemes.
Sí, pot contribuir a la deliberació, a clarificar diferents posicions en un debat i fer cristal·litzar un consens entre aquestes opinions divergents. També permet automatitzar preguntes i pot ajudar a prendre posicions entre les diferents opcions polítiques.
El Parlament Europeu ha aprovat recentment l’AiAct, la primera regulació del món sobre intel·ligència artificial, que entrarà en vigor l’any 2026. Què en penses d’aquesta llei?
Crec que és bo que per primera vegada s’hagi fet l’esforç de regular la IA d’una manera integral. En termes generals em sembla una bona llei, però hi ha un parell de qüestions que em preocupen. Una és que es fa una classificació dels recursos tecnològics en categories de risc. Em sembla una visió pragmàtica però en soc escèptic, ja que hi ha eines que poden ser categoritzades com a segures i, en un moment determinat, ser d’alt risc. Per exemple, el ChatBot sembla segur, però pot arribar a ser d’alt risc quan fomenta el suïcidi o els actes terroristes. Un altre dubte que em planteja és que no sabem quin impacte tindrà la regulació. Realment canviarà les coses o les empreses trobaran la manera d’evitar-la? Serà potser una barrera per a la innovació tecnològica? Tot això ho anirem veient quan s’implementi.
Cal fer veure que les tecnologies no són políticament neutrals, que volen influir d’una manera determinada en nosaltres
Parlem d’ètica. Creus que les grans empreses tecnològiques realment tenen en compte els problemes ètics que planteja la intel·ligència artificial?
Sí que els consideren perquè reben molta pressió sobre això. Però la pregunta per mi és: què fan al respecte? Ells volen autoregular-se o tenir una normativa no gaire restrictiva que els encaixi. No veig que ells s’esforcin gaire en introduir l’ètica, així que cal que les institucions democràtiques intervinguin en el que fan, que tinguin influència en el procés de desenvolupament tecnològic. Les grans tecnològiques tenen ara fins i tot més poder sobre nosaltres que els estats. És essencial que ens organitzem de manera que un grapat de consellers delegats no siguin els únics que prenguin totes les decisions importants sobre la tecnologia.
I com es pot fer? A través de regulacions severes per part dels estats o a través d’organismes internacionals?
Calen accions de tota mena. L’enfocament global és important perquè la intel·ligència artificial es mou arreu i no sempre es pot regular a escala nacional. Hauríem de pensar en mesures que insereixin la democràcia a les empreses tecnològiques, per fer aquestes organitzacions més transparents i obertes a la ciutadania. En el meu darrer llibre he proposat que es creï una institució permanent que pugui fer seguiment de l’evolució de la tecnologia i formular polítiques de manera immediata. També hauria d’assegurar que es genera prou informació sobre les innovacions tecnològiques i que aquest coneixement pugui arribar a tothom. Crec que hi ha molt per fer en l’àmbit institucional i, per descomptat, l’educació torna a ser una de les àrees essencials perquè, si no tens ciutadans educats, la democràcia no funciona. Si realment creiem en la democràcia, hem de treballar l’educació.
