El ministre per a la Transformació Digital i de la Funció Pública ha conversat amb Carissa Véliz, filòsofa, professora de la Universitat d’Oxford i autora de ‘Privacy Is Power’, en la I Trobada Internacional per als Drets Digitals, que se celebra a Barcelona.
“O fem alguna cosa amb les potències mitjanes o el sud global es convertirà en una pila i un arxiu que va a augmentar els comptes de cinc poderosos”, ha advertit López.
El ministre ha defensat que la discussió sobre drets digitals “no és tecnològica, sinó una discussió política de primera magnitud”.
El ministre per a la Transformació Digital i de la Funció Pública, Óscar López, ha defensat una aliança amb les potències mitjanes, “països del món que han d’estar en la definició d’una tercera via tecnològica i de construcció d’una IA confiable que ha de ser el futur”. Ho ha fet aquest dijous a Barcelona durant la I Trobada Internacional per als Drets Digitals, on ha conversat amb la professora de la Universitat d’Oxford i autora de ‘Privacy is Power’, Carissa Véliz. Junts han analitzat el present i futur de les xarxes socials i la Intel·ligència Artificial, particularment la necessitat d’una governança a nivell global.
Durant la xerrada, López ha afirmat que “el món no pot viure amb la respiració assistida després de conèixer que una IA ha descobert les vulnerabilitats del sistema financer”. “Estic convençut que, o fem alguna cosa amb les potències mitjanes, o el sud global es convertirà en una pila i un arxiu que augmentarà els comptes milionaris de cinc poderosos”.
El ministre creu que la discussió sobre els drets digitals “no és una discussió tecnològica, sinó una discussió política de primera magnitud”. “Estem discutint sobre sobirania. Som aquí per debatre sobre democràcia i drets. Han d’existir drets digitals, sí o no? Qui els ha de definir i governar?”, s’ha preguntat. En aquest sentit, López ha remarcat que “Espanya està sent una veu forta” sobre la necessitat d’una regulació de la IA i de les xarxes.
El ministre ha assegurat que la conversa versa sobre “un poder en molt poques mans que està definint el model energètic del futur, l’educació, la defensa o la privacitat de les dades”. “Si no fos una qüestió política, si no fos una qüestió de poder, tots els usuaris espanyols d’una xarxa de missatgeria no haurien rebut un missatge del duel d’aquesta xarxa contra el president del Govern”, ha explicat. “Estic aquí per defensar un model fiable, on no es posi en risc la democràcia, la transició ecològica, la salut dels nostres fills i filles i la seguretat nacional. No va només de regulació, va de moltes coses més”, ha insistit.
“Els que treballem en la governança del model d’IA, com més coneixem, més ens radicalitzem en la consciència que anem tard”, ha prosseguit López, qui creu que es tracta d’una qüestió completament civilitzatòria”. Fent una analogia amb la crisi financera del 2008 i com la desregulació va fer que “se n’anessin de les mans” els productes financers, el ministre ha demanat “no arribar tard”. “Jo no vull que, en el futur, quan hi hagi judicis sobre el que va passar amb les xarxes i la IA, apareguin enginyers dient que també se’ls va anar de les mans”, ha afirmat, recordant que “la regulació bancària no ha anat en contra de la seva competitivitat” i que “amb la IA pot passar el mateix”.
Per això, ha assegurat que “hi ha molt a fer” a nivell internacional i europeu, però que Espanya està avançant amb iniciatives com la Cartera de Drets Digitals, l’Observatorio de Derechos Digitales, la llei que estableix una majoria d’edat en l’ús de les xarxes o l’impuls del reglament europeu d’IA, on el Govern ha aconseguit que s’inclogui la prohibició de sistemes que permeten ‘deepfakes’ sexuals. “Estem fent passos en regulació i innovació. No es tracta només de posar normes, sinó d’invertir per crear eines ètiques i construir, no el model d’IA més ràpid ni el més barat, sinó el més confiable. Espanya va a lluitar en tots els fronts perquè això siga així”, ha agregat.
López ha posat el focus també en la importància d’implementar “elements que permetin tenir aquesta sobirania” i ha recordat que el Govern ha destinat més de 30.000 milions d’euros en fàbriques de xips i semiconductors, en empreses capdavanteres en matèria de comprensió de models de llenguatge d’IA, o en “inundar” les universitats espanyoles de càtedres d’IA, ciberseguretat i de gestió de dades.
A més, ha recordat que Espanya està actuant en altres fronts, com la regulació de la construcció dels centres de dades, amb un decret aprovat recentment en el qual “s’estableix la seva sostenibilitat i es combat l’especulació”. També ha destacat l’aposta per la supercomputació, l’entrada de capital públic en pimes capdavanteres mundialment en IA “per fixar-les a territori i que no siguin absorbides per grans tecnològiques; i ha assegurat que el país comptarà amb una de les primeres gigafactories d’Europa. “Coneixem els riscos i estem actuant. La direcció i la vocació està clara”, ha asseverat.
En aquest sentit, López ha recordat que l’objectiu que va establir el president del Govern va ser “fer amb la transformació digital el que hem fet amb la transformació energètica, on Espanya és líder mundial en energies renovables i a crear una indústria el model energètic de la qual s’exporta a mig món”.
Impacte de la IA predictiva
Per la seva banda, la filòsofa Carissa Véliz ha alertat sobre el paper de les prediccions tecnològiques en la presa de decisions: “Obeïm les prediccions com a ordres camuflades i el que fem és no qüestionar sinó obeir”. En aquest sentit, ha criticat les visions apocalíptiques promogudes per alguns actors del sector tecnològic, a qui ha acusat de “vendre una idea de futur en la qual ells mateixos es presenten com a salvadors”. Véliz ha afirmat la manera que s’ha dissenyat la IA “a través de machine learning implica aprendre del passat, per això és tan sexista i racista, però també sabem que hi ha una part del futur que no es basa en el passat”.
La trobada ha servit per posar sobre la taula la urgència d’abordar la intel·ligència artificial des d’una perspectiva ètica, política i social, evitant tant el tecnopesimisme com la visió ingènua. En paraules del ministre, “coneixem els riscos i estem actuant”, mentre que Véliz ha conclòs amb la importància d’estar “en el costat correcte de la història, no plantejar-te si vas a guanyar o no” concloent el seu discurs amb una crida a l’acció: “Si som valents ara, podrem canviar el rumb i construir un futur millor”.
Véliz ha coincidit amb Óscar López en valorar que “avui no lliurem una batalla tecnològica, sinó de poder” i s’ha mostrat sorpresa sobre el fet que, com a societat, “estem cedint les nostres dades a les empreses menys confiables del món”.
La conversa entre Óscar López i Carissa Véliz ha tingut lloc després del discurs de benvinguda d’Enrique Goñi, president de la Fundació Hermes, que ha destacat el gran esforç realitzat per les 150 entitats que, juntament amb les 20 de l’Observatorio de Derechos Digitales, han posat el colofó a un treball de tres anys amb la cita celebrada a Barcelona.
“La nostra vida digital és indelegable”, ha sentenciat Goñi sobre el moment canviant i crucial al qual s’enfronta actualment la societat. “Si la deleguem, estem delegant la llibertat i els drets civils. La tecnologia pot ser un gat d’angora meravellós o un tigre que ens pot devorar”, ha explicat.
“La mostra del que s’està veient en aquesta Trobada és que som capaços de tot”, va dir esperançat Enrique Goñi. “El partit està obert, no s’ha jugat encara. Europa ha de jugar-lo i ho ha de fer des d’una perspectiva ètica i promovent indústria pròpia d’escala, sense complexos”.