Una intel·ligència artificial (IA) competitiva, però segura. Aquest és l'objectiu de la Comissió Europea que ha presentat recentment el seu primer marc jurídic per convertir Europa en el centre mundial d'una IA "digna de confiança". L'ambició és aconseguir l'equilibri entre la protecció dels ciutadans i de les empreses i adaptar el continent a la nova era digital en què aquesta tecnologia dibuixarà la manera en què les persones viuran i treballaran en el futur.
"La IA és una oportunitat fantàstica per a Europa. Els nostres ciutadans es mereixen tecnologies en què puguin confiar. Les noves normes se sostenen sobre estàndards alts", va celebrar Ursula von der Leyen, presidenta de l'executiu comunitari. La transformació digital és, juntament amb la transició ecològica, la columna vertebral del Fons de Recuperació Europeu, conegut també com a Next Generation EU. Al voltant de 134.000 milions d'euros, el 20 % dels 750.000 milions d'euros d'aquest pla, aniran destinats a promoure les inversions en matèria digital. A més, la Comissió preveu invertir 1.000 milions d'euros anuals al desenvolupament de la IA al voltant dels seus programes Europa Digital i Horitzó Europa. Per la seva banda, el Pla de Recuperació, Transformació i Resiliència espanyol (PRTR) presentat recentment contempla 500 milions d'euros per a l'estratègia nacional d'IA.
La clau de la proposta és la prohibició dels sistemes d'identificació biomètrica; és a dir, a través de l’iris de l'ull, de l'empremta digital o dels trets facials en llocs públics, amb l'excepció de causes justificades com la desaparició d'un menor o en el marc d'una investigació terrorista. "Les nostres normes, que estan pensades per al futur i que són un impuls per a la innovació, intervindran quan sigui estrictament necessari. És a dir, quan estiguin en joc la seguretat i els drets fonamentals dels ciutadans europeus", va matisar Margrethe Vestager, vicepresidenta de la Comissió Europea.
Brussel·les sosté que són molts els beneficis que aquesta tecnologia pot aportar a la societat, però no oblida els riscos que comporta en relació amb l'opacitat de molts algoritmes i la manca d'una legislació per fer-ne un ús ètic. Per això, ha revelat aquesta normativa que permetrà homologar la resposta jurídica als 27 estats membres i que evitarà una possible disrupció del mercat únic. "La IA és un mitjà, no un fi. Existeix des de fa dècades, però ha arribat a noves capacitats alimentades per la potència informàtica. Té un enorme potencial en àmbits tan diversos com la salut, el transport, l'energia, l'agricultura, el turisme o la ciberseguretat, però també comporta diversos riscos", va afirmar Thierry Breton, comissari del Mercat Interior.
Pot interessar-te: Per què les companyies que facin servir intel·ligència artificial estaran més ben posicionades en el nou escenari global
Codi de riscos
La Unió Europea (UE) prohibirà tots els sistemes considerats una amenaça per a la seguretat. La proposta divideix l'abast de la regulació en funció de quatre nivells de risc: inadmissible, alt, limitat i mínim. En el primer cas, es prohibirà l'ús de la IA que suposi un risc per a la seguretat o per als drets de les persones a través de la manipulació del comportament humà. Per exemple, joguines amb veu que incitin els menors a males praxis.
Serà considerada com a alt risc la IA que pugui suposar un perill a les àrees d'infraestructures crítiques com el transport, el sector educatiu (en el cas de la puntuació d'exàmens, per exemple), l'àmbit sanitari (en operacions realitzades per robots) o en programes de contractació de persones que automatitzin l'arribada de currículums. Tots passaran per uns controls de seguretat estrictes abans d'aterrar als mercats. Els riscos limitats fan referència als productes d’interacció entre màquines i persones, com és Alexa o Siri. També els coneguts com a deepfakers hauran de deixar clar que no són reals. Els consumidors hauran de ser totalment conscients que estan tractant amb un robot.
I finalment, és risc mínim i, per tant, eludeix qualsevol regulació, la tecnologia emprada en videojocs o filtres per eliminar correus no desitjats (l'anomenat spam). El gruix dels sistemes d’IA utilitzats avui a la UE corresponen a aquesta última categoria. Les multes per incompliment d'aquesta normativa es fixen en el 6 % dels ingressos anuals de la companyia i en un màxim de 30 milions d'euros.
Pot interessar-te: La tecnologia al servei de l'empresa en la nova normalitat
Els governs nacionals han de ser els responsables de supervisar la posada en marxa de les noves normes, tot i que comptaran amb el suport d'un nou Comitè Europeu d'Intel·ligència Artificial que en facilitarà la coordinació i l’aplicació. Ara és el torn del Consell i del Parlament Europeu, que han de fixar la seva postura al respecte i arribar a un acord en els coneguts com a diàlegs a tres bandes perquè es converteixi en legislació europea.
