Hiru eguneko "maratoi" elkarrizketen ostean, Kontseiluko presidentetzak eta Europako Parlamentuko negoziatzaileek behin-behineko akordioa lortu dute adimen artifizialari (AI) buruzko arau bateratuei buruzko proposamenari buruz, adimen artifizialaren legea deritzona. Arau-proiektuak Europako merkatuan jarritako eta EBn erabiltzen diren AI sistemak seguruak direla eta oinarrizko eskubideak eta EBko balioak errespetatuko dituela bermatu nahi du. Proposamen mugarri honek Europan IAren inguruko inbertsioa eta berrikuntza suspertzea du helburu.
Hau lorpen historikoa da, eta etorkizunerako mugarri itzela! Gaurko akordioak modu eraginkorrean aurre egiten dio mundu mailako erronka bati eboluzio bizkorreko ingurune teknologiko batean, gure gizarte eta ekonomien etorkizunerako funtsezko alor batean. Eta ahalegin horretan, oso oreka delikatua mantentzea lortu dugu: Europan berrikuntza eta adimen artifizialaren erabilera sustatuz, gure herritarren oinarrizko eskubideak guztiz errespetatuz.
AI ekintza bat da enblematiko EBko merkatu bakarrean IA seguru eta fidagarriaren garapena eta erabilera sustatzeko ahalmena duen legegintza-ekimena, eragile pribatu zein publikoek. Ideia nagusia IA arautzea da, azken honek gizarteari kaltea eragiteko duen gaitasunaren arabera a 'arriskuan oinarrituta' planteamendu: zenbat eta arrisku handiagoa izan, orduan eta zorrotzagoak dira arauak. Munduan mota honetako lehen lege-proposamen gisa, a ezar dezake estandar globala beste jurisdikzio batzuetan AI erregulatzeko, GDPRk egin duen bezala, eta horrela, mundu mailan teknologia-erregulaziorako Europako ikuspegia sustatzeko.
Behin-behineko akordioaren elementu nagusiak
Batzordearen hasierako proposamenarekin alderatuta, behin-behineko akordioaren elementu berri nagusiak honela laburbil daitezke:
buruzko arauak Eragin handiko helburu orokorreko AI ereduak etorkizunean arrisku sistemikoa eragin dezakeena, baita arrisku handikoan ere AI sistemak
sistema berrikusi bat gobernua EB mailan betearazteko eskumen batzuekin
zerrendaren luzapena debekuak baina erabiltzeko aukerarekin urruneko identifikazio biometrikoa espazio publikoetan legea betearazteko agintariek, bermeen menpe
eskubideak babesteko hobekuntza arrisku handiko AI sistemen inplementatzaileek a oinarrizko eskubideen eraginaren ebaluazioa AI sistema bat erabili aurretik.
Zehazkiago esanda, behin-behineko akordioak alderdi hauek jasotzen ditu:
Definizioak eta esparrua
To ziurtatu du Definizio AI sistema baten irizpide nahiko argiak eskaintzen ditu IA software sistema sinpleagoetatik bereizteko, konpromiso-akordioak ELGAk proposatutako ikuspegiarekin bat egiten du definizioa.
Behin-behineko akordioak argitzen du, halaber, araudia ez dela EBko zuzenbidearen esparrutik kanpoko eremuetan aplikatzen eta ez duela, inola ere, estatu kideen eskumenei eragin behar. segurtasun nazionala edo arlo horretako zereginak agintzen dituen edozein entitate. Gainera, AI legea ez da aplikatuko esklusiboki erabiltzen diren sistemetan militar or defentsa helburuak. Era berean, akordioak xedatzen du araudia ez litzatekeela aplikatuko helburu bakarrarekin erabiltzen diren AI sistemetan ikerketa eta berrikuntza, edo arrazoi ez-profesionalengatik AI erabiltzen duten pertsonentzat.
iragarki
AI sistemak arrisku handiko eta debekatutako AI praktika gisa sailkatzea
Konpromiso akordioak a babes-geruza horizontala, arrisku handiko sailkapena barne, oinarrizko eskubideen urraketa larriak edo bestelako arrisku esanguratsuak eragin ditzaketen AI sistemak ez direla bermatzeko. AI sistemak soilik aurkezten dira arrisku mugatua oso argiaren menpe egongo litzateke gardentasun betebeharrak, adibidez, edukia AI bidez sortutakoa dela ezagutaraztea, erabiltzaileek gehiago erabiltzeko erabakiak har ditzaten.
Sorta zabala arrisku handia AI sistemak baimenduta egongo lirateke, baina EBko merkatuan sartzeko eskakizun eta betebehar multzo baten menpe. Baldintza horiek argitu eta egokitu dituzte legebiltzarkideek, horrela gehiago izan daitezen teknikoki bideragarriazama gutxiago interesdunek bete ditzaten, adibidez, datuen kalitateari dagokionez, edo ETEek beren arrisku handiko AI sistemek baldintzak betetzen dituztela frogatzeko landu behar duten dokumentazio teknikoari dagokionez.
AI sistemak balio-kate konplexuen bidez garatzen eta banatzen direnez, konpromiso-akordioak aldaketak barne hartzen ditu argitzeko ardurak banatzeaeragile ezberdinen rolak kate horietan, bereziki AI sistemen hornitzaileak eta erabiltzaileak. Halaber, AI Legearen araberako erantzukizunen eta beste legedi batzuen arabera dauden erantzukizunen arteko erlazioa argitzen du, hala nola, EBko datuen babesa edo sektoreko legeria.
AIaren erabilera batzuetarako, arriskua hartzen da onartezina eta, beraz, sistema horiek debekatu egingo dituzte EBtik. Behin-behineko akordioak debekatu egiten du, adibidez, kognitiboa jokabidearen manipulazioa, norakoak desegiteko Interneteko edo CCTV-ko irudiak, emozioen errekonozimendua lantokian eta hezkuntza-erakundeetan, puntuazio soziala, kategorizazio biometrikoa datu sentikorrak ondorioztatzeko, hala nola sexu-orientazioa edo erlijio-sinesmenak, eta kasu batzuk polizia iragarlea norbanakoentzat.
Legea betearazteko salbuespenak
-ren berezitasunak kontuan hartuta legea betearazteko agintariak eta beren ezinbesteko lanean AI erabiltzeko gaitasuna gordetzeko beharraz, Batzordearen proposamenean hainbat aldaketa adostu ziren AI sistemak legea betearazteko helburuetarako erabiltzeari dagokionez. Dagokionaren arabera berme, aldaketa horiek datu operatibo sentikorren konfidentzialtasuna errespetatzeko beharra islatu nahi dute beren jarduerei dagokienez. Esaterako, larrialdi-prozedura bat ezarri zen, legea betearazteko agentziei arrisku handiko AI tresna bat ezartzea ahalbidetzen diena. adostasunaren ebaluazioa urgentziazko kasuan prozedura. Hala ere, hori bermatzeko mekanismo espezifiko bat ere ezarri da oinarrizko eskubideak nahikoa babestuta egongo da AI sistemen balizko erabilera okerren aurrean.
Gainera, denbora errealeko erabilerari dagokionez urruneko identifikazio biometrikoa sistemak publikoki irisgarriak diren espazioetan, behin-behineko akordioak argitzen ditu zeintzuk diren argitzen du erabilera hori guztiz beharrezkoa den legea betearazteko xedeetarako, eta, beraz, legea betearazteko agintariei salbuespenez sistema horiek erabiltzeko baimena eman behar zaien. Konpromiso akordioak aurreikusten du babes osagarriak eta salbuespen horiek delitu batzuen biktimen kasuetara mugatzen ditu, benetako mehatxuak, oraingoak edo aurreikus daitezkeen mehatxuak prebenitzea, hala nola, eraso terroristak, eta deliturik larrienak direla susmatzen duten pertsonen bilaketak.
Xede orokorreko AI sistemak eta oinarri-ereduak
Xedapen berriak gehitu dira AI sistemak hainbat helburutarako erabil daitezkeen egoerak kontuan hartzeko (helburu orokorreko AI), eta non helburu orokorreko AI teknologia gero arrisku handiko beste sistema batean integratzen den. Behin-behineko akordioak erabilera orokorreko AI (GPAI) sistemen kasu zehatzak ere jorratzen ditu.
Arau zehatzak ere adostu dira oinarri ereduak, hainbat zeregin bereizgarri modu konpetentean egiteko gai diren sistema handiak, hala nola bideoak, testuak, irudiak sortzea, alboko hizkuntzan elkarrizketak egitea, konputazioa edo ordenagailu-kodea sortzea. Behin-behineko akordioak ezartzen du fundazio-eredu zehatzak bete behar direla gardentasun betebeharrak merkatuan jarri aurretik. Erregimen zorrotzago bat ezarri zen 'eragin handia' oinarri ereduak. Datu kopuru handiarekin eta batez bestekoaren oso gainetik konplexutasun, gaitasun eta errendimendu aurreratuekin trebatutako oinarrizko ereduak dira, arrisku sistemikoak balio-katean zehar heda ditzaketenak.
Gobernantza arkitektura berri bat
GPAI ereduei buruzko arau berriei eta EB mailan horiek betearazteko premia nabariari jarraituz, an AI Bulegoa Batzordearen baitan AI eredu aurreratuenak gainbegiratzeko, estandarrak eta proba-praktikak sustatzen laguntzea eta estatu kide guztietan arau komunak betearaztea da. A aditu independenteen panel zientifikoak AI Bulegoari aholkua emango dio GPAI ereduei buruz, oinarri-ereduen gaitasunak ebaluatzeko metodologien garapenean lagunduz, inpaktu handiko zimendu-ereduen izendapenari eta sorrerari buruzko aholkuak emanez, eta zimendu-ereduekin lotutako segurtasun materialen arriskuak kontrolatuz.
The AI Kontseilua, estatu kideen ordezkariek osatuko lukete, Batzordearen koordinazio-plataforma eta aholku-organo gisa jarraituko du eta estatu kideei eginkizun garrantzitsua emango die araudia ezartzean, fundazio-ereduetarako praktika-kodeak diseinatzeko barne. Azkenik, an aholkularitza foroa Interesdunentzako, hala nola, industriako ordezkariak, ETEak, startup-ak, gizarte zibila eta akademia, sortuko dira AI Kontseiluari espezializazio teknikoa emateko.
Zigorrak
AI legea hausteagatiko isunak arau-hauslearen urteko negozio-bolumen orokorraren ehuneko gisa ezarri ziren aurreko ekitaldian edo aurrez zehaztutako zenbateko batean, zeina handiagoa den. Hau 35 milioi euro edo % 7 izango litzateke debekatutako AI aplikazioak urratzeagatik, 15 milioi euro edo % 3 AI legearen betebeharrak urratzeagatik eta 7,5 milioi euro edo % 1,5 informazio okerra hornitzeko. Hala ere, behin-behineko akordioak aurreikusten du muga proportzionatuagoak AI Legean xedatutakoa urratuz gero, ETE eta enpresa berrientzako isun administratiboei buruzkoa.
Konpromiso-akordioak ere argi uzten du pertsona fisiko edo juridiko batek dagokionari kexa bat egin diezaiokeela merkatua zaintzeko agintaritza AI akta ez-betetzeari buruzkoa, eta kexa hori agintaritza horren prozeduren arabera kudeatuko dela espero dezake.
Gardentasuna eta oinarrizko eskubideen babesa
Behin-behineko akordioak a oinarrizko eskubideen eraginaren ebaluazioa Arrisku handiko AI sistema bat merkatuan jarri aurretik bere inplementatzaileek. Behin-behineko akordioak areagotzea ere aurreikusten du gardentasuna arrisku handiko AI sistemen erabilerari dagokionez. Nabarmentzekoa, Batzordearen proposameneko xedapen batzuk aldatu dira, erakunde publikoak diren arrisku handiko AI sistema baten erabiltzaile batzuk ere behartuta egongo direla adierazteko. EBko datu-basea arrisku handiko AI sistemetarako. Gainera, gehitu berri diren xedapenek erabiltzaileen betebeharra azpimarratzen dute emozioak ezagutzeko sistema pertsona fisikoei sistema horren eraginpean daudenean jakinaraztea.
Berrikuntzaren aldeko neurriak
Berrikuntzarako lagungarriagoa den lege-esparru bat sortzeko eta ebidentzian oinarritutako arauzko ikaskuntza sustatzeko, xedapenek berrikuntzaren aldeko neurriak Batzordearen proposamenarekin alderatuta nabarmen aldatu dira.
Nabarmentzekoa, AI dela argitu da sandbox arautzaileakAI sistema berritzaileak garatzeko, probatzeko eta baliozkotzeko ingurune kontrolatua ezarri behar dutenek, mundu errealeko baldintzetan AI sistema berritzaileak probatzeko aukera ere eman beharko lukete. Gainera, xedapen berriak gehitu dira ahalbidetuz probak AI sistemen barruan mundu errealeko baldintzak, baldintza eta berme zehatzetan. Enpresa txikiagoen administrazio-zama arintzeko, behin-behineko akordioak operadore horiei laguntzeko egin beharreko ekintzen zerrenda jasotzen du eta salbuespen mugatu eta argi zehaztuta daude.
Indarrean sartzea
Behin-behineko akordioak xedatzen du AI akta aplikatu behar dela bi urte indarrean jarri ondoren, xedapen zehatzetarako salbuespen batzuk salbu.
Hurrengo urratsak
Gaurko behin-behineko akordioaren ostean, maila teknikoan lanekin jarraituko da datozen asteetan araudi berriaren xehetasunak amaitzeko. Lehendakaritzak konpromiso-testua aurkeztuko die estatu kideetako ordezkariei (Coreper) onar dezaten, lan hori amaitutakoan.
Testu osoa bi erakundeek berretsi eta berrikuspen juridiko-linguistikoa egin beharko dute legegileek formalki onartu baino lehen.
Aurrekariak informazioa
2021eko apirilean aurkeztutako Batzordearen proposamena EBren politikaren funtsezko elementua da, oinarrizko eskubideak errespetatuko dituen IA seguru eta zilegi baten garapena eta erabilera sustatzeko merkatu bakarrean.
Proposamenak arriskuetan oinarritutako ikuspegiari jarraitzen dio eta segurtasun juridikoa bermatu nahi duen AIrako lege-esparru uniforme eta horizontal bat ezartzen du. Araudi-proiektuak IAn inbertsioa eta berrikuntza sustatzea, oinarrizko eskubideei eta segurtasunari buruzko indarrean dagoen legearen gobernantza eta betearaztea eraginkorra hobetzea eta AI aplikazioetarako merkatu bakarra garatzea erraztea du helburu. Beste ekimen batzuekin batera doa, besteak beste, adimen artifizialari buruzko plan koordinatua, zeinak Europan IAn inbertsioak bizkortzea helburu duena. 6ko abenduaren 2022an, Kontseiluak espediente horri buruzko planteamendu orokor baterako akordioa lortu zuen (negoziazio-agindua) eta erakundeen arteko elkarrizketetan hasi zen Europako Parlamentuarekin ("hiru elkarrizketak") 2023ko ekainaren erdialdean.
EU Reporter-ek kanpoko iturri ezberdinetako artikuluak argitaratzen ditu, ikuspuntu ugari adierazten dituztenak. Artikulu hauetan hartutako jarrerak ez dira nahitaez EU Reporterenak izan.
