OASI, gobernuek eta enpresek herritarrengan erabiltzen dituzten algoritmoak aurkitu dituen lehen bilatzailea

• Eticas Fundazioak sortua, OASI Gizarte Eragina duten Algoritmoen Behatokiak, mundu osoko Administrazio Publikoek eta enpresek beren eragin sozialari buruz gehiago jakiteko erabilitako hamarnaka algoritmoren informazioa biltzen du.
  
• Helburua da gobernuei zein enpresen algoritmoei buruzko informazioa jendeari sarbidea ematea, eta nork erabiltzen dituen, nork garatzen dituen, zer mehatxu suposatzen dituzten eta ikuskatu diren, besteak beste.

• Algoritmoen alborapena eta diskriminazioa adinaren, generoaren, arrazaren edo desgaitasunaren arabera gertatu ohi dira, beste balore batzuen artean, baina gardentasun falta orokorra dela eta, oraindik ezin da kaltetutako taldeetan dituen ondorio guztiak ezagutu.

Eticas Fundazioak, algoritmoen eta Adimen Artifizialaren (AI) sistemen erabilera arduratsua sustatzen duen irabazi asmorik gabeko erakundeak, Gizarte Eragina duten Algoritmoen Behatokia (OASI) sortu du. Behatoki honek bilatzaile bat aurkezten du mundu osoko herritarrei, kontsumitzaileei eta erabiltzaileei erabaki automatizatu garrantzitsuak hartzen dituzten tresnei buruz gehiago jakiteko.

Gaur egun, enpresek zein Administrazio Publikoek erabakiak automatizatzen dituzte algoritmoei esker. Hala ere, garatzeak eta martxan jartzeak ez ditu kanpoko kalitate kontrolak jarraitzen, ezta behar bezain gardena ere, eta horrek populazioa babesik gabe uzten du. Bilaketa-motor honen bidez, edonork aurki dezake algoritmo horiei buruzko informazio gehiago: nork garatu dituen, nork erabiltzen dituen, haien aplikazio-eremua, ikuskatu diren ala ez, haien helburuak edo eragin soziala eta ordezkatzen dituzten mehatxuak.

Momentu honetan, OASIk 57 algoritmo biltzen ditu, baina hurrengo hilabeteetan 100era iristea espero du. Horien artean, dagoeneko 24 ari dira AEBetan aplikatzen Gobernuak eta Big Tech enpresek. Adibidez, ShotSpotter, Oaklandeko Polizia Sailak zabaldutako algoritmo tresna, soinua kontrolatzeko mikrofonoen bidez arma indarkeriari aurre egiteko eta murrizteko, eta Allegheny konderriak (Pensilvania) erabilitako haurren tratu txarrak eta utzikeria aurreikusteko algoritmoa. Enpresa baten beste adibide bat Rekognition da, Amazon-en aurpegiaren aintzatespen sistema, MIT Media Lab-ek ikuskatu zuena 2019 hasieran, eta nabarmen okerragoa zela ikusi zuen gizabanakoaren generoa emakumezkoak edo larruazal ilunagoa izanez gero identifikatzerakoan.

Diskriminaziorik ohikoena adina, generoa, arraza edo elbarritasuna dela eta, teknologia honen eragina ulertzeko gaitasun sozioekonomikorik ez duten garatzaileek nahi gabe ekoiztu dute. Zentzu horretan, ingeniari hauek algoritmoak trebetasun teknikoetan oinarrituta diseinatzen dituzte eta kanpoko kontrolik ez dagoenez eta espero bezala funtzionatzen duela dirudienez, algoritmoak datu eskasetatik ikasten jarraitzen du.

Algoritmo horietako batzuen funtzionamenduari buruzko gardentasunik eza dela eta, Eticas Fundazioa, OASI abian jartzeaz gain, kanpoko auditorien proiektua garatzen ari da. Lehena VioGén da, Espainiako Barne Ministerioak etxeko indarkeria kasuak jasan ondoren babesa eskatzen duten emakumeei arriskua esleitzeko erabilitako algoritmoa. Eticasek kanpoko ikuskaritza egingo du alderantzizko ingeniaritza eta administrazio datuen, elkarrizketen, txostenen edo diseinuen gidoien bidez, emaitzak eskalan biltzeko. Hori guztia, emakume horien babesean hobetzeko aukerak hautemateko helburuarekin.

"Teknologiak egungo araudia eta oinarrizko eskubideak errespetatuko dituela ziurtatzeko eta kontrol algoritmikoak eta ikuskaritza metodoak egon arren, Administrazioak eta enpresa askok entzungor egiten jarraitzen dute herritarrek eta erakundeek egindako gardentasun eskaerei", adierazi du Gemma Galdonek, Eticas Fundazioaren sortzailea. . “OASIz gain, Alpha Telefónica, Nazio Batuak, Koa Health edo Garapenerako Banku Interamerikarra bezalako enpresentzako dozena bat auditoria baino gehiago garatu ditugun hainbat urte igaro ondoren, Ikuskaritza Algoritmikorako Gida ere argitaratu dugu. edonork egin ditzakeela. Helburua beti da sentsibilizatzea, gardentasuna eskaintzea eta teknologiarekiko konfiantza berreskuratzea, berez kaltegarria izan behar ez duena ".

Ildo horretatik, datu historiko ugari erabiliz automatikoki ikasteko teknikekin trebatzen diren algoritmoak iraganeko erabakietan oinarrituta aukeratzen "irakasten" diete. Normalean, datu horiek ez dira aplikatzen diren errealitate sozioekonomiko eta kulturalaren adierazgarri, baina askotan iraun nahi ez den egoera bidegabea islatzen dute. Modu honetan, algoritmoa teknikoki erabakiak "zuzenak" hartuko lituzke bere prestakuntzaren arabera, nahiz eta errealitatea izan gomendioak edo iragarpenak alboratuak edo diskriminatzaileak direla.

iragarki

Eticas Fundazioari buruz

Eticas Fundazioak lan egiten du gizartea gidatzen duten printzipioak zehaztapen teknikoetara itzultzeko, hala nola gure bizitzari buruzko erabaki automatizatuak hartzen dituzten teknologietan dauden aukera berdintasuna, gardentasuna eta diskriminaziorik eza. Balore sozial aldakorren, azken aurrerapenen aukera teknikoen eta esparru juridikoaren arteko oreka bilatzen du. Horretarako, algoritmoak ikuskatzen ditu, egiaztatzen du lege digitalak mundu digitalean aplikatzen direla, batez ere Adimen Artifizialean, eta kalitatezko teknologia arduratsuaren beharra sentsibilizatzeko eta zabaltzeko lan bizia egiten du.

Partekatu artikulu hau: