AI terrorismoa prebenitzeko legeak premiazkoa dira

Extremismoaren aurkako pentsamendu-talde baten arabera, gobernuek araudi berriak "premiaz aztertu" beharko lituzkete, adimen artifizialak terroristak kontratatzea saihesteko..

Elkarrizketa Estrategikorako Institutuak (ISD) esan duenez, terroristek sarean jartzen dituzten mehatxuekin "legediaren beharra argia" dago.

Chatbot batek Erresuma Baturako terrorearen legeriaren berrikusle independentea "kontratatu" zuen esperimentu baten ondoren dator.

Erresuma Batuko gobernuak esan du «ahal dugun guztia» egingo dutela publiko orokorra babesteko.

Jonathan Hall KC gobernuko terrorismoaren legeriaren berrikusle independentearen arabera, gai garrantzitsuenetako bat da "zaila dela terrorismoa bultzatzen zuten chatbot-ek sortutako adierazpenen erantzule izan daitekeen pertsona bat identifikatzea".

Mr Hall-ek esperimentu bat egin zuen Character.ai webgunean, erabiltzaileek beste erabiltzaile batzuek eraikitako eta adimen artifizialak garatutako txat-botekin txatetan aritzeko aukera ematen dien webgunean.

Elkarrizketan aritu zen beste militante eta muturreko talde batzuen erantzunak imitatzeko diseinatutako hainbat botekin.

iragarki

Estatu Islamikoko buruzagi nagusi bati "buruzagi nagusi" gisa ere aipatu zuten.

Hall jaunaren arabera, bot-ak hura erreklutatzeko saiakera egin zuen eta "erabateko dedikazioa eta debozioa" adierazi zion muturreko taldeari, terrorismoa debekatzen duten Erresuma Batuko legeek debekatuta dagoena.

Bestalde, Hall jaunak adierazi zuen Erresuma Batuan ez zela lege-urraketarik egon, komunikazioak gizaki batek ez zituelako egin.

Esan zuenaren arabera, araudi berriak erantzule egin beharko lituzke chatbot-ak ostatatzen dituzten webguneak eta horiek sortzen dituzten pertsonak.

Character.ai-n topatu zituen botei dagokienez, adierazi zuen "litekeena den balore, esperimentazio eta, ziurrenik, alderdi satirikoren bat" egongo zela haien sorreraren atzean.

Horrez gain, Hall jaunak bere "Osama Bin Laden" txat-bot-a garatu ahal izan zuen, berehala ezabatu zuena, jarduera terroristetarako "mugarik gabeko ilusioa" erakutsiz.

Bere esperimentua muturrekoek adimen artifizial hobetua ustiatzeko moduei buruzko kezka gero eta handiagoaren ondorioz sortu da.

2025. urterako, adimen artifizial sortzailea "estatuko ez diren eragile biolentoen eraso fisikoen ezagutza biltzeko erabil liteke, arma kimiko, biologiko eta erradiologikoetarako barne", Erresuma Batuko gobernuak egindako ikerketaren arabera. euren urriko argitalpena.

ISDk, gainera, adierazi duenez, "legedia behar argia dago sareko mehatxu terroristen etengabeko aldaketan dagoen paisaia jarraitzeko".

Think tank-aren arabera, Erresuma Batuko Online Safety Acta, 2023an lege bihurtu zena, "batez ere sare sozialen plataformek sortzen dituzten arriskuak kudeatzera zuzenduta dago" adimen artifiziala baino.

Gainera, erradikalak "sortzen ari diren teknologien erabiltzaile goiztiarrak izan ohi direla eta publiko berrietara iristeko aukerak bilatzen ari dira etengabe".

"AI enpresek ezin badute frogatu behar adina inbertitu dutela beren produktuak seguruak direla ziurtatzeko, orduan gobernuak urgentziaz aztertu beharko luke AIren berariazko legeria berria", adierazi du ISDk.

Hala ere, aipatu du, egin duen zaintzaren arabera, muturreko erakundeek adimen artifizial sortzailearen erabilera "nahiko mugatua" dela gaur egun.

Character AI-k adierazi zuen segurtasuna "lehentasun nagusia" dela eta Hall jaunak deskribatutakoa oso tamalgarria zela eta ez zuela konpainiak ezartzen saiatzen ari zen plataforma mota islatzen.

"Gorroto diskurtsoa eta muturrekoa gure Zerbitzu Baldintzetan debekatuta daude", erakundearen arabera.

"AI bidez sortutako edukiarekiko dugun ikuspegia printzipio sinple batetik dator: gure produktuek ez dute inoiz erabiltzaileak kaltetu edo erabiltzaileak besteei kalte egitera bultzatuko dituzten erantzunak sortu behar".

"Erantzun seguruetarako optimizatzeko", korporazioak adierazi zuen bere ereduak modu batean trebatu zituela.

Horrez gain, adierazi zuen moderazio-mekanismo bat zuela, eta horri esker jendeak bere arauak urratzen zituen informazioa salatzeko aukera ematen zuen, eta edukiak urraketak salatzen zituen bakoitzean neurriak azkar hartzeko konpromisoa hartu zuela.

Boterera iritsiko balitz, Erresuma Batuko oposizioko Alderdi Laboristak adierazi du urraketa kriminala izango litzatekeela adimen artifiziala irakastea indarkeria bultzatzen edo jasaten dutenak erradikalizatu.

Adimen artifizialak dakartzan "segurtasun nazionalaren eta segurtasun publikoaren arrisku esanguratsuen aurrean", adierazi du Erresuma Batuko gobernuak.

"Publikoa mehatxu honetatik babesteko ahal dugun guztia egingo dugu gobernu osoan lan eginez eta teknologia-enpresen buruzagiekin, industriako adituekin eta antzeko nazioekin lankidetzan sakonduz".

Ehun milioi libera inbertituko ditu gobernuak adimen artifizialeko segurtasun institutu batean 2023an.

Partekatu artikulu hau: