EU sprejela pravila o uporabi umetne inteligence

Svet EU in Evropski parlament sta v petek dosegla okvirni dogovor o aktu o umetni inteligenci, ki vsebuje pravila za njeno uporabo v uniji. Gre za prvo tovrstno zakonodajo v svetu, njen namen pa je zagotoviti varnost sistemov umetne inteligence ter spoštovanje temeljnih pravic in vrednot, obenem pa spodbujati vlaganje in inovacije na tem področju.

Pogajalci držav članic, združenih v Svetu EU, in parlamenta, so dogovor dosegli v petek zvečer, po treh dneh intenzivnih pogajanj. V Svetu EU, ki mu trenutno predseduje Španija, dogovor označujejo za zgodovinskega, v Evropskem parlamentu pa poudarjajo, da gre za prvi predlog tovrstne zakonodaje na svetu.

Podobno je v odzivu poudaril evropski komisar za notranji trg Thierry Breton. "Zgodovinsko! S političnim dogovorom o aktu o umetni inteligenci EU postaja prva celina, ki postavlja jasna pravila za njeno uporabo," je zapisal na omrežju X. Po njegovih besedah pa gre za veliko več kot le pravilnik - »to je odskočna deska za startup podjetja in raziskovalce pri vodenju globalne tekme na področju umetne inteligence«.

Predsednica Evropske komisije Ursula von der Leyen je menila, da bo akt pripomogel k razvoju tehnologije, ki ne ogroža varnosti in pravic ljudi. V zapisu na omrežju X je dodala, da gre za »edinstven pravni okvir za razvoj umetne inteligence, ki ji gre zaupati«.

Predlogi vsebujejo varovala za uporabo umetne inteligence na območju EU, pa tudi omejitve pri njeni uporabi, denimo s strani organov pregona. Temeljijo na oceni tveganja za posamezne programske modele - večje kot je tveganje za pravice ali zdravje posameznika, več je obveznosti.

Posamezniki bi glede na dogovor imeli pravico do pritožb in smiselnih pojasnil. V primeru kršitev pa so predvidene kazni v razponu od 7,5 milijona evrov ali 1,5 odstotka prometa do 35 milijonov evrov ali sedem odstotkov globalnega prometa.

Dogovor predvideva, da morajo biti temeljni modeli, kot sta jezikovni model ChatGPT in modeli za splošne namene GPAI, v skladu z obvezo o preglednosti, preden pridejo na trg. To vključuje pripravo tehnične dokumentacije ter uskladitev z evropsko zakonodajo o avtorskih pravicah in širjenju podrobnih povzetkov o vsebini, ki se uporablja za izobraževanje.

Visoko učinkoviti modeli, ki so utemeljeni na osnovnih načelih z visoko stopnjo tveganja, bodo morali izvajati evalvacijo modela, ocenjevati in zmanjševati sistemsko tveganje, obveščati Evropsko komisijo o resnih incidentih, zagotavljati kibernetsko varnost ter poročati o energetski učinkovitosti.

Oblasti lahko uporabljajo biometrični nadzor v realnem času v javnih prostorih samo v primerih žrtev določenih kaznivih dejanj, preprečevanja dejanskih, trenutnih ali predvidljivih groženj, kot so teroristični napadi in iskanje osumljencev za najhujša kazniva dejanja.

Dogovor prepoveduje kognitivno vedenjsko manipulacijo, zbiranje fotografij obrazov z interneta ali s posnetkov nadzornih kamer, sistem družbenega ocenjevanja in biometrične kategorizacije z namenom ugotavljanja političnih, verskih in drugih prepričanj, spolne usmerjenosti in rase, izhaja iz sporočil Bruslja in poročanja tujih tiskovnih agencij.

O zakonodaji, ki jo je Evropska komisija predlagala leta 2021, bosta morala sedaj za uradno potrditev odločati tako Evropski parlament kot Svet EU.