EU Zakon o vještačkoj inteligenciji zabranjuje određene AI prakse koje se smatraju previše rizičnim ili neetičkim
Sada kada je usvojen značajan EU Zakon o vještačkoj inteligenciji, pažnja će se prirodno okrenuti na mutan put do implementacije.
Nakon godina rasprave i debate, Evropska unija je konačno predstavila svoj sveobuhvatan pravilnik za upravljanje upotrebom AI tehnologija. Kao prvi takve vrste na globalnom nivou, ovi propisi će imati dalekosežne implikacije ne samo unutar EU, već potencijalno predstavljaju presedan za druge zemlje koje se bore sa izazovima koje donosi brzi napredak AI.
U osnovi Zakona o vještačkoj inteligenciji su bezbjednosni zahtjevi koje kompanije moraju ispuniti prije stavljanja proizvoda AI na tržište EU. Kao i u drugim zakonima EU, zahtjevi su samo navedeni na visokom nivou, ostavljajući značajan prostor standardima za popunjavanje praznina.
O čemu se radi u Zakonu o vještačkoj inteligenciji?
U svojoj srži, Zakon o vještačkoj inteligenciji ima za cilj uspostavljanje delikatne ravnoteže između podsticanja inovacija u ovoj oblasti uz istovremeno očuvanje osnovnih prava, demokratije i održivosti životne sredine.
Pristup koji je zauzet da bi se to postiglo je okvir zasnovan na riziku koji nameće različite nivoe obaveza na osnovu potencijalnog uticaja i rizika koje predstavljaju različite AI aplikacije.
Zahtjevi u Zakonu o vještačkoj inteligenciji pokrivaju AI sisteme namijenjene za primjenu u kontekstima „visokog rizika“, kao što su medicinski uređaji ili obrazovni sektor. Ovi zahtjevi (koji se na jeziku EU nazivaju „esencijalni zahtjevi“) pokrivaju sve aspekte životnog ciklusa proizvoda, uključujući dokumentaciju, upravljanje podacima, ljudski nadzor, tačnost i robusnost, s ciljem zaštite „zdravlja, bezbjednosti i osnovnih prava“.
Namjerno otvorena, pravila dozvoljavaju širok spektar tumačenja, pa je odgovornost provajdera da procijeni nivo rizika i preduzme odgovarajuće mjere za ublažavanje rizika. Na primjer, zakon zahtjeva bez daljnjih specifikacija da sistemi AI budu dizajnirani tako da ih mogu „efikasno nadgledati od strane fizičkih lica“ i da podaci imaju „odgovarajuća statistička svojstva“.
Odredbe Zakona
Prvo, Zakon potpuno zabranjuje određene AI prakse koje se smatraju previše rizičnim ili neetičkim. Ovo uključuje sisteme biometrijske kategorizacije koji diskriminišu na osnovu osjetljivih osobina poput rase ili pola, kao i skidanje slika lica sa javnih prostora kako bi se stvorile baze podataka za prepoznavanje (pobjeda zagovornika privatnosti). Takođe su blokirani AI sistemi koji se koriste za društveno bodovanje, manipulaciju ljudskim ponašanjem i iskorišćavanje ranjivosti.
Još jedna oblast kojoj se posvećuje pažnja je upotreba AI od strane agencija za provođenje zakona. Biometrijski sistemi identifikacije su generalno zabranjeni „u principu“, prema Zakonu. Međutim, Zakon to dozvoljava u određenim slučajevima.
„RBI (biometrijska identifikacija) u realnom vremenu može se primijeniti samo ako su ispunjene stroge mjere zaštite, npr. njegova upotreba je ograničena vremenski i geografski i podliježe posebnom prethodnom sudskom ili administrativnom odobrenju. Takve upotrebe mogu uključivati, na primjer, ciljanu potragu za nestalom osobom ili sprečavanje terorističkog napada”, navodi se u službenom saopštenju za javnost.
Za AI aplikacije koje se smatraju „visokim rizikom“ zbog njihovog potencijalnog uticaja na oblasti kao što su zdravlje, bezbjednost, osnovna prava ili životna sredina, Zakon propisuje neke obaveze. Ovi sistemi moraju biti podvrgnuti procjeni rizika, održavati detaljne evidencije, osigurati transparentnost i tačnost, i što je možda najvažnije, održavati smislen ljudski nadzor.
I kao znak zaštite potrošača, Zakon građanima EU daje pravo da podnose žalbe na sisteme vještačke inteligencije i dobiju objašnjenja za odluke koje utiču na njihova prava.
Prema zakonu, sistemi vještačke inteligencije opšte namjene i modeli na kojima su izgrađeni moraju da ispunjavaju posebne zahtjeve za transparentnost, uključujući usklađenost sa zakonom EU o autorskim pravima i objavljivanje detaljnih sažetaka podataka o obuci koji se koriste. A za najmoćnije modele s potencijalnim „sistemskim rizicima“, postoje dodatne mjere zaštite kao što su obavezne evaluacije modela i izvještavanje o incidentima.
Zakon takođe ima za cilj da se pozabavi pitanjem deepfakes-a tako što će učiniti obaveznim označavanje kada je sadržaj vještački generisan ili izmijenjen.
Stupanje na snagu Zakona
Očekuje se da će Zakon EU o vještačkoj inteligenciji zvanično postati zakon u maju ili junu ove godine, nakon uklanjanja nekoliko konačnih prepreka, uključujući odobrenja zemalja članica. Odredbe će tada početi da se vremenom uvode.
Sistemi koji koriste zabranjene AI prakse poput društvenog bodovanja moraće biti zabranjeni u roku od 6 mjeseci. Pravila za opšte AI kao što je chatbot primjenjuju se godinu dana nakon što zakon stupi na snagu. Kompanije se mogu suočiti sa kaznama do 35 miliona evra ili 7% svjetskog prihoda zbog kršenja pravila.
Do sredine 2026. godine trebalo bi se primijeniti kompletan regulatorni režim za visokorizične AI sisteme. Svaka zemlja EU će takođe imati vlastitu AI nadzornu jedinicu koja će istraživati pritužbe građana na kršenje zakona.
Stručnjaci tvrde da zakon nije tako dalekosežan kako se očekivalo i da postoji previše izuzetaka koji bi mogli da omoguće štetnu primjenu vještačke inteligencije. Široko rasprostranjen primjer je član 6 (3) koji bi programeri vještačke inteligencije mogli koristiti da svoje proizvode proglase kao manje rizične i zaobiđu neka pravila.
