Europska komisija je 2021. je iznijela Prijedlog uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) u EU-u. U obrazloženju prijedloga Komisija je navela se njime nastoji uliti povjerenje građanima i drugim korisnicima da prihvaćaju rješenja koja se temelje na UI-u, a poduzeća potaknuti da ta rješenja razvijaju.
Europski parlament je na plenarnoj jednici u Strasbourgu definirao svoje stajalište o tom prijedlogu na temelju kojeg će pregovorati s Vijećem EU-a, odnosno zemljama članicama. Očekuje se da bi dvije strane mogle uskladiti svoja stajališta do kraja godine a EU dobiti jedinstvena pravila uporabe te tehnologije.
U svom je stajalištu, s obzirom na ubrzani razvoj te tehnologije od prijedloga Komisije, Europski parlament preciznije istaknuo rizike koja ta pravila trebaju riješiti, posebna one po ljudska prava.
Institucije EU-a slažu se kako treba zabraniti tehnologije koje pojedince društveno vrednuju i razvrstavaju u određene kategorije, po rodu, rodnom identitetu, rasi, etničkom podrijetlu, migracijskom status ili državljanstvu, političkoj i seksualnoj orijentaciji, vjeroispovijesti, invaliditetu ili bilo kojem drugom osnovu na temelju koje je diskriminacija zabranjena Poveljom Europske unije o temeljnim pravima
Po prijedlogu pravila, uporaba UI sustava za daljinsku biometrijsku identifikaciju pojedinaca na javnim mjestima za potrebe kaznenog progona smatra se znatnim kršenjem prava i sloboda jer može stvoriti doživljaj stalnog nadzora i neizravno odvratiti od ostvarenja slobode okupljanja i drugih temeljnih prava. Zastupnici su glasovali za potpunu zabranu korištenja daljinske biometrijske identifikacije.
Uredba uvodi posebna pravila za sustave koje ocjenjuje visokorizičnim, od onih koji se koriste u ključnim infrastrukturama, primjerice prometnim, s mogućnošću da ugroze živote i zdravlje ljudi, obrazovnom sustavu do primjene u provedbi zakona koja bi mogla narušiti ljudska prava.
Svaka bi država članica trebala odrediti nacionalno nadzorno tijelo za potrebe nadziranja primjene i provedbe ove Uredbe. Ono bi također trebalo predstavljati svoju državu članicu u upravnom odboru Ureda za umjetnu inteligenciju.
HDZ-ov eurozastupnik Karlo Ressler, potpredsjednik posebnog Odbora parlamenta za umjetnu inteligenciju, napominje da je cilj ove uredbe je da se spriječi fragmentiranje i 27 sedam različitih nacionalnih zakonodavstva koje će to uređivati.
Preciznije formulacije EP-a
Ressler smatra da je ključno što Europski parlament inzistira na postojanju značajnog rizika za definiranje određene primjene visokorizičnom. u svom stajalištu dodaje formulacije da u određenim područjima, okolišu, zdravstvu, ljudskim pravima i javnoj sigurnosti postoji značajan rizik uporabe te tehnologije
„Jedna od većih promjena tiče se pitanja rizika. Visokorizičnima se neće automatski smatrati unaprijed određene kategorije, već oni sustavi koji nose značajne rizike za zdravlje, sigurnost, temeljna prava ili okoliš. Uz nekakav glavni dio da se pokušaju pojednostaviti procedure, Europski parlament širi taj popis područja, ali ih još preciznije i jasnije definira".
Ressler, zastupnik iz kluba Europske pučke stranke (EPP), ističe da je njegova grupacija insisitirala na pitanju "nadležnosti, znači Europskog regulatornog tijela koja zapravo neće biti prava agencija koja će biti manje od onoga kako je zamislila komisija". "Znači, ne agencija nego ured za UI koji će imati više savjetodavnu ulogu, a prava regulatorna tijela če biti na nacionalnoj razini".
"Dodavanje kumulativnog kriterija značajnog rizika je isto nešto što je bila ideja EPP-a i što je proizašlo iz naše grupe", nadodao je u razgovoru za Hinu.
Stav svog zastupničkog kluba tumači kao nastojanje da se pretjeranom regulacijom ne spriječava razvoj te tehnologije dok je, primjerice, uvođenje pitanja zaštite okoliša došlo iz drugih skupina i privaćeno kako bi se u parlamentu postigao što širi kompromis glede uredbe.
„Bilo je bitno i da ne postoji mnogo apsolutnih zabrana, odnosno da ne postoje apsolutna reguliranja po pojedinim područjima, nego da stupnjevanije, znači balansiranije, od područja do područja procjenjujemo rizik. To je ključno za industriju i za to da se ne otežavaju inovacije i ne ugrožava konkurentnost“, kaže Ressler.
Umjetna inteligencija u obrazovanju
Europski parlament je, uzvešu u obzir ubrzani napredak i širenje tehnologije, prijedlog Komisije o uporabi umjetne inteligencije u obrazovanju dopunio preporukom da se ona iskoristi i u tom području.
"Uvođenje UI sustava u obrazovanje važno je za potporu modernizaciji cijelih obrazovnih sustava i povećanje kvalitete obrazovanja, na internetu i izvan njega, te za ubrzavanje uvođenja digitalnog obrazovanja, koje bi tako postalo dostupno široj javnosti", stav je Parlamenta, no, kao i Komisija, upozorava da je to područje uporabe visokog rizika jer mogu odrediti obrazovni i profesionalni tijek života osobe.
„Nemoguće je pobjeći od toga i neće obrazovanje biti bolje ako se zabrani ljudima da koriste umjetnu inteligenciju, jednako kao što obrazovanje ne bi bilo bolje da ne postoje alati poput Googlea, nego se moraju pronaći neki novi načini i nove metode da se nove tehnologije integriraju", kaže Ressler i tumači da je razlika između prijedloga Komisije i stajališta EP-a nastala uslijed toga što se u posljednje dvije godine UI tehnologija proširila i napredovala.
"Pojavio se ChatGPT i pojačala se priča oko utjecaja na obrazovanje. Parlament dodatno ističe važnost promicanja unaprjeđivanja vještina kod svih, kod cijele populacije, neovisno o generacijama ili pismenosti za umjetnu inteligenciju“, kaže HDZ-ov europarlamentarac.