Akt o umjetnoj inteligenciji (Uredba (EU) 2024/1689) prvi je sveobuhvatni pravni okvir za regulaciju umjetne inteligencije (UI). Njime se nastoji osigurati sigurnost, zaštita temeljnih prava i razvoj pouzdane UI u Europi.
Europskoj Uniji se od strane SADa nameće narativ da je spora i troma te da previše regulira razvoj novih tehnologija što koči napredak. U mainstreamu se i dalje AI svodi na zabavne video i čudotvorni ChatGPT koji brzo i naizgled suvislo i pametno odgovara na sva naša pitanja.
Ovdje se radi o nečemu daleko značajnijem, kada govorimo o umjetnoj inteligencije u ovom članku, govorimo o nečemu zaista momumentalnom, o setu naprednih tehnologija koje podrazumjevaju AI, biotehnologiju / sintetičku biologiju i robotiku.
Osnivači prvih AI tvrtki poput Mustafe Suleymana tvrde upravo suprotno.
Suleyman se itekako zalaže za razvoj AIa no na kontroliran i reguliran način koliko je to moguće s tehnologijom kakva će u kratkom roku zaista promijeniti svijet kakvog smo do sada poznavali.
“Odluke o sigurnosi koje donosimo danas, promijeniti će budućnost tehnologije i budućnost čovječanstva.”
Zašto su nam potrebna pravila o umjetnoj inteligenciji?
Aktom o umjetnoj inteligenciji Europljanima se osigurava povjerenje u ono što umjetna inteligencija nudi. Iako većina UI sustava ne predstavlja nikakav rizik i može doprinijeti rješavanju mnogih društvenih izazova, određeni UI sustavi (UI – umjetna inteligencija) stvaraju rizike koje moramo ukloniti kako bismo izbjegli neželjene ishode.
Na primjer, često nije moguće saznati zašto je UI sustav donio odluku ili predvidio i poduzeo određenu radnju. Stoga može biti teško procijeniti je li netko nepravedno stavljen u nepovoljniji položaj, primjerice u odluci o zapošljavanju ili u zahtjevu za sustav javnih naknada.
Iako se postojećim zakonodavstvom pruža određena zaštita, ono nije dovoljno za rješavanje posebnih izazova koje sustavi umjetne inteligencije mogu donijeti.
Koja državna/EU tijela su odgovorna za upravljanje i provedbu ovog akta?
Europski ured za umjetnu inteligenciju i tijela država članica odgovorni su za provedbu, nadzor i izvršenje Akta o umjetnoj inteligenciji. Odbor za umjetnu inteligenciju, znanstveni odbor i Savjetodavni forum usmjeravaju i savjetuju upravljanje Aktom o umjetnoj inteligenciji.
Ovdje pročitajte više o upravljanju Aktom o umjetnoj inteligenciji i njegovoj provedbi.
Ključne obveze za tvrtke (odnosi se i na one sa jednim zaposlenim)
Razumijevanje razine rizika – sustavi umjetne inteligencije se kategoriziraju u četiri razine rizika:
1.Neprihvatljivi – Zabranjeni su sustavi koji ugrožavaju sigurnost i prava ljudi (npr. društveno bodovanje, prepoznavanje emocija na radnom mjestu).
2. Visokorizični – Podložni su strogim pravilima (npr. AI u zapošljavanju, zdravstvu, pravosuđu).
3.Ograničeni – Obveza transparentnosti (npr. chatbotovi moraju jasno označiti da su AI sustavi).
4.Minimalan rizik – Nema posebnih ograničenja (npr. AI u videoigrama).
Poštivanje pravila za visokorizične UI sustave, što uključuje:
- Procjenu i ublažavanje rizika.
- Dokumentaciju i sljedivost podataka.
- Ljudski nadzor nad sustavima.
- Visoke standarde kibersigurnosti.
Obveze za dobavljače generativne umjetne inteligencije
Sadržaj generiran UI-jem mora biti jasno označen.
Poštivanje pravila o autorskim pravima.
Priprema za provedbu novih pravila
Od 2. veljače 2025.: Počinje primjena zabrana i pravila pismenosti o UI.
Od 2. kolovoza 2025.: Pravila za UI modele opće namjene.
Od 2. kolovoza 2026.: Potpuna primjena Akta.
Kakve su kazne za kršenje ovog akta?
Pravne posljedice – Nepoštivanje pravila može dovesti do visokih kazni.
Povećanje povjerenja korisnika – Transparentnost i sigurnost u radu s UI povećavaju kredibilitet tvrtke.
Inovacije unutar reguliranog okvira – Jasna pravila omogućuju sigurniji razvoj AI rješenja.
Preporuka: Ako vaša tvrtka koristi AI, odmah procijenite razinu rizika sustava koji koristite i poduzmite potrebne korake za usklađivanje s Aktom.
Prema Aktu o umjetnoj inteligenciji, kršenje njegovih odredbi može rezultirati značajnim novčanim kaznama, ovisno o težini prekršaja:
Za kršenje zabranjenih praksi ili nepoštivanje zahtjeva u vezi s podacima: kazne do 35 milijuna eura ili 7% ukupnog godišnjeg prometa tvrtke u prethodnoj financijskoj godini, ovisno o tome koji je iznos veći.
Za nepoštivanje drugih obveza propisanih Aktom: kazne do 15 milijuna eura ili 3% godišnjeg prometa, ovisno o tome koji je iznos veći.
Za pružanje neistinitih, nepotpunih ili obmanjujućih informacija nadležnim tijelima: kazne do 7,5 milijuna eura ili 1,5% godišnjeg prometa, ovisno o tome koji je iznos veći.
Važno je napomenuti da su za mala i srednja poduzeća te startupe predviđene proporcionalne, odnosno blaže kazne.
Ove odredbe naglašavaju ozbiljnost pristupa Europske unije u regulaciji umjetne inteligencije, s ciljem osiguravanja usklađenosti kroz značajne financijske i pravne posljedice za prekršitelje.
