Umjetna inteligencija danas mijenja gotovo svaki segment društva. Od zdravstva i obrazovanja do financija, industrije i prometa, AI sustavi donose veću učinkovitost, automatiziraju brojne procese i otvaraju prostor za inovacije koje su donedavno bile nezamislive. No, istodobno s njihovim ubrzanim razvojem postaju sve vidljiviji i rizici koje ova tehnologija nosi.
Dio tih rizika proizlazi iz ograničenja same tehnologije, dok je drugi dio posljedica načina na koji ljudi koriste ili zloupotrebljavaju umjetnu inteligenciju. Upravo zbog toga sve je više stručnjaka koji upozoravaju da razvoj AI-ja mora pratiti odgovorno upravljanje, jasna pravila i etički okvir.
Tehnologija još nije dovoljno zrela
Iako su moderni AI modeli iznimno napredni, oni još uvijek nisu nepogrešivi. Njihova ograničenja mogu dovesti do činjeničnih pogrešaka, nelogičnih zaključaka, etičkih dilema i donošenja pogrešnih odluka, osobito u situacijama koje izlaze iz okvira podataka na kojima su trenirani.
Jedan od najpoznatijih problema današnje generativne umjetne inteligencije jesu takozvane “halucinacije”, odnosno uvjerljivo iznošenje potpuno netočnih informacija.
Primjer koji se često navodi dogodio se 2022. godine kada je Meta predstavila model Galactica, namijenjen pisanju znanstvenih tekstova. Sustav je povučen samo nekoliko dana nakon predstavljanja jer je često stvarao netočan, pristran ili izmišljen sadržaj.
Razlog leži u načinu na koji veliki jezični modeli uče. Oni analiziraju ogromne količine internetskih podataka koji već sadrže netočne informacije, dezinformacije, predrasude i zastarjele činjenice. Budući da umjetna inteligencija prepoznaje statističke obrasce, a ne provjerava istinitost informacija poput čovjeka, može vrlo uvjerljivo reproducirati postojeće pogreške.

Foto: Igor Omilaev -Unsplash
Umjetna inteligencija još uvijek ne razmišlja poput čovjeka
Još jedno važno ograničenje umjetne inteligencije jest način zaključivanja. Ljudi donose odluke na temelju uzročno-posljedičnih veza, iskustva i razumijevanja konteksta. AI sustavi, s druge strane, uglavnom prepoznaju obrasce u podacima i procjenjuju koja je riječ, radnja ili odgovor statistički najvjerojatniji. Takav pristup vrlo dobro funkcionira u poznatim situacijama, ali može zakazati kada se sustav suoči s neočekivanim okolnostima ili problemima za koje nije imao odgovarajuće primjere tijekom treniranja.
Zbog toga stručnjaci smatraju da umjetna inteligencija još nije spremna potpuno samostalno donositi odluke u područjima poput medicine, pravosuđa ili upravljanja kritičnom infrastrukturom.
Veću prijetnju od tehnologije često predstavlja način na koji je ljudi koriste
Dok su tehnička ograničenja uglavnom posljedica razvoja same tehnologije, nepravilna uporaba umjetne inteligencije predstavlja mnogo ozbiljniji društveni izazov. Umjetna inteligencija posljednjih je godina postala moćan alat i za kibernetički kriminal. Napadači je koriste za analizu ponašanja potencijalnih žrtava, izradu uvjerljivijih phishing poruka te automatizaciju različitih oblika internetskih prijevara.
Posebnu zabrinutost izaziva razvoj deepfake tehnologije koja omogućuje stvaranje iznimno uvjerljivih lažnih fotografija, videozapisa i audiozapisa. Takvi sadržaji mogu se koristiti za financijske prijevare, širenje dezinformacija, ucjene ili narušavanje nečijeg ugleda.
Istodobno, kriminalne skupine koriste umjetnu inteligenciju za proizvodnju nezakonitog sadržaja, uključujući materijale koji ozbiljno krše prava djece i drugih ranjivih skupina.
Pretjerano oslanjanje na AI može oslabiti ljudske vještine
Rizik ne dolazi samo od zlonamjerne uporabe tehnologije, nego i od pretjeranog oslanjanja na AI u svakodnevnom radu. U medicini postoji opasnost da liječnici počnu nekritički prihvaćati preporuke algoritama, zanemarujući vlastito iskustvo i kliničku procjenu.
Sličan trend vidljiv je i u obrazovanju, gdje sve više učenika i studenata koristi umjetnu inteligenciju za pisanje zadaća, eseja ili rješavanje zadataka. Takav pristup može dugoročno oslabiti sposobnost samostalnog razmišljanja, analize i rješavanja problema. Ako ljudi ključne odluke počnu prepuštati algoritmima, postavlja se pitanje koliko će biti spremni reagirati u situacijama kada tehnologija zakaže ili donese pogrešan zaključak.

Foto: Mohamed Nohassi-Unsplash
Etičke dvojbe postaju sve izraženije
Razvoj umjetne inteligencije otvara i brojna etička pitanja. Algoritmi koji personaliziraju sadržaj na društvenim mrežama i internetskim platformama korisnicima često prikazuju informacije koje potvrđuju njihove postojeće stavove. Takve takozvane informacijske čahure mogu dodatno produbiti društvene podjele i ograničiti izloženost različitim mišljenjima.
Kontroverze izaziva i praksa poznata kao diskriminacija cijena, pri kojoj internetske trgovine i digitalne platforme analiziraju ponašanje korisnika te različitim kupcima prikazuju različite cijene za isti proizvod ili uslugu.
Iako takve metode nisu uvijek nezakonite, mnogi stručnjaci smatraju da narušavaju načela pravednosti, transparentnosti i povjerenja.
Kako smanjiti rizike umjetne inteligencije?
Stručnjaci smatraju da je za sigurnu primjenu umjetne inteligencije potrebno istodobno razvijati tehnologiju i uspostavljati odgovarajuće regulatorne i etičke okvire. Na tehničkoj razini jedan od prioriteta jest razvoj transparentnijih AI sustava čiji će način donošenja odluka biti razumljiv i provjerljiv. Takvi modeli, poznati kao objašnjiva umjetna inteligencija (Explainable AI), trebali bi povećati povjerenje korisnika i olakšati otkrivanje pogrešaka.
Jednako je važno poboljšati kvalitetu podataka za treniranje modela, smanjiti pristranost algoritama te razvijati tehnologije artificial intelligence
koje bolje štite privatnost korisnika, poput federiranog učenja. Veliku pozornost potrebno je posvetiti i razvoju alata za otkrivanje deepfake sadržaja te sigurnosnih mehanizama u područjima poput autonomne vožnje, financijskih sustava i zdravstvenih aplikacija, gdje pogreške mogu imati ozbiljne posljedice.

Foto: Numan Ali – Unsplash
Uz tehnologiju moraju se razvijati i pravila
Osim tehnološkog napretka, ključnu ulogu imaju zakonodavstvo i obrazovanje. Stručnjaci zagovaraju jasna pravila za primjenu umjetne inteligencije u visokorizičnim područjima, uključivanje AI etike u obrazovni sustav te razvoj kritičkog razmišljanja kako bi korisnici bolje razumjeli mogućnosti, ali i ograničenja ove tehnologije. Važno je i jasno definirati odgovornost svih sudionika – od proizvođača AI sustava i programera do korisnika i regulatornih tijela – kako bi bilo jasno tko snosi posljedice u slučaju pogrešaka ili zlouporabe.
Umjetna inteligencija treba ostati alat, a ne donositelj odluka
Umjetna inteligencija već danas donosi brojne koristi i nastavit će mijenjati način na koji radimo, učimo i komuniciramo. Međutim, njezin razvoj ne smije biti vođen isključivo tehnološkim mogućnostima.
Jednako važni moraju biti sigurnost, transparentnost, zaštita privatnosti i etička odgovornost. Samo uravnoteženim pristupom moguće je osigurati da umjetna inteligencija ostane alat koji služi ljudima, a ne tehnologija čije bi posljedice mogle izmaknuti ljudskoj kontroli.
