Kako se sve više kompanija odlučuje na implementaciju modela umjetne inteligencije otvorene težine (open-weight AI), potaknute visokom fleksibilnošću i mogućnošću lokalne prilagodbe, sigurnosni izazovi i rizici dosegnuli su novu razinu. Kao odgovor na ove prijetnje, Microsoft i NVIDIA zajednički su objavili sveobuhvatan vodič pod nazivom „Upravljanje rizicima za modele otvorene težine u tvrtkama”. Ovaj važan dokument sustavno kategorizira sigurnosne prijetnje s kojima se organizacije mogu suočiti u 5 glavnih kategorija i 30 specifičnih vrsta rizika, a objavljen je kao otvoreni kod na GitHubu kako bi tvrtkama diljem svijeta pomogao uspostaviti pouzdane mehanizme zaštite.

Pet ključnih područja rizika: Od zlonamjernog koda do odmetnutih AI agenata


U uvodu smjernica ističe se kako otvorenost težina modela sama po sebi nije dovoljan pokazatelj ukupne razine rizika. Tvrtke moraju provesti detaljnu procjenu koja uzima u obzir konkretan slučaj upotrebe, način implementacije i prateću arhitekturu zaštite. Svih 30 identificiranih rizika svrstano je u pet ključnih domena:

  • Kibernetička sigurnost: Uključuje prijetnje poput generiranja ranjivog ili zlonamjernog programskog koda, napada s ciljem krađe samog modela te propuste u izolaciji podataka unutar višezakupanskih okruženja.
  • Zaštita podataka: Fokusira se na rizike od curenja osjetljivih podataka korištenih za treniranje ili povjerljivih informacija krajnjih korisnika.
  • Upravljanje sadržajem: Obuhvaća generiranje i širenje neprikladnog, štetnog ili protuzakonitog sadržaja.
  • Interakcija čovjeka i umjetne inteligencije: Posebno se osvrće na popularne AI agente i opasnosti poput neovlaštenog pozivanja vanjskih alata te dodjeljivanja pretjeranih korisničkih dopuštenja.
  • Pristranost i pravednost: Analizira diskriminirajuće, nereprezentativne ili nepravedne ishode modela u specifičnim poslovnim scenarijima.

Tri zlatna pravila za korporativnu implementaciju


Kako bi se rizici sveli na minimum, Microsoft i NVIDIA izdvojili su ključne preporuke za najbolje prakse:

  • Obavezno ponovno testiranje nakon prilagodbe: Svako fino podešavanje (fine-tuning), kvantizacija ili spajanje modela može narušiti postojeće sigurnosne zaštite. Čak i ako model naizgled ispravno obavlja zadatak, sigurnost se mora ponovno provjeriti prije puštanja u produkciju.
  • Provjera integriteta i slojevita obrana: Prilikom preuzimanja modela iz vanjskih izvora nužno je provjeriti njihov integritet pomoću digitalnih potpisa. Budući da otvoreni modeli često nemaju ugrađene sve sigurnosne mehanizme, tvrtke moraju implementirati vlastitu kontrolu pristupa, filtriranje ulaza i izlaza te jasnu podjelu odgovornosti s pružateljima cloud usluga.
  • Kontinuirano praćenje i prilagodba: Sigurnost ne završava implementacijom. Potrebno je neprestano pratiti ulazne podatke, izlaze i korištenje alata te pravovremeno reagirati na nove oblike napada i ranjivosti u izvršnom okruženju.

Foto: Microsoft

Usklađivanje s globalnim standardima i pogled u budućnost


Objavljene smjernice duboko se oslanjaju na međunarodne norme kao što su ISO/IEC 23894, ISO/IEC 42001, ISO/IEC 42005, kao i na okvir za upravljanje rizicima američkog instituta NIST, što organizacijama olakšava njihovu integraciju u postojeće sigurnosne protokole. Ovaj dokument tek je početak. Microsoft i NVIDIA najavili su da će u idućoj fazi predstaviti cjelovit operativni okvir koji pokriva izvršno okruženje modela, integraciju s vanjskim alatima te sam aplikacijski sloj.

Kao što je ranije istaknuo i Microsoftov CEO Satya Nadella, naglašavajući da se svaki AI agent mora tretirati kao potencijalna „unutarnja prijetnja”, cjelokupna tehnološka industrija radikalno mijenja fokus. Slijepo natjecanje za performansama i otvorenošću sada ustupa mjesto strogoj upravljivosti, kibernetičkoj sigurnosti i odgovornom upravljanju na razini poduzeća