Europska komisija optužila je TikTok za kršenje odredbi Zakona o digitalnim uslugama (DSA). U središtu istrage nalazi se algoritam za preporuku sadržaja koji bi mogao negativno utjecati na mentalno zdravlje korisnika, posebno djece i tinejdžera. Ako TikTok ne poduzme odgovarajuće korektivne mjere, njegova matična kompanija ByteDance mogla bi se suočiti s kaznom u iznosu do 6 posto ukupnih godišnjih globalnih prihoda.

Europska komisija objavila je preliminarne rezultate istrage u kojoj je analizirala način na koji TikTok preporučuje sadržaj svojim korisnicima. Posebnu pozornost regulatora privukao je mehanizam poznat kao efekt „zečje rupe”. Riječ je o načinu rada algoritma koji korisnicima neprestano prikazuje slične videozapise, potičući ih da nastave gledati sadržaj i provode sve više vremena u aplikaciji.

Prema procjeni Europske komisije, dosadašnje mjere koje je TikTok uveo nisu dovoljno učinkovite u smanjenju rizika povezanih s takvim načinom preporučivanja sadržaja. Problem je posebno izražen kada algoritam korisnicima kontinuirano prikazuje videozapise povezane s tugom, osjećajem izoliranosti, negativnom slikom o vlastitom tijelu ili drugim osjetljivim temama. Takav obrazac preporuka mogao bi negativno utjecati na mentalno zdravlje, osobito kod mlađih korisnika.

Foto: wallpapercave.com

Algoritam koji korisnike uvlači u beskonačan krug sadržaja


Jedan od glavnih problema koji je Europska komisija istaknula odnosi se na način na koji TikTokov algoritam reagira na ponašanje korisnika. Svako gledanje videozapisa, označavanje sadržaja oznakom sviđanja ili zadržavanje na određenoj objavi daje algoritmu dodatne informacije o interesima korisnika. Na temelju tih podataka sustav zatim preporučuje sve više sličnog sadržaja. Takav pristup može stvoriti zatvoren krug u kojem korisnik neprestano dobiva videozapise iste ili slične tematike. S vremenom se izbor sadržaja može sve više sužavati, dok korisnik sve teže dolazi do drugačijih perspektiva i tema. Henna Virkkunen, povjerenica Europske komisije zadužena za tehnološku politiku, upozorila je na taj problem.

„Svaki put kada korisnik na TikToku pomakne zaslon ili označi videozapis oznakom sviđanja, algoritam mu nastavlja nuditi sličan sadržaj i tako ga uvlači u ‘zečju rupu’ iz koje je teško izaći”, izjavila je Virkkunen, prema izvješću Reutersa.

Prema stajalištu europskih regulatora, takav sustav preporuka može imati ozbiljne posljedice kada se primjenjuje na osjetljive teme i ranjive skupine korisnika.

EU traži promjene u načinu rada TikToka


Na temelju preliminarnih nalaza istrage Europska komisija od TikToka zahtijeva konkretne promjene u načinu rada algoritma. Jedan od glavnih zahtjeva odnosi se na redizajn feeda „Za vas”, koji predstavlja središnji dio korisničkog iskustva na platformi. Europski regulatori žele da TikTok smanji ovisnost sustava preporuka o automatskom prepoznavanju interesa na temelju ponašanja korisnika te poveća utjecaj njihovih izričitih odabira i preferencija. Osim toga, Komisija traži poboljšanje alata koji korisnicima omogućuju kontrolu nad sadržajem koji gledaju. Ti alati trebali bi biti jednostavniji za korištenje i lakše dostupni unutar aplikacije. Od TikToka se također očekuje redovito testiranje algoritma kako bi se na vrijeme prepoznali potencijalni rizici i spriječile negativne posljedice za korisnike. Drugim riječima, EU želi da TikTok preuzme veću odgovornost za način na koji njegov algoritam oblikuje sadržaj koji svakodnevno dolazi do milijuna ljudi.

Foto: wallpapercave.com

TikTok odbacuje optužbe Europske komisije


TikTok se ne slaže s preliminarnim zaključcima europskih regulatora. Predstavnici kompanije tvrde da procjena Europske komisije ne odražava pravilno tehničku strukturu platforme te odbacuju tvrdnje da ne poduzimaju dovoljno kako bi zaštitili korisnike. Iz kompanije ističu da već imaju uspostavljene mehanizme za zaštitu zajednice i alate koji korisnicima omogućuju aktivnije upravljanje sadržajem koji im se prikazuje. TikTok smatra da korisnicima pruža mogućnost prilagodbe vlastitog iskustva unutar aplikacije te da postojeći sustavi zaštite već imaju važnu ulogu u kontroli sadržaja. Ipak, Europska komisija očito smatra da dosadašnje mjere nisu dovoljne i da je potrebno dodatno prilagoditi način rada algoritma. Važno je napomenuti da se trenutačno radi o preliminarnim nalazima istrage, a ne o konačnoj odluci o kršenju zakona. TikTok će imati mogućnost odgovoriti na utvrđene primjedbe i iznijeti svoje argumente.

Što TikToku prijeti prema Zakonu o digitalnim uslugama?


Istraga se provodi na temelju europskog Zakona o digitalnim uslugama (Digital Services Act – DSA), koji velikim internetskim platformama nameće strože obveze u pogledu sigurnosti korisnika i upravljanja sadržajem. DSA od najvećih digitalnih platformi zahtijeva da prepoznaju, procjenjuju i smanjuju sistemske rizike koji proizlaze iz načina na koji njihove usluge funkcioniraju. To uključuje i rizike povezane s mentalnim zdravljem, zaštitom djece, širenjem nezakonitog sadržaja i načinom na koji algoritmi utječu na ponašanje korisnika. U slučaju TikToka, Europska komisija smatra da način rada sustava preporuka može predstavljati ozbiljan rizik koji zahtijeva dodatne mjere zaštite. Ako se utvrdi kršenje obveza iz DSA-a, kompanija se može suočiti s novčanom kaznom do 6 posto ukupnog godišnjeg globalnog prihoda. Budući da je ByteDance matična kompanija TikToka, financijske posljedice mogle bi biti vrlo značajne.

TikTok nije jedina platforma pod povećalom EU-a


Ovo nije prvi put da Europska komisija istražuje način na koji TikTok funkcionira. Ranije tijekom godine europski regulatori objavili su preliminarne nalaze povezane s drugim elementima dizajna platforme. Među njima su značajke koje potiču dugotrajno korištenje aplikacije, zaštita djece i ograničenja pristupa podacima za neovisne istraživače.

Posebnu zabrinutost izazivaju elementi dizajna koji mogu poticati kompulzivno korištenje društvenih mreža. Beskonačno pomicanje sadržaja, automatska reprodukcija videozapisa i personalizirane preporuke samo su neki od mehanizama koji mogu potaknuti korisnike da ostanu u aplikaciji dulje nego što su prvotno planirali.

Foto: wallpapercave.com

Europska komisija ne ograničava svoje aktivnosti samo na TikTok.

U tijeku je i zasebna istraga kompanije Meta, koja obuhvaća Facebook i Instagram. Regulatori žele utvrditi stvaraju li njihovi sustavi preporuka sličan efekt „zečje rupe” i predstavljaju li rizik za mentalno zdravlje korisnika.

Počinje li EU ozbiljnije regulirati algoritme društvenih mreža?


Najnoviji slučaj pokazuje da se pozornost europskih regulatora sve više usmjerava na samu tehnologiju koja pokreće društvene mreže. Dosad se velik dio rasprave o sigurnosti na internetu odnosio na uklanjanje nezakonitog sadržaja, govor mržnje i zaštitu osobnih podataka. Međutim, sve veći naglasak stavlja se na način na koji algoritmi odabiru, rangiraju i preporučuju sadržaj. To je posebno važno jer algoritmi ne određuju samo što će korisnici vidjeti, već u velikoj mjeri oblikuju i njihovo iskustvo korištenja platforme. TikTok je popularnost izgradio upravo na iznimno učinkovitom sustavu personaliziranih preporuka. Njegov feed „Za vas” može vrlo brzo prepoznati interese korisnika i ponuditi sadržaj koji će ih zadržati u aplikaciji.

No upravo je ta učinkovitost sada postala predmet regulatornog nadzora. Europska komisija želi osigurati da tehnološke kompanije ne mogu opravdavati potencijalno štetne posljedice svojih algoritama samo tvrdnjom da sustavi preporuka korisnicima prikazuju sadržaj koji ih zanima. Za TikTok bi to moglo značiti značajne promjene u načinu rada jedne od njegovih najvažnijih funkcija. Za ostatak tehnološke industrije riječ je o još jednom upozorenju da će se odgovornost za dizajn algoritama i zaštitu korisnika u Europskoj uniji sve ozbiljnije nadzirati.