Sveprisutnost digitalnog nadzora i pametnih kamera u urbanim sredinama potaknula je njemačkog umjetnika i konceptualnog dizajnera Simona Weckerta na stvaranje jedinstvenog odgovora – majice pod nazivom “Digital Camouflage”. Ovaj odjevni predmet koristi pažljivo konstruirane uzorke interferencije dizajnirane s ciljem izravnog ometanja mehanizama za prepoznavanje ljudi unutar sustava računalnog vida. Nosite li ovu majicu, sustavi umjetne inteligencije koji analiziraju videozapis u stvarnom vremenu prestaju vas prepoznavati kao ljudsko biće, što je izazvalo žestoke rasprave u tehnološkoj zajednici i među zagovornicima digitalne privatnosti.
Sodobne nadzorne kamere opremljene algoritmima dubokog učenja oslanjaju se na detekciju ciljeva kako bi trenutačno identificirale ljudske konture, označile subjekte i pratile njihovo kretanje. Osnovni koncept Weckertove digitalne kamuflaže počiva na napadu suparničkim primjerima (engl. adversarial attack) na logiku ekstrakcije značajki unutar modela strojnog učenja. Posebno raspoređeni geometrijski uzorci i teksture otisnuti na tkanini stvaraju zbrku unutar konvolucijskih neuronskih mreža u trenutku obrade kadra. Algoritam zbog stvorenog šuma ne može klasificirati oblike i linije kao ljudsku figuru, pa sustav praćenja u potpunosti ignorira osobu, ostvarujući efekt fizičkog algoritamskog maskiranja bez potrebe za ometanjem samog hardvera.
Foto: www.simonweckert.com
Za razliku od tradicionalnih pasivnih metoda poput nošenja maski, kapa ili prekrivanja lica, ovaj pristup izravno iskorištava kognitivne slijepe točke računalnog vida. Umjesto fizičkog skrivanja, majica manipulira matematičkim modelom koji interpretira sliku, pogađajući temeljne ranjivosti u načinu na koji umjetna inteligencija uči prepoznavati objekte.
Foto: www.simonweckert.com
Ovo nije prvi put da Weckert putem kreativnih inženjerskih eksperimenata ukazuje na krhkost digitalnog društva. Prije nekoliko godina privukao je pozornost javnosti kada je ulicama Berlina vukao kolica sa 99 rabljenih pametnih telefona s uključenom navigacijom. Golema količina geolokacijskih podataka prikupljena na jednom mjestu zavarala je algoritam Google Mapsa, koji je pustu ulicu u aplikaciji označio tamnocrvenom bojom kao područje s teškim zastojem u prometu te preusmjerio stvarna vozila na okolne rute.
Od prometnih kartografskih sustava do sustava za prepoznavanje lica i tijela, Weckertovi projekti dosljedno preispituju mjeru u kojoj automatizirani algoritmi upravljaju ljudskom svakodnevicom. Kako se društvo sve više oslanja na autonomne sustave za donošenje odluka o sigurnosti, majica s digitalnom kamuflažom funkcionira i kao tehnološki demonstrator i kao upozorenje – pokazujući da i najnaprednije algoritamske arhitekture posjeduju ranjivosti koje se mogu reverznim inženjeringom zloupotrijebiti ili zaobići.
