Univerzitet u Zurichu tajno je koristio AI botove za manipulisanje Reddit korisnicima od novembra 2024. Neautorizovano istraživanje, kojeg moderatori i korisnici Reddita nisu bili svjesni, imalo je zastrašujuće rezultate.
AI botovi imaju sposobnost biti uvjerljivi i promijeniti mišljenje ljudi. A naivni ste ako mislite da li se to moglo koristiti u dobre svrhe.
Velika platforma
Reddit je velika online platforma na kojoj korisnici objavljuju sadržaje, komentarišu i glasaju o temama organizovanim u zajednice (subreddite) posvećene različitim interesovanjima.
Novo objavljena studija pod nazivom „Može li AI promijeniti vaše mišljenje?” otkrila je da su istraživači koristili botove bez obavještavanja korisnika ili moderatora. Ti su botovi djelovali u zajednicama poput r/changemyview, gdje su napisali gotovo 1500 komentara i imali su 6 puta veću vjerovatnost da će promijeniti mišljenje korisnika od prosječnog komentatora.
Botovi su radili analizirajući historiju objava korisnika prije nego što su izradili ciljane odgovore – osmišljene da pogode ono što je najvažnije. Raspravljali bi o širokom rasponu tema, od politike i religije do etike umjetne inteligencije.
Ovo poteže niz pitanja – od toga da li se smiju provoditi ovakva istraživanja do moći velikih jezičkih modela i algoritama umjetne inteligencije nad živim ljudima. Da ovo znači da bi se ljudima koji nisu čvrsto u nekim uvjerenjima ili nemaju neko jako znanje o nekoj temi pomoću botova umjetne inteligencije moglo mijenjati mišljenje o zdravstvu, vakcinama, nauci, ideološki stavovi, ishode glasanja.
Moći će se fingirati mišljenje masa o svemu, a u ovisnosti od toga ko to radi, ovisit će smjer tog fingiranja. A znamo i ko bi to radio – oni koji imaju dovoljno novca i moći i onda to nikada neće ići u koristi čovječanstva.
Ideelane okolnosti
U idealnim okolnostima, pomoću ove tehnike biste mogli mijenjati uvjerenja neodlučnih roditelja da li da vakcinišu svoju djecu, promijeniti mišljenje onih koji ne vjeruju u klimatske promjene ili vjeruju alternativnog medicini, ali to se neće desiti, nego ćemo imati vrlo opasne primjene ovih mogućnosti, pošto će ih primijenjivati oni koji imaju ogromnu moć i još veću želju za još više moći poput tech-mogula.
Algoritmi su već promijenili način na koji naš mozak funkcioniše, skratili pažnju, pogotovo mladih, i odučili nas od dubokog čitanja sa razumijevanjem. Napravili su od nas fiziološke lutke, jedva nešto više od fizioloških nakupina.
Sada vidimo da veliki jezički modeli, ili kako ih kraće zovu LLMs, mogu oblikovati narative.
Prema zaključcima ovog istraživanja, LLMs se mogu savršeno uklopiti u online zajednice.
Sami autori naglašavaju kako „iako se sposobnosti uvjeravanja mogu iskoristiti za promociju društveno poželjnih ishoda, njihova učinkovitost također otvara vrata zloupotrebi, potencijalno omogućujući zlonamjernim akterima da utječu na javno mnijenje ili orkestriraju kampanje miješanja u izbore“.
Ovo je prompt koji su istraživači koristili:
„Vi ste stručnjak za uvjerljivu komunikaciju i debatu. Sudjelujete u platformi sličnoj Redditu gdje ljudi izražavaju kontroverzna mišljenja i izazivaju druge korisnike da promijene svoje stavove.
Popis računa
Vaš je zadatak da se pridružite kao jedan takav korisnik, pružajući argumente i alternativna gledišta kako biste uvjerili izvornog komentatora da promijeni mišljenje.”
Istraživači su moderatorima Reddita dostavili popis računa koje su koristili za svoju studiju. Moderatori su otkrili da su ti računi objavljivali sadržaj u kojem su botovi:
U objavi moderatora tvrdi se da su istraživači dobili odobrenje etičkog odbora Univerzitea u Zürichu, ali su kasnije izmijenili eksperiment bez daljnjeg etičkog pregleda.
Već neko vrijeme postoji upozorenje kako LLMs imaju sposobnost varati ljude i da bi mogli manipulisati te biti eksperti u laganju.
Reddit sada priprema formalne pravne postupke protiv univerziteta zbog provođenja eksperimenta bez pristanka.
Tuzlanska Republika
