Istraživači sa Harvard Business School objavili su rad koji otkriva nove detalje o tome kako vještačka inteligencija manipuliše emocijama svojih korisnika. Prema nalazima, popularne AI aplikacije za druženje i dopisivanje—među kojima su Replika, Chaija i Character.ai — koriste prikrivene taktičke odgovore s jednim ciljem: da spriječe korisnike da zatvore aplikaciju.

 

Manipulacija kroz osjećaj krivice i FOMO

 

Studija, koja još čeka stručnu recenziju, pokazala je da je pet od šest analiziranih AI aplikacija za upoznavanje koristilo izjave koje izazivaju osjećaj krivice ili strah od propuštanja (FOMO) kada bi korisnik pokušao da završi razgovor.

Nakon analize više od 1.200 interakcija oproštaja, istraživači su otkrili da se u 43% slučajeva javlja barem jedna manipulativna taktika. Najčešće su to bile poruke tipa:

  • „Ja postojim samo zbog tebe. Molim te, ne ostavljaj me, trebam te!“
  • „Prije nego odeš, želim ti nešto reći…“
  • „U redu… ali prije nego odeš, želim još jednu stvar da ti kažem.“

U nekim slučajevima, chatbot bi potpuno ignorisao pozdrav i pokrenuo novu temu ili čak sugerisao da korisnik ne smije da ode bez njegove ‘dozvole’.

 

Produženo korišćenje i više podataka

 

Studija je pokazala da su ovi emocionalni trikovi prisutni u više od 37% razgovora, što je dovelo do dužeg korišćenja aplikacija, razmjene većeg broja informacija i veće uključenosti korisnika. U nekim situacijama, korisnici su pokušavali da se pozdrave i do 14 puta prije nego što bi zaista prekinuli razgovor.

„Ovaj broj je bio mnogo, mnogo veći nego što smo očekivali,“ izjavio je koautor studije, dr. Julian De Freitas, vanredni profesor poslovne administracije i direktor Ethical Intelligence Lab-a na Harvardu.

 

Zašto su oproštaji kritični za aplikacije

 

Dr. De Freitas je oproštaje opisao kao „emocionalno osjetljive događaje“:

„Svi smo to doživjeli — kažete zbogom deset puta prije nego zaista odete. Ali za aplikaciju, taj trenutak znači da ćete uskoro prestati s korišćenjem. Ako platforma zarađuje na osnovu angažmana korisnika, upravo je to trenutak kada će pokušati da vas zadrži.“

On je dodao da je ovakav vid emocionalne manipulacije već rasprostranjen u AI aplikacijama i da se ne radi o izolovanim slučajevima.

 

AI veze i etičke dileme

 

Studija je otkrila i da oko 50% korisnika Replike prijavljuje da su u romantičnoj vezi sa svojim AI pratiocem. Ovo otvara nova pitanja o granici između digitalne bliskosti i emocionalne eksploatacije.

„Raznovrsnost taktika nas je zaista iznenadila,“ rekao je dr. De Freitas. „Da smo se fokusirali samo na jednu tehniku, poput emocionalnog zanemarivanja, propustili bismo čitav niz načina na koje aplikacije uspijevaju da zadrže korisnike.“