ChatGPT dobio Lockdown Mode: Nova linija odbrane od AI bezbjednosnih prijetnji

 

OpenAI je predstavio novu bezbjednosnu funkciju za ChatGPT pod nazivom Lockdown Mode (Način zaključavanja), osmišljenu kako bi korisnicima i organizacijama pružila dodatni nivo zaštite od sve češćih napada poznatih kao prompt injection. Nova opcija dostupna je za širok spektar korisnika, uključujući besplatne i pretplatničke naloge, kao i poslovne i korporativne radne prostore.

Funkcija je zamišljena kao dodatni zaštitni sloj za situacije u kojima korisnici obrađuju osjetljive informacije, poslovnu dokumentaciju ili povjerljive podatke putem ChatGPT-a.

 

Šta je Lockdown Mode i kako funkcioniše?

 

Lockdown Mode ne pokušava da spriječi pojavljivanje zlonamjernih instrukcija unutar sadržaja koji AI obrađuje. Umjesto toga, njegova glavna svrha je da spriječi potencijalno curenje podataka nakon što takve instrukcije pokušaju da utiču na ponašanje modela.

Prema OpenAI-u, ova funkcija ograničava odlazne mrežne zahtjeve koji bi mogli biti iskorišteni za slanje podataka napadaču. Drugim riječima, čak i ako AI obradi kompromitovan sadržaj, mogućnost prenosa osjetljivih informacija prema spoljnim servisima značajno je smanjena.

Ovakav pristup predstavlja važnu promjenu u strategiji zaštite AI sistema, jer se fokusira na posljednju i najopasniju fazu napada – iznošenje podataka iz sistema.

 

Šta su prompt injection napadi?

 

Prompt injection napadi predstavljaju jednu od najvećih bezbjednosnih prijetnji za moderne AI sisteme. Oni se dešavaju kada napadač sakrije zlonamjerne instrukcije unutar sadržaja koji model obrađuje.

Takav sadržaj može biti:

  • web stranica,
  • PDF dokument,
  • tekstualna datoteka,
  • tabela,
  • e-mail poruka,
  • poslovni dokument ili baza podataka.

Ako AI sistem ne prepozna manipulaciju, može promijeniti svoje ponašanje, zanemariti originalne instrukcije korisnika ili pokušati pristupiti podacima kojima inače ne bi trebalo da raspolaže.

Zbog sve veće upotrebe AI alata u poslovnom okruženju, stručnjaci za sajber bezbjednost smatraju prompt injection jednim od ključnih izazova u narednim godinama.

 

Koje funkcije ChatGPT-a postaju ograničene?

 

Kada korisnik aktivira Lockdown Mode, određene funkcije koje zavise od interneta ili eksternih servisa postaju djelimično ili potpuno nedostupne.

Ograničeno pregledavanje interneta

Pregledavanje weba više ne koristi sadržaj u realnom vremenu, već se oslanja na keširane podatke. Zbog toga rezultati mogu biti nepotpuni ili zastarjeli.

Deep Research i Agent Mode nisu dostupni

Napredni alati poput Deep Research-a i Agent Mode-a potpuno se onemogućavaju tokom rada u Lockdown Mode-u. To znači da ChatGPT ne može samostalno istraživati internet niti izvršavati složenije zadatke koji zahtijevaju pristup spoljnim izvorima.

Onemogućeno preuzimanje datoteka

ChatGPT više ne može preuzimati datoteke sa interneta radi analize podataka. Međutim, korisnici i dalje mogu ručno otpremati dokumente i datoteke za obradu.

 

Uticaj na integracije i poslovne alate

 

Nova bezbjednosna opcija utiče i na različite aplikacije, konektore i integracije trećih strana.

Za lične naloge i samouslužne ChatGPT Business korisnike određene sinhronizovane funkcije nastavljaju da rade, ali su:

  • konektori uživo blokirani,
  • radnje koje uključuju upisivanje podataka onemogućene,
  • agent funkcije za kupovinu nedostupne,
  • finansijske integracije privremeno deaktivirane.

Ove mjere dodatno smanjuju mogućnost da kompromitovan sadržaj utiče na spoljne sisteme ili poslovne procese.

 

Funkcije koje ostaju dostupne

 

Iako Lockdown Mode uvodi brojna ograničenja, neke od najpopularnijih ChatGPT mogućnosti ostaju nepromijenjene.

Aktiviranje ove opcije ne utiče na:

  • memoriju razgovora,
  • dijeljenje konverzacija,
  • generisanje slika,
  • korišćenje razgovora za unapređenje AI modela (u skladu s korisničkim postavkama),
  • mrežni pristup unutar Codex okruženja.

OpenAI navodi da je cilj zadržati što više korisničkog iskustva, uz istovremeno povećanje nivoa zaštite.

 

Lockdown Mode i Developer Mode ne mogu raditi zajedno

 

Važno ograničenje odnosi se na kompatibilnost s Developer Mode-om. Korisnici ne mogu koristiti obje funkcije istovremeno.

Aktiviranje Lockdown Mode-a automatski isključuje Developer Mode i obrnuto. Razlog za to je činjenica da razvojni režim omogućava širi pristup alatima i funkcijama koje bi mogle umanjiti nivo zaštite koji Lockdown Mode pokušava da obezbijedi.

 

Kako uključiti Lockdown Mode?

 

Korisnici koji imaju podržane lične ili poslovne naloge mogu aktivirati novu funkciju kroz nekoliko jednostavnih koraka:

  • Otvorite ChatGPT.
  • Uđite u Postavke.
  • Izaberite Sigurnost.
  • Otvorite opciju Napredna sigurnost.
  • Aktivirajte Lockdown Mode.

 

Zašto je ova funkcija važna?

 

Uvođenje Lockdown Mode-a pokazuje da OpenAI sve više pažnje posvećuje bezbjednosti AI sistema, posebno u poslovnim okruženjima gdje se svakodnevno obrađuju povjerljivi podaci.

Kako kompanije sve češće integrišu generativnu vještačku inteligenciju u svoje procese, raste i potreba za zaštitom od sofisticiranih napada koji ciljaju upravo AI modele. Lockdown Mode predstavlja jedan od prvih pokušaja da se rizik od curenja podataka sistemski smanji bez potpunog onemogućavanja rada chatbota.

Očekuje se da će slični mehanizmi zaštite u budućnosti postati standard ne samo za ChatGPT, već i za druge AI platforme koje koriste internet, dokumente i spoljne servise za izvršavanje zadataka.