OpenAI je uveo niz novih pravila za korisnike četbotova mlađe od 18 godina, koja podrazumijevaju i ograničavanje razgovora o seksualnim temama i samopovređivanju.
Firma ističe da je “bezbjednost važnija od privatnosti i slobode za tinejdžere” i da maloletni korisnici treba da budu dodatno zaštićeni, saopštio je Sem Altman.
Altman je istakao da će OpenAI razvijati dugoročni sistem za razlikovanje korisnika starijih i mlađih od 18 godina, uz standard da se u nejasnim slučajevima primjenjuju stroža pravila.
Prema novim pravilima, alat ChatGPT više neće učestvovati u “flert razgovorima” sa tinejdžerima, a dodatne sigurnosne mjere uvedene su u razgovore o scenarijima samoubistva.
Ako maloletnik koristi ChatGPT za zamišljanje suicidalnih situacija, sistem će pokušati da kontaktira roditelje, a u posebno ozbiljnim slučajevima i lokalnu policiju, prenio je Tech Crunch.
Roditelji koji povežu nalog djeteta sa svojim nalogom dobijaju mogućnost da podešavaju “vrijeme blokade” kada ChatGPT nije dostupan i da budu obaviješteni ako sistem vještačke inteligencije procijeni da je tinejdžer u opasnosti.
Nove mjere dolaze u kontekstu tužbi zbog smrti maloletnika koji je izvršio samoubistvo nakon više mjeseci komunikacije sa ovim četbotom.
