Problem sam uočio u vrlo kratkom i jasno definiranom dijelu razgovora. Tema nije bila široka ni neodređena. Naprotiv, scenarij je bio precizno postavljen, a formulacije koje sam koristio bile su namjerno odmjerene.

U jednom ključnom trenutku napisao sam da Slack, u konkretnom poslovnom scenariju, može obrisati važne podatke nakon određenog vremena i time ih ukloniti i iz mog Pro okruženja. Dakle, jasno sam govorio o mogućnosti i riziku, a ne o nečemu što se događa nužno ili automatski u svakom slučaju.

Unatoč tome, AI model je moju tvrdnju u jednom dijelu odgovora preoblikovao kao da sam tvrdio nešto jače, praktično kao da govorim o nečemu što se događa nužno. To nisam napisao. To nije bila moja formulacija. To nije bio podatak iz razgovora. To je bio dodatak koji je model sam unio u interpretaciju.

Ključni problem

Tu dolazimo do ključnog problema. AI model nije samo pogriješio u nekoj sporednoj nijansi, nego je promijenio razinu tvrdnje. A to je u ozbiljnom radu vrlo opasno.

Razlika između riječi „može” i riječi „nužno” nije stilska razlika. To je razlika između procjene rizika i tvrdnje o sigurnoj činjenici.

U poslovnom, pravnom, tehničkom i upravljačkom kontekstu takva promjena može dovesti do potpuno pogrešnog zaključka.

Zašto je ovaj slučaj posebno važan

Ono što ovaj slučaj čini dodatno problematičnim jest činjenica da AI model za to nije imao opravdanje u kompleksnosti razgovora. Nije morao analizirati stotine stranica dokumentacije ni čitati golemu količinu teksta. Trebao je vrlo pažljivo pročitati samo zadnji, relativno kratak dio razgovora i vjerno prenijeti ono što je korisnik stvarno napisao.

Upravo zato ovaj slučaj smatram posebno važnim. Ako model može pogriješiti i u tako jednostavno ograničenom kontekstu, tada korisnik mora biti svjestan da slična pogreška može nastati i u mnogo osjetljivijim situacijama.

Tri razine problema

1. Činjenična razina

Kada AI model korisniku pripiše formulaciju koju korisnik nije napisao, tada odgovor više nije vjeran zapisu razgovora. Korisnik može steći dojam da model „sažima” ili „pojašnjava”, a u stvarnosti model mijenja sadržaj izvorne tvrdnje.

2. Interpretativna razina

Model ne mora izmišljati potpuno novi podatak da bi napravio ozbiljnu pogrešku. Dovoljno je da promijeni stupanj sigurnosti tvrdnje. Dovoljno je da od mogućnosti napravi navodnu nužnost, od procjene napravi zaključak ili od upozorenja napravi tvrdnju o općem pravilu.

3. Poslovna razina

Ako korisnik koristi AI model za analizu ugovora, procjenu rizika, tehničku dijagnostiku, regulatorni pregled ili stratešku odluku, tada ovakav tip pogreške može imati stvarne posljedice. Problem tada nije samo „netočan odgovor”, nego mogućnost da korisnik na temelju pogrešno interpretirane formulacije napravi krivi poslovni potez.

Zašto korisnik to možda neće odmah primijetiti

U ovom razgovoru ja sam taj problem detektirao zato što sam vrlo jasno znao što sam napisao i pratio sam formulacije kroz cijeli tijek rasprave. No to neće uvijek biti slučaj. Mnogi korisnici neće odmah primijetiti da im je AI model pripisao jaču ili drukčiju tvrdnju od one koju su stvarno napisali.

Upravo zato ovaj rizik smatram važnim za javno naglasiti.

Glavna poruka

Moja glavna poruka nije da AI modeli nisu korisni. Naprotiv, mogu biti vrlo korisni ako ubrzavaju analizu, provjeru i strukturiranje informacija. Ali ovaj slučaj pokazuje da AI model ne smije biti tretiran kao automatski vjeran tumač korisnikovih riječi.

Korisnik mora provjeravati ne samo vanjske činjenice i izvore, nego i to je li model točno prenio ono što je korisnik sam napisao.

Zaključak

Za mene je ovo jasan zaključak: jedan od stvarnih rizika upotrebe AI modela nije samo netočan podatak iz vanjskog izvora, nego i netočna interpretacija korisnikove vlastite tvrdnje unutar istog razgovora. Kada se to dogodi, model ne pomaže samo manje nego što bi trebao, nego aktivno unosi dodatni sloj nesigurnosti u komunikaciju.

Zato smatram da je važno jasno reći: rizik interpretacije je stvaran. AI model može korisniku pripisati formulaciju koju korisnik nije napisao. A kada se to dogodi, korisnik mora reagirati, ispraviti formulaciju i vratiti raspravu na točan zapis. U protivnom vrlo lako dolazi do toga da pogrešno interpretirana rečenica postane temelj za daljnje zaključke, a tada se mala greška pretvara u ozbiljan problem.