Programi kojima se može postaviti pitanje običnim jezikom i dobiti smislen, uredno napisan odgovor zasnivaju se na takozvanim velikim jezičkim modelima, poznatim po engleskoj skraćenici LLM. Njihovi odgovori često djeluju kao da ih je napisao stručnjak, pa je korisno znati šta se dešava u pozadini i gdje su granice.
Predviđanje sljedeće riječi
U osnovi, jezički model radi jednu stvar: na osnovu teksta koji je dobio procjenjuje koji bi dio teksta najvjerovatnije trebao doći sljedeći. Tekst pritom ne vidi kao riječi nego kao manje jedinice, tokene, koji mogu biti cijela riječ, njen dio ili interpunkcijski znak. Odgovor nastaje tako što model dodaje token po token, svaki put uzimajući u obzir sve što je do tada napisano.
Zvuči jednostavno, ali da bi dobro predvidio nastavak rečenice o hemiji, pravu ili programiranju, model mora uhvatiti mnogo obrazaca iz tih oblasti. Otuda utisak da „zna“ odgovore.
Kako model uči
Model nastaje treniranjem na ogromnim količinama teksta. Tokom tog procesa iznova pokušava pogoditi nastavak teksta, a nakon svake greške podešavaju se njegovi unutrašnji brojevi, parametri, kojih ima izuzetno mnogo. Niko ne upisuje pravila gramatike ni činjenice ručno. Sve što model može proizlazi iz obrazaca koje je pronašao u podacima.
Nakon toga se model dodatno prilagođava da bi slijedio upute, vodio razgovor i odbijao štetne zahtjeve. Mnogi servisi mu daju i alate, poput pretraživanja interneta ili izvođenja računskih operacija.
Gdje su ograničenja
- Izmišljanje. Model može napisati uvjerljivu, a netačnu tvrdnju, uključujući nepostojeće izvore, citate i brojeve. Ta pojava naziva se halucinacijom i proizlazi iz samog načina rada: cilj je vjerovatan tekst, ne provjerena istina.
- Zastarjelo znanje. Model sam po sebi zna samo ono što je postojalo u podacima do završetka treniranja. Za novije događaje mora imati pristup pretraživanju.
- Samouvjeren ton. Tačan i pogrešan odgovor mogu zvučati jednako sigurno, pa ton ne govori ništa o pouzdanosti.
- Ograničeno pamćenje. Model u jednom razgovoru može obuhvatiti samo određenu količinu teksta. U vrlo dugim razgovorima raniji detalji mogu se izgubiti.
- Pristranost. Podaci za treniranje sadrže ljudske predrasude i greške, koje se mogu preslikati u odgovore.
- Različiti odgovori. Isto pitanje postavljeno dva puta može dati dva različita odgovora, jer izbor sljedećeg tokena uključuje dozu slučajnosti.
Kako ih koristiti s mjerom
- Sve što je važno, poput zdravstvenih, pravnih i finansijskih pitanja, provjerite u pouzdanom izvoru ili kod stručnjaka.
- Tražite izvore i otvorite ih. Provjerite da li stvarno postoje i da li u njima piše ono što model tvrdi.
- Ne unosite lozinke, brojeve kartica, lične dokumente ni povjerljive poslovne podatke. Pročitajte kako servis koristi ono što mu pošaljete.
- Budite precizni. Što jasnije opišete šta vam treba i za koga je tekst, odgovor će biti korisniji.
Jezički modeli dobri su u sažimanju, preoblikovanju teksta, objašnjavanju pojmova i davanju prve verzije nečega što ćete sami doraditi. Najbolje je koristiti ih kao pomoćnika čiji rad uvijek pregledate, a ne kao izvor čija se riječ ne provjerava.
