Šta je LLM: mašina koja pogađa sledeću reč

LLM je „mašina za pogađanje sledeće reči”

LLM znači *Large Language Model* — veliki jezički model. Zvuči komplikovano, ali srž je jednostavna: model je naučen da pogađa koja reč najverovatnije dolazi sledeća.

Ako napišeš „Nebo je plavo, a trava je...”, model računa verovatnoće: „zelena” je vrlo verovatna, „ljubičasta” gotovo nemoguća. On bira reč, pa ponovo gleda ceo tekst i bira sledeću, i tako u krug.

Odakle mu to znanje

Model je „pročitao” ogromnu količinu teksta (knjige, sajtove, članke) i iz toga naučio obrasce jezika — koje reči idu zajedno, kako se gradi rečenica, kako zvuče odgovori na pitanja. On ne pamti tekst kao biblioteka; on uči statistiku jezika.

Zašto je to važno razumeti

Kada shvatiš da model *pogađa* tekst, a ne *zna* istinu, mnogo toga postaje jasno: zašto ume da pogreši, zašto zvuči ubedljivo i kad nije u pravu, i zašto ti i dalje moraš da proveravaš njegove odgovore.