01
L'analogia
È come ordinare un piatto a un cuoco. Con temperatura bassa, segue la ricetta alla lettera: il piatto esce uguale ogni volta. Con temperatura alta, improvvisa: a volte crea qualcosa di geniale, a volte un disastro interessante.
02
Nel dettaglio
La temperatura è un parametro (di solito tra 0 e 2) che modifica la distribuzione di probabilità nella scelta di ogni token. Vicino a 0, il modello sceglie quasi sempre l'opzione più probabile: risposte coerenti e prevedibili. Con valori alti la probabilità si distribuisce: più varietà, più creatività e più rischio di errori.
03
Un esempio
Per estrarre date da una fattura, temperatura 0. Per proporre venti nomi per la tua caffetteria, temperatura alta. Stesso modello, regolazione diversa.