Continuate a confrontare il costo dei modelli AI come se il loro valore fosse il prezzo dei token? In pratica è come se steste scegliendo il chirurgo in base al costo dei guanti, ma scommetto che a molti di voi il dubbio non è mai ancora passato per la testa.
Pensateci bene, a voi e alle aziende che rappresentate non interessa veramente comprare token: interessa comprare risposte corrette.
Se un modello costa il doppio ma risolve il problema al primo tentativo, usa meno contesto, evita correzioni e completa il workflow con un risultato wow, sicuramente è più economico di quello low cost che fallisce tre volte e che vi richiede comunque molte rilavorazioni sul risultato.
È questo il punto centrale dell’ottimo articolo di Ben Thompson (che vi raccomando di leggere e che vi linko nei commenti).
Al di la di questa intuizione sul costo di token, l’articolo poi aggiunge altri spunti interessanti che vi consiglio di approfondire:
- il vantaggio competitivo, che non sarà il benchmark più alto ma il costo industriale necessario per produrre intelligenza;
- i modelli cinesi, che potrebbero non essere realmente più economici, ma semplicemente prezzati in modo aggressivo;
- il vero asset dei laboratori frontier, che non è il modello, ma la capacità di renderlo sempre più efficiente nel tempo
Insomma, fatevi una bella lettura e condividetela con i manager vostri amici, perchè salta fuori che stiamo discutendo dell’AI come cinquant’anni fa discutevamo del costo cemento e dell’acciaio come utility e come proxy per la capacità di una nazione di industrializzare.
Ma indovinate un po’? A noi non interessa un menga di quanto costano un sacco di cemento e una barra d’acciaio, se questo valore è preso in isolamento.
Ci interessa piuttosto che siano sufficientemente stabili dal punto di vista chimico e strutturalmente che se ci dobbiamo fare un viadotto sul Polcevera, fra trent’anni non ci casca (cazzo!) sulla testa!
È per questo motivo che fra qualche anno nessuno parlerà più di euro per milione di token. Parleremo di costo per contratto chiuso, bug risolto, ordine evaso, cliente servito.
Quindi, se oggi scegliete un modello guardando principalmente il prezzo dei token, secondo me non avete ancora capito cosa diamine state comprando.
Liberi di avere pure un’idea diversa dalla mia, ma allora per favore spiegatemi prima nei commenti perché dovrei scegliere il chirurgo che mi costa meno per unità di lavoro orario invece di quello che mi salva la vita.