Olimpo Informatico

[Zeus News]

Leggi l'articolo Arriva Opus 5.5, con prestazioni di livello Fable e prezzi ridotti del 40%
È la risposta di Anthropic al modello Astra di OpenAI.


 
Immagine: Anthropic
 

Segnala un refuso

[zeross]

una finestra di contesto di 200.000 token quanto mi costa a me utilizzatore?
E quanto mi farebbe risparmiare rispetto ad un lavoro eseguito senza IA?
E quanto sarebbe affidabile il lavoro prodotto?

Anthropic mi dice, come l'oste, che il suo prodotto è buono, fantastico, superlativo, ma elementi oggettivi valutati da soggetti terzi che certifichino questo dove sono?

[{haystack}]

Anthropic si è accorta che Fable le faceva perdere clienti ed è corsa ai ripari, altro che competizione con Astra fantasma.
Le Big Tech sono specializzate nel nascondere i problemi e in sparate di marketing al limite del ridicolo, ma che evidentemente per molti sono verità.
La finestra effettiva di Opus 5.5 è 1.000.000 di token con un output massimo di 128.000 token.
Ma più importante della grandezza, tanto cara ai markettari, ma che sta facendo infuriare i power user, è il cosiddetto "Lost in the Middle", cioè la curva di performance segue una forma a U: i modelli ricordano bene ciò che sta all'inizio e alla fine della finestra, ma perdono informazioni nel mezzo.
Poi c'è l'Attention, cioè in sintesi, i token irrilevanti annegano quelli importanti, con conseguenze che vanno dal ridicolo al tragico.
E poi trionfalmente c'è il Multi-Needle, vale a dire che un modello può trovare un fatto singolo in 1.000.000 di token, ma poi fallisce se deve recuperare 3-4 fatti diversi sparsi nello stesso contesto, e magari si inventa cose.
Sono queste le cose importanti, insieme ad altre, di cui anche gli antropici si guardano bene dal parlarne in pubblico.