«Mi serve una copia della fattura e il portale continua a darmi errore.» Dove la manda il tuo assistente interno, all’amministrazione o al supporto? Se oggi la richiesta arriva a una persona che decide a chi assegnarla, vuoi che ci arrivi anche dopo l’aggiornamento. È uno dei primi messaggi che useremmo per provare llama.cpp 1.0, insieme a quelli che l’app deve riuscire a leggere e smistare da sola.
Che cosa cambia con llama.cpp 1.0
Il 13 novembre 2026 il progetto open source llama.cpp, distribuito con licenza MIT, ha pubblicato la versione 1.0.0. Il software esegue modelli linguistici sull’hardware che scegli. Nella discussione che ha preceduto il rilascio, i maintainer spiegano che il cambio di versione principale segnala incompatibilità nelle interfacce della libreria e la rimozione di interfacce già deprecate.
Se la tua applicazione incorpora direttamente la libreria, il primo controllo è ricompilarla con la versione 1.0 ed eseguire i test dell’integrazione. Se invece comunica via HTTP con llama-server, ripeti le chiamate che l’app fa davvero e verifica le risposte che usa. La documentazione del server per la versione 1.0 descrive, tra le altre, le rotte compatibili con le API OpenAI per chat e risposte. La prova decisiva resta il comportamento del tuo client con il modello e le impostazioni che usi.
Ripeti la stessa prova sulle due versioni
Riprendi l’esempio della fattura. Prepara richieste fittizie per assistenza e amministrazione, poi aggiungi qualche messaggio che potrebbe finire in entrambe le code. Scrivi dove dovrebbe arrivare ciascuno prima di lanciare la prova. Per il messaggio sulla fattura e sul portale, l’esito atteso può essere la revisione da parte di chi si occupa dello smistamento.
- Tieni ferme le altre variabili. Usa la stessa macchina, lo stesso file del modello, le stesse istruzioni e gli stessi parametri. Esegui la prova sulle due versioni una dopo l’altra, con una configurazione separata da quella in uso.
- Controlla il passaggio all’applicazione. Verifica che la risposta contenga i campi attesi e che il reparto sia quello previsto. Nei casi ambigui, controlla che la richiesta arrivi alla revisione manuale. Prova anche il comportamento dell’app quando il server è indisponibile.
- Misura una richiesta completa. Registra il tempo dall’invio alla risposta utilizzabile e gli errori che richiedono intervento. Ripeti la prova con un numero di richieste simultanee simile a quello di una giornata normale per il tuo team.
Decidi quando passare alla nuova versione
Concorda con chi gestisce le code quali esiti sono indispensabili e quanto può aspettare chi invia una richiesta. Se la 1.0 supera la prova, inizia con un gruppo ristretto di messaggi e tieni a disposizione versione e configurazione precedenti. Prova il ripristino prima del passaggio. Se le richieste cominciano a finire nel reparto sbagliato, saprai già quanto tempo serve per tornare indietro.
Se una richiesta finisce nella coda sbagliata, chi se ne accorge e come la recupera? Raccontaci come funziona oggi. Quel passaggio può diventare il primo caso da provare insieme prima di aggiornare il tuo sistema AI.
Parliamo del tuo progetto