Tool calling (chiamata di strumenti)

Si comincia descrivendo gli strumenti che offri. Ciascuno ha un nome, una breve descrizione e uno schema JSON che elenca i parametri, per esempio una funzione get_weather che prende una città. Invii questo elenco con la conversazione. Se il modello decide che uno strumento sarebbe utile, la sua risposta contiene una chiamata allo strumento invece del testo finale: il nome e gli argomenti, scritti in JSON. Il tuo programma esegue la funzione, aggiunge un messaggio con il risultato e l’identificatore della chiamata, e rimanda tutto. Il modello scrive poi la risposta finale a partire da quel risultato. Pensa a un cameriere che annota l’ordine su un foglietto e non entra mai in cucina. Esempi tipici sono controllare lo stato di un ordine, convertire una valuta, cercare in una base di conoscenza o creare un appuntamento in calendario.

La maggior parte delle API permette di guidare il comportamento. Puoi lasciare la scelta al modello, vietare gli strumenti, esigere che ne venga chiamato uno o indicare quello preciso. Più chiamate possono arrivare nella stessa risposta, il che risparmia viaggi di andata e ritorno quando non dipendono l’una dall’altra, e in una risposta in streaming gli argomenti arrivano a pezzi sotto lo stesso indice. Lo stesso meccanismo alimenta gli agenti, che ripetono il ciclo di chiamata, risultato e decisione, ed è anche un modo affidabile di estrarre dati strutturati dal testo. Una modalità rigorosa che costringe l’uscita a rispettare esattamente lo schema esiste presso alcuni fornitori e toglie molte chiamate malformate.

Serve cautela. I modelli possono scegliere lo strumento sbagliato, inventare un argomento o chiamare una funzione con valori validi ma dannosi, quindi valida gli argomenti dalla tua parte e non eseguire mai nulla di più potente di quanto il compito richieda. Non tutti i modelli supportano la funzione, e quelli che lo fanno variano per affidabilità nel seguire uno schema. Prova con casi reali, tieni brevi e precise le descrizioni e dai agli strumenti nomi che dicano cosa fanno. Mantieni corto l’elenco, perché un menu lungo confonde i modelli e consuma la finestra di contesto. Guasti tipici sono una città scritta male, un campo obbligatorio mancante, un numero inviato come testo, una data nel formato sbagliato o uno strumento che non esiste.

L’API di NeverNo lo supporta sui completamenti di chat. Passa tools, un elenco di funzioni con uno schema JSON, e facoltativamente tool_choice (auto, none, required o una funzione indicata) e parallel_tool_calls. Quando il modello chiama uno strumento, la risposta contiene tool_calls e finish_reason è tool_calls; esegui la funzione e rimandi un messaggio tool con il risultato e il suo tool_call_id. In uno stream, ogni chiamata arriva come la scrive OpenAI.

Solo i modelli per cui capabilities.tools è true nell’elenco /models accettano strumenti; gli altri rispondono con un chiaro errore 400, tools_not_supported. GLM 5.2, un modello privato di Z.ai incluso nei piani a pagamento, ha una finestra di contesto di 200.000 token e una modalità di ragionamento facoltativa. Controlla l’elenco prima di costruire su un modello. La pagina sull’alternativa a ChatGPT spiega perché molti scelgono NeverNo per la varietà di modelli.