Agenti che richiamano strumenti
Definizione
Gli agenti che richiamano strumenti (noti anche come agenti con function calling o agenti di esecuzione di azioni) sono sistemi basati su LLM che invocano dinamicamente funzioni esterne, API, database e strumenti di calcolo durante il loro processo di ragionamento per recuperare dati in tempo reale, modificare lo stato del sistema, eseguire calcoli o compiere azioni che vanno ben oltre la sola generazione di testo.
L'innovazione chiave è che l'LLM non si limita a descrivere cosa dovrebbe accadere: decide di richiamare strumenti specifici, genera argomenti strutturati ed elabora i risultati per continuare a ragionare. Questo trasforma gli LLM da predittori di testo passivi in agenti attivi capaci di interagire con il mondo digitale.
Spiegazione tecnica
Il richiamo di strumenti rappresenta un cambiamento fondamentale nel modo in cui si usano gli LLM: da generatori di informazioni a orchestratori di azioni. Richiede un'integrazione stretta tra l'inferenza del modello linguistico e l'esecuzione programmatica.
Come funziona il richiamo di strumenti
- Registrazione delle definizioni degli strumenti: gli sviluppatori definiscono gli strumenti disponibili con schemi JSON che specificano nome, descrizione, parametri (tipi, vincoli, campi obbligatori) e requisiti di autenticazione.
- Prompt arricchito: il sistema inietta gli schemi degli strumenti nel contesto dell'LLM, insieme alle istruzioni di sistema su quando e come usarli.
- Ragionamento e decisione: l'LLM elabora la richiesta dell'utente e determina se serve una chiamata a uno strumento, quale strumento usare e con quali parametri.
- Generazione dell'output strutturato: il modello restituisce un blocco strutturato (di norma JSON) con nome e argomenti dello strumento, seguendo il formato di function calling (stile OpenAI, Anthropic tool use o personalizzato).
- Convalida ed esecuzione: il sistema ospite convalida il JSON rispetto allo schema, verifica i permessi ed esegue lo strumento con gli argomenti forniti.
- Iniezione del risultato: l'output dello strumento (o l'errore) viene formattato e reinserito nel contesto dell'LLM come nuovo messaggio.
- Continuazione: l'LLM elabora il risultato e risponde all'utente oppure avvia un'altra chiamata a uno strumento in un ciclo che prosegue fino al completamento del compito.
Implementazioni moderne
Function calling di OpenAI
Supporto integrato per definire funzioni con schemi JSON. Il modello restituisce {"name": "...", "arguments": "{...}"}. Supporta chiamate parallele e convalida rigorosa dello schema.
Tool use di Anthropic
Simile a OpenAI ma con un output in stile XML più flessibile. Gli strumenti sono definiti come parte dell'array dei messaggi. Eccellente nella gestione di parametri annidati complessi.
LangChain / LlamaIndex
Astrazioni a livello di framework sopra il richiamo di strumenti, con agenti integrati (ReAct, OpenAI Functions e altri), gestione della memoria e persistenza dello stato.
MCP (Model Context Protocol)
Protocollo standardizzato per esporre strumenti e risorse agli LLM tra client e server diversi. Abilita l'interoperabilità e la scoperta degli strumenti.
Tipi di strumenti
- Operazioni di lettura: API che recuperano dati senza effetti collaterali (query al database, ricerche web, consultazione di documenti). Sicure e idempotenti.
- Operazioni di scrittura: API che modificano lo stato (creazione di record, invio di messaggi, aggiornamento del CRM). Richiedono convalida e spesso approvazione umana.
- Calcolo: esecuzione di codice, operazioni matematiche, trasformazione di dati, elaborazione di file. Utile per compiti in cui gli LLM faticano (aritmetica, ordinamento, parsing).
- Controllo dell'agente: meta-strumenti per gestire l'agente stesso (pausa, delega, pianificazione, riflessione).
Sfide tecniche principali
- Parametri allucinati: gli LLM possono inventare JSON dall'aspetto valido con valori errati. Servono convalida dello schema e controllo dei tipi.
- Cicli infiniti: gli agenti possono restare bloccati a richiamare strumenti senza progressi. Servono limiti di iterazione e rilevamento dei progressi.
- Gestione degli errori: timeout di rete, errori API e input non validi vanno gestiti con eleganza e comunicati all'LLM.
- Gestione della finestra di contesto: lunghe catene di chiamate agli strumenti possono saturare il contesto. Servono strategie di sintesi e potatura dei risultati.
- Sicurezza e permessi: ogni chiamata a uno strumento va autenticata e autorizzata. Valuta l'uso di un livello proxy/gateway per il controllo degli accessi.
Buone pratiche
- Nomi descrittivi degli strumenti: usa nomi chiari e orientati all'azione come
search_customerse nonget_data. - Descrizioni ricche dei parametri: ogni parametro richiede una descrizione dettagliata di formato, vincoli ed esempi.
- Formati di risposta coerenti: gli strumenti devono restituire oggetti strutturati con i campi
success,dataederror. - Limiti di utilizzo: implementa limiti di utilizzo per agente e per utente per prevenire abusi e gestire i costi delle API.
- Chiavi di idempotenza: per le operazioni di scrittura, consenti chiavi di idempotenza per ripetere in sicurezza le chiamate fallite.
- Supporto al concatenamento degli strumenti: progetta gli strumenti in modo che l'output di uno possa diventare naturalmente l'input di un altro.
Esempi reali
Assistenza clienti intelligente
Scenario: un agente di assistenza deve risolvere una richiesta di fatturazione di un cliente con il contesto completo.
Flusso di richiamo degli strumenti:
- Cerca il cliente: interroga l'API di Stripe con l'email → ottieni ID cliente, stato dell'abbonamento, cronologia dei pagamenti.
- Recupera le interazioni: cerca i ticket passati su Zendesk → individua i problemi ricorrenti.
- Calcola il rimborso: esegui uno strumento di calcolo per determinare il rimborso proporzionale in base al piano e all'utilizzo.
- Redigi la risposta: l'LLM genera una spiegazione personalizzata con un'offerta di rimborso.
- Aggiorna lo stato: chiama Stripe per applicare il credito e aggiorna lo stato del ticket su Zendesk.
Risultato: il tempo di risoluzione passa da 20 minuti (ricerche manuali, copia e incolla) a 2 minuti con piena accuratezza.
Qualificazione automatica dei lead
Scenario: una nuova segnalazione dal modulo web richiede arricchimento, punteggio e assegnazione.
Flusso di richiamo degli strumenti:
- Ricerca web: cerca i dati del profilo nelle API di LinkedIn/Twitter → arricchisci i dati aziendali.
- Controllo nel database: interroga Salesforce per contatti esistenti e interazioni precedenti.
- Calcolo del punteggio: calcola il punteggio di compatibilità in base a dimensione aziendale, settore, ruolo e livello di coinvolgimento.
- Decisione di instradamento: se il punteggio > 80, assegna all'SDR migliore; altrimenti aggiungi alla sequenza di coltivazione.
- Notifica: invia un messaggio Slack al commerciale assegnato con riepilogo e apertura suggerita.
- Aggiorna il CRM: crea un nuovo record lead con tutti i dati arricchiti e i passaggi successivi.
Risultato: tempo di prima risposta inferiore a 10 minuti contro oltre 4 ore di processo manuale, completezza dei dati al 95% contro il 60%.
Analisi dei dati e reporting
Scenario: report settimanale sulle prestazioni commerciali con analisi delle tendenze e raccomandazioni.
Flusso di richiamo degli strumenti:
- Recupero dei dati: interroga le API di HubSpot/Salesforce per tutte le trattative chiuse questa settimana, con fasi e valori.
- Analisi statistica: esegui codice Python per calcolare tassi di conversione, velocità e tendenze della dimensione media delle trattative.
- Previsione: applica un modello predittivo alla pipeline per proiezioni sui prossimi 30/60/90 giorni.
- Visualizzazione: genera grafici (matplotlib) e incorporali come immagini nel report.
- Redazione del testo: l'LLM scrive una sintesi esecutiva evidenziando successi, rischi e raccomandazioni.
- Distribuzione: invia il report via email alla dirigenza commerciale e pubblica il riepilogo su un canale Slack.
Risultato: i report settimanali automatizzati risparmiano 4 ore di lavoro all'analista, offrono una metodologia coerente e sono disponibili lunedì alle 8.
Termini correlati
Resta aggiornato.
Analisi tecniche, nuovi sistemi realizzati e lezioni dalla distribuzione di IA autonoma. Un'email a settimana, direttamente nella tua casella.
Un'email a settimana. Esci con un clic.