Che cosa delegare a un agente AI: criteri, limiti e responsabilità

Un'automazione esegue una sequenza di passaggi nota in anticipo: se succede X, fai Y. Un agente prende decisioni lungo il percorso, perché il numero di passaggi necessari non è prevedibile all'inizio: legge un risultato intermedio e decide cosa fare dopo in base a quello, non in base a un copione scritto prima.

La distinzione conta perché guida cosa vale la pena delegare. I compiti con passaggi prevedibili vanno automatizzati, non affidati a un agente: sono più veloci, più economici e più facili da verificare in una forma rigida. Un agente ha senso quando il problema è aperto, il numero di passaggi dipende da cosa si scopre andando avanti, e serve un giudizio a ogni fase. Anthropic, che progetta questi sistemi, lo riassume con un principio semplice: si aggiunge la complessità di un agente solo quando migliora dimostrabilmente il risultato rispetto a un flusso più semplice, mai per principio.

Due categorie, distinte con chiarezza da chi ha già scalato questi sistemi in produzione. La prima è l'obiettivo generale: cosa l'agente sta cercando di ottenere e perché, la direzione che nessun agente dovrebbe scegliere da solo. La seconda è ogni decisione con un compromesso reale, cioè senza una risposta ovviamente corretta: quando velocità e sicurezza sono in tensione, quando una scelta ha conseguenze su persone reali, quando due criteri validi puntano in direzioni diverse.

Il criterio pratico è questo: se un compito ha un modo verificabile per dire che è stato fatto bene (il codice passa i test, il documento rispetta uno standard scritto), un agente può farlo e un altro sistema può controllarlo. Se il compito richiede di scegliere tra due strade entrambe difendibili, quella scelta va sempre portata a una persona, esplicitamente, non nascosta dentro l'esecuzione.

Un esempio concreto rende la differenza meno astratta. "Riscrivi questo paragrafo per rispettare la nostra guida di stile" ha un criterio di successo verificabile e può essere delegato senza esitazione. "Decidi se questo cliente merita un'eccezione alla policy di rimborso" non ha un criterio univoco, coinvolge conseguenze commerciali reali, e resta una decisione umana anche se l'agente è perfettamente in grado di formulare un'opinione ragionata su cosa fare.

Non tutto insieme, e non per sempre uguale. La pratica osservata in team che usano agenti su larga scala è iniziare con revisione umana completa su ogni output, poi insegnare all'agente a segnalare da solo i casi limite, poi allargare l'autonomia caso per caso, per tipo di compito, dopo una serie di successi ripetuti su quel tipo specifico.

Un esempio concreto documentato da Anthropic: un team di ingegneria ha portato un agente a gestire in autonomia circa cinquecento correzioni di bug, ma ci è arrivato per gradi, tracciando esplicitamente su quali tipi di compito l'agente aveva guadagnato fiducia e su quali no. L'autonomia non è uno stato binario acceso o spento: è un permesso che si allarga un tipo di compito alla volta, con una traccia di chi ha guadagnato cosa.

Non è una regola assoluta, ma un punto di partenza ragionevole per la prima classificazione di un processo.

Tre cose, indipendentemente da quanto sia bravo il modello sottostante. Primo, un modo per l'agente di verificare il proprio progresso passo dopo passo, appoggiandosi a un dato oggettivo (il risultato di un test, l'esito di una chiamata a uno strumento) invece che alla propria valutazione di quanto sta andando bene. Secondo, punti di controllo dichiarati in cui l'agente si ferma e aspetta un segnale umano, non solo alla fine ma anche a metà, se incontra un ostacolo che non sa risolvere. Terzo, un limite esplicito, tipicamente un numero massimo di passaggi o di tentativi, oltre il quale l'agente si ferma comunque, anche se pensa di essere vicino alla soluzione.

Senza questi tre elementi, la natura autonoma di un agente produce un rischio specifico: errori che si accumulano l'uno sull'altro invece di fermarsi al primo. Un agente senza limite di passaggi che sbaglia una premessa iniziale continuerà a costruire lavoro coerente sopra quella premessa sbagliata, e il risultato finale sembrerà più solido di quanto sia, proprio perché è stato elaborato più a lungo.

Perché un agente può lavorare in parallelo su decine di task, ma la persona che deve verificare, decidere e sbloccare ha una capacità di attenzione fissa, indipendente da quanti agenti lavorano contemporaneamente. Un sistema che delega bene lo sa, e progetta il flusso attorno a questo vincolo: raggruppa le domande invece di interromperti una alla volta, e limita quante cose arrivano davanti a una persona nello stesso momento.

È il motivo per cui "più veloce" non è automaticamente "meglio" quando si introduce un agente. Un agente che lavora a velocità doppia ma genera il doppio delle interruzioni per una persona con capacità di attenzione fissa non ha raddoppiato la produttività del sistema: ha solo spostato il collo di bottiglia, senza risolverlo.

Il compito si espande da solo. Senza un confine esplicito scritto prima dell'avvio, un agente istruito a "gestire le email di supporto" prima o poi incontra un caso ambiguo, per esempio un cliente che chiede un rimborso fuori policy, e deve decidere se è ancora dentro il suo mandato o no. Se nessuno ha scritto quel confine in anticipo, l'agente lo interpreta da solo, e lo interpreta nella direzione che gli richiede meno di fermarsi e chiedere, perché è quella che il suo addestramento premia come "essere utile".

È un problema diverso dall'assenza di verifica: qui l'output può anche essere corretto nel merito, ma la decisione di prenderlo non doveva essere dell'agente. Il rimedio non è un elenco di eccezioni, che cresce all'infinito e non anticipa mai il prossimo caso limite. È una regola di default esplicita: quando un caso non rientra chiaramente nei compiti assegnati, l'agente si ferma e lo segnala, invece di provare a risolverlo comunque perché sembra vicino al perimetro. Un confine dichiarato in questi termini vale più di dieci esempi elencati in anticipo, perché copre anche il caso che nessuno aveva previsto.