AI in azienda senza caos: cosa automatizzare e cosa lasciare alle persone

L’errore più comune nell’introdurre l’AI è partire dalla domanda su dove mettere un chatbot. Che l’ordine sia inverso, cioè prima il processo, poi la tecnologia, lo abbiamo descritto nell’articolo L’AI non salva un processo sbagliato, compresa la sequenza Remove, Simplify, Automate, Augment.

Questo testo parte un passo più avanti, nel punto in cui il processo è già noto e occorre decidere chi fa che cosa: quali attività appartengono a una regola, quali al modello e quali alla persona, come impostate accessi e approvazioni e che cosa farete il giorno in cui il modello sbaglierà. Su questi tre punti cadono più implementazioni che sulla qualità del modello.

Prima il processo, poi il modello

Dividere le attività è possibile soltanto su un processo disegnato: chi crea l’informazione, dove viene reinserita, chi la verifica e che cosa succede in caso di errore. Senza questo non sapete se un’attività appartiene a una regola, al modello o a una persona.

Molte attività che le aziende chiamano progetto AI, in realtà l’AI non la richiedono. Trasferire un modulo nel CRM o creare un task dopo il cambio di stato di un ordine è automazione deterministica, cioè una sequenza di regole che a parità di input restituisce sempre lo stesso output. Costa meno, è più prevedibile ed è più semplice da sottoporre ad audit.

La distinzione non è soltanto terminologica. Il regolamento europeo sull’AI, nel considerando 12, indica che la definizione di sistema di AI non dovrebbe coprire i sistemi basati su regole definite esclusivamente da persone fisiche. La caratteristica chiave di un sistema di AI è la capacità di inferire, cioè di produrre previsioni, contenuti o decisioni oltre l’elaborazione di base dei dati. In pratica: se un’attività si può scrivere come regola, scrivetela come regola.

L’AI ha più senso dove l’input non è strutturato: e-mail, documenti, telefonate, note, immagini oppure situazioni in cui occorre riassumere un’informazione, classificarla o preparare una proposta di decisione. Lo conferma anche l’adozione: secondo Eurostat, nel 2025 la tecnologia AI più diffusa nelle aziende dell’UE era il text mining, cioè l’analisi del testo scritto, con l’11,75%.

Quali attività alla macchina e quali alla persona

Al posto di un elenco di use case alla moda, aiutano tre domande.

• Qual è il costo dell’errore? Una nota interna sbagliata costa un minuto, un’offerta inviata male costa margine o cliente. Più alto è il costo, più la persona deve stare vicino alla decisione.
• L’output si verifica più in fretta di quanto si creerebbe? Se sì, è un candidato alla proposta generata dal modello con conferma umana. Se il controllo dura più del lavoro stesso, il modello si limita a spostare la fatica altrove.
• L’azione è reversibile? Una bozza, una classificazione o un riassunto si possono buttare. Una e-mail inviata, un prezzo modificato, una fattura pagata o dati cancellati no.

Il risultato è una divisione difendibile davanti al direttore finanziario e davanti a un legale. Al modello spettano interpretazione e proposta, alle regole tutto ciò che è univoco e ripetuto, alla persona la decisione costosa, irreversibile o che comporta responsabilità verso terzi.

Dove cercare le prime attività lo suggerisce lo studio sul campo degli economisti Brynjolfsson, Li e Raymond, pubblicato come working paper dell’organizzazione di ricerca statunitense NBER. Su un campione di 5.179 addetti all’assistenza clienti, un assistente generativo ha aumentato il numero di richieste risolte per ora in media del 14%. Tra i neoassunti e i meno esperti l’aumento è stato del 34%, tra i lavoratori esperti l’effetto è stato minimo, perché il modello diffonde le pratiche dei migliori.

La conclusione è concreta: l’AI alza il pavimento, non il soffitto. Cercate i punti con la maggiore variabilità di qualità tra le persone, non quelli in cui avete già prestazioni eccellenti.

L’AI con il ROI più alto può essere invisibile

Un’AI efficace non deve avere un avatar in home page. Dietro le quinte può preparare al commerciale il contesto prima di una telefonata, creare una bozza di offerta, segnalare i dati mancanti in un ordine o trasformare un meeting in task. La persona dedica così meno tempo all’amministrazione e più tempo al lavoro per cui l’azienda la impiega davvero. Come si costruisce un’impresa direttamente in questo modo, lo raccontiamo nel testo su un’azienda senza esercito amministrativo.

Anthropic, nell’indice economico di settembre 2025, riporta sui propri dati che nell’API aziendale il 77% dei casi mostrava schemi di automazione, contro circa il 50% nell’applicazione consumer. Le aziende non comprano conversazione, comprano lavoro dentro un processo che il cliente non vedrà mai.

Esempio illustrativo. Un’azienda manifatturiera riceve richieste via e-mail come testo libero con disegni in PDF e l’assistente le trascrive nel CRM. Il modello legge l’e-mail, estrae le voci, segnala i parametri mancanti e prepara una bozza di domanda. Che cosa non fa: non invia l’e-mail, non determina il prezzo e non cambia lo stato della richiesta. È un’illustrazione di architettura, non una referenza cliente.

I sistemi affidabili combinano AI e regole certe

L’architettura più sicura non consiste nel lasciare che l’AI decida tutto. Il modello interpreta l’input o prepara una proposta, il workflow governa permessi e limiti. La ragione non è ideologica, è misurata.

Il benchmark TheAgentCompany simula l’ambiente di una piccola software house e osserva come gli agenti se la cavano con un’agenda di lavoro reale. L’agente migliore tra quelli testati ha completato in autonomia il 30% delle attività. Il benchmark tau-bench mette alla prova gli agenti in conversazione con un utente simulato nel rispetto delle regole di dominio: gli agenti di punta hanno superato meno del 50% delle attività e, ripetendo la stessa attività, la metrica pass^8, cioè il successo in tutti e otto i tentativi, è scesa sotto il 25% nel dominio retail. Il modello quindi non è soltanto impreciso, è incoerente, e per la progettazione di un processo questo conta più del tasso medio di successo.

Per azioni sensibili o esterne, cioè invio di un’offerta, modifica di un prezzo, pagamento o cancellazione di dati, deve essere esplicito quando serve un’approvazione umana. Questo significa tre decisioni progettuali:

• Lettura e scrittura separate. Il modello ha un accesso ampio in lettura al contesto, ma la scrittura passa attraverso un elenco ristretto di azioni consentite con parametri definiti.
• Limiti rigidi nel codice, non nel prompt. Sconto massimo, importo o elenco dei destinatari ammessi appartengono al workflow. Una regola nel prompt è una raccomandazione, una regola nel codice è un vincolo.
• Idempotenza e anteprima. Un’azione di scrittura deve poter essere eseguita a vuoto o ripetuta in sicurezza, per evitare che nascano due fatture.

Permessi di accesso e dati che al modello potete non dare

Nel software classico clicca una persona precisa. In un workflow AI l’accesso lo ha un processo che gira senza sorveglianza e in fretta. Per questo conviene una disciplina più severa.

• Un’identità di servizio dedicata per ogni workflow. Non un account amministratore condiviso. Quando qualcosa si rompe, volete sapere quale processo lo ha fatto e spegnerlo senza far cadere mezza azienda.
• La porzione di dati più piccola possibile. Per classificare un reclamo bastano il suo testo e il tipo di prodotto, non serve l’intero storico dei pagamenti. Dove l’identità non è necessaria, sostituite i dati personali con un codice segnaposto.
• Una risposta chiara su dove finiscono i dati. Quale fornitore, in quale regione, per quanto tempo vengono conservati, se vengono usati per l’addestramento. È una questione contrattuale, non tecnica.

Non è un timore accademico. Tra le aziende che secondo Eurostat hanno valutato l’AI senza adottarla, il 70,89% ha indicato la mancanza di competenze, il 52,52% l’incertezza sulle conseguenze legali e il 48,83% i timori sulla protezione dei dati. Due di questi tre ostacoli non riguardano il modello, ma la progettazione del processo e i contratti.

Rientra qui anche un’osservazione impopolare. Se un’attività si può risolvere con una regola sul proprio database, è quasi sempre più economico, più rapido e più sicuro di una chiamata al modello. Un fornitore che in una situazione simile vi vende un progetto AI sta risolvendo il proprio business, non il vostro processo. Ne scriviamo in modo analogo nell’articolo La vostra azienda non ha bisogno di più software, ha bisogno di meno caos.

L’approvazione umana che non è solo un clic

Nella maggior parte dei progetti il controllo si risolve con una frase: poi lo approva una persona. È il punto più debole dell’architettura, perché si scrive facilmente e funziona con difficoltà.

Il regolamento sull’AI, all’articolo 14, descrive che cosa deve saper fare la persona che sorveglia un sistema ad alto rischio: comprendere capacità e limiti del sistema, notare le anomalie, essere consapevole dell’automation bias (la tendenza a fidarsi eccessivamente dell’output della macchina), decidere di non usare il sistema o di ribaltarne l’output e fermarlo in sicurezza. La maggior parte dei workflow aziendali non rientra tra i sistemi ad alto rischio, ma per ora non abbiamo una checklist migliore per progettare le approvazioni.

Che sia facile sbagliare lo mostra l’analisi di Ben Green sulla rivista specialistica Computer Law and Security Review. L’autore ha esaminato 41 politiche che impongono la sorveglianza umana sugli algoritmi nella pubblica amministrazione e sostiene che, in base alle evidenze, le persone non riescono a svolgere le funzioni di sorveglianza richieste e che politiche di questo tipo danno un falso senso di sicurezza. È l’opinione dell’autore, non un consenso, ma resta un correttivo sano.

In pratica ne derivano tre cose. La schermata di approvazione deve mostrare da che cosa è partito il modello, che cosa cambierà e che cosa succede in caso di rifiuto. Il tasso di rifiuto è una metrica: se per mesi resta a zero, il controllo o non avviene o non serve. E la sorveglianza ha bisogno di tempo dedicato. Chi approva centinaia di proposte al giorno accanto al lavoro ordinario celebra un rito, non esegue un controllo.

Che cosa fare quando il modello sbaglia

Non se, ma quando. L’auditabilità non è quindi un tema per l’ufficio legale, ma per l’operatività. Per ogni esecuzione va registrato quale fosse l’input, quale versione dell’istruzione e del modello girasse, da quali fonti il sistema abbia attinto, chi abbia approvato l’output e quale azione sia stata eseguita. Senza questo, cercare la causa significa tirare a indovinare.

• Un interruttore a livello di singolo workflow. Un passaggio specifico deve poter essere fermato senza far cadere l’intero processo.
• Una via di ritorno e un set di test. Per ogni azione di scrittura occorre sapere in anticipo come si torna indietro. Un cambio di versione del modello va intercettato su un set di casi reali, non sul cliente.
• Il punto in cui spegnete il passaggio. Il framework statunitense NIST AI Risk Management Framework del gennaio 2023 lo dice apertamente: a fronte di un livello di rischio inaccettabile, sviluppo e implementazione devono cessare in modo sicuro finché il rischio non risulta gestibile a sufficienza. Tornare a una regola o a una persona è un esito legittimo, non una sconfitta.

Il ROI si misura sul processo, non sul numero di prompt

Prima dell’implementazione misurate lo stato attuale: tempo per attività, numero di passaggi tra persone, tasso di errore, tempo di risposta e numero di follow-up non chiusi. Dopo il rilascio confrontate le stesse metriche. Il numero di testi generati non è un KPI, ridurre una risposta da due giorni a due ore può esserlo.

Che sia più difficile di quanto sembri lo ammette anche il NIST: gestire il rischio dei sistemi che ampliano o sostituiscono l’attività umana richiede metriche di riferimento, e queste si sistematizzano con difficoltà, perché l’AI svolge i compiti in modo diverso dalla persona. Misurate quindi il risultato del processo, non la qualità dell’output del modello.

Nei costi rientra molto più del prezzo dei token: l’integrazione, il tempo per controllare gli output, la manutenzione quando cambia il modello e il tempo delle persone per imparare. Se il controllo costa più del lavoro manuale originario, il passaggio va eliminato. È più onesto che passare sei settimane a rifinire il prompt.

Mettete in conto anche che i primi mesi sembreranno peggiori di quanto dovrebbero. Gli economisti Brynjolfsson, Rock e Syverson lo hanno descritto come curva a J della produttività: le tecnologie di uso generale richiedono ampi investimenti immateriali, cioè riprogettazione dei processi e capitale organizzativo, che si misurano male. La crescita della produttività nella fase iniziale risulta quindi sottostimata. Il costo arriva subito, il ritorno solo dopo la ricostruzione del processo.

Un’azienda pronta per l’AI non ha bisogno di dieci strumenti nuovi. Ha bisogno di processi chiari, dati affidabili e di un’automazione progettata per togliere alla persona la routine senza toglierle il controllo. Partite dai cinque workflow ripetitivi più costosi e per ciascuno stabilite che cosa deve risolvere una regola, che cosa l’AI e che cosa deve restare alla persona. Se in qualche punto emerge che la scelta migliore è eliminare metà dei passaggi e non implementare nulla, è un buon risultato. Il valore nasce nella diagnosi, non nell’acquisto.

Cosa portarsi a casa

• Se un’attività si può scrivere come regola, scrivetela come regola. Anche il regolamento sull’AI, nel considerando 12, distingue i sistemi costruiti su regole definite da persone dai sistemi di AI.
• Dividete le attività in base al costo dell’errore, alla verificabilità dell’output e alla reversibilità dell’azione. Al modello la proposta, al workflow i limiti, alla persona la decisione irreversibile.
• Progettate l’approvazione umana come processo, non come pulsante: deve mostrare la fonte e l’impatto, avere tempo dedicato e un tasso di rifiuto monitorato.
• Ogni workflow ha bisogno di una propria identità di servizio, della porzione di dati più piccola possibile, di un interruttore e di un registro di che cosa è stato eseguito e di come si torna indietro.
• Misurate il ROI sul processo: tempo, passaggi, errori, tempo di risposta. Nei costi includete controllo e manutenzione e mettete in conto che il ritorno arriverà più tardi.