Il problema non è l’intelligenza artificiale. Il problema è la quantità impressionante di sciocchezze che oggi possono essere vendute mettendo davanti a qualsiasi applicazione le due lettere “AI”, aggiungendo qualche miliardo di parametri, una percentuale vicina al cento per cento, quattro espressioni incomprensibili prese dal linguaggio della ricerca scientifica e, possibilmente, il riferimento a qualche università, pubblicazione o organismo internazionale.
A quel punto il gioco è fatto.
Un software diventa una “architettura cognitiva”. Un motore di ricerca documentale diventa un “sistema intelligente proprietario”. Più modelli collegati tra loro diventano una “intelligenza collaborativa”. Un algoritmo diventa un “motore decisionale”. Una pubblicazione scientifica riguardante una determinata tecnologia viene trasformata, nella percezione di chi legge, nella validazione dell’intero prodotto commerciale. E una percentuale di accuratezza, della quale magari non vengono spiegati campione, metodo di misurazione, errori, valutatori e condizioni sperimentali, assume improvvisamente l’autorevolezza di una legge della fisica.
Per un Commercialista tutto questo dovrebbe rappresentare un enorme campanello d’allarme.
Non perché queste tecnologie siano necessariamente scadenti. Alcune possono essere eccellenti. Non perché dietro non possa esserci ricerca seria. Può esserci eccome. E nemmeno perché un’applicazione costruita utilizzando modelli esistenti sia tecnologicamente meno dignitosa di un modello sviluppato integralmente da zero: spesso è esattamente il contrario, perché l’intelligenza sta proprio nel modo in cui vengono organizzati dati, controlli, procedure e modelli.
Il problema nasce quando la complessità tecnologica viene utilizzata come sostituto della prova.
Il Commercialista passa buona parte della propria vita professionale chiedendo documenti agli imprenditori.
Un cliente gli dice che l’azienda vale dieci milioni? Gli chiede sulla base di quale metodo.
Gli dice che il prossimo anno farà il trenta per cento di fatturato in più? Gli chiede da dove arriveranno quei ricavi.
Gli dice che un investimento si ripagherà velocemente? Gli domanda di vedere i flussi finanziari.
Gli presenta una previsione straordinariamente ottimistica? La sottopone a stress test.
È curioso, allora, vedere quanto rapidamente lo stesso rigore possa evaporare quando davanti alla parola “intelligenza” viene aggiunto l’aggettivo “artificiale”.
Se qualcuno dichiara che una tecnologia raggiunge il 99,8% di accuratezza, la domanda professionale non dovrebbe essere: “Fantastico, quanto costa?”.
Dovrebbe essere:
99,8% di che cosa?
Su quante prove?
Scelte da chi?
Con quale distribuzione delle difficoltà?
Qual era la risposta considerata corretta?
Chi l’ha valutata?
Il test era indipendente?
Sono state considerate corrette anche risposte parzialmente corrette?
Come sono stati trattati i quesiti controversi?
Quante delle fonti citate sono state controllate?
Il benchmark è pubblico?
È replicabile?
Esiste un confronto con altri sistemi?
Queste non sono domande da ingegnere informatico. Sono le stesse domande che un Commercialista dovrebbe porre davanti a qualsiasi numero sul quale qualcuno pretende di costruire una conclusione.
C’è poi una delle espressioni più potenti del nuovo marketing tecnologico: zero allucinazioni.
Per un professionista è una promessa enorme.
Perché il problema delle intelligenze artificiali generative non è soltanto che possono sbagliare. È che possono sbagliare magnificamente.
Non balbettano. Non diventano rosse. Non mettono un asterisco lampeggiante accanto alla frase inventata.
Possono costruire una risposta falsa con la stessa sintassi, sicurezza e apparente competenza con cui costruiscono quella corretta.
Ed è proprio questa caratteristica ad aver già prodotto casi internazionali nei quali professionisti hanno presentato documenti contenenti precedenti giudiziari inesistenti, citazioni inventate e riferimenti che nessuno aveva verificato.
Per questo una promessa di sostanziale eliminazione dell’errore dovrebbe aumentare, non diminuire, la curiosità del professionista.
Come viene ottenuta?
Come viene misurata?
Che cosa viene classificato come allucinazione?
Su quale universo di domande?
E soprattutto: chi lo ha verificato oltre a chi vende il prodotto?
Perché c’è una differenza enorme tra dire “abbiamo progettato il sistema per ridurre drasticamente le allucinazioni” e affermare, direttamente o indirettamente, che il problema è stato sostanzialmente eliminato.
La prima è una caratteristica progettuale.
La seconda è una promessa che richiede prove straordinarie.
Poi arrivano i parametri.
Sette miliardi. Tredici. Settanta. Centotrenta. Domani probabilmente settecento.
Per il professionista non tecnico il numero produce inevitabilmente un’impressione: più grande significa più intelligente.
Non funziona così.
Il numero di parametri descrive una caratteristica del modello, non certifica automaticamente la qualità della risposta fornita a un Commercialista italiano alle prese con una scissione, una crisi d’impresa, un’operazione immobiliare o un problema IVA.
Un modello gigantesco può essere utilizzato male. Un modello molto più piccolo, opportunamente specializzato, corredato da fonti affidabili e inserito in un processo rigoroso di retrieval e verifica, può ottenere risultati migliori su uno specifico dominio.
Soprattutto, quando qualcuno vi comunica un numero enorme, fate una domanda banalissima:
parametri di che cosa?
Del modello sviluppato direttamente?
Del modello di base utilizzato?
Della somma di più modelli?
Di modelli open-weight integrati nel sistema?
Di una infrastruttura composta?
Non c’è nulla di male in nessuna di queste soluzioni.
C’è invece qualcosa di profondamente sbagliato nel lasciare che un numero tecnicamente ambiguo produca nel cliente una certezza che quel numero, da solo, non può giustificare.
Lo stesso vale per un’altra parola diventata irresistibile: proprietario.
Un sistema di intelligenza artificiale può essere autenticamente proprietario pur utilizzando modelli sviluppati da altri.
Possono essere proprietari l’orchestrazione, gli embedding, il dataset, le regole, i controlli, gli agenti, il fine-tuning, il workflow, il motore applicativo, la knowledge base, le procedure di verifica.
E può essere un lavoro straordinariamente sofisticato.
Ma tutto questo non significa necessariamente che chi commercializza il prodotto abbia progettato e pre-addestrato da zero il modello linguistico sottostante.
Perché dovrebbe interessare al Commercialista?
Non per giocare all’informatico.
Per una ragione molto più semplice: per capire che cosa sta realmente comprando.
Se acquisto una Ferrari voglio sapere se qualcuno ha progettato il motore oppure ha costruito una straordinaria automobile utilizzando un motore prodotto da qualcun altro. Entrambe possono essere eccellenti. Semplicemente non sono la stessa affermazione.
Questa è forse la parte più delicata.
Una pubblicazione scientifica seria è una cosa importante. Una pubblicazione sottoposta a peer review ancora di più.
Ma bisogna imparare a leggere esattamente che cosa è stato studiato e che cosa è stato dimostrato.
Se una metodologia matematica viene studiata scientificamente in un determinato campo applicativo, questo non significa automaticamente che qualsiasi prodotto commerciale che utilizzi quella metodologia sia stato scientificamente validato in qualsiasi altro campo.
È un salto logico enorme.
Immaginate che venga scientificamente studiato un algoritmo per prevedere il deterioramento di un componente industriale. Sarebbe assurdo sostenere che quella pubblicazione abbia automaticamente validato qualsiasi software gestionale nel quale successivamente viene incorporato quell’algoritmo.
Eppure davanti all’AI rischiamo continuamente di commettere ragionamenti equivalenti.
Leggiamo “pubblicato”, “peer-reviewed”, “università”, “validazione”, “algoritmo” e il nostro cervello completa autonomamente la frase:
“Quindi quello che questa applicazione mi dirà è scientificamente affidabile.”
No.
Può esserlo.
Ma deve essere dimostrato.
Facciamo addirittura un favore al marketing e supponiamo che un sistema raggiunga davvero il 99,8% di accuratezza.
Niente contestazioni metodologiche. Niente dubbi sul campione. Prendiamo quel numero come perfettamente vero.
Significa che ogni mille risposte, due sono sbagliate.
A quel punto al Commercialista dovrebbe interessare pochissimo sapere che 998 sono corrette.
La domanda professionale è un’altra:
come riconosco le due sbagliate?
Perché potrebbero riguardare la domanda sulla quale state consigliando al cliente un’operazione da un milione di euro.
Potrebbero riguardare proprio l’interpretazione fiscale sulla quale state firmando un parere.
Potrebbero essere dentro il documento che state per consegnare.
E l’intelligenza artificiale difficilmente vi telefonerà il giorno dopo dicendo: “A proposito, ieri quella risposta era una delle due”.
Qui crolla l’illusione statistica.
Perché il professionista non lavora sulla media delle mille risposte.
Lavora sulla singola risposta che sta consegnando al singolo cliente.
Sarebbe rassicurante se l’AI producesse soltanto stupidaggini.
La useremmo per una settimana e poi la butteremmo.
Il problema è esattamente l’opposto.
Le migliori applicazioni AI sono straordinariamente utili. Sono veloci, persuasive, ordinate, instancabili. Possono leggere quantità di documenti che richiederebbero giornate di lavoro, trovare collegamenti, costruire ipotesi, confrontare scenari, suggerire verifiche, preparare bozze e amplificare enormemente la produttività di un professionista competente.
Ed è proprio perché funzionano così bene che diventano pericolose.
Dopo cinquanta risposte eccellenti, il controllo sulla cinquantunesima inevitabilmente diminuisce.
Dopo cento riferimenti normativi corretti, il centunesimo sembra vero prima ancora di essere controllato.
È un fenomeno umano prima ancora che tecnologico: l’affidabilità percepita genera delega.
Ed è esattamente il confine che un professionista non dovrebbe attraversare.
Il futuro degli Studi non consiste nel rifiutare l’intelligenza artificiale.
Sarebbe una posizione altrettanto miope.
Un Commercialista che nei prossimi anni non utilizzerà seriamente l’AI rischierà di lavorare più lentamente, sostenere costi maggiori e offrire servizi inferiori rispetto a chi saprà integrarla correttamente.
Ma utilizzare seriamente l’intelligenza artificiale significa esattamente il contrario di inginocchiarsi davanti all’output.
Significa sapere quali dati entrano, quali fonti vengono utilizzate, quali controlli vengono effettuati, dove può verificarsi l’errore, quali conclusioni richiedono validazione umana e soprattutto dove finisce il lavoro della macchina e ricomincia la responsabilità del professionista.
Perché quella responsabilità non è mai stata trasferita.
Il cliente non ha affidato l’incarico al modello linguistico.
Non pagherà la parcella all’algoritmo.
E quando una decisione suggerita sulla base di un’analisi sbagliata produrrà un danno, difficilmente sarà sufficiente spiegare che il sistema vantava percentuali di accuratezza straordinarie.
La prossima volta che vi presentano una tecnologia rivoluzionaria, quindi, non fatevi impressionare dalla quantità di parole che non conoscete.
Fate esattamente quello che sapete fare.
Chiedete i numeri.
Chiedete come sono stati ottenuti.
Chiedete i documenti.
Chiedete che cosa è stato validato.
Chiedete chi lo ha validato.
Chiedete il benchmark.
Chiedete gli errori.
Chiedete quali modelli vengono utilizzati.
Chiedete che cosa significa esattamente “proprietario”.
Chiedete come vengono aggiornate le fonti.
Chiedete che cosa succede quando le fonti sono discordanti.
Chiedete come viene gestita l’incertezza.
E soprattutto diffidate di chi risponde a domande semplici sommergendovi di terminologia tecnologica.
La complessità può essere una caratteristica della tecnologia. Non può diventare un alibi per non spiegare la tecnologia.
L’intelligenza artificiale rappresenta probabilmente una delle più grandi opportunità che gli Studi professionali abbiano avuto negli ultimi decenni. Può restituire tempo, ampliare enormemente la capacità di analisi e permettere al Commercialista di affrontare attività che fino a pochi anni fa sarebbero state economicamente impossibili.
Proprio per questo merita più rigore, non meno.
Perché la nuova alfabetizzazione digitale del Commercialista non consisterà nel saper scrivere il prompt perfetto.
Consisterà nel saper distinguere una tecnologia eccellente da una promessa eccellente.
E soprattutto nel ricordare una regola antica che l’intelligenza artificiale non ha cambiato di una virgola:
quando qualcuno vi presenta un numero straordinario, non chiedete quanto sia bello. Chiedete come cazzo l’ha calcolato.
Impostazioni privacy
Questo sito utilizza i cookie per migliorare la tua esperienza di navigazione su questo sito.
