Potrebbe essere sufficiente darle un obiettivo economico, dati corretti e nessuna ragione per preoccuparsi delle conseguenze umane. È uno dei motivi per cui in MasterBANK abbiamo scelto un confine preciso: la macchina può aiutare a capire, calcolare e simulare. Ma le decisioni appartengono agli esseri umani.
Quando immaginiamo un’Intelligenza Artificiale pericolosa commettiamo quasi sempre lo stesso errore cinematografico: immaginiamo una macchina diventata cattiva, dotata di una volontà propria, ostile agli esseri umani e improvvisamente determinata a danneggiarli, mentre il rischio molto più concreto, molto meno spettacolare e proprio per questo più interessante non richiede affatto che una macchina ci odi.
Potrebbe essere sufficiente che faccia molto bene quello che le abbiamo chiesto.
Pensiamoci in ambito economico-finanziario, dove apparentemente siamo lontanissimi dalle questioni etiche più drammatiche e ci occupiamo invece di cose rassicurantemente misurabili: redditività, liquidità, capitale investito, debito, produttività, probabilità di insolvenza, costo del personale, rendimento degli investimenti, flussi finanziari.
Immaginiamo allora di consegnare a un sistema estremamente potente i dati completi di un’impresa e di assegnargli un obiettivo apparentemente ragionevole:
massimizza la probabilità di sopravvivenza dell’azienda.
Sembra perfetto.
Fino a quando la macchina comincia a ragionare.
Supponiamo che l’azienda abbia 80 dipendenti, una marginalità insufficiente, debiti elevati, due stabilimenti, alcune produzioni scarsamente redditizie e un patrimonio immobiliare importante.
L’AI analizza tutto.
Scopre che eliminando 22 persone il costo del lavoro scenderebbe abbastanza da riportare determinati indicatori entro parametri considerati accettabili.
Scopre che chiudendo lo stabilimento meno produttivo migliorerebbe ulteriormente il risultato.
Scopre che vendendo un immobile sarebbe possibile abbattere parte del debito.
Scopre che interrompendo una linea storica, sulla quale l’imprenditore ha costruito quarant’anni di reputazione ma che oggi rende troppo poco, aumenterebbe il rendimento del capitale.
Scopre infine che sostituendo alcuni collaboratori anziani con persone meno costose il modello diventerebbe ancora più efficiente.
E magari ha ragione.
Questo è ciò che dovrebbe spaventarci.
Non necessariamente l’errore.
La correttezza.
Perché se abbiamo chiesto alla macchina di migliorare determinati indicatori, potrebbe aver individuato esattamente la combinazione di interventi che li migliora.
Soltanto che quei 22 dipendenti, nel modello, sono 22 costi.
Nella realtà sono 22 persone.
Lo stabilimento è una voce patrimoniale e produttiva nel modello.
Nella realtà potrebbe essere il principale datore di lavoro di una piccola comunità.
La linea da eliminare è un’attività a basso rendimento nel modello.
Nella realtà potrebbe contenere competenze, relazioni commerciali, possibilità future e quarant’anni di identità aziendale.
Stessi dati. Due mondi completamente differenti.
Ed è forse questa la forma più inquietante di crudeltà tecnologica.
Non quella che nasce dall’odio.
Quella che nasce dall’indifferenza matematica.
Una macchina non deve provare piacere nel licenziare qualcuno per suggerire un licenziamento.
Non deve disprezzare un imprenditore per suggerire di liquidarne l’azienda.
Non deve essere cinica per concludere che una determinata attività dovrebbe essere abbandonata.
Le basta perseguire coerentemente l’obiettivo che le abbiamo assegnato.
Se le diciamo di massimizzare il rendimento del capitale, tenderà a cercare il rendimento del capitale.
Se le diciamo di minimizzare il rischio, tenderà a eliminare il rischio.
Se le diciamo di ridurre i costi, cercherà costi da ridurre.
Se le diciamo di massimizzare la probabilità di rimborso di un finanziamento, potrebbe preferire sistematicamente imprese già solide rispetto a imprenditori con progetti straordinari ma difficili da classificare.
Siamo noi ad averle consegnato una definizione troppo povera di ciò che significa prendere una buona decisione.
Perché l’essere umano è pieno di cose economicamente inefficienti
Un imprenditore potrebbe continuare a tenere una persona in azienda anche quando, guardando soltanto i numeri, sarebbe più conveniente sostituirla.
Potrebbe farlo perché quella persona gli è stata accanto per trent’anni.
Potrebbe accettare un rendimento inferiore per non licenziare dieci dipendenti durante un periodo temporaneamente difficile.
Potrebbe mantenere aperta una produzione apparentemente marginale perché conosce un mercato che il modello non riesce ancora a vedere.
Potrebbe rinunciare a distribuire utili per proteggere l’azienda.
Potrebbe rifiutare l’investimento con il rendimento atteso maggiore perché metterebbe a rischio la casa nella quale vive la propria famiglia.
Potrebbe perfino decidere di vendere un’azienda economicamente sana perché ha sessantacinque anni, è esausto e vuole finalmente vedere crescere i propri nipoti.
Qual è la formula per calcolare tutto questo?
Quanto vale una notte tranquilla?
Quanto rendimento siamo disposti a sacrificare per non mettere a rischio una casa?
Quanto vale mantenere una promessa fatta vent’anni prima a una persona?
Quanto vale il desiderio di un imprenditore di consegnare l’azienda ai figli?
Quanto vale evitare una decisione che massimizza il patrimonio ma distrugge una famiglia?
Non sono domande sentimentali.
Sono variabili reali di una decisione reale.
Soltanto che alcune non entrano facilmente in una cella.
E adesso immaginiamo di affidare alla macchina non l’analisi, ma la decisione
Qui il problema cambia completamente dimensione.
Perché analizzare significa fornire informazioni.
Decidere significa scegliere quali conseguenze siamo disposti ad accettare.
Una macchina può calcolare che esiste il 68% di probabilità che un investimento produca un determinato rendimento e il 12% di probabilità che provochi una tensione finanziaria grave.
Magnifico.
Ma chi decide se quel 12% è accettabile?
Per una multinazionale diversificata potrebbe esserlo.
Per un imprenditore di cinquantacinque anni che dovrebbe garantire personalmente il finanziamento mettendo a rischio il patrimonio costruito in trent’anni potrebbe non esserlo affatto.
La matematica non è cambiata.
È cambiato l’essere umano al quale quella matematica appartiene.
Ed è precisamente qui che una decisione automatizzata rischia di diventare disumana pur continuando a essere perfettamente razionale.
Immaginiamo un altro ordine:
salva questa impresa a ogni costo.
Sembra addirittura nobile.
Ma a ogni costo significa davvero a ogni costo?
Possiamo vendere la casa dell’imprenditore?
Possiamo chiedergli di investire tutti i suoi risparmi?
Possiamo sacrificare la pensione della moglie?
Possiamo licenziare metà del personale?
Possiamo chiedergli altri cinque anni della propria vita dentro un’azienda che lo sta consumando?
Possiamo trascinare la famiglia dentro una battaglia che magari non vuole più combattere?
A un certo punto una domanda economico-finanziaria diventa inevitabilmente una domanda umana:
stiamo salvando l’azienda o stiamo sacrificando l’uomo per salvare l’azienda?
Non conosco un indicatore di bilancio capace di rispondere da solo.
Noi vogliamo Intelligenza Artificiale.
E ne vogliamo molta.
Vogliamo una tecnologia capace di leggere, interpretare, confrontare, spiegare, cercare anomalie, proporre scenari e mettere sotto pressione le ipotesi del professionista.
Vogliamo modelli quantitativi capaci di elaborare velocemente ciò che prima richiedeva ore.
Vogliamo simulazioni in tempo reale.
Vogliamo poter modificare ricavi, costi, investimenti, finanziamenti e ipotesi e osservare immediatamente come cambia il futuro economico, patrimoniale e finanziario dell’impresa.
Ma abbiamo voluto mantenere una separazione fondamentale.
Per questo, nell’impostazione MasterBANK, l’AI non è chiamata a inventare i numeri sui quali poggiano le decisioni: i calcoli devono derivare da modelli matematici verificabili e difendibili, mentre l’Intelligenza Artificiale può lavorare sull’interpretazione, sulla reportistica, sul confronto e sull’esplorazione di scenari ulteriori.
Perché se una macchina mi dice che qualcosa vale 4.783.000 euro, io voglio poter chiedere:
perché?
Voglio ricostruire il calcolo.
Voglio cambiare un’ipotesi.
Voglio stressarla.
Voglio capire cosa succede se la previsione è sbagliata.
E soprattutto voglio che alla fine ci sia un Commercialista, un Finanzialista, un imprenditore, degli esseri umani che si assumano la responsabilità di capire che cosa quei numeri significano nella vita reale.
Voglio qualcosa di molto più potente.
Voglio un sistema che permetta al professionista di arrivare davanti all’imprenditore e dirgli:
“Guardiamo insieme cosa succede se facciamo questa scelta.”
Questo cambia tutto.
Non è più un oracolo.
È uno strumento.
Simuliamo l’investimento.
Simuliamo il finanziamento.
Simuliamo il calo dei ricavi.
Simuliamo l’aumento dei costi.
Simuliamo l’assunzione.
Simuliamo la perdita del cliente principale.
Simuliamo la crescita.
Simuliamo perfino la nostra convinzione di avere ragione.
E poi guardiamo ciò che accade.
Perché una simulazione non deve ordinare all’imprenditore che cosa fare.
Deve permettergli di vedere meglio ciò che potrebbe accadere.
La differenza è enorme.
È la differenza tra tecnologia che sostituisce il giudizio e tecnologia che rende il giudizio più forte.
Perché un algoritmo potrebbe diventare straordinariamente bravo a costruire aziende efficienti e contemporaneamente contribuire a costruire un mondo nel quale nessuno vorrebbe vivere.
Potrebbe considerare inefficiente la fragilità.
Costosa la solidarietà.
Irrazionale la riconoscenza.
Subottimale la prudenza.
Improduttivo il tempo dedicato alle persone.
E potrebbe avere numeri perfetti per dimostrarlo.
È qui che dobbiamo essere tremendamente attenti, soprattutto noi che lavoriamo con l’economia, perché abbiamo una tentazione antica che l’Intelligenza Artificiale rischia di rendere irresistibile:
confondere ciò che possiamo misurare con ciò che conta.
Non sono la stessa cosa.
Un bilancio non soffre
Una posizione finanziaria netta non torna a casa la sera.
Un DSCR non deve dire alla moglie che la banca ha chiesto nuove garanzie.
Un EBITDA non licenzia qualcuno con cui ha lavorato per venticinque anni.
Un rating non deve spiegare ai figli che l’azienda costruita dal nonno potrebbe non esistere più.
Le persone sì.
Ed è per loro che quei numeri devono essere studiati con una precisione quasi ossessiva.
Non per trasformare l’impresa in un algoritmo.
Ma per evitare che decisioni prese male producano conseguenze che nessun algoritmo dovrà poi sopportare.
Per questo non dobbiamo costruire un’Intelligenza Artificiale che decida al posto nostro
Dobbiamo costruire esseri umani capaci di decidere enormemente meglio grazie all’Intelligenza Artificiale.
Commercialisti più preparati.
Più veloci.
Più curiosi.
Più difficili da ingannare.
Più capaci di mettere in discussione una previsione.
Più vicini agli imprenditori.
Più presenti prima che una decisione venga presa e non soltanto dopo, quando rimane da registrarne contabilmente le conseguenze.
Questa, per me, è una delle ragioni profonde di MasterBANK.
Non creare un pulsante sul quale premere per sapere che cosa deve fare un’azienda.
Ma costruire una potenza di fuoco capace di mettere il Commercialista nelle condizioni di vedere prima, simulare meglio, comprendere più profondamente e discutere con l’imprenditore le conseguenze di una scelta quando esiste ancora il tempo per cambiarla.
Perché possiamo costruire macchine sempre più intelligenti.
Probabilmente lo faremo.
Possiamo affidare loro quantità sempre maggiori di lavoro.
Probabilmente sarebbe stupido non farlo.
Ma c’è una domanda che dovremmo continuare a porci ogni volta che una macchina entra nel processo decisionale di un’impresa:
chi pagherà le conseguenze se questa decisione sarà sbagliata?
Se la risposta è un essere umano, allora un essere umano deve restare al centro della decisione.
Non per nostalgia.
Non perché abbia paura della tecnologia.
Non perché l’uomo sia infallibile.
Esattamente per il motivo opposto.
Perché quando possiamo sbagliare entrambi, uomo e macchina, voglio che ci sia qualcuno capace di comprendere non soltanto la probabilità dell’errore, ma anche il peso umano delle sue conseguenze.
Ed è per questo che MasterBANK continuerà a utilizzare l’Intelligenza Artificiale per rendere più potente il professionista, non per renderlo inutile.
Perché un’azienda può essere descritta da milioni di numeri.
Ma alla fine viene costruita, rischiata, amata, sbagliata, salvata e vissuta da persone.
E le decisioni che possono cambiare la loro vita devono rimanere questioni da esseri umani.
Prova cosa vuol dire aiutare le aziende con la tua consulenza, rimanendo al centro delle decisioni e facendoti percepire come indispensabile.
Poi decidi se MasterBANK è utile per te.
Impostazioni privacy
Questo sito utilizza i cookie per migliorare la tua esperienza di navigazione su questo sito.
