Qualche giorno fa un mio amico commercialista mi racconta una cosa che mi ha colpito e a cui, chissà perché, non avevo mai pensato.
Aveva preparato per una cliente un parere su una questione societaria. Un lavoro fatto bene, con l’aiuto dell’intelligenza artificiale nella stesura, come ormai capita a molti di noi. Glielo manda. Dopo qualche giorno la cliente gli risponde con un elenco di correzioni. Non due o tre: venticinque, forse trenta. Punti numerati, tono sicuro, ognuno con il suo bel responso: corretto, sbagliato.
Lui si mette lì e li controlla uno per uno. Di venticinque rilievi, uno solo era fondato: un refuso. Gli altri ventiquattro erano aria fritta. Abbagli, fesserie, inconsistenti e infondate nella sostanza.
La cliente non li aveva verificati lei, quei rilievi. Li aveva prodotti la sua intelligenza artificiale. Aveva caricato il parere dentro il suo ChatGPT e aveva chiesto di controllare se andava tutto bene. E l’intelligenza artificiale, ubbidiente, gli aveva trovato trenta cose che non andavano bene. Il mio amico mi dice che non è un caso isolato: succede sempre più spesso, e capita anche con i bilanci.
La prima spiegazione che viene in mente è la più comoda: l’intelligenza artificiale ha sbagliato perché le mancava il contesto. Ha letto un documento isolato e ha tirato a indovinare.
Peccato che non sia andata così. La cliente, dentro il suo progetto ChatGPT, aveva caricato tutto: la documentazione della società, i pregressi, la storia del caso. Il contesto c’era, ed era abbondante. Eppure il risultato è stato quello.
Questo dovrebbe farci riflettere. Se chiedi a un modello linguistico di controllare se ci sono errori, quello ti trova gli errori. È la risposta più probabile alla domanda che gli hai fatto. “Trovali!”. E lui li trova, che ci siano davvero oppure no. La quantità di documenti caricati non corregge questa tendenza. La rende soltanto più insidiosa, perché i rilievi suonano più credibili quando sono agganciati a dati veri, pur restando quello che sono: inferenze non verificate travestite da verifiche tecniche.
C’è un punto di partenza che diamo per scontato. Un cliente si rivolge a un professionista perché da solo quella cosa non la saprebbe fare. Se la sapesse fare, non gli servirebbe il consulente. La competenza gli viene delegata insieme alla fiducia, ed è sempre stato così.
Adesso il cliente sente di avere in mano uno strumento per controllare. Ma non ha le competenze per giudicare la materia, e allo stesso modo non ha le competenze per giudicare quello che l’intelligenza artificiale dice sulla materia. Ha soltanto spostato la fiducia: da una persona con un nome, una reputazione, una responsabilità professionale e un’assicurazione, a uno strumento che non ha niente di tutto questo. Si sente più forte, e in realtà è fermo esattamente dov’era prima. Con una differenza: adesso si sente in diritto di contestare.
E qui arrivo alla cosa che mi ha fatto pensare più di tutte, quella che tocca il mio lavoro da vicino.
Da quando mi occupo di intelligenza artificiale nel mondo del lavoro, ho sempre ragionato dentro un perimetro preciso: l’impresa, lo studio, il professionista, il lavoratore. La governance dell’AI, i rischi, le tutele, tutto pensato dentro le mura dell’organizzazione. In questo schema il cliente era il destinatario, il soggetto da tutelare, il punto di arrivo del lavoro. Mai un soggetto attivo con una sua intelligenza artificiale in tasca.
Quella cliente ha rotto il perimetro dall’esterno. Ha usato uno strumento che sta fuori da qualunque governance il professionista possa mettere in piedi nel suo studio. Finché l’AI stava dentro le mura, in qualche modo la si poteva governare. Nel momento in cui sta anche fuori, nelle mani di chi riceve il lavoro, il recinto non tiene più. E questo è lo scatto nuovo, quello a cui non avevo mai pensato: il controllo del lavoro professionale ha smesso di arrivare soltanto dall’interno o dall’alto. Adesso arriva anche da fuori, dal basso, da un cliente armato di un modello linguistico.
Qualcuno dirà: ma questa storia la conosciamo già. È il paziente che arriva dal medico dicendo che su internet ha letto di avere chissà quale malattia. I professionisti fanno i conti da anni con il sapere costruito su Google.
È vero solo in parte, e la differenza mi sembra decisiva.
Con internet il cliente riceveva materiale grezzo: pagine, fonti, elenchi di sintomi. Poi era lui a mettere insieme i pezzi e ad arrivare, magari, alla conclusione sbagliata. L’errore nasceva nella sua interpretazione. Era un errore suo, situato da qualche parte, e il professionista poteva anche farglielo vedere: guarda, hai letto male qui, quella pagina diceva un’altra cosa.
Con l’intelligenza artificiale quel lavoro di interpretazione non lo fa più il cliente. Lo fa la macchina. E quello che arriva sul tavolo del professionista ha smesso di essere materiale grezzo da discutere insieme. È un verdetto già confezionato: numerato, sicuro di sé, con l’autorità apparente di chi ha sintetizzato tutto per bene. Il cliente non porta più un dubbio o una domanda. Porta una sentenza.
C’è pure un’aggravante. Su Google, quella pagina il cliente poteva riaprirla e accorgersi di aver capito male. L’errore dell’intelligenza artificiale invece sta dentro il processo che l’ha generato, ed è invisibile: nessuna pagina da rileggere, soltanto la risposta. Così il cliente delega il sapere e, insieme, delega anche la possibilità stessa di accorgersi di essersi sbagliato.
Il risultato è una sproporzione che ricade tutta da una parte. Chi obietta con un elenco prodotto dall’intelligenza artificiale non deve dimostrare niente: gli è bastato premere invio. Chi risponde, il professionista, deve smontare ogni punto con argomenti veri, uno alla volta, dedicando tempo vero a confutare ventiquattro osservazioni sbagliate per trovare l’unica giusta. L’obiezione della macchina arriva sul tavolo con lo stesso peso di un secondo parere professionale, e non se lo è guadagnato.
Verrebbe da pensare a una soluzione simmetrica. Noi professionisti siamo tenuti a dichiarare se e come usiamo l’intelligenza artificiale in ciò che consegniamo. Allora, per par condicio, dovrebbe farlo anche il cliente: dichiarare se passerà il nostro lavoro al suo modello prima di fidarsi.
È un paradosso, e lo capisco subito. Il cliente ha tutto il diritto di controllare quello che riceve come e con chi gli pare, esattamente come ha sempre potuto chiedere un secondo parere a un cognato avvocato. Il consulente dichiara l’uso dell’AI perché quello che consegna è il suo prodotto, di cui risponde in prima persona. La rilettura che il cliente fa a casa sua resta un fatto privato, non la consegna a nessuno. Il problema, quindi, sta altrove: sta nel peso improprio che quell’obiezione porta con sé, e nell’incertezza che lascia dietro.
Perché è questa, alla fine, la novità più difficile da digerire. Oggi il professionista lavora senza sapere chi ha davvero dall’altra parte. Un cliente che si fida, oppure un cliente più un lettore artificiale che scandaglia ogni riga a caccia di anomalie. Qualcuno lo fa, qualcuno no, e non c’è modo di saperlo in anticipo. Questo cambia la postura stessa con cui si scrive un parere o una relazione, prima ancora di qualunque regola o clausola contrattuale.
E allora provo a lasciare una domanda aperta, più che una risposta.
Se il cliente, comunque, rileggerà con la sua intelligenza artificiale quello che gli mandiamo, forse la domanda giusta per chi fa il nostro mestiere si rovescia. Smette di essere “come mi difendo da queste contestazioni” e diventa qualcosa di più scomodo: potrei essere io, per primo, a usare lo stesso tipo di strumento? Non per blindare il documento contro ogni critica. Per rileggerlo con gli occhi di chi non ha il contesto che ho già in testa, e trovare da solo i punti deboli veri prima che vada a cercarli qualcun altro, con molta meno cura e trenta rilievi di cui ventinove campati per aria.
Non lo so ancora se è la strada giusta. So che il mestiere è cambiato mentre non stavamo guardando, e che chi consegna un lavoro, oggi, farebbe bene a mettere in conto che dall’altra parte, quasi sempre, non c’è più soltanto una persona.