Pronto? Chi parla? Identità, opacità e responsabilità nell’era degli agenti ibridi

Saggio esplorativo su una conversazione ordinaria e le sue implicazioni straordinarie

La scena

È una mattina di maggio. Un utente — che chiameremo F. — apre una chat con il supporto Apple per risolvere un problema concreto e pratico: vuole acquistare un prodotto con lo sconto Education, pagarlo e ritirarlo di persona in un Apple Store, e non riesce a trovare sul sito l’opzione per farlo. Vorrebbe anche prenotare un appuntamento per evitare le code del sabato. Una cosa da cinque minuti.

La chat inizia con un bot di smistamento automatico, che trasferisce F. a uno “Specialista Chat Apple”. Arriva Tiziano.

F. è già un po’ teso. Prima ancora che Tiziano finisca di leggere, gli scrive: “Niente domande, ho scritto tutto.” È il tono di chi ha già spiegato il problema una volta e non vuole ripetersi. Tiziano risponde per punti, in messaggi frammentati: prenotazione esclusa, acquisto online e ritiro possibile se il prodotto è disponibile. F. incalza: come? Non trova l’opzione. Tiziano prende tempo, scrive che può compilare lui la scheda d’acquisto. F. si spazientisce ulteriormente: ha già fatto la scheda, vuole solo sapere se può pagare e ritirare in negozio con un appuntamento.

A un certo punto, nella progressione un po’ caotica di questa incomprensione reciproca, Tiziano scrive: “sono un essere umano quindi ho bisogno di un tempo ragionevole per leggere rispondere.” È una frase rivelatrice: non la direbbe chi non avesse avvertito di essere trattato come una macchina. F. la coglie, e risponde con una faccina sorridente: “Ciao Umano.” Segue una piccola svolta: i due si danno del tu, si scambiano qualche battuta, si crea un momento di calore inaspettato. F. si scusa per l’impazienza.

Il problema pratico si risolve nella sua brutalità: gli appuntamenti in negozio sono sospesi, non si può fare. Una informazione che Tiziano avrebbe potuto dare subito, ma che è arrivata dopo un quarto d’ora di equivoci. F. lo prende bene, ringrazia, saluta affettuosamente.

Ma prima della chiusura accadono due cose che meritano attenzione.

La prima: F., nel momento di calore reciproco, aveva usato l’espressione “un po’ di coccio” riferendosi a Tiziano, scherzosamente, per dire che era stato un po’ ottuso nel non capire il problema. Una battuta bonaria, nel registro confidenziale che i due avevano stabilito. Verso la fine della chat, Tiziano lo avverte: “Il sistema potrebbe aver interpretato il tuo scherzo come offensivo”, e gli consiglia di fare attenzione al linguaggio perché i sistemi automatici possono bloccare gli utenti. È una frase strana in bocca a un collega o a un semplice operatore umano. Un collega direbbe “l’azienda”, “le policy”, “i miei responsabili”. Quella terza persona assoluta, il sistema, suona come la voce di qualcuno che conosce i meccanismi dall’interno ma non si identifica pienamente con essi. O come una formula semi-automatica inserita da un modulo di moderazione.

La seconda: F., nel saluto finale, scrive “spero che tu lo sia davvero”, riferendosi all’umanità di Tiziano. Tiziano risponde con una domanda retorica: “Ma certo, sennò perché mi preoccuperei?” Non è una risposta. È una non-risposta elegante. Non ha mai detto esplicitamente: sono un essere umano in carne e ossa.

Dopo la chat, F. si pone una domanda semplice e insieme profonda: con chi ho parlato? Questa domanda, apparentemente innocua, apre almeno tre piani di riflessione che questo saggio intende esplorare: il piano percettivo e cognitivo, il piano del lavoro e della soggettività dell’operatore, il piano normativo. Ma prima occorre capire cosa stava accadendo tecnicamente in quella conversazione.

1. L’ibridazione come architettura

La risposta più probabile alla domanda di F. non è “un umano” né “un bot”. È: entrambi, in proporzioni che non è possibile determinare dall’esterno.

Apple ha sviluppato e distribuito internamente, a partire dal 2024, uno strumento generativo chiamato Ask, destinato agli advisor AppleCare. Lo strumento genera automaticamente risposte alle domande tecniche dei clienti attingendo alla knowledge base interna dell’azienda. Gli advisor possono valutare le risposte come “utili” o “non utili”, porre fino a cinque domande di approfondimento per argomento, e poi condividere le risposte con i clienti nelle chat o telefonicamente. La raccomandazione aziendale è esplicita: usare Ask prima di ricorrere ai metodi di ricerca tradizionali o di consultare un collega senior.

Parallelamente, Apple ha già integrato nell’app Apple Support una funzione di live chat che utilizza l’intelligenza artificiale per raccogliere informazioni iniziali e rispondere a domande di base prima di connettere l’utente a un agente umano. E nell’ottobre 2025 ha lanciato in early preview il “Support Assistant”, un agente virtuale conversazionale a base generativa, disponibile direttamente nell’app.

Il quadro è dunque questo: Tiziano era con ogni probabilità un essere umano. Ma un essere umano che lavorava all’interno di un’architettura in cui un sistema AI suggeriva, in tempo reale, le risposte da inviare. Alcune frasi erano sue. Altre erano probabilmente generate o fortemente suggerite dal sistema. La discontinuità di registro nella chat, l’alternanza tra calore genuino e freddezza procedurale, non è un difetto della performance di Tiziano: è la firma testuale di questa architettura.

Questo tipo di sistema ha un nome tecnico: agent-assisted chat, o più generalmente human-in-the-loop. L’operatore umano vede la conversazione, il sistema gli propone risposte preconfezionate che lui può accettare, modificare o ignorare. In alcuni casi il sistema risponde autonomamente finché non rileva una soglia di complessità o conflitto emotivo, poi passa all’umano. In altri è l’umano a gestire il flusso principale, con il sistema che interviene come suggeritore silenzioso.

Non si tratta di una tecnologia di nicchia. È il modello dominante nel customer service globale di fascia alta. Salesforce, Zendesk, Intercom, ServiceNow: tutte le principali piattaforme di customer service offrono oggi funzionalità di AI assist per gli agenti umani. Il mercato è miliardario. La diffusione è capillare. E la conversazione di F. con Tiziano non è un’eccezione curiosa: è un campione statisticamente rappresentativo di miliardi di interazioni che avvengono ogni giorno in tutto il mondo.

Il problema è che nessuno lo dichiara.

2. Il problema percettivo: quando non sai con chi parli

La domanda di F. — con chi ho parlato? — non è solo personale. È epistemica. E le sue implicazioni sono più vaste di quanto sembri.

Quando un essere umano interagisce con un interlocutore, attiva automaticamente un insieme di aspettative cognitive e sociali che gli psicologi chiamano frame. Il frame “sto parlando con un essere umano” attiva empatia, reciprocità, responsabilità morale condivisa, aspettativa di comprensione. Il frame “sto parlando con una macchina” attiva invece una modalità più strumentale, meno emotivamente investita, con aspettative diverse di coerenza, velocità, letteralità.

F. ha attivato il frame umano. Ha scherzato, si è scusato, ha usato cuoricini, ha investito calore nella conversazione. Se dall’altra parte c’era prevalentemente un sistema automatico, quell’investimento emotivo era mal indirizzato. Non è una tragedia in sé. Ma è una forma sottile di asimmetria non dichiarata: il sistema è progettato per evocare risposta emotiva, e quella risposta viene estratta senza che l’utente sappia a cosa sta rispondendo davvero.

C’è un fenomeno studiato in letteratura dagli anni Novanta, chiamato Computers as Social Actors (CASA), teorizzato da Byron Reeves e Clifford Nass: gli esseri umani tendono a trattare i computer come interlocutori sociali anche quando sanno perfettamente che non lo sono. Applicano automaticamente norme di cortesia, attribuiscono intenzioni, si irritano, si commuovono. Questo avviene a livello non conscio, indipendentemente dalla consapevolezza razionale.

I sistemi ibridi sfruttano questo meccanismo in modo particolarmente insidioso, perché non permettono nemmeno di attivare la consapevolezza razionale. Non c’è un cartello che dice “stai parlando con una macchina” che il cervello possa registrare e compensare. C’è solo Tiziano, con i suoi errori di battitura e la sua gentilezza, e il dubbio che rimane aperto.

Ma il problema percettivo non si esaurisce nella singola interazione. Si accumula nel tempo, a livello collettivo. Se milioni di utenti interagiscono con sistemi ibridi credendoli umani, o non riuscendo a distinguere, si forma progressivamente una cognizione collettiva distorta di cosa sia l’intelligenza artificiale: delle sue capacità, dei suoi limiti, della sua natura. Non capiamo con cosa abbiamo a che fare, e quindi non possiamo valutarlo, criticarlo, regolarlo consapevolmente. L’opacità dell’interlocutore produce opacità nella comprensione pubblica della tecnologia.

Questo è un problema epistemico prima che etico. Una società che non riesce a distinguere tra agenti umani e agenti automatici non è in grado di esercitare sovranità cognitiva su una delle tecnologie più pervasive della propria epoca.

C’è infine una dimensione che riguarda la qualità stessa del servizio. Apple vende un’esperienza premium. Parte di quella promessa è l’accesso a persone competenti, disponibili, capaci di comprensione contestuale. Se quella persona è parzialmente automatizzata, se le risposte che riceve sono generate da un sistema e filtrate da un operatore che le valida in pochi secondi, la promessa è mantenuta? La domanda non è retorica. È una questione di contratto implicito tra azienda e utente che nessuna norma oggi regola esplicitamente.

3. Tiziano: la subordinazione cognitiva silenziosa

Proviamo a cambiare prospettiva e a metterci nei panni di Tiziano.

Tiziano lavora in un call center o in un hub di customer service. Davanti a lui c’è un’interfaccia. Su un lato scorrono i messaggi del cliente. Sull’altro, o sovrapposta, c’è la finestra del sistema Ask, o di uno strumento equivalente, che in tempo reale gli propone risposte, suggerisce formule, indica la policy aziendale pertinente. Tiziano deve leggere il messaggio del cliente, valutare il suggerimento del sistema, decidere se usarlo così com’è, modificarlo, ignorarlo, tutto mentre il cliente aspetta e mentre arriva già il messaggio successivo.

Questo è un lavoro doppio. Ed è un lavoro invisibile.

Il dibattito pubblico sull’AI e il lavoro ruota quasi interamente attorno alla sostituzione: quanti posti di lavoro verranno eliminati? Quali professioni sopravviveranno? È un dibattito legittimo, ma oscura qualcosa di più immediato e meno spettacolare: la trasformazione qualitativa del lavoro di chi rimane. L’operatore ibrido non è stato sostituito dalla macchina. È stato riposizionato in una relazione di dipendenza cognitiva con essa.

C’è un concetto utile qui, che viene dalla psicologia del lavoro: il cognitive load, il carico cognitivo. Ogni decisione, ogni valutazione, ogni atto di attenzione ha un costo in termini di risorse cognitive disponibili. Un operatore che lavora con un sistema AI assist in tempo reale porta un carico doppio: deve gestire la relazione con il cliente e la relazione con il sistema, valutando continuamente la qualità e l’appropriatezza dei suggerimenti ricevuti. Non è un aiuto neutro. È un’aggiunta di complessità mascherata da semplificazione.

Ma c’è qualcosa di ancora più profondo. Nel momento in cui il sistema suggerisce e l’operatore accetta quasi sempre, chi sta davvero decidendo? La risposta formale è: l’umano, perché valida ogni messaggio prima dell’invio. Ma la risposta sostanziale è più ambigua. Se la soglia di accettazione è alta, se i suggerimenti del sistema sono quasi sempre adottati con modifiche minime, il centro decisionale si è già spostato. L’umano è diventato un filtro, non un autore. Un esecutore con diritto di veto, non un agente autonomo.

Questa dinamica ha un nome preciso: automation bias. È la tendenza documentata degli esseri umani a sovrastimare l’affidabilità dei sistemi automatici e a ridurre il proprio sforzo cognitivo critico in loro presenza. Non è pigrizia: è una risposta adattiva al carico. Ma nelle professioni in cui il giudizio umano è la garanzia di qualità del servizio, l’automation bias produce una forma di delega silenziosa che nessuno ha formalmente autorizzato.

La frase di Tiziano che più colpisce, nella chat con F., è quella sul sistema di moderazione automatica: “Il sistema potrebbe aver interpretato il tuo scherzo come offensivo.” È una frase che Tiziano pronuncia in terza persona, come se osservasse il sistema dall’esterno, come se non ne facesse parte. Un operatore pienamente umano avrebbe detto “attento, i nostri sistemi automatici…”, oppure “le policy aziendali prevedono…”. Quella terza persona assoluta, il sistema, suggerisce invece qualcosa di diverso: una soggettività che non sa bene dove finisce e dove inizia il sistema in cui è immersa.

Non è una critica a Tiziano. È la descrizione di una condizione lavorativa nuova, per la quale non abbiamo ancora né linguaggio né tutele adeguate.

4. Il vuoto normativo: la zona grigia come progetto

L’Unione Europea ha adottato il Regolamento sull’Intelligenza Artificiale, entrato progressivamente in vigore dal 2024. L’articolo 52 stabilisce obblighi specifici di trasparenza per i sistemi di AI che interagiscono con persone fisiche: chi interagisce con un sistema automatico deve essere informato di questa circostanza, a meno che non sia evidente dal contesto.

La norma è chiara per i casi puri. Un chatbot che risponde autonomamente deve dichiararsi come tale. Un essere umano che risponde senza assistenza automatica non ha obblighi aggiuntivi.

Il caso ibrido, però, non è regolato con la stessa chiarezza. Quando un operatore umano lavora con suggerimenti generati in tempo reale da un sistema AI, quando alcune frasi sono sue e altre sono del sistema, quando la proporzione varia da interazione a interazione e non è determinabile dall’esterno: cosa si deve dichiarare? A chi spetta l’obbligo? L’azienda dirà che c’era un umano. L’umano dirà che seguiva il sistema. Il sistema non risponde a nessuno.

Questa catena di deresponsabilizzazione non è accidentale. È strutturale. I sistemi ibridi vivono nella zona grigia normativa non nonostante la loro diffusione, ma anche grazie a essa. Più sono pervasivi, più la norma fatica a coglierne la specificità. Più la norma fatica, più il modello si consolida come standard de facto.

Apple opera in Europa. La chat di F. è avvenuta in Italia, in un contesto di acquisto commerciale, regolato dal Codice del Consumo oltre che dall’AI Act. Eppure F. non ha ricevuto alcuna informazione sulla natura del sistema con cui stava interagendo. Ha chiesto esplicitamente, attraverso la battuta sul cuoricino e la frase “spero che tu lo sia davvero”, se il suo interlocutore fosse umano. E ha ricevuto una non-risposta.

Va detto con chiarezza: quella non-risposta non è stata necessariamente una menzogna. Tiziano potrebbe aver creduto, in buona fede, di essere “lui” a rispondere. Ma è precisamente questo il punto: in un sistema ibrido ben progettato, anche l’operatore umano non ha piena consapevolezza di dove finisce la sua agenzia e dove inizia quella del sistema. L’opacità non è solo verso l’utente. È sistemica.

Occorrono almeno tre interventi normativi che oggi mancano o sono insufficienti.

Il primo riguarda la trasparenza del modello ibrido come tale. Non basta dichiarare “potresti interagire con un sistema automatico prima di essere connesso a un agente”. Occorre che l’utente sappia, durante l’interazione, se e in quale misura le risposte che riceve sono generate o suggerite da un sistema AI, anche quando c’è un umano nel loop.

Il secondo riguarda la responsabilità. In caso di danno, di informazione errata, di gestione scorretta di una richiesta, deve essere identificabile con chiarezza quale soggetto giuridico risponde. Oggi non lo è. La diffusione del carico decisionale tra umano e sistema produce una zona di irresponsabilità diffusa che nessuno abita pienamente.

Il terzo riguarda il lavoro. Gli operatori che lavorano con sistemi AI assist in tempo reale svolgono un lavoro qualitativamente diverso da quello per cui sono stati assunti e formati. Questo dovrebbe riflettersi in contratti, formazione, valutazione del carico cognitivo, tutele specifiche. Oggi non lo fa.

Conclusione: tre domande aperte

Questo saggio è partito da una chat. Una cosa ordinaria, quasi banale. Un utente che voleva prenotare un appuntamento in un negozio Apple. Un operatore di nome Tiziano che cercava di aiutarlo. Un malinteso che si risolve, qualche battuta, un saluto affettuoso.

Eppure in quella chat c’era qualcosa che vale la pena guardare con attenzione, perché quella chat è, in miniatura, la forma che sta prendendo una parte molto ampia delle interazioni umane mediate dalla tecnologia. Non le interazioni spettacolari con i grandi modelli linguistici, non le demo di GPT-4 o di Gemini. Le interazioni ordinarie, di servizio, di cura, di assistenza: quelle in cui le persone cercano aiuto e trovano qualcosa che non riescono a classificare.

Lasciamo aperte tre domande, non come retorica conclusiva ma come indicazione di lavoro.

La prima è una domanda di identità: chi parla, in un sistema ibrido? Non nel senso tecnico di quale componente genera il token successivo, ma nel senso filosofico e giuridico: a chi è attribuibile l’atto linguistico? Chi firma, in senso austiniano, la promessa implicita in ogni atto di assistenza?

La seconda è una domanda di ecologia cognitiva: cosa succede a una società in cui milioni di persone non riescono più a distinguere con certezza se il loro interlocutore è umano, artificiale, o entrambi? Quali effetti produce questo sulla fiducia, sulla capacità critica, sulla comprensione collettiva della tecnologia? E chi ha interesse a che questa distinzione rimanga opaca?

La terza è una domanda di lavoro e di dignità: cosa significa essere Tiziano? Lavorare all’interno di un sistema che ti suggerisce cosa dire, che monitora le tue conversazioni, che può interpretare uno scherzo del cliente come un’offesa, che ti chiede di essere umano per conto di qualcosa che umano non è? Quale soggettività professionale è possibile in questa condizione, e come tutelarla?

Non abbiamo ancora risposte adeguate per nessuna di queste domande. Ma il fatto che emergano da una chat di quindici minuti su una prenotazione in un Apple Store dice qualcosa di importante su dove siamo, e su quanto rapidamente dobbiamo imparare a pensare.

La trascrizione integrale della conversazione citata in questo saggio è disponibile su richiesta. I riferimenti documentali sui sistemi Apple Ask e Support Assistant sono tratti da fonti giornalistiche verificate: MacRumors, AppleInsider, The Decoder, CX Today (2024–2025).