Il consumatore digitale è sempre più profilato, i dark pattern diventano sofisticati, le truffe online sfruttano deepfake e intelligenza artificiale generativa, mentre le aziende iniziano soltanto ora a comprendere cosa significhi davvero compliance nell’era dell’AI Act europeo. In questa conversazione con Byte.it, il presidente dell’Unione Nazionale Consumatori Massimiliano Dona affronta alcuni dei temi più delicati del rapporto tra tecnologia, mercato e tutela dei consumatori.
In libreria da qualche settimana il suo nuovo libro, “Il cliente non ha sempre ragione, ma conviene ascoltarlo”, pubblicato da ROI Edizioni, attraverso il quale offre interessanti spunti e riflessioni sul concetto contemporaneo di customer centricity, sul rapporto tra aziende e clienti e sulla necessità di recuperare un ascolto autentico del consumatore oltre slogan, marketing reputazionale e automatismi digitali.
Dalla conversazione viene fuori un quadro molto chiaro in cui il rischio che ci troviamo davanti non è soltanto di natura tecnologica, ma anche e soprattutto culturale. Per Dona, la vera sfida dei prossimi anni sarà evitare che personalizzazione, automazione e intelligenza artificiale trasformino il consumatore in un semplice dato da elaborare.
Negli ultimi anni il consumatore è diventato sempre più “digitale”, ma anche sempre più profilato. Secondo lei stiamo entrando in una fase in cui la personalizzazione dei servizi rischia di trasformarsi in manipolazione commerciale?
Sì, questo è proprio il dilemma del nostro tempo. Da un lato la profilazione viene presentata dalle piattaforme come una comodità per il consumatore, qualcosa che può ridurre le frizioni nella scelta e aiutare il cliente quasi ad acquisire dei superpoteri. Dall’altra parte, evidentemente, non c’è personalizzazione che non affondi le sue radici in una caccia ai dati che notiamo essere sempre più esasperata. Il consumatore fino a qualche anno fa era davvero stupefatto da meccanismi che oggi ci sembrano banali, come i prodotti consigliati quando si acquista qualcosa su una piattaforma di e-commerce oppure il fatto di ricevere pubblicità focalizzate proprio su quel prodotto o servizio che aveva ricercato. Lo stupore del consumatore cancellava ogni remora e ogni preoccupazione rispetto a dove fossero stati raccolti quei dati.
Oggi questo scenario è radicalmente cambiato, al punto che una personalizzazione eccessiva indispone il cliente, quasi lo innervosisce. È una sorta di reattanza psicologica: il consumatore vuole riaffermare il proprio diritto e la propria libertà di andare oltre le scelte dell’algoritmo.
Questo lo vediamo anche in tanti contesti analogici. Nel libro che ho scritto, uscito proprio in questi giorni, faccio un esempio molto concreto: quello del ristorante. Fino a qualche anno fa il cameriere che diceva ‘Le porto il solito?’ ci faceva sentire accolti, riconosciuti. Oggi molti consumatori mi segnalano sui social che quel ‘solito’ suona quasi sinistro. La prima domanda che il cliente si fa è: ‘Come hai fatto a memorizzare tutto questo?’. Ma c’è anche un altro aspetto. Il ‘solito’ è l’apoteosi del passato. Magari oggi non voglio bere quel vino, non voglio spendere quella cifra, non voglio che i miei commensali sappiano cosa ho ordinato l’ultima volta. Online questo rischio diventa ancora più forte. Gli algoritmi guardano al passato, alle scelte già fatte. Ma le persone oggi vogliono anche esplorare nuovi territori.
Per questo credo che ci sia una crescente preoccupazione rispetto all’uso dei propri dati e che le aziende debbano stare attente: pensano di servire meglio il consumatore, ma rischiano di allontanarlo.”
L’intelligenza artificiale sta cambiando customer care, pubblicità, motori di raccomandazione e gestione dei reclami. Qual è oggi il rischio più sottovalutato per i consumatori nell’uso dell’IA da parte delle aziende?
Il consumatore non vuole essere trattato come un numero. Il rischio nell’abuso dell’intelligenza artificiale, sia nelle fasi di vendita sia soprattutto nel customer care, è che il consumatore si senta trattato come un semplice meccanismo dentro un processo più complesso, perdendo completamente la propria umanità. Dico sempre che il disservizio può unire persone molto diverse, ma la sofferenza che deriva da quel disservizio è unica e personale.
Se si interrompe il servizio di streaming mentre sto guardando un film o una partita, possiamo reagire in modo completamente diverso. Immagina chi stava guardando quel contenuto distrattamente e confrontalo con chi aveva invitato gli amici a casa per vedere una finale o l’ultima puntata di una serie. In quel caso non è soltanto un problema tecnico: diventano aspettative tradite, imbarazzo, autostima.
L’intelligenza artificiale però può anche essere molto utile. Libera tantissimo tempo. E vinceranno le aziende che sapranno usare quel tempo aggiuntivo per aumentare l’umanità della relazione col cliente.
Immagino due scenari: l’azienda che usa l’IA solo per risparmiare tempo e standardizzare ulteriormente la gestione del cliente e quella che usa l’intelligenza artificiale proprio per accrescere l’umanità con cui si relaziona alle persone. È inutile dire quali delle due vincerà.
L’AI Act europeo introduce obblighi di trasparenza e responsabilità. Dal suo osservatorio, le imprese italiane stanno comprendendo davvero cosa significhi compliance sull’intelligenza artificiale o prevale ancora un approccio superficiale?
Guardando a quello che è successo in passato nel mondo dell’e-commerce, vedo una prima fase in cui le norme cadono sulla testa delle imprese come un semplice onere burocratico. È successo vent’anni fa agli albori dell’e-commerce: consulenze, rifacimento di interfacce, aggiornamenti dei siti. Poi però arriva una seconda fase, nella quale le norme diventano valore.
A quel punto il tema non è più soltanto la compliance, cioè rispettare il dettato normativo cercando magari di minimizzare l’onere possibile, ma usare quelle norme come strumento di caring e quasi di marketing.
Oggi un’impresa che concede tutele ulteriori rispetto a quelle obbligatorie viene percepita come più affidabile. Pensiamo alle aziende che concedono più giorni per il recesso o che estendono i diritti del consumatore anche oltre quanto previsto dalla legge. Credo che con l’AI Act succederà la stessa cosa. Oggi le imprese sono ancora destabilizzate da queste normative, anche perché parliamo di una tecnologia molto più acerba e molto più impattante rispetto all’e-commerce delle origini. Ma le aziende più virtuose trasformeranno trasparenza e responsabilità in un valore aggiunto.”
Dark pattern, abbonamenti difficili da disdire, countdown finti, recensioni manipolate: molte pratiche scorrette online sembrano ormai strutturali nell’e-commerce. Le autorità stanno intervenendo abbastanza o il mercato corre più veloce delle regole?
Quello che leggo quotidianamente sui miei social, rispondendo ai commenti e ai messaggi che ricevo, è una vera e propria disaffezione del consumatore verso le tecniche manipolatorie. Quando una persona non riesce a disdire un contratto si crea un’irritazione profondissima. E spesso non è solo rabbia verso l’azienda, ma anche verso sé stessi per essersi fidati di promesse e vantaggi che poi si trasformano in vincoli. Che si tratti di una piattaforma streaming, di un programma loyalty o di un abbonamento turistico, il risultato è sempre lo stesso. Oggi queste tecniche disturbano moltissimo il consumatore. Dieci anni fa un countdown o l’avviso che ‘altre persone stanno guardando la tua stessa camera d’albergo’ erano quasi considerati normali. Molti consumatori ci credevano davvero. Già da tempo però la Commissione Europea ha giudicato manipolatorie molte di queste pratiche.
Il problema è che la tecnologia corre velocissima. I dark pattern oggi stanno diventando sempre meno informatici e sempre più psicologici. Domani parleremo con avatar, robot umanoidi e sistemi di intelligenza artificiale capaci di instaurare relazioni emotive molto credibili. E sarà sempre più difficile restare razionali.
Lei ha spesso parlato del rapporto tra fiducia e consumo. Nell’era degli influencer virtuali, dei deepfake e dei contenuti generati artificialmente, come cambia il concetto stesso di fiducia del consumatore?
Può sembrare incredibile, ma il video fake del governatore della Banca d’Italia che promuove investimenti in criptovalute fa presa su moltissime persone. E ancora di più fanno presa i volti televisivi familiari, i conduttori e le conduttrici che entrano ogni giorno nelle case degli italiani. È inutile chiedere al consumatore di verificare se un deepfake è perfetto o meno, perché presto saranno indistinguibili dalla realtà. Quello che bisogna insegnare è altro. Bisogna spiegare che non esistono rendimenti garantiti del 20%, che uno smartphone da mille euro non può essere venduto a cento euro. Servono strumenti culturali e capacità critica più che strumenti tecnologici.
Oggi molte aziende raccolgono enormi quantità di dati attraverso app, fidelity card e piattaforme digitali. Secondo lei il consumatore medio ha davvero consapevolezza del valore economico dei propri dati personali?
C’è ancora moltissimo da fare. Il livello di consapevolezza è bassissimo. I consumatori disseminano letteralmente i propri dati ovunque. La domanda che ricevo più spesso sui social è: ‘Ma dove hanno preso il mio numero?’. La verità è che molto spesso quel numero lo abbiamo lasciato dappertutto: sul treno per usare il Wi-Fi, in albergo durante il check-in, nei comparatori online di luce e gas. E spesso quei comparatori non fanno vera comparazione: sono grandi macchine per raccogliere dati. Non a caso il giorno dopo iniziano le telefonate di call center di ogni tipo, anche di settori completamente diversi. Su questo serve un enorme investimento culturale. Bisogna spiegare alle persone quanto sia importante proteggere il proprio profilo social, evitare di inviare documenti via WhatsApp e capire che la propria identità digitale ha un valore enorme.
Negli ultimi mesi si è discusso molto di truffe online sempre più sofisticate, spesso costruite con strumenti di AI generativa. Ritiene che il sistema italiano di tutela e prevenzione sia adeguato rispetto alla velocità con cui evolvono queste minacce?
Il problema è che le minacce evolvono a una velocità impressionante. Le norme arriveranno, ma nel frattempo bisogna lavorare tantissimo sulla divulgazione e sull’informazione. Con l’Unione Nazionale Consumatori facciamo ogni giorno questo lavoro: raccontare i rischi, spiegare le truffe, fornire strumenti critici. Perché presto i deepfake saranno perfetti e indistinguibili. E allora la vera difesa sarà la cultura digitale del consumatore.
Lei è stato tra i primi in Italia a trasformare la divulgazione consumeristica in contenuto social. Quanto conta oggi TikTok o Instagram nella formazione della consapevolezza dei consumatori rispetto ai media tradizionali?
C’è moltissimo da fare sui social. Esistono problemi enormi legati all’addiction, agli algoritmi progettati per catturare attenzione e alla tutela dei minori. Su questi temi siamo impegnati anche a livello parlamentare, sia in Italia che in Europa. Ma allo stesso tempo i social rappresentano anche una straordinaria opportunità di divulgazione. Con mia moglie, Simona Volpe, abbiamo ragionato molto su questo anche dopo il Pandoro Gate, cercando di valorizzare i creator che producono contenuti di qualità. Oggi esistono creator che parlano di diritto, tecnologia, filosofia, nutrizione, longevità, animali. È una ricchezza enorme.
Io fui tra i primi su TikTok e sono grato a tutti quelli che oggi affrontano questi temi, perché più informazioni corrette circolano, più cresce la consapevolezza dei consumatori. Per questo ho contribuito anche al lancio del progetto Sprint, una gallery di creator che generano valore sociale.”
Sempre più aziende parlano di “etica”, “sostenibilità” e “centralità del cliente”. Dal suo punto di vista c’è un reale cambiamento culturale oppure spesso siamo davanti a nuove forme di marketing reputazionale? Il suo ultimo libro sembra proprio seguire questa linea di pensiero…
“Il mio libro nasce proprio da questa riflessione. ‘Customer centricity’ è una delle espressioni che sento più spesso nei board aziendali. Ma mi sono chiesto cosa significhi davvero mettere il cliente al centro. Per questo il libro parte quasi provocatoriamente negando una frase storica del commercio: ‘Il cliente ha sempre ragione’. Quella frase nasce nel 1908 con Caesar Ritz e probabilmente allora aveva senso. Oggi la trovo manipolatoria e persino offensiva per chi lavora nelle aziende. Se cambio tutto appena un cliente protesta, sto tradendo la mia visione di business e sto offendendo anche il mio team. Per questo il titolo è: ‘Il cliente non ha sempre ragione, ma conviene ascoltarlo’. La vera centralità del consumatore non nasce dai sondaggi o dagli slogan sull’etica, ma dall’ascolto profondo delle persone.
Può capitare di mangiare bene in un ristorante e decidere comunque di non tornarci più. Magari è mancato il contatto umano, l’attenzione, il modo in cui ti hanno accolto. Queste cose non sono scritte nelle norme. Nascono dall’empatia.”
Se dovesse indicare oggi una priorità legislativa in Europa e in Italia per proteggere davvero i consumatori nell’economia digitale, quale sceglierebbe?
Proporrei subito una battaglia molto concreta: il diritto a disdire un contratto con la stessa facilità con cui lo si attiva. Se attivo un servizio con un click, devo poterlo cancellare con un click. Se ho sottoscritto un contratto al telefono, devo poterlo disdire al telefono. Invece oggi ci troviamo davanti a percorsi assurdi: pec obbligatorie, decine di passaggi, bot che continuano a chiederti se sei davvero sicuro di voler uscire. Per molte persone, soprattutto anziane, è quasi una violenza psicologica. Esistono già esperienze come il cancellation button tedesco. Non possiamo essere da meno.
