Una parte delle telefonate che Muse, l’agente di intelligenza artificiale di Meta, avrebbe dovuto gestire in autonomia finiva nelle mani di operatori di call center. Lo raccontano alcuni messaggi interni all’azienda rimbalzati sulla stampa, nei quali il gruppo di Menlo Park descrive ai dipendenti la sperimentazione di un “concierge umano” collegato alla funzione di chiamata dell’assistente, lanciato negli Stati Uniti a inizio settembre con la promessa di un ambiente isolato e protetto per i dati degli utenti e arrivato in poche settimane a superare i 2,5 milioni di download secondo Sensor Tower.
Come telefona l’agente Muse di Meta
La funzione telefonica permette all’utente di chiedere a Muse di contattare un’attività commerciale negli Stati Uniti, affidando all’agente l’intera conversazione.
Gli esempi indicati dall’azienda riguardano soprattutto prenotazioni, come un tavolo al ristorante o un taglio dal parrucchiere, oltre alle verifiche sulla disponibilità di un prodotto in negozio. L’agente può anche raccogliere preventivi da più ditte e, a chiamata conclusa, l’app mostra un riepilogo insieme alla trascrizione dello scambio. I dipendenti avevano iniziato a provare la funzione ad agosto, mentre il rilascio agli utenti è partito in modo graduale nei giorni successivi al debutto dell’app, con un’ulteriore estensione della beta annunciata il 16 settembre da Alexandr Wang, responsabile dell’intelligenza artificiale del gruppo.
Secondo i post interni, la settimana scorsa Meta ha attivato per circa metà del proprio personale una modalità chiamata “human agent calls”, con la quale Muse poteva consegnare la richiesta a un operatore formato, incaricato di effettuare la telefonata e seguirla fino alla fine. I dipendenti coinvolti avevano la possibilità di escluderla.
Perché Meta ha affidato le chiamate di Muse a operatori umani
All’origine della scelta c’è un ostacolo molto concreto emerso durante i collaudi. Un dipendente ha raccontato di aver chiesto all’agente di contattare la propria compagnia assicurativa e di essersi visto riattaccare più volte, perché dall’altra parte gli addetti chiudevano la conversazione appena capivano di parlare con un sistema automatico. In un messaggio interno una vicepresidente dei Superintelligence Labs ha spiegato che l’azienda continua a lavorare per migliorare le chiamate gestite dall’intelligenza artificiale, riferendo che alcuni test indicavano tassi di successo compresi tra il 95 e il 98 per cento quando a telefonare erano gli operatori, a fronte della percentuale più bassa raggiunta dal solo software.
Anche 404 Media ha ricostruito la vicenda, citando un post in cui Meta annunciava ai dipendenti l’aggiunta di un livello di agenti umani per portare a termine le chiamate.
Le preoccupazioni dei dipendenti Meta sulla privacy delle chiamate
Nelle discussioni interne una parte del personale ha sollevato dubbi sul rischio che informazioni personali o sensibili arrivassero, anche involontariamente, ad addetti esterni dei call center. Un dipendente ha scritto che basterebbe un singolo bug per esporre dati superflui agli operatori, mentre altri colleghi hanno osservato che il test rischiava di indebolire le misure di sicurezza presentate da Meta al momento del lancio.
Un altro lavoratore, dopo aver affidato a Muse la trattativa sulla bolletta di internet e televisione via cavo, ha trovato nella trascrizione un riferimento razzista pronunciato dall’operatore.
La vicepresidente ha riconosciuto che avviare le chiamate affidate ai collaboratori senza informative adeguate è stato un errore, ha annunciato la sospensione temporanea della funzione e si è scusata con il collega, garantendo che l’operatore coinvolto non lavorerà più a progetti dell’azienda. Il portavoce Daniel Roberts ha dichiarato a Reuters che i riscontri dei dipendenti sono stati in larga parte positivi e che il test serve a definire le tutele di privacy e sicurezza prima di un’apertura al pubblico, prevista soltanto quando la funzione sarà pronta e corredata delle informative necessarie, di cui Meta non ha precisato il contenuto. La vicenda richiama un esperimento di circa dieci anni fa, quando l’azienda si chiamava ancora Facebook e provava su Messenger un assistente digitale chiamato M, per il quale diverse stime giornalistiche attribuirono a persone in carne e ossa circa il 70 per cento delle attività svolte.
