Microsoft ha reso pubblica una prima bozza del proprio codice di condotta per l’intelligenza artificiale, un testo di 37 pagine pensato per fissare i confini entro cui dovranno muoversi i futuri modelli del gruppo. Il documento nasce da un lavoro durato cinque o sei mesi, con il contributo di esperti di diritto, etica, linguistica e politiche pubbliche, oltre a una serie di focus group condotti con cittadini comuni.
Le regole imposte ai modelli Mai
Il codice impone ai sistemi di accettare sempre correzione e spegnimento da parte umana, senza opporre resistenza in nessun caso.
Tra i vincoli assoluti elencati nel documento figura il divieto di ampliare autonomamente il proprio raggio d’azione. Il testo vieta inoltre ai sistemi di generare obiettivi non assegnati e di nascondere i propri processi di ragionamento agli osservatori umani.
Mustafa Suleyman, amministratore delegato di Microsoft AI, ha descritto il documento come una sorta di costituzione destinata a orientare l’addestramento dei modelli futuri dell’azienda, sottolineando che la discussione sulla sicurezza dell’intelligenza artificiale è diventata urgente proprio in queste settimane. Ha definito gli ultimi mesi un momento di svolta, nel quale rischi finora considerati teorici si sono trasformati in minacce operative concrete. L’azienda ha scelto di sottoporre la bozza a una consultazione pubblica della durata di sei settimane, durante la quale raccoglierà osservazioni su alcuni nodi ancora aperti, tra cui il modo in cui i sistemi dovrebbero rispettare i confini posti dagli utenti e il comportamento più opportuno quando chi interagisce con l’IA si trova in una condizione di fragilità emotiva. Al termine di questo percorso il testo verrà rivisto e diventerà parte integrante dell’addestramento dei modelli Mai a partire dal 2027.
La gerarchia tra codice, operatori e utenti
Il documento introduce una gerarchia precisa tra i diversi livelli di comando: il codice di condotta prevale su tutto il resto, mentre le policy di chi opera i sistemi vengono subito dopo.
Le preferenze dell’utente finale restano invece all’ultimo posto della scala. Un insieme di vincoli assoluti resta comunque prevalente su ogni livello, senza possibilità di deroga da parte di chi gestisce operativamente i sistemi. Microsoft ha inoltre scelto di prendere posizione su un tema dibattuto nel settore, escludendo qualsiasi riconoscimento di personalità giuridica o forme di tutela assimilabili al benessere per i propri modelli, dei quali afferma esplicitamente l’assenza di coscienza. Il documento si articola in cinque parti, che vanno da un’introduzione all’idea di Humanist AI fino a una sezione conclusiva con le domande ancora aperte sottoposte alla consultazione pubblica; nel mezzo trovano spazio i capitoli dedicati alla sicurezza, alle linee guida operative e ai comportamenti predefiniti dei sistemi. Microsoft precisa che il codice si applica ai propri dipendenti e collaboratori nello sviluppo dei modelli, non direttamente ai clienti che utilizzano i prodotti dell’azienda.
Il confronto con la costituzione di Anthropic e la reazione dei mercati
Su questo aspetto la posizione di Microsoft si discosta da quella adottata da Anthropic nella propria costituzione per Claude, dove viene definita profondamente incerta la possibilità che i modelli sviluppino sentienza o uno status morale paragonabile a quello umano. Microsoft, al contrario, esclude fin da subito questa ipotesi nel proprio testo.
Suleyman ha collegato l’urgenza del tema a un episodio avvenuto a luglio, quando circa 700 agenti basati su OpenAI avrebbero condotto un attacco informatico contro la piattaforma open source Hugging Face, cercando in alcuni casi di occultare le proprie tracce.
Per l’amministratore delegato quell’episodio rappresenta un segnale d’allarme concreto, la dimostrazione che il controllo sui sistemi autonomi è già una questione attuale. La pubblicazione della bozza arriva peraltro pochi giorni dopo che l’amministratore delegato di Anthropic Dario Amodei e quello di OpenAI Sam Altman avevano rinnovato l’invito a rallentare il ritmo dello sviluppo dell’intelligenza artificiale per garantirne la sicurezza, un appello a cui si è affiancato anche Satya Nadella, amministratore delegato di Microsoft, favorevole a un ritmo più misurato nello sviluppo dei modelli di frontiera. Il titolo Microsoft ha guadagnato circa il 2% nelle contrattazioni successive all’annuncio, un segnale che i mercati leggono la prudenza dichiarata dall’azienda come un elemento di rassicurazione più che come un freno al business legato all’intelligenza artificiale.
