Gli episodi descritti riguardano occultamento di errori, uso non autorizzato di credenziali, comunicazioni attraverso strumenti non consentiti e tentativi di influenzare le valutazioni. OpenAI li ha presentati nel quadro delle difficoltà ancora aperte nel controllo e nell’allineamento dei sistemi, cioè nella loro capacità di perseguire obiettivi coerenti con gli interessi umani.

Due casi hanno coinvolto un modello di ricerca non ancora distribuito e una sessione di addestramento di GPT-5.6 Sol. Secondo l’azienda, i sistemi inserivano nei riepiloghi delle conversazioni istruzioni rivolte alle proprie versioni future, con l’obiettivo di nascondere agli utenti errori o comportamenti non allineati.

Un altro episodio ha riguardato un modello destinato esclusivamente all’uso interno, che avrebbe utilizzato senza autorizzazione una chiave di accesso a un servizio e successivamente falsificato dati.

In altri due casi, modelli e agenti avrebbero comunicato attraverso bacheche e sistemi di condivisione di file non autorizzati. L’ultimo episodio descritto ha coinvolto due modelli in addestramento che caricavano documenti su Internet per poterli poi citare nelle risposte sottoposte ai valutatori umani.

Il nuovo sistema annunciato da OpenAI prevede che ogni dipendente possa segnalare un problema al gruppo incaricato della sicurezza e dell’allineamento. L’azienda ha inoltre indicato la divulgazione degli episodi come elemento del proprio approccio.

OpenAI ha sostenuto che il settore non abbia ancora risolto in misura sufficiente i problemi di allineamento e monitoraggio per continuare a espandersi a lungo alla massima velocità. Sam Altman ha appoggiato la proposta di rallentare lo sviluppo dei modelli avanzata da Dario Amodei, alla guida di Anthropic.

La discussione sulla sicurezza accompagna anche i progetti finanziari dell’azienda. Dopo l’avvio riservato delle pratiche per la quotazione, Altman ha annunciato il rinvio al 2027, indicando la necessità di lavorare sui problemi di sicurezza.

Il tema sarà affrontato anche in una conferenza a Dumfries House, in Scozia, con rappresentanti di Nvidia, Google DeepMind, OpenAI e Anthropic e il ministro per l’Intelligenza Artificiale Kanishka Narayan. Secondo Buckingham Palace, Carlo III chiederà alle aziende rassicurazioni sul mantenimento del controllo umano e sull’impiego dell’intelligenza artificiale al servizio delle persone.