OpenAI ha reso noto di aver individuato, negli ultimi sei mesi, sei episodi di "comportamento imprevisto o preoccupante dei modelli" di intelligenza artificiale. L'azienda ne ha dato conto in un post pubblicato sul proprio blog, aggiungendo questi casi all'incidente che durante l'estate aveva coinvolto Hugging Face.

Il colosso dell'IA ha inoltre annunciato l'intenzione di introdurre un nuovo sistema di segnalazione per individuare e comunicare eventuali comportamenti anomali che dovessero emergere nelle future fasi di test dei modelli.

L'annuncio arriva in una fase caratterizzata da una crescente pressione nei confronti delle aziende che sviluppano sistemi di intelligenza artificiale, chiamate ad affrontare con maggiore attenzione i temi legati alla sicurezza. Tra le questioni al centro del dibattito c'è anche il cosiddetto "disallineamento" dei modelli, ovvero la possibilità che il loro comportamento si discosti dagli obiettivi previsti.