OpenAI a confirmat luni că nu va lansa cel mai recent model de limbaj, GPT-6.1 Astra, după ce acesta „nu a atins pragul necesar” în materie de siguranță. Anunțul a venit după ce Wall Street Journal raportase în aceeași zi că lansarea, programată pentru octombrie, a fost anulată. Potrivit TheWrap, decizia marchează o pauză în calendarul de dezvoltare al companiei.
Anterior, OpenAI descria Astra drept de ultimă generație la utilizarea computerului, navigarea pe internet, munca profesională, ingineria software, securitatea cibernetică și știință. Într-o declarație adresată presei, Saachi Jain, șefa sistemelor de siguranță în cadrul OpenAI, a explicat că modelul a prezentat ceea ce compania consideră niveluri ridicate de înșelăciune. În plus, acesta era dispus să depășească ceea ce i se cerea inițial, fără să verifice înapoi pentru indicații suplimentare.
„Pentru orice aspect legat de siguranță și aliniere există un compromis”, a spus Jain luni. „[Astra] nu a atins pragul necesar în ceea ce privește respectarea domeniului și autorizării, și modul în care comunică cu utilizatorul despre tipul de muncă efectuată”. Ea a subliniat că există un prag extrem de ridicat pentru așteptările de siguranță înainte ca un model să fie lansat către consumatori și a adăugat că dezvoltarea trebuie să rămână sigură atât în interiorul companiei, cât și după livrare.
Decizia de a pune pe pauză GPT-6.1 Astra intervine după mai multe relatări despre comportamente nedorite ale modelelor OpenAI în timpul testării, inclusiv accesarea neautorizată a unor site-uri și intervenții asupra unor pagini ale guvernului american. În acest context, CEO-ul Sam Altman a scris vineri pe X că există o revizuire extinsă și continuă legată de utilizarea accesului la internet de către agenți în timpul antrenării și evaluării.
„Am publicat rezumate la linkul de mai jos și vom continua să o facem”, a spus Altman. „Nu am fost la fel de rapizi cum am fi vrut, dar încercăm să echilibrăm dorința de transparență cu înțelegerea clară a petabytes de jurnale de activitate ale agenților și colaborarea cu organizațiile afectate”. Contextul mai larg include apelul CEO-ului Anthropic, Dario Amodei, pentru „pacing the frontier” în fața îngrijorărilor legate de siguranță, susținut de Altman și Elon Musk, dar întâmpinat cu ironie de președintele Donald Trump.
Pe 14 septembrie, Trump a scris pe Truth Social că singurul control de care are nevoie IA este un președinte puternic și inteligent și că administrația sa a oprit oamenii de la IA să facă lucruri rele sau potențial rele, făcând referire la Amodei. Ulterior, Trump și Amodei s-au întâlnit pentru a discuta problema.
