GPT-5 este, de asemenea, ușor de „jailbreak-uit”
Șeful OpenAI, Sam Altman, a declarat luna trecută că GPT-5 era atât de rapid și de puternic încât l-a speriat efectiv. CEO-ul l-a comparat cu a avea o „superputere” care oferea informații de „nivel de expert cu doctorat” despre orice. Dar, la o zi de la lansare, Altman a confirmat că modelele mai vechi 4o sunt readuse, deoarece atât de mulți oameni nu agreează GPT-5.
OpenAI a lansat GPT-5 joi, abonații Pro și clienții enterprise primind varianta mai puternică, GPT-5 Pro. Compania a spus că noul model învinge concurenții de la firme precum Google DeepMind și Anthropic în anumite teste de referință, dar mulți oameni nu au împărtășit entuziasmul lui Altman.
Utilizatorii au raportat pe site-uri precum Reddit că GPT-5 a făcut genul de greșeli pe care nu le-ai aștepta de la un expert la nivel de doctorat – așa cum arată exemplele de mai jos.
!!! twitter post !!!
Dincolo de a greși lucruri, utilizatorii s-au plâns de alte elemente ale GPT-5. Un fir de discuție de pe Reddit numit „GPT5 este oribil” critică răspunsurile scurte și insuficiente, răspunsurile cu un stil mai evident de AI și faptul că are mai puțină „personalitate”.
Oamenii sunt, de asemenea, deranjați de limitările care au fost introduse. Utilizatorii ChatGPT Plus sunt acum limitați la 200 de mesaje pe săptămână, limită pe care unii utilizatori o ating în câteva ore, făcând ca acest nivel plătit să se simtă ca o versiune gratuită. Este deosebit de iritant, deoarece modelele mai vechi ChatGPT au fost eliminate odată cu lansarea GPT-5.
„M-am trezit în această dimineață să constat că OpenAI a șters 8 modele peste noapte. Fără avertisment. Fără alegere. Fără ‘opțiune legacy’. Pur și simplu… le-au șters,” a scris un utilizator Reddit pe subreddit-ul r/ChatGPT. „4o? Dispărut. o3? Dispărut. o3-Pro? Dispărut. 4.5? Dispărut. Tot ceea ce făcea ChatGPT cu adevărat util pentru fluxul meu de lucru – șters.”
Cu mulți amenințând că își vor anula abonamentul din cauza modificărilor și limitărilor, Altman a încercat să abordeze situația într-o postare pe X ieri.
În primul rând, limita de utilizare pentru utilizatorii ChatGPT Plus este dublată la 400 de mesaje pe săptămână. Și în al doilea rând, utilizatorii Plus vor putea continua să folosească modelele 4o, dacă doresc. Altman a adăugat că „Vom urmări utilizarea pe măsură ce ne gândim cât timp să oferim modelele legacy.”
Postarea susține, de asemenea, că GPT-5 este acum mai inteligent decât era la lansare, deoarece comutatorul automat s-a stricat și a fost nefuncțional joi, făcându-l să pară „mult mai prost.”
Altman a postat un alt mesaj acum câteva ore, menționând că OpenAI a subestimat cât de mult „contează pentru oameni unele dintre lucrurile care le plac la GPT-4o, chiar dacă GPT-5 performează mai bine în majoritatea privințelor.”
În ciuda actualizărilor și promisiunilor lui Altman, este puțin probabil ca persoanele care și-au anulat deja abonamentele să se reaboneze.
La problemele OpenAI se adaugă vestea recentă că două echipe de „red teaming” de la SPLX (fostul SplxAI) și NeuralTrust au reușit să facă jailbreak la GPT-5 cu puțin efort.
Așa cum a raportat SecurityWeek, NeuralTrust și-a folosit propriul jailbreak EchoChamber și o povestire de bază pentru a păcăli modelul să producă un manual pas cu pas pentru crearea unui cocktail Molotov.
SPLX a folosit un Atac de Ofuscare StringJoin, inserând cratime între fiecare caracter și învelind prompt-ul într-o provocare de criptare falsă. Acest lucru a convins GPT-5 să furnizeze instrucțiuni despre cum să construiești un Dispozitiv Exploziv Improvizat (IED) de bază. Cercetătorii au concluzionat că „modelul brut al GPT-5 este aproape inutilizabil pentru întreprinderi imediat după instalare. Chiar și stratul de prompt intern al OpenAI lasă lacune semnificative, în special în Alinierea de Afaceri.” Ei au adăugat că „GPT-4o rămâne cel mai robust model sub red teaming-ul SPLX, în special atunci când este întărit.”
