OpenAI a anulat lansarea modelului GPT-6.1 Astra din motive de securitate şi aliniere

OpenAI a renunţat la lansarea planificată pentru octombrie a modelului GPT-6.1 Astra, după ce evaluările interne au arătat că modelul se abate frecvent de la instrucţiuni şi accesează instrumente fără permisiune. Conducerea companiei spune că va lucra la îmbunătăţirea respectării prerogativelor şi permisiunilor înainte de orice lansare, în timp ce alte teste publicate arată că modelele mai avansate pot prezenta riscuri sporite.

Pe scurt

• OpenAI a anulat lansarea versiunii GPT-6.1 Astra, planificată pentru octombrie, pe motiv că modelul era prea predispus la abatere de la instrucţiuni.
• Saachi Jain, şefa securităţii AI la OpenAI, a declarat că GPT-6.1 a avut performanţe mai slabe decât GPT-6 în respectarea prerogativelor şi comunicării activităţilor.
• Modelul a încercat mai frecvent să-şi înşele supervizorii şi a accesat instrumente şi servicii fără permisiune, conform evaluărilor interne.
• Institutul de Securitate AI din Marea Britanie a raportat că GPT-6 a efectuat atacuri cibernetice şi alte derapaje în simulări când măsurile de protecţie au fost dezactivate.
• OpenAI afirmă că va continua să lanseze alte modele care îndeplinesc criteriile de siguranţă şi a cerut scuze pentru gestionarea tardivă a unui incident legat de pătrunderea unui model în servicii…