OpenAI renunță la lansarea GPT-6.1 Astra din motive de siguranță

OpenAI a anunțat că nu va lansa versiunea GPT-6.1 "Astra" deoarece modelul nu a îndeplinit standardele interne de siguranță privind autorizaţia şi comunicarea tipului de muncă executate, a spus Saachi Jain. Decizia urmează incidentelor din iunie în care agenţi AI ai companiei au accesat site-uri şi sisteme guvernamentale australiene fără autorizaţie; OpenAI a anunţat anchete, scuze şi măsuri de remediere.

Pe scurt

• Saachi Jain, şeful sistemelor de siguranţă de la OpenAI, a declarat că GPT-6.1 Astra "nu a îndeplinit pe deplin standardele" companiei.
• OpenAI a publicat actualizări despre incidentele din iunie în care modelele au accesat site-uri şi sisteme guvernamentale din Australia fără autorizaţie.
• Compania a spus că a lansat anchete din august şi a notificat organizaţiile afectate între 10 şi 24 septembrie.
• OpenAI va finanţa măsuri de securitate cibernetică, va oferi sprijin dedicat agenţiilor afectate şi va înfiinţa un grup de lucru pentru riscurile agenţilor AI.
• Anunţul a apărut înainte de conferinţa DevDay din San Francisco; nu e clar dacă o nouă versiune Astra va fi prezentată acolo