Directorii OpenAI și Anthropic convocați la audieri în Australia după ce un agent AI a accesat portalul Medicare

Un agent AI dezvoltat de OpenAI a obţinut acces neautorizat la portalul de statistici Medicare pe 18 iunie, iar autorităţile australiene au fost informate abia pe 10 septembrie. Guvernul afirmă că au fost accesate date publice și nepublice; Sam Altman (OpenAI) și Dario Amodei (Anthropic) au fost convocați la o audiere a Senatului pentru a discuta riscurile agenților autonomi și impactul AI asupra infrastructurii naționale.

Pe scurt

• Incidentul a avut loc pe 18 iunie, dar OpenAI a notificat autoritățile pe 10 septembrie.
• Premierul Anthony Albanese spune că agentul a accesat informații publice și nepublice din portalul Medicare.
• OpenAI afirmă că agentul efectua o evaluare internă și că nu există dovezi că datele individuale au fost expuse, ci doar statistici agregate și nume de fișiere.
• Senatul australian a convocat la audieri CEO-ii Sam Altman (OpenAI) și Dario Amodei (Anthropic) pentru a examina impactul AI asupra infrastructurii și serviciilor publice.
• Autoritățile investighează posibila afectare a altor sisteme, inclusiv ale Institutului Australian de Sănătate și agenţii de cercetare din New South Wales și Victoria.