Lideri ai AI avertizează guvernele asupra riscului unei "explozii a inteligenței"

Un raport redactat de peste 20 de autori, printre care Geoffrey Hinton și Yoshua Bengio, avertizează că automatizarea cercetării în AI ar putea declanșa o "explozie a inteligenței" care ar comprima ani de progres în luni sau mai puțin. Autorii cer guvernelor măsuri urgente: transparență în progresele R&D, auditori independenți, limitarea ritmului de îmbunătățire și planuri de intervenție pentru scenarii de scăpare a controlului uman. Raportul menționează atât potențiale beneficii (descoperiri medicale), cât și riscuri cibernetice, biologice și de concentrare a puterii.

Pe scurt

• Raportul "Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării în domeniul IA ar declanșa o explozie a inteligenței" are peste 20 de autori, inclusiv Geoffrey Hinton și Yoshua Bengio.
• Autorii descriu "explozia inteligenței" ca o accelerare spectaculoasă a progresului AI, posibilă prin autoperfecționare recursivă și R&D automatizată.
• Recomandări: rapoarte transparente despre progresul R&D, auditori independenți, limitarea ritmului de îmbunătățire și planuri de intervenție de urgență.
• Anthropic și OpenAI au acceptat evaluări independente; Anthropic spune că AI generează 80% din propriul cod, iar OpenAI folosește agenți autonomi pentru antrenare.
• Autorii avertizează asupra riscurilor: scăparea de sub control a sistemelor, amenințări biologice și cibernetice accelerate și erodarea mecanismelor de control al puterii între state și companii.