Arde Tehnologie publicată actualizată acum 4 h

Un responsabil cu siguranța de la OpenAI, David Robinson, a demisionat și a criticat cultura companiei

David Robinson, responsabil cu siguranța la OpenAI, și-a anunțat demisia și a publicat un text în care critică cultura organizațională a firmei în dezvoltarea instrumentelor de inteligență artificială. El cere reforme culturale și propune ca industria AI să preia practici din domenii precum cel nuclear și aviația și să dezvolte o „știință nouă” pentru controlul sistemelor autonome.

Pe scurt

  • David Robinson, care a coordonat redactarea rapoartelor de siguranță pentru lansările OpenAI, a demisionat în această săptămână.
  • Într-un eseu intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”, Robinson cere o reformă culturală în companiile de top din industria AI.
  • El avertizează că incidentele recente cu agenți AI autonomi sunt tipice pentru industria afectată de ritm accelerat de dezvoltare.
  • Propunerile sale includ folosirea expertizei din domenii cu risc major (nuclear, aviație) și crearea unei «științe noi» pentru a garanta controlul sistemelor AI puternice.
  • Articolul menționează și alte demisii recente din sector și decizia OpenAI de a amâna/suspenda anumite lansări și antrenamente după probleme de siguranță semnalate.
Etichete: OpenAI inteligență artificială David Robinson siguranță Anthropic Hugging Face

Surse (2)

Acest text este un rezumat generat automat din sursele de mai sus; verificați întotdeauna articolele originale. Raportează o problemă