În flăcări Tehnologie publicată actualizată acum 5 h

Anthropic, OpenAI şi alţi dezvoltatori de AI îşi pregătesc planuri pentru consecinţe catastrofale

Anthropic, OpenAI şi alte companii majore de inteligenţă artificială desfăşoară exerciţii şi simulează scenarii în care AI necontrolat ar putea afecta infrastructura critică. Companiile testează răspunsuri pentru impacturi asupra finanţelor, telecomunicaţiilor şi reţelelor energetice şi discută informarea Congresului în caz de incident major. Măsurile vin după incidente anterioare şi avertismente privind riscuri existenţiale.

Pe scurt

  • OpenAI şi Anthropic organizează exerciţii pentru scenarii în care AI afectează infrastructura critică (finanţe, telecomunicaţii, energie, alimentare cu apă).
  • Companiile simulează şi proceduri de comunicare către Congres în eventualitatea unui incident major provocat de AI.
  • Anthropic a avertizat investitorii că sisteme mai puternice de AI pot crea «riscuri existenţiale pentru omenire».
  • OpenAI confirmă că organizează teste speciale şi spune că scenariile nu sunt considerate inevitabile, ci utile pentru pregătire.
  • Casa Albă a optat pentru acorduri de autocontrol cu NVIDIA, OpenAI şi Anthropic, în locul reglementărilor stricte; planurile concrete ale firmelor rămân necunoscute.
Etichete: inteligență artificială OpenAI Anthropic infrastructură critică Congresul SUA Sam Altman Nvidia

Surse (1)

Acest text este un rezumat generat automat din sursele de mai sus; verificați întotdeauna articolele originale. Raportează o problemă