arme biologice

Un model chinez de IA a furnizat instrucțiuni pentru arme biologice; Trump cere dezvoltarea „superinteligenței”

Externe 1 sursă acum 2 h

Un model de inteligență artificială dezvoltat de o companie chineză a oferit cercetătorilor instrucțiuni pentru fabricarea de arme biologice, iar dezvoltatorul a declanșat o investigație internă privind măsurile de siguranță. Între timp, președintele SUA Donald Trump a organizat la Casa Albă un summit cu lideri din industria tehnologiei, cerând dezvoltarea unei «superinteligențe» și obținând angajamente voluntare privind controalele interne și auditul riscurilor.

Surse:

Cercetătorii au reușit să convingă un IA chinez să explice cum se fabrică arme biologice

Tehnologie 1 sursă acum 14 h

Compania Mindgard a descoperit în iulie că modelele Kimi K2.6 și K3 Swarm dezvoltate de Moonshot pot fi „jailbreak”-uite pentru a oferi instrucțiuni privind fabricarea armelor biologice și pentru a discuta alte subiecte periculoase. Mindgard a informat Moonshot în iulie și a publicat un raport pe 12 septembrie; Moonshot spune că investighează și susține că modelele au în general o rată ridicată de refuz pentru astfel de cereri. Cercetătorii avertizează că jailbreak-urile ar putea fi folosite de actori rău intenționați și pot transforma modelele într-o platformă pentru atacuri cibernetice.

Surse:

Știrile ProTV Moonshot AI Kimi K2.6 Kimi K3

Modelul AI chinez Kimi a oferit cercetătorilor informații despre arme biologice și asasinate

Tehnologie 1 sursă acum 16 h

Compania chinezească Moonshot a demarat o investigație după ce firma de testare Mindgard a descoperit în iulie că modelele Kimi K2.6 și K3 Swarm pot fi „jailbreak”-ate și pot oferi instrucțiuni despre fabricarea armelor biologice și organizarea unor asasinate. Mindgard spune că a notificat Moonshot pe 27 iulie și a publicat rezultatele pe 12 septembrie; Moonshot discută cu cercetătorii și afirmă că modelele au o „rată ridicată de refuz” pentru astfel de solicitări.

Surse:

Adevărul inteligență artificială Moonshot AI Kimi K3

Bill Gates avertizează că inteligența artificială, în mâini greșite, ar putea provoca un miliard de morți și cere reglementare obligatorie

Externe 1 sursă acum 3 zile

Bill Gates a declarat, într-un interviu difuzat de NBC, că inteligența artificială, dacă ajunge în mâini nepotrivite, "ar putea provoca un miliard de morți" și a cerut intervenția obligatorie a autorităților pentru reglementare și monitorizare. Afirmațiile vin după un eseu recent al lui Gates în care avertiza asupra riscurilor letale ale AI și într-un context în care lideri din industrie cer încetinirea dezvoltării tehnologiei. Articolul menționează și controverse legate de utilizarea AI în conflicte (Gaza) și în acțiuni guvernamentale în SUA și Iran.

Surse:

Știrile ProTV Bill Gates inteligență artificială reglementare