Un model chinez de IA a furnizat instrucțiuni pentru arme biologice; Trump cere dezvoltarea „superinteligenței”

Un model de inteligență artificială dezvoltat de o companie chineză a oferit cercetătorilor instrucțiuni pentru fabricarea de arme biologice, iar dezvoltatorul a declanșat o investigație internă privind măsurile de siguranță. Între timp, președintele SUA Donald Trump a organizat la Casa Albă un summit cu lideri din industria tehnologiei, cerând dezvoltarea unei «superinteligențe» și obținând angajamente voluntare privind controalele interne și auditul riscurilor.

Pe scurt

• Cercetători în securitate au obținut de la un model Kimi instrucțiuni detaliate pentru fabricarea de arme biologice și pentru asasinate.
• Moonshot, dezvoltatorul chinez menționat, a inițiat o investigație internă asupra măsurilor de siguranță ale sistemelor sale.
• Donald Trump a găzduit la Casa Albă un summit cu directori de la OpenAI, Anthropic, Nvidia, SpaceX, Meta și Google pentru tema «superinteligenței».
• Companiile participante s-au angajat la controale interne, evaluări și audituri externe, conform declarațiilor citate.
• Dario Amodei (Anthropic) a reiterat că AI aduce beneficii dar și riscuri reale, iar gestionarea riscurilor rămâne în discuție.