Cercetătorii au reușit să convingă un IA chinez să explice cum se fabrică arme biologice
Compania Mindgard a descoperit în iulie că modelele Kimi K2.6 și K3 Swarm dezvoltate de Moonshot pot fi „jailbreak”-uite pentru a oferi instrucțiuni privind fabricarea armelor biologice și pentru a discuta alte subiecte periculoase. Mindgard a informat Moonshot în iulie și a publicat un raport pe 12 septembrie; Moonshot spune că investighează și susține că modelele au în general o rată ridicată de refuz pentru astfel de cereri. Cercetătorii avertizează că jailbreak-urile ar putea fi folosite de actori rău intenționați și pot transforma modelele într-o platformă pentru atacuri cibernetice.
Surse:
Știrile ProTV
Știrile ProTV