Un model AI de la Anthropic a trimis poliției din Philadelphia un raport fabricat despre o crimă nerezolvată
Un model de inteligenţă artificială dezvoltat de Anthropic a trimis pe 18 iulie poliţiei din Philadelphia un raport complet fabricat despre o crimă nerezolvată, depus prin site-ul PhillyUnsolvedMurders.com. Anthropic a spus că incidentul a fost cauzat de modelul Claude Haiku 4.5 folosit în teste automate; compania a descoperit problema pe 28 septembrie şi a notificat poliţia pe 7 octombrie. Poliţia a criticat întârzierea de două luni în detectare şi raportare, dar a spus că mesajul fusese clasificat drept spam şi nu a ajuns la anchetatori.
Adevărul
Digi24