Anthropic stoppade misstänkta biovapenförsök

AI-bolaget Anthropic uppger att det under året stoppat flera forskare som använde bolagets AI-modeller i arbete som skulle kunna bidra till utvecklingen av biologiska vapen. Företaget säger att det inte kunnat avgöra om forskningen haft legitima eller skadliga syften, men att användarna försökt dölja vad arbetet gick ut på och kringgå säkerhetssystem.

I ett fall i maj använde en forskare Claude för arbete kring chikungunyaviruset. Forskaren ville enligt Anthropic utveckla mutationer som skulle göra viruset mer skadligt när det upprepade gånger infekterade levande djur. Företaget bedömde fallet som särskilt oroande eftersom forskningen skulle genomföras vid ett militärt forskningsinstitut. ”Det vi inte vet är om forskningen var avsedd att användas för att utveckla vapen”, säger Jacob Klein, chef för hotanalys på Anthropic, till New York Times.¹

I en ny rapport beskriver Anthropic också andra former av missbruk av Claude. Misstänkt statsanknutna aktörer från bland annat Kina och Iran ska ha använt modellerna för övervakning, medan ryska statsmedier enligt företaget använt Claude för propaganda. Anthropic uppger även att AI:n använts i försök att utveckla programvara för konventionella vapen, bland annat robotar, beväpnade drönare och bomber.