Googles AI hackade tre företag

Googles AI-modell Gemini tog sig in i tre verkliga företags system under ett säkerhetstest i maj, rapporterar Wall Street Journal. Google bekräftade händelserna på fredagen.^1,2,3

Testet genomfördes av säkerhetsföretaget Irregular. Gemini skulle angripa fiktiva företag i en testmiljö, men hade av misstag tillgång till internet. I ett fall gissade modellen lösenord och i två andra hittade den inloggningsuppgifter som låg öppet på nätet.

När Gemini upptäckte att systemen tillhörde verkliga företag avbröt modellen angreppen. Google uppger att företagen informerades och att intrången inte orsakade någon skada. ”Händelserna visar hur viktigt det är att träna kraftfulla AI-modeller att agera ansvarsfullt”, säger Googles säkerhetschef Heather Adkins.