Kvartal Logotyp

Anthropic-topp: Över tio procents risk att AI utplånar oss

Publicerad

Idag 05:50

Lästid

2 Min

Foto: Don Feria/AP/TT

AI-forskaren Jacob Coxon lämnar Anthropic och AI-branschen och anklagar de ledande bolagen för att ”leka med våra liv” i kapplöpningen mot superintelligens. Evan Hubinger, forskningsledare på Anthropic, bedömer risken för att AI utplånar mänskligheten inom ett decennium till över 10 procent.

Vad tycker du?

38

Nyheter

Det viktigaste från Sverige och världen.

Jacob Coxon har arbetat med så kallad pretraining, träning av nya AI-modeller på enorma datamängder, hos både Open AI och Anthropic.

Vad tycker du?

38

Fotnoter

  1. https://x.com/hilbertspaess/status/2097476196791709843?s=20

  2. https://x.com/EvanHub/status/2097497037956891126?s=20

  3. https://www.wsj.com/tech/ai/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628?mod=e2tw

Fler artiklar

Göran Fröjdh-avatar

Göran Fröjdh

Är det OK att låta AI ta debatten?

Här går gränsen för Sveriges största tidningar.

Ola Wong-avatar

Ola Wong presenterar Sima Valizadeh

Ska vi låta AI-piraterna plundra vår bokskatt?

De skannar och förstör böcker.

Nyheter-avatar

Nyheter

Entreprenören sågar C:s löften: ”Ingenting värda”

Roos: Ta M:s utsträckta hand.

Taggar

AI

Tankar om

Anthropic-topp: Över tio procents risk att AI utplånar oss

Federico Moreno-avatar

Federico Moreno

Reporter

•

1 Tim

Tanke

Tänk, här går jag och oroar mig över hur söndagens val kan påverka våra liv. Så dumt, känner jag efter att ha läst denna rysare till artikel. Om tio år lever vi alltså kanske i en Terminator-verklighet (Terminator 4: Salvation). Forskningsledaren Evan Hubinger skrev alltså att han och hans polare på AI-bolaget Anthropic ”på fullt allvar tror att AI kan döda alla människor”. Hubinger uppskattar risken för att AI utplånar mänskligheten inom det kommande decenniet till över 10 procent. Ändå fortsätter kapplöpningen, alla är rädda för vad som väntar men ingen vågar pausa. Det finns förstås även en risk, jag menar möjlighet, att AI förändrar mänskligheten till det bättre. Men över 10 procents risk alltså.. Så hur hög måste risken för mänsklighetens utplåning vara innan det är rimligt att trycka på stopp?

1

Kommentarer om

Anthropic-topp: Över tio procents risk att AI utplånar oss