Kvartal Logotyp

Därför varnar de om AI-undergången

Publicerad

4 okt. 09:37

Uppdaterad

5 okt. 10:37

Foto: Kevin Wolf/AP/TT, Mark Schiefelbein/AP/TT och Don Feria/AP/TT. Kollage: Lukas Hökegård/Kvartal

En AI-forskare sade upp sig från Anthropic och anklagade bolaget och Open AI för att spela med våra liv i jakten på superintelligens. Spåren bakom hans varning går från en obskyr mejllista till tre av AI-världens ledande bolag.
Entreprenören Elliot Norrevik skriver om hur teorin om AI-undergången växte fram.

Vad tycker du?

29

Skribent

Presenteras av

Den 9 september lämnade den 27-årige AI-forskaren Jacob Coxon AI-bolaget Anthropic. I en tweet som blev viral på plattformen X skriver Coxon:

Vad tycker du?

29

Skribent

Presenteras av

Fotnoter

  1. https://x.com/hilbertspaess/status/2097476196791709843

  2. https://darioamodei.com/post/we-must-pace-the-frontier

  3. https://www.presidency.ucsb.edu/documents/truth-social-posts-september-14-2026

  4. https://openai.com/index/navier-stokes-solution/

  5. https://www.wired.com/story/book-excerpt-the-optimist-open-ai-sam-altman/

  6. https://openai.com/index/elon-musk-wanted-an-openai-for-profit/, https://openai.com/index/openai-elon-musk/, https://openai.com/index/openai-lp/

  7. https://www.siam.org/publications/siam-news/articles/boomers-doomers-and-artificial-general-intelligence/

  8. https://www.dropsitenews.com/p/house-war-powers-vote-stalled-by, 

  9. https://x.com/EvanHub/status/2097497037956891126

  10. https://www.lesswrong.com/posts/j9Q8bRmwCgXRYAgcJ/miri-announces-new-death-with-dignity-strategy

  11. https://www.astralcodexten.com/p/my-ai-opinions, https://www.astralcodexten.com/p/why-i-am-not-as-much-of-a-doomer

  12. https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/

  13. https://darioamodei.com/post/we-must-pace-the-frontier

  14. https://geohot.github.io/blog/jekyll/update/2026/07/11/ai-2040.html

  15. https://x.com/elonmusk/status/209878910998033205, https://x.com/sama/status/2098811563415150910

  16. https://x.com/DavidSacks/status/2098973625252708460

  17. https://www.nbcnews.com/world/china/china-ai-slowdown-trump-amodei-altman-threat-cold-war-rcna597631

Fler artiklar

Ola Wong-avatar

Ola Wong presenterar Lapo Lappin

Är påven kommunist?

Xi gör som Leo – kräver människocentrerad AI

Ola Wong-avatar

Ola Wong presenterar Lapo Lappin

Kristersson möter vår tids feodalherrar

Vill bygga ett nytt domedagsvapen.

Ola Wong-avatar

Ola Wong

Därför kör Kina fast i kampen om avancerade chip

Europa har ännu svårare att komma ikapp.

Taggar

AI

Tankar om

Därför varnar de om AI-undergången

Ola Wong-avatar

Ola Wong

Redaktör

•

4 okt. 11:48

Tanke

Fascinerande artikel av Elliot Norrevik – och han är 17 år! Som han skriver är AI-undergångens idévärld präglad av män som är formade av sin läsning av science fiction-litteratur och Liftarens guide till galaxen. Risken för undergång handlar i grunden om den klassiska science fiction-frågan: Kommer främlingarna i fred? Vanligtvis rör det sig om främmande livsformer från rymden, men det kan också, som i AI-diskussionen, handla om en teknologi som vi själva utvecklar men som vi snart kanske inte längre förstår eller kan kontrollera. För den som vill lyssna mer: Ola Wongs bokklubb hade en science fiction-special med temat ”Vi kommer i fred – om Arthur C. Clarkes och Hao Jingfangs ufon”: https://kvartal.se/olawongsbokklubb/poddar/vi-kommer-i-fred-om-clarkes-och-haos-fredliga-ufon/cG9zdDo5MDA3NQ Ola Wongs bokklubbs AI-special handlar om böckerna Empire of AI (om Open AI) och Mustafa Suleymans The Coming Wave. Samtalet borrar i det som Elliots artikel handlar om: konflikten mellan doomers och boomers och de ofta ganska knepiga personligheter som driver utvecklingen.

11

Linda Shanwell-avatar

Linda Shanwell

Reporter och redaktör

•

4 okt. 10:52

Tanke

Det är ändå speciellt att vi har kommit till en punkt där seriösa människor sitter och uppskattar sannolikheten för mänsklighetens undergång i procent. 10 procent? 20? Över 90? Jag vet inte riktigt vid vilken procentsats man förväntas börja bli orolig. Den cyniska delen av mig tänker att det kanske finns ett visst mått av undergångsromantik i Silicon Valley som spär på spekulationerna. Kanske sätter kulturen kring science fiction och storslagna framtidsscenarier sina spår i hur man tänker? Samtidigt känner jag att jag förstår alldeles för lite för att kunna ha en bestämd åsikt.

12

Kommentarer om

Därför varnar de om AI-undergången