Därför varnar de om AI-undergången
Publicerad
4 okt. 09:37
Uppdaterad
5 okt. 10:37
Foto: Kevin Wolf/AP/TT, Mark Schiefelbein/AP/TT och Don Feria/AP/TT. Kollage: Lukas Hökegård/Kvartal
En AI-forskare sade upp sig från Anthropic och anklagade bolaget och Open AI för att spela med våra liv i jakten på superintelligens. Spåren bakom hans varning går från en obskyr mejllista till tre av AI-världens ledande bolag.
Entreprenören Elliot Norrevik skriver om hur teorin om AI-undergången växte fram.
Vad tycker du?
32
Skribent
Presenteras av
Den 9 september lämnade den 27-årige AI-forskaren Jacob Coxon AI-bolaget Anthropic. I en tweet som blev viral på plattformen X skriver Coxon:
Vad tycker du?
32
Skribent
Presenteras av
Tankar
Ola Wong
Redaktör
•
4 okt. 11:48
Fascinerande artikel av Elliot Norrevik – och han är 17 år! Som han skriver är AI-undergångens idévärld präglad av män som är formade av sin läsning av science fiction-litteratur och Liftarens guide till galaxen. Risken för undergång handlar i grunden om den klassiska science fiction-frågan: Kommer främlingarna i fred? Vanligtvis rör det sig om främmande livsformer från rymden, men det kan också, som i AI-diskussionen, handla om en teknologi som vi själva utvecklar men som vi snart kanske inte längre förstår eller kan kontrollera. För den som vill lyssna mer: Ola Wongs bokklubb hade en science fiction-special med temat ”Vi kommer i fred – om Arthur C. Clarkes och Hao Jingfangs ufon”: https://kvartal.se/olawongsbokklubb/poddar/vi-kommer-i-fred-om-clarkes-och-haos-fredliga-ufon/cG9zdDo5MDA3NQ Ola Wongs bokklubbs AI-special handlar om böckerna Empire of AI (om Open AI) och Mustafa Suleymans The Coming Wave. Samtalet borrar i det som Elliots artikel handlar om: konflikten mellan doomers och boomers och de ofta ganska knepiga personligheter som driver utvecklingen.
Linda Shanwell
Reporter och redaktör
•
4 okt. 10:52
Det är ändå speciellt att vi har kommit till en punkt där seriösa människor sitter och uppskattar sannolikheten för mänsklighetens undergång i procent. 10 procent? 20? Över 90? Jag vet inte riktigt vid vilken procentsats man förväntas börja bli orolig. Den cyniska delen av mig tänker att det kanske finns ett visst mått av undergångsromantik i Silicon Valley som spär på spekulationerna. Kanske sätter kulturen kring science fiction och storslagna framtidsscenarier sina spår i hur man tänker? Samtidigt känner jag att jag förstår alldeles för lite för att kunna ha en bestämd åsikt.
Fotnoter
Fler artiklar
Taggar





