Kan AI bli Ikaros fall?

My talk yesterday about Alan Turing and modern-day AI.

"Contrary to what Strümke claims, assessments of the possible near-term emergence of superintelligence rest on a substantial body of empirical evidence concerning AI development, as well as on scientific analyses of that evidence." My contribution to setting Norwegian AI debate straight.

Dags att lägga sig i norsk AI-debatt igen.

"Bakom [Dario Amodeis] fagra tal om röda linjer mot massövervakning och autonoma mördarrobotar döljer sig idén om amerikansk militär dominans som en central del av hans vision för hur AI ska transformera världen under den kommande tioårsperioden." Min nya text i Kvartal.

Nya framträdanden i Göteborg och Stockholm denna månad och nästa - kom och lyssna till vad jag har att säga om AI!

Elektriker blev jag aldrig, min urgamla civilingenjörsexamen i elektroteknik till trots, men nu har jag i alla fall medverkat i Elektrikerpodden! Värdarna Peter och Billy Fransson (kusiner från slätten) visade sig vara ett par riktigt sköna lirare, och samtalet vi fick till blev vittförgrenat.

En sak som gör mig lite trött är att det sitter två lomhörda tanter på samma buss som jag och för ett långt, repetitivt och lite förvirrat samtal om den frekventa förekomsten i etermedia av felaktiga uttal av alplandet Schweiz.

I expect many die-hard Searlians to stick to their guns right up to the very end.

Förra veckans största nyhet är inte den ni tror.

Vi ondgör oss ofta över amrikanernas oförmåga att hålla isär "Sweden" och "Switzerland", men det förekommer en annan geografisk förväxling därborta som vi enligt min mening gjort för lite för att rätta till.

Sedan åtminstone 2019 har jag ständigt upprepat hur dålig AI-kapplöpningen är för kontrahenternas benägenhet att satsa på säkerhet. Man skulle kunna tro att jag i detta läge skulle fröjda mig över att kunna ropa "vad var det jag sa", men nej.

My latest talk on AI risk, plus my latest podcast appearance on the same topic.

This was a good discussion with Reid Blackman on his Ethical Machines podcast, in large part thanks to how skillfully he pushed back against some of my assertions. The topic was AI risk, but we ended up talking quite a bit about epistemology in situations with extreme uncertainty.

Here's the video for my talk "Our AI future and the ethics of risking everything" at the HumAI seminar at Gothenburg University. www.youtube.com/watch?v=dYMx...

In my new Substack post I express deep concern over the AI accelerationist attitude diplayed in recent texts by Dario Amodei and Nick Bostrom.

DN Kultur publicerade en text om AI-risk av statsvetaren Hans Agné häromdagen. De har nu refuserat den replik jag skrev, men som tur är tillämpar bloggen Häggström hävdar lite rimligare bedömningsmallar, så nu kan ni ta del av min text där:

Länkar till inläggen i den pågående debatten i Opulens om AI-risk:

Mitt svar till Patrik Stigsson i den pågående debatten om AI-risk i tidskriften Opulens är nu publicerat. I svaret förklarar jag varför hans Gaia-fantasier om att en superintelligent AI automatiskt skulle bli miljövän är så förfelade.

Man vet att det är vinter-OS när man hux flux kommer på sig själv med att vissla Du gamla, du fria!

Lystring göteborgare! Nästa vecka har ni chansen att se och höra mig föreläsa över ämnet "Our AI future and the ethics of risking everything". Torsdag 19/2 kl 15.00. Viktiga avslöjanden och insikter utlovas, förutan vilka ni knappast är i stånd att korrekt bedöma samhället och framtiden.

Ny gästkrönika i GP idag, där jag återkommer till det här med AI-risk.

Central quote from my new blog post: "Frankly I don’t see how Altman’s plan for how to proceed is importantly disanalogous to if an evil pharmaceutical company released a pathogenic virus into the wild, and also offered the world a medication that neutralizes the virus."

Sällan eller aldrig har jag känt starkare hur mycket jag föredrar originalet framför plagiatet.

Det är först med denna läckta bild från arbetsutskottets konstituerande möte som vi nu vet vilka som sitter i Trumps fredsråds allra innersta krets och därigenom i praktiken beslutar över rådets inriktning i alla viktiga policyfrågor inklusive hur världen skall styckas upp mellan de olika parterna.

Det här var en kul nyhet, men som nogräknad matematiker har jag invändningar mot att beskriva en tidsrymd om tre och en halv månad som "knappt fem månader".

Flashback till 1995 och tiden då jag entusiastiskt deltog i bojkotten av franska viner som protest mot dåvarande president Chiracs beslut att återuppta testsprängningarna av kärnvapen i Stilla Havet. Idag känner jag mig något mer frankofil.

Alfred Nobel talade i sitt testmente om att belöna dem som "gjort mänskligheten den största nytta", och det vore måhända en ödets ironi om det blev en världsledares monomaniska besatthet rörande detta pris som till slut satte igång det tredje världskrig som sedan förintade allt vi hade kärt.

Today's essay in the Swedish magazine Opulens about AI risk is now also available in English on my Substack.

Idag lägger jag ut texten i tidskriften Opulens om de ofantliga riskerna med den pågående vansinesskapplöpningen mot superintelligent AI, och om felen i de vanligaste argumenten för att detta inte är något att bry sig om.

She does have a point, and occasional such gallows humor is a coping mechanism that I personally find insispensable, yet the world now needs sober thinking more than ever.

Min gästkolumn på Göteborgs-Postens ledarsida idag är märkt med varningstexten "GP Ledare är oberoende liberal. Fristående gästkolumnister representerar ett bredare politiskt spektrum". Bara så att ni vet!

Missa inte mitt Stockholmsgig på onsdag i nästa vecka (21/1) kl 13:00!

Vi står inför stora faror i samband med deepfakes-teknologi, på både samhälls- och individnivå. Men för balansens skull bör framhållas att det även finns deepfakes-tillämpningar som är helt och hållet av godo.

Igår satt jag ned en timme med Göteborgs-Postens ledarredaktör Adam Cwejman och pratade om AI-risk. Det blev, tycker jag, en hygglig introduktion till ett ohyggligt ämne. shows.acast.com/642ab3effe70...

Forskning och framsteg bad mig skriva en kommentar till nyheten att filosofen Martin Peterson tvingats ta bort Platons "Gästabudet" ur sin kurslitteratur.

Den svenske filosofen Martin Peterson, som är professor vid Texas A&M, har (som ett led i Trumpadministrationens försök att ideologiskt ta kontrollen över universiteten) förbjudits att undervisa om Platon. haggstrom.blogspot.com/2026/01/elim...

Präglad av gatunamnet? Någon gång ca 2018 satte jag en lekkamrat från uppväxten på Åkervägen på mute eftersom jag inte orkade höra hans 9/11-konspirationsorerande. Igår hörde en annan lekkamrat av sig med screenshots där den förste kamraten tydligen eskalerat till att bli missionerande plattjording

Om inte världsläget vore så åt helvete att jag omöjligt ens kan dra på mun så skulle jag skratta rakt ut åt detta uttalande.

Efter snart 33 års sammanboende kan hustrun och jag nu sent omsider skryta med full uppsättning husgeråd efter att ha hittat en potatispress för 25 kr på Erikshjälpens second hand.

Det börjar bli dags att stänga av hjärnans mer intellektuella delar och gå över till förbehållslöst hedoniskt njutande av julens överdåd. Men innan dess hoppas jag att ni vill lägga 10 minuter på mina senaste tankar om AI och automatisering av forskning. haggstrom.substack.com/p/how-not-to...

Is there something wrong with me if whenever I catch a glance of the binary sequence "10101" it first looks to me like "IDIOT"?

My fluffiest blog post so far at Crunch Time for Humanity.

De första cirka tre åren (typ mellan åldrarna sju och tio) jag kände till staden Minneapolis uttalade jag den med betoning på andra stavelsen, som i namnet Linnea. Jag hade sällan anledning att diskutera den med andra, så det felaktiga uttalet skedde mest i mitt eget huvud. Men ändå, förargligt.

Hur i hela fridens namn kan jag komma på idén att döpa senaste inlägget på min nya superseriösa AI-blogg till "Yo mama!"? En okvädningsfras! Om ni inte redan vet finns nog ingen annan råd för att reda ut mysteriet än att klicka nedan och läsa inlägget. haggstrom.substack.com/p/yo-mama

Bekymmersamt nog är det inte helt ovanligt med AI-experter som skulle välkomna om AI utplånade mänskligheten.

Läs min nya bloggpost "Those who welcome the end of the human race"! Oblygt törs jag påstå att detta är bland det bästa jag skrivit på sistone. Och budskapet är viktigt. I vanlig ordning har jag sparat några pärlor till fotnotsapparaten, så missa inte den!

Sannerligen ett rörande engagemang för jämställdheten!

OpenAI's CEO Sam Altman is a dangerous man with a knack for self-congratulatory bullshit.