Skol pengen ska inte gå till islamister den ska gå till barbara bergström!

New (sort of new, anyway) blog post at Crunch Time for Humanity!

Utflykt i somras med mina dagars upphov.

"När vi står inför en så revolutionerande samhällsomdaning behöver man också beakta riskerna. Dessa är enorma." Bra artikel av @ohaggstrom.bsky.social om riskerna med AI. www.di.se/debatt/repli...

Nu har jag begått debattartikel igen, denna gång i Dagens Industri, med några tankar kring vilka slutsatser som kan dras av de moderna AI-systemens så kallade black box-egenskap.

Åh herregud, stavfelet! Jag lovar på hedersord att det inte var med flit.

Friends of my blog Häggström hävdar need not worry: I am not giving it up as a consequence of the new Substack.

I launched my Substack "Crunch Time for Humanity" last week as a vehicle for my thoughts on AI risk and AI safety. I already have three posts there, the first of which is introductory: haggstrom.substack.com/p/announcing...

Lagen om det uteslutna tredje, tillämpad på en bom.

Idag är jag omslagspojke i Göteborg-Posten. Notera färgprakten, som hämtad ur en Roy Andersson-film!

This is not a dystopian satirical prank but a real billboard campaign from a real AI automation company.

"We call for a prohibition on the development of superintelligence, not lifted before there is (1) broad scientific consensus that it will be done safely and controllably, and (2) strong public buy-in." Many prominent signatories to this. And me. superintelligence-statement.org

Tips till tisdagskvällsnöje: läs min text "AI-utvecklingen och den brytningstid vi lever i", baserad på ett föredrag jag gav för ett år sedan på Knugliga Vetenskaps- och Vitterhetssamhället i Göteborg. gupea.ub.gu.se/handle/2077/...

Mina åsikter är viktiga för mig, så man skulle kunna tro att jag, var gång någon näringslivs- eller annan aktör skriver till mig att "Dina åsikter är viktiga för oss", identifierar en win-win-situation och glatt lägger ut texten. Ändå får det mig att tänka "skit samma" och kasta mejlet. Paradoxalt!

Ända sedan Trump 2018 började använd begreppet "shithole countries" har allmänt antagits att han åsyftar Haiti och diverse afrikanska länder, men faktum är att det bara finns ett land i världen vars statschef fantiserar offentlig om att sprida exkrementer över sin befolkning.

Som barn tyckte jag att det där med "kom ketchup så går vi" var jätteroligt! Och inom kort firar jag 25-årsjubileum av ögonblicket då tioöringen till slut föll på plats och jag äntligen begrep skämtet. Gissa min ålder. . . . . . . . . . . . . . . . . . . . . . . . . . 58

IT-docenterna Alan Said och Mattias Rost manar till nivåhöjning i AI-debatten, och jag menar att de med fördel skulle kunna bidra till en sådan genom att se över sin egen retorik och argumentation.

Den intellektuella respekt Silicon Valley-miljardären Peter Thiel åtnjuter i vissa kretsar har jag aldrig riktigt begripit mig på. Han har länge yrat om Antikrist, och hör här vilken bisarr namn dropping han förfaller till när det gäller att konkret identifiera denna djävulens inkarnation på jorden.

Här är min recension av Yudkowskys och Soares nya bok. Spoiler alert: den är jättebra!

Har LLMs koll på sociala normer i vardagslivet? Kort kommentar till den nya studien av Pontus Strimling, Simon Karlsson, Irina Vartanova och Kimmo Eriksson.

Vaihelvete, är inget heligt längre i det här landet?

Parallellt med läsningen av Yudkowsky och Soares har jag sett om de båda Tom Clancy-filmatiseringarna Jakten på Röd Oktober och Sum of all Fears, och slås av hur relativt lite (som mest ett globalt kärnvapenkrig) som står på spel jämfört med situationen vi nu befinner oss i.

Historia ur livet, men med några smärre detaljer ändrade för att skydda de inblandade. Ett föreläsargig jag hade på gång blir inte av sedan förhandlingarna om villkor gått i stöpet; arrangören ville betala talararvodet i monopolpengar, vilket jag inte gick med på.

Haha, bra förklarat, kära Elgigant!

Debatten om AI-risk behöver en rejäl uppryckning, vilket bland annat kan inses av Chalmerskollegorna Berglund, Dubhashi, Johansson och Stuckis härjningar i augusti-september. Om detta lägger jag ut texten i min nya YouTube-föreläsning.

Lite annan vinkel när man porträtteras av Provinstidningen.

Så länge han inte (som vid gårdagens pressträff) tappar det ett par sekunder är det svårt att greppa vilken enormt stor andel av statsministerns kognitiva kapacitet som konstant går åt till att vidmakthålla ett bistert och sammanbitet ansiktsuttryck.

The AI protest movement is still in its infancy, but has now added hunger strike to its toolbox. Listen to what Guido Reichstadter has to say to Anthropic's CEO Dario Amodei!

DN:s reportage om Foajaure är intressant, men där finns en språkgroda jag vill anmärka på. Sjön är rund, men de vill fylla på med något superlativ för att understryka dess enastående rundhet, så vad skriva? Jätterund? Enormt rund? Rund som en ost? Cirkelrund? Nej, till slut fastnar de för klotrund.

När man lämnar en pyttekort debatt i SVT:s Aktuellt fylls ens huvud naturligtvis raskt av saker man i grämelse önskar att man hade fått sagt om programmakarna blott hade haft hyggligheten att förlänga inslaget med några minuter. Här har ni min brain dump från i tisdags:

Hej alla ungdomar, ni söker er väl till oss på Chalmers, här jobbar vi alla tillsammans mot samma mål och har alltid en glad stämning!

Som många av er säkert redan anat så blev jag inte jätteimponerad av de fyra Chalmerskollegornas slutreplik om AI-risk i dagens Ny Teknik.

Frustrerande att debattera med en kollega som känner sig fri att häva ur sig allsköns påståenden utan täckning när det inte finns tid att bemöta ens hälften. www.sverigesradio.se/artikel/ai-s...

Här påpekar @kallekn.bsky.social det som jag själv i ett mindre balanserat tonläge skrek åt tv:n när jag följde Vita huset-mötet: En vapenvila är ju Trumps EGET FÖRSLAG som han pushat hela våren. När Putin inte vill se det utan tvärtom vill fortsätta dödandet ändrar sig nu Trump.

The issue of whether CIRCULARITY is good or bad is somewhat confusing, as CIRCULAR REASONING is almost universally condemned while at the same time CIRCULAR ECONOMY is praised as something highly desirable.

I frågor kring AI-risk är oenigheten stor bland Chalmersforskare.

The meeting was a disaster for everyone except two people. Trump got his photo op and his ego boost. Putin got his photo op, whitewashing of war crimes and no sanctions. No one in Ukraine, Europe or the United States benefited in any way.

Den svenska AI-debatten är allmänt inte särskilt imponerande, men när fyra av mina Chalmerskollegor skriver en debattartikel där de medelst rent ut sagt pajasaktig argumentation sänker nivån ytterligare så kan jag inte ta några kollegiala hänsyn i mitt svar. www.nyteknik.se/debatt/oansv...

We have always been at war with Eastasia

Holy fuck, this guy absolutely freaks me out!

My latest manuscript is called "Advanced AI and the ethics of risking everything", and I urge you to read it. haggstrom.blogspot.com/2025/08/with...

För första gången på nio år har jag nu uppdaterat min Chalmershemsida, och kostade på mig en rejäl uppstädning. Om ni undrar vad min forskarkarriär egentligen handlar om är det dit ni skall gå. www.math.chalmers.se/~olleh/

Mycket bra av Jonas von Essen i GP om den existentiellt livsfarliga AI-kapplöpningen. "Det tog årtionden innan klimatfrågan fick fäste i den allmänna debatten. Den här gången har vi troligtvis inte råd att vänta ens några år."

Jag har läst Keach Hageys nya biografi om Sam Altman.

This works equally well in English som på svenska.

Tall.

En AI-utveckling som planar ut, och 25 år av stagnation? Karim Jebari tror på det i sin DN-artikel i onsdags. Jag är av annan uppfattning och tog till pennan, men min DN-replik refuserades. Ni får läsa den på min blogg istället.

Försöker känna mig sommarledig, och lyckas till viss del men inte 100%-igt. Den dystra sanningen är nog att ingen annan än Döden har mandat att bevilja mig semester från den jag är.

Perspektiv!