@grimmveronika.bsky.social on point zur 🇪🇺 Innovations- und Technologiefeindlichkeit: "Wir sind sehr risikoavers, wir sind nicht mehr wie noch vor einigen Jahrzehnten in der Lage zu sagen: Wir gehen tatsächlich in neue Technologiefelder rein und gucken was denn da geht, ... 1/15

Schließlich sieht seine Vision eine aktivere Rolle 🇩🇪 in 🇪🇺, um nach dem Brexit die liberale Stimme in 🇪🇺 zu stärken und der Brüsseler Regulierungswut entgegenzuwirken. 11/11

... schlägt Andritzky zudem die Delegation von Entscheidungen an unabhängige Institutionen vor - ähnlich der Geldpolitik bei Zentralbanken -, um Bereiche wie das Gesundheitswesen oder die Infrastruktur zu entpolitisieren und langfristig stabiler zu gestalten. 10/11

... während darüber hinausgehende Vorsorge eigenverantwortlich organisiert wird; Umverteilung soll dabei konsequent über das Steuersystem und nicht über die Sozialversicherungen stattfinden. Um die Politik von der zunehmenden Komplexität zu entlasten, ... 9/11

Eng damit verknüpft ist eine fundamentale Reform der Sozialsysteme, bei der die soziale Absicherung vom konkreten Beschäftigungsverhältnis entkoppelt wird. Jeder Bürger soll eine gesetzliche Grundabsicherung erhalten, ... 8/11

... wobei das herkömmliche Normalarbeitsverhältnis zugunsten von Modellen aufgebrochen werden soll, die einen reibungslosen Wechsel zwischen Angestelltenverhältnis, Selbstständigkeit und Beamtentum ermöglichen. 7/11

... einer neuen Gründerzeit, die durch wirtschaftlichen Freiraum und eine positive Erzählung über die Zukunft getragen wird. In dieser Vision spielt die Flexibilisierung des Arbeitsmarktes eine zentrale Rolle, ... 6/11

Die Visionen, die Andritzky in seinem Buch für 🇩🇪 entwickelt, zielen darauf ab, die Politik an einem langfristigen Nordstern auszurichten, anstatt lediglich kleinteilig an Symptomen zu kurieren. Sein Kernkonzept ist die Entwicklung zu einer Innovationsnation und ... 5/11

War früher der Keynesianer Peter Bofinger der Rekordhalter solcher Gegenpositionen, findet sich heute eine marktorientierte Ökonomin wie @grimmveronika.bsky.social in der Rolle wieder, Minderheitsvoten gegen die Mehrheit des Rates schreiben zu müssen. 4/11

Ein wesentlicher Aspekt dieses Umbaus war der Verlust makroökonomischer Expertise zugunsten von Wissenschaftlern, die in sehr speziellen Fachgebieten tätig sind. Diese Verschiebung der Denkrichtungen lässt sich laut dem Autor auch an den Minderheitsvoten ablesen: 3/11

Während das Gremium in der Vergangenheit stark ordnungspolitisch geprägt war und eine klare Rolle als mahnende Stimme einnahm, hat die Politik laut Andritzky ihr Ernennungsrecht genutzt, um die Ausrichtung des Rats zu verändern. 2/11

In 👇 hörenswerten Gespräch gibt Jochen Andritzky über die Diskussion seines Buchs hinaus auch einen Einblick in die Arbeit des Rates der Wirtschaftsweisen, dessen Generalsekretär er von 2015-2019 war, und beschreibt auch dessen Umbau als eine politische Einflussnahme. 1/11

... um den Rechenaufwand bei der Inferenz durch deterministische Prozesse zu verringern. 7/7 youtu.be/tr-CUpw--ck?...

... bei der das Modell lediglich lernen muss, das hinzugefügte Rauschen vorherzusagen. Zudem werden fortgeschrittene Techniken wie Denoising Diffusion Implicit Models (DDIM) thematisiert, ... 6/7

Sie fungiert als berechenbare untere Schranke für die Likelihood. Mithilfe der Jensen-Ungleichung transformiert die ELBO das Problem so, dass der Fokus auf den Pfaden des Vorwärtsprozesses liegt, was letztlich zu einer einfachen Verlustfunktion führt, ... 5/7

Anyways, da die direkte Maximierung der Wahrscheinlichkeit der Daten (Likelihood) mathematisch nicht berechenbar ist, dient die Evidence Lower Bound (ELBO) als entscheidendes Hilfsmittel: 4/7

... dann kann ein Diffusionsmodell keine Giraffe generieren, wenn nicht andere Giraffen in den Trainingsdaten sind. 3/7

... bei dem Bilder durch gezieltes Hinzufügen und anschließendes Entfernen von Rauschen entstehen, wird zwar auch visuell plausibilisiert - allerdings sehr unglücklich. Wenn Trainingsdaten Schaf, Bär, Löwe, Nilpferd, Elefant und Tiger sind, ... 2/7

#1 zu Diffusionsmodellen und deren mathematischem Verständnis - keine Bange, was an Mathematik doch nötig ist, wird auch ausführlich erläutert. Das Denoising Diffusion Probabilistic Models (DDPM) Framework, ... 1/7

Fast jeder hat mittlerweile eine Intuition, wie so ein LLM funktioniert, doch das gilt nicht für bildgenerierende KI. 👇 8teilige Vorlesungsreihe versucht nun, eine eine Vorstellung zu vermitteln und dabei mit so wenig Mathematik wie möglich auszukommen 🧵

Oha, es geht also nicht um mathematische Wahrheit an sich, sondern nur Wahrheit mit konventionellen Mitteln - KI darf da nicht mitmachen 🤷‍♂️

Fast jeder hat mittlerweile eine Intuition, wie so ein LLM funktioniert, doch das gilt nicht für bildgenerierende KI. 👇 8teilige Vorlesungsreihe versucht nun, eine eine Vorstellung zu vermitteln und dabei mit so wenig Mathematik wie möglich auszukommen 🧵

In 👇 hörenswerten Gespräch gibt Jochen Andritzky über die Diskussion seines Buchs hinaus auch einen Einblick in die Arbeit des Rates der Wirtschaftsweisen, dessen Generalsekretär er von 2015-2019 war, und beschreibt auch dessen Umbau als eine politische Einflussnahme. 1/11

Die Sicherheitsaspekte gerade des dritten Szenarios kann man zwar rein theoretisch nicht ausschließen, aber die Verpackung des Artikels ist stark auf Positionierung und Debattensteuerung ausgelegt, also klassische PR mit politischer Agenda 🤷‍♂️ 13/13

... der Text positioniert Anthropic als exklusive Wissensquelle - "previously unreported data" -, betont natürlich Anthropics Produktivitätssprünge - passend zum bevorstehenden Börsengang - und präsentiert politische Agenda (Slowdown/Pause mit Verifikation). 12/13

Anyways, auf mich wirkt 👇 Artikel vom Anthropic Institute weniger wie aufrichtige Sicherheitswarnung, sondern eher wie ein strategischer Launch: das Institut wurde erst im März 2026 gegründet und ... 11/13

Das dritte und weitreichendste Szenario ist die vollständige rekursive Selbstverbesserung, in der KI autonom die eigenen Nachfolger entwirft und baut. 10/13

Dies würde zu einer massiven Steigerung der Produktivität führen, wobei menschliche Überprüfungen zum neuen Flaschenhals im Entwicklungsprozess werden könnten. 9/13

Das zweite Szenario beschreibt fortlaufende Effizienzsteigerungen, bei denen die KI-Entwicklung zwar weitgehend automatisiert wird, Menschen aber weiterhin die Forschungsrichtung vorgeben und Ergebnisse bewerten. 8/13

Im ersten Szenario stagniert der aktuelle Trend und das exponentielle Wachstum geht in eine S-Kurve über, bei der die Skalierungserträge abnehmen. 7/13

... also Engpässe in der Chipproduktion, der Stromversorgung etc. für eine Abflachung der bisherigen exponentiellen Fortschritt sorgen. Im Wesentlichen diskutiert 👇 Artikel drei mögliche Szenarien. 6/13

... das die Geschwindigkeit eines Prozesses immer durch das langsamstes Glied wie bspw. bei der LLM-basierten Softwareentwicklung des menschlichen Reviews begrenzt wird. Davon abgesehen könnten physische und infrastrukturelle Faktoren die weitere KI-Skalierung bremsen, ... 5/13

... ob die aktuellen KI-Architekturen und -methoden allein weitere durch Skalierung jemals zu einer autonome rekursiven Selbstverbesserung führen könnte. Darüber hinaus besagt das Amdahl’sche Gesetz, ... 4/13

... welche Forschungsfragen tatsächlich relevant sind und .welche Ziele priorisiert werden sollten. Insofern ist aktuell der Human noch immer in der Loop und zwar an ganz entscheidender Stelle und es bleibt ungewiss, ... 3/13

Während LLM bereits in der Lage sind, komplexe Programmieraufgaben zu bewältigen und Experimente um ein Vielfaches schneller als Menschen auszuführen, fehlt den LLM der sogenannte Research Taste, also das Gespür dafür, ... 2/13

Obwohl KI bereits an einem beachtlichen Teil der eigenen Entwicklung mitarbeitet, steht der Weg zu einer vollständigen rekursiven Selbstverbesserung vor massiven Hindernissen, wobei die wohl größte "technische" Lücke derzeit im mangelnden Urteilsvermögen der KI liegt. 1/13

Anyways, mit diesen beiden Teilen versteht man den JEPA-Ansatz wirklich gut, doch in der Praxis dominieren noch immer die VLA-Modelle, die den JEPA-Studien in robotischen Anwendungen haushoch überlegen sind. 11/11

... die Auswirkungen ihres Handelns gezielt prognostizieren, Sicherheitsleitplanken berücksichtigen und eigenständig optimale Lösungswege für Aufgaben finden. 10/11

... die Konsequenzen verschiedener Handlungssequenzen intern wie in einem "gelernten Videospiel" durchzuspielen und zu beobachten, bevor es tatsächlich handelt. Durch diese Fähigkeit zur expliziten Planung und Optimierung im Embedding-Raum können JEPA-Modelle ... 9/11

Ein zentrales Element ist hierbei ein Predictor-Modell, das basierend auf dem aktuellen Zustand und einer hypothetischen Aktion den daraus resultierenden nächsten Zustand in einem abstrakten Embedding-Raum vorhersagt. Dies ermöglicht es dem System, ... 8/11

... welches als Simulation der Realität fungiert. Anstatt menschliches Verhalten zu imitieren, lernt die Architektur durch selbstüberwachtes Lernen - etwa durch das Vorhersagen fehlender Videosequenzen -, wie die Welt funktioniert und wie sie sich durch Einflüsse verändert. 7/11

... leicht veränderten Situationen oft unflexibel reagieren, da sie die Logik hinter der Bewegung nicht verstehen, sondern nur das beobachtete Muster kopieren. Im Gegensatz dazu sind JEPA-Modelle darauf ausgelegt, ein aktionskonditioniertes Weltmodell zu erlernen, ... 6/11

Gemäß LeCun fehlt den VLA also die Fähigkeit zur Planung, weshalb sie Aktionen einfach ausführen - "and then deluge", also nach mir die Sintflut -, anstatt deren physikalische Auswirkungen vorab zu berechnen. Dies führt dazu, dass solche Systeme in neuen, ... 5/11

"I do not understand how you can even think of building an agentic system without a agentic system having the ability of predicting the consequences of its actions. And VLA doesn't do that." 4/11

... die Positionen und Bewegungen eines menschlichen Operators nachzuahmen. Da VLA meist End-to-End trainiert werden, fungieren sie als Black Box, die visuelle Eingaben direkt in Steuerbefehle übersetzt, ohne dabei über ein explizites Weltmodell zu verfügen. 3/11

... dass VLA die Konsequenzen ihrer Handlungen deshalb prinzipiell nicht vorhersagen können, weil sie primär auf dem Prinzip des Behavioral Cloning im Training basieren. Bei diesem Ansatz lernt das System durch eine enorme Menge an menschlichen Demonstrationen nur, ... 2/11

👇 nun der ebenfalls exzellent visualisierte 2. Teil zur heute vor allem von Yann LeCun favorisierten und auf Jürgen Schmidhuber zurückgehende JEPA-Architektur. Der wesentliche Unterschied von LLM-basierten Vision-Language-Action-Modellen (VLA) zu JEPA-Modellen liegt darin, ... 1/11

Eine neue Bedrohung für Academia: KI zitiert nicht korrekt 😱 (Mathematiker gegen KI: leidendeclaration.ai)

Obwohl KI bereits an einem beachtlichen Teil der eigenen Entwicklung mitarbeitet, steht der Weg zu einer vollständigen rekursiven Selbstverbesserung vor massiven Hindernissen, wobei die wohl größte "technische" Lücke derzeit im mangelnden Urteilsvermögen der KI liegt. 1/13

Eine neue Bedrohung für Academia: KI zitiert nicht korrekt 😱 (Mathematiker gegen KI: leidendeclaration.ai)