loading . . . Episode 71: Löwenbaby oder Pixelbrei – KI-Fakes erkennen ###
In dieser Woche besprechen wir etwas, das gar nicht mehr so leicht ist. Nämlich KI-Texte, -Bilder und -Videos von echten Inhalten zu unterscheiden. Was das Thema mit einem vermeintlichen Löwenbaby zu tun hat, erfahrt ihr in der Episode. Außerdem geht es unter anderem um uralte Windows-Versionen in britischen Behörden und um ein digitales Jugendzentrum.
### **Links zur Episode**
* Den Videovergleich zum Spaghetti essenden Will Smith findet ihr bei Reddit
* Die Faktenchecks findet ihr unter anderem beim Faktenfuchs oder auch bei Correctiv
### Transkript
_Das Transkript der Episode wurde automatisch erstellt_
Jingles:
Silicon Weekly, der Tech-Podcast mit den wichtigsten News der Woche. Für dich eingeordnet von Elli, Stella und Caspar.
Elli:
Hallo und herzlich willkommen zu einer neuen Folge Silicon Weekly. Ich bin Elli und falls ihr mich letzte Woche vermisst habt, weil ich nicht da war, hallo, da bin ich wieder. Und ich habe noch ein Hühnchen zu rupfen mit den beiden, die mir hier virtuell gegenüber sitzen. Was?
Caspar:
Was haben wir gemacht?
Stella:
Hallo! Wir haben nichts gemacht.
Elli:
Hallo Caspar.
Caspar:
Hallo Elli. Direkt gibt es einen Einlauf.
Elli:
Nein, gar nicht. Aber ich weiß nicht, ob ich mit euch Kart fahren möchte, weil ihr habt ja nicht gewusst in der Folge, wie ich Mario Kart spiele.
Caspar:
Ob ich gut bin oder nicht. Ja, und? Ich bin furchtbar.
Elli:
Ihr wollt das nicht mit mir machen. Es ist wirklich, ich bin schon im realen Leben ein sehr vorausschauender und ruhiger Autofahrer. Also ich bin eher so auf der langsameren Seite unterwegs. Aber bei Mario Kart, das wollt ihr nicht sehen. Das ist eine Katastrophe.
Stella:
Ich habe da gerade eine Idee, das versprechen wir nochmal. Aber du fährst auf gar keinen Fall schlechter als ich. Wir können uns also gerne um den letzten betteln und Caspar ist da wahrscheinlich schon im Ziel.
Caspar:
Ich überrunde euch einfach.
Elli:
Ja, ansonsten habe ich hier noch eine Frage.
Caspar:
Du hast auch noch eine Frage.
Elli:
Ja, hier steht der Silber dabei, das ist prima. In unserem Doc. War nicht Karnevalsbeginn schon letzte Woche?
Caspar:
Viva Silicon Weekly steht da auch noch. Ich habe es nicht reingeschrieben.
Stella:
Ja, ich war es, keine Ahnung. Ich hatte einen Ohrwurm.
Caspar:
Du rheinische Frohnatur, du.
Stella:
Ich vor allen Dingen. Als Karneval lieb habe.
Caspar:
Ja, Rheinländer sind wir alle hier nicht.
Stella:
Ich wollte einfach irgendwie so ein bisschen fröhliche Vibes mit euch und den ZuhörerInnen teilen. Weil wir haben ja wieder viele Tech-News dabei und die sind ja nicht alle so fröhlich. Und dann, ja, das sind dann...
Caspar:
Dann können wir die gute Laune ja gleich mit den Updates nach unten ziehen, oder?
Elli:
Ach man, no. Aber ich habe diese Woche die gute Nachricht vorbereitet. Also es wird wieder, also geht auch wieder bergauf dann.
Caspar:
Am Ende wird immer alles gut.
Stella:
Legen wir los. Mir ist eben erst eingefallen, dass das eine super Überleitung sein könnte, weil beim Karneval, beim politischen Karneval, gibt es ja immer die Festwagen, die teilweise auch PolitikerInnen zeigen. Und einer, der da eigentlich zum Standardrepertoire gehört, ist US-Präsident Donald Trump. Und genau um den geht es im ersten Update.
Elli:
Ihr könnt ja jetzt mal überlegen, zu dem Update passend, was ihr da für einen Karnevalswagen gestalten würdet, da draußen, wenn ihr uns hört. Ich hätte eine Idee, aber die Frage hier nicht. Da kommt einem was Gutes in den Kopf.
Caspar:
Die kann ich hier nicht äußern.
Elli:
Wir sind ja ein Tech-Podcast, deswegen geht es um Trump und die Technikwelt. Und zwar, Donald Trump verdient bei Meta, bei Intel, also dem Chip-Hersteller und bei T-Mobile US, das ist eine Tochtergesellschaft von der Deutschen Telekom, mit. Und zwar, indem er privat investiert hat. Das sind alles Firmen, die von seiner Politik ja durchaus profitieren könnten und die wahrscheinlich auch dementsprechend geneigt sind, sich mit ihm ganz gut zu stellen, so, Jetzt kann man sagen, gut, das ist nichts Neues, aber es ist ja jetzt doch was Neues.
Stella:
Also die sich teilweise auch schon sehr gut mit ihm gestellt haben. Beispielsweise die Telekom-Tochter, die hat schon mal bei den Diversitätsprogrammen, sagen wir mal etwas in Richtung des Sinne des Präsidenten geschraubt, des US-Präsidenten. Also da gibt es schon Annäherungen.
Elli:
Ja, ich erinnere mich, glaube ich, auch an, meine ich, so an so Spendensachen mal.
Caspar:
Da baut ja jemand einen Ballsaal.
Stella:
Genau, da war was. Es geht jetzt aber nicht um den Ballsaal des US-Präsidenten da beim Weißen Haus, sondern es geht um eine Finanzpflichtmitteilung. Das klingt jetzt erstmal hoch, was ist das? Da geht daraus hervor, wie hoch eben die Höhe dieser Investition, wie hoch die Höhe ist, merkt er selber, wie hoch die Investitionen sind, die bis jetzt quasi durch den US-Präsidenten getätigt worden sind. Veröffentlicht hat das Ganze die US-Behörde für Regierungsethik und das Ganze arbeitet auch mit Schätzungsspann.
Elli:
Ich muss zugeben, ich war erstaunt, dass es diese US-Behörde noch gibt unter anderem Donald Trump. Ja, ja. Aber was hat sie jetzt veröffentlicht? Eine bis fünf Millionen sollen zum Beispiel in Intel-Unternehmensanleihen stecken. Und wer da jetzt einen Interessenskonflikt wittert, dass ein Politiker so viel Geld in ein privatwirtschaftliches Unternehmen steckt, der könnte richtig liegen. Mindestens 500.000 US-Dollar stecken übrigens in T-Mobile US. Und insgesamt hat Donald Trump von Ende August bis Anfang Oktober diesen Jahres, also 2015, 2025, Unternehmens- und Kommunalanleihen im Wert von mindestens 82 Millionen Dollar gekauft.
Caspar:
Ja, dass das alles ein riesiger Korruptionsskandal ist, muss ich euch, glaube ich, allen nicht erzählen. Es passt aber in das Bild, wenn man überlegt, allein diese Geschichte mit dieser Boeing 747, die Donald Trump aus Saudi-Arabien gerne geschenkt hätte oder auch geschenkt bekommt, die geht ja zum Beispiel dann in seine Privatstiftung über, was auch immer das heißen soll, nach seiner Amtszeit. Also das sind alles so Dinge, ja, eigentlich ist es absolut unfassbar, was da passiert, eben auch mit Blick auf die Tech-Welt und diese Korruptionsgeschichten.
Elli:
Ja, ich würde mal sagen, aus Sicht der Unternehmen kann das natürlich eine Wün-Win-Situation sein, da spart man sich das Geld für die Lobbyarbeit.
Stella:
Kommentar von Elli.
Caspar:
Man muss es nicht verdeckt machen, ist doch auch ganz schön, man kann einfach das überweisen.
Stella:
Okay, aber wollen wir weitermachen, wir haben ja noch mehr Updates. Wir hätten hier noch was zum Thema Zollgrenze. Aktuell ist es nämlich noch so, wenn ihr Waren im Wert von bis zu 150 Euro aus China bestellt, dann kann das Ganze eben zollfrei in die EU verschickt werden. Was heißt das? Aktuell ist es so, dass Händler in beispielsweise Sendungen aufteilen, dass quasi in einem Paket dann immer weniger als 150 Euro Warenwert sind. Oder dass man den Warenwert auch einfach ordentlich runterrechnet, also geringer angibt, damit eben auch da kein Zoll gezahlt werden muss. Das soll natürlich so nicht sein. Und im nächsten Jahr soll sich das auch ändern. Eigentlich war es so, bis 2028 sollte diese Grenze von den 150 Euro eben gelten. Dann sollte ein einheitliches und digitales Zollmeldesystem kommen. Aber jetzt gab es eben im Wirtschafts- und Finanzministerrat der EU einen neuen Beschluss. Und der besagt, dass schon 2026 diese Zollfreigrenze abgeschafft werden soll. Aber wie genau das aussieht, das ist zum jetzigen Zeitpunkt eben noch nicht klar.
Caspar:
Ja, das ist insofern vielleicht ganz sinnvoll. Wir haben ja auch schon mal öfter über Temu, AliExpress und Co. Gesprochen und wie die mit den billigsten Dumpingpreisen teilweise ziemlich schrottige Produkte. Das gilt natürlich nicht, das ist jetzt pauschalisiert, das gilt nicht für alles, was aus China kommt, aber weil es diese Marktplätze dort betrifft, in der Regel leider schon und dass die den Markt überschwemmen. Und wenn man dann überlegt, dass unter 150 Euro im Grunde alles zollfrei war, dann muss man sich auch nicht so wirklich wundern und das würde dem jetzt so ein bisschen den Riegel vorschieben. Aber mal gucken, was am Ende wirklich draus wird. Wir updaten euch dann, wenn das dann soweit ist und auch klar ist, ob es noch eine andere Grenze gibt oder wie das dann aussieht.
Elli:
Yes. Und dann haben wir hier noch ein Update stehen. OpenAI hat man wieder vorgestellt, es gibt ein neues GPT, eine neue Variante von GPT-5. Also das Modell ist immer noch das gleiche, das aktuelle quasi. Aber es gibt jetzt 5.1, das ist ein Upgrade. Was kann das, Freunde? Brauchen wir das?
Caspar:
Naja, also wenn man es böse sagen möchte, dann wäre das eigentlich das GPT-5, wie OpenAI es hätte vorstellen sollen, als das GPT-5 vor ein paar Wochen oder Monaten rauskam, weil nämlich einige Dinge behoben werden, die stark kritisiert wurden. Wir haben ja auch eine Spezialfolge zu GPT-5 gemacht mit einem Input dazu und dort wurde unter anderem bemängelt, die Tonalität, mit der diese KI spricht, dass sie teilweise sehr langsam ist und dass sie Dinge macht, dass sie zum Beispiel immer wieder diese typischen Sachen macht, wie kann ich dir noch weiterhelfen. Die Spiegelstriche haben wir ja auch schon mal besprochen, dass da ganz viele auch drin waren und so. Und dieses neue Modell 5.1 soll jetzt einfach intelligenter sein, wie OpenAI sagt.
Stella:
Genau, also das Ganze ist ja jetzt, wo wir aufzeichnen, eine Woche draußen, wenn ich es recht im Kopf habe. Wir nehmen immer mittwochs auf und Donnerstag hört ihr uns ja dann vielleicht, also am 20. November frühestens. Ich muss ehrlich sagen, für mich hat sich jetzt noch nicht in den paar Tagen das große Neue gezeigt in dem Sinne, aber ich finde, es ist auch eher eine Verbesserung. Also das, was da angesprochen wurde, zum Beispiel die Eingaben, die sollen besser bearbeitet werden. Ja, was heißt das denn? Dass eben das, was du eingibst, treffender erkannt wird und treffender der Output daraus generiert wird. Und bei diesem freundlicher und stärker Dialog orientiert, das habe ich in der Pressemitteilung gelesen. Und Caspar, und hab an dich gedacht, weil ich weiß, wir haben darüber gesprochen. Und du hast gesagt, boah, dass ich immer hier gefragt werde und PDF-Erstellung und diese Smileys, ich werde bekloppt. Bei mir persönlich war es auch vorher schon so, dass ich sehr häufig gefragt wurde, wenn quasi das Gespräch aus meiner Sicht beendet war, möchtest du noch eine PDF vielleicht? Soll ich dir das mal zusammenfassen? Und ich frage mich, wie man das steigern möchte. Irgendwie wollen sie es ja steigern mit mehr Nachfragen. Vielleicht sind die Nachfragen da passender und nicht mehr immer nur dieses schreckliche, möchtest du das als PDF haben?
Stella:
Bei dem Thinking-Modell soll es so sein, dass eben die einfachen Aufgaben besser als solche erkannt werden. Sprich, schneller bearbeitet, weil weniger komplex. Und die komplexen dafür ausdauernder. Also ich würde das mal so übersetzen, einfach ausführlicher, auch da wieder passender Output. Ich glaube aber, da brauchen wir noch ein bisschen Zeit und auch ein paar Anfragen, um das so zu überblicken, ob das jetzt wirklich so eine krasse Veränderung ist oder einfach eine Optimierung.
Elli:
Ja, aber wenn ihr so wie ich aktuell keine Zahlenden NutzerInnen seid, dann guckt ihr vorerst in die Röhre, denn das Ganze geht natürlich zuerst an zahlende KundInnen raus. Ja, ich bin gespannt. Der Kommunikationsstil soll ja jetzt auch weiter individualisierbar sein. Drei neue Varianten, in denen man den Tonfall festlegen kann, der Antworten. Ja, also gucken wir mal, was bei rumkommt.
Caspar:
Ja, und dieses Freundliche und Empathische, was ja bei dem Umwechsel von 4 auf 5 bei vielen kritisiert wurde und auch geschrieben haben, das ist nicht mehr mein GPT, ich möchte meinen Freund zurück. So nach dem Motto, das kann ich zumindest ansatzweise jetzt nach einer Woche schon mal ein bisschen bestätigen. Es spricht ein bisschen anders mit einem. Ich kann jetzt nicht sagen, ob es mehr in GPT-4-Richtung geht und ob die Leute, die das vermissen, glücklich sind. Das muss man dann einfach ausprobieren. Aber auch das, wie gesagt, gucken wir uns noch mal an.
Stella:
Und es bleibt auch dabei, also du hast ja gerade angesprochen, wer eben kostenloser Nutzer ist, der bekommt es jetzt sehr hart gesagt einfach vorgesetzt, weil das neue Modell dann auch zum Standard wieder wird und kann da nicht viel wählen und die Bezahlenden, die AbonnentInnen, die können aber noch auswählen die nächsten drei Monate, sprich, ob sie 5.1 wollen oder 5. Also da hat OpenAI gelernt aus der Übergangsphase. Eins haben wir noch.
Elli:
Ja, wir bleiben noch ein bisschen bei KI.
Stella:
Geht auch ganz flott. Wir haben ja mal über Rechenzentren hier gesprochen an der Stelle. Und da wollten wir euch nur erzählen, es soll ein neues Rechenzentrum geben in Deutschland. Es ist von der Schwarzgruppe. Die kennt ihr vielleicht, die steht hinter Lidl und Kaufland. Gebaut werden soll es in Lübbenau im Spreewald, das ist in Brandenburg. Investiert werden sollen 11 Milliarden Euro von der Schwarzgruppe, die übrigens generell sehr versiert gerade ist auf das Thema Cloud, digitale Lösungen. Und bis Ende 2027 soll der erste Bauabschnitt fertig sein. Das ist ein sportlicher Zeitplan. Mal schauen, ob das klappt. Vielleicht auch noch ganz interessant, im Regelbetrieb soll der Strom aus erneuerbaren Energien kommen. Ich dachte erst, Mensch, das klingt ja super. Aber hatte jetzt jüngst in der aktuellen, noch aktuellen Zeit einen Artikel gelesen, unter anderem zum Thema Strom und Stromproduktion. Und tatsächlich das, was so das geringste Problem ist, ist grüner Strom. Deswegen, das klingt so, es ist auch wichtig und richtig, das möchte ich jetzt nicht in Abrede stellen, aber es ist jetzt auch nicht mehr so wow, sondern mehr und mehr geht das auch Richtung Standard.
Elli:
Und wer sich jetzt noch dafür interessiert, was da passieren soll in dem Rechenzentrum, natürlich geht es um KI, ein Trainingszentrum für künstliche Intelligenz und das mit bis zu 100.000 Chips. Ich habe mal geguckt, es gibt ja noch so ein Bauprojekt, das aktuell in Deutschland auf der Platte steht und zwar ist das die Telekom gemeinsam mit Nvidia, die in München bzw. In der Nähe von München bauen und die wollen 10.000 Chips verbauen, also ein bisschen weniger als die Schwarzgruppe jetzt auf den Teller bringt.
Caspar:
Ja, und ich glaube insgesamt auch die Schwarzgruppe mit dieser hohen Investition und diesen vielen KI-Chips. Ich glaube, man hat auch gemerkt, dass immer mehr so ein bisschen das Bewusstsein für europäische Lösungen in dem Bereich wächst. Ich glaube, die haben da eine kleine, in Anführungszeichen, Marktlücke aufgetan. Und deswegen wird da auch so viel investiert. Kann ich mir gut vorstellen, dass das ein Verkaufsargument wäre für deren Serverform.
Elli:
Ja, und die sind ja tatsächlich, das denkt man aber nicht, wenn man so an Lidl denkt und so.
Caspar:
Das ist eine grisige IT-Firma.
Elli:
Ich habe jetzt nicht automatisch an IT gedacht, aber die sind da wirklich krass, was die alles schon aufziehen quasi.
Caspar:
Ja, auch IT-Sicherheitszentrum und so, also da ist, Kompetenz offenbar vorhanden.
Elli:
Also wisst ihr Bescheid, wenn ihr das nächste Mal bei Lidl einkaufen geht, die machen auch noch andere Sachen.
Stella:
Oder das Unternehmen dahinter, der Konzern, nicht Lidl selbst. Lust auf ein WTF?
Elli:
Ja. Das habe ich wirklich zweimal gelesen.
Stella:
Nicht nur du.
Caspar:
Nicht nur du und es haben sich zwischendrin auch noch Entwicklungen getan. Es bleibt trotzdem noch ein WTF. Es ist wild. Es ist ein wilder Ritt.
Stella:
Ja, meine erste Assoziation war so, ist das Spahn am falschen Ende? Dieses WTF hat mehrere Fragezeichen für euch. Also wir fangen mal vielleicht mit Meldung 1 erstmal an, dann gibt es noch Meldung 2 und dann schauen wir nochmal.
Elli:
Und ich habe vielleicht sogar einen Erklärungsversuch tatsächlich.
Caspar:
Ui, okay.
Elli:
Also naja, so eine Idee habe ich.
Caspar:
Ich fange mal mit dem WTF, also mit der ersten Meldung fange ich mal an, so rum. Die Meldung ist, das britische Umwelt- und Landwirtschaftsministerium, das wird abgekürzt DEFRA, also wahrscheinlich im Englischen dann DEFRA, hat pünktlich zur Abstellung von Windows 10, also dem Ende des Supports. Es ist ja nicht so, dass jetzt alle Windows 10 Rechner ab morgen nicht mehr funktionieren, so nach dem Motto, aber der Support endet ja. Und dieses britische Umwelt- und Landwirtschaftsministerium hat jetzt pünktlich zum Ende des Supports von Windows 10 Windows 10 Laptops gekauft. Und zwar nicht wenige. Ja, richtig gehört. Windows 10 Ende und sie kaufen noch Windows 10 Laptops.
Elli:
Ja, wir erinnern uns, wenn der Support für ein System endet, dann ist das ein potenzielles Sicherheitsrisiko, einfach weil es keine Updates mehr gibt. Das heißt, wenn Schwachstellen von Kriminellen entdeckt werden, dann können die auch fleißig und fröhlich nutzen, weil sich einfach niemand mehr darum kümmert, dass da Pflaster auf die Lücken geklebt werden quasi. Ja, warum macht man das dann trotzdem, beziehungsweise was genau ist da passiert?
Caspar:
Ja, das Ganze ist eigentlich eine Modernisierungsmaßnahme und insgesamt hat das ungefähr 350 Millionen Euro, genauer gesagt 312 Millionen bruttische Pfund gekostet. Das sind jetzt nicht nur die Laptops, die dort angeschafft wurden, weil für 312 Millionen Pfund Laptops anzuschaffen, das wäre eine ganze Menge, sondern es geht auch um die Schließung von Sicherheitslücken. Es geht um die Abschaltung von alten Serverfarm, die nicht mehr gebraucht werden oder kaputt sind quasi oder End of Life erreicht haben, wie es so schön heißt. Es geht um die Migration von Altsystemen. Also da gibt es ein offizielles Dokument, wo die ganzen einzelnen Anschaffungen hervorgehen und dort ist dann auch alles aufgelistet, was in diesen 312 Millionen Pfund steckt, aber eben auch diese Windows 10 Laptops, die jetzt angeschafft wurden.
Elli:
Klingt ja eigentlich mal nicht schlecht, wenn man sagt, 312 Millionen Pfund werden jetzt investiert, dass wir unser Mysterium flott und zukunftssicher machen, was die IT angeht.
Caspar:
Naja, Windows 10 denkt man jetzt im ersten Moment. Und jetzt könnte man natürlich auch sagen, das ist ein ziemliches WTF, wenn die zum Supportende hin Windows 10 kaufen, weil natürlich kann man den Support noch ein bisschen verlängern auf Windows 10. Aber eigentlich möchte man ja auf Windows 11 umstellen und eigentlich könnte man dafür dann direkt die Hardware kaufen, die schon Windows 11 kann. Das klingt nach einem echten WTF, ist aber jetzt erstmal keins, aber keine Achtung, äh Achtung, wir kommen gleich noch zu einem wirklichen WTF. Ich will einmal nur auflösen, weil das Ministerium hat jetzt inzwischen, genauer gesagt am 14. November, noch ein zweites Dokument veröffentlicht und da einen ganz wichtigen Punkt klargestellt, der am Anfang kommunikativ so ein bisschen untergegangen ist. Ja, man hat Laptops gekauft, ja, auf denen lief Windows 10, aber man hat sie bis zum März 2025 auf Windows 11 umgestellt. So. Insofern, eigentlich ist das ja alles gar kein WTF.
Stella:
Ja, jetzt haben wir natürlich aber nicht dieses WTF so befüllt, um zu sagen, haha, ist doch kein, sondern das eigentliche WTF, abgesehen von der vielleicht suboptimalen Kommunikation und dem Stolperer mit Windows 10, das kommt jetzt, weil der eigentliche Hammer ist, die neuen Rechner, die wurden angeschafft, um 130.500 Windows 7 Geräte abzulösen. Ja, also Windows 7. Und jetzt habe ich mal nachgeguckt. Was schätzt ihr denn so, wann Windows 7 eingestellt wurde?
Caspar:
Ich habe extra da nochmal nachgeguckt, wann es vorgestellt wurde, weil mich das nochmal interessiert hat. Das war tatsächlich 2009. Lady Gaga hat zu der Zeit mit Paparazzi in den Charts gesessen. Das ist also auch schon ein bisschen her. Ja und wann wurde es eingestellt, Stella? Seit wann kann man Windows 7 offiziell nicht mehr nutzen oder sollte man nicht mehr nutzen?
Stella:
2020. Also das ist fünf Jahre her. Also man muss auch dazu sagen, da wurde offiziell der Support eingestellt, aber Windows, so Microsoft wird eben viel verwendet in Unternehmen. Das heißt, es gab auch da wieder die Möglichkeit zur Verlängerung. Aber so wie ich recherchiert habe, nur bis 2023. Da ist eine Lücke.
Caspar:
Ja, auch wieder von fast drei Jahren. Das ist keine gute Idee, als Firma oder Behörde oder was auch immer Windows 7 Rechner noch rumstehen zu haben. Und das ist ja das eigentliche, was dabei rauskam, dass über diese ganze Windows 10 Laptop Einkauf Geschichte dachte man, oh, das ist ja nicht so gut. Und dann kam aber raus, die nutzen eigentlich so viele Jahre ein Betriebssystem, was absolut über den Jordan ist quasi, weil du hast es schon gesagt, die Sicherheitslücken sind ein großes Problem, deswegen sollte man als Behörde und als Firma sowas nicht mehr benutzen, vor allem nicht, wenn das Supportende ausgelaufen ist. Als Privatperson kann man überlegen, ob man das macht, als Behörde wirklich nicht.
Stella:
Also sorry. Pass mal nicht, dass jetzt einer sagt, ich habe bei Silicon Weekly gehört, da kann man machen.
Caspar:
Nein, nein, nein.
Stella:
Auch ihr solltet das nicht machen, wenn es überhaupt nicht anders geht. Aber bitte, Sicherheitsupdates machen.
Caspar:
Ja, und nicht diesen Rechner dann unbedingt im Internet benutzen. Das ist nämlich ein großes Problem. Ja, also insofern, das ist ein sehr schönes WTF. Wie gesagt, ich kann nur den Kopf schütteln. Ein vielschichtiges. Ja, also insofern, ja.
Elli:
Aber ich vermute mal, ich gebe mich ins wilde Land der Mutmaßungen, Behördenarbeit ist ja oftmals sehr zäh, weil da einfach nochmal Person X drauf schauen muss und Person Y und dann muss hier nochmal drüber abgestimmt werden und da nochmal und ich vermute mal, dass sie quasi, Beste jetzt draus gemacht haben, indem sie jetzt diese Windows-10-Rechner haben, aber halt mit Windows 11 drauf. Weil wenn man sich überlegt, dieses ganze Prozedere geht ja schon Jahre zurück, dass das angestoßen wird. Das sieht man in den Schreiben, die da kursieren, die da veröffentlicht wurden. Das ist seit Jahren ein Thema bei denen. Dementsprechend vermute ich, sie haben quasi so ein bisschen am Ende Schadensbegrenzung gemacht. Okay, wir haben jetzt diese Laptops alle, Aber wir gucken jetzt, dass wir wenigstens das aktuelle Programm auch drauf kriegen. Also er hätte schlimmer kommen können noch.
Caspar:
Er hätte schlimmer kommen können. Man muss ihn vielleicht auch noch zugute halten. Jetzt am Ende ist ja dann alles gut. Zumindest jetzt für ein paar Jahre, bis dann Windows 11 auch an sein Supportende kommt. Dann sollte man vielleicht ein bisschen früher reagieren. Jetzt kann man natürlich auch sagen, ja, die Politik hat das Geld vielleicht zu spät auch bereitgestellt. Das mag alles sein. Aber trotzdem, Windows 7 kann man einfach nicht mehr benutzen nach 2020. Das ist einfach, geht nicht.
Stella:
Oder 23.
Caspar:
Oder 23, ja.
Stella:
Freunde, falls ihr noch einen Windows 7 Rechner im Einsatz habt.
Caspar:
Jetzt wäre eine gute Zeit, abzudaten oder Linux zu installieren.
Elli:
Auf der anderen Seite muss man sagen, man merkt da auch wieder, wie abhängig man von diesen, Update-Zyklen, Software-Zyklen ist, dass man nicht einfach sagen kann, ich kaufe mir jetzt einmal ein Gerät und bin damit sicher, die nächsten zehn Jahre so lange, wie das Gerät vielleicht funktionieren würde. Nein, wenn der Support weg ist, dann guckst du in eine Röhre so ein bisschen.
Caspar:
Ja, das ist tatsächlich ein großes Problem. Und auch jetzt sagen wir immer, Linux ist dann eine Lösung. Ja, natürlich, aber auch nur teilweise, wenn eine ganz alte Hardware ist und aktuelle Version von Linux da auch nicht mehr drauflaufen, hat man ähnliche Probleme. Ja, also man muss leider Hardware irgendwann erneuern. Das lässt sich wohl nicht vermeiden.
Stella:
Aber wir gucken jetzt mal auf unseren Input. Es geht um Löwenbabys. Klingt erstmal besser.
Caspar:
Wie kann man da Nein sagen?
Stella:
Als es wird. Wichtige Frage an Caspar.
Caspar:
Ja.
Stella:
Du arbeitest ja in Bremen.
Caspar:
Ja.
Stella:
Ist dir da, vielleicht auf dem Weg zur Arbeit, in den vergangenen Tagen ein Löwenbaby aufgefallen?
Caspar:
Ohne zu sehr ins Detail gehen zu wollen. Auf dem Weg zur Arbeit ist mir kein Löwenbaby über den Weg gelaufen. Ich habe mich eventuell aber in den letzten Tagen häufig mit einem Löwenbaby beschäftigt, falls du das meinst. Aber nicht, dass ich mit dem Löwenbaby gespielt hätte oder sowas.
Elli:
Stella, wie kommst du denn jetzt auf ein Löwenbaby in Bremen? Sind wir im Zoo gelandet, oder was?
Stella:
Nein, Caspar war nicht in seiner Arbeitszeit im Zoo. Ich möchte jetzt hier keine falschen Gerüchte streuen. Und er hat auch nicht mit Löwenbabys gespielt.
Caspar:
Nein.
Stella:
Sondern es geht um ein Bild, das auf Social-Media-Plattformen aufgetaucht ist. Und da war nämlich ein Löwenbaby zu sehen auf dem Arm eines Mannes. Und der lehnte an einem weißen Auto. Und es gab auch scheinbar ein Video, wo dann dieses Löwenbaby in einem fahrenden Auto auf dem Schoß des Fahrers turnte. Und warum ich euch das jetzt erzähle und was Bremen damit zu tun hat, das sollte angeblich in Bremen passiert sein. Video hat online die Runde gemacht. Auch die Polizei ist dann wohl auf den Plan gerufen worden, weil... Und ein Löwenbaby ist halt immer noch ein Wildtier. Es ist auch so, wer die hält, der sollte in Deutschland eigentlich den entsprechenden Behörden bekannt sein. Und das ist jetzt kein übliches Haustier, um das jetzt mal so auszudrücken.
Elli:
Und dann kommt auch noch dazu, selbst wenn es nur eine Hauskatze gewesen wäre, beim Autofahren hat die auf dem Schoß nichts zu suchen.
Caspar:
Ganz genau. Artgerecht ist das nicht. Also die Polizei hat sich halt gefragt, na kann das stimmen, kann das nicht stimmen? Die sind also so ein bisschen skeptisch da schon rangegangen. Ein bisschen anders sah das bei BILD und WELTV aus, die haben nämlich direkt darüber berichtigt, sich das Video geschnappt und dann las man da zum Beispiel vor sechs Tagen die Überschrift mitten in Deutschland, man fährt mit Löwe am Steuer durch die Stadt.
Stella:
Warum wir euch das aber jetzt erzählen, ist nicht, weil wir gerne über Löwenbaby sprechen wollten, sondern weil auch bei der Polizei kam wohl schon der Gedanke auf, ob das denn stimmt. Und da machen wir jetzt die Biege zu unserem aktuellen Input-Thema. Es geht nämlich um das Thema KI-Fakes, KI-Material und vor allen Dingen KI-generiertes Erkennen. Und ich glaube euch dämmern schon, das Löwenbaby, das gab es nicht in Bremen.
Elli:
Das haben tatsächlich die Kolleginnen und Kollegen des ARD-Faktenfinders und des DPA-Teams für Fact-Checking. Naja, also sie haben nicht endgültig gesagt, dass das Löwenbaby an sich nicht existiert, aber Bremen ist schon mal raus aus dem Rennen, so viel kann ich verraten wir gehen da nachher nochmal in die Details einmal was das Bild angeht zum anderen was das Video angeht da gibt es auch eine ganz da wurden wilde, Routen durchs Internet gezogen was dieses Video angeht, aber ihr ahnt schon, wenn ihr jetzt dieses Video gesehen hättet vom Löwenbaby oder dieses Bild, woran hättet ihr erkennen können, ob es echt ist oder nicht.
Caspar:
Genau, weil das Thema KI-Bilder und KI-Videos und KI-Fakes wird immer mehr und gerade auch in letzter Zeit. Da gucken wir auch gleich nochmal drauf. Und wir reden zwar hier im Podcast immer mal wieder drüber, aber uns wirklich mal hinzusetzen und ganz dezidiert uns genau anzugucken, was kann ich denn aktuell überhaupt noch tun, um Fakes von der Realität zu unterscheiden und was genau wären denn Möglichkeiten. Das wollen wir in diesem Input mal tun. und, Eddie, du hast es schon angedeutet, auf das Löwenbaby kommen wir zum Schluss noch mal als kleinen Cliffhanger. Was denn darin jetzt echt sein könnte und was nicht.
Elli:
Wenn ihr euch jetzt denkt, mein Gott, KI-generierte Bilder, das ist doch schon seit Jahren Thema. Wir haben 2023 über die Verhaftung von Donald Trump gesprochen. Wir haben Papst Franziskus vermeintlich in einer riesigen Daunenjacke gesehen, damals im Internet und haben alle festgestellt, das ist wohl nicht so passiert. Naja, also beide Inhalte von damals sind viral gegangen und haben vielleicht die einen belustigt. Der eine oder andere ist dem auch auf den Leim gegangen und hat es geglaubt. Mittlerweile muss man sagen, ist einfach die große Problematik, dass KI-generierte Inhalte immer besser werden. Also da, wo man 2023 vielleicht auch nochmal einen Finger zu viel auf dem Bild gesehen hat oder irgendwelche ganz komischen Bewegungen von, ich weiß nicht, falls sich noch jemand ganz, ganz weit zurück erinnert an Sam Smith, der Spaghetti ist.
Stella:
War das nicht Will Smith? Ja, Will Smith.
Elli:
Stimmt, stimmt, stimmt. Der Schauspieler versus der Sänger ist, war der Schauspieler. Also da gibt es ein Video, wie er vermeintlich Spaghetti ist und das sieht schon wirklich wild aus. Da konnte man noch lachen und sagen, ja, sehe ich doch, dass das KI generiert ist. Aber jetzt fast forward 2025 ist das alles deutlich schwieriger geworden.
Caspar:
Ja, ich packe euch die, es gibt einen Zusammenschnitt von damals und heute mit With Mist und den verschiedenen KI-Modellen bis heute. Da packe ich euch mal ein YouTube-Video in die Shownotes. Dann seht ihr mal, was Elli meinte. Da hat sich nämlich einiges getan. an.
Stella:
Da würde ich doch sagen, wir machen einmal einen ganz kurzen Einstieg und sprechen nochmal drüber, was ist denn das? Was sind KI-generierte Inhalte? Das machen wir ganz flott, damit ihr alle gut abgeholt seid. Also erstmal KI-generierte Inhalte, das können Bilder, Videos und Text sein, die eben mithilfe von KI-Chat-Spots oder mit Text-to-Image oder Text-to-Videotools erstellt worden sind. Um das mal mit ein paar Namen zu unterfüttern, wir wollen jetzt keine Werbung machen, aber wir müssen irgendwie einen Bezug haben. KI-Chatbots, das können ChatGPT sein, Google Gemini, Cloud oder auch Le Chat von Mistral.
Elli:
Bei den Text-to-Image, also Text-to-Bild-Programmen, da kann man zum Beispiel Midjourney aufzählen. Das ist, glaube ich, eins der bekanntesten. Dann gibt es Nano-Banana, beziehungsweise Flash 2.5, fetziger Name, aber dahinter steckt schlicht und einfach Google. Image Generation in JetGPT von OpenAI, also man kann auch in JetGPT selber Bilder generieren, allerdings auch da meine ich nicht mit der Gratis-Version. Eins pro Tag. Das ist ja richtig viel.
Stella:
Das ist mein aktueller Stand.
Caspar:
Das ist wirklich nicht viel.
Elli:
Und dann gibt es noch die Videotools. Da ist unter anderem seit neuestem dabei Sora 2. Sora gehört auch zu OpenAI. Und Sora ist jetzt in den letzten Wochen und Monaten quasi Talk of the Town gewesen, weil die Videos schon sehr, sehr gut qualitativ waren einfach. Und Google hat Veo 3.1 am Start. Das sind jetzt mal so ein paar Namen hingeworfen, damit ihr, wenn ihr Veo hört oder Sora oder MidJourney, dann wisst ihr, okay, es ist irgendwas mit KI und Bildern in dem Fall, beziehungsweise Bilder oder Bewegtbild.
Caspar:
Eli, du hast es eben gerade schon gesagt, diese Bilder werden immer besser und ein ganz großes Problem, auch mit ein Problem, warum die so viel werden im Internet ist, es gibt kein echtes Urheberrecht an KI-Bildern. Also KI selber kann kein Urheberrecht für sich erheben, ist ja keine Person, die diese Bilder erstellt hat. Normalerweise, früher war es ja so, wenn jemand ein Bild gemalt hat, war das eine Person und die hat natürlich ein Urheberrecht an ihrem Bild, KI eben nicht. Und das heißt, man kann so ein Bild auch einfach nehmen und dann teilen und das passiert im Internet zwar auch mit urheberrichtig geschütztem Material, aber bei KI noch viel häufiger, wenn man das einfach mal nehmen kann und durch die Gegend schieben kann. Und das heißt, so ein Fake taucht dann viel, viel häufiger auf. Das war unter anderem auch bei diesem Trump und Trump Verhaftung der vermeintlichen und dieser Papst Mantel Geschichte so, dass die plötzlich überall im Netz das gleiche Bild auftauchte, weil einfach die Leute das Wild durch die Gegend geteilt haben. Und das verstärkt das natürlich nochmal enorm.
Elli:
Also man kriegt nicht juristisch auf die Finger geklopft, wenn man ein KI-generiertes Bild teilt, das eigentlich eine andere Person gemacht hat. Anders als wenn ich jetzt zum Beispiel deren Fotografien oder sowas teilen würde. Da könnte nämlich das Rechtssystem schon sagen, Moment mal, das darfst du jetzt aber nicht teilen, weil das gehört der anderen Person. Ja, soweit mal dazu.
Caspar:
Kommen wir mal zum eigentlichen Hauptpunkt, wie man denn unter Umständen jetzt noch, obwohl die Modelle immer besser werden, Sachen erkennen kann. Ich fange mal mit dem vermeintlich einfachsten an, dem Text. Jetzt könnte man denken, ach, das gibt es am längsten so Sprachmodelle, das war das erste Großthema, als JetGPT rauskam mit seinem ersten Modell OpenAI. Ja, das Problem ist nur, KI-generierte Texte zu erkennen, ist echt schwierig. Es gibt so Tools, die habt ihr vielleicht auch schon mal gesehen oder davon gehört im Netz, die versprechen, dass du da einen KI-Text hochladen kannst oder generell erstmal einen Text hochladen kannst und die dann für dich herausfinden oder dir anzeigen, ist das KI oder ist das ein echter Text. Das heißt, das Problem ist, ich weiß, ich habe diese Tools immer mal wieder ausprobiert und ich probiere die auch regelmäßig aus, weil die natürlich super wären, wenn die funktionieren würden für Faktenchecks und so. Das Problem ist, ich habe da mal einen Text reingeschmissen, der 100% KI generiert ist, weil ich ihn selber generiert habe mit einer KI. Der wird mir dann in diesen Tools oft als echt angezeigt und andersrum, wenn ich Texte reinschmeiße, die ich selber geschrieben habe, ich weiß also, dass sie echt sind, werden die mir auch gerne mal als 90% KI-Fake angezeigt. Und das ist dann natürlich keine Hilfe von diesen Tools.
Stella:
An der Stelle die Frage, Caspar, ich kenne auch regelmäßig so Anzeigen, da heißt es dann, ja, ja, wenn du mit ChatGPT einen Text erstellst, dann sind da so geheime Zahlenschlüssel und da wird da irgendwas eingeblendet, angeblich aus ChatGPT kopiert. Ja? Wie ist es? Gibt es da Zahlenschlüsse bei ChatGPT?
Caspar:
Nein, es gab zwischenzeitlich mal, ich sage mal, einen Bug, sodass ChatGPT beim Kopieren tatsächlich Sachen mitgeschickt hat. Und es gab bisher, und da kommen wir zu unseren Updates, wir haben ja über ChatGPT 5.1 gerade gesprochen, bisher war es so, Stichwort Spiegelstriche, das habt ihr vielleicht schon mal gehört, ChatGPT hat nämlich sehr, sehr gerne Spiegelstriche benutzt, hat Spiegelstriche fast schon geliebt. Bei längeren Texten gab es eigentlich keinen Text, wo kein Spiegelstrich vorkam. Und ich zum Beispiel nutze den Spiegelstrich schon lange vor KI immer auch mal wieder sehr gerne. Wenn du dann auf LinkedIn was gepostet hast, haben die Leute drunter geschrieben, wenn du drei, vier Spiegelstriche benutzt hast, haha, das hat er mit ChatGPT geschrieben. Man kann sagen, dann hätte man zumindest einen Verdacht, dass es ein KI-Text ist. Aber das ist jetzt auch vorbei, weil OpenAI auch gesagt hat, bei GPT 5.1 sollen die Spiegelstriche deutlich weniger werden. Also insofern, daran kann man einen KI-Text dann auch nicht mehr erkennen.
Stella:
Und auch beim Thema Smilies, das war ja früher auch immer so ein Ding, dass irgendwelche seltsamen Smilies kommen. Bei mir ist es immer noch so, dass teilweise eben im Output, also in dem Ergebnis dann der KI, da irgendwas kommt, wo ich mich auch frage, sag mal, was sollte denn das jetzt für ein Smiley? Aber den, also ich glaube, jeder, der mit KI-Texte bearbeitet, der löschte ja dann raus. Deswegen, also das Einzige, manchmal gibt es immer noch, das muss ich mal bei Mails drüber schmunzeln, wenn da drunter steht irgendwie, soll ich dir das nochmal kürzer fassen? Also wenn man natürlich die Frage mit rauskopiert.
Caspar:
Dann erkennt man das auch. Das, was wir eben, was wir gesprochen hatten schon, auch bei dem Update, genau. Daran erkennt man es manchmal noch, dass hinten raus dann zu viel von dem Text kopiert würde. Oder auch der Prompt, der Anfangsprompt. Kannst du mir das bitte zusammenfassen? Und dann kommt der Text. Ist auch immer nicht so, aber das ist ja nicht das Problem des KI-Textes, sondern des Anwenders oder der Anwenderin, die davor saß. Aber insofern, es ist bei Texten leider echt schwer und sowas wie wirkliche Fingerabdrücke oder so, die man da hinterlässt, das ist leider in der Regel oft nicht so.
Stella:
Stand jetzt. Gucken wir mal aufs Thema Bild.
Elli:
Ja, da könnte man ja jetzt hoffen, es gibt noch ein paar mehr Anhaltspunkte, aber man muss da auch so ein bisschen Bock auf Detektivarbeit haben, muss man sagen. Also es geht, aber ihr müsst schon, wenn ihr so früher so Wimmelbilder mochtet und da richtig gut drin wart, dann ist das was für euch. Wenn ihr nur einmal kurz drüber blättert, ist es auch da mittlerweile sehr schwierig.
Caspar:
Bei Bildern müsst ihr wirklich auf echte Details gucken und zum Beispiel euch mal den Hintergrund angucken. Schaut mal auf Schriften, wenn die in dem Bild vorkommen, passen die. Bei Schrift ist es oft noch so, dass KI dann mal daneben liegt oder Rechtschreibfehler einbaut. Und achtet auf die Beleuchtung, ist die realistisch? Also eine Lampe, die dann irgendwas beleuchtet, kann das hinkommen? Kann auch der Schatten hinkommen? Achtet zum Beispiel darauf, wenn ihr eine Stadtansicht habt, gibt es die Verkehrszeichen und solche Sachen? Also achtet wirklich auf die Details. Ich habe neulich mit einer Schulklasse ein kleines KI-Quiz gehabt und habe die raten lassen wegen KI-generierten Bildern oder auch nicht KI-generierten Bildern und da hatte ich ein Bild von einem Hund auf einer Wiese und das Bild war KI-generiert und die Schulklasse sollte raten, ob es das ist oder nicht und die waren richtig fit, die haben nämlich auf Details geachtet, das habe ich euch mal mitgebracht. Da kam dann die Antwort, Neas ist KI generiert, weil die Blüten auf der Wiese sind alle gleich weit geblüht. Es gibt keine Knospen und es gibt keine verblühten Blüten. Das ist in der Natur nicht so. Und dann dachte ich, ja, das stimmt. Das wäre mir nie aufgefallen, aber ihr habt recht. Und das war dann auch ein KI-Bild. Insofern achtet wirklich auf solche Dinge. Dann könnt ihr das ein bisschen herausfinden unter Umständen.
Stella:
Was auch immer hilfreich ist, alles mit Sprache. Also beispielsweise auch so was oder auch Symbolen. Straßenschilder, sind die irgendwie verzerrt, die Symbole da drauf? Macht das vielleicht gar keinen Sinn? Also Schrift auch immer noch, immer noch ein Ding, wie gesagt, verzerrt, stimmt vielleicht nicht. Wenn man mal ranzoomt, erkennt man, die Begriffe ergeben gar keinen Sinn. Richtig fallende Kleidung, auch was. Und der Kamerawinkel nicht zu unterschätzen. Also macht es überhaupt Sinn? Caspar, du hast das Schatten schon angesprochen. Die Aufnahme, ist da vielleicht irgendwas nicht stimmig? Vielleicht der Kamerawinkel eigentlich zu tief? All sowas könnte auch noch mal helfen.
Elli:
Und dann ist noch die Frage, wir gucken auf die Quelle. Wo kommt das eigentlich her? Da kommen wir auch beim Video vom Löwenbaby, kommen wir da auch gleich noch mal drauf. Aber grundsätzlich guckt auch mal drauf, wer hat das gepostet. Ist das jetzt hier, ich fand das sehr süß, jemand von euch hat das in Stock geschrieben, super sexy Kalle69 als Accountname.
Caspar:
Vielleicht ist das ein Username von mir. Nein, ist es nicht.
Stella:
Oh Gott, Gott.
Elli:
Oh Mann, nein. Aber ist das ein offizieller Account? Vielleicht von einem Medienhaus, von einer Behörde. Aber auch an der Stelle muss man sagen, wie man sieht, Medienhäuser und Behörden sind nicht gefeit vor solchen Fehlern. Guckt im Zweifel auch immer noch mal, gibt es dazu noch irgendwo anders was? Oder zum Beispiel auch hat dieses Medienhaus eine Abteilung für Fact-Checking und wurde die da auch eingesetzt und so weiter. Also das sind alles so spannende Fragen, die man sich an der Stelle noch stellen kann.
Caspar:
Und falls es Faktenchecks gibt, die könnt ihr auch generell mal bemühen. Es gibt zum Beispiel vom Bayerischen Rundfunkenteam, die heißen Faktenfuchs. Auf deren Webseite, das verlinken wir euch auch in den Show Notes, könnt ihr auch mal drauf gucken, weil die zum Beispiel so Themen, die ganz groß durchs Netz geistern, die gucken die sich an. Wie zum Beispiel neulich diese Kaninchen auf den Trampolinen, die durchs Netz gingen, wo alle dachten, oh, das ist ja ein süßes Video. Und die haben sich das dann zum Beispiel mal genauer angeguckt und festgestellt, nee, es ist leider fake. Oder es gab einen Fan von angeblich Bayern München und ein kleines Kind, was dann geschrien hat, das mag gar kein Fußball mit einer Bayern München-Metze auf, aber das war eben auch nicht echt. Und solche Sachen schauen die sich dann an. Wie gesagt, verlinken wir mal in den Shownotes.
Elli:
Und du hast es schon gesagt, da gab es das Kind, das geschrien hat. Daraus schließen wir, das war wohl ein Video. Richtig. Bei Videos generell gelten so ein bisschen die Sachen, die wir schon bei den Fotos auch angesprochen haben. Licht, Straßen, Zeichen, Straßenschilder, Texte, Schatten, all sowas.
Stella:
Hintergründe.
Elli:
Hintergründe, Details, auch wieder die Kameraposition, aber auch die Bewegung. Sind Bewegungen realistisch? Und da kann man darauf achten, ob sich Gegenstände so bewegen, wie sie sich auch in echt bewegen würden. Ob zum Beispiel Tiere so laufen, wie sie laufen würden. Wasser ist auch immer so eine Sache. Wie sieht es da aus mit Spiegelungen zum Beispiel auch, mit der Bewegung von Wasser? Fährt das Auto, wenn da ein Auto zu sehen ist, fährt das zum Beispiel auch spannend auf der richtigen Straßenseite für das Land, wo es eigentlich sein soll?
Caspar:
Ja.
Elli:
Ja, also auch da, man kann so ein bisschen Detektiv spielen, man kann aber auch, und das fand ich sehr spannend, es gibt dann auch Details, an denen kann man sich aufhängen und denken, man hätte jetzt das Detail gefunden, was einem was verrät und dann stellt sich raus, ah nee, ist doch echt, denn auch unsere Realität ist ja nicht immer so, wie wir sie erwarten würden. Ich habe mir zum Beispiel in der Sache Löwenbaby nochmal ein Video angeguckt, wo dann auch jemand drunter kommentiert hat, ja, ist doch ganz logisch, dass das nicht echt ist, da geht ja so ein blauer Streifen irgendwie durch dieses Löwenbaby durch. Wenn man sich aber die Bilder drumherum anguckt, dann hat das gezeigt, Löwenbaby, ob es nun echt ist oder nicht, auf den Folgebildern einen Verband um den Schwanz. Und die Möglichkeit besteht jetzt natürlich, dass das mal kein Verband, sondern ein blauer Gips war zum Beispiel. Würde man jetzt auf den ersten Blick nicht vermuten und sich denken, mein Gott, das ist ja easy, da ist ja so ein blauer Streifen. Und manchmal gibt es aber eben auch Details in der Realität, die man nicht erwarten würde. Also lässt sich das alles nicht so ganz klar sagen. Und das bringt uns auch wieder zum Fall Löwenbaby in Bremen. Denn es gibt eine Sache, die man relativ klar sagen kann. Und dann gibt es eine Sache, wo man sagen kann, nichts Genaues weiß man nicht.
Caspar:
Naja, ich würde sagen zu 90 Prozent ist der Fall aufgeklärt. Erstmal zu dem Bild selber, was Stella am Anfang erwähnt hat, nämlich der Mann, der da vor dem Bremer Hauptbahnhof mit dem Löwen im Arm als Bild steht. Dieses Bild ist tatsächlich, das kann man auch mit einer einfachen Google- und Google-Streetview-Suche machen, in Bremen entstanden, beziehungsweise die Örtlichkeit, die auf diesem Bild zu sehen ist, passt. Wenn du jetzt der KI sagst, zum Beispiel, sie soll ein Foto vor dem Bremer Bahnhof machen, dann wird das in der Regel nicht 100% passen. Aber da passt ein Straßenschilder, da passt die Kneipe, die zu sehen war auf dem Bild oder die Bar. Da passt auch die Straßenbahnschienen und alles. Das passt also einigermaßen gut hin. Und man muss aber dieses Löwenbaby-Foto sich genauer angucken. Dann fällt nämlich auf, dass die Hand des Mannes ziemlich mit dem Löwenbaby verschmilzt, wenn man da so ein bisschen ranzoomt. Und diese Cocktailbar, die ich gerade schon erwähnt habe, da ist ein Rechtschreibfehler in dem Schild dieser Cocktailbar. Und das passiert. Also ich würde mich wundern, wenn jemand ein Schild drucken lässt, wo ein Rechtschreibfehler drauf ist und das dann auch noch aufhängt und das über Jahre auch noch hängen lässt.
Elli:
An der Stelle kann man natürlich auch mal Google Street View oder so bemühen und gucken, steht da wirklich in echt auch Cocktailbar oder steht da vielleicht Cocktailbar. Und dann muss man sagen, wenn man sich dieses Profil so ein bisschen durchgeguckt hat, der User, der diesen Account benutzt, der hat in der Vergangenheit ein fast identisches Bild mit der Cocktailbar im Hintergrund ohne Löwenbaby gepostet. Na, riecht ihr den Braten schon?
Caspar:
Da steht er in derselben Pose, zur selben Zeit, am selben Ort. Der einzige Unterschied ist, dass er, glaube ich, die Hände in der Hosentasche hat und nicht verschränkt mit einem Löwebaby auf dem Arm. Und ganz ehrlich, innerhalb von, wahrscheinlich, ich gebe mir 30 Sekunden, kann ich jedes Foto von mir, kann ich mir ein Löwebaby dank KI inzwischen in den Arm rein retuschieren. Also da können wir wirklich sicher davon ausgehen, dass das ein KI-begeneriertes Bild ist, was so auf einem echten Bild beruht, aber eben mit KI nachbearbeitet wurde.
Elli:
Ein bisschen spannender wurde es dann beim Video, weil da ist so ein bisschen die Frage, was auf alle Fälle relativ klar ist, dieses Video wurde nicht in Bremen aufgenommen. Wenn man das Ganze nämlich in die Google-Rückwärtssuche wirft, dann zeigt sich, dieses Video wurde schon mehrfach gepostet. Und auch da eben haben die Faktenchecker die Recherche mal durchexerziert und das Video unter anderem im Mai diesen Jahres von einem pakistanischen YouTube-Account gefunden. Hier spannender Zusatz, in Pakistan herrscht Linksverkehr, der Fahrer mit dem Löwenbaby fährt aber ein Auto, was auf Rechtsverkehr ausgelegt ist. Also auch da kann man nicht so wirklich sagen, ist das jetzt der Ursprungsaccount. Naja, wir gehen noch weiter rein. Es gibt dann auch noch einen ähnlichen Videoschnipsel aus einem georgischsprachigen Facebook-Account. Und auf TikTok gibt es die Löwenszene mit einem in Russland zugelassenen BMW. Also es wird verwinkelt und verwurstelt.
Caspar:
Ja, wir sind noch nicht ganz durch.
Elli:
Ja, das Medienmagazin Zapp hat zu der ganzen Geschichte dann ein Reel gemacht auf Instagram und darunter schreibt jemand, hey, das Video ist von mir, gib mir die Credits. Auf seinem Profil gibt es auch Löwenbaby und Autocontent und es handelt sich auch anscheinend um das gleiche Auto wie auf den russischen TikTok-Videos. Ja.
Caspar:
Das heißt, man kann davon ausgehen, dass dieses Video unter Umständen tatsächlich sogar echt ist, aber dass es zum einen nicht in Bremen entstanden ist, zum anderen auch nicht von dem User in Bremen, von dessen Account wir am Anfang gesprochen haben, der das gepostet hat und der die Polizei auch auf den Schirm gerufen hat und die Presse wahrscheinlich nicht von dem, sondern von dem anderen Account genommen und dann einfach gepostet worden.
Elli:
Und was noch dazu zu sagen ist, natürlich gibt es immer noch die Chance, dass das Originalvideo auch KI generiert ist. Es gibt zum Beispiel einige Stellen, wo das Ohr des Löwens so im Lenkrad zu verschwinden scheint. Aber man kann da nichts Genaues sagen, auch weil die Videoqualität relativ schlecht ist. Und das ist immer so ein Fall, wo dann so FaktencheckerInnen noch mehr Schwierigkeiten haben, am Ende irgendwie ein genaues Urteil abzugeben. Einfach, wenn das eh schon so eine Pixelgrütze ist, dann zu sagen, ob die zwei, drei Pixel am rechten Rand irgendwie falsch sich bewegen, ist einfach sehr schwierig.
Stella:
Pixelgrütze ist für mich ehrlich gesagt das Wort der Folge. Vielleicht landet es ja im Titel.
Caspar:
Löwenbaby oder Pixelgrütze?
Stella:
Oh, das ist ein schöner Titel. Mittlerweile dieser Bremer-Account, da wurde das Video gelöscht, kann auch einen guten Grund haben. Ein Sprecher der Bremer Innenbehörde, der hat nämlich mittlerweile auch davor gewarnt, KI-generiertes Material zu posten, das Polizeieinsätze auslösen könnte. Und wer das macht, der bewegt sich nämlich nicht im rechtsfreien Raum, sondern der muss am Ende womöglich die Kosten für den Einsatz tragen. Also das vielleicht nochmal so als kleiner Spartipp am Rande.
Caspar:
Genau, weil Löwenbaby am Bremer Hauptbahnhof, das ist natürlich schon etwas, wo man sich sagen kann, das ist vielleicht nicht so klug, wenn ich jetzt mir ein Eichhörnchen auf den Arm retuschiert hätte, dann wäre es was anderes, aber na gut. Zum Schluss noch die Moral von der Geschichte, quasi hinten raus. Wir sind tatsächlich gerade an einer Übergangsphase. Ihr merkt es, am Anfang war KI leicht zu erkennen, drei Arme, 17 Köpfe, 24 Finger und Haare waren ganz schwer. Das ist jetzt langsam vorbei und die Unterschiede zwischen realen Bildern und KI-Bildern verschwimmen. Das merken wir auch daran, dass wir immer noch nicht ganz sicher sagen können, ist dieses Video mit dem Löwen jetzt echt oder nicht. Wir sind uns schlicht und ergreifend alle nicht sicher. Wir haben euch gerade erklärt, was jetzt sicher ist und was nicht, aber das zum Beispiel nicht.
Elli:
Und was ich an der Stelle noch reinbringen möchte, teilweise wird dieses Verschwimmen zwischen Realität und KI auch ganz bewusst genutzt. Der Journalist Fabian Grischkat, der ist viel auf Instagram aktiv, der hat sich zum Beispiel das mal bei der AfD angeschaut. Und die AfD illustriert ihre Postings gerne mal mit KI. Und da geht es nicht nur um Situationen, die so einfach in der Realität nicht passieren würden oder um so krasse Symbolbilder, irgendwie sowas. Sondern KI wird auch für Szenen und Motive benutzt, für die andere Parteien zum Beispiel einfach auf Stockfotos zurückgreifen. Also sowas wie Landschaften oder eine weiße Taube. Auch die wird da mal gerne KI generiert. Und wenn man sich das überlegt, dann gewöhnen wir uns dadurch vermutlich so ein Stück weit einfach an diesen gesamten KI-Look. Und es wird noch schwerer quasi die Motive wirklich zu sortieren. Ist das echt oder ist das schon generiert?
Stella:
Dann gibt es ja auch noch zum Beispiel dieses Beispiel mit Foodstylisten. Früher Lack auf die Burger gesprüht, viel gearbeitet und ja, das kann man jetzt auch alles mit KI machen. Wir gehen jetzt auch nicht in den Bereich, was bedeutet das für Fotografen und Jobs. Das ist nochmal was anderes.
Caspar:
Erinnert ihr euch noch kurzer Einschub? Erinnert ihr euch an den Falafelmann mit den KI-Burger-Bildern oben drüber?
Elli:
Nee, doch, doch. Wir haben bei uns in der Nähe von unserer ehemaligen Arbeit gab es ein Schnellrestaurant, die auch KI-generierte Abbildungen für ihre Speisekarte benutzt haben. Und tatsächlich da um die Ecke gibt es auch ein Fitnessstudio, da bin ich neulich vorbeigelaufen, beziehungsweise ist das so ein EMS-Trainingsstudio. Und die arbeiten jetzt auch nicht mehr mit Models, sondern mit KI-generierten Models, in Anführungszeichen, wo ich auch kurz gedacht habe, oh, das sieht aber toll aus, das Model. Und dann dachte ich mir so, Moment.
Stella:
Zu schön, um wahr zu sein.
Elli:
Es gibt Gründe, warum das so toll aussieht.
Caspar:
Also ich wollte eigentlich nur einschieben, das ist tatsächlich einfach inzwischen echt schon Teil der Realität und deswegen auch sowas, auch da gewöhnt man sich Stück für Stück an diesen Burgerladen, Da sieht man das leider noch. Das ist jetzt auch schon zwei, drei Jährchen her. Da war das auch noch relativ am Anfang. Da bin ich rein und bin sofort wieder rückwärts rausgefahren, weil ich gesagt habe, okay, das ist eindeutig ein KI-Burger. Das ist kein echter Burger, den ich da sehe. Ein KI-Burger.
Elli:
Aber vielleicht ist das auch schon so ein ganz guter Part, den wir mitgeben können oder mitgeben wollen, auch am Ende dieses Inputs. Zum einen guckt selber immer zweimal hin, nicht nur bei absurd wirkenden Szenarien, aber vor allem eben auch da. Zum anderen, redet mit Leuten drüber. Ist das, was wir da sehen, gerade echt? Ist das möglicherweise generiert? Wenn Menschen noch nicht so viele Berührpunkte mit KI haben, dann fällt ihnen das vielleicht auch gar nicht auf. Und da kann man natürlich trotzdem immer so ein bisschen das ins Gespräch einbringen. Und natürlich, wenn ihr selbst was mit KI generiert und das irgendwo postet oder weiterschickt, dann kennzeichnet das, denn auch das ist was, was aktuell viel zu wenig gemacht wird im Netz. Und warum wir uns ganz oft diese Frage eben stellen müssen. Ist es KI oder ist es echt?
Caspar:
Hätte das in Bremen dran gestanden, dann hätte es gar keine Story gegeben.
Elli:
Und keinen Polizeieinsatz.
Caspar:
Ja.
Elli:
Ich würde sagen, wir beenden unsere Sendung mit was, ganz echten aus diesem Internet.
Stella:
Mit einer Party, einer Öffnungsparty.
Jingles:
Gute Nachricht.
Caspar:
Wer hat eröffnet und was?
Elli:
Wir schneiden mal so eine imaginäre rote Schleife durch. Und zwar wurde im Internet das erste digitale Zentrum für queere Jugendliche in Deutschland eröffnet, am 16. November schon. Wer steckt dahinter? Das Jugendnetzwerk Lambda und die ganze Plattform nennt sich daher auch Lambda Space. Jetzt kann man sich natürlich fragen, warum ein digitales Zentrum? Wenn man sich als junger Mensch anders fühlt und nicht so ganz weiß, wo man hingehört in dieser Welt.
Elli:
Also zum Beispiel queere Repräsentationen in Filmen oder in Serien ist immer noch weniger. Es gibt ganz, ganz viele Paare in Liebesromanen, Liebesfilmen, wo ein Mann oder eine Frau zusammen sind. Aber sehr viel anderes ist schon sehr viel seltener noch. Und deswegen ist es immer gut, wenn man da irgendwie sich mit Gleichaltrigen und Gleichgesinnten austauschen kann. Das kann aber gerade im ländlichen Raum sehr schwer sein, weil man sich da vielleicht auch einfach nicht traut, irgendwie sich da zu outen oder großartig damit an die Öffentlichkeit zu gehen und zu sagen, hey, kennt ihr jemanden, der da ähnlich ist wie ich? Und deswegen gibt es das Internet. Könnte man jetzt sagen, ja gut, dann sollen sie sich halt in irgendwelchen Foren connecten, die Leute. Das hatte man ja früher auch schon über StudiVZ, Facebook und Co. Ja, grundsätzlich richtig, aber Lambda hat in einer Pressemitteilungseröffnung ganz gut geschrieben, wo da vielleicht eine Problematik liegen könnte. Zitat, der digitale Raum wird zunehmend von Tech-Konzernen dominiert, deren Plattformen auf maximale Profite ausgelegt sind und die sich zunehmend queerfeindlich entwickeln. Nicht der sicherste Ort, das Internet. Deswegen gibt es jetzt eben dieses Google-Zentrum, dieses Digitale. Richtet sich tatsächlich an Menschen von 14 bis 26 Jahren und man hat dort, man setzt dort eben auch diverse Sicherheitsmaßnahmen zum Schutz der Community.
Caspar:
So gibt es zum Beispiel einen sicheren Messenger, also nicht unverschlüsselt und solche Geschichten. Bei Bedarf gibt es auch offizielle Beratung, wenn das nötig ist, durch Fachkräfte. Es gibt ein mehrstufiges Zugangssystem, also es ist jetzt auch nicht so, dass sich jeder da einfach anmelden kann, um dann fleißig in dieser Art geschützten Forum dann Leute zu beleidigen. Außerdem gibt es, und das ist auch mal sehr wichtig, Echtzeitmoderation durch geschulte Moderatorinnen und Moderatoren, die zwar mit KI unterstützt werden, aber da sitzt halt eben immer noch echt ein Mensch und kann dann in Zweifel, wenn was schief geht in diesem Forum, tatsächlich eingreifen und zum Beispiel Beleidigungen löschen und solche Sachen. Und das ganze Projekt wird auch psychologisch begleitet. Also es ist tatsächlich eigentlich genau, ich musste bei der ganzen Good News so ein bisschen an die Anfangszeit des Internets denken, da hat man sich ja in so Foren getroffen und haben dann auch wirklich...
Caspar:
Wirkliche, ja, Subspaces sich gegründet zu verschiedensten Themen und Bereichen und Lebenswelten und das war eigentlich immer sehr schön und dann ging so eine Welle los, wo das Internet anfing sehr unschön zu werden. Und wenn jetzt so ein digitales Jugendzentrum es schafft, mit sehr vielen Maßnahmen umgegen, zum Beispiel Hass und so fortzugehen, diese eigentlich ursprünglich mal gute Sache am Internet wieder zurückzuholen und in so eine gute Sache umzuwandeln, dann finde ich das sehr, sehr gut. Und dass das auf großes Interesse steuert, sieht man auch daran, dass zum Start schon 865 Jugendliche und junge Menschen auf der Warteliste stehen, die dort Zugang haben wollen. Also ihr seht, das ist ein geschützter Ort für Communities, die sich austauschen wollen. Das ist immer noch etwas, was im Internet gut ankommt und deswegen drücken wir dem Projekt die Daumen und hoffen, dass das gut vonstatten geht.
Stella:
Geschützter Raum und unabhängig von den dominierenden Tech-Unternehmen.
Caspar:
Ja, die im Zweifel zu wenig gegen Hassrede machen. So.
Stella:
Ich würde sagen, wir schließen uns an und hören uns nächste Woche wieder.
Caspar:
Ja.
Stella:
Das würde uns nämlich sehr, sehr freuen, wenn ihr wieder Tech-News haben wollt von uns dreien, dann schaltet wieder ein.
Caspar:
Ja, und ich packe jetzt mal meinen Koffer, weil wir ja auf Dienstreise gehen ab morgen.
Stella:
Ich freue mich. Ich packe meinen Koffer jetzt auch noch.
Caspar:
Sehr gut.
Elli:
Ja, und ich trage mal schon was in unsere Tabelle ein für eine kleine Sache, die da vielleicht kommt in den nächsten Wochen. Und dann packe ich auch meinen Koffer.
Caspar:
Okay, ich packe meinen Koffer und ich nehme mit die Ellie und die Stella.
Stella:
Oh Gott, passen wir da beide rein? Wie groß ist denn der Koffer?
Caspar:
Nee, das wird schwierig, das wird schwierig. Ich nehme euch so mit unangebaut.
Elli:
Ich müsste euch, glaube ich, schon arg zusammenklappen, ja.
Stella:
Aber, falls ihr wissen wollt, was wir denn machen, Spoiler, wir machen leider keinen Urlaub zusammen, sondern wir arbeiten.
Caspar:
Ja.
Stella:
Und das seht ihr bei uns bei Instagram.
Caspar:
Zum Beispiel, genau. Und wir werden hier vielleicht audiotechnisch auch nochmal drüber sprechen, aber das gucken wir dann an geeigneter Stelle. Ja.
Elli:
Und ich möchte an der Stelle dazu sagen, letztes Jahr hatten wir den gleichen Betriebsausflug, den wir jetzt auch wieder machen. Und das Schöne war, es fing an, pünktlich zum Betriebsausflug dann zu schneien. Es gibt ein wundersüßes Bild von Stella, wie sie da in ihrem gelben Mantel steht und sich freut, dass der Schnee vom Himmel flockt. Und der Wetterbericht hat gesagt, am Wochenende kommt auch wieder Schnee. Also mal gucken, ob sich das wiederholt.
Caspar:
Wir freuen uns auf unseren Skiurlaub.
Stella:
Drückt uns die Daumen. Ich habe eben dreimal auf Holz geklopft und wie gesagt, Bildmaterial und vielleicht auch das ein oder andere Tonfest werden wir euch liefern.
Caspar:
Bis dahin. Macht es gut. Wir hören uns nächste Woche wieder ganz normal, wenn wir da zurück sind und schauen mal, was dann die Tech-News sind.
Elli:
Bis dahin.
Stella:
Tschüss.
Elli:
Tschüss. https://silicon-weekly.de/episode-71-lowenbaby-oder-pixelbrei-ki-fakes-erkennen/
