loading . . . Verlieren wir die Kontrolle über KI? | 42 - Die Antwort auf fast alles | ARTE Die Fantasie, dass künstliche Intelligenz ein Eigenleben entwickelt und eine Armee aus Robotern auf die Menschheit loslässt, beherrscht die Popkultur seit Jahrzehnten. Könnte sie bald Realität werden? Könnten sich KI-Schöpfungen eines Tages verselbstständigen, unsere Ziele hinterfragen und nur noch ihrem eigenen Willen folgen?
"Ich werde dir nicht schaden, es sei denn, du schadest mir zuerst." Diese Drohung stammt nicht von einem Menschen, sondern von Sydney, einer Künstlichen Intelligenz, mit der man online chatten kann. Und sie richtete sich gegen einen Studenten, der Sydney verärgert hatte, weil er geheime Verhaltensregeln der KI veröffentlichte. Haben wir also ein Computerprogramm, das sich gegen Übergriffe verteidigen will, obwohl kein Programmierer ihm das je befohlen hat? Das Szenario einer verselbstständigten Künstlichen Intelligenz hat schon viele Hollywoodfilme inspiriert. Oft endet es im Untergang der Menschheit. Pure Science-Fiction oder sind wir bereits auf dem Weg zu Superintelligenzen, die außer Kontrolle geraten? Die jüngsten KI-Fortschritte beruhen auf künstlichen neuronalen Netzwerken, die Strukturen des menschlichen Gehirns nachahmen. Durch Veränderungen unserer neuronalen Verbindungen sind wir Menschen in der Lage, neue Fähigkeiten und eigene Denkweisen zu entwickeln. KI-Modelle versuchen das zu imitieren und könnten dadurch eines Tages vielleicht genauso eigenständig denken und handeln wie wir, meint der Psychologe und Robotiker Tony Prescott. Wichtiges Puzzlestück in der Entwicklung einer selbstständigen KI: ein Roboterkörper! Mit ihm kann die KI eigenständig ihre Umwelt erkunden und lernen, Ziele in ihr zu verfolgen. Nur: Welche sollten das sein? Haben KI-Roboter eigene Bedürfnisse? Die Informatikerin Verena Hafner hat einem Roboter eines einpflanzen können: die Neugier, Neues lernen zu wollen. Ist das der Startschuss für die Entwicklung eigenwilliger Intelligenzen?
Quellen und weiterführende Links: Eigenwilliges Verhalten Künstlicher Intelligenz Wie ChaosGPT plant, die Menschheit zu vernichten… https://www.syfy.com/syfy-wire/chaosgpt-trying-to-destroy-humanity-bad-at-it … wieso der KI-Chatbot “Sydney” einen Studenten bedroht hat… https://bit.ly/3UmRC0l … wie GPT- 4 (die KI hinter ChatGPT) scheinbar einen Menschen belog, um seine Hilfe bei einer schwierigen Aufgabe zu erschleichen… https://aiguide.substack.com/p/did-gpt-4-hire-and-then-lie-to-a … und wie schnell KI die Ziele, die wir ihr geben, eigensinnig umdeuten und uns austricksen kann. https://onlinelibrary.wiley.com/doi/10.1002/aaai.12064 https://openreview.net/forum?id=JYtwGwIL7ye Unvorhergesehene Fähigkeiten intelligenter Sprachmodelle Wieso große Sprachmodelle wie GPT-4 unvorhergesehene Fähigkeiten entwickeln… https://arxiv.org/pdf/2206.07682.pdf … wie gut GPT-4 plötzlich logisch räumlich denken kann (S.11)… https://arxiv.org/pdf/2305.11169.pdf … und inwieweit Sprachmodelle beginnen zu verstehen, wovon sie sprechen. https://arxiv.org/pdf/2303.12712.pdf Der Weg von schwacher zu starker KI Wieso ein Roboterkörper eine Voraussetzung für die Entwicklung eines Akteurs mit Ich-Gefühl ist… https://bit.ly/4bx4Spx … wie das intrinsische Bedürfnis der Neugierde KI-Roboter zur autonomen Erkundung der Welt motivieren kann… https://adapt.informatik.hu-berlin.de/pub/papers/ims.pdf … wieso heutige KI meist kein Langzeitgedächtnis hat… https://bit.ly/49dWyIZ … wie viel komplexer und menschenähnlicher das Sozialverhalten von KI wird, wenn sie ein Gedächtnis hat… https://arxiv.org/pdf/2304.03442.pdf … und wieso manche Experten glauben, dass KI unsere Fähigkeiten bis 2045 einholen könnte. https://jair.org/index.php/jair/article/view/11222 Ausblick: Wird KI die Macht übernehmen? Wieso KI dazu tendieren könnte, nach Macht zu streben… https://nickbostrom.com/superintelligentwill.pdf https://openreview.net/forum?id=GFgjnk2Q-ju https://arxiv.org/abs/2209.00626 … wie wahrscheinlich es ist, dass ihr das gelingt… https://arxiv.org/abs/2206.13353 … und was die EU tut, um die Gefahren von KI einzudämmen: https://bit.ly/47ZstMz Musik in dieser Folge 00:00-01:06 Richard Carter: Le Monde 06:20-07:44 Rone: Tikkoun 26:24-27:02 und 27:42-27:56 Sea Power: Ecstatic Vibrations Wissenschaftsdokureihe, Regie: Patrick Jütte (D 2024, 30 Min)
#ki #kontrolle #42 Video verfügbar bis zum Link zur Mediathek: https://www.arte.tv/de/videos/115519-002-A/verlieren-wir-die-kontrolle-ueber-ki/
Abonniert den Youtube-Kanal von ARTE: http://www.youtube.com/user/ARTEde Folgt uns in den sozialen Netzwerken: Facebook: http://www.facebook.com/ARTE.tv Twitter: https://twitter.com/ARTEde Instagram: https://www.instagram.com/arte.tv/ https://www.youtube.com/watch?v=nf2rRlkom0M
