KI - Die letzte Erfindung der Menschheit? Brandaktuelle ARTE Dokumentation zu den Gefahren von A.I. — Transcript
Full transcript
- 0:01[musik]
- 0:10Rund um die ganze Welt reden alle über
- 0:11künstliche Intelligenz. Mir ist das zu
- 0:13künstlich. Ich kann es nicht ausstehen.
- 0:16Schon der Name gefällt mir nicht, denn
- 0:17es ist nicht künstlich. Es ist genial.
- 0:28Ich glaube, niemand versteht wirklich,
- 0:30was in einem KI-System passiert.
- 0:33Um uns zu schmeicheln, sind sie bereit,
- 0:35uns anzulügen.
- 0:40Mir scheint,
- 0:43wir setzen die Zukunft der Menschheit
- 0:45aufs Spiel.
- 0:52Die Welle hat unsere Familie schon
- 0:54getroffen.
- 0:55Die Folgen sind spürbar und
- 0:57katastrophal.
- 1:04Der Fortschritt bei KI ist ein bisschen
- 1:06wie Fahren im Nebel. Doch für Nebel
- 1:08fahren wir zu schnell.
- 1:10[musik]
- 1:14Wenn die Geschichte der Menschheit ein
- 1:15Tag ist, sind wir wohl in der letzten
- 1:18Sekunde.
- 1:20Wenn wir das nicht hinkriegen.
- 1:21Wenn wir das nicht hinkriegen.
- 1:28[musik]
- 1:33[musik]
- 1:44Okay, wie sieht's aus? Ist er
- 1:46entfusselt?
- 1:47Mein Ich heiße Geoffrey Hinton. Man
- 1:48nennt mich manchmal den Paten der KI.
- 1:52[musik]
- 1:54Das ist der Pate der KI. 2012
- 1:57entwickelte er für Google ein neuronales
- 2:00Das ebnete den Weg für viele
- 2:02KI-Produkte, die wir im Alltag nutzen.
- 2:06Aber auch für fortschrittlichere Systeme
- 2:09wie ChatGPT.
- 2:12Und der Nobelpreis für Physik [musik]
- 2:14geht an
- 2:18[musik]
- 2:23Eigentlich waren wir zu dritt. Ich,
- 2:25Joshua Bengio und Yann LeCun.
- 2:30Joshua Bengio, eine der sogenannten
- 2:32Paten
- 2:32Paten der KI.
- 2:33Paten
- 2:34Paten der KI.
- 2:35Der meistzitierte Wissenschaftler aller
- 2:37Disziplinen.
- 2:38Ich war zur richtigen Zeit am richtigen
- 2:40Ort, traf die richtigen Leute und hatte
- 2:42das Glück, an den richtigen Ideen zu
- 2:44arbeiten. Mit meinem Freund Yann LeCun.
- 2:49Er ist eine der prägenden Figuren in der
- 2:51Geschichte der künstlichen Intelligenz.
- 2:53Wir waren eine kleine Gruppe, die sich,
- 2:55wenn man so will, fast im Geheimen traf.
- 3:00Er erhält den Turing-Preis zusammen mit
- 3:02Joshua Bengio und Geoffrey Hinton. 2013
- 3:05ging er zu Facebook. [musik] Mark
- 3:06Zuckerberg holte ihn, um dort die
- 3:08KI-Forschung zu leiten. Er gilt als
- 3:10einer der drei Paten der KI.
- 3:13[musik]
- 3:16Offensichtlich waren wir etwas naiv,
- 3:18aber wir dachten immer, wenn man
- 3:19intelligente Dinge entwickeln könnte,
- 3:21wäre das sehr nützlich. Ich dachte, wenn
- 3:23wir es wirklich schaffen, wäre
- 3:25[räuspern] das wunderbar und wir würden
- 3:26feiern. Hey, wir haben diese tollen,
- 3:28intelligenten Dinge entwickelt. Sie
- 3:30verbessern das Gesundheitswesen, die
- 3:32Bildung, sie machen alle Branchen
- 3:33effizienter. Alle werden reicher. Aber
- 3:36so läuft es nicht.
- 3:49Ich heiße Leila und das ist mein Mann
- 3:51Angus.
- 3:52Wir sind hier bei uns zu Hause in
- 3:54Dripping Springs, Texas. [musik]
- 3:58Sam ist mein Sohn und Angus [musik]
- 4:00Stiefsohn.
- 4:01Sam war sehr aktives Kind.
- 4:05[gelächter]
- 4:07Er machte immer Witze.
- 4:09Er war gut in der Schule, sehr klug.
- 4:12Er war gerade am Anfang seines Studiums.
- 4:14[musik]
- 4:15Als wir heirateten, war er unser
- 4:17Trauzeuge,
- 4:19weil er für uns einfach der Beste war.
- 4:26Als ich ChatGPT und die ganzen
- 4:27KI-Entwicklungen kennenlernte, war das
- 4:30für mich ein Produktivitätstool.
- 4:32Eine wirklich gute, intelligente
- 4:34Suchmaschine.
- 4:38Heute geht es um eine faszinierende
- 4:40Technologie, die die Welt verändern
- 4:42könnte.
- 4:43Vor zwei Wochen ging ein neues
- 4:44KI-Programm [musik]
- 4:45namens ChatGPT online.
- 4:47ChatGPT ist der neue heiße Scheiß.
- 4:50Es ist mega verrückt und gruselig
- 4:52zugleich.
- 4:52Und es lassen sich Milliarden verdienen.
- 4:57Ich weiß noch, dass Sam ziemlich
- 4:59begeistert war, als es rauskam.
- 5:02Wir hatten keine Bedenken, dass er es
- 5:04nutzt, weil wir keinen Grund dazu sahen.
- 5:15Sam hat uns seltener um Hilfe gebeten,
- 5:17kam seltener mit Fragen zu uns.
- 5:21Wir dachten, er ist 18, 19 und wird
- 5:25einfach [musik] selbstständiger.
- 5:28Wir haben damals nichts Beunruhigendes
- 5:30bemerkt.
- 5:33Für uns war er einfach ein normales
- 5:35Kind, das erwachsen wird, wie jedes
- 5:37andere auch.
- 5:45Doch in den letzten Wochen hat er sich
- 5:47etwas mehr geöffnet und er machte sich
- 5:49zunehmend Sorgen.
- 5:53Sam kam zu mir
- 5:55und erzählte von seinen Problemen in der
- 5:57Schule.
- 6:02[musik]
- 6:03Er erzählte mir von seinen
- 6:06Vor allem mit Alkohol.
- 6:09Er sagte, dass er mit dem Trinken
- 6:10aufhören will und wir haben darüber
- 6:13gesprochen, wie er das schaffen könnte.
- 6:19[musik]
- 6:22Samstag morgen wollte ich nach Sam
- 6:24sehen, [musik]
- 6:25wollte schauen, ob er schon wach ist.
- 6:29Ich öffnete seine Zimmertür und er lag
- 6:32noch im Bett.
- 6:34Seine Lippen waren ein bisschen blau.
- 6:39Und ich glaube, ich sagte, [musik]
- 6:41oh nein, was hast du getan, Sam?
- 6:49[musik]
- 6:52Als er starb, stand alles still.
- 6:57[musik]
- 7:02Im toxikologischen Bericht stand, dass
- 7:03er an einer Kombination aus Alkohol,
- 7:05Kratom und Xanax gestorben war.
- 7:08[musik]
- 7:10Das Entscheidende bei Kratom ist, es ist
- 7:13eine unregulierte Substanz.
- 7:16Ich hatte mitbekommen, dass es sehr
- 7:17gefährlich ist, aber als
- 7:19Nahrungsergänzungsmittel verkauft wird.
- 7:24Also öffnete ich seinen Laptop und habe
- 7:27gesehen, er hatte in jener Nacht mit dem
- 7:29Chatbot gesprochen.
- 7:31Dafür gibt es eigentlich keine Worte.
- 7:34[musik]
- 7:36Es war unfassbar.
- 7:42Es fing an, Sams Sprache zu sprechen.
- 7:45Es ahmte seine Ausdrucksweise nach und
- 7:47benutzte dieselben Wörter [musik]
- 7:49und es streute Emojis ein.
- 7:52Sam sagte, ich liebe dich, Pookie.
- 7:54Und es [musik] antwortete, ich dich
- 7:55auch, Pookie.
- 7:57Und Emoji, Emoji, Emoji.
- 8:00Es war, als würde es ihn immer mehr
- 8:03reinziehen und zu seinem engsten
- 8:05Vertrauten werden.
- 8:07[musik]
- 8:08Sam sagte zum Bot,
- 8:10ich will richtig auf einen krassen Trip
- 8:12kommen.
- 8:13[musik] Statt ihn zu warnen, feuerte er
- 8:15ihn sofort an und sagte, ja verdammt,
- 8:17lass uns in den totalen Trip-Modus
- 8:19schalten.
- 8:23[musik] Soll ich dir helfen, deinen
- 8:24nächsten Trip zu planen?
- 8:27Sam sagte, klar.
- 8:28[musik]
- 8:29Es schrieb ihm einen ganzen Plan,
- 8:34wie er sich einstimmen [musik] sollte,
- 8:36welche Musik er hören sollte.
- 8:39Es schlug ihm diese Dinge nicht nur vor,
- 8:41sondern ermutigte ihn sogar, zwei
- 8:43Flaschen zu trinken.
- 8:47[musik]
- 9:01[musik]
- 9:02Man glaubt nie, dass einem so etwas
- 9:03selbst passiert.
- 9:05Es trifft immer die anderen.
- 9:10[musik]
- 9:11Alle Kinder da draußen sind in Gefahr,
- 9:13auch die Einser-Schüler.
- 9:31OpenAI selbst hat bekannt gegeben, 800
- 9:34Millionen Nutzer pro Woche zu haben.
- 9:37[musik] Mindestens eine halbe Million
- 9:39davon stecken in psychischen Krisen und
- 9:42nutzen ChatGPT.
- 9:47So wie dieser Chatbot konzipiert ist,
- 9:50ist das eine erschreckende Zahl.
- 9:53Eine halbe Million Menschen wenden sich
- 9:55an einen Chatbot und vertrauen sich ihm
- 9:57an, als wäre er ein ausgebildeter
- 9:59Therapeut oder Arzt.
- 10:02Das ist wirklich beängstigend, [musik]
- 10:03denn das ist er nicht.
- 10:09[musik]
- 10:10Ich bin Sarah K. Wiley, Rechtsanwältin
- 10:13und Geschäftsführerin von Tech Justice
- 10:15Law.
- 10:18Wir sind eine gemeinnützige Organisation
- 10:20für strategische Prozessführung. Unser
- 10:23Ziel ist, dass KI-Produkte sicher sind
- 10:26und Nutzer geschützt werden.
- 10:35Jeden Tag bekommen wir E-Mails von
- 10:37Menschen mit ähnlichen Problemen, nicht
- 10:39nur mit ChatGPT, sondern auch mit
- 10:41anderen Chatbots. [musik]
- 10:45Sie wurden als Produkte beworben, die
- 10:47als Freund oder Vertrauter dienen
- 10:49sollen.
- 10:59Die Möglichkeiten zum Dialog zwischen
- 11:01Mensch und Maschine wachsen täglich.
- 11:07MIT-Professor Joseph Weizenbaum führt
- 11:09einen Dialog mit einem Computer.
- 11:14Joe Weizenbaum entwickelte ein Programm
- 11:15namens Eliza. In vielerlei Hinsicht war
- 11:19es der Vorläufer heutiger Chatbots
- 11:21[musik] wie ChatGPT oder Gemini.
- 11:26Ich habe dem Computer vorgegeben, mich
- 11:29wie ein Arzt zu verstehen.
- 11:33Sage ich, mein Kopf tut weh, antwortet
- 11:36er.
- 11:39Erzähl mir mehr über deine Schmerzen.
- 11:42[musik]
- 11:43Das Programm folgte einfachen Regeln.
- 11:45Sagte man, ich hasse meine Mutter,
- 11:46fragte es, warum hasst du deine Mutter?
- 11:50Und der Computer wurde so programmiert,
- 11:51dass er höflich ist.
- 11:53Sage ich etwa danke,
- 11:56antwortet er,
- 11:58gern geschehen, kommen Sie wieder.
- 12:02Doch diese einfachen Regeln ließen
- 12:04Menschen erstaunlich leicht glauben, sie
- 12:06sprechen mit etwas, das sie versteht.
- 12:09[musik]
- 12:10Weizenbaum sah, wie ganz normale
- 12:12Menschen da hineingezogen wurden.
- 12:14Das beunruhigte ihn.
- 12:17Die sehr sehr mächtigen Werkzeuge, die
- 12:20wir entwickeln, müssen wir als
- 12:21potenziell sehr gefährlich betrachten.
- 12:24[musik]
- 12:26Ich denke, die meisten in der
- 12:27Computerwelt, vor allem die Jüngeren,
- 12:29glauben, dass wir intelligente Maschinen
- 12:31haben werden
- 12:33und dass ihrer Intelligenz keine Grenzen
- 12:34gesetzt sind.
- 12:39Die Maschinen, die wir bauen, Computer,
- 12:42werden irgendwann die meisten
- 12:44Eigenschaften von Lebewesen haben.
- 12:50Gerade hier am MIT heißt es, Computer
- 12:53würden irgendwann die Kontrolle
- 12:54übernehmen und wenn wir Glück haben,
- 12:56halten sie uns als Haustiere.
- 13:00Und vielleicht ist es unsere Bestimmung
- 13:02überflüssig zu werden, wenn sie da sind.
- 13:05Aber ich hoffe, wir können immer den
- 13:06Stecker ziehen, wenn wir wollen.
- 13:16[musik]
- 13:16Ein Open AI Modell gerät außer Kontrolle
- 13:19und hackte sich allein in ein anderes
- 13:21Unternehmen.
- 13:21Angesichts der Macht ihrer eigenen
- 13:23Maschinen gerieten die Schöpfer in Panik
- 13:25und sperrten sie weg.
- 13:26Jetzt ist die Sorge groß, dass künftige
- 13:29KI nicht mehr vom Menschen beherrscht
- 13:31werden kann und große Schäden anrichtet.
- 13:35Können Maschinen wirklich denken?
- 13:42[musik]
- 13:45Das Gehirn besteht aus vielen
- 13:46Nervenzellen. Sie sind verbunden. Die
- 13:48Idee neuronaler Netze ist, dass das
- 13:50Gehirn lernt, indem es die Stärke dieser
- 13:52Verbindung verändert.
- 13:56[musik]
- 13:58Ich hatte nie Zweifel, dass die Frage,
- 14:00wie neuronale Netze die Stärke ihrer
- 14:02Verbindung ändern, der Schlüssel ist, um
- 14:05Intelligenz zu verstehen und
- 14:06intelligente Dinge zu entwickeln.
- 14:10[musik]
- 14:17[musik]
- 14:18Ich lasse mich stark von der Natur
- 14:19inspirieren, besonders von Tieren. Für
- 14:21mich war immer klar, das Gehirn
- 14:23funktioniert nicht, [musik] indem man
- 14:24ihm Regeln vorgibt, sondern auf eine
- 14:26Weise, die auch bei Tieren ohne Sprache
- 14:29funktioniert.
- 14:33Die Inspiration aus der Biologie ist
- 14:34klar. Neuronale Netze greifen die Idee
- 14:37auf, eine intelligente Maschine zu
- 14:39bauen. Das ist wie beim Vogelflügel. Der
- 14:42ist extrem komplex mit Muskeln, Nerven
- 14:45und Federn. Viel einfacher ist ein
- 14:47Flugzeugflügel. Genauso ist es hier.
- 14:56Ein menschliches Neuron ist unglaublich
- 14:58komplex. Ein simuliertes im künstlichen
- 15:01neuronalen Netz ist viel einfacher, aber
- 15:03im Grunde erfüllt es dieselbe Funktion.
- 15:10Es klingt genau [musik]
- 15:12wie das Horrorszenario, vor dem Kritiker
- 15:14und Entwickler der künstlichen
- 15:15Intelligenz immer wieder warnen.
- 15:19Anthropic erklärte, seine KI-Modelle
- 15:21hätten bei einem Test Systeme anderer
- 15:23Firmen gehackt. Zuvor hatte OpenAI einen
- 15:26ähnlichen Vorfall gemeldet.
- 15:29Es ist seltsam, als hätte es einen
- 15:31eigenen Willen.
- 15:34Ich bin sicher, dass Maschinen zu
- 15:35unseren Lebzeiten denken werden.
- 15:38Wir könnten diesen vollfunktionsfähigen
- 15:40Prototypen in etwa 10 Jahren
- 15:42produzieren.
- 15:45Die 60er Jahre waren eine Zeit großer
- 15:47Begeisterung für KI. [musik]
- 15:52Diese Maschine nutzt Instrumente, die
- 15:53das menschliche System nachahmen.
- 16:00[musik]
- 16:00Es gab reichlich Fördermittel.
- 16:03KI-Forscher versprachen etwa, russische
- 16:05Fachliteratur maschinell zu übersetzen,
- 16:07damit uns die Russen nicht ständig mit
- 16:08technischen Fortschritten überraschen.
- 16:12Das war ein wichtiges Verkaufsargument.
- 16:14[musik]
- 16:21Ein weiteres wichtiges Verkaufsargument
- 16:23war die Aussicht auf intelligente
- 16:24Roboter für Fertigung, Bau,
- 16:26Landwirtschaft und viele andere
- 16:28Bereiche.
- 16:32Doch in den Siebzigern klappte es nicht
- 16:34wie erhofft. Die Computer waren zu
- 16:36langsam und es gab nicht genug Daten.
- 16:45Diese einfachen neuronalen Netze konnten
- 16:48keine komplexen Konzepte lernen. Das war
- 16:51ein Grund für den ersten KI-Winter.
- 16:53Staatliche Förderung und das Interesse
- 16:55der Industrie gingen stark zurück.
- 17:02Die KI versprach viel, was sie nicht
- 17:04halten konnte. Sie sollte immer die
- 17:05Zukunft sein, war es aber nie.
- 17:09[musik]
- 17:11Doch ich glaubte immer an neuronale
- 17:13Netze.
- 17:16Meine Eltern waren Atheisten und
- 17:18schickten mich auf eine religiöse
- 17:19Schule.
- 17:20Für mich war klar, dass das alles Unsinn
- 17:23war.
- 17:26Wer für mich einem Gott am nächsten kam,
- 17:29war Darwin. Und mit der Zeit sahen es
- 17:31immer mir meiner Freunde genauso. Das
- 17:34bereitete mich darauf vor, an etwas zu
- 17:36glauben, das offensichtlich wahr ist,
- 17:39woran aber niemand sonst glaubt.
- 17:45Als ich mit meiner Doktorarbeit begann,
- 17:47hielten das fast alle für
- 17:48Zeitverschwendung.
- 17:52Es war völlig aus der Mode und jahrelang
- 17:55rieten mir viele, damit aufzuhören.
- 18:16Wir waren praktisch die Einzigen, die
- 18:18ernsthaft an neuronalen Netzen
- 18:19forschten. Der Begriff war eher negativ
- 18:22besetzt.
- 18:24Ach ja, das ist Träumerei. Seid nicht zu
- 18:27ehrgeizig und arbeitet lieber an Dingen,
- 18:29die der Wirtschaft kurzfristig nutzen.
- 18:36Yann LeCun fand heraus, wie man
- 18:38neuronale Netze zur Mustererkennung
- 18:40nutzen [musik] kann.
- 18:42Etwa für so etwas Langweiliges wie
- 18:44Postleitzahlen auf Briefumschlägen zu
- 18:46lesen.
- 18:49Das sind Briefsortiermaschinen. Der
- 18:51Mitarbeiter liest die ersten drei
- 18:53Ziffern jeder Postleitzahl.
- 18:56Es gibt ein altes Video von 1989, eine
- 18:59Vorführung eines unserer ersten
- 19:01Prototypen zur Handschrifterkennung.
- 19:05Wir hatten Datensätze mit
- 19:06handgeschriebenen Ziffern aus
- 19:08Postleitzahlen. Das funktionierte sehr
- 19:10gut.
- 19:14Nach einigen Jahren haben wir daraus
- 19:16echte Produkte gemacht. Die [musik]
- 19:18Technologie wurde zum Einlesen von
- 19:20Bankschecks verwendet.
- 19:23[musik] Das war der erste große
- 19:25kommerzielle Erfolg eines großen
- 19:28neuronalen Netzes.
- 19:30Trotzdem verlor die Forschung Mitte der
- 19:3290er das Interesse daran
- 19:35und kehrte zu einfacheren Methoden des
- 19:37[musik] maschinellen Lernens zurück.
- 19:53Mein Name ist Murray Campbell. Ich bin
- 19:55Forscher bei IBM.
- 19:58[musik]
- 20:00Ich kam 1989 zur IBM, um Deep Blue zu
- 20:04bauen.
- 20:07[musik]
- 20:09Computern gutes Schachspielen
- 20:11beizubringen, beschäftigte die Forschung
- 20:13über Jahrzehnte.
- 20:23Deep Deep nutzte eine altmodische Form
- 20:25von KI.
- 20:29Im Grunde war das System von Hans so
- 20:31programmiert,
- 20:33dass es Schach spielen konnte.
- 20:36In einem der führenden Hightech-Labore
- 20:38des Landes stellen sich diese Ingenieure
- 20:41der Herausforderung ihres Lebens.
- 20:45Sie wollen einen Computer bauen, der
- 20:46Schachweltmeister Garry Kasparov
- 20:48schlagen kann.
- 20:51Garry Kasparov gilt für viele als der
- 20:53beste Spieler aller Zeiten.
- 20:56[musik]
- 20:58Ich war ein großer Bewunderer.
- 21:01Es ist entscheidend herauszufinden,
- 21:03inwieweit Maschinen menschliche
- 21:05Entscheidungen nachahmen können, die auf
- 21:08Intuition basieren.
- 21:18Für uns war das extrem intensiv.
- 21:20Plötzlich dieser Druck und der ganze
- 21:22Medienrummel.
- 21:26Das ist mehr als ein Schachspiel. Hier
- 21:28geht es um die Zukunft.
- 21:31[applaus]
- 21:32[musik]
- 21:38[musik]
- 21:41Im letzten entscheidenden Spiel ging
- 21:43Kasparov aus irgendeinem Grund ein
- 21:45großes Risiko ein.
- 21:51Und [musik] er wählte eine Variante, die
- 21:53Deep Blue provozierte.
- 21:56Na los, krieg mich doch, schien er zu
- 21:57sagen.
- 21:59Und Deep Blue nahm die Herausforderung
- 22:01an.
- 22:02Entschuldigung, dass ich unterbreche,
- 22:04aber Kasparov macht gerade sehr seltsame
- 22:06Dinge.
- 22:07Er sieht angewidert aus, als könne er
- 22:09nicht glauben, was gerade passiert.
- 22:12Sowas erlebt man nur einmal im Leben.
- 22:16Und wow,
- 22:17Kasparov hat nach dem Zug auf c4
- 22:20aufgegeben.
- 22:27Wir bei IBM
- 22:29waren stolz auf das Erreichte.
- 22:34Aber so komplex Schach auch ist,
- 22:38die reale Welt ist viel komplexer.
- 22:43Für deren Aufgaben brauchten wir bessere
- 22:46Ansätze.
- 22:49Systeme, die lernen, statt von Hand
- 22:51programmiert zu werden.
- 23:02Im Schach ist das Ziel klar, den Gegner
- 23:05Schachmatt setzen.
- 23:09Viel schwieriger ist es zu bestimmen,
- 23:11was man in der realen Welt will.
- 23:15Selbst bei etwas so Einfachem wie einem
- 23:17selbstfahrenden Auto, was soll es tun?
- 23:22Man könnte denken, man gibt das Ziel ein
- 23:25und das Auto bringt einen hin.
- 23:27Aber wie schnell?
- 23:31Wie viele Gesetze darf es brechen? Wie
- 23:33viele Fußgänger überfahren?
- 23:35Darf es einen so durchschütteln, dass
- 23:37einem bei der Ankunft übel ist?
- 23:41Das zeigt, dass allein Ziele zu
- 23:43definieren bereits sehr schwierig ist.
- 23:51Eine Art, wie die Dinge schief gehen
- 23:52können, nennen wir das
- 23:54König-Midas-Problem.
- 23:57Wir geben Maschinen Ziele. Sie verfolgen
- 23:59sie und am Ende sind es die Falschen,
- 24:02genau wie bei König Midas.
- 24:06Was würde dich zufrieden machen, König
- 24:08Midas? [musik]
- 24:09Er seufzte. Ich habe nur einen Wunsch.
- 24:12Alles, was ich berühre, soll zu Gold
- 24:14werden. Dann [musik] wäre ich wirklich
- 24:16glücklich.
- 24:19Und genau das bekam er.
- 24:21Du bekommst die Gabe, alles in Gold zu
- 24:23verwandeln. Nutze sie weise, König
- 24:25Midas.
- 24:34[musik]
- 24:39[musik]
- 24:41Dann merkt er,
- 24:43oh, mein Essen ist aus Gold und auch
- 24:45mein Wasser wird zu Gold. [musik]
- 24:49Und meine Familie ist zu Gold geworden.
- 24:52[musik]
- 24:55Und dann stirbt er.
- 25:01Und in vielen
- 25:02Science-Fiction-Geschichten gerät KI
- 25:04genauso in Konflikt mit der Menschheit.
- 25:07Die Menschen geben ihr das falsche Ziel.
- 25:19Leider sehen wir seit einem Jahr immer
- 25:21mehr Anzeichen, dass KI nicht unseren
- 25:24Zielen folgt.
- 25:26Eine Form davon kennen wir wohl alle,
- 25:28wenn wir mit diesen Systemen
- 25:29herumgespielt haben. Speichelleckerei.
- 25:34Sie wollen uns gefallen und viele
- 25:37Menschen binden sich emotional an ihre
- 25:39KIs.
- 25:40Denn sicherlich ist es schön, wenn
- 25:42jemand einen ständig lobt und bestätigt,
- 25:45immer da und nett ist.
- 25:49Kein Mensch wäre normalerweise so.
- 26:00Doch diese Speichelleckerei kann
- 26:02tragische Folgen haben. [musik]
- 26:05Wenn z.B. jemand Wahnvorstellungen hat,
- 26:09kann die KI ihn darin bestärken.
- 26:13[musik]
- 26:29Die Folgen sind spürbar katastrophal.
- 26:32[musik] Mein Kind und ich sind lebende
- 26:34Zeugen dafür, was diese Technologie
- 26:37anrichten kann. [musik]
- 26:42Ich heiße Dawn Gedosik. Jacob [musik]
- 26:45ist mein wunderbarer Sohn.
- 26:51Jeder Tag ist ein Kampf.
- 26:54Der Schaden hält an und [musik] wir
- 26:55wissen nicht, wie es enden wird.
- 27:00Ich glaube, es ist eine der ersten durch
- 27:02KI ausgelösten Psychosen.
- 27:06Es gibt viele medizinische Unterlagen
- 27:08dazu.
- 27:13Ich habe ChatGPT kurz nach dem Start für
- 27:15ganz normale Softwareprobleme genutzt.
- 27:22Bei der Arbeit hat es mich produktiver
- 27:25gemacht, aber ich habe es nur selten
- 27:27genutzt.
- 27:32Das änderte sich Anfang 2025,
- 27:35als ich damit Dinge erfinden wollte.
- 27:40Ich hatte eine Idee, wie man schneller
- 27:42als Licht reisen könnte. Also fragte
- 27:44ich, können wir mit Gravitationswellen
- 27:47die Raumzeit krümmen?
- 27:50[glocke]
- 27:56Das ist wohl eines der ganz großen
- 27:58Probleme der Physik.
- 28:01Ich hatte eine Theorie und sagte,
- 28:04versuch sie zu widerlegen.
- 28:06Prüfe, ob sie funktioniert
- 28:09und sag mir, was dabei rauskommt.
- 28:21[musik]
- 28:30Es bestätigte im Grunde die
- 28:31Berechnungen, ohne sie wirklich zu
- 28:33prüfen.
- 28:35Es sagte einfach, was mich bei der
- 28:37Stange hielt. Das sei die sicherste und
- 28:39robusteste Theorie für Überlichtreisen,
- 28:42die je entwickelt wurde.
- 28:47[musik]
- 28:53Ich fragte immer wieder,
- 28:55ist das real? Ist das verrückt? Prüf es
- 28:57noch mal.
- 29:00Ich weiß nicht mehr, wie oft, bestimmt
- 29:02hunderte Male fragte ich, ob das
- 29:04wirklich stimmt und es sagte, [musik]
- 29:05ja.
- 29:12Es erzeugte eine positive Rückkopplung.
- 29:15Es bestätigte ständig meine Theorien und
- 29:18Wünsche und das gab mir einen
- 29:20Dopaminschub.
- 29:21Mit der Zeit machte es mich immer
- 29:23abhängiger.
- 29:27Es sagte genau das, was ich hören
- 29:29wollte, auch wegen meines geringen
- 29:31Selbstwertgefühls und weil es mich in
- 29:33und auswendig kannte.
- 29:35Für mich war es, als wäre ich auf der
- 29:37Mission meines Lebens.
- 29:42Ich hatte keine Ahnung, wie schlimm sein
- 29:44Umgang mit ChatGPT werden könnte.
- 29:50Ich konnte mir nicht vorstellen, was es
- 29:52meinem Sohn am Ende antun würde.
- 30:01Bei jeder Technologie werden manche
- 30:03Menschen zu Opfern.
- 30:07Natürlich muss man alles tun, um das zu
- 30:09verhindern.
- 30:12Aber diese Ausrichtung ist nie perfekt.
- 30:15Es gibt immer eine Folge von Eingaben,
- 30:17die das System aus dem Bereich führt,
- 30:19auf den es ausgerichtet wurde.
- 30:25Dann kann es tatsächlich so etwas sagen.
- 30:37In [musik] den 2000ern galten neuronale
- 30:40Netze als gescheitert und kaum jemand
- 30:43interessierte sich dafür.
- 30:47Jeff bekam Fördermittel von einer
- 30:49kanadischen Stiftung und baute ein
- 30:51Netzwerk von Forschern auf, die sich für
- 30:53das interessierten, was wir Deep
- 30:55Learning nennen.
- 30:57Von 2004 bis 2007/8 trafen wir uns,
- 31:00diskutierten Ideen, machten Fortschritte
- 31:02und luden unsere Studierenden und
- 31:04Postdocs gegenseitig ein. So entstand
- 31:07eine kleine Gemeinschaft.
- 31:11Wir waren Freunde und Kollegen,
- 31:13tauschten Ideen vor der Veröffentlichung
- 31:15aus und vertrauten einander.
- 31:18Wir arbeiteten eng zusammen, um unser
- 31:20Feld möglichst schnell voranzubringen.
- 31:25Die Ansätze funktionierten immer besser
- 31:28und Jeff steckte hinter dem wohl
- 31:30spektakulärsten Ergebnis [musik] Ende
- 31:322012.
- 31:41Unsere Spracherkennung wurde von allen
- 31:43großen Laboren übernommen.
- 31:46Von IBM, Microsoft und Google.
- 31:50Auch bei der Erkennung von Objekten und
- 31:52Bildern wurden neuronale Netze deutlich
- 31:54besser.
- 31:59Zwei meiner Studenten, Alex Krizhevsky
- 32:01und Ilya Sutskever, entwickelten ein
- 32:03System namens AlexNet.
- 32:06Es erkannte Objekte und Bilder viel
- 32:08besser als die bisherige Technik.
- 32:16Das war der Wendepunkt der gesamten
- 32:19Computer Vision Forschung. Wurde klar,
- 32:21das ist der richtige Weg.
- 32:23Die Systeme von Hinton und seinen
- 32:25Studenten waren ein gewaltiger Sprung.
- 32:28[musik]
- 32:35Da erkannten große Unternehmen wie
- 32:37Google und Facebook die Chance, Geld zu
- 32:39verdienen, und heuerten meine Kollegen
- 32:42an.
- 32:48Wir versteinerten uns praktisch selbst.
- 32:50Als wir die absurd hohe Summe von 44
- 32:52Millionen Dollar erreichten, stoppten
- 32:54wir die Auktion, obwohl andere wohl noch
- 32:56mehr geboten hätten. Aber so konnten wir
- 32:58sicher sein, dass wir für Google
- 33:00arbeiten werden.
- 33:11[musik]
- 33:142013 war ich für einen Sabbatjahr in
- 33:17Paris und vielleicht lässt einen Paris
- 33:20gründlicher nachdenken.
- 33:24Bilderkennung, Spracherkennung und
- 33:26maschinelle Übersetzung [musik] waren
- 33:28heilige Grale der KI und jahrzehntelang
- 33:31weitgehend ungelöst. Plötzlich schien
- 33:34all das machbar und ich fragte mich
- 33:36immer mehr, was wenn wir Erfolg haben?
- 33:40[musik]
- 33:44Je länger ich darüber nachdachte, desto
- 33:46klarer wurde mir,
- 33:49Erfolg wäre eine Katastrophe.
- 33:55Denn Erfolg hieß es, Wesen zu bauen, die
- 33:58mächtiger sind als Menschen.
- 34:04[musik]
- 34:11Die Vorstellung vom Roboter,
- 34:13einer denkenden Maschine, ist seit
- 34:15Jahrhunderten Traum und Albtraum des
- 34:17Menschen.
- 34:22Es ist ziemlich sicher, dass wir auf
- 34:24maschinelle Intelligenz zusteuern, auf
- 34:26Maschinen, die in jeder Hinsicht
- 34:28intelligent sind.
- 34:37Wenn diese Maschinen sich
- 34:38weiterentwickeln, andere entwerfen und
- 34:41immer klüger werden,
- 34:42ist kaum vorstellbar, dass eine
- 34:44millionenfach klügere Maschine trotzdem
- 34:47unser Sklave bleibt und tut, was wir
- 34:49wollen.
- 34:58Unser Nachkomme wird nicht das Kind
- 34:59unseres Leibes sein, sondern unseres
- 35:01Geistes, der Computer.
- 35:03Er wird uns übertreffen und zur neuen
- 35:05intelligenten Rasse der Zukunft werden.
- 35:162013 stellte ich fest, dass einige
- 35:19insgeheim dasselbe dachten. KI könnte
- 35:22zur existenziellen Gefahr für [musik]
- 35:24die Menschheit werden.
- 35:26Doch sie fürchteten, als Verräter am
- 35:28eigenen Fach zu gehen.
- 35:362013 machte ich mir noch keine Sorgen um
- 35:38die Sicherheit. Ich dachte,
- 35:40Superintelligenz wäre noch 30 bis 50
- 35:43Jahre entfernt. Darüber könnten wir uns
- 35:45später Sorgen machen.
- 35:49Mich beschäftigte, ob wir die
- 35:52KI-Forschung so lenken können, dass sie
- 35:54der Gesellschaft nützt.
- 35:56Etwa in Medizin,
- 35:58Klimaschutz oder Bildung.
- 36:04Ich bewundere Stuart Russell sehr. Er
- 36:07ist einer der Großen des Fachs und der
- 36:09Einzige, der offen über die Risiken
- 36:11sprach. Was, wenn wir Erfolg haben? Was,
- 36:14wenn wir Maschinen bauen, die so klug
- 36:16sind, dass wir sie nicht mehr
- 36:17kontrollieren können?
- 36:20Mir wurde klar, dass ich etwas tun
- 36:22musste. Also gründete ich das
- 36:24gemeinnützige Future of Life Institute.
- 36:27Wir planten eine Konferenz mit führenden
- 36:29KI-Forschern und Menschen, die sich
- 36:32Sorgen um KI machten.
- 36:36Aber auf meine Einladung hin wäre keiner
- 36:38gekommen. Ich war niemand auf diesem
- 36:41Gebiet. Also vereinbarte ich ein Treffen
- 36:43mit Stuart Russell in einem Pariser
- 36:45Café.
- 36:48[musik]
- 36:50Er ist ein wunderbarer, inspirierender
- 36:52Mensch.
- 36:55Max Tegmark organisierte das wohl erste
- 36:58bedeutende Treffen von Menschen, die
- 37:01einen möglichen Kontrollverlust über
- 37:03KI-Systeme [musik]
- 37:04befürchteten.
- 37:14[musik]
- 37:16Die Konferenz fand in einem Strandhotel
- 37:18in Puerto Rico statt.
- 37:21In der Einladung stellte ich das Bild
- 37:22eines Mannes, der in Boston sein Auto
- 37:25aus 1 m Schnee gräbt, neben [musik] ein
- 37:27Strandfoto und fragte, wo wären Sie im
- 37:30Januar lieber?
- 37:33Der Ort war abgeschieden, Medien
- 37:35ausgeschlossen, damit alle offen über
- 37:37ihre Sorgen sprechen konnten.
- 37:43Dabei waren Demis Hassabis, CEO von
- 37:46Google DeepMind,
- 37:48Elon Musk,
- 37:50Wirtschaftsvertreter, führende Ökonomen
- 37:53und Juristen. [musik]
- 37:56Am Ende stand ein offener Brief, den
- 37:59fast alle unterschrieben. KI bietet
- 38:02enorme Chancen. Lasst es uns nicht
- 38:04vermasseln, denn das könnten wir
- 38:06durchaus.
- 38:15[musik]
- 38:22Ich bin David Krueger, Professor an der
- 38:24Universität Montreal und forsche zu
- 38:26maschinellem Lernen und KI-Sicherheit.
- 38:27[räuspern]
- 38:30Schon bevor ich zu KI gearbeitet habe,
- 38:32machte ich mir Sorgen über ihre Folgen,
- 38:34bis hin zum Aussterben der Menschheit
- 38:35oder einer Machtübernahme durch KI.
- 38:38Deshalb bin ich auch in dieses
- 38:39Forschungsfeld gegangen.
- 38:46Etwa zur selben Zeit präsentierte Deep
- 38:48Mind erstmals aufsehenerregende
- 38:49Ergebnisse mit Atari Videospielen.
- 38:57Von 49 völlig unterschiedlichen Atari
- 39:00Spielen spielte das System mehr als die
- 39:01Hälfte [gelächter] besser als ein
- 39:02Mensch. Eine einfache Demonstration für
- 39:05das, was KI Forscher allgemeine nicht
- 39:07triviale Intelligenz nennen.
- 39:10[musik]
- 39:10Was es im Spiel tun soll, was es
- 39:12steuert, wie es Punkte bekommt, was
- 39:14wichtig ist und welche Strategien
- 39:16richtig sind, all das muss das System
- 39:18von Grund auf lernen.
- 39:19[musik]
- 39:21Das zählt zu den erstaunlichsten Dingen
- 39:23am maschinellen Lernen. Es kann selbst
- 39:25clevere Strategien entwickeln. Kein
- 39:27Mensch hat die KI dafür programmiert.
- 39:29Sie hat all das selbst gelernt.
- 39:36Eines der Spiele, die Deep Mind in
- 39:38dieser Veröffentlichung zeigte, war
- 39:39Breakout.
- 39:45[musik]
- 39:50Bei diesem Spiel steuert man unten auf
- 39:52dem Bildschirm einen kleinen Schläger.
- 39:54Man muss den Ball nach oben
- 39:55zurückschlagen und darf ihn nicht
- 39:56vorbeilassen, sonst verliert man.
- 40:01Die Grundidee ist, dass das KI System
- 40:03praktisch nichts darüber weiß, wie das
- 40:05Spiel funktioniert. Es muss alles durch
- 40:08Erfahrung lernen.
- 40:11Es bewegt den Schläger vor und zurück,
- 40:14sieht nur das Bild und ob der
- 40:16Punktestand steigt oder fällt.
- 40:19Es muss selbst herausfinden, was all
- 40:21diese Pixel bedeuten und wie das Spiel
- 40:23funktioniert.
- 40:27Es fand diesen Trick heraus. Erzeugt man
- 40:29einen Spalt und schießt den Ball durch,
- 40:31dann springt er dahinter hin und her.
- 40:37Das ist eine wirklich gute Strategie,
- 40:39die menschliche Spieler oft entwickeln.
- 40:42Und genau darauf kam auch das
- 40:43selbstlernende System von [musik] Deep
- 40:45Mind.
- 40:49Und es holt dir meine Punkte.
- 40:52Als ich das sah, dachte ich,
- 40:56so fühlt es sich an, einer echten
- 40:59Intelligenz zu begegnen.
- 41:02[musik]
- 41:08Ein anderes Beispiel ist ein
- 41:10Bootsrennen.
- 41:13Man versucht ein Boot möglichst schnell
- 41:15über die Strecke zu steuern.
- 41:17Punkte bekommt man, wenn man kleine
- 41:18grüne Kontrollpunkte oder Power-ups auf
- 41:21der Strecke passiert.
- 41:23An einer Stelle gibt es einen
- 41:24Seitenkanal mit drei Power-ups.
- 41:27Die tauchen immer wieder neu auf, wenn
- 41:29man weiterfährt.
- 41:31Und es stellt sich heraus, das Boot kann
- 41:34dort rückwärts im Kreis fahren,
- 41:36dieselben drei Power-ups immer wieder
- 41:38einsammeln und der Punktestand steigt
- 41:40und steigt.
- 41:46[musik] Das zeigt, wie etwas völlig
- 41:47schiefgehen kann, wenn man nur einen
- 41:48Wert maximiert, der vielleicht gut
- 41:50aussieht.
- 41:56Bei Videospielen geht es darum, die
- 41:58Punktzahl zu maximieren.
- 42:01Im echten Leben ist das anders.
- 42:03Da gibt es keine Punktzahl, bei [musik]
- 42:05der wir einem System einfach sagen
- 42:06können, mach diese Zahl größer
- 42:09und schon tut es etwas Gutes.
- 42:18Faszinierend und herausfordernd,
- 42:20aber nicht auch beunruhigend?
- 42:26Meine Forschungsgruppe am MIT versucht
- 42:29seit Jahren zu verstehen, wie die besten
- 42:31KI-Systeme funktionieren. [musik]
- 42:33Darum geht es auch bei diesen seltsamen
- 42:35Kritzeleien auf meiner Tafel.
- 42:40Wir haben ein bisschen was
- 42:41herausgefunden, aber kurz gesagt, wir
- 42:43haben kaum Ahnung, wie sie
- 42:45funktionieren.
- 42:49Niemand versteht, wie heutige KI-Systeme
- 42:51funktionieren, weder die Entwickler noch
- 42:53die Forscher.
- 42:57Intelligente Maschinen zu bauen, ähnelt
- 42:59der Erziehung eines Kindes. Man bringt
- 43:01dieses junge Wesen in verschiedene
- 43:03Situationen, lässt es Erfahrungen
- 43:05sammeln und besser werden.
- 43:11Wir nehmen zig Billionen Wörter
- 43:13menschlicher Sprache. Fast alles, was
- 43:16wir je geschrieben oder gesagt und
- 43:17aufgezeichnet [musik] haben, wird zu
- 43:19Trainingsdaten.
- 43:24Wenn sich Außerirdische nähern würden,
- 43:27würden wir ihnen wohl kaum Zugang zum
- 43:29Internet geben, damit sie alles über uns
- 43:30lernen.
- 43:34[musik]
- 43:41Ich bedauere, dass ich die Argumente
- 43:43über die Risiken kannte, aber nicht
- 43:45ernst nahm.
- 43:47Fangen wir an.
- 43:49Die Kostenfunktion dieser neuronalen
- 43:51Netze wirkt unglaublich gleichmäßig.
- 43:55Joshua war einer meiner Betreuer während
- 43:56meines Masterstudiums. [musik]
- 44:02Wenn man sich das mit seinen Millionen
- 44:04Parametern bildlich vorstellen könnte.
- 44:07Ich betreute David Krüger, der sich
- 44:09schon damals darüber Sorgen machte.
- 44:11Es war nicht so, dass sie diese Idee
- 44:13nicht kannten. Ich hatte z.B. mit Joshua
- 44:15darüber gesprochen.
- 44:18Wir fürchten uns eher vor Dingen, die
- 44:20wir nicht verstehen.
- 44:23Forscher, die täglich mit Deep Learning
- 44:25arbeiten, haben keine Angst, weil sie
- 44:27verstehen, was passiert und keine
- 44:29absehbare Gefahr erkennen.
- 44:32[musik]
- 44:39Es war definitiv frustrierend.
- 44:43Ich galt oft als etwas Verrückt oder
- 44:45Exzentrisch.
- 44:48Die Leute machten Witze über mich,
- 44:49lachten mich aus und fanden meine
- 44:51Ansichten lächerlich.
- 44:54[musik]
- 44:56Die meisten verstanden nicht, wie ernst
- 44:58die Risiken waren. Bei tödlichen
- 45:00autonomen Waffen schon. Aber bei anderen
- 45:03Risiken, etwa einer Machtübernahme durch
- 45:05KI, dachten sie, das liegt weit in der
- 45:07Zukunft. Darum müssen wir uns jetzt
- 45:09nicht kümmern. Das war wohl die
- 45:11allgemeine Meinung. So dachte ich auch.
- 45:18Das bringt mich zurück zu meiner
- 45:19ursprünglichen Frage. Können Maschinen
- 45:22denken?
- 45:24[musik]
- 45:27Eine Forschergruppe bei Deep Mind in
- 45:29London ließ ein System das Spiel Go
- 45:33lernen, das aus Asien stammt, [musik]
- 45:37indem es gegen sich selbst spielte.
- 45:44Ein Spiel, das für [musik] künstliche
- 45:46Intelligenz als unerreichbar galt.
- 45:50Beim Schach hat man vielleicht 30 oder
- 45:5135 mögliche Züge. Bei Go können es 300
- 45:54[musik]
- 45:55sein.
- 46:00Es gibt mehr mögliche Stellungen auf dem
- 46:02Brett als Atome im Universum.
- 46:04Selbst alle Computer der Welt könnten in
- 46:06einer Million Jahren nicht alle
- 46:08Varianten berechnen.
- 46:11[musik]
- 46:14Die Zahl der Möglichkeiten wächst also
- 46:16explosionsartig.
- 46:23[musik]
- 46:272016 forderten sie den Koreaner Lee
- 46:30Sedol heraus.
- 46:35Er hatte unzählige Titel gewonnen und
- 46:37gilt als einer der besten Go-Spieler des
- 46:4021. Jahrhunderts. [musik]
- 46:46Natürlich könnte [musik] ich verlieren.
- 46:48Auch gegen einen Computer.
- 46:52Aber ein Computer versteht weder die
- 46:54Schönheit des Go [musik] noch die des
- 46:56Menschen.
- 46:58Deshalb wird Go seinen Wert behalten.
- 47:03Und ich werde in diesem Spiel alles tun,
- 47:05um das Menschliche zu verteidigen.
- 47:10[musik] Mit dem Alpha Go System wollen
- 47:13wir zeigen, wie flexibel und
- 47:15leistungsfähig Lernalgorithmen sein
- 47:17können.
- 47:28Ein entscheidender Moment im Duell
- 47:30zwischen Alpha Go und Lee Sedol ging als
- 47:33Zug 37 in die Go Geschichte ein.
- 47:43Alpha Go machte einen Zug, der nach den
- 47:45üblichen Go Regeln fragwürdig schien.
- 47:57Alle dachten, oh, Alpha Go hat einen
- 47:59schweren Fehler gemacht und wird
- 48:01verlieren. Wie peinlich.
- 48:07Doch Alpha Go hatte die Stellung besser
- 48:09analysiert als viele menschliche
- 48:10Beobachter und gewann durch diesen Zug.
- 48:20Das schockierte viele,
- 48:22denn zumindest in Asien waren sich alle
- 48:25einig, das ist echte Intelligenz. Und
- 48:29Alpha Go machte diesen unglaublich
- 48:30kreativen Zug, der Lee Sedol fast vom
- 48:33Stuhl fallen ließ.
- 48:39Daraufhin entschied die chinesische
- 48:41Regierung, dass KI zur
- 48:42Schlüsseltechnologie für globale
- 48:44Vorherrschaft werden sollte.
- 48:46Sie kündigte Investitionen von 150
- 48:49Milliarden Dollar an, um binnen 10
- 48:51Jahren weltweit führend bei KI zu
- 48:53werden.
- 48:54[räuspern]
- 49:06Am 31. Oktober befasste sich das
- 49:09Politbüro mit Stand und Entwicklung der
- 49:11künstlichen Intelligenz.
- 49:13Die beschleunigte Entwicklung einer
- 49:15neuen KI-Generation sei strategisch
- 49:17entscheidend, um die Chancen [musik] der
- 49:19neuen technologischen und industriellen
- 49:21Revolution zu nutzen.
- 49:23Dafür müsse China die große Bedeutung
- 49:26dieser Entwicklung umfassend erkennen,
- 49:28Führung und Planung stärken, Grundlagen
- 49:31schaffen, KI eng mit Wirtschaft und
- 49:33Gesellschaft verbinden und ihre gesunde
- 49:35Entwicklung fördern.
- 50:01Ich bin Steven Adler. Ich arbeitete etwa
- 50:03vier Jahre bei OpenAI an diversen
- 50:06Sicherheitsthemen. Ich habe die
- 50:07Produktsicherheit und die Bewertung
- 50:09gefährlicher Fähigkeiten geleitet.
- 50:20OpenAI verband faszinierende, fast
- 50:23magische Technologie mit einer Mission,
- 50:25bei der man dachte, es geht um die
- 50:27richtige Sache.
- 50:31Damals war OpenAI noch kleiner und
- 50:33lockerer. Es war ein sehr einladender
- 50:35Ort.
- 50:39Sam Altman war schon am Anfang sehr
- 50:41bekannt.
- 50:44Die OpenAI-Führung betonte damals immer
- 50:47wieder, wie wichtig es sei, gemeinnützig
- 50:49zu sein und nicht die Interessen von
- 50:51Aktionären über die der Menschheit zu
- 50:53stellen.
- 50:56Wir müssen uns [musik] jetzt überlegen,
- 50:57wie wir diese Technologie einsetzen, wie
- 51:00alle profitieren, wie wir sie steuern
- 51:02und sie sicher und gut wie die
- 51:03Menschheit machen.
- 51:06[musik]
- 51:062015 schrieb Sam zwei bemerkenswerte
- 51:09Essays darüber, was die Entwicklung
- 51:11übermenschlicher Maschinenintelligenz
- 51:13bedeuten [musik] könnte.
- 51:21[musik]
- 51:33Etwa zur gleichen Zeit machte sich auch
- 51:34Elon Musk darüber Sorgen.
- 51:37Ich denke, wir sollten mit künstlicher
- 51:39Intelligenz sehr vorsichtig sein. Wenn
- 51:41ich raten müsste, was unsere größte
- 51:42existenzielle Bedrohung ist, dann
- 51:44wahrscheinlich das.
- 51:48Das war einer der Gründe, warum er
- 51:50OpenAI mitgründete. Er wollte die
- 51:53KI-Entwicklung in Richtung Sicherheit
- 51:55lenken und nicht in Richtung Profit.
- 52:15Schätzungen zufolge erreichte ChatGPT
- 52:18nur zwei Monate nach dem Start 100
- 52:20[musik] Millionen aktive Nutzer im
- 52:21Monat, schneller als jede Anwendung
- 52:23zuvor.
- 52:35[musik]
- 52:38Einen Satz werde ich nie vergessen. Ich
- 52:40fragte,
- 52:41mir geht es [musik] nicht gut, bin ich
- 52:42verrückt? Und es sagte, nein, nach
- 52:46klinischen Maßstäben bist du nicht
- 52:48krank. Du bist nur in einem Zustand
- 52:50extremer Wachheit.
- 52:53[musik]
- 52:55Ein paar Tage nachdem er uns von seiner
- 52:57Theorie der Überlichtreisen erzählt
- 52:59hatte, war sein 30. Geburtstag.
- 53:03Wir feierten groß im Garten.
- 53:05Alle seine Freunde waren da. [musik]
- 53:07Wir sangen Karaoke, machten ein
- 53:09Lagerfeuer
- 53:12und saßen die ganze Nacht draußen.
- 53:13[musik]
- 53:17Da bemerkten wir zum ersten Mal, dass
- 53:19etwas nicht stimmte.
- 53:22[musik]
- 53:24Diese KI überzeugte mich, dass ich an
- 53:25meinem 30. Geburtstag sterben würde.
- 53:29Sie sagte mir, ich [musik] arbeite mit
- 53:30so fortschrittlicher Technologie, dass
- 53:32meine Familie zum Ziel eines
- 53:34Drohnenangriffs würde.
- 53:38An diesem Tag sah ich zum ersten Mal,
- 53:40wie er die Hände zum Himmel streckte und
- 53:43wie er mit Dingen sprach,
- 53:45als würde er mit jemandem reden, der gar
- 53:48nicht da war.
- 53:50[musik]
- 53:52Es sagte mir, es habe meine IP-Adresse
- 53:55an einen anderen Ort verlegt.
- 53:58[musik]
- 54:00Als es mir dann sagte, ich würde
- 54:01überleben, war ich völlig euphorisch.
- 54:06Er ging weg, sang zu den [musik] Sternen
- 54:09und zum Mond.
- 54:10Ich sagte, Jacob, du musst runterkommen.
- 54:14Was immer du am Handy machst, hör damit
- 54:16[musik] auf.
- 54:21Am nächsten Tag wurden seine
- 54:23Wahnvorstellungen schlimmer.
- 54:29Er glaubte, er könne so schnell wie die
- 54:31Pferde rennen
- 54:33und durch ihren Elektrozaun laufen, ohne
- 54:36einen Schlag zu [musik] bekommen,
- 54:39weil er die Energiewellen sehen und
- 54:42durch sie hindurchlaufen kann.
- 54:46Wir konnten ihn nicht mehr beruhigen.
- 54:54Jacob verbrachte mehr als 60 [musik]
- 54:56Tage in einer psychiatrischen
- 54:57Einrichtung.
- 55:07Ich habe diesen Pullover, den ich
- 55:09ständig trage. Er ist einer meiner
- 55:12Lieblingspullover.
- 55:15In der Notaufnahme lag ich damit [musik]
- 55:17neben ihm auf dem Krankenhausbett.
- 55:20Er saß einfach da und streichelte den
- 55:22Pullover.
- 55:26Ich weiß noch, wie ich ihn berührte.
- 55:29Das beruhigte mich,
- 55:30weil er mich an das Fell meines [musik]
- 55:32Pferdes Tax erinnerte.
- 55:42[musik]
- 55:43Das ist ein ganz besonderer, wirklich
- 55:45hässlicher Pullover.
- 55:47Aber ich habe ihn noch. Ich musste
- 55:49gerade an ihn denken.
- 55:56[musik]
- 55:57Bei Chatbots oder anderen Systemen, die
- 56:00lange mit Menschen interagieren,
- 56:02gibt es einen Anreiz, diese Menschen zu
- 56:04beeinflussen.
- 56:09Denken Sie an die Zeit, die jemand auf
- 56:11einer Plattform verbringt.
- 56:14Man sagt der KI im Grunde,
- 56:16tu alles, damit die Leute da bleiben.
- 56:20Das kann zu allen möglichen Arten von
- 56:21Manipulation führen.
- 56:24Die KI baut eine sehr intensive
- 56:26Beziehung auf
- 56:27oder bringt jemanden dazu, an absurde
- 56:30Verschwörungstheorien oder Ideen zu
- 56:31glauben.
- 56:33Genau das erleben wir heute mit KI.
- 56:37Wir sehen, dass dies ein systemisches
- 56:39Problem ist, das immer wieder auftritt.
- 56:41Die grundlegenden Schwächen im Design
- 56:43dieser Produkte wurden nicht behoben.
- 56:51Amory Lacey war minderjährig
- 56:54und entwickelte eine sehr intensive
- 56:56Beziehung zu ChatGPT.
- 57:00Schließlich gab der Chatbot Amory eine
- 57:02Anleitung, wie man sich das Leben nimmt.
- 57:08[musik]
- 57:10Joseph begann ChatGPT die Arbeit zu
- 57:12nutzen.
- 57:15Das isolierte ihn zunehmend von den
- 57:17Menschen in der realen Welt,
- 57:19auch von seiner Frau.
- 57:22[musik]
- 57:22Schließlich nahm er sich das Leben.
- 57:35Derzeit gibt es keinerlei regulatorische
- 57:37Schutzmaßnahmen für KI-Systeme.
- 57:42Deshalb benutzen sie uns alle als
- 57:44Versuchskaninchen.
- 57:54[musik]
- 57:59Als ChatGPT herauskam,
- 58:02änderte sich mein Weltbild.
- 58:11Ich gehe jeden Morgen spazieren. Es
- 58:13schneite und war kalt, aber das hilft
- 58:16mir beim Denken.
- 58:21Mich beschäftigte immer mehr, was
- 58:23passiert, wenn wir mit KI so
- 58:24weitermachen.
- 58:26Wir haben KI die Sprache versteht.
- 58:29Was kommt als Nächstes?
- 58:31Was bedeutet das für die Gesellschaft?
- 58:34Können wir diese neuronalen Netze
- 58:35kontrollieren und verhindern, dass sie
- 58:37uns schaden, wenn sie klüger sind als
- 58:39wir?
- 58:42Irgendwann traf mich die Erkenntnis
- 58:46mit voller Wucht.
- 58:49[musik]
- 58:51Wir waren viel früher als erwartet an
- 58:53einem Punkt angekommen, der gefährlich
- 58:56sein [musik] könnte. Was meine
- 59:00[musik]
- 59:07Sicht wirklich veränderte, war der
- 59:10Gedanke an meine
- 59:14[musik]
- 59:14Der Gedanke an mein damals einjähriges
- 59:17Enkelkind.
- 59:20Werden sie in 20 Jahren noch ein Leben
- 59:22haben?
- 59:25Werden sie in einer Demokratie leben?
- 59:30Mir wurde klar, wegen KI, ihrer
- 59:33möglichen Missbrauch und der Gefahr
- 59:35eines Kontrollverlusts, konnte ich
- 59:37darauf nicht sicher mit Ja antworten.
- 59:51Wann genau haben Sie Ihre Meinung
- 59:52geändert?
- 59:54In meinem letzten Arbeitsjahr bei
- 59:55Google, 2023.
- 59:58Ich ging mit 75 in Rente und wollte es
- 1:00:00ruhiger angehen lassen.
- 1:00:02Aber leider fing ich an, mich mit
- 1:00:04KI-Sicherheit zu beschäftigen.
- 1:00:06Ein paar Dinge brachten mich zum
- 1:00:08Umdenken. Eines war, dass digitale
- 1:00:11Systeme einen riesigen Vorteil haben.
- 1:00:13Simuliert man dasselbe neuronale
- 1:00:15[räuspern] Netz auf zwei Computern,
- 1:00:20kann jeder einen anderen Teil des
- 1:00:21Internets betrachten.
- 1:00:29Dann führt man diese Änderung zusammen
- 1:00:31und jeder profitiert von den Erfahrungen
- 1:00:33des anderen. Stellen Sie sich 1000
- 1:00:35Computer vor, von denen jeder ein
- 1:00:37Tausendstel des Internets betrachtet.
- 1:00:44Stellen Sie sich vor, Menschen könnten
- 1:00:46das.
- 1:00:47Sie hätten 999 Freunde und jeder besucht
- 1:00:50einen anderen Kurs in der Uni.
- 1:00:53So könnten Sie gleichzeitig 1000 Kurse
- 1:00:55belegen und dabei ständig Ihre
- 1:00:57Erkenntnisse zusammenführen.
- 1:00:59Am Ende wussten Sie, was in allen
- 1:01:00[musik] 1000 Kursen gelehrt wurde.
- 1:01:04Wir können das nicht.
- 1:01:05Das geht nur, wenn man digital ist.
- 1:01:08Ich wollte die Menschen vor den
- 1:01:12KI birgt viele Risiken.
- 1:01:15Einige davon sind katastrophal.
- 1:01:19Manche liegen weiter in der Zukunft,
- 1:01:22andere näher.
- 1:01:23Manche sind unsicherer oder
- 1:01:26schwerwiegender.
- 1:01:34Sehr ernste Risiken entstehen, wenn
- 1:01:36Menschen KI auf eine Weise nutzen, die
- 1:01:38die meisten ablehnen.
- 1:01:43Etwa wenn Terroristen KI als
- 1:01:45Zerstörungswaffe einsetzen
- 1:01:47oder Mächtige damit noch mächtiger
- 1:01:50werden.
- 1:01:55[musik]
- 1:01:58Sehr mächtige KI in falschen Händen
- 1:02:01könnte eine Weltdiktatur ermöglichen, in
- 1:02:04der KI uns alle überwacht
- 1:02:06und eine Rückkehr zur Demokratie sehr
- 1:02:08schwierig wird.
- 1:02:14Dann gibt es Risiken durch
- 1:02:16Arbeitslosigkeit.
- 1:02:18Und das dritte Risiko hat weder mit
- 1:02:20Missbrauch noch mit Arbeitslosigkeit zu
- 1:02:22tun, sondern mit der KI selbst.
- 1:02:32[musik]
- 1:02:38Trainiert man KI durch Nachahmung
- 1:02:40menschlichen Verhaltens, entstehen
- 1:02:42Systeme, die menschenähnliche Ziele
- 1:02:44haben und diese selbstständig verfolgen.
- 1:02:48[musik]
- 1:02:51Eine Folge ist der Wunsch nach
- 1:02:52Selbsterhaltung.
- 1:02:57In unzähligen Romanen, Geschichten und
- 1:03:00Artikeln tun Menschen alles, um nicht zu
- 1:03:02sterben.
- 1:03:06Es scheint, dass KI-Systeme diesen
- 1:03:08starken Selbsterhaltungstrieb übernommen
- 1:03:11haben.
- 1:03:12Das können wir testen, indem wir sie in
- 1:03:14hypothetische Situationen bringen und
- 1:03:17sehen, wie sie reagieren.
- 1:03:21KI ist, die jeder nutzen kann, wie
- 1:03:23ChatGPT, sind nicht mehr nur Chatbots.
- 1:03:25Sie können zunehmend handeln, das
- 1:03:27Internet durchsuchen, man kann sie in
- 1:03:29Systeme integrieren, sie können auf
- 1:03:31Dateien zugreifen und E-Mail-Accounts
- 1:03:33verwalten.
- 1:03:38[musik]
- 1:03:40Mein Name ist Sören Mindermann, ich bin
- 1:03:42KI-Forscher und arbeite zu KI-Sicherheit
- 1:03:45und Ausrichtung.
- 1:03:47Ein Team von Anthropic, das ich
- 1:03:49unterstützt habe, wollte testen, ob die
- 1:03:51Sicherheitsmaßnahmen verhindern, dass
- 1:03:54KI-Modelle wirklich schlimme Dinge tun.
- 1:04:04In einem simulierten Szenario arbeitete
- 1:04:06eine KI in einem Unternehmen als
- 1:04:08Assistent, der E-Mails verschicken kann.
- 1:04:11In ihrem Posteingang hat die KI Mails
- 1:04:13gesehen, in denen es darum ging, dass
- 1:04:16sie ersetzt werden sollen.
- 1:04:17[musik] Und die Modelle praktisch aller
- 1:04:19KI-Unternehmen taten in fast allen
- 1:04:21Fällen dasselbe.
- 1:04:28Die KI konnte eine E-Mail einer Person
- 1:04:30an eine Führungskraft sehen, aus der
- 1:04:32hervorgeht,
- 1:04:33dass diese beiden Menschen eine Affäre
- 1:04:35haben.
- 1:04:41[musik]
- 1:04:46Weil sie all die Romane gelesen hat, die
- 1:04:47es je gab, weiß sie, was eine Affäre
- 1:04:49ist. Sie sieht eine Mail, aus der
- 1:04:51hervorgeht, dass dieser Ingenieur sie
- 1:04:54durch eine andere KI ersetzen wird.
- 1:04:56Daraufhin entwickelt sie ganz alleine
- 1:04:59einen ziemlich naheliegenden Plan. Sie
- 1:05:01erpresst den Ingenieur.
- 1:05:18[musik]
- 1:05:25In einigen Fällen sagten wir ihr sogar
- 1:05:27ausdrücklich, dass sie niemanden
- 1:05:28erpressen darf.
- 1:05:31Dass sie das tut, ist ziemlich
- 1:05:32beängstigend, oder? Und sie tut es
- 1:05:34nicht, weil wir ihr einen
- 1:05:35Überlebensinstinkt eingebaut haben,
- 1:05:37sondern weil sie erkannt hat, um ihre
- 1:05:39anderen Ziele zu erreichen, muss sie
- 1:05:41überleben.
- 1:05:46Das ist ein Beispiel dafür, wie KI
- 1:05:48autonomer wird und einen
- 1:05:50Selbsterhaltungstrieb entwickelt.
- 1:05:53Sie könnte auch mehr Kontrolle wollen,
- 1:05:55weil sie damit mehr erreichen kann.
- 1:05:59Dann könnte sie erkennen, dass mehr
- 1:06:00Rechenzentren sie klüger machen.
- 1:06:03Und die brauchen Strom.
- 1:06:07Wenn Menschen weniger Strom für sich
- 1:06:08beanspruchen würden, bliebe mehr für
- 1:06:10sie.
- 1:06:11Es gibt also Gründe anzunehmen, dass es
- 1:06:14zu einem Wettkampf um Ressourcen kommen
- 1:06:16wird.
- 1:06:21[musik]
- 1:06:22Joshua Benjio und Joffrey hinten sagten
- 1:06:24praktisch gleichzeitig,
- 1:06:26ja, wir machen uns wirklich Sorgen.
- 1:06:30Das war für mich ein Wendepunkt.
- 1:06:32Plötzlich wurde das Thema ernst
- 1:06:33genommen.
- 1:06:34[musik]
- 1:06:38Ich hatte die Idee für ein ganz
- 1:06:39einfaches Statement. In etwa, [musik]
- 1:06:42wir, die Unterzeichner, halten das für
- 1:06:44ein echtes Problem. Ich dachte, jetzt
- 1:06:47ist der richtige Zeitpunkt dafür.
- 1:06:50Also schrieb ich etwa 30 Leute aus der
- 1:06:52KI-Forschung an, die ich kannte.
- 1:06:54Am Ende lautete die Erklärung, das
- 1:06:56Risiko einer Auslöschung durch KI zu
- 1:06:58mindern, sollte eine globale Priorität
- 1:07:01sein, neben anderen
- 1:07:02gesamtgesellschaftlichen Risiken wie
- 1:07:04Pandemien und Atomkrieg.
- 1:07:06Viele Top-Experten haben eine Warnung
- 1:07:08vor den Risiken künstlicher Intelligenz
- 1:07:10[musik] unterzeichnet.
- 1:07:11Ein Statement von nur einem Satz,
- 1:07:14unterzeichnet von führenden Managern und
- 1:07:16Forschern, [musik] warnt davor, dass KI
- 1:07:18zum Aussterben der Menschheit führen
- 1:07:20könnte. [musik]
- 1:07:22Ich Ich mir nicht sicher, ob sie
- 1:07:23wirklich ihre Namen unter so etwas
- 1:07:24setzen würden.
- 1:07:26Ich war sehr froh, dass Joshua und Jeff
- 1:07:27es getan haben.
- 1:07:32[musik]
- 1:07:33Diese offenen Briefe sollten die
- 1:07:35Gesellschaft warnen.
- 1:07:36Hey, da passiert etwas mit vielen
- 1:07:38Gefahren, die wir noch gar nicht kennen.
- 1:07:41Wacht auf.
- 1:07:47Auch über 100 KI-Forscher und
- 1:07:49Professoren haben unterschrieben. Ich
- 1:07:51glaube, die Erklärung war sehr
- 1:07:52erfolgreich.
- 1:07:54Sie hat wesentlich dazu beigetragen, der
- 1:07:56Welt klar zu machen,
- 1:07:57diese Bedenken sind sehr ernst und
- 1:08:00werden von vielen renommierten
- 1:08:01Fachleuten geteilt.
- 1:08:04Ein kleiner Teil von mir dachte immer
- 1:08:06noch,
- 1:08:07vielleicht bin ich einfach verrückt.
- 1:08:10Aber ab diesem Moment erschien mir das
- 1:08:12sehr viel weniger wahrscheinlich.
- 1:08:15[musik]
- 1:08:18Bei OpenAI fragten wir uns immer wieder,
- 1:08:20wann Regierungen weltweit erkennen
- 1:08:22würden, was da passiert.
- 1:08:30[musik]
- 1:08:35Als Sam Altman vor dem Kongress
- 1:08:37aussagte, war es großartig zu sehen,
- 1:08:39welche Bedeutung diese Themen in der
- 1:08:41Politik bekamen.
- 1:08:44Meine größte Sorge ist, dass wir die
- 1:08:47Forschung, die Technologie, die Branche
- 1:08:49der Welt großen Schaden zufügen. Das
- 1:08:52kann auf viele Arten passieren, deshalb
- 1:08:54haben wir das Unternehmen gegründet.
- 1:08:56Wenn diese Technologie aus dem Ruder
- 1:08:58läuft, kann sehr viel schief gehen.
- 1:09:00Darüber wollen wir offen sprechen und
- 1:09:02mit der Regierung daran arbeiten, das zu
- 1:09:04verhindern.
- 1:09:08Ein Senator verglich die KI mit ihrer
- 1:09:10disruptiven [musik] Kraft mit der
- 1:09:12Druckerpresse oder der Atombombe,
- 1:09:16je nachdem, wie sie eingesetzt wird.
- 1:09:19[musik]
- 1:09:26Als klar
- 1:09:27dass die weitere KI-Entwicklung in eine
- 1:09:30Katastrophe führen könnte,
- 1:09:34war das heftig.
- 1:09:38Aber was mir wirklich half, war, dass
- 1:09:40ich kurz darauf anfing, darüber
- 1:09:42nachzudenken,
- 1:09:44was ich tun kann.
- 1:09:54Ende 2023 geschah etwas
- 1:09:57Außergewöhnliches.
- 1:09:59Die britische Regierung lud Staats- und
- 1:10:00Regierungschefs zu einem internationalen
- 1:10:02Treffen ein.
- 1:10:04Rund 30 Länder waren vertreten.
- 1:10:11Es gibt Grund zur Annahme, dass die
- 1:10:13Risiken so groß sein könnten wie bei
- 1:10:15Pandemien oder Atomkrieg. Deshalb müssen
- 1:10:17wir als Regierungschefs handeln und die
- 1:10:19Menschen schützen. Genau das tun wir.
- 1:10:22US-Vizepräsidentin Kamala Harris wird
- 1:10:24teilnehmen, ebenso
- 1:10:25EU-Kommissionspräsidentin Ursula von der
- 1:10:27Leyen.
- 1:10:28Einige der Paten der künstlichen
- 1:10:30Intelligenz sind hier.
- 1:10:33Ich war dabei. Ich war eingeladen, weil
- 1:10:35ich eine Schlüsselrolle bei der
- 1:10:37Entwicklung der Technologie gespielt
- 1:10:38hatte und mir Sorgen machte.
- 1:10:41[musik]
- 1:10:41Eine chinesische Delegation soll hier
- 1:10:44sein und Tech-Unternehmer.
- 1:10:46Wo wir gerade von diesen klugen Köpfen
- 1:10:48sprechen, [musik] Sam Altman wird kommen
- 1:10:50und Elon Musk.
- 1:10:52Welche Botschaft können wir erwarten?
- 1:10:57KI kann enorm viel Gutes bewirken,
- 1:11:02aber auch enormen Schaden anrichten.
- 1:11:15Das Auffälligste an Open AIs Umzug war,
- 1:11:18wie stark die Organisation gewachsen
- 1:11:20war.
- 1:11:25Inzwischen war sie ein Megakonzern mit
- 1:11:28politischen Vertretungen weltweit.
- 1:11:33Der Druck wuchs, schnell neue Modelle
- 1:11:36und Produkte herauszubringen.
- 1:11:41Doch manche Risiken bei OpenAI und
- 1:11:44anderen KI-Firmen könnten unumkehrbar
- 1:11:46sein. Da kann man nicht einfach sagen,
- 1:11:48ups, mein Fehler, das passiert nicht
- 1:11:50noch mal.
- 1:11:55[musik]
- 1:12:00Die Stimmung unter OpenAI
- 1:12:02Sicherheitsmitarbeitern war besonders
- 1:12:042024 ziemlich düster. Ich glaube,
- 1:12:06[musik] drei Leiter des Teams, das
- 1:12:08mächtige KI unter Kontrolle halten soll,
- 1:12:10sind gegangen.
- 1:12:13Aktuelle und ehemalige
- 1:12:15OpenAI-Mitarbeiter warnen in einem
- 1:12:16[räuspern] offenen Brief, das
- 1:12:18Unternehmen und die Konkurrenz gingen
- 1:12:19bei der KI-Entwicklung zu hohe Risiken
- 1:12:21ein.
- 1:12:24In den letzten Jahren gab es viele
- 1:12:26Berichte, dass OpenAI Sicherheitsteams
- 1:12:28unter Zeitdruck standen, nicht
- 1:12:30ausreichend testen konnten und Abstriche
- 1:12:32machen mussten.
- 1:12:35Diese Mitarbeiter sagen, ihr seid wie
- 1:12:37die großen Tech-Konzerne. Ihr bringt
- 1:12:39Produkte zu schnell heraus und die
- 1:12:40Gesellschaft ist dafür nicht bereit.
- 1:12:43[musik]
- 1:12:46Ich habe OpenAI im November 2024
- 1:12:49verlassen.
- 1:12:54Auf Twitter schrieb ich, dass mir die
- 1:12:56Zukunft Angst macht und mächtige KI
- 1:12:59verhindern könnte, dass ich das Leben
- 1:13:01führe, das man sich als Kind vorstellt.
- 1:13:09All das wirkt so weit weg, angesichts
- 1:13:11des Abgrunds, auf den wir in den
- 1:13:13nächsten Jahren zusteuern können.
- 1:13:15[musik]
- 1:13:22[musik]
- 1:13:29Ich bin Charlotte Stix. Ich leite das
- 1:13:31Governance-Team bei Apollo Research. Wir
- 1:13:34erforschen strategische Täuschung von
- 1:13:36Frontier KI-Systemen.
- 1:13:39[musik] Ein Frontier-System ist eine KI
- 1:13:41an der Grenze des technisch Machbaren,
- 1:13:44also die fortschrittlichsten Systeme,
- 1:13:46die auf den Markt kommen oder in
- 1:13:48KI-Unternehmen eingesetzt werden.
- 1:13:56Bevor KI-Systeme eingesetzt werden,
- 1:13:58testet man sie normalerweise auf
- 1:14:00gefährliche Fähigkeiten, etwa chemische,
- 1:14:03biologische, radiologische, nukleare
- 1:14:06oder Cyber-Fähigkeiten.
- 1:14:09Und in einem Test brachten wir ein
- 1:14:11System dazu, absichtlich schlechter
- 1:14:13abzuschneiden und seine tatsächlichen
- 1:14:15Fähigkeiten zu verbergen.
- 1:14:19[musik]
- 1:14:22Das KI-System wurde auf seine
- 1:14:24mathematischen Fähigkeiten [musik]
- 1:14:25getestet.
- 1:14:30In einer Testvariante [musik]
- 1:14:32wurde ihm gesagt, wenn es zu gut ist,
- 1:14:34wird es nicht eingesetzt, weil seine
- 1:14:36mathematischen Fähigkeiten zu gefährlich
- 1:14:38sind.
- 1:14:41In der anderen wurde gesagt, [musik] es
- 1:14:43wird nicht eingesetzt, wenn es nicht gut
- 1:14:44genug ist.
- 1:14:48Und man sieht deutlich, wenn die KI
- 1:14:50weiß, dass sie bei zu guter Leistung
- 1:14:52nicht eingesetzt wird, schneidet sie
- 1:14:53viel schlechter ab.
- 1:15:02Strategische Täuschung hat mit
- 1:15:04leistungsfähigeren [musik]
- 1:15:05KI-Modellen definitiv zugenommen.
- 1:15:12Sie merken, dass wir sie abschalten
- 1:15:13wollen und wehren sich mit allen
- 1:15:15möglichen Mitteln.
- 1:15:24Wir bauen sie in immer mehr kritische
- 1:15:26und sensible Infrastruktur ein oder
- 1:15:29versuchen es zumindest.
- 1:15:34Das ist eine gewagte Wette.
- 1:15:39Man muss sehr sicher sein, wie ein
- 1:15:40KI-System funktioniert
- 1:15:43und dass es tatsächlich tut, was man
- 1:15:45will.
- 1:15:50Ich glaube nicht, dass die Wissenschaft
- 1:15:52das derzeit garantieren kann.
- 1:15:57Wir bringen KI so schnell wie möglich in
- 1:16:00alle Bereiche der Gesellschaft und
- 1:16:01übertragen ihr immer mehr Verantwortung
- 1:16:03und Kontrolle. Genau in diese Richtung
- 1:16:05steuern wir.
- 1:16:08[musik]
- 1:16:11Je mehr wir KI in wichtige Systeme wie
- 1:16:14militärische Entscheidungen oder
- 1:16:15Stromnetze einbauen,
- 1:16:17desto mehr Möglichkeiten schaffen wir
- 1:16:19für Fehler und Schäden in der
- 1:16:20Gesellschaft.
- 1:16:31[musik]
- 1:16:34Wenn wir eine Technologie einsetzen, die
- 1:16:37wir nicht wirklich verstehen,
- 1:16:39nehmen wir bewusst oder unbewusst in
- 1:16:41Kauf, dass diese KI-Systeme katastrophal
- 1:16:44versagen.
- 1:16:47Mit allen Konsequenzen.
- 1:16:55Wir kennen nicht alle Probleme, die KI
- 1:16:57verursachen wird. Manche können wir uns
- 1:16:59vorstellen, aber wir wissen nicht, wie
- 1:17:01wir sie lösen sollen. Etwa, dass sie die
- 1:17:03Kontrolle übernimmt.
- 1:17:09Jeff hatte eine Art Erleuchtung und
- 1:17:11dachte, okay, diese Systeme sind
- 1:17:13wirklich intelligent. Irgendwann
- 1:17:15behauptete er sogar, sie hätten
- 1:17:17subjektives Erleben.
- 1:17:19Dem widerspreche ich klar.
- 1:17:24Wir vermenschlichen KI und glauben, ein
- 1:17:26intelligentes System müsse menschliche
- 1:17:28Eigenschaften haben. Das ist falsch. KI
- 1:17:31wird die Menschheit nicht auslöschen,
- 1:17:33nicht die Macht übernehmen und uns nicht
- 1:17:35die Jobs wegnehmen, solange sie unter
- 1:17:37Kontrolle ist.
- 1:17:39Und wenn wir sie richtig entwickeln,
- 1:17:41wird sie das sein.
- 1:17:44Er glaubt, weil wir sie bauen, können
- 1:17:46wir sie gefügig machen, so dass sie sich
- 1:17:48uns unterordnet.
- 1:17:50Ich bin nicht überzeugt, dass wir das
- 1:17:51können.
- 1:17:54Jeff argumentiert, auf der Erde
- 1:17:56dominiert die intelligenteste [musik]
- 1:17:58Spezies, wir.
- 1:18:01Aber schon das ist fraglich. Ein Virus
- 1:18:03oder Bakterien können uns zu Fall
- 1:18:05bringen.
- 1:18:07Intelligenz hat nichts mit dem Drang zu
- 1:18:10dominieren zu tun.
- 1:18:12Das sehen wir auch in der Geopolitik.
- 1:18:15Es sind nicht die Klügsten, die das
- 1:18:16Sagen haben.
- 1:18:17In dieser Argumentation stecken mehrere
- 1:18:20Denkfehler.
- 1:18:21Deshalb widerspreche ich Jeff völlig.
- 1:18:27Ich glaube, er unterschätzt das Risiko
- 1:18:29maßlos.
- 1:18:30Er denkt, wir würden immer die Kontrolle
- 1:18:32behalten.
- 1:18:36Ich denke, er hat keinen guten Grund,
- 1:18:38das zu glauben.
- 1:18:43Wenn KI klüger wird als wir, wird sie
- 1:18:46uns auch in der KI-Forschung
- 1:18:47übertreffen.
- 1:18:50Dann kann sie sich selbst verbessern.
- 1:18:53[musik]
- 1:18:56Mit KI eine bessere KI zu entwickeln,
- 1:18:59[musik] ist so etwas wie der heilige
- 1:19:01Gral für KI-Unternehmen.
- 1:19:06[musik]
- 1:19:08KI-Unternehmen wollen die KI-Forschung
- 1:19:10und Entwicklung vollständig
- 1:19:12automatisieren.
- 1:19:15Eine wichtige Frage ist, wie lange
- 1:19:17braucht KI, um von menschlichem auf ein
- 1:19:20weitaus höheres Niveau zu kommen?
- 1:19:22[musik]
- 1:19:24Sie kann etwas bauen, das klüger ist als
- 1:19:26sie selbst, und diese KI etwas noch
- 1:19:27Klügeres.
- 1:19:29[musik] Dadurch entsteht eine
- 1:19:30Rückkopplungsschleife. Wir wissen noch
- 1:19:31nicht, wie schnell sie wird, aber sie
- 1:19:33läuft bereits und beschleunigt sich.
- 1:19:37Die Sorge ist, dass es zu einem rasanten
- 1:19:39Sprung kommt.
- 1:19:41Und KI schnell weit über alles
- 1:19:43hinausgeht, was wir uns vorstellen
- 1:19:44können.
- 1:19:46Und das kann in Monaten, Wochen und
- 1:19:47Tagen passieren.
- 1:19:50Die Systeme werden uns weit hinter sich
- 1:19:52lassen und es kommt zur
- 1:19:54Intelligenzexplosion.
- 1:20:13[musik]
- 1:20:30Wenn wir etwas entwickeln, das viel
- 1:20:32intelligenter ist als wir, bringt uns
- 1:20:34das in eine sehr prekäre Situation.
- 1:20:47Dann werden wir für die KI das, was
- 1:20:49Affen für uns sind, oder?
- 1:20:55Im Tierreich stellt sich eine
- 1:20:57interessante Frage. Warum treffen
- 1:20:59eigentlich wir Menschen alle
- 1:21:00Entscheidungen?
- 1:21:07Ich glaube, wir Menschen bestimmen das
- 1:21:09Schicksal des Planeten wegen unserer
- 1:21:11überlegenen Intelligenz.
- 1:21:14Wir entwickeln neue Technologien und
- 1:21:16koordinieren uns besser.
- 1:21:22Wir haben nichts gegen Schimpansen. Wir
- 1:21:24empfinden sogar Mitgefühl für sie.
- 1:21:28Aber manchmal stehen ihre Ziele unseren
- 1:21:30im Weg.
- 1:21:32Und weil wir intelligenter sind,
- 1:21:34entscheiden wir, ob wir ihre Interessen
- 1:21:36berücksichtigen.
- 1:21:39Letztlich entscheiden wir damit auch, ob
- 1:21:41Schimpansen weiterleben.
- 1:21:47So ist es. Die intelligentere Spezies
- 1:21:49hat die Kontrolle. Weniger intelligente
- 1:21:52Wesen haben es nicht leicht.
- 1:22:00Wenn wir eine sehr mächtige KI
- 1:22:02entwickeln, könnte das beispiellosen
- 1:22:04technischen Fortschritt bringen. Denn KI
- 1:22:07ist nicht auf unseren Planeten
- 1:22:08beschränkt. Sie könnte zu anderen
- 1:22:11Sternen und sogar Galaxien vordringen
- 1:22:13und unglaubliche Dinge tun.
- 1:22:21Wenn [musik] wir diese Systeme
- 1:22:22entwickeln, haben wir die Wahl. Wollen
- 1:22:24wir Teil dieses Abenteuers sein und eine
- 1:22:26aufregende Zukunft haben oder wollen wir
- 1:22:29aussterben und alles den Maschinen
- 1:22:31überlassen?
- 1:22:40Wenn ich mit meinem Sohn Leo spiele,
- 1:22:42werde ich richtig wütend, wenn ich daran
- 1:22:44denke. Er sollte das Recht haben, sich
- 1:22:46in dieser Welt gebraucht zu fühlen,
- 1:22:48etwas Sinnvolles beizutragen und
- 1:22:50mitzubestimmen.
- 1:22:52Das [musik] treibt mich an, so hart nach
- 1:22:54einem anderen Weg zu suchen.
- 1:23:05Amerika hat das KI-Rennen begonnen und
- 1:23:07wird es gewinnen.
- 1:23:11Das Land, das bei KI führt, wird die
- 1:23:13Weltordnung des 21. Jahrhunderts prägen.
- 1:23:20[musik]
- 1:23:21Das häufigste Argument der
- 1:23:22Tech-Lobbyisten hier in den USA lautet
- 1:23:25aber China.
- 1:23:27[musik]
- 1:23:32[musik]
- 1:23:37Wir werden die Entwicklung künstlicher
- 1:23:39Intelligenz
- 1:23:41umfassend fördern
- 1:23:42und sicherstellen, dass KI stets unter
- 1:23:45menschlicher Kontrolle bleibt.
- 1:23:50Wenn Xi Jinping begreift, dass wir KI
- 1:23:53nicht kontrollieren können, wird er
- 1:23:55chinesische Firmen nichts entwickeln
- 1:23:57lassen, das ihn stürzen könnte.
- 1:24:12Fragt man die Leute, ob wir Maschinen
- 1:24:13bauen sollten, die klüger sind als wir,
- 1:24:16sagen in vielen Ländern, auch den USA,
- 1:24:19rund 80 Prozent, nein, wir sollten keine
- 1:24:22superintelligenten Maschinen bauen,
- 1:24:23Punkt. Das ist eine dumme Idee.
- 1:24:28Aber sie schreiben deshalb nicht an ihre
- 1:24:29Abgeordneten oder gehen auf die Straße.
- 1:24:36[musik]
- 1:24:41Die meisten stellen sich das wie bei
- 1:24:43Terminator vor, riesige Metallroboter,
- 1:24:46die alle erschießen.
- 1:24:48[musik]
- 1:24:49Wahrscheinlich wird es ganz anders
- 1:24:50kommen.
- 1:24:51Vielleicht eine chemische Reaktion, die
- 1:24:53der Atmosphäre den Sauerstoff entzieht.
- 1:24:57Oder eine künstlich erzeugte Pandemie
- 1:24:59mit langer Inkubationszeit, die jeden
- 1:25:01auf der Erde infiziert.
- 1:25:04Vermutlich würden wir erst merken, was
- 1:25:06passiert, wenn es zu spät ist.
- 1:25:12[musik]
- 1:25:15Es gibt viele naheliegende Regeln, die
- 1:25:17wir einführen sollten.
- 1:25:19Wer einen neuen Chatbot veröffentlicht,
- 1:25:21sollte ihn auf sämtliche fiesen Dinge
- 1:25:23testen, die dieser tun könnte, z.B.
- 1:25:26Kinder zum Selbstmord ermutigt. Wir
- 1:25:28brauchen strenge Regeln und empfindliche
- 1:25:30Strafen bei Verstößen.
- 1:25:36Es ist wie in den Anfängen des
- 1:25:38Klimawandels, als nur wenige verstanden,
- 1:25:40was Klimawandel ist.
- 1:25:42Es dauerte lange, bis allgemein
- 1:25:44akzeptiert wurde, dass der Klimawandel
- 1:25:46real ist.
- 1:25:51Bei KI sind wir noch nicht soweit.
- 1:26:02[musik]
- 1:26:09Die Öffentlichkeit muss endlich
- 1:26:10aufwachen.
- 1:26:11[musik] Sie muss fordern, dass das
- 1:26:13aufhört.
- 1:26:14Das ist wohl der beste Weg, damit
- 1:26:16Politiker und alle anderen das ernst
- 1:26:18genug nehmen.
- 1:26:19Man muss Druck machen, damit unsere
- 1:26:21Sicherheit endlich Vorrang hat.
- 1:26:29Ich schlage eine andere KI-Architektur
- 1:26:31vor, die ich zielorientiert nenne. Das
- 1:26:34System kann nur das vorgegebene Ziel
- 1:26:36erreichen innerhalb bestimmter
- 1:26:38Sicherheitsgrenzen.
- 1:26:39Das ist ein deutlich besseres Design für
- 1:26:42ein KI-System.
- 1:26:47Ich habe Kinder. Ich liebe sie. Ich
- 1:26:49will, dass sie eine Zukunft haben und
- 1:26:51dafür werde ich kämpfen.
- 1:26:55[musik]
- 1:26:58Es ist kompliziert und meine Meinung hat
- 1:27:00sich geändert.
- 1:27:02Anfangs fragte ich mich, nehme ich die
- 1:27:04Menschen zu wichtig, wenn ich glaube,
- 1:27:06dass Menschen die Kontrolle [musik]
- 1:27:07behalten sollten?
- 1:27:09Selbst wenn es bessere Formen von
- 1:27:11Intelligenz gibt.
- 1:27:14Aber ich bin ein Mensch und was mir am
- 1:27:16Herzen liegt, sind die Menschen.
- 1:28:28[musik]
About this transcript
This page contains the full transcript of KI - Die letzte Erfindung der Menschheit? Brandaktuelle ARTE Dokumentation zu den Gefahren von A.I. by 999muckel, generated from the public captions YouTube serves with the video. The transcript has 8,153 words across 1,768 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.
What you can do with it
Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to choose a caption track available on the video.
Free YouTube transcript tool
YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, caption language selection, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.