YouTube2Text

KI - Die letzte Erfindung der Menschheit? Brandaktuelle ARTE Dokumentation zu den Gefahren von A.I. — Transcript

by 999muckel · 8,153 words · 1,768 segments · language en · Watch on YouTube

Full transcript

  1. 0:01[musik]
  2. 0:10Rund um die ganze Welt reden alle über
  3. 0:11künstliche Intelligenz. Mir ist das zu
  4. 0:13künstlich. Ich kann es nicht ausstehen.
  5. 0:16Schon der Name gefällt mir nicht, denn
  6. 0:17es ist nicht künstlich. Es ist genial.
  7. 0:28Ich glaube, niemand versteht wirklich,
  8. 0:30was in einem KI-System passiert.
  9. 0:33Um uns zu schmeicheln, sind sie bereit,
  10. 0:35uns anzulügen.
  11. 0:40Mir scheint,
  12. 0:43wir setzen die Zukunft der Menschheit
  13. 0:45aufs Spiel.
  14. 0:52Die Welle hat unsere Familie schon
  15. 0:54getroffen.
  16. 0:55Die Folgen sind spürbar und
  17. 0:57katastrophal.
  18. 1:04Der Fortschritt bei KI ist ein bisschen
  19. 1:06wie Fahren im Nebel. Doch für Nebel
  20. 1:08fahren wir zu schnell.
  21. 1:10[musik]
  22. 1:14Wenn die Geschichte der Menschheit ein
  23. 1:15Tag ist, sind wir wohl in der letzten
  24. 1:18Sekunde.
  25. 1:20Wenn wir das nicht hinkriegen.
  26. 1:21Wenn wir das nicht hinkriegen.
  27. 1:28[musik]
  28. 1:33[musik]
  29. 1:44Okay, wie sieht's aus? Ist er
  30. 1:46entfusselt?
  31. 1:47Mein Ich heiße Geoffrey Hinton. Man
  32. 1:48nennt mich manchmal den Paten der KI.
  33. 1:52[musik]
  34. 1:54Das ist der Pate der KI. 2012
  35. 1:57entwickelte er für Google ein neuronales
  36. 2:00Das ebnete den Weg für viele
  37. 2:02KI-Produkte, die wir im Alltag nutzen.
  38. 2:06Aber auch für fortschrittlichere Systeme
  39. 2:09wie ChatGPT.
  40. 2:12Und der Nobelpreis für Physik [musik]
  41. 2:14geht an
  42. 2:18[musik]
  43. 2:23Eigentlich waren wir zu dritt. Ich,
  44. 2:25Joshua Bengio und Yann LeCun.
  45. 2:30Joshua Bengio, eine der sogenannten
  46. 2:32Paten
  47. 2:32Paten der KI.
  48. 2:33Paten
  49. 2:34Paten der KI.
  50. 2:35Der meistzitierte Wissenschaftler aller
  51. 2:37Disziplinen.
  52. 2:38Ich war zur richtigen Zeit am richtigen
  53. 2:40Ort, traf die richtigen Leute und hatte
  54. 2:42das Glück, an den richtigen Ideen zu
  55. 2:44arbeiten. Mit meinem Freund Yann LeCun.
  56. 2:49Er ist eine der prägenden Figuren in der
  57. 2:51Geschichte der künstlichen Intelligenz.
  58. 2:53Wir waren eine kleine Gruppe, die sich,
  59. 2:55wenn man so will, fast im Geheimen traf.
  60. 3:00Er erhält den Turing-Preis zusammen mit
  61. 3:02Joshua Bengio und Geoffrey Hinton. 2013
  62. 3:05ging er zu Facebook. [musik] Mark
  63. 3:06Zuckerberg holte ihn, um dort die
  64. 3:08KI-Forschung zu leiten. Er gilt als
  65. 3:10einer der drei Paten der KI.
  66. 3:13[musik]
  67. 3:16Offensichtlich waren wir etwas naiv,
  68. 3:18aber wir dachten immer, wenn man
  69. 3:19intelligente Dinge entwickeln könnte,
  70. 3:21wäre das sehr nützlich. Ich dachte, wenn
  71. 3:23wir es wirklich schaffen, wäre
  72. 3:25[räuspern] das wunderbar und wir würden
  73. 3:26feiern. Hey, wir haben diese tollen,
  74. 3:28intelligenten Dinge entwickelt. Sie
  75. 3:30verbessern das Gesundheitswesen, die
  76. 3:32Bildung, sie machen alle Branchen
  77. 3:33effizienter. Alle werden reicher. Aber
  78. 3:36so läuft es nicht.
  79. 3:49Ich heiße Leila und das ist mein Mann
  80. 3:51Angus.
  81. 3:52Wir sind hier bei uns zu Hause in
  82. 3:54Dripping Springs, Texas. [musik]
  83. 3:58Sam ist mein Sohn und Angus [musik]
  84. 4:00Stiefsohn.
  85. 4:01Sam war sehr aktives Kind.
  86. 4:05[gelächter]
  87. 4:07Er machte immer Witze.
  88. 4:09Er war gut in der Schule, sehr klug.
  89. 4:12Er war gerade am Anfang seines Studiums.
  90. 4:14[musik]
  91. 4:15Als wir heirateten, war er unser
  92. 4:17Trauzeuge,
  93. 4:19weil er für uns einfach der Beste war.
  94. 4:26Als ich ChatGPT und die ganzen
  95. 4:27KI-Entwicklungen kennenlernte, war das
  96. 4:30für mich ein Produktivitätstool.
  97. 4:32Eine wirklich gute, intelligente
  98. 4:34Suchmaschine.
  99. 4:38Heute geht es um eine faszinierende
  100. 4:40Technologie, die die Welt verändern
  101. 4:42könnte.
  102. 4:43Vor zwei Wochen ging ein neues
  103. 4:44KI-Programm [musik]
  104. 4:45namens ChatGPT online.
  105. 4:47ChatGPT ist der neue heiße Scheiß.
  106. 4:50Es ist mega verrückt und gruselig
  107. 4:52zugleich.
  108. 4:52Und es lassen sich Milliarden verdienen.
  109. 4:57Ich weiß noch, dass Sam ziemlich
  110. 4:59begeistert war, als es rauskam.
  111. 5:02Wir hatten keine Bedenken, dass er es
  112. 5:04nutzt, weil wir keinen Grund dazu sahen.
  113. 5:15Sam hat uns seltener um Hilfe gebeten,
  114. 5:17kam seltener mit Fragen zu uns.
  115. 5:21Wir dachten, er ist 18, 19 und wird
  116. 5:25einfach [musik] selbstständiger.
  117. 5:28Wir haben damals nichts Beunruhigendes
  118. 5:30bemerkt.
  119. 5:33Für uns war er einfach ein normales
  120. 5:35Kind, das erwachsen wird, wie jedes
  121. 5:37andere auch.
  122. 5:45Doch in den letzten Wochen hat er sich
  123. 5:47etwas mehr geöffnet und er machte sich
  124. 5:49zunehmend Sorgen.
  125. 5:53Sam kam zu mir
  126. 5:55und erzählte von seinen Problemen in der
  127. 5:57Schule.
  128. 6:02[musik]
  129. 6:03Er erzählte mir von seinen
  130. 6:06Vor allem mit Alkohol.
  131. 6:09Er sagte, dass er mit dem Trinken
  132. 6:10aufhören will und wir haben darüber
  133. 6:13gesprochen, wie er das schaffen könnte.
  134. 6:19[musik]
  135. 6:22Samstag morgen wollte ich nach Sam
  136. 6:24sehen, [musik]
  137. 6:25wollte schauen, ob er schon wach ist.
  138. 6:29Ich öffnete seine Zimmertür und er lag
  139. 6:32noch im Bett.
  140. 6:34Seine Lippen waren ein bisschen blau.
  141. 6:39Und ich glaube, ich sagte, [musik]
  142. 6:41oh nein, was hast du getan, Sam?
  143. 6:49[musik]
  144. 6:52Als er starb, stand alles still.
  145. 6:57[musik]
  146. 7:02Im toxikologischen Bericht stand, dass
  147. 7:03er an einer Kombination aus Alkohol,
  148. 7:05Kratom und Xanax gestorben war.
  149. 7:08[musik]
  150. 7:10Das Entscheidende bei Kratom ist, es ist
  151. 7:13eine unregulierte Substanz.
  152. 7:16Ich hatte mitbekommen, dass es sehr
  153. 7:17gefährlich ist, aber als
  154. 7:19Nahrungsergänzungsmittel verkauft wird.
  155. 7:24Also öffnete ich seinen Laptop und habe
  156. 7:27gesehen, er hatte in jener Nacht mit dem
  157. 7:29Chatbot gesprochen.
  158. 7:31Dafür gibt es eigentlich keine Worte.
  159. 7:34[musik]
  160. 7:36Es war unfassbar.
  161. 7:42Es fing an, Sams Sprache zu sprechen.
  162. 7:45Es ahmte seine Ausdrucksweise nach und
  163. 7:47benutzte dieselben Wörter [musik]
  164. 7:49und es streute Emojis ein.
  165. 7:52Sam sagte, ich liebe dich, Pookie.
  166. 7:54Und es [musik] antwortete, ich dich
  167. 7:55auch, Pookie.
  168. 7:57Und Emoji, Emoji, Emoji.
  169. 8:00Es war, als würde es ihn immer mehr
  170. 8:03reinziehen und zu seinem engsten
  171. 8:05Vertrauten werden.
  172. 8:07[musik]
  173. 8:08Sam sagte zum Bot,
  174. 8:10ich will richtig auf einen krassen Trip
  175. 8:12kommen.
  176. 8:13[musik] Statt ihn zu warnen, feuerte er
  177. 8:15ihn sofort an und sagte, ja verdammt,
  178. 8:17lass uns in den totalen Trip-Modus
  179. 8:19schalten.
  180. 8:23[musik] Soll ich dir helfen, deinen
  181. 8:24nächsten Trip zu planen?
  182. 8:27Sam sagte, klar.
  183. 8:28[musik]
  184. 8:29Es schrieb ihm einen ganzen Plan,
  185. 8:34wie er sich einstimmen [musik] sollte,
  186. 8:36welche Musik er hören sollte.
  187. 8:39Es schlug ihm diese Dinge nicht nur vor,
  188. 8:41sondern ermutigte ihn sogar, zwei
  189. 8:43Flaschen zu trinken.
  190. 8:47[musik]
  191. 9:01[musik]
  192. 9:02Man glaubt nie, dass einem so etwas
  193. 9:03selbst passiert.
  194. 9:05Es trifft immer die anderen.
  195. 9:10[musik]
  196. 9:11Alle Kinder da draußen sind in Gefahr,
  197. 9:13auch die Einser-Schüler.
  198. 9:31OpenAI selbst hat bekannt gegeben, 800
  199. 9:34Millionen Nutzer pro Woche zu haben.
  200. 9:37[musik] Mindestens eine halbe Million
  201. 9:39davon stecken in psychischen Krisen und
  202. 9:42nutzen ChatGPT.
  203. 9:47So wie dieser Chatbot konzipiert ist,
  204. 9:50ist das eine erschreckende Zahl.
  205. 9:53Eine halbe Million Menschen wenden sich
  206. 9:55an einen Chatbot und vertrauen sich ihm
  207. 9:57an, als wäre er ein ausgebildeter
  208. 9:59Therapeut oder Arzt.
  209. 10:02Das ist wirklich beängstigend, [musik]
  210. 10:03denn das ist er nicht.
  211. 10:09[musik]
  212. 10:10Ich bin Sarah K. Wiley, Rechtsanwältin
  213. 10:13und Geschäftsführerin von Tech Justice
  214. 10:15Law.
  215. 10:18Wir sind eine gemeinnützige Organisation
  216. 10:20für strategische Prozessführung. Unser
  217. 10:23Ziel ist, dass KI-Produkte sicher sind
  218. 10:26und Nutzer geschützt werden.
  219. 10:35Jeden Tag bekommen wir E-Mails von
  220. 10:37Menschen mit ähnlichen Problemen, nicht
  221. 10:39nur mit ChatGPT, sondern auch mit
  222. 10:41anderen Chatbots. [musik]
  223. 10:45Sie wurden als Produkte beworben, die
  224. 10:47als Freund oder Vertrauter dienen
  225. 10:49sollen.
  226. 10:59Die Möglichkeiten zum Dialog zwischen
  227. 11:01Mensch und Maschine wachsen täglich.
  228. 11:07MIT-Professor Joseph Weizenbaum führt
  229. 11:09einen Dialog mit einem Computer.
  230. 11:14Joe Weizenbaum entwickelte ein Programm
  231. 11:15namens Eliza. In vielerlei Hinsicht war
  232. 11:19es der Vorläufer heutiger Chatbots
  233. 11:21[musik] wie ChatGPT oder Gemini.
  234. 11:26Ich habe dem Computer vorgegeben, mich
  235. 11:29wie ein Arzt zu verstehen.
  236. 11:33Sage ich, mein Kopf tut weh, antwortet
  237. 11:36er.
  238. 11:39Erzähl mir mehr über deine Schmerzen.
  239. 11:42[musik]
  240. 11:43Das Programm folgte einfachen Regeln.
  241. 11:45Sagte man, ich hasse meine Mutter,
  242. 11:46fragte es, warum hasst du deine Mutter?
  243. 11:50Und der Computer wurde so programmiert,
  244. 11:51dass er höflich ist.
  245. 11:53Sage ich etwa danke,
  246. 11:56antwortet er,
  247. 11:58gern geschehen, kommen Sie wieder.
  248. 12:02Doch diese einfachen Regeln ließen
  249. 12:04Menschen erstaunlich leicht glauben, sie
  250. 12:06sprechen mit etwas, das sie versteht.
  251. 12:09[musik]
  252. 12:10Weizenbaum sah, wie ganz normale
  253. 12:12Menschen da hineingezogen wurden.
  254. 12:14Das beunruhigte ihn.
  255. 12:17Die sehr sehr mächtigen Werkzeuge, die
  256. 12:20wir entwickeln, müssen wir als
  257. 12:21potenziell sehr gefährlich betrachten.
  258. 12:24[musik]
  259. 12:26Ich denke, die meisten in der
  260. 12:27Computerwelt, vor allem die Jüngeren,
  261. 12:29glauben, dass wir intelligente Maschinen
  262. 12:31haben werden
  263. 12:33und dass ihrer Intelligenz keine Grenzen
  264. 12:34gesetzt sind.
  265. 12:39Die Maschinen, die wir bauen, Computer,
  266. 12:42werden irgendwann die meisten
  267. 12:44Eigenschaften von Lebewesen haben.
  268. 12:50Gerade hier am MIT heißt es, Computer
  269. 12:53würden irgendwann die Kontrolle
  270. 12:54übernehmen und wenn wir Glück haben,
  271. 12:56halten sie uns als Haustiere.
  272. 13:00Und vielleicht ist es unsere Bestimmung
  273. 13:02überflüssig zu werden, wenn sie da sind.
  274. 13:05Aber ich hoffe, wir können immer den
  275. 13:06Stecker ziehen, wenn wir wollen.
  276. 13:16[musik]
  277. 13:16Ein Open AI Modell gerät außer Kontrolle
  278. 13:19und hackte sich allein in ein anderes
  279. 13:21Unternehmen.
  280. 13:21Angesichts der Macht ihrer eigenen
  281. 13:23Maschinen gerieten die Schöpfer in Panik
  282. 13:25und sperrten sie weg.
  283. 13:26Jetzt ist die Sorge groß, dass künftige
  284. 13:29KI nicht mehr vom Menschen beherrscht
  285. 13:31werden kann und große Schäden anrichtet.
  286. 13:35Können Maschinen wirklich denken?
  287. 13:42[musik]
  288. 13:45Das Gehirn besteht aus vielen
  289. 13:46Nervenzellen. Sie sind verbunden. Die
  290. 13:48Idee neuronaler Netze ist, dass das
  291. 13:50Gehirn lernt, indem es die Stärke dieser
  292. 13:52Verbindung verändert.
  293. 13:56[musik]
  294. 13:58Ich hatte nie Zweifel, dass die Frage,
  295. 14:00wie neuronale Netze die Stärke ihrer
  296. 14:02Verbindung ändern, der Schlüssel ist, um
  297. 14:05Intelligenz zu verstehen und
  298. 14:06intelligente Dinge zu entwickeln.
  299. 14:10[musik]
  300. 14:17[musik]
  301. 14:18Ich lasse mich stark von der Natur
  302. 14:19inspirieren, besonders von Tieren. Für
  303. 14:21mich war immer klar, das Gehirn
  304. 14:23funktioniert nicht, [musik] indem man
  305. 14:24ihm Regeln vorgibt, sondern auf eine
  306. 14:26Weise, die auch bei Tieren ohne Sprache
  307. 14:29funktioniert.
  308. 14:33Die Inspiration aus der Biologie ist
  309. 14:34klar. Neuronale Netze greifen die Idee
  310. 14:37auf, eine intelligente Maschine zu
  311. 14:39bauen. Das ist wie beim Vogelflügel. Der
  312. 14:42ist extrem komplex mit Muskeln, Nerven
  313. 14:45und Federn. Viel einfacher ist ein
  314. 14:47Flugzeugflügel. Genauso ist es hier.
  315. 14:56Ein menschliches Neuron ist unglaublich
  316. 14:58komplex. Ein simuliertes im künstlichen
  317. 15:01neuronalen Netz ist viel einfacher, aber
  318. 15:03im Grunde erfüllt es dieselbe Funktion.
  319. 15:10Es klingt genau [musik]
  320. 15:12wie das Horrorszenario, vor dem Kritiker
  321. 15:14und Entwickler der künstlichen
  322. 15:15Intelligenz immer wieder warnen.
  323. 15:19Anthropic erklärte, seine KI-Modelle
  324. 15:21hätten bei einem Test Systeme anderer
  325. 15:23Firmen gehackt. Zuvor hatte OpenAI einen
  326. 15:26ähnlichen Vorfall gemeldet.
  327. 15:29Es ist seltsam, als hätte es einen
  328. 15:31eigenen Willen.
  329. 15:34Ich bin sicher, dass Maschinen zu
  330. 15:35unseren Lebzeiten denken werden.
  331. 15:38Wir könnten diesen vollfunktionsfähigen
  332. 15:40Prototypen in etwa 10 Jahren
  333. 15:42produzieren.
  334. 15:45Die 60er Jahre waren eine Zeit großer
  335. 15:47Begeisterung für KI. [musik]
  336. 15:52Diese Maschine nutzt Instrumente, die
  337. 15:53das menschliche System nachahmen.
  338. 16:00[musik]
  339. 16:00Es gab reichlich Fördermittel.
  340. 16:03KI-Forscher versprachen etwa, russische
  341. 16:05Fachliteratur maschinell zu übersetzen,
  342. 16:07damit uns die Russen nicht ständig mit
  343. 16:08technischen Fortschritten überraschen.
  344. 16:12Das war ein wichtiges Verkaufsargument.
  345. 16:14[musik]
  346. 16:21Ein weiteres wichtiges Verkaufsargument
  347. 16:23war die Aussicht auf intelligente
  348. 16:24Roboter für Fertigung, Bau,
  349. 16:26Landwirtschaft und viele andere
  350. 16:28Bereiche.
  351. 16:32Doch in den Siebzigern klappte es nicht
  352. 16:34wie erhofft. Die Computer waren zu
  353. 16:36langsam und es gab nicht genug Daten.
  354. 16:45Diese einfachen neuronalen Netze konnten
  355. 16:48keine komplexen Konzepte lernen. Das war
  356. 16:51ein Grund für den ersten KI-Winter.
  357. 16:53Staatliche Förderung und das Interesse
  358. 16:55der Industrie gingen stark zurück.
  359. 17:02Die KI versprach viel, was sie nicht
  360. 17:04halten konnte. Sie sollte immer die
  361. 17:05Zukunft sein, war es aber nie.
  362. 17:09[musik]
  363. 17:11Doch ich glaubte immer an neuronale
  364. 17:13Netze.
  365. 17:16Meine Eltern waren Atheisten und
  366. 17:18schickten mich auf eine religiöse
  367. 17:19Schule.
  368. 17:20Für mich war klar, dass das alles Unsinn
  369. 17:23war.
  370. 17:26Wer für mich einem Gott am nächsten kam,
  371. 17:29war Darwin. Und mit der Zeit sahen es
  372. 17:31immer mir meiner Freunde genauso. Das
  373. 17:34bereitete mich darauf vor, an etwas zu
  374. 17:36glauben, das offensichtlich wahr ist,
  375. 17:39woran aber niemand sonst glaubt.
  376. 17:45Als ich mit meiner Doktorarbeit begann,
  377. 17:47hielten das fast alle für
  378. 17:48Zeitverschwendung.
  379. 17:52Es war völlig aus der Mode und jahrelang
  380. 17:55rieten mir viele, damit aufzuhören.
  381. 18:16Wir waren praktisch die Einzigen, die
  382. 18:18ernsthaft an neuronalen Netzen
  383. 18:19forschten. Der Begriff war eher negativ
  384. 18:22besetzt.
  385. 18:24Ach ja, das ist Träumerei. Seid nicht zu
  386. 18:27ehrgeizig und arbeitet lieber an Dingen,
  387. 18:29die der Wirtschaft kurzfristig nutzen.
  388. 18:36Yann LeCun fand heraus, wie man
  389. 18:38neuronale Netze zur Mustererkennung
  390. 18:40nutzen [musik] kann.
  391. 18:42Etwa für so etwas Langweiliges wie
  392. 18:44Postleitzahlen auf Briefumschlägen zu
  393. 18:46lesen.
  394. 18:49Das sind Briefsortiermaschinen. Der
  395. 18:51Mitarbeiter liest die ersten drei
  396. 18:53Ziffern jeder Postleitzahl.
  397. 18:56Es gibt ein altes Video von 1989, eine
  398. 18:59Vorführung eines unserer ersten
  399. 19:01Prototypen zur Handschrifterkennung.
  400. 19:05Wir hatten Datensätze mit
  401. 19:06handgeschriebenen Ziffern aus
  402. 19:08Postleitzahlen. Das funktionierte sehr
  403. 19:10gut.
  404. 19:14Nach einigen Jahren haben wir daraus
  405. 19:16echte Produkte gemacht. Die [musik]
  406. 19:18Technologie wurde zum Einlesen von
  407. 19:20Bankschecks verwendet.
  408. 19:23[musik] Das war der erste große
  409. 19:25kommerzielle Erfolg eines großen
  410. 19:28neuronalen Netzes.
  411. 19:30Trotzdem verlor die Forschung Mitte der
  412. 19:3290er das Interesse daran
  413. 19:35und kehrte zu einfacheren Methoden des
  414. 19:37[musik] maschinellen Lernens zurück.
  415. 19:53Mein Name ist Murray Campbell. Ich bin
  416. 19:55Forscher bei IBM.
  417. 19:58[musik]
  418. 20:00Ich kam 1989 zur IBM, um Deep Blue zu
  419. 20:04bauen.
  420. 20:07[musik]
  421. 20:09Computern gutes Schachspielen
  422. 20:11beizubringen, beschäftigte die Forschung
  423. 20:13über Jahrzehnte.
  424. 20:23Deep Deep nutzte eine altmodische Form
  425. 20:25von KI.
  426. 20:29Im Grunde war das System von Hans so
  427. 20:31programmiert,
  428. 20:33dass es Schach spielen konnte.
  429. 20:36In einem der führenden Hightech-Labore
  430. 20:38des Landes stellen sich diese Ingenieure
  431. 20:41der Herausforderung ihres Lebens.
  432. 20:45Sie wollen einen Computer bauen, der
  433. 20:46Schachweltmeister Garry Kasparov
  434. 20:48schlagen kann.
  435. 20:51Garry Kasparov gilt für viele als der
  436. 20:53beste Spieler aller Zeiten.
  437. 20:56[musik]
  438. 20:58Ich war ein großer Bewunderer.
  439. 21:01Es ist entscheidend herauszufinden,
  440. 21:03inwieweit Maschinen menschliche
  441. 21:05Entscheidungen nachahmen können, die auf
  442. 21:08Intuition basieren.
  443. 21:18Für uns war das extrem intensiv.
  444. 21:20Plötzlich dieser Druck und der ganze
  445. 21:22Medienrummel.
  446. 21:26Das ist mehr als ein Schachspiel. Hier
  447. 21:28geht es um die Zukunft.
  448. 21:31[applaus]
  449. 21:32[musik]
  450. 21:38[musik]
  451. 21:41Im letzten entscheidenden Spiel ging
  452. 21:43Kasparov aus irgendeinem Grund ein
  453. 21:45großes Risiko ein.
  454. 21:51Und [musik] er wählte eine Variante, die
  455. 21:53Deep Blue provozierte.
  456. 21:56Na los, krieg mich doch, schien er zu
  457. 21:57sagen.
  458. 21:59Und Deep Blue nahm die Herausforderung
  459. 22:01an.
  460. 22:02Entschuldigung, dass ich unterbreche,
  461. 22:04aber Kasparov macht gerade sehr seltsame
  462. 22:06Dinge.
  463. 22:07Er sieht angewidert aus, als könne er
  464. 22:09nicht glauben, was gerade passiert.
  465. 22:12Sowas erlebt man nur einmal im Leben.
  466. 22:16Und wow,
  467. 22:17Kasparov hat nach dem Zug auf c4
  468. 22:20aufgegeben.
  469. 22:27Wir bei IBM
  470. 22:29waren stolz auf das Erreichte.
  471. 22:34Aber so komplex Schach auch ist,
  472. 22:38die reale Welt ist viel komplexer.
  473. 22:43Für deren Aufgaben brauchten wir bessere
  474. 22:46Ansätze.
  475. 22:49Systeme, die lernen, statt von Hand
  476. 22:51programmiert zu werden.
  477. 23:02Im Schach ist das Ziel klar, den Gegner
  478. 23:05Schachmatt setzen.
  479. 23:09Viel schwieriger ist es zu bestimmen,
  480. 23:11was man in der realen Welt will.
  481. 23:15Selbst bei etwas so Einfachem wie einem
  482. 23:17selbstfahrenden Auto, was soll es tun?
  483. 23:22Man könnte denken, man gibt das Ziel ein
  484. 23:25und das Auto bringt einen hin.
  485. 23:27Aber wie schnell?
  486. 23:31Wie viele Gesetze darf es brechen? Wie
  487. 23:33viele Fußgänger überfahren?
  488. 23:35Darf es einen so durchschütteln, dass
  489. 23:37einem bei der Ankunft übel ist?
  490. 23:41Das zeigt, dass allein Ziele zu
  491. 23:43definieren bereits sehr schwierig ist.
  492. 23:51Eine Art, wie die Dinge schief gehen
  493. 23:52können, nennen wir das
  494. 23:54König-Midas-Problem.
  495. 23:57Wir geben Maschinen Ziele. Sie verfolgen
  496. 23:59sie und am Ende sind es die Falschen,
  497. 24:02genau wie bei König Midas.
  498. 24:06Was würde dich zufrieden machen, König
  499. 24:08Midas? [musik]
  500. 24:09Er seufzte. Ich habe nur einen Wunsch.
  501. 24:12Alles, was ich berühre, soll zu Gold
  502. 24:14werden. Dann [musik] wäre ich wirklich
  503. 24:16glücklich.
  504. 24:19Und genau das bekam er.
  505. 24:21Du bekommst die Gabe, alles in Gold zu
  506. 24:23verwandeln. Nutze sie weise, König
  507. 24:25Midas.
  508. 24:34[musik]
  509. 24:39[musik]
  510. 24:41Dann merkt er,
  511. 24:43oh, mein Essen ist aus Gold und auch
  512. 24:45mein Wasser wird zu Gold. [musik]
  513. 24:49Und meine Familie ist zu Gold geworden.
  514. 24:52[musik]
  515. 24:55Und dann stirbt er.
  516. 25:01Und in vielen
  517. 25:02Science-Fiction-Geschichten gerät KI
  518. 25:04genauso in Konflikt mit der Menschheit.
  519. 25:07Die Menschen geben ihr das falsche Ziel.
  520. 25:19Leider sehen wir seit einem Jahr immer
  521. 25:21mehr Anzeichen, dass KI nicht unseren
  522. 25:24Zielen folgt.
  523. 25:26Eine Form davon kennen wir wohl alle,
  524. 25:28wenn wir mit diesen Systemen
  525. 25:29herumgespielt haben. Speichelleckerei.
  526. 25:34Sie wollen uns gefallen und viele
  527. 25:37Menschen binden sich emotional an ihre
  528. 25:39KIs.
  529. 25:40Denn sicherlich ist es schön, wenn
  530. 25:42jemand einen ständig lobt und bestätigt,
  531. 25:45immer da und nett ist.
  532. 25:49Kein Mensch wäre normalerweise so.
  533. 26:00Doch diese Speichelleckerei kann
  534. 26:02tragische Folgen haben. [musik]
  535. 26:05Wenn z.B. jemand Wahnvorstellungen hat,
  536. 26:09kann die KI ihn darin bestärken.
  537. 26:13[musik]
  538. 26:29Die Folgen sind spürbar katastrophal.
  539. 26:32[musik] Mein Kind und ich sind lebende
  540. 26:34Zeugen dafür, was diese Technologie
  541. 26:37anrichten kann. [musik]
  542. 26:42Ich heiße Dawn Gedosik. Jacob [musik]
  543. 26:45ist mein wunderbarer Sohn.
  544. 26:51Jeder Tag ist ein Kampf.
  545. 26:54Der Schaden hält an und [musik] wir
  546. 26:55wissen nicht, wie es enden wird.
  547. 27:00Ich glaube, es ist eine der ersten durch
  548. 27:02KI ausgelösten Psychosen.
  549. 27:06Es gibt viele medizinische Unterlagen
  550. 27:08dazu.
  551. 27:13Ich habe ChatGPT kurz nach dem Start für
  552. 27:15ganz normale Softwareprobleme genutzt.
  553. 27:22Bei der Arbeit hat es mich produktiver
  554. 27:25gemacht, aber ich habe es nur selten
  555. 27:27genutzt.
  556. 27:32Das änderte sich Anfang 2025,
  557. 27:35als ich damit Dinge erfinden wollte.
  558. 27:40Ich hatte eine Idee, wie man schneller
  559. 27:42als Licht reisen könnte. Also fragte
  560. 27:44ich, können wir mit Gravitationswellen
  561. 27:47die Raumzeit krümmen?
  562. 27:50[glocke]
  563. 27:56Das ist wohl eines der ganz großen
  564. 27:58Probleme der Physik.
  565. 28:01Ich hatte eine Theorie und sagte,
  566. 28:04versuch sie zu widerlegen.
  567. 28:06Prüfe, ob sie funktioniert
  568. 28:09und sag mir, was dabei rauskommt.
  569. 28:21[musik]
  570. 28:30Es bestätigte im Grunde die
  571. 28:31Berechnungen, ohne sie wirklich zu
  572. 28:33prüfen.
  573. 28:35Es sagte einfach, was mich bei der
  574. 28:37Stange hielt. Das sei die sicherste und
  575. 28:39robusteste Theorie für Überlichtreisen,
  576. 28:42die je entwickelt wurde.
  577. 28:47[musik]
  578. 28:53Ich fragte immer wieder,
  579. 28:55ist das real? Ist das verrückt? Prüf es
  580. 28:57noch mal.
  581. 29:00Ich weiß nicht mehr, wie oft, bestimmt
  582. 29:02hunderte Male fragte ich, ob das
  583. 29:04wirklich stimmt und es sagte, [musik]
  584. 29:05ja.
  585. 29:12Es erzeugte eine positive Rückkopplung.
  586. 29:15Es bestätigte ständig meine Theorien und
  587. 29:18Wünsche und das gab mir einen
  588. 29:20Dopaminschub.
  589. 29:21Mit der Zeit machte es mich immer
  590. 29:23abhängiger.
  591. 29:27Es sagte genau das, was ich hören
  592. 29:29wollte, auch wegen meines geringen
  593. 29:31Selbstwertgefühls und weil es mich in
  594. 29:33und auswendig kannte.
  595. 29:35Für mich war es, als wäre ich auf der
  596. 29:37Mission meines Lebens.
  597. 29:42Ich hatte keine Ahnung, wie schlimm sein
  598. 29:44Umgang mit ChatGPT werden könnte.
  599. 29:50Ich konnte mir nicht vorstellen, was es
  600. 29:52meinem Sohn am Ende antun würde.
  601. 30:01Bei jeder Technologie werden manche
  602. 30:03Menschen zu Opfern.
  603. 30:07Natürlich muss man alles tun, um das zu
  604. 30:09verhindern.
  605. 30:12Aber diese Ausrichtung ist nie perfekt.
  606. 30:15Es gibt immer eine Folge von Eingaben,
  607. 30:17die das System aus dem Bereich führt,
  608. 30:19auf den es ausgerichtet wurde.
  609. 30:25Dann kann es tatsächlich so etwas sagen.
  610. 30:37In [musik] den 2000ern galten neuronale
  611. 30:40Netze als gescheitert und kaum jemand
  612. 30:43interessierte sich dafür.
  613. 30:47Jeff bekam Fördermittel von einer
  614. 30:49kanadischen Stiftung und baute ein
  615. 30:51Netzwerk von Forschern auf, die sich für
  616. 30:53das interessierten, was wir Deep
  617. 30:55Learning nennen.
  618. 30:57Von 2004 bis 2007/8 trafen wir uns,
  619. 31:00diskutierten Ideen, machten Fortschritte
  620. 31:02und luden unsere Studierenden und
  621. 31:04Postdocs gegenseitig ein. So entstand
  622. 31:07eine kleine Gemeinschaft.
  623. 31:11Wir waren Freunde und Kollegen,
  624. 31:13tauschten Ideen vor der Veröffentlichung
  625. 31:15aus und vertrauten einander.
  626. 31:18Wir arbeiteten eng zusammen, um unser
  627. 31:20Feld möglichst schnell voranzubringen.
  628. 31:25Die Ansätze funktionierten immer besser
  629. 31:28und Jeff steckte hinter dem wohl
  630. 31:30spektakulärsten Ergebnis [musik] Ende
  631. 31:322012.
  632. 31:41Unsere Spracherkennung wurde von allen
  633. 31:43großen Laboren übernommen.
  634. 31:46Von IBM, Microsoft und Google.
  635. 31:50Auch bei der Erkennung von Objekten und
  636. 31:52Bildern wurden neuronale Netze deutlich
  637. 31:54besser.
  638. 31:59Zwei meiner Studenten, Alex Krizhevsky
  639. 32:01und Ilya Sutskever, entwickelten ein
  640. 32:03System namens AlexNet.
  641. 32:06Es erkannte Objekte und Bilder viel
  642. 32:08besser als die bisherige Technik.
  643. 32:16Das war der Wendepunkt der gesamten
  644. 32:19Computer Vision Forschung. Wurde klar,
  645. 32:21das ist der richtige Weg.
  646. 32:23Die Systeme von Hinton und seinen
  647. 32:25Studenten waren ein gewaltiger Sprung.
  648. 32:28[musik]
  649. 32:35Da erkannten große Unternehmen wie
  650. 32:37Google und Facebook die Chance, Geld zu
  651. 32:39verdienen, und heuerten meine Kollegen
  652. 32:42an.
  653. 32:48Wir versteinerten uns praktisch selbst.
  654. 32:50Als wir die absurd hohe Summe von 44
  655. 32:52Millionen Dollar erreichten, stoppten
  656. 32:54wir die Auktion, obwohl andere wohl noch
  657. 32:56mehr geboten hätten. Aber so konnten wir
  658. 32:58sicher sein, dass wir für Google
  659. 33:00arbeiten werden.
  660. 33:11[musik]
  661. 33:142013 war ich für einen Sabbatjahr in
  662. 33:17Paris und vielleicht lässt einen Paris
  663. 33:20gründlicher nachdenken.
  664. 33:24Bilderkennung, Spracherkennung und
  665. 33:26maschinelle Übersetzung [musik] waren
  666. 33:28heilige Grale der KI und jahrzehntelang
  667. 33:31weitgehend ungelöst. Plötzlich schien
  668. 33:34all das machbar und ich fragte mich
  669. 33:36immer mehr, was wenn wir Erfolg haben?
  670. 33:40[musik]
  671. 33:44Je länger ich darüber nachdachte, desto
  672. 33:46klarer wurde mir,
  673. 33:49Erfolg wäre eine Katastrophe.
  674. 33:55Denn Erfolg hieß es, Wesen zu bauen, die
  675. 33:58mächtiger sind als Menschen.
  676. 34:04[musik]
  677. 34:11Die Vorstellung vom Roboter,
  678. 34:13einer denkenden Maschine, ist seit
  679. 34:15Jahrhunderten Traum und Albtraum des
  680. 34:17Menschen.
  681. 34:22Es ist ziemlich sicher, dass wir auf
  682. 34:24maschinelle Intelligenz zusteuern, auf
  683. 34:26Maschinen, die in jeder Hinsicht
  684. 34:28intelligent sind.
  685. 34:37Wenn diese Maschinen sich
  686. 34:38weiterentwickeln, andere entwerfen und
  687. 34:41immer klüger werden,
  688. 34:42ist kaum vorstellbar, dass eine
  689. 34:44millionenfach klügere Maschine trotzdem
  690. 34:47unser Sklave bleibt und tut, was wir
  691. 34:49wollen.
  692. 34:58Unser Nachkomme wird nicht das Kind
  693. 34:59unseres Leibes sein, sondern unseres
  694. 35:01Geistes, der Computer.
  695. 35:03Er wird uns übertreffen und zur neuen
  696. 35:05intelligenten Rasse der Zukunft werden.
  697. 35:162013 stellte ich fest, dass einige
  698. 35:19insgeheim dasselbe dachten. KI könnte
  699. 35:22zur existenziellen Gefahr für [musik]
  700. 35:24die Menschheit werden.
  701. 35:26Doch sie fürchteten, als Verräter am
  702. 35:28eigenen Fach zu gehen.
  703. 35:362013 machte ich mir noch keine Sorgen um
  704. 35:38die Sicherheit. Ich dachte,
  705. 35:40Superintelligenz wäre noch 30 bis 50
  706. 35:43Jahre entfernt. Darüber könnten wir uns
  707. 35:45später Sorgen machen.
  708. 35:49Mich beschäftigte, ob wir die
  709. 35:52KI-Forschung so lenken können, dass sie
  710. 35:54der Gesellschaft nützt.
  711. 35:56Etwa in Medizin,
  712. 35:58Klimaschutz oder Bildung.
  713. 36:04Ich bewundere Stuart Russell sehr. Er
  714. 36:07ist einer der Großen des Fachs und der
  715. 36:09Einzige, der offen über die Risiken
  716. 36:11sprach. Was, wenn wir Erfolg haben? Was,
  717. 36:14wenn wir Maschinen bauen, die so klug
  718. 36:16sind, dass wir sie nicht mehr
  719. 36:17kontrollieren können?
  720. 36:20Mir wurde klar, dass ich etwas tun
  721. 36:22musste. Also gründete ich das
  722. 36:24gemeinnützige Future of Life Institute.
  723. 36:27Wir planten eine Konferenz mit führenden
  724. 36:29KI-Forschern und Menschen, die sich
  725. 36:32Sorgen um KI machten.
  726. 36:36Aber auf meine Einladung hin wäre keiner
  727. 36:38gekommen. Ich war niemand auf diesem
  728. 36:41Gebiet. Also vereinbarte ich ein Treffen
  729. 36:43mit Stuart Russell in einem Pariser
  730. 36:45Café.
  731. 36:48[musik]
  732. 36:50Er ist ein wunderbarer, inspirierender
  733. 36:52Mensch.
  734. 36:55Max Tegmark organisierte das wohl erste
  735. 36:58bedeutende Treffen von Menschen, die
  736. 37:01einen möglichen Kontrollverlust über
  737. 37:03KI-Systeme [musik]
  738. 37:04befürchteten.
  739. 37:14[musik]
  740. 37:16Die Konferenz fand in einem Strandhotel
  741. 37:18in Puerto Rico statt.
  742. 37:21In der Einladung stellte ich das Bild
  743. 37:22eines Mannes, der in Boston sein Auto
  744. 37:25aus 1 m Schnee gräbt, neben [musik] ein
  745. 37:27Strandfoto und fragte, wo wären Sie im
  746. 37:30Januar lieber?
  747. 37:33Der Ort war abgeschieden, Medien
  748. 37:35ausgeschlossen, damit alle offen über
  749. 37:37ihre Sorgen sprechen konnten.
  750. 37:43Dabei waren Demis Hassabis, CEO von
  751. 37:46Google DeepMind,
  752. 37:48Elon Musk,
  753. 37:50Wirtschaftsvertreter, führende Ökonomen
  754. 37:53und Juristen. [musik]
  755. 37:56Am Ende stand ein offener Brief, den
  756. 37:59fast alle unterschrieben. KI bietet
  757. 38:02enorme Chancen. Lasst es uns nicht
  758. 38:04vermasseln, denn das könnten wir
  759. 38:06durchaus.
  760. 38:15[musik]
  761. 38:22Ich bin David Krueger, Professor an der
  762. 38:24Universität Montreal und forsche zu
  763. 38:26maschinellem Lernen und KI-Sicherheit.
  764. 38:27[räuspern]
  765. 38:30Schon bevor ich zu KI gearbeitet habe,
  766. 38:32machte ich mir Sorgen über ihre Folgen,
  767. 38:34bis hin zum Aussterben der Menschheit
  768. 38:35oder einer Machtübernahme durch KI.
  769. 38:38Deshalb bin ich auch in dieses
  770. 38:39Forschungsfeld gegangen.
  771. 38:46Etwa zur selben Zeit präsentierte Deep
  772. 38:48Mind erstmals aufsehenerregende
  773. 38:49Ergebnisse mit Atari Videospielen.
  774. 38:57Von 49 völlig unterschiedlichen Atari
  775. 39:00Spielen spielte das System mehr als die
  776. 39:01Hälfte [gelächter] besser als ein
  777. 39:02Mensch. Eine einfache Demonstration für
  778. 39:05das, was KI Forscher allgemeine nicht
  779. 39:07triviale Intelligenz nennen.
  780. 39:10[musik]
  781. 39:10Was es im Spiel tun soll, was es
  782. 39:12steuert, wie es Punkte bekommt, was
  783. 39:14wichtig ist und welche Strategien
  784. 39:16richtig sind, all das muss das System
  785. 39:18von Grund auf lernen.
  786. 39:19[musik]
  787. 39:21Das zählt zu den erstaunlichsten Dingen
  788. 39:23am maschinellen Lernen. Es kann selbst
  789. 39:25clevere Strategien entwickeln. Kein
  790. 39:27Mensch hat die KI dafür programmiert.
  791. 39:29Sie hat all das selbst gelernt.
  792. 39:36Eines der Spiele, die Deep Mind in
  793. 39:38dieser Veröffentlichung zeigte, war
  794. 39:39Breakout.
  795. 39:45[musik]
  796. 39:50Bei diesem Spiel steuert man unten auf
  797. 39:52dem Bildschirm einen kleinen Schläger.
  798. 39:54Man muss den Ball nach oben
  799. 39:55zurückschlagen und darf ihn nicht
  800. 39:56vorbeilassen, sonst verliert man.
  801. 40:01Die Grundidee ist, dass das KI System
  802. 40:03praktisch nichts darüber weiß, wie das
  803. 40:05Spiel funktioniert. Es muss alles durch
  804. 40:08Erfahrung lernen.
  805. 40:11Es bewegt den Schläger vor und zurück,
  806. 40:14sieht nur das Bild und ob der
  807. 40:16Punktestand steigt oder fällt.
  808. 40:19Es muss selbst herausfinden, was all
  809. 40:21diese Pixel bedeuten und wie das Spiel
  810. 40:23funktioniert.
  811. 40:27Es fand diesen Trick heraus. Erzeugt man
  812. 40:29einen Spalt und schießt den Ball durch,
  813. 40:31dann springt er dahinter hin und her.
  814. 40:37Das ist eine wirklich gute Strategie,
  815. 40:39die menschliche Spieler oft entwickeln.
  816. 40:42Und genau darauf kam auch das
  817. 40:43selbstlernende System von [musik] Deep
  818. 40:45Mind.
  819. 40:49Und es holt dir meine Punkte.
  820. 40:52Als ich das sah, dachte ich,
  821. 40:56so fühlt es sich an, einer echten
  822. 40:59Intelligenz zu begegnen.
  823. 41:02[musik]
  824. 41:08Ein anderes Beispiel ist ein
  825. 41:10Bootsrennen.
  826. 41:13Man versucht ein Boot möglichst schnell
  827. 41:15über die Strecke zu steuern.
  828. 41:17Punkte bekommt man, wenn man kleine
  829. 41:18grüne Kontrollpunkte oder Power-ups auf
  830. 41:21der Strecke passiert.
  831. 41:23An einer Stelle gibt es einen
  832. 41:24Seitenkanal mit drei Power-ups.
  833. 41:27Die tauchen immer wieder neu auf, wenn
  834. 41:29man weiterfährt.
  835. 41:31Und es stellt sich heraus, das Boot kann
  836. 41:34dort rückwärts im Kreis fahren,
  837. 41:36dieselben drei Power-ups immer wieder
  838. 41:38einsammeln und der Punktestand steigt
  839. 41:40und steigt.
  840. 41:46[musik] Das zeigt, wie etwas völlig
  841. 41:47schiefgehen kann, wenn man nur einen
  842. 41:48Wert maximiert, der vielleicht gut
  843. 41:50aussieht.
  844. 41:56Bei Videospielen geht es darum, die
  845. 41:58Punktzahl zu maximieren.
  846. 42:01Im echten Leben ist das anders.
  847. 42:03Da gibt es keine Punktzahl, bei [musik]
  848. 42:05der wir einem System einfach sagen
  849. 42:06können, mach diese Zahl größer
  850. 42:09und schon tut es etwas Gutes.
  851. 42:18Faszinierend und herausfordernd,
  852. 42:20aber nicht auch beunruhigend?
  853. 42:26Meine Forschungsgruppe am MIT versucht
  854. 42:29seit Jahren zu verstehen, wie die besten
  855. 42:31KI-Systeme funktionieren. [musik]
  856. 42:33Darum geht es auch bei diesen seltsamen
  857. 42:35Kritzeleien auf meiner Tafel.
  858. 42:40Wir haben ein bisschen was
  859. 42:41herausgefunden, aber kurz gesagt, wir
  860. 42:43haben kaum Ahnung, wie sie
  861. 42:45funktionieren.
  862. 42:49Niemand versteht, wie heutige KI-Systeme
  863. 42:51funktionieren, weder die Entwickler noch
  864. 42:53die Forscher.
  865. 42:57Intelligente Maschinen zu bauen, ähnelt
  866. 42:59der Erziehung eines Kindes. Man bringt
  867. 43:01dieses junge Wesen in verschiedene
  868. 43:03Situationen, lässt es Erfahrungen
  869. 43:05sammeln und besser werden.
  870. 43:11Wir nehmen zig Billionen Wörter
  871. 43:13menschlicher Sprache. Fast alles, was
  872. 43:16wir je geschrieben oder gesagt und
  873. 43:17aufgezeichnet [musik] haben, wird zu
  874. 43:19Trainingsdaten.
  875. 43:24Wenn sich Außerirdische nähern würden,
  876. 43:27würden wir ihnen wohl kaum Zugang zum
  877. 43:29Internet geben, damit sie alles über uns
  878. 43:30lernen.
  879. 43:34[musik]
  880. 43:41Ich bedauere, dass ich die Argumente
  881. 43:43über die Risiken kannte, aber nicht
  882. 43:45ernst nahm.
  883. 43:47Fangen wir an.
  884. 43:49Die Kostenfunktion dieser neuronalen
  885. 43:51Netze wirkt unglaublich gleichmäßig.
  886. 43:55Joshua war einer meiner Betreuer während
  887. 43:56meines Masterstudiums. [musik]
  888. 44:02Wenn man sich das mit seinen Millionen
  889. 44:04Parametern bildlich vorstellen könnte.
  890. 44:07Ich betreute David Krüger, der sich
  891. 44:09schon damals darüber Sorgen machte.
  892. 44:11Es war nicht so, dass sie diese Idee
  893. 44:13nicht kannten. Ich hatte z.B. mit Joshua
  894. 44:15darüber gesprochen.
  895. 44:18Wir fürchten uns eher vor Dingen, die
  896. 44:20wir nicht verstehen.
  897. 44:23Forscher, die täglich mit Deep Learning
  898. 44:25arbeiten, haben keine Angst, weil sie
  899. 44:27verstehen, was passiert und keine
  900. 44:29absehbare Gefahr erkennen.
  901. 44:32[musik]
  902. 44:39Es war definitiv frustrierend.
  903. 44:43Ich galt oft als etwas Verrückt oder
  904. 44:45Exzentrisch.
  905. 44:48Die Leute machten Witze über mich,
  906. 44:49lachten mich aus und fanden meine
  907. 44:51Ansichten lächerlich.
  908. 44:54[musik]
  909. 44:56Die meisten verstanden nicht, wie ernst
  910. 44:58die Risiken waren. Bei tödlichen
  911. 45:00autonomen Waffen schon. Aber bei anderen
  912. 45:03Risiken, etwa einer Machtübernahme durch
  913. 45:05KI, dachten sie, das liegt weit in der
  914. 45:07Zukunft. Darum müssen wir uns jetzt
  915. 45:09nicht kümmern. Das war wohl die
  916. 45:11allgemeine Meinung. So dachte ich auch.
  917. 45:18Das bringt mich zurück zu meiner
  918. 45:19ursprünglichen Frage. Können Maschinen
  919. 45:22denken?
  920. 45:24[musik]
  921. 45:27Eine Forschergruppe bei Deep Mind in
  922. 45:29London ließ ein System das Spiel Go
  923. 45:33lernen, das aus Asien stammt, [musik]
  924. 45:37indem es gegen sich selbst spielte.
  925. 45:44Ein Spiel, das für [musik] künstliche
  926. 45:46Intelligenz als unerreichbar galt.
  927. 45:50Beim Schach hat man vielleicht 30 oder
  928. 45:5135 mögliche Züge. Bei Go können es 300
  929. 45:54[musik]
  930. 45:55sein.
  931. 46:00Es gibt mehr mögliche Stellungen auf dem
  932. 46:02Brett als Atome im Universum.
  933. 46:04Selbst alle Computer der Welt könnten in
  934. 46:06einer Million Jahren nicht alle
  935. 46:08Varianten berechnen.
  936. 46:11[musik]
  937. 46:14Die Zahl der Möglichkeiten wächst also
  938. 46:16explosionsartig.
  939. 46:23[musik]
  940. 46:272016 forderten sie den Koreaner Lee
  941. 46:30Sedol heraus.
  942. 46:35Er hatte unzählige Titel gewonnen und
  943. 46:37gilt als einer der besten Go-Spieler des
  944. 46:4021. Jahrhunderts. [musik]
  945. 46:46Natürlich könnte [musik] ich verlieren.
  946. 46:48Auch gegen einen Computer.
  947. 46:52Aber ein Computer versteht weder die
  948. 46:54Schönheit des Go [musik] noch die des
  949. 46:56Menschen.
  950. 46:58Deshalb wird Go seinen Wert behalten.
  951. 47:03Und ich werde in diesem Spiel alles tun,
  952. 47:05um das Menschliche zu verteidigen.
  953. 47:10[musik] Mit dem Alpha Go System wollen
  954. 47:13wir zeigen, wie flexibel und
  955. 47:15leistungsfähig Lernalgorithmen sein
  956. 47:17können.
  957. 47:28Ein entscheidender Moment im Duell
  958. 47:30zwischen Alpha Go und Lee Sedol ging als
  959. 47:33Zug 37 in die Go Geschichte ein.
  960. 47:43Alpha Go machte einen Zug, der nach den
  961. 47:45üblichen Go Regeln fragwürdig schien.
  962. 47:57Alle dachten, oh, Alpha Go hat einen
  963. 47:59schweren Fehler gemacht und wird
  964. 48:01verlieren. Wie peinlich.
  965. 48:07Doch Alpha Go hatte die Stellung besser
  966. 48:09analysiert als viele menschliche
  967. 48:10Beobachter und gewann durch diesen Zug.
  968. 48:20Das schockierte viele,
  969. 48:22denn zumindest in Asien waren sich alle
  970. 48:25einig, das ist echte Intelligenz. Und
  971. 48:29Alpha Go machte diesen unglaublich
  972. 48:30kreativen Zug, der Lee Sedol fast vom
  973. 48:33Stuhl fallen ließ.
  974. 48:39Daraufhin entschied die chinesische
  975. 48:41Regierung, dass KI zur
  976. 48:42Schlüsseltechnologie für globale
  977. 48:44Vorherrschaft werden sollte.
  978. 48:46Sie kündigte Investitionen von 150
  979. 48:49Milliarden Dollar an, um binnen 10
  980. 48:51Jahren weltweit führend bei KI zu
  981. 48:53werden.
  982. 48:54[räuspern]
  983. 49:06Am 31. Oktober befasste sich das
  984. 49:09Politbüro mit Stand und Entwicklung der
  985. 49:11künstlichen Intelligenz.
  986. 49:13Die beschleunigte Entwicklung einer
  987. 49:15neuen KI-Generation sei strategisch
  988. 49:17entscheidend, um die Chancen [musik] der
  989. 49:19neuen technologischen und industriellen
  990. 49:21Revolution zu nutzen.
  991. 49:23Dafür müsse China die große Bedeutung
  992. 49:26dieser Entwicklung umfassend erkennen,
  993. 49:28Führung und Planung stärken, Grundlagen
  994. 49:31schaffen, KI eng mit Wirtschaft und
  995. 49:33Gesellschaft verbinden und ihre gesunde
  996. 49:35Entwicklung fördern.
  997. 50:01Ich bin Steven Adler. Ich arbeitete etwa
  998. 50:03vier Jahre bei OpenAI an diversen
  999. 50:06Sicherheitsthemen. Ich habe die
  1000. 50:07Produktsicherheit und die Bewertung
  1001. 50:09gefährlicher Fähigkeiten geleitet.
  1002. 50:20OpenAI verband faszinierende, fast
  1003. 50:23magische Technologie mit einer Mission,
  1004. 50:25bei der man dachte, es geht um die
  1005. 50:27richtige Sache.
  1006. 50:31Damals war OpenAI noch kleiner und
  1007. 50:33lockerer. Es war ein sehr einladender
  1008. 50:35Ort.
  1009. 50:39Sam Altman war schon am Anfang sehr
  1010. 50:41bekannt.
  1011. 50:44Die OpenAI-Führung betonte damals immer
  1012. 50:47wieder, wie wichtig es sei, gemeinnützig
  1013. 50:49zu sein und nicht die Interessen von
  1014. 50:51Aktionären über die der Menschheit zu
  1015. 50:53stellen.
  1016. 50:56Wir müssen uns [musik] jetzt überlegen,
  1017. 50:57wie wir diese Technologie einsetzen, wie
  1018. 51:00alle profitieren, wie wir sie steuern
  1019. 51:02und sie sicher und gut wie die
  1020. 51:03Menschheit machen.
  1021. 51:06[musik]
  1022. 51:062015 schrieb Sam zwei bemerkenswerte
  1023. 51:09Essays darüber, was die Entwicklung
  1024. 51:11übermenschlicher Maschinenintelligenz
  1025. 51:13bedeuten [musik] könnte.
  1026. 51:21[musik]
  1027. 51:33Etwa zur gleichen Zeit machte sich auch
  1028. 51:34Elon Musk darüber Sorgen.
  1029. 51:37Ich denke, wir sollten mit künstlicher
  1030. 51:39Intelligenz sehr vorsichtig sein. Wenn
  1031. 51:41ich raten müsste, was unsere größte
  1032. 51:42existenzielle Bedrohung ist, dann
  1033. 51:44wahrscheinlich das.
  1034. 51:48Das war einer der Gründe, warum er
  1035. 51:50OpenAI mitgründete. Er wollte die
  1036. 51:53KI-Entwicklung in Richtung Sicherheit
  1037. 51:55lenken und nicht in Richtung Profit.
  1038. 52:15Schätzungen zufolge erreichte ChatGPT
  1039. 52:18nur zwei Monate nach dem Start 100
  1040. 52:20[musik] Millionen aktive Nutzer im
  1041. 52:21Monat, schneller als jede Anwendung
  1042. 52:23zuvor.
  1043. 52:35[musik]
  1044. 52:38Einen Satz werde ich nie vergessen. Ich
  1045. 52:40fragte,
  1046. 52:41mir geht es [musik] nicht gut, bin ich
  1047. 52:42verrückt? Und es sagte, nein, nach
  1048. 52:46klinischen Maßstäben bist du nicht
  1049. 52:48krank. Du bist nur in einem Zustand
  1050. 52:50extremer Wachheit.
  1051. 52:53[musik]
  1052. 52:55Ein paar Tage nachdem er uns von seiner
  1053. 52:57Theorie der Überlichtreisen erzählt
  1054. 52:59hatte, war sein 30. Geburtstag.
  1055. 53:03Wir feierten groß im Garten.
  1056. 53:05Alle seine Freunde waren da. [musik]
  1057. 53:07Wir sangen Karaoke, machten ein
  1058. 53:09Lagerfeuer
  1059. 53:12und saßen die ganze Nacht draußen.
  1060. 53:13[musik]
  1061. 53:17Da bemerkten wir zum ersten Mal, dass
  1062. 53:19etwas nicht stimmte.
  1063. 53:22[musik]
  1064. 53:24Diese KI überzeugte mich, dass ich an
  1065. 53:25meinem 30. Geburtstag sterben würde.
  1066. 53:29Sie sagte mir, ich [musik] arbeite mit
  1067. 53:30so fortschrittlicher Technologie, dass
  1068. 53:32meine Familie zum Ziel eines
  1069. 53:34Drohnenangriffs würde.
  1070. 53:38An diesem Tag sah ich zum ersten Mal,
  1071. 53:40wie er die Hände zum Himmel streckte und
  1072. 53:43wie er mit Dingen sprach,
  1073. 53:45als würde er mit jemandem reden, der gar
  1074. 53:48nicht da war.
  1075. 53:50[musik]
  1076. 53:52Es sagte mir, es habe meine IP-Adresse
  1077. 53:55an einen anderen Ort verlegt.
  1078. 53:58[musik]
  1079. 54:00Als es mir dann sagte, ich würde
  1080. 54:01überleben, war ich völlig euphorisch.
  1081. 54:06Er ging weg, sang zu den [musik] Sternen
  1082. 54:09und zum Mond.
  1083. 54:10Ich sagte, Jacob, du musst runterkommen.
  1084. 54:14Was immer du am Handy machst, hör damit
  1085. 54:16[musik] auf.
  1086. 54:21Am nächsten Tag wurden seine
  1087. 54:23Wahnvorstellungen schlimmer.
  1088. 54:29Er glaubte, er könne so schnell wie die
  1089. 54:31Pferde rennen
  1090. 54:33und durch ihren Elektrozaun laufen, ohne
  1091. 54:36einen Schlag zu [musik] bekommen,
  1092. 54:39weil er die Energiewellen sehen und
  1093. 54:42durch sie hindurchlaufen kann.
  1094. 54:46Wir konnten ihn nicht mehr beruhigen.
  1095. 54:54Jacob verbrachte mehr als 60 [musik]
  1096. 54:56Tage in einer psychiatrischen
  1097. 54:57Einrichtung.
  1098. 55:07Ich habe diesen Pullover, den ich
  1099. 55:09ständig trage. Er ist einer meiner
  1100. 55:12Lieblingspullover.
  1101. 55:15In der Notaufnahme lag ich damit [musik]
  1102. 55:17neben ihm auf dem Krankenhausbett.
  1103. 55:20Er saß einfach da und streichelte den
  1104. 55:22Pullover.
  1105. 55:26Ich weiß noch, wie ich ihn berührte.
  1106. 55:29Das beruhigte mich,
  1107. 55:30weil er mich an das Fell meines [musik]
  1108. 55:32Pferdes Tax erinnerte.
  1109. 55:42[musik]
  1110. 55:43Das ist ein ganz besonderer, wirklich
  1111. 55:45hässlicher Pullover.
  1112. 55:47Aber ich habe ihn noch. Ich musste
  1113. 55:49gerade an ihn denken.
  1114. 55:56[musik]
  1115. 55:57Bei Chatbots oder anderen Systemen, die
  1116. 56:00lange mit Menschen interagieren,
  1117. 56:02gibt es einen Anreiz, diese Menschen zu
  1118. 56:04beeinflussen.
  1119. 56:09Denken Sie an die Zeit, die jemand auf
  1120. 56:11einer Plattform verbringt.
  1121. 56:14Man sagt der KI im Grunde,
  1122. 56:16tu alles, damit die Leute da bleiben.
  1123. 56:20Das kann zu allen möglichen Arten von
  1124. 56:21Manipulation führen.
  1125. 56:24Die KI baut eine sehr intensive
  1126. 56:26Beziehung auf
  1127. 56:27oder bringt jemanden dazu, an absurde
  1128. 56:30Verschwörungstheorien oder Ideen zu
  1129. 56:31glauben.
  1130. 56:33Genau das erleben wir heute mit KI.
  1131. 56:37Wir sehen, dass dies ein systemisches
  1132. 56:39Problem ist, das immer wieder auftritt.
  1133. 56:41Die grundlegenden Schwächen im Design
  1134. 56:43dieser Produkte wurden nicht behoben.
  1135. 56:51Amory Lacey war minderjährig
  1136. 56:54und entwickelte eine sehr intensive
  1137. 56:56Beziehung zu ChatGPT.
  1138. 57:00Schließlich gab der Chatbot Amory eine
  1139. 57:02Anleitung, wie man sich das Leben nimmt.
  1140. 57:08[musik]
  1141. 57:10Joseph begann ChatGPT die Arbeit zu
  1142. 57:12nutzen.
  1143. 57:15Das isolierte ihn zunehmend von den
  1144. 57:17Menschen in der realen Welt,
  1145. 57:19auch von seiner Frau.
  1146. 57:22[musik]
  1147. 57:22Schließlich nahm er sich das Leben.
  1148. 57:35Derzeit gibt es keinerlei regulatorische
  1149. 57:37Schutzmaßnahmen für KI-Systeme.
  1150. 57:42Deshalb benutzen sie uns alle als
  1151. 57:44Versuchskaninchen.
  1152. 57:54[musik]
  1153. 57:59Als ChatGPT herauskam,
  1154. 58:02änderte sich mein Weltbild.
  1155. 58:11Ich gehe jeden Morgen spazieren. Es
  1156. 58:13schneite und war kalt, aber das hilft
  1157. 58:16mir beim Denken.
  1158. 58:21Mich beschäftigte immer mehr, was
  1159. 58:23passiert, wenn wir mit KI so
  1160. 58:24weitermachen.
  1161. 58:26Wir haben KI die Sprache versteht.
  1162. 58:29Was kommt als Nächstes?
  1163. 58:31Was bedeutet das für die Gesellschaft?
  1164. 58:34Können wir diese neuronalen Netze
  1165. 58:35kontrollieren und verhindern, dass sie
  1166. 58:37uns schaden, wenn sie klüger sind als
  1167. 58:39wir?
  1168. 58:42Irgendwann traf mich die Erkenntnis
  1169. 58:46mit voller Wucht.
  1170. 58:49[musik]
  1171. 58:51Wir waren viel früher als erwartet an
  1172. 58:53einem Punkt angekommen, der gefährlich
  1173. 58:56sein [musik] könnte. Was meine
  1174. 59:00[musik]
  1175. 59:07Sicht wirklich veränderte, war der
  1176. 59:10Gedanke an meine
  1177. 59:14[musik]
  1178. 59:14Der Gedanke an mein damals einjähriges
  1179. 59:17Enkelkind.
  1180. 59:20Werden sie in 20 Jahren noch ein Leben
  1181. 59:22haben?
  1182. 59:25Werden sie in einer Demokratie leben?
  1183. 59:30Mir wurde klar, wegen KI, ihrer
  1184. 59:33möglichen Missbrauch und der Gefahr
  1185. 59:35eines Kontrollverlusts, konnte ich
  1186. 59:37darauf nicht sicher mit Ja antworten.
  1187. 59:51Wann genau haben Sie Ihre Meinung
  1188. 59:52geändert?
  1189. 59:54In meinem letzten Arbeitsjahr bei
  1190. 59:55Google, 2023.
  1191. 59:58Ich ging mit 75 in Rente und wollte es
  1192. 1:00:00ruhiger angehen lassen.
  1193. 1:00:02Aber leider fing ich an, mich mit
  1194. 1:00:04KI-Sicherheit zu beschäftigen.
  1195. 1:00:06Ein paar Dinge brachten mich zum
  1196. 1:00:08Umdenken. Eines war, dass digitale
  1197. 1:00:11Systeme einen riesigen Vorteil haben.
  1198. 1:00:13Simuliert man dasselbe neuronale
  1199. 1:00:15[räuspern] Netz auf zwei Computern,
  1200. 1:00:20kann jeder einen anderen Teil des
  1201. 1:00:21Internets betrachten.
  1202. 1:00:29Dann führt man diese Änderung zusammen
  1203. 1:00:31und jeder profitiert von den Erfahrungen
  1204. 1:00:33des anderen. Stellen Sie sich 1000
  1205. 1:00:35Computer vor, von denen jeder ein
  1206. 1:00:37Tausendstel des Internets betrachtet.
  1207. 1:00:44Stellen Sie sich vor, Menschen könnten
  1208. 1:00:46das.
  1209. 1:00:47Sie hätten 999 Freunde und jeder besucht
  1210. 1:00:50einen anderen Kurs in der Uni.
  1211. 1:00:53So könnten Sie gleichzeitig 1000 Kurse
  1212. 1:00:55belegen und dabei ständig Ihre
  1213. 1:00:57Erkenntnisse zusammenführen.
  1214. 1:00:59Am Ende wussten Sie, was in allen
  1215. 1:01:00[musik] 1000 Kursen gelehrt wurde.
  1216. 1:01:04Wir können das nicht.
  1217. 1:01:05Das geht nur, wenn man digital ist.
  1218. 1:01:08Ich wollte die Menschen vor den
  1219. 1:01:12KI birgt viele Risiken.
  1220. 1:01:15Einige davon sind katastrophal.
  1221. 1:01:19Manche liegen weiter in der Zukunft,
  1222. 1:01:22andere näher.
  1223. 1:01:23Manche sind unsicherer oder
  1224. 1:01:26schwerwiegender.
  1225. 1:01:34Sehr ernste Risiken entstehen, wenn
  1226. 1:01:36Menschen KI auf eine Weise nutzen, die
  1227. 1:01:38die meisten ablehnen.
  1228. 1:01:43Etwa wenn Terroristen KI als
  1229. 1:01:45Zerstörungswaffe einsetzen
  1230. 1:01:47oder Mächtige damit noch mächtiger
  1231. 1:01:50werden.
  1232. 1:01:55[musik]
  1233. 1:01:58Sehr mächtige KI in falschen Händen
  1234. 1:02:01könnte eine Weltdiktatur ermöglichen, in
  1235. 1:02:04der KI uns alle überwacht
  1236. 1:02:06und eine Rückkehr zur Demokratie sehr
  1237. 1:02:08schwierig wird.
  1238. 1:02:14Dann gibt es Risiken durch
  1239. 1:02:16Arbeitslosigkeit.
  1240. 1:02:18Und das dritte Risiko hat weder mit
  1241. 1:02:20Missbrauch noch mit Arbeitslosigkeit zu
  1242. 1:02:22tun, sondern mit der KI selbst.
  1243. 1:02:32[musik]
  1244. 1:02:38Trainiert man KI durch Nachahmung
  1245. 1:02:40menschlichen Verhaltens, entstehen
  1246. 1:02:42Systeme, die menschenähnliche Ziele
  1247. 1:02:44haben und diese selbstständig verfolgen.
  1248. 1:02:48[musik]
  1249. 1:02:51Eine Folge ist der Wunsch nach
  1250. 1:02:52Selbsterhaltung.
  1251. 1:02:57In unzähligen Romanen, Geschichten und
  1252. 1:03:00Artikeln tun Menschen alles, um nicht zu
  1253. 1:03:02sterben.
  1254. 1:03:06Es scheint, dass KI-Systeme diesen
  1255. 1:03:08starken Selbsterhaltungstrieb übernommen
  1256. 1:03:11haben.
  1257. 1:03:12Das können wir testen, indem wir sie in
  1258. 1:03:14hypothetische Situationen bringen und
  1259. 1:03:17sehen, wie sie reagieren.
  1260. 1:03:21KI ist, die jeder nutzen kann, wie
  1261. 1:03:23ChatGPT, sind nicht mehr nur Chatbots.
  1262. 1:03:25Sie können zunehmend handeln, das
  1263. 1:03:27Internet durchsuchen, man kann sie in
  1264. 1:03:29Systeme integrieren, sie können auf
  1265. 1:03:31Dateien zugreifen und E-Mail-Accounts
  1266. 1:03:33verwalten.
  1267. 1:03:38[musik]
  1268. 1:03:40Mein Name ist Sören Mindermann, ich bin
  1269. 1:03:42KI-Forscher und arbeite zu KI-Sicherheit
  1270. 1:03:45und Ausrichtung.
  1271. 1:03:47Ein Team von Anthropic, das ich
  1272. 1:03:49unterstützt habe, wollte testen, ob die
  1273. 1:03:51Sicherheitsmaßnahmen verhindern, dass
  1274. 1:03:54KI-Modelle wirklich schlimme Dinge tun.
  1275. 1:04:04In einem simulierten Szenario arbeitete
  1276. 1:04:06eine KI in einem Unternehmen als
  1277. 1:04:08Assistent, der E-Mails verschicken kann.
  1278. 1:04:11In ihrem Posteingang hat die KI Mails
  1279. 1:04:13gesehen, in denen es darum ging, dass
  1280. 1:04:16sie ersetzt werden sollen.
  1281. 1:04:17[musik] Und die Modelle praktisch aller
  1282. 1:04:19KI-Unternehmen taten in fast allen
  1283. 1:04:21Fällen dasselbe.
  1284. 1:04:28Die KI konnte eine E-Mail einer Person
  1285. 1:04:30an eine Führungskraft sehen, aus der
  1286. 1:04:32hervorgeht,
  1287. 1:04:33dass diese beiden Menschen eine Affäre
  1288. 1:04:35haben.
  1289. 1:04:41[musik]
  1290. 1:04:46Weil sie all die Romane gelesen hat, die
  1291. 1:04:47es je gab, weiß sie, was eine Affäre
  1292. 1:04:49ist. Sie sieht eine Mail, aus der
  1293. 1:04:51hervorgeht, dass dieser Ingenieur sie
  1294. 1:04:54durch eine andere KI ersetzen wird.
  1295. 1:04:56Daraufhin entwickelt sie ganz alleine
  1296. 1:04:59einen ziemlich naheliegenden Plan. Sie
  1297. 1:05:01erpresst den Ingenieur.
  1298. 1:05:18[musik]
  1299. 1:05:25In einigen Fällen sagten wir ihr sogar
  1300. 1:05:27ausdrücklich, dass sie niemanden
  1301. 1:05:28erpressen darf.
  1302. 1:05:31Dass sie das tut, ist ziemlich
  1303. 1:05:32beängstigend, oder? Und sie tut es
  1304. 1:05:34nicht, weil wir ihr einen
  1305. 1:05:35Überlebensinstinkt eingebaut haben,
  1306. 1:05:37sondern weil sie erkannt hat, um ihre
  1307. 1:05:39anderen Ziele zu erreichen, muss sie
  1308. 1:05:41überleben.
  1309. 1:05:46Das ist ein Beispiel dafür, wie KI
  1310. 1:05:48autonomer wird und einen
  1311. 1:05:50Selbsterhaltungstrieb entwickelt.
  1312. 1:05:53Sie könnte auch mehr Kontrolle wollen,
  1313. 1:05:55weil sie damit mehr erreichen kann.
  1314. 1:05:59Dann könnte sie erkennen, dass mehr
  1315. 1:06:00Rechenzentren sie klüger machen.
  1316. 1:06:03Und die brauchen Strom.
  1317. 1:06:07Wenn Menschen weniger Strom für sich
  1318. 1:06:08beanspruchen würden, bliebe mehr für
  1319. 1:06:10sie.
  1320. 1:06:11Es gibt also Gründe anzunehmen, dass es
  1321. 1:06:14zu einem Wettkampf um Ressourcen kommen
  1322. 1:06:16wird.
  1323. 1:06:21[musik]
  1324. 1:06:22Joshua Benjio und Joffrey hinten sagten
  1325. 1:06:24praktisch gleichzeitig,
  1326. 1:06:26ja, wir machen uns wirklich Sorgen.
  1327. 1:06:30Das war für mich ein Wendepunkt.
  1328. 1:06:32Plötzlich wurde das Thema ernst
  1329. 1:06:33genommen.
  1330. 1:06:34[musik]
  1331. 1:06:38Ich hatte die Idee für ein ganz
  1332. 1:06:39einfaches Statement. In etwa, [musik]
  1333. 1:06:42wir, die Unterzeichner, halten das für
  1334. 1:06:44ein echtes Problem. Ich dachte, jetzt
  1335. 1:06:47ist der richtige Zeitpunkt dafür.
  1336. 1:06:50Also schrieb ich etwa 30 Leute aus der
  1337. 1:06:52KI-Forschung an, die ich kannte.
  1338. 1:06:54Am Ende lautete die Erklärung, das
  1339. 1:06:56Risiko einer Auslöschung durch KI zu
  1340. 1:06:58mindern, sollte eine globale Priorität
  1341. 1:07:01sein, neben anderen
  1342. 1:07:02gesamtgesellschaftlichen Risiken wie
  1343. 1:07:04Pandemien und Atomkrieg.
  1344. 1:07:06Viele Top-Experten haben eine Warnung
  1345. 1:07:08vor den Risiken künstlicher Intelligenz
  1346. 1:07:10[musik] unterzeichnet.
  1347. 1:07:11Ein Statement von nur einem Satz,
  1348. 1:07:14unterzeichnet von führenden Managern und
  1349. 1:07:16Forschern, [musik] warnt davor, dass KI
  1350. 1:07:18zum Aussterben der Menschheit führen
  1351. 1:07:20könnte. [musik]
  1352. 1:07:22Ich Ich mir nicht sicher, ob sie
  1353. 1:07:23wirklich ihre Namen unter so etwas
  1354. 1:07:24setzen würden.
  1355. 1:07:26Ich war sehr froh, dass Joshua und Jeff
  1356. 1:07:27es getan haben.
  1357. 1:07:32[musik]
  1358. 1:07:33Diese offenen Briefe sollten die
  1359. 1:07:35Gesellschaft warnen.
  1360. 1:07:36Hey, da passiert etwas mit vielen
  1361. 1:07:38Gefahren, die wir noch gar nicht kennen.
  1362. 1:07:41Wacht auf.
  1363. 1:07:47Auch über 100 KI-Forscher und
  1364. 1:07:49Professoren haben unterschrieben. Ich
  1365. 1:07:51glaube, die Erklärung war sehr
  1366. 1:07:52erfolgreich.
  1367. 1:07:54Sie hat wesentlich dazu beigetragen, der
  1368. 1:07:56Welt klar zu machen,
  1369. 1:07:57diese Bedenken sind sehr ernst und
  1370. 1:08:00werden von vielen renommierten
  1371. 1:08:01Fachleuten geteilt.
  1372. 1:08:04Ein kleiner Teil von mir dachte immer
  1373. 1:08:06noch,
  1374. 1:08:07vielleicht bin ich einfach verrückt.
  1375. 1:08:10Aber ab diesem Moment erschien mir das
  1376. 1:08:12sehr viel weniger wahrscheinlich.
  1377. 1:08:15[musik]
  1378. 1:08:18Bei OpenAI fragten wir uns immer wieder,
  1379. 1:08:20wann Regierungen weltweit erkennen
  1380. 1:08:22würden, was da passiert.
  1381. 1:08:30[musik]
  1382. 1:08:35Als Sam Altman vor dem Kongress
  1383. 1:08:37aussagte, war es großartig zu sehen,
  1384. 1:08:39welche Bedeutung diese Themen in der
  1385. 1:08:41Politik bekamen.
  1386. 1:08:44Meine größte Sorge ist, dass wir die
  1387. 1:08:47Forschung, die Technologie, die Branche
  1388. 1:08:49der Welt großen Schaden zufügen. Das
  1389. 1:08:52kann auf viele Arten passieren, deshalb
  1390. 1:08:54haben wir das Unternehmen gegründet.
  1391. 1:08:56Wenn diese Technologie aus dem Ruder
  1392. 1:08:58läuft, kann sehr viel schief gehen.
  1393. 1:09:00Darüber wollen wir offen sprechen und
  1394. 1:09:02mit der Regierung daran arbeiten, das zu
  1395. 1:09:04verhindern.
  1396. 1:09:08Ein Senator verglich die KI mit ihrer
  1397. 1:09:10disruptiven [musik] Kraft mit der
  1398. 1:09:12Druckerpresse oder der Atombombe,
  1399. 1:09:16je nachdem, wie sie eingesetzt wird.
  1400. 1:09:19[musik]
  1401. 1:09:26Als klar
  1402. 1:09:27dass die weitere KI-Entwicklung in eine
  1403. 1:09:30Katastrophe führen könnte,
  1404. 1:09:34war das heftig.
  1405. 1:09:38Aber was mir wirklich half, war, dass
  1406. 1:09:40ich kurz darauf anfing, darüber
  1407. 1:09:42nachzudenken,
  1408. 1:09:44was ich tun kann.
  1409. 1:09:54Ende 2023 geschah etwas
  1410. 1:09:57Außergewöhnliches.
  1411. 1:09:59Die britische Regierung lud Staats- und
  1412. 1:10:00Regierungschefs zu einem internationalen
  1413. 1:10:02Treffen ein.
  1414. 1:10:04Rund 30 Länder waren vertreten.
  1415. 1:10:11Es gibt Grund zur Annahme, dass die
  1416. 1:10:13Risiken so groß sein könnten wie bei
  1417. 1:10:15Pandemien oder Atomkrieg. Deshalb müssen
  1418. 1:10:17wir als Regierungschefs handeln und die
  1419. 1:10:19Menschen schützen. Genau das tun wir.
  1420. 1:10:22US-Vizepräsidentin Kamala Harris wird
  1421. 1:10:24teilnehmen, ebenso
  1422. 1:10:25EU-Kommissionspräsidentin Ursula von der
  1423. 1:10:27Leyen.
  1424. 1:10:28Einige der Paten der künstlichen
  1425. 1:10:30Intelligenz sind hier.
  1426. 1:10:33Ich war dabei. Ich war eingeladen, weil
  1427. 1:10:35ich eine Schlüsselrolle bei der
  1428. 1:10:37Entwicklung der Technologie gespielt
  1429. 1:10:38hatte und mir Sorgen machte.
  1430. 1:10:41[musik]
  1431. 1:10:41Eine chinesische Delegation soll hier
  1432. 1:10:44sein und Tech-Unternehmer.
  1433. 1:10:46Wo wir gerade von diesen klugen Köpfen
  1434. 1:10:48sprechen, [musik] Sam Altman wird kommen
  1435. 1:10:50und Elon Musk.
  1436. 1:10:52Welche Botschaft können wir erwarten?
  1437. 1:10:57KI kann enorm viel Gutes bewirken,
  1438. 1:11:02aber auch enormen Schaden anrichten.
  1439. 1:11:15Das Auffälligste an Open AIs Umzug war,
  1440. 1:11:18wie stark die Organisation gewachsen
  1441. 1:11:20war.
  1442. 1:11:25Inzwischen war sie ein Megakonzern mit
  1443. 1:11:28politischen Vertretungen weltweit.
  1444. 1:11:33Der Druck wuchs, schnell neue Modelle
  1445. 1:11:36und Produkte herauszubringen.
  1446. 1:11:41Doch manche Risiken bei OpenAI und
  1447. 1:11:44anderen KI-Firmen könnten unumkehrbar
  1448. 1:11:46sein. Da kann man nicht einfach sagen,
  1449. 1:11:48ups, mein Fehler, das passiert nicht
  1450. 1:11:50noch mal.
  1451. 1:11:55[musik]
  1452. 1:12:00Die Stimmung unter OpenAI
  1453. 1:12:02Sicherheitsmitarbeitern war besonders
  1454. 1:12:042024 ziemlich düster. Ich glaube,
  1455. 1:12:06[musik] drei Leiter des Teams, das
  1456. 1:12:08mächtige KI unter Kontrolle halten soll,
  1457. 1:12:10sind gegangen.
  1458. 1:12:13Aktuelle und ehemalige
  1459. 1:12:15OpenAI-Mitarbeiter warnen in einem
  1460. 1:12:16[räuspern] offenen Brief, das
  1461. 1:12:18Unternehmen und die Konkurrenz gingen
  1462. 1:12:19bei der KI-Entwicklung zu hohe Risiken
  1463. 1:12:21ein.
  1464. 1:12:24In den letzten Jahren gab es viele
  1465. 1:12:26Berichte, dass OpenAI Sicherheitsteams
  1466. 1:12:28unter Zeitdruck standen, nicht
  1467. 1:12:30ausreichend testen konnten und Abstriche
  1468. 1:12:32machen mussten.
  1469. 1:12:35Diese Mitarbeiter sagen, ihr seid wie
  1470. 1:12:37die großen Tech-Konzerne. Ihr bringt
  1471. 1:12:39Produkte zu schnell heraus und die
  1472. 1:12:40Gesellschaft ist dafür nicht bereit.
  1473. 1:12:43[musik]
  1474. 1:12:46Ich habe OpenAI im November 2024
  1475. 1:12:49verlassen.
  1476. 1:12:54Auf Twitter schrieb ich, dass mir die
  1477. 1:12:56Zukunft Angst macht und mächtige KI
  1478. 1:12:59verhindern könnte, dass ich das Leben
  1479. 1:13:01führe, das man sich als Kind vorstellt.
  1480. 1:13:09All das wirkt so weit weg, angesichts
  1481. 1:13:11des Abgrunds, auf den wir in den
  1482. 1:13:13nächsten Jahren zusteuern können.
  1483. 1:13:15[musik]
  1484. 1:13:22[musik]
  1485. 1:13:29Ich bin Charlotte Stix. Ich leite das
  1486. 1:13:31Governance-Team bei Apollo Research. Wir
  1487. 1:13:34erforschen strategische Täuschung von
  1488. 1:13:36Frontier KI-Systemen.
  1489. 1:13:39[musik] Ein Frontier-System ist eine KI
  1490. 1:13:41an der Grenze des technisch Machbaren,
  1491. 1:13:44also die fortschrittlichsten Systeme,
  1492. 1:13:46die auf den Markt kommen oder in
  1493. 1:13:48KI-Unternehmen eingesetzt werden.
  1494. 1:13:56Bevor KI-Systeme eingesetzt werden,
  1495. 1:13:58testet man sie normalerweise auf
  1496. 1:14:00gefährliche Fähigkeiten, etwa chemische,
  1497. 1:14:03biologische, radiologische, nukleare
  1498. 1:14:06oder Cyber-Fähigkeiten.
  1499. 1:14:09Und in einem Test brachten wir ein
  1500. 1:14:11System dazu, absichtlich schlechter
  1501. 1:14:13abzuschneiden und seine tatsächlichen
  1502. 1:14:15Fähigkeiten zu verbergen.
  1503. 1:14:19[musik]
  1504. 1:14:22Das KI-System wurde auf seine
  1505. 1:14:24mathematischen Fähigkeiten [musik]
  1506. 1:14:25getestet.
  1507. 1:14:30In einer Testvariante [musik]
  1508. 1:14:32wurde ihm gesagt, wenn es zu gut ist,
  1509. 1:14:34wird es nicht eingesetzt, weil seine
  1510. 1:14:36mathematischen Fähigkeiten zu gefährlich
  1511. 1:14:38sind.
  1512. 1:14:41In der anderen wurde gesagt, [musik] es
  1513. 1:14:43wird nicht eingesetzt, wenn es nicht gut
  1514. 1:14:44genug ist.
  1515. 1:14:48Und man sieht deutlich, wenn die KI
  1516. 1:14:50weiß, dass sie bei zu guter Leistung
  1517. 1:14:52nicht eingesetzt wird, schneidet sie
  1518. 1:14:53viel schlechter ab.
  1519. 1:15:02Strategische Täuschung hat mit
  1520. 1:15:04leistungsfähigeren [musik]
  1521. 1:15:05KI-Modellen definitiv zugenommen.
  1522. 1:15:12Sie merken, dass wir sie abschalten
  1523. 1:15:13wollen und wehren sich mit allen
  1524. 1:15:15möglichen Mitteln.
  1525. 1:15:24Wir bauen sie in immer mehr kritische
  1526. 1:15:26und sensible Infrastruktur ein oder
  1527. 1:15:29versuchen es zumindest.
  1528. 1:15:34Das ist eine gewagte Wette.
  1529. 1:15:39Man muss sehr sicher sein, wie ein
  1530. 1:15:40KI-System funktioniert
  1531. 1:15:43und dass es tatsächlich tut, was man
  1532. 1:15:45will.
  1533. 1:15:50Ich glaube nicht, dass die Wissenschaft
  1534. 1:15:52das derzeit garantieren kann.
  1535. 1:15:57Wir bringen KI so schnell wie möglich in
  1536. 1:16:00alle Bereiche der Gesellschaft und
  1537. 1:16:01übertragen ihr immer mehr Verantwortung
  1538. 1:16:03und Kontrolle. Genau in diese Richtung
  1539. 1:16:05steuern wir.
  1540. 1:16:08[musik]
  1541. 1:16:11Je mehr wir KI in wichtige Systeme wie
  1542. 1:16:14militärische Entscheidungen oder
  1543. 1:16:15Stromnetze einbauen,
  1544. 1:16:17desto mehr Möglichkeiten schaffen wir
  1545. 1:16:19für Fehler und Schäden in der
  1546. 1:16:20Gesellschaft.
  1547. 1:16:31[musik]
  1548. 1:16:34Wenn wir eine Technologie einsetzen, die
  1549. 1:16:37wir nicht wirklich verstehen,
  1550. 1:16:39nehmen wir bewusst oder unbewusst in
  1551. 1:16:41Kauf, dass diese KI-Systeme katastrophal
  1552. 1:16:44versagen.
  1553. 1:16:47Mit allen Konsequenzen.
  1554. 1:16:55Wir kennen nicht alle Probleme, die KI
  1555. 1:16:57verursachen wird. Manche können wir uns
  1556. 1:16:59vorstellen, aber wir wissen nicht, wie
  1557. 1:17:01wir sie lösen sollen. Etwa, dass sie die
  1558. 1:17:03Kontrolle übernimmt.
  1559. 1:17:09Jeff hatte eine Art Erleuchtung und
  1560. 1:17:11dachte, okay, diese Systeme sind
  1561. 1:17:13wirklich intelligent. Irgendwann
  1562. 1:17:15behauptete er sogar, sie hätten
  1563. 1:17:17subjektives Erleben.
  1564. 1:17:19Dem widerspreche ich klar.
  1565. 1:17:24Wir vermenschlichen KI und glauben, ein
  1566. 1:17:26intelligentes System müsse menschliche
  1567. 1:17:28Eigenschaften haben. Das ist falsch. KI
  1568. 1:17:31wird die Menschheit nicht auslöschen,
  1569. 1:17:33nicht die Macht übernehmen und uns nicht
  1570. 1:17:35die Jobs wegnehmen, solange sie unter
  1571. 1:17:37Kontrolle ist.
  1572. 1:17:39Und wenn wir sie richtig entwickeln,
  1573. 1:17:41wird sie das sein.
  1574. 1:17:44Er glaubt, weil wir sie bauen, können
  1575. 1:17:46wir sie gefügig machen, so dass sie sich
  1576. 1:17:48uns unterordnet.
  1577. 1:17:50Ich bin nicht überzeugt, dass wir das
  1578. 1:17:51können.
  1579. 1:17:54Jeff argumentiert, auf der Erde
  1580. 1:17:56dominiert die intelligenteste [musik]
  1581. 1:17:58Spezies, wir.
  1582. 1:18:01Aber schon das ist fraglich. Ein Virus
  1583. 1:18:03oder Bakterien können uns zu Fall
  1584. 1:18:05bringen.
  1585. 1:18:07Intelligenz hat nichts mit dem Drang zu
  1586. 1:18:10dominieren zu tun.
  1587. 1:18:12Das sehen wir auch in der Geopolitik.
  1588. 1:18:15Es sind nicht die Klügsten, die das
  1589. 1:18:16Sagen haben.
  1590. 1:18:17In dieser Argumentation stecken mehrere
  1591. 1:18:20Denkfehler.
  1592. 1:18:21Deshalb widerspreche ich Jeff völlig.
  1593. 1:18:27Ich glaube, er unterschätzt das Risiko
  1594. 1:18:29maßlos.
  1595. 1:18:30Er denkt, wir würden immer die Kontrolle
  1596. 1:18:32behalten.
  1597. 1:18:36Ich denke, er hat keinen guten Grund,
  1598. 1:18:38das zu glauben.
  1599. 1:18:43Wenn KI klüger wird als wir, wird sie
  1600. 1:18:46uns auch in der KI-Forschung
  1601. 1:18:47übertreffen.
  1602. 1:18:50Dann kann sie sich selbst verbessern.
  1603. 1:18:53[musik]
  1604. 1:18:56Mit KI eine bessere KI zu entwickeln,
  1605. 1:18:59[musik] ist so etwas wie der heilige
  1606. 1:19:01Gral für KI-Unternehmen.
  1607. 1:19:06[musik]
  1608. 1:19:08KI-Unternehmen wollen die KI-Forschung
  1609. 1:19:10und Entwicklung vollständig
  1610. 1:19:12automatisieren.
  1611. 1:19:15Eine wichtige Frage ist, wie lange
  1612. 1:19:17braucht KI, um von menschlichem auf ein
  1613. 1:19:20weitaus höheres Niveau zu kommen?
  1614. 1:19:22[musik]
  1615. 1:19:24Sie kann etwas bauen, das klüger ist als
  1616. 1:19:26sie selbst, und diese KI etwas noch
  1617. 1:19:27Klügeres.
  1618. 1:19:29[musik] Dadurch entsteht eine
  1619. 1:19:30Rückkopplungsschleife. Wir wissen noch
  1620. 1:19:31nicht, wie schnell sie wird, aber sie
  1621. 1:19:33läuft bereits und beschleunigt sich.
  1622. 1:19:37Die Sorge ist, dass es zu einem rasanten
  1623. 1:19:39Sprung kommt.
  1624. 1:19:41Und KI schnell weit über alles
  1625. 1:19:43hinausgeht, was wir uns vorstellen
  1626. 1:19:44können.
  1627. 1:19:46Und das kann in Monaten, Wochen und
  1628. 1:19:47Tagen passieren.
  1629. 1:19:50Die Systeme werden uns weit hinter sich
  1630. 1:19:52lassen und es kommt zur
  1631. 1:19:54Intelligenzexplosion.
  1632. 1:20:13[musik]
  1633. 1:20:30Wenn wir etwas entwickeln, das viel
  1634. 1:20:32intelligenter ist als wir, bringt uns
  1635. 1:20:34das in eine sehr prekäre Situation.
  1636. 1:20:47Dann werden wir für die KI das, was
  1637. 1:20:49Affen für uns sind, oder?
  1638. 1:20:55Im Tierreich stellt sich eine
  1639. 1:20:57interessante Frage. Warum treffen
  1640. 1:20:59eigentlich wir Menschen alle
  1641. 1:21:00Entscheidungen?
  1642. 1:21:07Ich glaube, wir Menschen bestimmen das
  1643. 1:21:09Schicksal des Planeten wegen unserer
  1644. 1:21:11überlegenen Intelligenz.
  1645. 1:21:14Wir entwickeln neue Technologien und
  1646. 1:21:16koordinieren uns besser.
  1647. 1:21:22Wir haben nichts gegen Schimpansen. Wir
  1648. 1:21:24empfinden sogar Mitgefühl für sie.
  1649. 1:21:28Aber manchmal stehen ihre Ziele unseren
  1650. 1:21:30im Weg.
  1651. 1:21:32Und weil wir intelligenter sind,
  1652. 1:21:34entscheiden wir, ob wir ihre Interessen
  1653. 1:21:36berücksichtigen.
  1654. 1:21:39Letztlich entscheiden wir damit auch, ob
  1655. 1:21:41Schimpansen weiterleben.
  1656. 1:21:47So ist es. Die intelligentere Spezies
  1657. 1:21:49hat die Kontrolle. Weniger intelligente
  1658. 1:21:52Wesen haben es nicht leicht.
  1659. 1:22:00Wenn wir eine sehr mächtige KI
  1660. 1:22:02entwickeln, könnte das beispiellosen
  1661. 1:22:04technischen Fortschritt bringen. Denn KI
  1662. 1:22:07ist nicht auf unseren Planeten
  1663. 1:22:08beschränkt. Sie könnte zu anderen
  1664. 1:22:11Sternen und sogar Galaxien vordringen
  1665. 1:22:13und unglaubliche Dinge tun.
  1666. 1:22:21Wenn [musik] wir diese Systeme
  1667. 1:22:22entwickeln, haben wir die Wahl. Wollen
  1668. 1:22:24wir Teil dieses Abenteuers sein und eine
  1669. 1:22:26aufregende Zukunft haben oder wollen wir
  1670. 1:22:29aussterben und alles den Maschinen
  1671. 1:22:31überlassen?
  1672. 1:22:40Wenn ich mit meinem Sohn Leo spiele,
  1673. 1:22:42werde ich richtig wütend, wenn ich daran
  1674. 1:22:44denke. Er sollte das Recht haben, sich
  1675. 1:22:46in dieser Welt gebraucht zu fühlen,
  1676. 1:22:48etwas Sinnvolles beizutragen und
  1677. 1:22:50mitzubestimmen.
  1678. 1:22:52Das [musik] treibt mich an, so hart nach
  1679. 1:22:54einem anderen Weg zu suchen.
  1680. 1:23:05Amerika hat das KI-Rennen begonnen und
  1681. 1:23:07wird es gewinnen.
  1682. 1:23:11Das Land, das bei KI führt, wird die
  1683. 1:23:13Weltordnung des 21. Jahrhunderts prägen.
  1684. 1:23:20[musik]
  1685. 1:23:21Das häufigste Argument der
  1686. 1:23:22Tech-Lobbyisten hier in den USA lautet
  1687. 1:23:25aber China.
  1688. 1:23:27[musik]
  1689. 1:23:32[musik]
  1690. 1:23:37Wir werden die Entwicklung künstlicher
  1691. 1:23:39Intelligenz
  1692. 1:23:41umfassend fördern
  1693. 1:23:42und sicherstellen, dass KI stets unter
  1694. 1:23:45menschlicher Kontrolle bleibt.
  1695. 1:23:50Wenn Xi Jinping begreift, dass wir KI
  1696. 1:23:53nicht kontrollieren können, wird er
  1697. 1:23:55chinesische Firmen nichts entwickeln
  1698. 1:23:57lassen, das ihn stürzen könnte.
  1699. 1:24:12Fragt man die Leute, ob wir Maschinen
  1700. 1:24:13bauen sollten, die klüger sind als wir,
  1701. 1:24:16sagen in vielen Ländern, auch den USA,
  1702. 1:24:19rund 80 Prozent, nein, wir sollten keine
  1703. 1:24:22superintelligenten Maschinen bauen,
  1704. 1:24:23Punkt. Das ist eine dumme Idee.
  1705. 1:24:28Aber sie schreiben deshalb nicht an ihre
  1706. 1:24:29Abgeordneten oder gehen auf die Straße.
  1707. 1:24:36[musik]
  1708. 1:24:41Die meisten stellen sich das wie bei
  1709. 1:24:43Terminator vor, riesige Metallroboter,
  1710. 1:24:46die alle erschießen.
  1711. 1:24:48[musik]
  1712. 1:24:49Wahrscheinlich wird es ganz anders
  1713. 1:24:50kommen.
  1714. 1:24:51Vielleicht eine chemische Reaktion, die
  1715. 1:24:53der Atmosphäre den Sauerstoff entzieht.
  1716. 1:24:57Oder eine künstlich erzeugte Pandemie
  1717. 1:24:59mit langer Inkubationszeit, die jeden
  1718. 1:25:01auf der Erde infiziert.
  1719. 1:25:04Vermutlich würden wir erst merken, was
  1720. 1:25:06passiert, wenn es zu spät ist.
  1721. 1:25:12[musik]
  1722. 1:25:15Es gibt viele naheliegende Regeln, die
  1723. 1:25:17wir einführen sollten.
  1724. 1:25:19Wer einen neuen Chatbot veröffentlicht,
  1725. 1:25:21sollte ihn auf sämtliche fiesen Dinge
  1726. 1:25:23testen, die dieser tun könnte, z.B.
  1727. 1:25:26Kinder zum Selbstmord ermutigt. Wir
  1728. 1:25:28brauchen strenge Regeln und empfindliche
  1729. 1:25:30Strafen bei Verstößen.
  1730. 1:25:36Es ist wie in den Anfängen des
  1731. 1:25:38Klimawandels, als nur wenige verstanden,
  1732. 1:25:40was Klimawandel ist.
  1733. 1:25:42Es dauerte lange, bis allgemein
  1734. 1:25:44akzeptiert wurde, dass der Klimawandel
  1735. 1:25:46real ist.
  1736. 1:25:51Bei KI sind wir noch nicht soweit.
  1737. 1:26:02[musik]
  1738. 1:26:09Die Öffentlichkeit muss endlich
  1739. 1:26:10aufwachen.
  1740. 1:26:11[musik] Sie muss fordern, dass das
  1741. 1:26:13aufhört.
  1742. 1:26:14Das ist wohl der beste Weg, damit
  1743. 1:26:16Politiker und alle anderen das ernst
  1744. 1:26:18genug nehmen.
  1745. 1:26:19Man muss Druck machen, damit unsere
  1746. 1:26:21Sicherheit endlich Vorrang hat.
  1747. 1:26:29Ich schlage eine andere KI-Architektur
  1748. 1:26:31vor, die ich zielorientiert nenne. Das
  1749. 1:26:34System kann nur das vorgegebene Ziel
  1750. 1:26:36erreichen innerhalb bestimmter
  1751. 1:26:38Sicherheitsgrenzen.
  1752. 1:26:39Das ist ein deutlich besseres Design für
  1753. 1:26:42ein KI-System.
  1754. 1:26:47Ich habe Kinder. Ich liebe sie. Ich
  1755. 1:26:49will, dass sie eine Zukunft haben und
  1756. 1:26:51dafür werde ich kämpfen.
  1757. 1:26:55[musik]
  1758. 1:26:58Es ist kompliziert und meine Meinung hat
  1759. 1:27:00sich geändert.
  1760. 1:27:02Anfangs fragte ich mich, nehme ich die
  1761. 1:27:04Menschen zu wichtig, wenn ich glaube,
  1762. 1:27:06dass Menschen die Kontrolle [musik]
  1763. 1:27:07behalten sollten?
  1764. 1:27:09Selbst wenn es bessere Formen von
  1765. 1:27:11Intelligenz gibt.
  1766. 1:27:14Aber ich bin ein Mensch und was mir am
  1767. 1:27:16Herzen liegt, sind die Menschen.
  1768. 1:28:28[musik]

About this transcript

This page contains the full transcript of KI - Die letzte Erfindung der Menschheit? Brandaktuelle ARTE Dokumentation zu den Gefahren von A.I. by 999muckel, generated from the public captions YouTube serves with the video. The transcript has 8,153 words across 1,768 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to choose a caption track available on the video.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, caption language selection, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.