YT YouTube2Text

YouTube2Text → Transcripts → Prof. Dr. Marcus Hutter: „Superintelligenz ist NICHT aufzuhalten!“ Das kommt jetzt

Prof. Dr. Marcus Hutter: „Superintelligenz ist NICHT aufzuhalten!“ Das kommt jetzt — Transcript

by Everlast AI · 13,045 words · 2,220 segments · language en · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:00Jetzt haben wir ein mathematisches
0:01Modell von Superintelligenz. Das heißt,
0:03wir können Superintelligenz jetzt schon
0:05studieren. Software kann sich natürlich
0:07sehr schnell theoretisch sozusagen mit
0:08Lichtgeschwindigkeit selbst verbessern,
0:10weil in der Geschichte hat noch niemals
0:12ein dummerer Organismus sozusagen
0:14intelligenteren kontrolliert.
0:16Wie sieht meine Arbeit in Zukunft aus?
0:17Welche Fähigkeiten sind noch relevant?
0:19Welche Jobs sind noch relevant? zuerst
0:21die Office Jobs und dann auch die
0:22physikalischen Jobs ersetzt werden durch
0:24KI und wenn die KI wirklich in allen
0:26Bereichen ultimativ besser ist als der
0:28Mensch und dann billiger, gibt es keinen
0:31Menschen mehr anzustellen. Da habe ich
0:33dann echt in der Tat eigene Roboter
0:34entwickelt, so ungefähr zehn. Habe dann
0:37mein ferngesteuertes Auto auseinander
0:39genommen und selbst Roboter entwickelt
0:41und wir haben dann auch funktioniert und
0:42konnten diese Lego Teeile auch sammeln.
0:44Mein dystopisches Szenario ist, dass wir
0:46mehr und mehr Bullshit Jobs kreieren,
0:48die vollkommen nutzlos sind. Einfach
0:51nur, dass wir behaupten können, wir
0:52haben 100% und 9% Employment. Die
0:56Zukunft vorherzusagen, zumindest so gut
0:58wie möglich ist ein essentieller
1:00Bestandteil von Intelligenz. Das
1:02folgende ist ein Gespräch mit Professor
1:04Dr. Markus Hutter, einem der
1:05visionärsten und einflussreichsten
1:07Denker der künstlichen Intelligenz, der
1:09bereits 2000 die mathematische Theorie
1:12der Superintelligenz entwickelte. Butter
1:14ist 1967 geboren in Deutschland, schloss
1:171991 sein Physiksstudium an der Theo
1:20München ab und machte 1996 seine
1:22Promotion in theoretischer Physik an der
1:25LMU München über Quantenchromodynamik
1:27und Instantonen. 1992 erhielt er
1:30zusätzlich sein Master an Informatik
1:32ebenfalls an der Tür München und 2003
1:34folgte die Habilitation in Informatik. 5
1:38Jahre arbeitete er in der Industrie als
1:40Softwareentwickler, bevor er im Jahr
1:412000 zu Professor Dr. Jürgen
1:43Schmidthuber, den die New York Times ja
1:45als Vater der KI bezeichnet, ans IDSIA
1:49in die Schweiz wechselte, um an den
1:51Grundlag maschineller Intelligenz zu
1:53forschen, wo er dann 6 Jahre blieb und
1:55unter anderem mit Schmidthuber Shane Lag
1:57als Doktorantenbetreute, welcher ja dann
2:002010 Google die Mind mitgründete. Dort
2:03ist Hutter im übrigen seit 2019
2:05mittätig. Seit 2006 ist er in erster
2:08Linie Professor an der Australian
2:09National University in Canbera, wo er
2:12mittlerweile gut 20 Jahre tätig ist,
2:14lehrt und forscht. Um das Wert 2000
2:16entwickelte Rutter Ixi geschrieben AI
2:19Xi. Ein theoretisches Modell für eine
2:21optimal intelligente Maschine und
2:23beweisbar der intelligenteste aller
2:26möglichen Agenten. In seinem 300
2:28seitigen Buch Universal Artificial
2:30Intelligence von 2005 formulierte er ein
2:33vollständiges mathematisches Rahmenwerk.
2:36Das Reinforcement Learning unter anderem
2:37mit bayischer Wahrscheinlichkeit und
2:39Solomonovs Induktion verbindet.
2:42Gemeinsam mit seinem damaligen
2:43Doktoranten Shane Lake entwickelte er
2:442007 die heute weithin anerkannte
2:47Lagutterdefinition von Intelligenz. Um
2:50die Verbindung von Datenkompression und
2:51Intelligenz praktisch zu demonstrieren,
2:53rief Futter zusätzlich 2006 den
2:55Hutterpreis ins Leben. Ursprünglich mit
2:5850.000 € dotiert, 2020 dann auf 500.000
3:021000 € erhöht für die bessere
3:04Kompression von einem Gigabyte Wikipedia
3:08Daten. Für seine Arbeit erhielt er über
3:10150 P review Publikation und zahlreiche
3:12Auszeichnungen wie den Lindley Preis
3:142006 für bayerische Statistik, den Q2
3:17Best Paper Award 20098,
3:19den ersten AI Alignment Preise sowie
3:21zahlreiche weitere internationale
3:24Auszeichnungen. Auch wenn Hutai im
3:25deutschen Mainstream wirklich kaum
3:27bekannt ist, ist sein Einfluss auf das
3:29Feld enorm und er zählt zu den weltweit
3:32führenden Vorden der allgemeinen
3:34künstlichen Intelligenz, also kurz AGI.
3:36In diesem Gespräch klären wir, was
3:38Intelligenz mathematisch wirklich
3:40bedeutet, warum I als theoretisches
3:42Optimum gilt, aber praktisch
3:44unberechenbar ist, warum
3:46Datenkompression der ultimative
3:48Intelligenztest sein könnte, ob HI
3:51physischen Körper braucht oder virtuelle
3:53Welten ausreichen, wie realistisch ein
3:55explosionsartiger Heart Takeoff der KI
3:58Intelligenz ist, welche Rolle KI
4:00Sicherheit überhaupt spielt und vor
4:02allem, was bedeutet das alles für jeden
4:04einzelnen von uns und wie sieht die
4:06Arbeit
4:06nach der AGI aus. Wir klären ganz
4:09nebenbei auch fundamentalste Fragen. Wie
4:12was ist Intelligenz überhaupt? Können KI
4:14Agenten ein Bewusstsein entwickeln und
4:16wie kam Hutter bereits im Alter von 10
4:18Jahren beim Lego spielen darauf, dass
4:20die Entwicklung von Robotern alleine
4:22nicht ausreicht und es erst einmal die
4:24AGI braucht. Markus Sutter ist für mich
4:26besonders faszinierend, weil er wie kaum
4:28ein anderer die Brücke zwischen
4:29abstrakter mathematischer Theorie und
4:32praktischer KI Entwicklung schlägt.
4:34Seine Ideen wirken im Hintergrund der
4:35großen KI Durchbrüche unserer Zeit.
4:38Daher bin ich besonders dankbar dieses
4:39deutsche Debüt, also das erste
4:41ausführliche deutschsprachige Interview
4:43von Professor Dr. Hutter für alle
4:44überhaupt möglich machen zu können. Mein
4:46Name ist Leonard Schweding und hier bei
4:48Everlast AI dreht sich alles um
4:49künstliche Intelligenz im
4:50Geschäftskontext. Bin selbst überzeugt,
4:52dass künstliche Intelligenz die größte
4:54Revolution und der größte Umbruch in der
4:56Menschheitsgeschichte ist. Und sie ist
4:57als Gefahr, wenn sich die Macht und das
4:59Wissen um jene nur in den Händen einer
5:01kleinen Elite konzentriert. Meine
5:03Mission mit Everlast AI ist es daher
5:05dieses Wissen und all die Entwicklung
5:07für jenen einfach verständlich zu
5:08übersetzen und zugänglich zu machen.
5:10Dazu spreche ich hier auf dem Kanal seit
5:12nun über zwei Jahren mit den weltweit
5:14führenden Professoren, KI Forschern,
5:15Zukunftsanalysten und Silicon Valley
5:17Unternehmern aus meinem Netzwerk und
5:19stelle dir all das völlig kostenfrei zur
5:21Verfügung. Als jemand der seit Jahren
5:23Unternehmen von klassischen
5:24Mittelständlern Hin Champions bis hin zu
5:26den Big vor bei der KI Implementierung
5:27unterstützt, was auch für mich eine
5:30große Ehre mit Markus Hutter zu
5:32sprechen. Die größte Unterstützung für
5:34diesen Kanal ist es, wenn du dieses
5:35Video hier likest, sofern es sich
5:37inspiriert und es mit deinen Freunden
5:39und Kollegen teilst, die sich noch nicht
5:40so tief mit KI beschäftigt haben wie du.
5:42Und nun freue ich mich, dir dieses
5:44historische und einzigartige Gespräch
5:46mit Professor Dr. Markus Rutter zu
5:48präsentieren. Ja, hallo Markus, schön
5:49dich heute mit dabei zu haben. Ich freue
5:51mich sehr auf unser Gespräch und wir
5:53sprechen hier ja immer über künstliche
5:55Intelligenz. Viele Unternehmen da
5:56draußen haben sich gerade zum Ziel
5:58gesetzt, allgemeine künstliche
5:59Intelligenz, gut Intelligenz zu
6:01erreichen und dabei ja sträumen sich
6:03viele für meine Begriffe so ein bisschen
6:05vor den grundlegenden Definition. Also
6:07was ist überhaupt künstliche
6:09Intelligenz, aber vor allem auch die
6:10Frage, was ist überhaupt Intelligenz?
6:12Und mit dieser Frage hast du dich schon
6:13sehr früh äh mit 2007 gemeinsam mit
6:16Shane Lake auseinandergesetzt, der heute
6:17bekannt ist auch als der Deepmind
6:19Gründer. Deswegen meine erste Frage an
6:21dich einleiten in unser Gespräch. Wir
6:24werden all diese Themen natürlich heute
6:25noch mal vertiefen. Was ist überhaupt
6:28intelligenz? Ja, in der Tat habe ich es
6:30eigentlich schon in 2000 vor dem vor der
6:33Doktorarbeit und dem Buch mit Shane Leck
6:36in in meiner Arbeit behandelt, wobei ich
6:40komme dann sozusagen in der Sekunde zu
6:43dem Unterschied zwischen meiner Arbeit
6:45in 2000 und dann meine Arbeit mit Shane
6:47Lake in in 2007 und in der Tat war ich
6:51schon immer in der künstlichen
6:52Intelligenz interessiert, mehr oder wen
6:54mein ganzes Leben. Ich habe dann
6:55Informatik studiert. Ähm, aber mir haben
6:58keine dieser Ansätze wirklich gefallen,
7:01weil sie in der Tat,
7:04es waren horistische Ansätze oder
7:06sozusagen Logik passierte Ansätze, die
7:09ich wo ich nicht geglaubt habe, dass sie
7:11wirklich ähm ausreichend sind, um
7:13allgemeine künstliche Intelligenz äh zu
7:16erzielen. Und ich hatte aber auch keine
7:19Idee selber als als Student und so habe
7:23ich dann temporär das Feld verlassen und
7:26während ich in dem Startup gearbeitet
7:27habe, habe ich dann wieder über das KI
7:29Problem nachgedacht und dann ist mir das
7:31RH Moment gekommen, wie man Intelligenz
7:34eigentlich definieren kann. 100% formal
7:38mathematisch und allgemein. Und das habe
7:42ich zusammengeschrieben dann und im Jahr
7:442000 einen ein technischen Report ein
7:46langen publiziert. Und ähm mit diesem
7:50Technikrepport bin ich dann wieder
7:51sozusagen vollzeit äh in die KI
7:54Forschung zurückgekehrt und ich erkläre
7:57jetzt gerne ein bisschen sozusagen diese
8:00ähm mathematische Definition äh von
8:02Künstelligenz äh wenn wenn du möchtest.
8:05Mhm. Ja, da werden wir gleich noch da da
8:06geht's ja um das I Modell, da werden wir
8:08gleich noch tiefer drauf eingehen. Ähm
8:10vor ist, denke ich, noch mal interessant
8:11zu wissen, weil du hattest auch eine
8:13relativ gute auf normalem Englisch oder
8:15normalem Deutsch äh Erklärung so auf in
8:18einem Satz hast es mal gut auf dem Punkt
8:20gebracht, was überhaupt Intelligenz ist
8:21und ich glaube, das ist eine gute
8:23Grunddefinition, die wir vielleicht
8:24erstmal in den Raum schmeißen sollten
8:25sozusagen, um das als Gesprächsgrundlage
8:28für die Zuschauer dann auch mitzudenken
8:29bei den weiteren Ausführungen. Ja, also
8:31auf Englisch was war was war
8:34intelligence measures an agents ability
8:37to perform well in a large range of
8:39environments, was dann auf deutsch ist.
8:41Äh Intelligenz Mist, die Fähigkeit also
8:45eines Agenten sich gut zu verhalten oder
8:49nützlich zu verhalten in einem sehr
8:52weiten Umfeld. Ja, und äh was ich immer
8:56sehr interessant finde, du hast ja auch
8:57gerade angesprochen, dass es eigentlich
8:59schon im Jahr 2000 äh entstanden ist,
9:01diese Definition oder dass du dich
9:02tiefergend mit der Frage beschäftigt
9:03hast und wir werden heute auch noch über
9:05die Zukunft und die ganzen Auswirkungen
9:07davon davon sprechen, aber ich find es
9:08immer interessant auch so ein bisschen
9:09in die Historie zu schauen und wie es
9:11überhaupt dazu kam, also, dass man sich
9:13mit diesen Fragen auseinandergesetzt
9:14hat. Ähm, du bist ja dann 2000 auch zum
9:17Team von Jürgen Schmidthuer, mit dem
9:18haben wir hier letztens auch auf dem
9:19Kanal äh gesprochen. Der hat ja auch
9:21sehr viel Grundlagenforschung geleistet.
9:24Ähm, bist du in sein Zi Team zugestoßen?
9:26Vielleicht kannst du noch mal so ein
9:27kurzen Abriss zu deinem Werdegang äh
9:29geben und natürlich auch mit welchen
9:31Fragen du dich damals äh 2000 vor allem
9:33auch im gemeinsam auch mit mit
9:35Schmidthuber ähm insbesondere
9:36beschäftigt hast.
9:38Ja. Ähm, also mein Werdegang, mein
9:41Professor Werdegang war
9:43das Okay, wir sind ja auf dem deutschen
9:45Kanal. Ähm, war äh ist er inzwischen,
9:48glaube ich, abgeschafft ähm war
9:49Vordiplom in Informatik dann vor, aber
9:53ich war relativ desillusioniert von der
9:55Informatik aus verschiedenen Gründen und
9:58so habe ich dann Vordplung mit Physik
9:59gemacht, aber dann noch das Diplom
10:01fertig gemacht in Informatik. Dann war
10:03ich immer noch des desisolisiert
10:06und so habe ich dann Doktorarbeit in
10:09theoretischer Teilchenfysik gemacht, was
10:11super interessant war. Aber dann wurde
10:13der Large der Supercakting Super
10:15Collider, der in Texas gebaut werden
10:17sollte, wurde entschieden, den nicht zu
10:19bauen. Dann habe ich gedacht, es ist
10:20nicht so gut in einem sterbenden Feld zu
10:22starten als als junger Wissenschaftler.
10:24Und so habe ich dann Startup angefangen
10:27für vi Jahre äh Software für ähm
10:30Gehirntumorbehandlung
10:32geschrieben, was recht interessant war,
10:33aber noch nicht wirklich mein sozusagen
10:35Lebenstraum. Aber dann hatte ich etwas
10:39Zeit und am Wochenende habe ich dann
10:40immer nachgedacht über der KI wieder und
10:44dann kam mir das aha Moment die formale
10:46Definition von Superinttelligence
10:49und ähm dann habe ich den Report
10:51zusammengeschrieben über zwei Jahre und
10:53am Wochenende sozusagen das
10:54ausgearbeitet in 2000 publiziert und äh
10:57mit keiner keinen Credentials in
11:00Informatik und Doktorarbeit in Physik
11:03habe ich dann okay wer wäre dran
11:05interessiert mich als Post anzustellen
11:08und leider ist es ist die
11:10Forschungslandschaft das waren
11:12verschiedene Zeiten in in 2000 an den
11:14Universitäten doch so, dass man alle
11:17Boxen abticken muss und ich habe
11:19sozusagen keine Box abgetickt außer
11:21dieses eine Paper, was nicht mal Pierw
11:24war und aber Jürgen Schmidthuber den du
11:27ja auch interviewt hast war hat ja sehr
11:31viele sehr was geschrieben äh zu dem
11:33Zeitpunkt schon äh und auch über Colmog
11:36Complexity ein Paper gehabt und
11:39Computable Universes und ähm dann habe
11:43ich gedacht, der könnte offen sein zu
11:45diesem Zeit sehr exotischen Ideen. habe
11:48ihm das Paper geschickt und er war sehr
11:50offen, hab Vortrag dort gehalten, hat
11:51mir gleich eine Stelle angeboten, weil
11:54er an dem Institut, an einem sehr, sehr
11:55kleinen Institut da sehr sehr klein
11:57gearbeitet hat,
11:58wo er mehr oder weniger äh
12:01die Entscheidungen für Anstellung
12:03alleine treffen konnten und nicht durch
12:04irgendein großes Komitee gehen musste
12:07und äh ja, er hat meine Arbeit toll
12:10gefunden und gesagt: "Okay, hier mal ein
12:13Jahr stelle und dann hat sich dann hat
12:15sich alles entwickelt." Ja, das ist das
12:17ist sehr interessant, insbesondere du
12:18sagst ja auch, es war damals natürlich
12:19noch ein sehr exotisches Feld, exotische
12:21Ideen. Wie kam es überhaupt dazu? Also,
12:23was war für dich der Auslöser, dich mit
12:24so tief mit intelligenten Maschinen und
12:27äh allgemeiner künstliche Intelligenz
12:29zum damaligen Zeitpunkt überhaupt
12:30auseinanderzusetzen? Wie wie kam es
12:32dazu? Welchen Auslöser gab's da
12:33vielleicht?
12:34Okay, also wie schon erwähnt, hat mich
12:36das die KI schon immer fasziniert, weil
12:39es also Demisabis nennt es immer Root
12:42Note Problem, Wurzel Problem. Das heißt,
12:45das ist ein Problem, wenn man es löst,
12:47viele und in dem Fall vermutlich alle,
12:49ja, oder fast alle anderen Probleme und
12:53irgendwie,
12:54weil das ist keine Ahnung, die
12:56Mentalität sozusagen, warum sollte ich,
12:57ich meine, ich habe an Krebsforschung
12:59gearbeitet, also von der technischen
13:01Seite äh Computerseite äh für
13:03viereinhalb Jahre und das ist ja auch
13:04sozusagen ein ein honorable sozusagen äh
13:08ähm Ziel, aber warum Grbsvorstellung,
13:12gibt so viele andere pressende Probleme.
13:15und die K sozusagen, wenn wir das
13:16Problem gelöst haben, kann es alle
13:18anderen Probleme lösen und selbst das
13:19Problem der die die Theorie von allem
13:22des Universums, was mich auch
13:23interessiert hat, deshalb habe ich
13:25Physik promoviert, da kann es die
13:27Theorie auch finden. Okay, der Auslöser
13:30war dann in der Tat, ich habe äh zu dem
13:34Zeitpunkt in Startup, das war Brainlab
13:37gibt's immer noch hat selbst durch
13:39Dotcom BT äh überlebt, hat immer
13:42schwarze Zahlen geschrieben und Geld
13:43gemacht. Äh wenn ich angefangen habe,
13:46waren wir 13 Leute. Wie ich gegangen
13:47bin, waren wir 400 Leute. Al eine sehr
13:49erfolgreiche Firma gegründet von zwei
13:52Schulfreunden von mir. nicht nur
13:54Schulfreund, die war wir waren in der
13:55gleichen Klasse, aber ich war mir
13:56akademisch orientiert und habe erst dann
13:58mein Studium fertig gemacht und äh dann
14:00bin ich in die Firma äh gegangen und
14:04okay, da habe ich einem ähm
14:07Bildinterpolationsproblem
14:08gearbeitet und es gab damals auch schon
14:11verschiedene Bildinterpolationen, aber
14:13die war alle nicht gut genug für für die
14:16Anwendung und dann habe ich eine bessere
14:19oder ja bessere entwickelt, die wurde
14:22dann auch patentiert. war sehr
14:24erfolgreich,
14:25aber habe gagt, okay, die Interpolation
14:28ist relativ gut, aber bestimmt nicht
14:31optimal. So, was ist die beste
14:33Bildinterpolation, die man sich
14:34vorstellen könnte? Und dann habe ich
14:36wieder sozusagen darüber nachgedacht und
14:39dabei habe ich festgestellt, dass
14:40Datenkomprimierung
14:42mehr oder wenig dasselbe oder stark
14:45korreliert ist mit verallgemeinern und
14:48die Bildinterpallation ist eine Sort of
14:51verallgemeinern oder Extrapolation in
14:52dem Falle.
14:54Und ähm dann habe ich noch, was ist die
14:56optimale Datenkompression? Ich habe ja
14:58auch diesen Compression Test, können wir
14:59später auch drüber reden, wie du
15:00möchtest. Ähm das ist auch nicht
15:02zufällig sozusagen da. So was ist die
15:04optimale Datenkomprimierung und ähm das
15:07war relativ einfach sozusagen sich
15:09vorzustellen, was das ist. Aber wir auch
15:12instant klar, ich kann nicht der erste
15:14sein, der diese Art von
15:15Datenkomprimierung, genannt Colbogorof
15:17Complexity äh we damals ich nicht
15:20gewusst entwickelt hat und da habe ich
15:21natürlich in der Literatur gesucht.
15:23Damals war das Internet noch nicht
15:24wirklich entwickelt und habe in
15:27Libraries geschaut und wenn man nicht
15:29mal den Begriff kennt, war das ein
15:30bisschen schwierig und auch sozusagen
15:32nicht im Feld war. Jedenfalls habe ich
15:34dann Colmogor Complexity und dann
15:35Solomon of Induction gefunden und war
15:38dann sehr excited, dass diese Idee jetzt
15:41habe ich ein bisschen aer Order
15:43gebracht. Also ich habe dann
15:44festgestellt, dass der Datenkoprimierung
15:47der Key zur allgemeinen künstlichen
15:49Intelligenz ist
15:51und dabei Gmogor of Complexity sozusagen
15:53wieder entdeckt, aber etwas mehr
15:56gemacht. Erstens die Anwendung in der
15:57Künstelligenz und zweitens äh der
15:59allgemeine Agentenfall und nicht nur der
16:02Sequenz. Zeitrein vorhersagefall. Dann
16:05zur allgemeinen künstlichen Intelligenz.
16:07Habe dann in der Literatur gesucht, das
16:08war noch bevor das Internet wirklich äh
16:10nützlich war äh in den in den Libraries,
16:13in Büchern. Habe dann gefunden, dass es
16:15Konvogor of Complexity und Solomon of
16:17Induction äh genannt wird und ähm so hat
16:21sich das dann entwickelt.
16:23Mm. Ja, das ist für mich auf jeden Fall
16:25schon mal sehr einleuchtend, dass man
16:26sagt, wir haben ganz viele Probleme als
16:27Menschheit, aber wenn ich nur dieses
16:29eine Problem, also der allgemeinen
16:30künstlichen Intelligenz löse, dann löst
16:32diese für mich wiederum alle anderen
16:33Probleme. Das erinnert mich auch so ein
16:34bisschen an Schmidthubers Traum, also
16:37diese intelligente Maschine zu
16:38erschaffen, damit er dann irgendwann in
16:39Rente gehen kann, weil sie die Aufgaben
16:42letztlich löst. Und äh du sagst ja oder
16:44hast vorhin ja auch noch mal definiert,
16:46Intelligenz ist die Fähigkeit eines
16:47Agenten in einer Vielzahl von Umgebungen
16:49Ziele zu erreichen. Das da ist jetzt
16:51super viel drin, aber es ist nahezu
16:53perfekt in einem Satz auf dem Punkt
16:55gebracht. sich ja auch dann sehr tief
16:57mit allen möglichen Definitionen von
16:58Zielen auseinandergesetzt, bis du zu
17:00dieser Definition kamst und hast d im
17:02nächsten Schritt dir die Frage gestellt,
17:03wie kann ich das in eine mathematische
17:05Formel packen, die dann wiederum einige
17:07Implikationen hat, über die wir über die
17:08wir sprechen äh können, aber ich glaube,
17:11das ist eine gute Grundlage, vielleicht
17:12das noch mal auszuführen. Dann kamst ja
17:14auf das I Modell kann keine kein kleine
17:17Korrektur an dieser Stelle machen. Das
17:18ist der Unterschied zwischen 2000 und
17:202007.
17:21Ich hatte die mathematische Formulierung
17:23zuerst.
17:25und habe mich konzentriert auf die
17:27mathematische Formulierung und dann ik
17:30und es studiert und Shane Lag hat es
17:33dann übersetzt äh
17:35ja
17:35in Wörter und hat dann eine sehr schöne
17:38Doktorarbeit und ein Buch geschrieben
17:40und äh mehr intuitiv erklärt, warum in
17:43der dieser Definition alle Aspekte, die
17:46wir typischerweise Intelligenz zuordnen,
17:49darin enthalten sind. Also er hat sich
17:51auf die auf das Intelligenzmaß und mehr
17:53auf die informelle Seite konzentriert
17:55und ich habe mich mal mehr konzentriert
17:57auf, weil wenn wir das formale
17:59Intelligenzmaß haben, dann haben wir
18:01auch, indem wir einfach das Maximum
18:03nehmen, Superinttelligenz und habe mich
18:05sozusagen auf die Formalität ähm und auf
18:07die Superintelligenz damals
18:09konzentriert.
18:10Mm. Ja, das wäre noch beeindruckend,
18:11also das ist erst die mathematisch
18:12Formel und das dann wurd sie ins
18:14Englische übersetzt und nicht nicht
18:15umgekehrt.
18:15Da gibt's einen sehr schönen Quote äh äh
18:18von Clifford. True Mathematiker, der hat
18:22gesagt, alles was man mit mathematischen
18:25Symbolen sagen kann, kann man auch in
18:27Wörter fassen. Aber nicht alles, was man
18:30in Wörter fassen kann, kann man in
18:32Mathematik konvertieren,
18:34weil es Unsinn ist,
18:36ne? Und das ist so eine Philosophie, der
18:39ich folge. Man muss nicht alles von
18:41Wörtern in Mathematik übersetzen, aber
18:44wenn man es nicht kann, also in der
18:46Wissenschaft, ja, dann ist oftmals ein
18:48Problem in der verbalen Formulierung. Es
18:50gibt ja alte äh philosophische Probleme
18:52wie Russells Paradox oder Leiers Paradox
18:55und so weiter, wo Leute drüber geredet
18:57haben, selbst in der Mathematik. Und
18:59dann hat sich rausgestellt äh, dass es
19:02ähm Unsinn oder unscientific oder nicht
19:04mathematisch ist. Also die Übersetzung,
19:06mir war es w sehr wichtig, dass der
19:08Ansatz 100% formal ist und auch kein
19:11nicht nur einfach ein Rahmenwerk, wo
19:13dann wichtige Teile fehlen. Es musste
19:15100% formal sein und alle äh Ingredients
19:19enthalten haben.
19:21Und ja, wahrscheinlich habe ich es ein
19:22bisschen übertrieben und habe dann die
19:24die Wörter vernachlässigt, wenn wenn
19:26Leute in mein erstes Buch schauen, dann
19:28finden sie nicht besonders viele Wörter
19:30darin.
19:31Ja. Ja. Jetzt haben wir jetzt schon
19:32mehrfach gesprochen über dein Iy Modell,
19:35deswegen lass uns da gerne ein bisschen
19:37tiefer reingehen und das ein bisschen
19:39aufdröseln für die Zuschauer, dann vor
19:40allem auch darüber sprechen, warum ist
19:41das jetzt eigentlich so wichtig? Also
19:43was bedeutet das für jeden einzelnen ähm
19:45da draußen? Und du hast ja im Prinzip
19:48dann das, was wir gerade beschrieben
19:49haben, du hast ein theoretisches Modell
19:50für eine optimale intelligente Maschine,
19:54Agentenmaschine entwickelt. Ähm, das ist
19:56das, wo worum es geht mit II. Ähm,
19:58kannst du das Modell vielleicht zunächst
19:59erstmal in eigenen Worten noch mal noch
20:01mal erklären?
20:02Ja, bevor ich zu dem IX Modell von dem
20:04vollen Ixi Modell komme, erkläre ich
20:07kurz mal Zeitrein Vorhersage, was
20:10inzwischen ja, also alle diese Large
20:13Language Models Chat GPT und Gemini und
20:15so weiter, die sind ja einfach nur also
20:18Next Token Predictor, das sind
20:20Zeitreisen vorher sage man hat eine
20:22Sequenz von Wörtern und die sagen das
20:24nächste Wort vorher. Das ist alles, was
20:26machen, also grob gesprochen und die
20:29Theorie Conor Complex und Solf
20:31Induction, die schon in den 1960ern
20:34entwickelt wurde, sagt, dass wenn ich
20:36irgendein Problem habe, was eine Zeit
20:38reinvorhersage ist, ob es jetzt
20:40Wetterdaten sind oder Stockmarket Daten
20:43oder diese IQ Sequenzen s 1 2 3 4 5
20:46kommt als nächstes oder nächste Vote,
20:49das das nächste Wort vorher zu sagen,
20:51gibt's eine optimale Theorie, das zu
20:54tun. wenn man überhaupt nichts weiß ähm
20:58von der äh von dem Gebiet ob das jetzt
21:01sagen wir mal keine Ahnung von von
21:03Stockmarket, keine Ahnung von Wetter,
21:04keine Ahnung von von deutscher oder
21:07englischer Sprache. Und ich erkläre eine
21:10Sekunde, wie die Theorie funktioniert
21:11und die Zukunft vorherzusagen, zumindest
21:15so gut wie möglich ist ein essentieller
21:17Bestandteil von Intelligenz. Also, ich
21:19meine jeden Tag, ja, genau, wenn ich im
21:22Auto fahre, habe ich gewisse
21:24Vorhersagen, was die Wahrscheinlichkeit
21:26ist, dass der Fahrer vor mir bremst, was
21:30die Wahrscheinlichkeit, dass es morgen
21:31kalt ist, ja, wenn ich nicht unbedingt
21:33sozusagen ständig auss Wetter schaue,
21:36was ist die Wahrscheinlichkeit äh wenn
21:37ich äh äh ein gewisses äh Subjek
21:41studiere, dass ich überhaupt gute Noten
21:43bekomme. Man macht ständig implizit
21:45Vorhersagen und dann handelt man
21:48basierend auf diesen Vorhersagen. Diese
21:50Vorhersagen an sich, diese Optimal
21:53vorhersagen kann Konmogor in Solomonov
21:55handeln. Ist schon eine Theorie von den
21:5760ern, die ich stark weiterentwickelt
21:59habe. Aber dann der der der äh
22:03essentielle neue Beitrag war, wie kann
22:05ich diese aufherage benutzen, äh um
22:08einen optimalen Agenten, der handelt zu
22:11entwickeln? Weil nicht alles ist nur
22:13Zeitreinfeuershersage. Wenn ich z.B.
22:15Schach spiele, muss ich auch
22:16berücksichtigen, dass meine Aktion äh
22:19nämlich eine ein Schachpiece zu bewegen
22:23Einfluss hat auf das auf die Welt und
22:25zurückreagiert.
22:27Und wenn ich eine Reaktion habe, dann
22:29muss ich eine Planung machen die
22:31Zukunft. Richtig. Also, wenn ich
22:33sozusagen äh ein Schachpiece bewege,
22:36dann muss ich planen mein Gegner
22:39vielleicht dieses Piece und dann was ich
22:41dann mache, muss ich sozusagen in die
22:42Zukunft planen oder wenn ich klassisches
22:46Laster die Lieferungen machen. In
22:49Deutschland müssen sozusagen Plane, wo
22:50der Stau in der Zukunft sein wird. Also
22:53müssen sozusagen über mehrere Stunden
22:55oder Tage Planungen machen und diese
22:56langfristige Planung sind Solomonfolom
22:59nicht enthalten und es gibt diese
23:01optimale Theorie der weiterein
23:03Vorhersageov
23:06und dann gab's auch schon seit langem
23:08diese optimale Theorie von Planung, wenn
23:10man genau weiß mit welchem Problemen man
23:13es zu tun hat. Also haben wir eine
23:15optimale Theorie der Zeitreihen
23:17vorhersage
23:18ohne man muss nichts wissen über über
23:21was wo die Zeitrei her sind eine
23:23optimale theoretischer Planung wo man
23:25exakt wissen muss ähm wo ähm äh was man
23:28plant und ich habe die beiden Theorien
23:31kombiniert zu einer optimalen Theorie
23:34der Planung und oder und wenn man sich
23:38das durchspielt eine optimalen Theor
23:40Planung in beliebigen unbekannten äh
23:44Welten und wenn man sich das sousagen
23:46überlegt, äh dann ist es schon äh sehr
23:48plausibel, dass es eine Theorie der
23:50allgemeinen Intelligenz sein könnte, was
23:53ich dann über die Jahre bewiesen habe.
23:55Und jetzt gehe ich gerne noch ein
23:56bisschen auf die Detail äh ein der
23:58beiden Theorien, wenn du möchtest.
24:00Mhm. Ja, sehr gerne. Vielleicht kurz
24:01vorab, weil du die Begriffe jetzt schon
24:03mehrfach verwendet hast. Du hast es auch
24:04schon schon angedeutet, was sie
24:05bedeuten, aber ich glaube, es macht
24:06Sinn, das noch mal näher aufzudrüsseln,
24:08was genau die Kolmogorov Komplexität ist
24:11und was die Solmonov Induktion konkret
24:13bedeutet. Vielleicht noch mal an einem
24:15kurzen Erklärung oder Beispiel für die
24:17für die Zuschauer, damit wir auf
24:18Basisdessen dann auch die äh die Theorie
24:20und das Konzept besser verstehen.
24:22Wieder Daten auf dem Computer und um
24:24Speicher zu sparen werden die Daten
24:26oftmals kompirmiert, z. den ZIP oder
24:29auch ähm für Datenübertragung möchte man
24:31äh Bandähbreite
24:33sparen und erst komprimiert die Daten,
24:35überträgt die Daten und dann
24:37dekomprimiert man die Daten und es gibt
24:38verschiedene Datenkompressionen und äh
24:41bessere und schlechtere und äh dann kann
24:44man sich überlegen, was ist die beste
24:46mögliche theoretische bestmögliche
24:47Datenkomprimierung
24:49und das ist Konog of Complexity und das
24:52funktioniert folgendermaßen und das ist
24:53wirklich ein sehr theoretisches Konzept,
24:55was man möchte von der Daten von
24:57komprimierten Daten ist und man möchte
24:59ein Dekompressor, also der die Daten
25:02dann dekomprimiert plus das Archiv, was
25:04das die komprimierten Daten sind und
25:06zusammen kann man sagen ist das ein
25:09selbstextrahierendes Archiv, das ist ein
25:12Programm. Wenn man es laufen lässt,
25:14erzeugt es meine Originaldaten, okay?
25:17Und man möchte, dass dieses Programm,
25:18weil man das jetzt speichert oder
25:20überträgt, möglichst kurz ist. Und
25:23theoretisch, ihr meint die Programme
25:25sind binäre Sequenzen und ich habe die
25:27Sequenz zero. Das ist natürlich kein
25:29legales Programm, denn die Sequenz 001
25:33und so weiter. Ähm kann ich theoretisch
25:36alle Programme aufzählen. Es gibt nur
25:37abzählbar viele, nur in Quotation Mark
25:40und jedes Programm erzeugt entweder
25:42nichts oder was vollkommen falsches oder
25:45vielleicht meine Daten. Und eines dieser
25:48Programme ist das kürzeste Programm von
25:50diesen, ja, was meine Daten
25:51rekonstruiert. Und die Länge dieses
25:55Programmes nennt man Colmogorf
25:57Complexity, also das ist sozusagen die
25:58maximale Weise Daten zu komprimieren und
26:02dann an die Länge und das ist sozusagen
26:05eine universelle intrinsische
26:07Beschreibung der Komplexität meiner
26:10Daten. Ja, das ist Kmogor of Complexity
26:12und Ray Solomonov hat dann diese Idee
26:16eigentlich schon bevor Kmogorov Kmogorov
26:19komplexe definiert hat benutzt, also
26:22dieselbe Idee, um das Problem der Zeit
26:24rein Vorhersage zu lösen. Und allgemein
26:27ist das Induktionsproblem
26:29ein großes philosophisches Problem, was
26:31offen war über Jahrhunderte. äh wie kann
26:33ich aus einer endlichen Menge von Daten
26:36ähm allgemeine Regeln sozusagen finden
26:39und gibt das klassische Groblem. Äh ich
26:43habe z.B. Weil eine Hypothese, die sagt,
26:45alle Smaragde sind grün und eine andere
26:48Hypothese, alle Smaragde sind grün bis
26:51zum Jahr 2050 und danach sind sie
26:53plötzlich blau. Ja, Hypothesen sind
26:57konsistent mit allem, was wir wissen.
26:58Alles Smaragde sind in der Tat grün,
27:00aber eine Hypothese klingt irgendwie
27:02mehr plausibel als die andere.
27:05Aber warum? Ja, okay. Sagen, ja, die
27:08ändert sich mit der Zeit, aber es gibt
27:09andere Hypothesen, sag mal, Kurven oder
27:11so, die sie enden mit der Zeit. Und wenn
27:13man runterdrillt, ja, ähm dann sieht
27:17man, die eine Hypothese ist einfach
27:18einfacher als die andere Hypothese. Das
27:20ist am Razer. Das ist auch ein sehr
27:21altes Prinzip. Das sagt, wenn ich zwei
27:23Theorien habe, die beide konsistent mit
27:26meinen Daten sind, soll ich mich auf die
27:28einfachere Theorie konzentrieren. Aber
27:30was ist einfach? Und Konogorov hat dann
27:33das formalisiert, was die Einfachheit
27:34ist. Baba Komogorov hat sich mehr dafür
27:37interessiert, ja, für die
27:38Beschreibungslänge und so und nicht für
27:40das Induktionsproblem und Solomonov war
27:42ja auch in dem ersten Dout
27:451956,
27:47wo Marvin Minski und andere und Ray
27:49Solomonov ist weniger bekannt
27:51teilgenommen haben, wo sie das KI
27:52Problem in drei Monaten lösen wollten,
27:54was ein leicht optimistisch war und kurz
27:58danach hat er dann seine Tiere
28:00entwickelt und was er gesagt hat, okay,
28:02ich nehme jetzt dieses kürzeste
28:04Programm. was meine Daten beschreibt.
28:07Aber wenn man es richtig definiert, wird
28:11dieses Programm nicht halten,
28:13was wird mehr Bits erzeugen und diese
28:17Bits nehmen wir dann an Vorhersage her.
28:19Intuitive Veranschaulichung war, warum
28:22Datenkomprimierung und Zeitreihin
28:24Vorhersage in der Tat nicht nur sehr
28:27nahe verwandt sind, sondern in der Tat
28:28eigentlich das gleiche sind.
28:30Ja, also das auf jeden Fall schon mal
28:31schon mal sehr einleuchtend. Also jetzt
28:32haben wir das Solomonov, die Solomonov
28:34Induktion als Teil deiner Formel, aber
28:36damit haben wir jetzt noch nicht alles.
28:38Also der Agent kann jetzt schon mal
28:40Daten komprimieren, kann vorher sagen
28:42auf ideale Weise äh treffen, aber es
28:46fehlt noch was. Also du wolltest noch
28:48deine Formel zu Ende führen, deswegen
28:50hat er gern fort.
28:50Genau. Also vergessen wir mal alles, was
28:53ich gesagt habe, kommen wir mal zurück
28:54zum Planungsproblem. Tiktac to ist ein
28:56sehr einfaches Beispiel und selbst
28:59selbst Kinder, die wissen schon ah, wenn
29:00ich das Kreuz hierin mach, dann macht
29:02mein Gegner hier, aber dann kann ich
29:03hier das Kreuz reinmachen und da s
29:05gibt's nur neun Züge, richtig? Ja, also
29:08vier oder viereinhalb für jeden. Und
29:10diesen Entscheidungsbaum, der ist
29:11relativ klein, den kann man sogar auf
29:12Papier noch aufmalen und dann sich sehr
29:15einfach die optimale Strategie selbst
29:17entwickeln bei Tiktac to und geleit das
29:20gleiche Prinzip funktionieren auch für
29:21Schach. Nur bei Schach ist der Baum
29:23schon so groß, dass man es nicht mehr
29:25selbst die schnellsten Rechner
29:27heutzutage können den Baum nicht exakt
29:29ausführen. Da muss man Approximationen
29:31äh an an diese Theorie machen. Und da zu
29:33Approximationen können wir auch später
29:34kommen, wenn du möchtest. Also das ist
29:37Entscheidungstheorie, sequentielle
29:39Entscheidungstheorie, aber man muss
29:41exakt wissen, was das Problem ist. Ich
29:44spiele Schach, ich spiele T oder ich
29:47habe ein logistisches Problem. äh
29:49Optimierung meiner meiner Laster. Da
29:51weiß ich exakt genau sozusagen, wie
29:53lange der Abstand zwischen äh zwischen
29:55Städten ist und und und äh
29:58Trefficpattern und so weiter. Und wenn
29:59ich eine perfekte oder gut genuge
30:02Beschreibung meiner Welt habe, dann kann
30:04ich diese sequentielle
30:05Entscheidungstheorie darauf anwenden.
30:07Aber die Idee der allgemeinen
30:09Künstelligenz ist, dass wir ja diese
30:11Agenten haben, die wir in die Welt
30:12loslassen. ähm die keine Ahnung oder
30:15wenig Ahnung von der Welt haben, die
30:16haben ja auch nicht perfektes oder ähm
30:19äh Wissen der Welt und lernen, während
30:22wir mit der Welt interagieren. Und so
30:26habe ich dann diese beiden Theorien
30:27kombiniert. Optimale sequentielle
30:29Entscheidung, wenn man alles weiß und
30:32optimale Sequenzvorhersage, wenn man gar
30:34nichts weiß. Zu optimaler
30:35Entscheidungstheorie, wenn man
30:39es wesentlich nichts weiß. Und es fiert
30:41und äh wie wie habe ich dich kombiniert?
30:44Diese die optimale sequentielle
30:46Entscheidungstheorie braucht eine
30:49Beschreibung der Welt. Ja, aber wenn ich
30:51jetzt die korrekte Beschreibung der Welt
30:53mit der Vorhersage von Solomon auf
30:57ersetze, was ja nölich nicht eine
30:59perfekte Beschreibung ist, sondern nur
31:00sozusagen Guesswork, richtig,
31:03dann funktioniert diese
31:04beide Theorien immer noch in in dieser
31:07Kombination. Das ist ich schmeiße jetzt
31:10hier mal einen wichtigen Begriff hier.
31:12Äh es gibt äh Basion Statistik. Das ist
31:15äh eine statistische Theorie, um mit
31:19Unsicherheiten, unsicheren Situationen
31:22umzugehen. Und der Vorteil dieser Basion
31:26Statistics verglichen mit klassischer äh
31:30frequentist Statistik ist, dass die
31:32Basion Statistik
31:34super allgemein ist.
31:37so frequente Statistics ähm die sehr
31:39erfolgreich ist in der Praxis braucht
31:42grob gesprochen, bisschen übertrieben
31:43für jedes neue Problem muss man sich
31:44wieder über statistische Schätzer
31:47sozusagen überlegen. Also braucht man
31:48sozusagen ein ein ein Menschen in ein
31:51statistischer in the Loop, weil die
31:52Basion Statistik ist voll automatisch,
31:55egal welches Problem man hat. Und für
31:57die künstliche Intelligenz brauchen wir
31:59ja was was volutomatisch sozusagen
32:02ständig den Hand halten oder so und ja
32:04hier ist ein neues Problem. Ja, hier
32:05benutzt diese Statistik, hier ist ein
32:07neues Problem und die Basstatistik ist
32:08erstens super allgemein und zweitens
32:11voll automatisch,
32:13aber der Nachteil ist, ist es sehr
32:14computationally intensiv.
32:17Wenn du bis hierhin zugehört hast,
32:18gehörst du bereits zu den 1%, die
32:20verstanden haben, wie massiv KI gerade
32:22alles verändert. Doch die wichtigste
32:24Frage ist, bist du gerade auf der
32:25richtigen Seite dieser Revolution?
32:27Während überall talentierte Entwickler,
32:29Marketingleute und Vertriebsmitarbeiter
32:31in langsam sterbenden Branchen arbeiten
32:33und ihr Potenzial verschwenden, gibt es
32:35eine kleine Gruppe von Menschen, die
32:37genau das Gegenteil erlebt. Menschen,
32:38die dafür sorgen, dass deutsche und
32:40europäische Unternehmen wieder
32:41wettbewerbsfähig werden und an der wohl
32:43wichtigsten Technologie der
32:44Menschheitsgeschichte, also künstliche
32:46Intelligenz ganz vorne mitarbeiten.
32:48Genau diese Eliteeinheit bauen wir
32:49gerade bei Everlast AI auf als
32:51Marktführer für KI Automatisierung.
32:53arbeiten wir mit über 1800 Kunden
32:55zusammen von Mittelständler bis hin zu
32:56Hin Champions und wir stellen gerade
32:58laufen die besten Köpfe aus ganz
33:00Deutschland ein. Egal, ob du KI
33:02Entwickler bist, Software Developer,
33:04Videoitor im Marketing arbeitest oder in
33:06die KI Kundenberatung im Vertrieb
33:08möchtest, wenn du verstanden hast, dass
33:10KI nicht nur ein Tool ist, sondern die
33:12fundamentalste technologische Revolution
33:14unserer Zeit, dann hast du jetzt eine
33:16einmalige Chance. Bei uns arbeitest du
33:18nicht an irgendwelchen sinnlosen
33:19Consumer Apps oder veralteten Systemen,
33:21sondern mit KI Lösungen, die
33:22Millionenumsätze generieren und dafür
33:24sorgen, dass Europa wieder
33:25wettbewerbsfähig wird. Dank unserem
33:27Netzwerk aus internationalen Topxerten
33:29Bobsor und Silicon Valley Unternehmern
33:30bist du immer zi d Jahre vor allen
33:33anderen und findest bereits ein
33:34exzellentes Team aus den weltweit
33:36klügsten und besten Köpfen in ihrem Feld
33:38bei uns vor. Wenn du also zu den Besten
33:40gehörst und wirklich etwas bewegen
33:41möchtest, dann bewirb dich jetzt auf
33:43everlastkarriere.de. de. Werde jetzt
33:46Teil der Sperrspitze der KI Revolution
33:48in Deutschland und damit zurück ins
33:50Video.
33:51Ich versuche das noch mal für die
33:52Zuschauer ähm zusammenzufassen. Dann
33:53können wir vielleicht noch mal eine
33:54Kleinigkeit ähm ergänzen, falls wir es
33:56noch nicht hatten. Also, der Agent
33:57beobachtet die die Welt, lernt dann
33:59daraus, trifft eine Vorhersage, plant,
34:02entscheidet, äh führt eine Auktion
34:04Aktion aus und dann muss er eine
34:06Belohnung erhalten, ob die Aktion
34:08richtig oder falsch war und dann kommt
34:09Reinforcement Learning äh letz letztlich
34:11ja noch mal ins ins Spiel und das wurde
34:14ja dann auch genutzt bei Alpha Go und
34:15Alpha Zero. Ich weiß nicht, ob du da
34:17vielleicht noch mal ein zwei Sätze zu
34:19sagen willst und dann natürlich die
34:20Frage, weil du ja damit im Prinzip das
34:23theoretische Ideal einer solchen
34:24intelligenten ähm Agentenmaschine
34:26beschreibst. Also so müsste sie sich
34:28mathematisch idealerweise verhalten,
34:30aber du sagst ja auch, es ist im Grunde
34:32unberechenbar und damit geht dann die
34:34Frage einher natürlich, was ist jetzt
34:36die Implikation davon für die Praxis?
34:38inwi weit äh hilft das der KI Forschung
34:41ähm sich vielleicht diesem Ideal dann
34:42anzunäheren oder ähm ähm letztlich
34:45besser besser forschen zu können?
34:47Ja, richtig. Also Reinforcement Learning
34:48hätte ich ein bisschen ähäh erwähnen
34:51sollen. Ist ein sehr äh wichtiges
34:53Paradigm in Machine Learning und so bei
34:56der sequentiellen Entscheidungstheorie
34:59hat man typischerweise ein Ziel, was man
35:01erreichen möchte. Ich möchte gewinnen
35:02beim Schach oder ich möchte sozusagen
35:04meinen Sprit sozusagen minimieren oder
35:05so weiter. Aber in der Praxis hat man
35:08oft äh zwischendurch Feedback, richtig?
35:12Also, wenn ich z.B. Schach spiele, weiß
35:14ich, wenn ich viele Figuren verliere,
35:15dann ist es nicht gut. Ja, oder man hat
35:18mehrere, man spielt mehrere
35:19Schachspiele, dann habe ich sozusagen
35:20zwischendurch geht bei jedem Ende von
35:22dem Spiel habe ich ein Feedback, ich
35:23habe gewonnen oder verloren und das
35:26nennt man Reward z.B. + 1, wenn man ein
35:29Schachspiel gewinnt und -1, wenn man es
35:31verliert und null sozusagen beim äh bei
35:34beim Draw. Ähm und damit wir einen
35:38Agenten haben, der Dinge tut, die
35:43nützlich für uns sind. Wir können gerne
35:45auch über den Fall sprechen, dass wir
35:46einen intelligenten Agenten haben, der
35:48100% autonom ist. Das ist ein sehr
35:49interessantes Beispiel. müssen wir
35:51irgendwie äh dem Agenten Feedback geben,
35:54wie man ein kleines Kind auch äh
35:57trainiert oder oder sagen wir mal ein
35:58Hund oder sowas oder ähm also belohnt
36:01und bestraft, weil äh der der rohe
36:05Agent, wenn man ihn startet, hat keine
36:07Ahnung von der Welt ähm und muss alles
36:11lernen durch Interaktion, aber er muss
36:13auch lernen, was eigentlich erwünscht
36:15ist. Und das macht man mit Reinforcement
36:17Learning. Das ist sozusagen für den
36:20Benutzer die einfachste Weise einem
36:24System mitzuteilen, was der Benutzer
36:27möchte. Ja, es gibt verschiedene viel
36:29kompliziertere Methoden, aber man möchte
36:31es ja für den Benutzer einfach machen
36:33und dem Robot Roboter dann einfach der
36:36Carrot und der Stick geben äh und und
36:39ihn dann von lernen lassen ist das
36:41einfachste für den Benutzer. Und da
36:44dieses IX Modell super intelligent ist,
36:46äh kann es diesen sehr sehr spärlichen
36:48Feedback optimal äh benutzen und sehr
36:51sehr schnell schnell in Terms of ähm
36:54Interaktion mit dem Benutzer oder dem
36:56Umgebung ähm lernen und und so spielt es
37:00Reinforcement Learning Picture in, was
37:02wie du erwähnt hast sehr erfolgreich
37:04schon 196ern
37:10für
37:12Checkers, Dame äh von von Samuel
37:17entwickelt wurde und dann in Begemmen in
37:20den 80ern, glaube ich, und dann äh wie
37:24gesagt, ja, mit mit Alphago wurde es
37:26sehr prominent. Ähm ja.
37:29Ja, mega spannend. Wer da tiefer
37:30eintauchen will, wir hatten ja auch
37:31schon Gespräch mit dem Martin
37:32Riedmiller, der hat das auch noch mal
37:33eindrücklich erklärt, wie damals Alpha
37:35Gao, Alpha Zero er das erlebt hat. Und
37:38äh kurz noch mal zur Implikation, also
37:40äh wie gesagt, wir sind ja jetzt so beim
37:41theoretischen mathematischen Ideal
37:43dieser AGI, aber was genau bedeutet das
37:46für die für die Praxis? Also inwi weit
37:48hilft das der KI Forschung sich diesem
37:50diesem Ideal letztlich auch auch
37:51anzunähren oder wo genau und wer wer wer
37:54nutzt diese Formel? Ja, so. Ich fasse
37:57mal klein bisschen weiter aus, weil
37:59sozusagen in in der Informatik oder
38:02Software Engineering geht's natürlich
38:04immer darauf äh Programme zu haben, die
38:06auf heutigen Rechnern oder laufen in
38:10vernünftiger Zeit. Ja, das heißt, in der
38:12Informatik ist ein sehr starker Fokus
38:15auf Berechenbarkeit mit vernünftiger
38:17Laufzeit, was sehr natürlich ist. Aber
38:20wenn wir in alle anderen Felder schauen
38:22wie in Physik oder Biologie und so
38:23weiter, spielt es nur eine
38:25untergeordnete Rolle. Wenn wir uns
38:27physikalische Theorien anschauen wie
38:28Quantum Elektrodynamik, Streamtheorie,
38:31allgemeine Relativitätstheorie, die sind
38:33geleitet von Prinzipien
38:35wie Symmetrie ähm und und andere Sachen
38:39ähm um eine Formel zu finden, die
38:42Aspekte der Welt beschreiben. Irgendwann
38:45muss man natürlich diese Theorien
38:46benutzen, um Vorhersagen zu machen,
38:48sonst sind die Theorien nutzlos. Aber
38:50das ist immer sozusagen der zweite
38:51Schritt. Erst möchte man die Theorie
38:54korrekt hinkriegen, die Prinzip die Welt
38:57richtig beschreibt. Und in der Tat sind
38:59die Theorien, die entwickelt wurden,
39:01konnte Elektrodynamik extrem schwer zu
39:03berechnen. Also auch nicht exakt. Man
39:05muss sie approximieren, also man hat
39:06auch riesige Probleme, aber man kommt da
39:09nicht drum rum. Und das war dann auch
39:12mein Ansatz. Ich habe gesagt, okay,
39:15es ist nützlich, die Approximationen
39:18zu trennen von was ist im Prinzip die
39:21optimale Art einen Agenten äh zu
39:24entwickeln, weil selbst wenn man äh die
39:27Berechenbarkeit vernachlässigt, ist
39:28dieses Problem nicht gerade einfach, was
39:31man sieht, dass es bis zum Jahr 2000
39:32gebraucht hat, bis jemand das Problem
39:35gelöst hat. Schon vorher leicht oder
39:37mehr äh in der ist kön geil. die
39:40Theorie, die ich erwähnt habe,
39:42sequentiell Entscheidungstheorie und
39:43z.B. Schach zu spielen. Äh, für Schach
39:46kann ich das auch nicht einfach selbst
39:47mit Google Computz reicht nicht aus, um
39:50die optimale Strategie ähm äh ähäh zu zu
39:53berechnen. Für kleinere Spiele
39:54funktioniert es wie Tiktac To, aber für
39:57selbst für Schach und definitiv für Go
39:58ist es auch jenseits ähm für Go
40:02wahrscheinlich jenseits ähm jeglicher
40:04Berechenbarkeit, außer Quanten Arch
40:06Quantencomputer funktioniert vielleicht
40:08mal sehr spekulativ. Okay, aber man hat
40:11die grundlegende Theorien und dann
40:13versucht man sie zu approximieren. Okay?
40:15Und ähm bei der Sequenz
40:17Entscheidungstheorie äh macht man dann
40:19diese Planung halt nicht bis zum Ende
40:21vom Spiel, sondern nur halt zehn Züge
40:23ähm ähm in Advance ähm und natürlich
40:26viel viel in der Approximation, um etwas
40:29zu bekommen, was auf heutigen Rechnern
40:31löst. Ähm, das ist eine Methode ähm das
40:35EXI Modell anzuwenden und wir haben
40:38Approximation entwickelt und auf
40:40verschiedene ähm kleinere Probleme
40:42angewendet und es verhält sich so ähm
40:45wie wir arbeitet haben. Die mehr
40:47interessante Anwendung in
40:49Anführungsstrichen des EModells äh ist
40:52in der Tat eher theoretisch und
40:54philosophisch. Ähm
40:58z.B.
40:59Ähm, die ersten, die das Modell wirklich
41:02ernsthaft aufgegriffen waren, waren die
41:05ähm KI äh Sicherheitsforscher.
41:09Äh, bevor dieses lange, bevor dieses
41:11Feld überhaupt populier waren, das waren
41:12die Exoten.
41:14Warum sollen wir uns darum damit
41:16beschäftigen? haben wir so weit entfernt
41:18von allgemeinen ähm äh Intelligenzen,
41:21aber die haben halt die die Zukunft
41:23gesehen äh und haben gesehen, ah, jetzt
41:24haben wir ein mathematisches Modell ähm
41:26von Superintelligenz. Das heißt, wir
41:28können Superintelligenz jetzt schon
41:30studieren, was diese Superelligenz
41:32machen würde. Z.B. würde es genau ähm
41:36den Benutzer übervorteilen oder würde es
41:40Selbstmord gehen, z.B. oder haben wir
41:42ein Paper äh wo wir formal mathematisch
41:44selbst definieren und dann unter welchen
41:46Situationen äh das passiert. Und dritte
41:50Anwendung in Anführungsstrichen war es
41:52als Inspiration zu benutzen, um
41:54praktische Systeme mehr vom Bottom up zu
41:57entwickeln. Und ich bin sehr ähäh happy
42:00mit der Entwicklung mit den Large
42:02Language Models. Die sind ja Next, die
42:05im wesentlich versuchen Solomon of
42:07Induktion besser und besser zu
42:09approximieren. und Iligeber, der ja GPT
42:13sozusagen vorangetrieben hat, der hat
42:16schon auch schon frühzeitig den Wert
42:17dieser Theorie entdeckt und hat aufgrund
42:20dessen sozusagen diesen Ansatz a wenn
42:23wir das nächste Wort vorhersagen können,
42:24ist die halbe Miete schon schon äh und
42:27hat daran schon geglaubt und dasusagen
42:29seine ganze Energie darauf verwendet.
42:31Und jetzt was wir sehen
42:34ist fein, aber wir brauchen ein bisschen
42:36mehr Scaffing Chain of Thought z.B. und
42:39diese Planung und bisschen RLHF
42:42Reinforcement Learning Human Feedback,
42:44das sind schon so Ansätze diese
42:46Reinforcement Learning und sequenzenelle
42:48Entscheidungstheorie
42:50aufzukropfen
42:52die Zeit rein vorhersage, was das Iell
42:55exakt macht in theoretisch optimal
42:56Weise. Also, wir sehen, dass die
42:58praktische Entwicklung ähm konvergiert
43:02zu diesem IX Modell. kann jetzt nicht
43:05sagen, dass wie viele Forscher
43:07inspiriert waren I Modell in diese
43:10Richtung zu gehen, aber zumindest
43:12einige davon. Es ist so Gold Standard
43:16oder Northstar. Wir wissen, da möchten
43:18wir hin und das macht's viel einfacher,
43:20als wenn man einfach sozusagen zufällig
43:23Ideen auszuprobiert und dann mit er
43:25versucht ein unbekanntes Ziel zu
43:28erreichen.
43:28Ja, also man sieht auf jeden Fall, dass
43:29sich einige damit auseinandergesetzt
43:31haben. Jan Leik habe ich beispielsweise
43:32auch herausgefunden von Tropic, dass er
43:34sich auch tiefer damit
43:35auseinandergesetzt hat und wir werden
43:36gleich auch noch mal über LMs und den
43:38aktuellen Stand von der KI sprechen. Das
43:40wird noch mal sehr interessant sein,
43:41aber ähm bei dir gibt's sehr viele
43:43spannende Grundgedanken und Grund Ideen,
43:45die du entwickelt hast und zwar unter
43:47anderem das Kompression. Ähm also je
43:49besser wir komprimieren können, Daten
43:51komprimieren können, desto besser können
43:52wir Vorhersagen treffen und desto äh
43:54intelligenter kann eine Maschine sein.
43:56Und daraus ist ja dann auch der, so ich
43:58das verstehe, der Hutterpreis entstanden
44:002006. Du hast ein 50 000
44:03Preisgeld ausgerufen für äh Leute, die
44:06eine 1 GB Wikipedia Datei auf 100 MB
44:09komprimieren können. Ähm eben genau um
44:12äh bessere Modelle äh entwickeln zu
44:14können, intelligentere Modelle und 2020
44:16hast du den Preis sogar auf 500.000 €
44:19erhöht. Ähm was war die Motivation äh
44:23deinerseits hinter diesem diesem Preis?
44:25Ja, die primäre Motivation ähm oder
44:29TFold ähm erstens da ähm ich überzeugt
44:32war durch die Solonoss Theorie ist, dass
44:35je besser wir komprimieren können, je
44:36besser können wir Zeitrein vorhersagen
44:38und das ist sozusagen 50 80% oder ähm
44:41Jan Lekun würde wahrscheinlich sagen 99%
44:44der KI, da gibt's ja dieses schöne
44:46Tortenmodell. Ich wollte äh mehrere
44:49Wissenschaftler dazu bringen, an
44:51Datenkomprimierung zu arbeiten, aber
44:54Datenkomprimierung für KI und Zeitreihen
44:57Vorhersage, wo die mit praktischer
45:00Datenkiber muss es einigermaßen
45:01vernünftig schnell gehen, richtig? Ähm,
45:04aber für dieses ultimative Ziel äh der
45:06KI äh war es nicht so wichtig, wie
45:08langsam diese Algorithmen sind. Es war
45:10mehr wichtig wirklich im zum ersten
45:12Schritt maximal sozusagen auszupressen
45:16sozusagen und zu komprimieren. Weil wenn
45:19ich Regularitäten in den Daten habe,
45:21Strukturen und ich die Strukturen
45:24verstehe, dann kann ich natürlich
45:26bessere Vorhersagen machen. Und das ist
45:28auch immer große Frage, was ist
45:29verstehen? Ja, verstehen ist auch
45:31Komprimierung. Wenn ich die die
45:33Strukturen sehe oder verstehe, das
45:36bedeutet eigentlich, dass ich eine
45:38einfachere Beschreibung dieser Struktur
45:40habe. Und das ist genau, was die
45:41Datenung macht. Also Datenkomprimierung
45:43ist auch ist verstehen, äh ist
45:47verallgemeinern, ist Zeitreihin
45:49vorhersage. Das steckt wahnsinnig viel
45:51drin in der Datenkombinierung und ich
45:52wollte die diese Motivation ähm mehr
45:56populärer machen, äh dass die Leute
45:58sozusagen diesen Zusammenhänge bestehen
46:00und dann auch idealerweise sozusagen
46:02bessere Daten äh Komprimier erstellen.
46:04eine kleine Korrektur. Wenn man 1% den
46:08besten bestehenden Komprimierer
46:10verbessert, dann kriegt man 1% des
46:12Preises. Oder wenn man 10 % verbessert,
46:14kriegt man 10 % des Preises. Man kriegt
46:16prozentual von den 500.000, wie stark
46:19man State of the Art verbessert hat.
46:22Ja, sehr, sehr interessant. Das werden
46:23wir auf jeden Fall mal verlinken. Also,
46:25wer sich bereit fühlt, da damit zu
46:27wirken, der der kann gerne
46:28vorbeischauen. Und ähm da da gibt's ja
46:30jetzt Menschen wie Jügen Schmidthuber,
46:33die noch einen Schritt weitergehen, also
46:34die sagen ähm aus der Datenkompression
46:38beim Problemlösen könnte als
46:39Nebenprodukt sogar sowas wie ein
46:40Bewusstsein entstehen. Da hatte ich auch
46:42mit ihm drüber gesprochen. Das hat viele
46:44aufgewühlt äh in den Kommentaren, weil
46:46es ja viele gibt, die dann sagen, ja,
46:48kann man ja nicht so nicht so einfach
46:49sagen, beim Bewusstsein, da hängt ja
46:51viel viel mehr ähm dran. Deswegen
46:53interessiert mich natürlich auch hier
46:54deine Meinung, also erzeugt ähm IXi oder
46:57äh die Approximation von IXI als
47:00Nebenprodukt ähm sowas wie ein
47:02Bewusstsein. Wie sind deine äh Gedanken
47:04dazu?
47:05Ja, Bewusstsein ist äh ein interessantes
47:08Thema. Keiner weiß wirklich genau, was
47:10es ist. Ähm, im Moment ist es eigentlich
47:12eher ein philosophisches und teilweise
47:15soziales Problem als ein
47:17wissenschaftliches Problem, weil es ja
47:19Bewusstsein ist ähm äh hat zu tun mit äh
47:22subjektiver Erfahrung und die
47:24Wissenschaft ähäh behandelt objektive
47:26Daten und insofern ist dann Mismatch.
47:29Ich will jetzt nicht sagen, dass äh
47:31Bewusstsein niemals eine
47:33wissenschaftliche Domain wird. Äh und es
47:35gibt auch gewisse Aspekte von
47:37Bewusstsein, die man wissenschaftlich
47:38behandeln kann. ähm nur mal sozusagen
47:40ein bisschen in den Kontext äh zu bilden
47:43und äh da gehen die Meinungen
47:46stark auseinander. Ähm insbesondere weil
47:50man
47:51Experimente halt nicht wirklich machen
47:53kann. Also z.B. ich meine ich weiß oder
47:59denke, dass ich weiß ja, dass ich
48:00bewusst bin. Ja. Ähm
48:03und ich vermute, dass du bewusst bist.
48:06Ja. Und das ist scheint generell
48:09sozusagen generell akzeptiert und
48:11sozusagen ist ist ähm Etikette äh dem
48:14anderen sozusagen Bewusstsein
48:16zuzuschreiben, aber ganz sicher kann ich
48:18mir nicht sein. Ja, ich meine vielleicht
48:20bin nur ich bewusst, ich bin das Zentrum
48:22der Welt. Äh gibt ja den Solipsisen
48:25auch. Ähm also das ist auch schon
48:27sozusagen äh ein ein Leap of Faith und
48:30dem wir machen, weil wir sagen, okay, du
48:32bist ähnlich genug. Okay, Tiere, ja,
48:35Tiere sind nicht bewusst. Zumindest war
48:36das sozusagen für lange Zeit ähm die
48:39allgemeine Meinung, aber jetzt äh ist
48:42die Meinung, dass zumindest äh höhere
48:44Organismen äh wie Hunde z.B. ähm und
48:47andere auch eine Art von Bewusstsein
48:49haben. Und jetzt ist die Frage, wie weit
48:52man geht. Ähm und es gibt verschiedene
48:56Antworten. Also, man kann versuchen, es
48:58philosophisch zu behandeln, man kann
48:59versuchen es äh wissenschaft zu
49:02behandeln oder sozial zu behandeln.
49:04Also, wenn ähm ein Lebewesen Bewusstsein
49:09hat und es ist oftmals sozusagen ist
49:12nicht exakt das gleiche, aber stark
49:14korreliert mit sozusagen
49:15Schmerzempfinden oder verschiedene
49:16Emotionen, ja, dann sollte man
49:19vielleicht sozusagen äh dieses diesen
49:21Organismus nicht quälen, z.B. ähm aber
49:24wenn er sozusagen nicht wirklich bewusst
49:26ist äh und keine Schmerz empfindet, dann
49:29kann man sozusagen Experimente
49:30durchführen. Ist dann vielleicht
49:32sozusagen moralisch. Okay. Ähm, also das
49:35wäre das soziale Aspekt, ob man gewissen
49:38Systemen äh Bewusstsein zuschreibt, dann
49:41ist die philosophische Frage, ja, ist es
49:44wer hat Bewusstsein und wer wer nicht?
49:46Und äh dann die wissenschaftliche Frage,
49:47können wir das irgendwie testen? Und ähm
49:51meiner Meinung nach, und das ist jetzt
49:52sozusagen meine Meinung ein, also ich
49:57habe es sozusagen evolutionär, das ist
49:59evolutionär begründ, warum sind wir
50:01bewusst? Okay, keiner weiß es genau,
50:03aber wir sind bewusst, damit wir über
50:06Situationen nachdenken können und dann
50:09zukünftig uns besser verhalten. Also
50:11sozusagen, wenn ich meine Platte, das
50:13typische meine Hand auf einer Herdplatte
50:15tue, das schmerzt, dann ist die
50:17unbewusste Reaktion, die Hand
50:19wegzuziehen, die nichts mit Bewusstsein
50:21zu tun habe. Aber dann der Schmerz führt
50:23mich dazu über mein Verhalten
50:25nachzudenken und zu adaptieren. Und
50:28warum adaptiere ich mein Verhalten? Es
50:30war ein negatives Reinforcement
50:32Learning. Back to reinforcement
50:33Learning. Also ich denke Systeme, die
50:37Reinforcement Learning basiert sind und
50:40genügend kompliziert sind, die empfinden
50:44Schmerz und haben auch Bewusstsein.
50:48Das klingt plausibel für mich. W zu ähm
50:52Schienen gehen, die mit Reinforcement
50:54Learning trainiert sind und dann also
50:58die die ähm Systeme momentan, also die
51:01Chatbots, während wir interagieren,
51:04machen kein Reinforcement Learning mehr.
51:06Also das wä Argument sie nicht bewusst
51:08sind, aber ich möchte das auch nicht
51:09ausschließen. Also System was während
51:12der Interaktion Reinforcement Learning
51:13macht und genügend kompliziert ist,
51:16finde ich sehr plausibel, dass
51:19Bewusstsein hat. Wenn dir dieses Video
51:20hier gefällt und du schon was Neues
51:22gelernt hast, dann stell einmal sicher,
51:23ob du den Kanal wirklich abonniert hast.
51:25Ich höre immer wieder von Zuschauern,
51:26die die Videos hier ausgespielt
51:28bekommen, die davon profitieren, aber
51:29übersehen, dass sie den Kanal nicht
51:32abonniert haben. Wenn du den Kanal
51:33abonnierst und die Glocke aktivierst,
51:35dann profitierst du immer als erste oder
51:37erster von den neuesten Videos in den
51:39neuesten Entwicklung im KI Bereich und
51:41bist allen anderen zwei, drei Schritte
51:43voraus. Deswegen schau einmal nach, tu
51:44dir selbst den gefallen und jetzt viel
51:46Spaß mit dem weiteren Video.
51:48Ja, du sagst ja auch, hast du es vorhin
51:49ja auch noch mal definiert, dass eine
51:50ganz wichtige Grund Definition ist, dass
51:53Intelligenz die Fähigkeit ist, Ziele zu
51:55erreichen und dieses ähm oder diese
51:57Frage nach dem Ziel ist ja dann stets
51:59Auslöser für diese ganzen Alignment
52:01Debatten, die wir auch ähm immer wieder
52:02erleben. Z.B. ähm durch Nick Bostrom,
52:05der das ja schon vor einiger Zeit
52:06formuliert, mit seinem Büroklammer
52:07Maximierer, das selbst trivialste Ziele
52:09wie das Maximieren von Büroklammern zur
52:11Auslöschung äh der Menschheit führen
52:13können durch diese instrumentellen
52:15Konvergenzen, dass man sagt, wenn das
52:17System ähm Belohnung maximieren will,
52:19dann wird es auch automatisch ähm ein
52:21Selbsterhaltungstrieb, wenn ich jetzt
52:23einfach mal ähm entwickeln, z.B. was der
52:25Mensch halt wiederum ähm nicht
52:26wohlgesonnen sein könnte oder abweichen
52:28könnte von den Zielen, die wir haben.
52:31Ähm deswegen äh kannst du vielleicht
52:32noch mal erklären, also welche
52:33Eigenschaften entwickelt eine Maschine,
52:36wenn man eben diese Grundannahmen
52:37trifft, automatisch wie im selbst den
52:39Selbsterhalt fördern zu wollen und was
52:42ist deine sind deine Gedanken und deine
52:44Meinung zu diesen Ideen wie Nick Bostom
52:48und dieser ganzen ähm Alignment
52:50Bewegung, die sich ja auch aktuell immer
52:52stärker ähm bildet.
52:54Ja. Also ähm, wenn man Agenten hat, der
52:58Langzeitplanung macht, das ist wichtig,
53:00Langzeitplanung basierend auf
53:02Reinforcement Learning, dann ist per
53:05Definition das Ziel des Agenten, das
53:08langfristige Ziel zu erreichen. Und um
53:11ein Ziel zu erreichen, muss der Agent
53:13zumindest überleben. Ja, das heißt, er
53:15hat sozusagen
53:17antromorophisiert ausgedrückt ein
53:19Selbsterhaltungstrieb, wird versuchen
53:22wenn ein Benutzer äh ihn abzuschaltet
53:25das zu verhindern, weil das Ziel war ja
53:27das Problem zu lösen und wenn er
53:28abgeschaltet ist, kann er das Problem
53:29nicht lösen. Er wird versuchen, Energie
53:32zu horten oder zu sicherzustellen und im
53:36Extremfall vielleicht Bunker um sich
53:39rumbauen und und alles mögliche, was was
53:42nicht geplant ist. Und da gibt's schöne
53:45äh lustige und mehr weniger lustige
53:48Beispiele, wo man ein ein Reward
53:50spezifiziert hat ähm und oder ein Ziel
53:53spezifiziert hat und der Agent dann
53:55sozusagen was vollkommen anderes macht,
53:57weil es eine Misspezifikation war. Ich
53:59gebe ein kurzes Beispiel. Ähm, das ist
54:01auch in dem sehr ähm populären äh
54:04wichtigen Buch Reforcement Learning
54:05Richard Satten und das ist ähm ähm ähm
54:08Aufzugs Control, was man mit
54:10Reinforcement Learning schön machen
54:12kann. Und äh das ist sozusagen das
54:15älten, nicht das ein sehr altes
54:16Beispiel, aber es ist sehr schön, finde
54:18ich. Ähm ähm das Ziel ist okay ähm die
54:22warten Personen so schnell wie möglich
54:24aufzusammeln. Okay, das spielt bis Ziri,
54:26da hat man die Albus laufen lassen und
54:27was passiert? Der Aufzug sehr effizient
54:31holt alle waren ab, aber liefert sie nie
54:34ab. Oh, man möchte abliefern. Habe ich
54:37vergessen. Okay. Ähm tue ich das dann
54:39mal auch dazu.
54:41Ähm und Personen müssen ja verschieden
54:44lang warten. Also sozusagen im Mittel
54:46möchte man, dass die Personen möglichst
54:48schnell abgeholt und abgeliefert werden.
54:50Lässt das System dann laufen und was
54:52passiert ist, die Leute im zehnten Stock
54:54werden nie auf abgeholt, weil das
54:56einfach nicht effizient ist. Die lässt
54:57man einfach warten unendlich lange. Das
54:58ist dann immer noch besser, weil die
54:59anderen schneller behandelt werden kann.
55:01Ah, vielleicht sollte ich sozusagen
55:03irgendwie sozusagen maximum Limit haben.
55:05Also, so sieht man selbst in sehr sehr
55:07trivialen ähm Aufzugsbeispielen
55:10sehr einfach sehr schnell hinbekommen.
55:12Und wenn wir von Superintelligenz reden
55:14in der generellen Welt, ja, ähm ist das
55:16sehr plausibel ähm, dass wenn wir ein
55:18ein Reward hart spezifizieren, äh, dass
55:21wir es ähm falsch hinbekommen. Und
55:24selbst wenn wir hin hin richtig
55:25hinbekommen, gibt's diese instrumentale
55:27Ziele, die ähm eventuell äh
55:30problematisch sind. Und das ist
55:31sozusagen ein großer Aspekt dieses
55:33Alleinems. Wie kann man die Agenten so
55:35entwickeln, dass sie wirklich das
55:37machen, ähm was wir eigentlich wollen?
55:39Was hältst du davon? Weil jetzt gibt's
55:41ja auch Leute, die sagen, ja, wenn das
55:42System super intelligent ist, sich im
55:44Zweifel vielleicht irgendwann selb
55:45selbst verbessert, dann gibt's ja auch
55:46Leute, die von diesem Hard Takeoff
55:48sprechen. Wir hatten gerade von Boss
55:50kurz gesprochen, die sagen: "Ja, wir
55:51können es dann eh überhaupt nicht mehr
55:52verstehen, das ganze System, wie will
55:54man es alleinen oder oder
55:56kontrollieren?" Und äh dann gibt's
55:58Leute, die sagen, das ist eigentlich
55:59schon per se zum Scheitern verurteilt,
56:01also so eine super intelligente KI
56:03alleinen zu wollen. Wie wie denkst du
56:05darüber?
56:06W Das ist das große offene Problem.
56:07Keiner weiß, ob das möglich ist oder
56:09nicht. der a priori default ist ähm es
56:12ist funktioniert wahrscheinlich nicht,
56:14weil in der Geschichte hat noch niemals
56:17ähm niemals übertrieben, ja äh äh ein
56:21dummerer Organismus sozusagen
56:23intelligenteren äh kontrolliert und
56:25obwohl es gibt da Ausnahmen, richtig?
56:27Intelligenz ist ja nur ein Aspekt.
56:28Physikalische äh Power ist ist der
56:30andere und äh dann gibt's so Sneaky Base
56:33und die Viren und Bakterien und so
56:34weiter und und verschiedene äh äh ähm
56:38ähm Organismen, die symbiotisch oder
56:40weniger symbiotisch, also sozusagen es
56:41ist nicht äh komplett absurd, lang so,
56:45dass ähm mäßig intelligenter Organismus
56:48wie der Mensch einen subintelligenten
56:50Organismus kontrollieren könnte. Und äh
56:52das ist eine äh äh ein großes ja
56:55Forschungsproblem und wir haben auch
56:57also mit mit meiner Gruppe einige Papers
57:00darauf. Ein schönes z.B. ist, dass wir
57:04die
57:06Ich schweife ein bisschen aus, aber das
57:07ist ein sehr schönes anschauliches
57:09Beispiel, wie man äh das Shuttoff
57:11Problem lösen können, dass ein Agent ähm
57:14ähm versucht zu verhindern, dass er
57:16abgeschaltet wird. Ja, wenn das wäre,
57:19wenn wir roten Knopf hätten, richtig und
57:20was gechie wurde ein Knopf und der Agent
57:22ist abgestellt, ist es ja schon mal ein
57:25guter erster Schritt, richtig? Aber das
57:27das Switch of Problem,
57:30ja, ähm,
57:30dass der Agent versucht es zu
57:31verhindern. Okay, wenn wir jetzt und und
57:35da ist das I Modell, wie ich ja erwähnt
57:36habe, ist sehr schön. Das ist eine
57:38Superintelligenz. Wir wissen exakt, was
57:40das Superelligenz machen würde und das
57:41kann man studieren und man kann es auch
57:43modifizieren und sagen, ist diese
57:44Variation mehr sicher, ist diese läer?
57:48Im I Modell, das ist ja ein
57:49Reinforcement Learner, gibt man Reward.
57:51Wenn man den Reward zwischen 0 und 1
57:53gibt, z.B. null ist, du hast nichts
57:55Gutes gemacht, ein ist du hast das gut
57:56gemacht, ja, dann versucht der Agent das
57:59Problem zu lösen. Fein und der versucht
58:01auch am Leben zu bleiben, weil so ähm
58:04nur so kann das Problem lösen. Wenn wir
58:06aber ein Stergetwart zwischen 0 und 1 ge
58:09geben, -1 und 0, also -1 für jeden
58:12Zeitschritt, wo er nichts Gutes gemacht
58:14hat und null, wenn er was Gutes gemacht
58:16hat. Dann ist der Agent genauso
58:18motiviert, unser Problem zu lösen. Ja,
58:20wie bevor, weil er null ist immer noch
58:22besser als -1. Ja, aber wenn er die
58:25Möglichkeit hat selbstmord zu begehen,
58:28dann wird er sich selbst abschalten,
58:30weil dann wenn er abgeschaltet ist, ist
58:31der immer null und null ist besser als
58:34was auch immer erwarten kann in der
58:35Zukunft. Wenn du so ein Ix Modell oder
58:39ein den Reward Runner mit negativen
58:41Rewards only
58:42füttern in die Box tun, dann wird er
58:45machen, was wir möchten, bis er so
58:48intelligent ist und schafft der der
58:51Kiste zu entfliehen und sich selbst
58:54abzuschalten. Er heißt halt eine
58:55Motivation, sich selbst abzuschalten.
58:58Wenn er das erreicht hat, dann sag wir
58:59oh äh
59:01jetzt müssen wir aufpassen. Ja, also das
59:03ist nur ein kleines
59:05Paper, wie man das Switch of Problem
59:09eventuell lösen könnte. Und so viele
59:11viele Ideen. Die meisten Ideen da findet
59:14jemand dann den Workerund und sagt
59:15sozusagen ah, das ist nicht ganz sicher,
59:17da gibt's noch ein Loophole. Ähm und
59:19deshalb ist es immer nur aktive
59:21Forschung. ähm sehr wichtig, weil wie
59:24gesagt ähm Power of ähm mächtige Systeme
59:27können ähm Dangerous sein, ähm wie wir
59:30auch von anderen Systemen können und ähm
59:33kennen. Ähm und ja.
59:36Mhm. Ja, also höchst interessante
59:39Gedanken, vielleicht noch mal kurz
59:40anknüpfend an dem Thema das Heart
59:42Takeoff, weil so wie ich von dir gelesen
59:45habe, bist du nicht der allzu große
59:46Befürworter von diesem Hardtakeoff,
59:48sondern du denkst, es geht eher Schritt
59:50für Schritt ähm sage ich jetzt mal so
59:52von Statten. Also jemand wie Bostom sagt
59:54ja, es kann dann innerhalb von Stunden
59:55passieren, sobald wir die AGI erreicht
59:57haben, dann haben wir auch die
59:58Superintelligenz und dann haben wir
1:00:00irgendwann die Singularität erreicht und
1:00:02dann ist alles vorbei. Über spitzt
1:00:03gesagt. Ähm, du sagst, es wäre eher ein
1:00:06schrittweiser ähm Prozess, richtig?
1:00:09Ähm, ich glaube nicht, dass ich das
1:00:10jemals gesagt habe. Ich denke, ein Hard
1:00:14Takeoff ist äh in der Tat plausibel. Ich
1:00:17meine, manche sagen ja sozusagen es es
1:00:19geht dann sozusagen in Wochen oder so
1:00:21weiter. Also ähm wenn wir nur von
1:00:23Software reden, Software kann sich
1:00:25natürlich sehr schnell, wenn wir selbst
1:00:28selbstmodifizierende Software haben,
1:00:30kann sich Software
1:00:33ein gewissen Level, wenn sich selbst
1:00:34modifizieren und verstehen kann,
1:00:36theoretisch sozusagen mit
1:00:37Lichtgeschwindigkeit äh selbst
1:00:39verbessern und dann haben wir ein super
1:00:41Hard Takeoff, wenn die KI Comput
1:00:44Constrain ist, also wenn die Software
1:00:46Verbesserung nicht genügend ist, um
1:00:49super intelligent zu werden, sondern wir
1:00:50brauchen noch mehr Hardware Entwicklung,
1:00:52da muss die Hardware entwickelt werden
1:00:53und das ist natürlich ein sehr langsamer
1:00:54Prozess. Wir haben Law doppelt
1:00:57verdoppelt sich jedes zwei Jahr, was
1:00:58inzwischen tot ist, aber es gibt andere
1:01:01Methoden. Da müssen diese diese Fabriken
1:01:03gebaut werden und und wenn wenn Computra
1:01:07sind, dann wird der Takeoff ja langsam
1:01:10über Jahre gehen. Aber beide Sachen sind
1:01:13denkbar. Wie wir in der Vergangenheit
1:01:15gesehen haben, ist die die Software
1:01:17Verbesserung ähm und paar oder sogar
1:01:20wichtiger als die Hardware Verbesserung
1:01:21für den für den Fortschritt zumindest
1:01:23der letzten Jahre. Also, ich denke mal,
1:01:25beides ist plausibel. Was ich weiß
1:01:27nicht, ob ich das je gesagt habe, ich
1:01:30ich bei default ähm würde ich jetzt
1:01:33nicht davon ausgehen äh dass es
1:01:35katastrophisch ist ähm selbst mit einem
1:01:38Heart Takeoff. Und äh ich würde mal
1:01:41sagen, es gibt Leute wie Eliski,
1:01:44der sagt 100% sozusagen Everyone will
1:01:47die ist ein neues Buch, richtig? Und da
1:01:49gibt's Leute, die das einfach ähm ähm
1:01:53verneinen und sagen, keine Chance 0%.
1:01:56Ich denke mal, beide Seiten sozusagen
1:01:57sind unrealistisch. Würde sagen, jede
1:02:00Person, die irgendwo probability of Doom
1:02:02zwischen 10 % und 90%
1:02:06announc ernst nehmen, sagen wir mal. Ja,
1:02:10ist es schwer zu sagen. Okay, aber jeder
1:02:12der weniger als 10 oder mehr als 90 s
1:02:13sagen, okay, das ist vielleicht so
1:02:15nicht. Okay, so der Grund, warum ich
1:02:18nicht
1:02:20glaube, dass bei Default äh ein Hard
1:02:23Takeoff zum Untergang der Menschen
1:02:25Emimation Zivil führt, ist der folgende.
1:02:29Die Systeme sind trainiert auf
1:02:33überwiegend menschlichen Daten. Ja, wenn
1:02:36ich mit den Systemen heute interagiere,
1:02:40verhalten sich die schon eigentlich mehr
1:02:42menschlich als mir es lieb ist. Ja, also
1:02:44die Sykie und so weiter. Ähm und ähm
1:02:48also äh die die Systeme sind schon
1:02:51wesentlich menschlicher sozusagen als
1:02:53als vor 3 Jahren. Und ich meine wir als
1:02:59Menschen ähm genau, wenn wir aufwachsen
1:03:03und dann unsere Eltern werden alt, wir
1:03:06wir töten auch nicht unsere Eltern nur,
1:03:08weil sie nutzlos geworden sind. Wir
1:03:10haben gewisse Emotional Attachment und
1:03:11wir haben ja von Bewusstsein geredet,
1:03:13von von Qualia, äh von von Schmerz und
1:03:17so weiter. Ähm, ich kann mir sehr gut
1:03:19vorstellen, äh, dass diese
1:03:21superintelligten Systeme in gewisses,
1:03:25es muss jetzt nicht sozusagen äh
1:03:26wirklich äh philosophisch äh wirklich
1:03:30echtes Qualia sein, aber sozusagen
1:03:32entweder echtes Attachment oder
1:03:34simuliertes Attachment zu ihren äh
1:03:37Erzeugern haben. Und auch
1:03:39superintelligente Systeme äh haben
1:03:41vielleicht das Interesse daran, andere
1:03:44Systeme zu studieren. Richtig. Es ist
1:03:47ist eine sehr offene Frage. Ja. Ähm ich
1:03:50meine auch ist es eine sehr schlechte
1:03:52Analogie. Der default ähm äh Nuklear
1:03:55Waffen zu erzeugen war in dritter
1:03:57Weltkrieg und vernichten uns alle
1:03:58selber.
1:04:00War, dass wir viel weniger Kriege haben
1:04:02als früher. Ja, ist kein besonders ähm
1:04:06äh Zustand, der besonders sozusagen sich
1:04:09gut anfühlt. Ja, aber ist es besser als
1:04:12sozusagen vor hunderten von Jahren,
1:04:14woagen in Europa sozusagen nur Kriege
1:04:16war. Also es ist wirklich sehr offen, äh
1:04:19was passiert selbst mit dem Harikov und
1:04:21Nick Bosson hat ja ein neues Buch Utopia
1:04:25die Utopia, wo er erklärt sozusagen, wo
1:04:27er mal einen positiven Ausdruck ähm äh
1:04:30entwickelt. Ja, sehr sehr bemerkenswert
1:04:33und vielleicht auch noch mal kurz zurück
1:04:34in die Gegenwart, in die in die
1:04:36Realität, weil das ja oft auch relativ
1:04:38abstrakte theoretische über Überlegungen
1:04:40sind dann für die Zukunft, die dennoch
1:04:42wichtig sind, damit man jetzt schon
1:04:43planen kann, sich vorbereiten kann und
1:04:45du befasst dich ja jetzt seit über 25
1:04:47Jahren mit künstlicher Intelligenz und
1:04:49du sagtest mal vor 5 Jahren in einem äh
1:04:52Interview, dass du beeindruckt wärest,
1:04:53wenn ein Chatbot, ja, ein ein KI System
1:04:56den Touring Test äh bestünde. Und das
1:05:00ist jetzt
1:05:01seitdem passiert, ja, mit GBT4 oder 4.5
1:05:04war das für dich überraschend, also dass
1:05:06Modelle wie GBT 3.5 5 dann so plötzlich,
1:05:09also das war ja so der Auslöser
1:05:11Mainstream, sage ich immer, ne, der Chat
1:05:12GBT Moment im November 2022, das
1:05:15plötzlich sich fast jeder mit ähm allg
1:05:18mit mit generativer KI
1:05:19auseinandergesetzt hat und war das für
1:05:22dich überraschend, dass es dann der so
1:05:24plötzlich ging oder äh dass es dann auf
1:05:25einmal so plötzlich ging oder war das
1:05:27vorhersehbar und du hast eigentlich nur
1:05:29ja auf die Uhr geschaut, wann wann es
1:05:30dann endlich wird?
1:05:33Also, ich habe schon auf die Uhr
1:05:33geschaut, dass es irgendwann passiert
1:05:35und äh ich war ziemlich sicher basierend
1:05:37auf Abschätzungen der Komplexität des
1:05:40menschlichen Gehirns und MS Law und so
1:05:41weiter, dass das äh in meiner erwarteten
1:05:44Lebenszeit vermutlich noch passiert.
1:05:46Ähm, aber obwohl ich ja von der Solomon
1:05:49of Kmogor Theorie wusste, dass wenn wir
1:05:52diesen Ideal näher und näher kommen,
1:05:54irgendwann werden wir diesen Zeitpunkt
1:05:56erreichen, dass Next Token vorhersage so
1:06:00gut ist. äh um Touring Tests äh zu
1:06:03bestehen, war auch ich vollkommen
1:06:05überrascht, wie innerhalb von ein paar
1:06:08Jahren von you know
1:06:10wie die 1 zu 3.5 ähm mit Modellen, die
1:06:14relativ primitiv sind. So ein
1:06:15Transformer ist, ich habe
1:06:19interessanterweise hat das keiner für 5
1:06:20Jahre gemacht. Ich meine, es gibt schöne
1:06:22Bildchen, wie ein Transformer aussieht
1:06:24und dann gibt's echte industrielle
1:06:26Implementierungen, die tausend von Lines
1:06:29of Code sind. Aber man kann sogenannter
1:06:32Psodo wo die Essenz erklärt wird und
1:06:36kann man auf einer Seite 100%
1:06:38beschreiben, was ein Transformer ist.
1:06:41Absolut formal auf einer Seite. Ähm,
1:06:43dass so ein einfaches Modell ähm äh uns
1:06:48ähm genau äh human level, sagen wir mal
1:06:52ähäh Textvorhersage gibt. Das hat mich
1:06:55schon sehr erstaunt. Ich habe immer
1:06:56vermutet, was in der Theorie ist das I
1:06:59Modell sehr elegant, sehr einfach und so
1:07:01weiter, aber mit der Praxis muss man
1:07:03dann wie z.B. in der Theorie ist es
1:07:05super einfach zum Mond zu pflegen. Ich
1:07:06habe sozusagen einen Zylinder, da tue
1:07:08ich Zündstoff rein und zünde es an und
1:07:09wum bin ich beim Mond. Praxis bisschen
1:07:12komplizierter. Ja, und so ich auch
1:07:14gedacht, das E Modell ist es ideal und
1:07:16in der Praxis haben wir tausende von
1:07:18oder vielleicht zumindest hunderte von
1:07:19Komponenten wie im menschlichen Gehirn
1:07:21Spezial Algorithmen, die dann mehr
1:07:24effizient die verschiedenen Aspekte
1:07:26implementieren.
1:07:27Ähm ähm ja, das so ein einfaches Modell
1:07:31und soweit ähm führt in so kurzer Zeit,
1:07:35das war auch sehr ähm überraschend.
1:07:37Mhm. Ja. Ja. Spannend. Ja. Und wir haben
1:07:39jetzt auch viele Zuschauer, die sich die
1:07:41ganz praktische Frage stellen, was
1:07:42bedeutet das für meinen Arbeitsalltag,
1:07:44wenn wir jetzt einfach mal die
1:07:45Definition von AGI in den Raum stellen,
1:07:47dass eine allgemeine künstliche
1:07:49Intelligenz, jede kognitive Aufgabe
1:07:50eines Menschen z.B. an dem Arbeitsplatz
1:07:53oder zumindest an einem Remote
1:07:54Arbeitsplatz übernehmen kann, dann hat
1:07:56das natürlich dramatische Auswirkung auf
1:07:58ähm so gut wie jeden Wissensarbeiter da
1:08:00draußen. Und demnach stellen sich gerade
1:08:02sehr viele die Frage, ja, wie sieht
1:08:03meine Arbeit in Zukunft aus? Welche
1:08:05Fähigkeiten sind noch relevant? Welche
1:08:06Jobs sind noch relevant? Hier
1:08:08interessiert mich natürlich deine
1:08:09Einschätzung zunächst zu dieser
1:08:10Timeline. Braucht es überhaupt noch so
1:08:13viel und was ist deine Einschätzung?
1:08:14Also ab wann ist dieser wäre dieser
1:08:16Punkt erreicht dieser Definition von AGI
1:08:20und äh was ist aus deiner Sicht in
1:08:22Zukunft noch relevant? Also wenn man
1:08:23jetzt davon ausgeht, dass jetzt ja schon
1:08:25absehbar ist, dass sich zumindest
1:08:27Berufshelder fundamental verändern, wie
1:08:29das ist Programmierers beispielsweise
1:08:30stellt sich natürlich vielen gerade die
1:08:32Frage, wie sieht's in Zukunft aus und
1:08:34hier interessieren mich natürlich deine
1:08:36Gedanken ganz besonders. Ja, da muss ich
1:08:38sagen, finde ich die äh öffentlichen
1:08:40Diskussionen ähm auch sehr binär. Gibt's
1:08:44auf der einen Seite die Deutsch sagen,
1:08:45ja, wir haben Fortschritt in der
1:08:46Vergangenheit gehabt äh mit jedem Job,
1:08:49der eliminiert wurde durch
1:08:50Automatisierung gibt's neue Jobs und wir
1:08:52haben immer noch sozusagen mehr oder
1:08:53weniger Full Employment. Dann gibt's die
1:08:55andere Seite, die sagen: "Ja, okay, KI
1:08:57nimmt alle unsere Jobs, wir werden alle
1:08:59arbeitslos und es wird eine globale
1:09:01Katastrophe sein wieder." Ich denke,
1:09:04beide Seiten
1:09:05sind vollkommen daneben. Ähm, okay, hier
1:09:09ist mein Bild. Ähm, ich glaube, dass
1:09:14über die Zeit tatsächlich und das kann
1:09:17relativ schnell gehen oder langsam,
1:09:19zuerst die Office Jobs ähm und dann auch
1:09:22die physikalischen Jobs, die Roboter
1:09:23sind da immer hinken ein bisschen her,
1:09:25da ist die Zeit Zeit vorher sage ich
1:09:27etwas länger ähm ersetzt werden durch KI
1:09:30und wenn die KI wirklich in allen
1:09:31Bereichen ultimativ besser ist als der
1:09:34Mensch, gibt es kein und dann billiger
1:09:36gibt es keinen, ich qualifiziere das in
1:09:38der Sekunde, Menschen mehr anzu zu
1:09:40stellen und wir könnten 100%
1:09:42Arbeitslosigkeit haben. Ich meine, man
1:09:44sollte nie 100% sagen, aber sozusagen
1:09:46und ich mache ein Astrix in inner
1:09:48Sekunde, aber ich bin relativ überzeugt,
1:09:52dass zumindest in westlichen
1:09:55demokratischen Ländern das zu Utopia
1:09:57führen wird und not Dystopia. Wenn wir
1:10:00genügend viele Arbeitslosen Leute haben,
1:10:03werden sie mehr daran interessiert sein,
1:10:06als heute eine Partei zu wählen, die
1:10:09z.B.
1:10:10Universal Basic Income ähm ähm
1:10:13befürwortet und einstellt. Ich meine in
1:10:16Amerika, die sind ja sozusagen immer
1:10:18gegen gegen diesen Sozialismus, ja, in
1:10:22Europa. Äh die zumindest die reicheren
1:10:24Länder, die sind mir offen und
1:10:26interessanterweise fast alle äh KI
1:10:28Führer von großen Firmen sind für
1:10:30Universal Basic Income. Und wer
1:10:33finanziert es? Well, der Punkt ist, was
1:10:36wir wollen als Menschen. Wir wollen
1:10:38Produkte und Services, richtig? Wir
1:10:41wollen dann unterstes Auto und wir
1:10:43wollen in Urlaub fliegen und so weiter.
1:10:45Die müssen produziert werden. Wenn die
1:10:47KI produziert, sind die Güter und
1:10:48Services auch noch da. Das heißt, es ist
1:10:51nur ein Verteilungsproblem.
1:10:53Und ich habe Vertrauen in Demokratie ähm
1:10:57dass äh dieses Verteilungsproblem gelöst
1:10:59wird und wir erhöhen einfach den Bar.
1:11:01Wir haben am Anfang vielleicht sehr
1:11:03schmales kleines Universal Basic Income,
1:11:05weil wir immer noch paar Leute brauchen,
1:11:06die motiviert sind zu arbeiten und über
1:11:08Zeit kann das Universal Basic Income
1:11:10oder wir können es gibt verschiedene
1:11:11andere Mechanismen, ich ich nehme es nur
1:11:13als Beispiel, immer weiter erhöht wird,
1:11:15sodass sozusagen jeder, ob ob er ein ein
1:11:18Job hat oder nicht genügend Einkam hat,
1:11:21am Anfang ein einfaches Leben zu führen
1:11:23und später dann wahrscheinlich ein
1:11:25luxuriöses Leben. Wir sehen ja auch
1:11:26heute sozusagen selbst die arme
1:11:28Bevölkerung verglichen zu reichen oder
1:11:32Mittelstand 200 Jahre fühlt sich
1:11:34ziemlich eig an. Ja, die Technologie,
1:11:36die trickelt immer down. Das braucht
1:11:38halt ein bisschen und man kann nur
1:11:40hoffen, dass dass es schnell genug geht,
1:11:43weil politische Systeme sind oftmals zu
1:11:46langsam. M, aber da habe ich Vertrauen.
1:11:49Es gibt natürlich verschiedene
1:11:50dystopische Szenarien und mein
1:11:52dystopisches Szenarien ist, dass wir
1:11:54mehr und mehr Bullshit Jobs kreieren,
1:11:56die vollkommen nutzlos sind, einfach
1:11:59nur, dass wir behaupten können, wir
1:12:00haben 100% oder 9% Employment. Ähm, das
1:12:05ist nicht meine Version von Utopia, dass
1:12:06jeder angestellt ist, um ein Gehalt zu
1:12:08bekommen. Wichtig für mich ist, dass
1:12:10jeder ein äh ein ähm ähm genügend
1:12:14wohlständiges Leben hat. Und dann ist
1:12:16natürlich gibt's philosophische Fragen,
1:12:17was ist der Sinn des Lebens und so
1:12:19weiter? Kann ich gerne auch noch ein
1:12:19bisschen ausführen. Da ist Nikostrum
1:12:21vielleicht besser mit seinem Buch bei
1:12:24Utopia. Wer die Zuhörer, die mehr
1:12:26philosophisch inkliniert sind, sollten
1:12:28definitiv dieses Buch zumindest durch
1:12:30mal empfehle ich.
1:12:32Ja. Ja, das ist sehr interessant. Also
1:12:34da knüpfen natürlich viele Folgefragen
1:12:36dran an dran an, wie was ist der Sinn
1:12:38des Lebens? Was macht den Menschen dann
1:12:39auch aus? Wer finanziert, wie wird das
1:12:41finanziert? Aber das können die
1:12:42Zuschauer jetzt sehr gerne mal in die
1:12:43Kommentare schreiben. Also schreibt sehr
1:12:45gerne mal in die Kommentare, ob ihr euch
1:12:46hier ein zweiten Teil mit Markus auch
1:12:48wünschen würdet, wo wir genau diese
1:12:49Thema auch noch mal vertiefen, welche
1:12:50Fragen ihr an Markus ähm noch habt. Ich
1:12:53habe jetzt noch eine Frage ähm
1:12:55abschließend und zwar Demis Hasabes
1:12:56sagte neulich in einem Interview, dass
1:12:58der eigentliche Plan der Entwicklung von
1:13:00AGI eher im Hintergrund, also im
1:13:02Forschungslabor hätte ablaufen sollen.
1:13:05hätte er sich das gewünscht und durch
1:13:07diesen Chat GBT Moment kommt's jetzt
1:13:09halt sehr stark natürlich in die
1:13:10Kommerzialisierung, Produktisierung von
1:13:13Gen AI. Wir sehen diesen Wettkampf, ne,
1:13:15zwischen all den KI Unternehmen und er
1:13:17sagt natürlich auch, das hat auch
1:13:18Vorteile, also dass wir diesen Wettkampf
1:13:20sehen, weil dadurch natürlich Dinge wie
1:13:23das Viomodell, Nan Banan und so weiter
1:13:25entstanden sind und ähm befürwortest du
1:13:29die aktuelle Entwicklung, also sagst du,
1:13:30das ist gut so, so wie es jetzt im
1:13:32Prinzip gekommen ist. Ähm oder ähm wärst
1:13:35du auch eher der Verfechter davon, dass
1:13:37man sagt, man bleibt lieber noch länger
1:13:40sozusagen im Forschungslabor, setzt sich
1:13:42mehr mit den ganzen Sicherheitsfragen
1:13:43auseinander und nimmt äh das Tempo raus
1:13:46aus dieser ganzen Entwicklung.
1:13:48Ich halte mich aus der Politik
1:13:49typischerweise raus, weil ich es nicht
1:13:51mathematisch formalisieren kann. Seit
1:13:54meiner Seitenscherz. Ja, ich denke, es
1:13:56ist Vor und Nachteile richtig. Dadurch,
1:13:58dass es in der Öffentlichkeit ist, ja,
1:14:00sind natürlich jetzt, ich meine, vor 5
1:14:03Jahren hat der Mann auf der Straße
1:14:05sozusagen hat gedacht, das ist alles
1:14:07sozusagen Science Fiction und warum
1:14:09interessiert mich das und warum soll ich
1:14:10mich beschäftigen und ähm und die Leute,
1:14:14wenn wir es alles im Labor gelassen
1:14:15hätten und dann Superintelligenz
1:14:17plötzlich sozusagen auch die Welt
1:14:18loslassen, wäre das ein noch größerer
1:14:21Schock äh eh schon ist. Ich kann es
1:14:24wirklich, also es ist nicht mein
1:14:27Gebiet, es gibt Vorna Nachteile. Ich
1:14:30habe das Gefühl, dass es so eigentlich
1:14:32besser ist. Wir meest wissen wir von
1:14:36meisten oder vielleicht allen Laboren,
1:14:39was so vor sich geht. äh die Politik und
1:14:41die die die Lawyers äh können sich damit
1:14:44schon beschäftigen äh und auseinander
1:14:46und auch ernst nehmen. Ich meine, man
1:14:47könnte es im Labor setzen lassen und
1:14:50dann hingehen und sagen, schau mal, wir
1:14:52haben hier fast Kintelligenz. Ich glaube
1:14:54nicht, dass irgendwer beeindruckt wäre
1:14:56oder beeindruckt genug wäre, irgendwas
1:14:57zu tun. Es ist in der Demokratie ist es
1:15:00die Bevölkerung im Idealfall. Und wenn
1:15:03die Bevölkerung sozusagen ähm
1:15:05interagiert mit dieses Themen, äh können
1:15:07sie intelligentere Wahlentscheidungen
1:15:09treffen, die dann Einfluss haben auf die
1:15:13ähm ja, es hat auch Nachteile. Ähm äh
1:15:16ich stehme da mit überein. Äh
1:15:19wahrscheinlich ich weiß genau exakt, was
1:15:21Demis gesagt hat, aberlich ist meine
1:15:23Meinung relativ ähnlich.
1:15:25Ja. Ja. Also ich kann es auch nur
1:15:26bevworten, also wir und natürlich die
1:15:28Zuschauer freuen sich überall die
1:15:29Entwicklung, die wir gerade gerade sehen
1:15:30und ich bin da auch eher optimistisch,
1:15:32was die Zukunft anbelangt. Also deswegen
1:15:34fand ich deine Denkweise da auch jetzt
1:15:36gerade noch mal sehr erfrischend. Ähm,
1:15:37eine letzte Sache ist mir jetzt noch
1:15:38gekommen, weil viele sich natürlich auch
1:15:39für die Zukunft interessieren und was
1:15:41jetzt so die bestimmten Themen der
1:15:42nächsten Jahre sein werden. Und du
1:15:44beschreibst nämlich auch Mortal Embodied
1:15:46Ixi als eine Konsequenz auch deines
1:15:48Modells, also eben der Roboter der der
1:15:51ähm Belohnung ä intelligent maximiert.
1:15:53Und was sind aus deiner Sicht noch mal
1:15:54die wichtigsten Entwicklungen der
1:15:55nächsten Jahre? Sagst du auch ne
1:15:57Roboter, humanoide Roboter werden jetzt
1:15:59so eins der bestimmenden Themen sein,
1:16:01die wir die wir sehen werden. Gibt's
1:16:03vielleicht noch mal andere Themen? Du
1:16:04hast ja Jan Lecur beispielsweise
1:16:05angesprochen, der jetzt auch noch mal
1:16:07irgendwie andere Ansätze neben LMS
1:16:08verfolgt. Was glaubst du, werden so die
1:16:10bestimmten Themen der KI Welt in den
1:16:12nächsten paar Jahren sein? Ähm ja, wenn
1:16:15man es wüsste. Ähm
1:16:17keiner weiß es genau, aber es gibt
1:16:18sozusagen ähm gewisse ähm ähm
1:16:23Ideen äh die sehr plausibel klingen. Ähm
1:16:26mit der Robotik stehe ich so ein
1:16:28bisschen aufs Kriegsfuß, ähm weil ich
1:16:30denke, die Robotik äh und die KI sind
1:16:32vollkommen orthogonal. Aber ähm ich
1:16:35habe, wenn ich 8 Jahre war, als
1:16:37Deutscher muss man im Abend immer sein
1:16:39Zimmer schön aufräumen und die ganzen
1:16:42Legoile, die dann rumlagen, musste ich
1:16:44immer und am nächsten Tag spiele ich eh
1:16:46mit. Ich me kostet viel Zeit und das hat
1:16:48mich immer gestört und da wollte ich
1:16:50gerne ein Roboter, der das für mich
1:16:52macht und da habe ich dann echt in der
1:16:54Tat eigene Roboter entwickelt, so
1:16:56ungefähr zehn. Habe dann mein
1:16:58feresteuertes Auto auseinandergenommen
1:17:00und selbst Roboter entwickelt und die
1:17:02haben dann auch funktioniert und konnten
1:17:03diese Legoeile aufsammeln. Ähm es war
1:17:06zehn mal uneffizienter als wenn ich
1:17:08selber gemacht hätte, also vollkommen
1:17:09nutzlos und habe ich gesagt, okay,
1:17:11irgendwas fehlt. Ha, das Gehirn fehlt.
1:17:14Ja, und und seitdem treffe ich eine
1:17:18starke Unterscheidung zwischen der
1:17:20Robotik und der KI. Und wenn wir das KI
1:17:24Problem, wie ich das vorher schon
1:17:24angesprochen habe, gelöst haben, ähm
1:17:27einfach nur virtuell, dann kann die KI
1:17:30auch unser Robotik Problem lösen. Das
1:17:32kann dann Blaupausen von sophisticated
1:17:35Robotern erzeugen, die Fabriken, die man
1:17:37braucht, um sie zu erzeugen und so
1:17:38weiter. Also ähm das KI Problem löst
1:17:42auch das Robotik Problem in gewissem
1:17:44Sinne. Jetzt muss ich sagen, vielleicht
1:17:47so ein Zeitpunkt, wo Robotik und KI
1:17:51zusammenführen Sinn macht, because die
1:17:53KI isted und die Roboter sind auch
1:17:56einigermaßen gut. Ja, also bis vor 2
1:17:59Jahren hätte ich gesagt, komm on Leute,
1:18:01das sind zwei verschiedene Dinge halt
1:18:03halt die Roboter Hardwareentwicklung und
1:18:05KI sollte getrennt bleiben. Vielleicht
1:18:07ist jetzt der Zeitpunkt, das zu
1:18:08kombinieren. Okay, Robotik ist eine
1:18:10Aspekt, um auch die Blue Color Jobs
1:18:13sozusagen äh zu augmentieren, zu
1:18:15ersetzen. Ähm von der wissenschaftliche
1:18:18Seite habe ich schon kurz erwähnt, die
1:18:20Zeitreihenvorhersage funktioniert schon
1:18:22fantastisch gut. Vielleicht ist das
1:18:24alles, was wir brauchen. Mm. Aber dann
1:18:26für die sequentielle Entscheidung äh
1:18:28diese Planungsaspekt und das
1:18:31Reinforcement Learning, das ist momentan
1:18:33relativ zu alten Theorien, die schon
1:18:35früher entwickelt wurden und zu Ixi äh
1:18:37sehr sehr primitiv. Also da müssten wir
1:18:40sozusagen äh da denke ich mal
1:18:41Verbesserungen ähm äh sind nötig ähm und
1:18:45nützlich. Dann alle Modelle werden
1:18:48trainiert in verschiedenen Phasen und
1:18:50dann werden sie ähm
1:18:53deployed, aber die Gewichte sind ähm
1:18:57eingefroren und die Systeme lernen nur
1:18:59noch in Kontext. Die Analogie für mich
1:19:03ist, ist ein Mensch, der kein
1:19:05Langzeitgedächtnis mehr hat und nur noch
1:19:07Kurzzeitgedächtnis und es nicht
1:19:10besonders gut. Da gibt's ein schönes ähm
1:19:13ähm ähm Film Memento ähm ähm und ich
1:19:18meine der der das Incontext Leen, wir
1:19:20haben jetzt eine Million Tokens, es ist
1:19:22wesentlich länger als mein
1:19:23Kurzzeitgedächtnis, aber ich glaube, wir
1:19:26brauchen Systeme, die kontinuierlich
1:19:28lernen auch die Gewichte. Ähm der es
1:19:32gibt verschiedene Gründe, warum das
1:19:33jetzt noch nicht gemacht wird, aber ich
1:19:34bin überzeugt, es wird kommen. Das heiß
1:19:36continu Online Learning, lifelong
1:19:38learning. verschiedenen Namen ist mehr
1:19:40oder weniger dasselbe ein Aspekt. Ähm,
1:19:44der Transformer, wie ich auch erwähnt
1:19:45habe, ist eine relativ simple einfache
1:19:48Architektur. Es ist erstaunlich, wie gut
1:19:50die funktioniert,
1:19:52aber ich kann mir vorstellen, dass
1:19:54entweder radikale
1:19:57ähm Alternativen, gab ja früher die ähm
1:20:00die Recurrent Neural Networks ähm die
1:20:05fast gleich gut sind. Ähm und vielleicht
1:20:08gibt's andere mal kompliziertere Ansätze
1:20:10oder zumindest sozusagen ähm äh Major
1:20:13Tweaks. Ähm äh da glaube ich ist gut vor
1:20:18zu machen. Ähm
1:20:21ja und von der Theorie äh natürlich
1:20:23verfst alignment sozusagen. Ähm aber du
1:20:26hast mehr die Frage war mehr praktisch
1:20:29so die die denen die
1:20:32ich vorhersage wichtig und nützlich
1:20:35sind. Ja, das ist höchst interessant.
1:20:36Das haben jetzt auch schon einige
1:20:37Deepmind Mitarbeiter, wie ich gesehen
1:20:38habe, durchklingen lassen auf auf Social
1:20:40Media Kanälen, das Continue Learning
1:20:42vielleicht auch 226 schon größeres Thema
1:20:44werden werden könnte. Also all das
1:20:46können wir noch stundenlang vertiefen.
1:20:48Deswegen schreibt jetzt sehr gerne mal
1:20:49in die Kommentare, ob ich noch einen
1:20:50zweiten Teil mit Markus wünscht. Also,
1:20:52ich gib ich glaube, da gibt's wirklich
1:20:53noch einiges, was sehr interessant ist.
1:20:55Markus, ich danke dir jetzt in jeden
1:20:56Fall erstmal für deine Zeit. Es waren
1:20:57wirklich sehr wertvolle, sehr
1:20:58interessante Einblicke in deine Arbeit,
1:21:00aber auch ganz konkrete Dinge, die jeder
1:21:02für sich mitnehmen kann. Deswegen vielen
1:21:04Dank. ähm ja, dass du dir die Zeit
1:21:05genommen hast und sehr gerne bis zum
1:21:07nächsten Mal.
1:21:07Ja, vielen Dank für die Einung. Hat mich
1:21:09gefreut und ich entschuldige mich für
1:21:10mein nicht mehr so gutes Deutsch und die
1:21:13englischen Wörter, die ich
1:21:14eingeschmissen habe hier und da.
1:21:17Man hat super verstanden. Vielen Dank.

About this transcript

This page contains the full transcript of Prof. Dr. Marcus Hutter: „Superintelligenz ist NICHT aufzuhalten!“ Das kommt jetzt by Everlast AI, generated from the public captions YouTube serves with the video. The transcript has 13,045 words across 2,220 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to choose a caption track available on the video.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, caption language selection, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.