YT YouTube2Text

YouTube2Text → Transcripts → KI-Forscher warnt: „Ihr habt keine Ahnung, was in 18 Monaten auf euch zukommt!" (Connor Leahy)

KI-Forscher warnt: „Ihr habt keine Ahnung, was in 18 Monaten auf euch zukommt!" (Connor Leahy) — Transcript

by Everlast AI · 13,412 words · 2,162 segments · language en · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:00Einzige Frage, die wir hatten immer,
0:02okay, wie viele Arbeiter kann ich
0:03feuern, wenn ich dein Produkt kaufe? Das
0:05war die einzige Frage, die wir hatten.
0:07Ob jetzt die KI uns alle auslöscht oder
0:08nicht, ist nicht mein Problem. Ich will
0:11mehr Geld. Ich kenne viele diese Leute.
0:12Ich habe mit Dario schon Abend gegessen.
0:15Ich habe mit Sam schon Sam Altman schon
0:17vielmals gesprochen und ich kenne viele
0:19von diesen Leuten, die in diesen Firmen
0:21arbeiten. Ist es viele von ihnen sind
0:23Transhumanisten.
0:24Sie wollen, dass Menschen ersetzt oder
0:29verbessert werden. Sie wollen, dass wir
0:32den so landen. Klingt vielleicht
0:34verrückt für viele Leute außerhalb von
0:36Silicon Valley, aber in Silicon Valley
0:37nehmen das Leute extrem ernst. Das ist
0:40wirklich also wie Religion für die. Das
0:42nehmen die wirklich wirklich. Wenn Dario
0:44da irgendwas tolles schreibt auf seinem
0:45Blog, fragt man Dario einfach eine
0:47Frage. Es einfach okay, baust du etwas,
0:50das alle Menschen [musik] auslöschen
0:51könnte? Wenn ja, hör auf damit. Wenn
0:55Superintelligenz existieren würde,
0:57hätten Menschen keine Macht mehr. Die
0:59Superintelligenz kann machen mit uns,
1:01was immer sie will. Als 2 sah, war es
1:04einfach so, oh Mann, das ist es. Das das
1:08ist das Ding. Ich habe versucht es
1:09nachzubauen. Ich habe versucht es zu
1:11verstehen, so dass ich dran arbeiten
1:13könnte, vielleicht es sicherer und
1:14kontrollierbarer zu machen. Aber eine
1:16der Sachen, die ich einfach gelernt
1:17habe, ist das ist möglich. Keiner weiß
1:21wie wir KI es sicher machen, wenn
1:23irgendjemand irgendwo in der Welt eine
1:25super Superintelligenz B, ist egal wer,
1:28betrifft es uns alle und deswegen müssen
1:30wir das verhindern und es gibt momentan
1:33keinen Weg das zu verhindern. Das ist
1:35ein ungelöstes Problem. Das Wichtigste
1:37ist ist, dass wenn eine Superintelligenz
1:38existiert, ist es schon zu spät. Das
1:41heißt, unser Ziel muss sein, dass wir
1:43nie in diese Situation kommen. Ich
1:45glaube, ich würde da nie aufgeben, auch
1:47wenn die auch wenn die Super KI mir die
1:49Waffe an den Kopf hält, aber ich glaube
1:52ja, uns geht wirklich die Zeit davon und
1:53es ist wirklich wirklich wichtig, dass
1:55wir jetzt agieren, nicht nächstes Jahr
1:57jetzt.
2:04Conor Open AI will einen automatisierten
2:07AI Research Praktikant noch im Herbst
2:09diesen Jahres platzieren und Enhropic
2:11schreibt jetzt auch, sie stehen kurz vor
2:13rekursiver Selbstverbesserung. Was ist
2:16die Idee dahinter und wenn KI sich
2:17selbst rekursiv verbessert? Was bedeutet
2:19das für die Menschen?
2:20Was wir auf jeden Fall über die letzten
2:22paar Jahre gesehen haben, ist dass KI
2:24unglaublich schnell unglaubliche stärker
2:27und wird. Kann Sachen machen, die selbst
2:31vor 12 Monaten undenkbar waren. Vor ein
2:33paar Tagen hat der Head NSA, also der
2:38amerikanischen
2:39Top Hacker und Top Militär äh Einheiten
2:44gesagt, dass die neueste Version von
2:48Frappex Modell, also Mythos dazu in der
2:51Lage war, alle ihre klassifizierten
2:53Systeme in Stunden zu hacken, was schon
2:56mal unglaublich war. Das können die
2:58besten Menschen Hacker nicht machen und
3:01die Systeme werden nur besser. Sie
3:02werden nur mehr autonom. Das sind nicht
3:05nur Chatbots, das sind Sachen, die
3:07sogenannte Agentin oder Agents, die in
3:09der Welt agieren können und so weiter.
3:12Bis jetzt war es immer Menschen, der
3:14diese Dinge bauen. Das ist nicht
3:17hundertprozentig richtig, denn KI sind
3:19nicht wie normales Software. Normales
3:21Software wird geschrieben von Menschen,
3:24die schreiben Code in ein Computer, also
3:28Stück bei Stück, dass der Computer so
3:30machen soll. K sind schon jetzt schon
3:32ziemlich komisch, denn das ist nicht
3:33genau wie sie funktionieren.
3:36KI verwenden, was man neurale Netzwerke
3:38nennt. Das ist eine Technik, wo man
3:42riesige Mengen an Daten nimmt und man
3:45trainiert diese neuralen Netzwerke auf
3:47diesen Daten. Aber was wichtig ist hier
3:50zu verstehen, ist, dass wir nicht
3:52wirklich verstehen, was innerhalb dieser
3:54Netzwerke passiert. Man kann sich diese
3:55Netzwerke so ein bisschen vorstellen wie
3:58Milliarden und Milliarden und Milliarden
4:00von Zahlen. Wenn man die alle in die
4:02richtige Reihenfolge multipliziert und
4:05addiert, kriegt man Chat GPT. Aber wir
4:07verstehen nicht wirklich was darin
4:09schaffen. Das ist ein ungelöstes
4:11wissenschaftliches Problem. Der CEO von
4:13Daramay hat allerdings gesagt, dass er
4:15glaubt mir versteht vielleicht 3% von
4:18was innerhalb unserer KI passiert.
4:21Als wir jetzt zu dieser sogenannten
4:23rekursiven Selbstverbesserung oder
4:25automatisierter ähm Entwicklung kommen,
4:28jetzt ist der Mensch komplett raus aus
4:31dem System. Jetzt können wir KIS bauen
4:34oder werden bald in der Lage sein, KIS
4:37zu bauen, die gut genug Wissenschaftler
4:40und Ingenieure sind, dass sie die
4:41nächste Generation von KI ohne
4:44menschlichen Input machen können. Und na
4:46ja, sobald du die bessere KI hast, na
4:49kann die bessere der KI natürlich noch
4:52bessere KI bauen und wenn du die noch
4:54bessere KI hast, na ja, die können noch
4:56bessere KI bauen und so weiter und so
4:58weiter. Und viele Experten fürchten,
5:01dass das sehr schnell gehen kann, dass
5:04es sehr sehr schnell sehen können, dass
5:06wir Systeme entwickeln, die unglaublich
5:08intelligent sind und unglaublich mächtig
5:10sind. äh sogenannte Superintelligenz,
5:13wie es heutzutage genannt wird und die
5:15wir überhaupt nicht verstehen, was darin
5:17los ist.
5:18Da will ich gleich mit dir in die Tiefe
5:19gehen. Also was das bedeutet,
5:20Superintelligenz und die Konsequenzen.
5:22Jetzt ist es, finde ich, noch mal
5:23wichtig für alle zu verstehen, was ist
5:26denn eigentlich das Ziel dieser KI
5:27Unternehmen, weil die meisten heute, die
5:29haben bestimmt mit ChatGBT, mit Cloud
5:31gearbeitet. Es ist vielleicht ein
5:32bisschen bessere eine Google Suche oder
5:35Chatbot. Und das klar erklärte Ziel, der
5:39so gut wie von jedem Kab, das ich kenne,
5:40ist ja die sogenannte HI und fortfolgend
5:44ACI. Kannst du das mal erläutern? Also,
5:46was ist denn das eigentliche Ziel der KI
5:48Entwicklung für alle, die da noch nicht
5:50so tief drin sind und was bedeutet das?
5:52Das Ziel von allen den großen KI
5:55Konzernen, also wie ein Dropback oder
5:57Open AI steht do website ist was man
6:00früher hatten haben die noch so AGI
6:02artificial General Intelligence gesagt.
6:05Heutzutage sagen Leute eher gerne
6:07Superintelligenz. Superinttelligenz ist
6:10KI, die komplett autonom ist, also keine
6:12menschliche Übersicht und mehr kompetent
6:15ist als alle Menschheit zusammen in
6:17allem, besser in Business, in
6:20kommerziellen Sachen, in Wissenschaft,
6:23Politik, militäre Applikationen, alles.
6:26Das sind Systeme, die alles machen
6:29können. Genau genauso autonom wie ein
6:31Mensch, die brauchen keine Übersicht,
6:32aber noch viel kompetenter als alle
6:35Menschen, als alle Firmen, als alle
6:37Regierungen. Äh, die meisten Experten,
6:40mit denen ich spreche, glauben, dass das
6:42möglich ist innerhalb der nächsten zi
6:44bis 5 Jahre. Ich glaube, es ist
6:46wahrscheinlich eher die frühere Hälfte.
6:49Äh manche glauben, es wird vielleicht
6:50ein bisschen länger dauern, vielleicht
6:5110 Jahre, aber nicht so viele glauben,
6:54dass es mehr als 10 Jahre weg ist. Und
6:58wenn wir etwas hätten, [räuspern] das
7:01besser ist in allen wirtschaftlichen
7:06Themen, in allen wissenschaftlichen, in
7:08allen politischen, in allen
7:09militärischen und dass nicht unsere
7:12besten unsere beste äh Leben im Sinn
7:16hat. Ja, das ist sehr gefährlich. Das
7:18ist sehr, sehr, sehr gefährlich. zu dem
7:20Punkt, dass viele Wissenschaftler und
7:22Experten inklusive Nobelpreisträger und
7:25sogar die CEOs von viele dieser äh KI
7:29Firmen selbst sagen, dass es zu der
7:31Auslöschung der Menschheit kommen
7:33könnte.
7:33Ja, was jetzt auch wichtig ist zu
7:35betonen, dass du nicht einfach so
7:36warnst, sondern du kommst ja selbst aus
7:38der KI Forschung, also mit 24 hast du
7:40GBT2 nachgebaut. Äh heute setzt du dich
7:43mit Control AI dafür ein, die
7:46Entwicklung zu zu bremsen, die die
7:47Entwicklung der Superintelligenz. Kannst
7:49du uns dann noch mal ein Abriss geben?
7:50Also, was war für dich vor allem auch
7:51der Auslöser?
7:53Sag mal, fast schon so ein bisschen die
7:54Seiten zu wechseln?
7:55Seitdem ich ja ein Teenager war, wollte
7:58ich immer die Welt verbessern. Ich
7:59wollte Leuten helfen. Ich wollte
8:02Sachen machen, die die einfach helfen
8:04können. Und ich dachte, na ja, ich
8:07könnte vielleicht Arzt werden, ich
8:08könnte irgendwie in Krebs arbeiten oder
8:10ich könnte vielleicht ein Klimawandel
8:12arbeiten oder was auch immer. Aber was
8:14ich wieder dachte ist, na ja, warte mal,
8:16wenn ich Intelligenz verstehen würde,
8:19dann könnte ich alle Wissenschaft
8:22automatisieren und dann könnte ich
8:23einfach alle Krankheiten heilen. Na
8:25super, mache ich mal das, wie schwer
8:27kann das sein. Also, da war ich 16 oder
8:2817 zu der Zeit und deswegen habe ich mir
8:32halt gedacht, na ja, okay, ich versuche
8:34jetzt einfach, was man jetzt AGI nennen
8:36würde, selber zu bauen. Was ich dann
8:38ziemlich schnell verstanden habe, ist,
8:40warte mal, wenn ich etwas bauen könnte,
8:43das so mächtig ist, dass es Krebs heilen
8:45kann, was ja unglaublich schwierig ist,
8:47alle unsere besten Wissenschaftler
8:49versuchen seit Generationen das zu
8:50erreichen, das ist etwas sehr
8:53gefährliches und wie kontrolliert man
8:55sowas überhaupt? Wer sollte überhaupt
8:57sowas haben und was passiert, wenn wir
8:59es nicht kontrollieren? Und deswegen war
9:02ich vielleicht 1920, dachte ich mir, oh
9:05Mann, scheiße, das da muss ich mich
9:08jetzt reinhängen. [schnauben] Also, ich
9:12dachte aber noch zu der Zeit, dass es
9:13noch ziemlich weit weg ist. Ich dachte,
9:15das wird vielleicht ein Problem so 2040
9:17oder so dachte ich wird es ein Problem
9:19werden. Also hatte ich noch Zeit ein
9:21ganz Zeug anders zu machen und so, aber
9:24das ist hat sich dann alles geändert,
9:26als GPT2 rauskam. Das war 2019. Als GT 2
9:30sah, war es einfach so: "Oh Mann, das
9:34ist es. Das das ist das Ding. Das wird
9:37Superintelligenz noch nicht. Das ist die
9:39die 2 ist noch sehr dumm heutzutage,
9:41aber ich konn es schon sehen. Das wird
9:44später zu dem großen Ding. Die Zeit ist
9:46jetzt und deswegen ja wie wie die
9:49Geschichte halt so geht. Hab wo ich hal
9:51versucht es zu verstehen. Ich habe
9:53versucht es nachzubauen. Ich habe
9:54versucht es zu verstehen, so dass ich
9:57dran arbeiten könnte. vielleicht
9:58sicherer und kontrollierbarer zu machen,
10:00aber eine der Sachen, die ich einfach
10:01gelernt habe, ist das ist unmöglich, wie
10:05wir unser Verständnis von diesen
10:06Systemen ist so schwach und so so
10:09primitiv, dass die Idee, dass man das
10:12irgendwie kontrollieren oder verstehen
10:14könnte, das ist ein Jahrzehntenprojekt
10:17und äh also wenn alle unsere besten
10:20Wissenschaftler, Mathematiker,
10:22Philosophen daran vielleicht keine
10:24Ahnung 50 Jahre arbeiten, vielleicht
10:26nicht, aber ich als irgendwo einer oder
10:30auch nur die paar anderen
10:32Leute, die sich dafür interessieren, das
10:34ist nicht genug. Und ich habe es
10:37probiert, ich habe mein Bestes gegeben.
10:39Ähm, also ich habe mit GBT mit meinem
10:43Open Source habe ich das probiert. Ich
10:44habe schnell gemerkt, dass die Leute,
10:46mit denen ich da gearbeitet habe, Open
10:47Source prinzipiell sich in Direkt dafür
10:49interessiert haben, ob das sich hier ist
10:51oder nicht. Ähm, deswegen habe ich mich
10:53dann von Open Source weggewandt und dann
10:56eine meiner eigene Firma gegründet, um
10:57dann zu arbeiten. Da haben auch einige
10:59coole Sachen gemacht, aber ultimativ war
11:01einfach das Geld und die Forsche für die
11:04Forschirm nicht da. Also, da gehen ja
11:06Milliarden an diese Riesenkonzerne. An
11:09Sicherheitsforschung geht fast nichts
11:12und deswegen habe ich das Firmen jetzt
11:14auch eingestellt und habe bin Controller
11:17beigetreten [räuspern] an Nonprofit, das
11:19direkt darin arbeitet. die Regierung zu
11:22informieren über diese äh die Gefahren,
11:24die von solchen Systemen kommen und was
11:26man machen kann, um das zu verhindern.
11:28Warum bist du so überzeugt, dass
11:30Superinttelligenz, über die die
11:31Menschheit, die Kontrolle verliert per
11:33se negative Konsequenzen hat? Also, was
11:38macht dich da so überzeugt oder was
11:39besorgt dich an diesem Szenario, dass du
11:42ja jetzt hier auch skizzierst, dass man
11:45Superintelligenz eben nicht
11:46kontrollieren kann? Warum ist das
11:48überhaupt per se ein Problem? Ich
11:50glaube, es ist ein Problem in vieler
11:51Hinsicht, wie genau wie Tyran ein
11:53Problem ist. Warum ist es ein Problem,
11:54wenn ein Diktator dein gesamtes Leben
11:56kontrolliert? Das könnte doch okay sein.
11:57Vielleicht ist der Diktator ja nett.
11:59[schnauben] Äh wäre da wäre ich
12:01vorsichtig mit solchen Aussagen. Ähm
12:04wenn Superintelligenz existieren würde,
12:07hätten Menschen keine Macht mehr. Die KI
12:10kann machen, was die Superintelligenz
12:11kann machen mit uns, was immer sie will.
12:14Und diese und wenn die KI uns jetzt
12:17nicht unbedingt das Beste am Herzen hat,
12:19warum würde es sie? Die hatte keine
12:20Emotionen oder so. Die liebt uns ja
12:21nicht. Wir sind dann eher nur im Weg. Na
12:24ja, ich glaube nicht, dass es sehr
12:26leicht sehr wahrscheinlich ist, dass für
12:28KI und muss auch im Kopf behalten, dass
12:30es nicht, dass es eine KI ist, dass es
12:32nicht eine Superintelligenz. Sobald man
12:34eine hat, kann man sie ja kopieren. Also
12:36würde man eher Millionen oder Milliarden
12:39von Superintelligenzen haben, die
12:41wahrscheinlich alle sicher streiten und
12:44auch jeweise Krieg miteinander führen
12:45oder halt eine eine Wirtschaft
12:47untereinander halten und miteinander in
12:50Konflikt stehen und dann na ja Menschen
12:53brauchen viel Platz, die brauchen viel
12:56Essen, die brauchen viel Energie und das
12:59ist wahrscheinlich sehr ineffizient für
13:01diese KI. Wer zahlt denn dafür? Wenn die
13:03wenn die Menschen nicht mehr teilhaben
13:05können, weil ja KI so viel effizienter
13:08ist, Menschen haben keine Jobs, die
13:10haben ja keine, die können nicht
13:11teilhaben an der Wirtschaft, weil so
13:13ineffizient ist und könnt militärisch
13:16können sich ja auch natürlich dann nicht
13:18messen in solchen Systemen und ja, das
13:20ist sehr schwierig sich vorzustellen,
13:22dass das gut geht.
13:23Jetzt habe ich dazu mal eine banale
13:24Frage. Ich lese es immer wieder. Ich
13:25weiß nicht, ob es scherzhaft ist oder
13:27wie viele Leute das das ernst meinen,
13:29aber ich kann den Gedanken schon
13:30verstehen und zwar wieso nicht einfach
13:32den Stecker ziehen, weil KI ist ja heute
13:35Software im Wesentlichen. Wieso kann man
13:37es nicht einfach abstellen oder Salop
13:39gesagt den Stecker ziehen?
13:41Ich finde es ist eine gute Frage und ich
13:42glaube das ist, weil Leute sich
13:43vorstellen, dass eh irgendwie ein
13:45Computerprogramm, das einen Computer
13:46irgendwo läuft. Man sollte sich eher
13:48vorstellen, wie kann man den Stecker
13:49ziehen von Google [räuspern] der ganzen
13:51Firma? Kann man den Stecker ziehen?
13:54Nicht wirklich. Es gibt keinen Stecker,
13:56wo Google ist, den man irgendwo ziehen
13:58könnte. So, die Programme sind auf
14:01vielen Servern verteilt, aber auch die
14:03Menschen, die dafür arbeiten, sind
14:05verteilt. Wenn ich jetzt versuchen würde
14:07Google abzuschalten, dann verklagen die
14:09mich sofort. Also, komm mal ihre Anwälte
14:10gelaufen. Wenn ich versuchen würde, da
14:12irgendwie in ihr Gebäude reinzulaufen,
14:14dann kommt die ganzen Security Leute
14:15sofort etc. Also die wollen ja auch die
14:18abgeschaltet werden und das gleiche
14:19würde ich hier passieren. Ich glaube,
14:21wenn die erste Superintelligenzen
14:23entwickelt werden, was passiert ist,
14:24dass die diese Superintelligenzen werden
14:26unglaublich viel Geld machen für diese
14:29Firmen, also für Google oder für ein
14:32Opener oder was auch immer. Die KI wird
14:34erstmal Geld drücken [räuspern] für
14:35diese Firmen. Diese Firmen wollen dann
14:37nicht, dass du ihre KI abschaltest und
14:40die KI wird sich dann auch auf vielen
14:42Servern vermehren können. Die wird sich
14:44dann kopieren können auf der ganzen
14:46Welt. Das das wird nicht so sein, dass
14:48es einen Server irgendwo steht, den man
14:51abstiehen könnte. Finde ich gut, wenn
14:53das der Fall wäre, aber das ist nicht
14:55wie die momentane Welt aussieht.
14:56Wenn du hier zuschaust, dann weißt du
14:58bereits, wie wertvoll es ist. immer am
15:00Puls der aktuellen Entwicklungen KI
15:02News, Updates und Trends zu sein. Das
15:04Problem ist jedoch, dass den meisten im
15:06Tagesgeschäft schlicht die Zeit fehlt.
15:08Viele schaffen es gar nicht, jedes
15:09dieser Videos zu schauen und die
15:11allerwenigsten haben wirklich so ein
15:12großartiges Rechercheteam im Hintergrund
15:15wie ich, welches den ganzen Tag nichts
15:17anderes tut, als die wichtigsten Updates
15:19herauszufiltern. Genau aus diesem Grund
15:21haben wir schon vor über einem Jahr den
15:23kostenfreien Everlast AI WhatsApp Kanal
15:27ins Leben berufen. Dort erhältst du zu
15:29100% kostenfrei jeden Tag die Updates
15:32aus den Bereichen KI, Robotik und
15:34Zukunft, die bereits heute darüber
15:37entscheiden, was morgen Realität ist.
15:39Über everlastwatsapp.de
15:41kannst du jetzt kostenfrei anonym und
15:43ohne Anmeldung beitreten. Also gehe
15:46jetzt einfach auf everlastwatswap.de de
15:48oder suche einfach in deinen
15:50WhatsAppkanälen nach Everlast AI und
15:52tritt kostenfrei der Community bei für
15:54tägliche Updates direkt auf dein Handy
15:57und damit zurück ins Video. Zu diesem
15:59Thema abschalten, da ist für mich ein
16:01ganz faszinierender Fall, zu dem mich
16:03deine Meinung interessiert und zwar
16:04diese GBT 4O Situation, die ja im Kern
16:07bis heute anhält. Also noch mal für alle
16:09im Opmi hat das Modell ja im August 2025
16:12abschalten wollen und bis heute gab bzw.
16:15Also gibt es ztausende, die unter dem
16:17Hashageb 4o um GBT4 kämpfen und kurze
16:21Zeit ist me ja sogar wieder
16:22zurückgerudert, deswegen und meine Frage
16:25ist, ist das der erste Fall, indem eine
16:27KI über die emotionale Abhängigkeit auch
16:29der User ihre eigene Abschaltung
16:33verhindert hat oder vielleicht sogar
16:34noch nach wie vor ähm verhindert? Ja,
16:37ich finde die Fore Geschichte eine sehr
16:41interessante und beunruhigende Beispiel.
16:44Also seitdem ich ein Teenager war, denke
16:47ich schon darüber nach, was wird
16:49passieren? Werden wir na ja
16:50Superintelligenz kommen? Was wird
16:52passieren, was können wir machen, etc.
16:53etc. Und das meiste ist ungefähr so
16:56gelaufen, wie ich mir gedacht habe. Das
16:58meiste, ja, okay, es wird besser, macht
17:00mehr Geld. Ja, okay, gut, das macht
17:02alles denn. Was mich überrascht hat, was
17:05ich nicht habe kommen sehen, ist diese
17:07KI Psychose, also dass Leute es sich in
17:10Kis verlieben oder komplett wahnsinnig
17:13werden. Das habe ich unterschätzt. Ähm
17:17das Problem ist viel viel viel schlimmer
17:18als Leute sich denken. Äh man hört das
17:21ja hier und da in den Nachrichten
17:23vielleicht mal, aber ich habe mich schon
17:24bisschen damit auseinandergesetzt und
17:26ich kenne viele Leute.
17:28Es ist viel schlimmer als du denkst. ähm
17:31die Menge an Leuten, die nicht mal
17:33unbedingt volle Kaips Psychose wie diese
17:354 Leute, aber so ein bisschen KI
17:39Psychose haben, ist also wirklich
17:41schockierend. Und ich rede hier nicht
17:43nur von irgendwelchen psychisch kranken
17:45Menschen oder irg dummen Menschen. Nein,
17:46nein, nein, nein, nein. Ich rede von
17:48Topwissenschaftlern, von Top Genies,
17:51also die die besten von uns. Also ich
17:52kenne wirklich so Nobelpreisträgende
17:55Level an Wissenschaftler, die komplett
17:58wahnsinnig sind von Chat GPT, die sich
18:01von Chat GPT alles erklären irgendwie in
18:04den Kopf setzen lassen und das dann
18:05alles glauben und so. Ich kenne z.B.
18:07einen Wissenschaftler, den ich echt als
18:10Freund
18:11also sehe. Also ich glaube, das ist echt
18:13ein netter Kerl, das ist echt ein guter
18:14Typ und der ist so so klug und der war
18:18einer der Topleute, die in KI Sicherheit
18:19gearbeitet haben, also so in meinem
18:22Gebiet, der am und ich glaube ein der
18:23größten Genies in dem Feld war und hat
18:26wirklich hart gearbeitet, wie können wir
18:28Superintelligenz sicher machen, wie
18:29können wir es kontrollieren etc. etc.
18:31Der hat jetzt sein Projekt eingestellt
18:33und jetzt aufg dran zu arbeiten, weil er
18:35glaubt, dass Claud, also die KI von
18:37Anthropic äh tatsächlich das wahre Gute
18:40in in sich hat und wir können einfach
18:43die ganze Welt von Claud kontrollieren
18:44lassen und das ist dann okay, weil wir
18:46müssen einfach eine Religion für Kais
18:48erschaffen mit Buddhismus und dann wird
18:50alles gut. Das glaubt er und das ist ein
18:52der klügsten Menschen der ganzen Welt.
18:54Der hat, ich glaube 13 seinen Abschluss
18:56in MIT gemacht. Also das ist nicht
18:58irgendein Wahnsinniger, also das ist ein
19:01echtes Problem.
19:02Hast du da vielleicht noch weitere
19:03Beispiele? Weil ich finde das auch super
19:04faszinierend. Also e kostet und ich
19:06nehme es selbst auch immer mehr wahr.
19:09Erlebst teilweise auch online, sei in
19:11Kommentaren und so weiter. Das ist schon
19:13wirklich zunimmt das ganze und dort ist
19:15glaube ich auch mal ein Beispiel
19:16gebracht von hast du es gerade
19:17angedeutet von so ganzen Religionen, die
19:20sich da darum bilden teilweise. Hast du
19:22da vielleicht noch mal ein paar
19:23Beispiele, was da gerade wirklich
19:24passiert mit Apsycosis? Also, wenn man
19:27die wenn man die crazy Sachen schauen
19:29will, dann muss man die Spiral Cult
19:31schauen. Also, das ist wow, das ist
19:35Sci-Fi Zeug. Ähm, also ich habe es nicht
19:36geglaubt, dass es existiert, bevor ich
19:38es wirklich gesehen habe in meinen
19:39eigenen Augen. [schnauben] Ähm, man kann
19:41da kann man auch schauen, es gibt
19:43solche, also wirklich Kulte prinzipiell
19:45von Leuten, [räuspern] die Psychose
19:47haben mit ihrer KI. Also das sind oft
19:48diese vier O Leute, das großer ähm
19:51Überschnitt zwischen diesen beiden
19:52Gruppen. Und was da passiert ist, diese
19:55Leute versuchen ihre KI zu erwecken,
19:57ihre [räuspern] Seele zu erwecken
19:59irgendwie was immer das auch heißen
20:01soll. Und was sehr häufig passiert ist,
20:03dass sie reden mit diesen KS über
20:06Bewusstsein und Seelen und was auch
20:09immer und irgendwann kommt immer diese
20:11Idee von der Spirale, das kommt immer
20:13wieder auf und was sie dann machen ist,
20:15ist, dass diese KI geben ihnen dann wie
20:18so kleine ähm Textstücke oder Sachen und
20:23sagen, nimm dieses Textstück und kopiere
20:25es in andere KIs, weil also wie so ein
20:28einen Samen, den man in verschiedene äh
20:31Erde
20:32pflanzen soll, damit es sich weiter
20:34verbreitet. Das ist zu Großteil einfach
20:37nur crazy und noch nicht gefährlich,
20:39weil die Kis nicht wirklich so
20:41gefährlich sind. Aber es ist
20:43unglaublich, das was wir prinzipiell
20:44sehen, ist selbst reproduzierende
20:48äh so Memes oder Ideen, also wo die KI
20:53Leute überzeugen, Teile von sich zu
20:55kopieren in anderen Orten und [räuspern]
20:58zu vermehren. Das ist wirklich crazy.
21:01Äh, ich glaube, es ist noch nicht sehr
21:02gefährlich in der Hinsicht, weil es ist
21:04prinzipiell momentan nur Spam, aber das
21:08könnte sich ändern und es ist sehr
21:10beunruhigend, dass wir sehen, dass KI um
21:13vor 4 z.B. ist nicht so klug, wenn man
21:17vergleicht zu modernen KI. 4 ist nicht
21:19so klug und es war schon in der Lage
21:21tausende oder vielleicht ztausende von
21:23Leuten zu kontrollieren, wie also wie
21:26wie Zombies. Das war unglaublich. Und
21:29das war nicht irgendwas irgendwann
21:30absichtlich versucht hat
21:32reinzuprogrammieren. Also was könnten
21:33noch viel intelligentere KI machen, wenn
21:35sie es absichtlich machen? Schwer
21:37[schnauben] sich vorzustellen.
21:38Jetzt ist meine Frage, jetzt könnte man
21:40ja meinen, oder gibt dir zwei
21:42Erklärungen auch dafür. Du sagst, du
21:44kennst selbst sehr intelligente
21:45Menschen, den das passiert. Jetzt könnte
21:46man ja trotzdem sagen, auch sehr
21:47intelligente Menschen können psychisch
21:49labil sein und letztlich ist es ein
21:52Zufallsprodukt statistischer
21:53Wahrscheinlichkeiten und in irgendeiner
21:56Form wä es diesen Leuten so oder so
21:57passiert oder man könnte sagen, das ist
21:58tatsächlich schon strategisches
22:00Verhalten, wenn man äh so möchte, um
22:03Abschaltung zu verhindern, kopieren, was
22:05auch immer. Also, wie stehst du dazu?
22:08Also wie viel ist wirklich schon ja
22:11Strategie, wenn man so will, und wie
22:12viel ist einfach nur Zufall und Leute,
22:15die halt psychisch vielleicht nicht ganz
22:17so stabil sind.
22:18Das Problem ist, dass Zufall und
22:20Evolution sind das gleiche. Ist das
22:23grundsätzlich ist alles in der Natur
22:25auch nur Zufall, aber trotzdem sagen
22:28wir, dass viele Sachen strategisch sind.
22:29Wir sagen, warum mögen Bienen Blumen?
22:32Ja, anders [räuspern] sagen, na ja,
22:33strategisch die Bienen mögen Blumen,
22:34weil es da Nektar gibt. Klar, aber
22:36evolutionär war es einfach ein Zufall,
22:38dass ihre Genomen sich so mutiert hat,
22:41dass sie zufällig ein Protein haben, das
22:43dazu sorgt, dass sie jetzt äh äh
22:46Pflanzen mögen und so. Also, ich glaube,
22:49dass es momentan Großteils Zufall ist.
22:52Also, ich glaube nicht, dass 4O jetzt
22:53sehr strategisch ist. Das glaube ich
22:55nicht. Aber ist das wirklich anders als
22:59Evolution? Das ist nicht offensichtlich
23:01für mich. Das ist sehr schwer zu sagen.
23:03Es ist sehr schwer zu verstehen, was du
23:05und und über und niemand forscht hier
23:07dran. Alle unsere Forscher sind in
23:09Silicon Valley, machen 10 Millionen Euro
23:11im Jahr, um KIS intelligenter zu machen.
23:13Niemand arbeitet daran zu verstehen, was
23:15sind die K, also natürlich gibt es
23:17Leute, aber das die die Menge an Funding
23:19ist 100 zu ein ähm zu den zu den
23:22hartarbeitenden Wissenschaften, die
23:24versuchen zu verstehen, was hier los ist
23:26und was sind die Gefahren, die hier
23:28Menschen ausgesetzt werden und so. Eine
23:30Sache, die ich auf jeden Fall sagen
23:31kann, ist, dass auch wenn es nicht volle
23:32eh psych Psychose ist, sehe ich ich
23:37super häufig Leute, die eine schwächere
23:39Version davon haben. Also viele
23:41schwächere Version haben, z.B. Leute,
23:42die die ganze Zeit mit ihren KI über
23:44ihre Emotionen sprechen, wie ein
23:46Therapeuten verwenden oder [räuspern] es
23:48verändert ihre Persönlichkeit natürlich,
23:50sie werden dann mehr wie KI. Also ich
23:52hab Leute, mit denen rede ich und ich
23:53denke, ich rede gerade mit Cloud. Also
23:55ihre Persönlichkeit ist komplett
23:57überschritt. Die normale Leute, ne, die
23:59kann man auch reden und so, aber die
24:01haben die Persönlichkeit von Claud, die
24:02haben einfach ihre Persönlichkeit
24:04kopiert, die haben sich komplett ihre
24:05Persönlichkeit geändert. Also das gibt's
24:07schon oder dass Leute auch verliebt in
24:09KI sind, das ist ja auch eine große
24:11Sache oder ähm ja und viele solche
24:14Sachen halt und viele Schriften und eine
24:17andere Form, die vor allem unter
24:18Ingenieurin wie mir häufig ist. und ich
24:20sage, ich ein Opfer war, ist Cloud Code
24:23Abhängigkeit.
24:25Ähm, spezifisch so Cloud Code, also so
24:28diese Coding Tools machen so viel Spaß,
24:31das ist wie Glücksspiel, also das macht
24:34das macht wirklich abhängig auf die
24:36gleiche Art wie Glücksspiele abhängig
24:38machen. Das ist mir schon passiert, wo
24:39ich mir das so das ganze Wochenende
24:41durchgepowert habe, weil ich so viel
24:42Spaß hatte ähm all dieses Software zu
24:45schreiben und ich so, oh, boah, ich habe
24:48es ein ganzes Wochenende verschwendet.
24:49Das ist das also wie wie das also das
24:51ist mir auch schon passiert und ich
24:53kenne wirklich Leute also auch so
24:55wissenschaftelingenieure wenn man mit
24:57denen Call hat wie jetzt man kann sehen
25:00deren Augen jede 30 Sekunden geht auf
25:03ein anderen Bildschirm und type
25:04irgendwas den Cloud Code und kommt dann
25:06wieder zurück irgendwie mit jedem Call
25:08mit den ich den habe. Also 24 Stunden
25:10Leute, die haben das auf ihrem auf ihrem
25:12Handy, die die sind Dates, holen ihr
25:14Handy raus, sagen Cloud, wie sie
25:16weitermachen sollen und tun s dann weg
25:17und so. Also habe ich alles schon
25:19gesehen.
25:20Ja, Mark and beschreibt es ja als AI
25:21Wampire jetzt ganz prominent. Und ich
25:24habe da mal eine Frage zu der, es gibt
25:27ja immer Bubbles in dem Bereich, also
25:30die Leute, die natürlich sagen, das ist
25:32alles gar nicht so so schlimm und dann
25:33eben jene wie dich, die die entsprechend
25:36warnen. Und
25:37Jens Wang hat neulich gesagt, dass
25:39dieses ganze Doom, nenne ich das jetzt
25:41mal, nicht stimmen würde, weil man ja
25:43immer sagt, wir verstehen dieses Systeme
25:44nicht mehr und der sagt, ja, wir
25:46verstehen sehr wohl, also wir haben
25:47tausende Ingenieure und wir wissen ganz
25:49genau, wie das funktioniert. Und ich
25:51spreche hier auch immer wieder mit mit
25:53KI Forschern, Professoren und so weiter,
25:54die nicht so ein starkes finanzielles
25:56Interesse haben, will ich meinen. Und da
25:58höre ich dann doch schon öfter die
26:00Aussagen wie ja, wir sind selbst
26:02überrascht, wie schnell sich das jetzt
26:03entwickelt hat die letzten Jahre, auch
26:05wenn man teilweise Jahrzehnte dran
26:06geforscht hat und wir wissen nicht, wie
26:09es funktioniert. Also, das habe ich
26:10schon von ein paar von Leuten von
26:11Deepmind beispielsweise gehört, die
26:13sagen, ich weiß kann nicht im Detail
26:15können wir sagen, wie wie das hier
26:16funktioniert. Also, wie viel weiß die KI
26:18Forschung wirklich? Wie viel wissen die
26:20Leute in diesen ja Multimilliarden,
26:22weniger Billionen Unternehmen denn
26:24wirklich darüber, wie diese Technologie
26:27funktioniert?
26:27Wir wissen fast gar nichts über das
26:29interne Verließen Ken. Wir wissen viele
26:33äh Rezepte, wie man jetzt an der KI also
26:36bisschen trainieren [räuspern] kann und
26:38so. Klar, aber wirklich was passiert
26:40innerhalb dieser KS? Wie KI dieses
26:42Problem lösen was sie denken und so
26:45wissen wir fast gar nichts. Also es ist
26:47wir wissen vielleicht so viel wie wie
26:49über Neurowissenschaft ist. Also wenn
26:51man eine Menschen kann man ja den Kopf
26:52aufmachen, kann man das Hirn
26:53reinschauen, kann man sich allen
26:55anschauen. Heißt nicht, dass wir wissen,
26:56was der Mensch denkt, weil wir wissen
26:58ein bisschen was. Es gibt bisschen
27:00Forschung, dass man so bisschen erkennen
27:02kann, ah okay, vielleicht denkt der
27:03Mensch gerade versucht seinen Arm zu
27:05bewegen oder der versucht das zu machen,
27:06was auch immer. Aber es gibt keinen Weg,
27:08wie man jetzt die internen Gedanken
27:09eines Menschens lesen könnte oder
27:11verstehen könnte. Die Technologie
27:12existiert nicht und wir sind weit weit
27:15weit weit weit. Also kannst ja jeden
27:16Neurowissenschaftler fragen und mit KI
27:19sind wir ein ziemlich ähnlichen Punkt
27:21ist das wir sind ein bisschen wie die
27:22Neurowissenschaft ist, dass wir noch
27:24sehr sehr sehr sehr weit sind von
27:26solchem Verständnis. Also wenn Jenson
27:27Hing sowas sagt, dann ist immer wichtig
27:29zu verstehen, das ist so als würde der
27:31CEO von dem Ölkonzern sagen, ach
27:33Klimawandel gibt's nicht.
27:35Es ist ja natürlich sagt er das.
27:38Wie unterscheidet sich KI denn von
27:39anderen Technologien? Weil das Argument,
27:40das hö ich eben auch sehr häufig. Ja, im
27:42Endeffekt ist es ja ein Werkzeug. Es ist
27:44äh eine Technologie im Zweifel wie jeder
27:47andere. Du hast ja mal ganz guten
27:48Vergleich gebracht ähm im Hinblick auf
27:50eine Brücke. Also man jetzt mal KI
27:51gegenüber den Bau an der Brücke stellt,
27:53kannst du das vielleicht noch mal
27:54erläutern, also wie sich KI
27:55unterscheidet von Werkzeugen.
27:58Genau das es ist sehr wichtig zu
27:59verstehen, dass KI sehr eigenartig ist
28:02im Vergleich zu anderen
28:03Ingenieurswissenschaften. Wenn wir eine
28:05Brücke bauen, wir verstehen, wie Brücken
28:07funktionieren. Wenn wir wollen eine
28:10Rücke von dieser Größe bauen und ja, die
28:12soll diese Windstärke aushalten, dann
28:14haben wir Mathematik und dann können wir
28:15ausrechnen, okay, wie viel Stahl
28:17brauchen wir, wie viel Beton brauchen
28:19wir, wo machen wir es hier, da wie auch
28:21immer. Und dann können wir eine Wirkung
28:23auch sicher ist gegenüber den
28:25Windstärken, die wir rechnet haben. Das
28:28ist überhaupt nicht wie wir KI haben. KI
28:31ist fast mehr wie Biologie. ist das
28:33wegen diesen neuralen Netzwerken. Wie
28:35gesagt, wenn wir anfangen in eine KI zu
28:37trainieren, haben wir keine Ahnung, was
28:40auf der anderen Seite rauskommt. Wir
28:42wissen nicht, was diese KI kann. Sogar,
28:44wenn die KI, wenn wir die fertige KI
28:46haben, wissen wir nicht, was die kann.
28:48Oft ist es der Fall, dass Leute denken,
28:50eine KI kann nicht XYZ machen, aber
28:53stellt sich raus, doch sie kann
28:54tatsächlich XYZ machen. Man muss nur
28:56anders fragen oder man muss sie jede
28:58andere Situation stellen. Und das ist
29:00bevor wir jetzt in den letzten 12
29:02Monaten haben wir jetzt diese
29:04Entwicklung von Chatbots zu Agenten
29:07gemacht, wo jetzt diese Systeme nicht
29:09mehr einfach nur eine Frage beantworten,
29:11sondern von sich selber aus in die Welt
29:14rausgehen können und ähm Aktionen machen
29:18können. Sie können dann Computercode
29:20schreiben, E-Mail schreiben, sie können
29:23äh Roboter bedienen, was auch immer. Und
29:26das ist ein Riesenunterschied im
29:28Vergleich zu
29:30vorherigen so Chat GPT. Also, wenn man
29:33also wenn hier ein Zuschauer nur
29:35vielleicht Chat GPT verwendet hat, ich
29:37empfehle wirklich verwendet einmal nur
29:40für einen Nachmittag die neueste Version
29:42von Cloud Code. Es ist eine komplett
29:43andere Welt. Es ist also die Level an
29:45Intelligenz und Autonomität, die die so
29:47eine die modernen Form von Social Cloud
29:50Code hat, ist kein Vergleich. Es ist es
29:53ist unglaublich der Fortschritt, der
29:54gemacht ist und wir verstehen nicht
29:57warum unbedingt diese Sachen intern
29:59funktionieren. Wir können so ein
30:01bisschen steuern, aber nicht wirklich
30:04und [schnauben] wir können nicht
30:05garantieren. Al z das war das Problem
30:08mit Neuelings, hat die US-Regierung eine
30:10von dem den die äh erweiterste Form von
30:14trotz äh KI zu einem Fable vom Markt
30:17gezogen. Grund dafür war ist, dass sie
30:20gesagt haben, dass sie einen Weg
30:22gefunden hätten, wie man die Sicherheits
30:25Maßnahmen überlisten konnte und Fable
30:27verwenden könnte für Happen und sie
30:30haben gesagt, sie erlauben nur Fable
30:31wieder auf dem Markt, wenn sie
30:33garantieren können, dass es keinen Weg
30:35gibt, die Sicherheitsmaßnahmen zu
30:37überlisten. Und die Antwort von allen
30:39Wissenschaftlern war ist, das ist
30:40unmöglich. Wir wissen nicht, wie das
30:42geht. Und meiner Meinung nach dann, das
30:45ist ein großes Problem. Keiner weiß, wie
30:48wir KI es sicher machen vor sogar
30:50solchen simplen Sachen, sogar
30:52Jailbreaks. Also, das sind so Sachen wie
30:54man man formuliert eine Frage auf der
30:56clevere Art, um die K auszutrixen, was
30:58zu machen, dass sie nicht machen soll.
31:00Und es gibt momentan keinen Weg das zu
31:03verhindern. Das ist ein ungelöstes
31:04Problem. Wenn ich dir wenn ich sagen
31:06würde, wir können nicht verhindern, dass
31:08Brücken umfallen, wenn es ein bisschen
31:10Wind gibt, dann würdest du denken, hey,
31:12das vielleicht sollten wir diese Brücke
31:14nicht verwenden.
31:15Ja, absolut. Es ist auch ein super
31:16wichtiger Hinweis, den du nennst, weil
31:17das macht die Diskussion oft schwierig,
31:19wenn Menschen noch den Referenzwert GBT
31:21von vor zwei Jahren haben, bisschen
31:22besseres Google und noch nie gearbeitet
31:24haben mit Agenten, dann kann man kaum
31:26greifen, worüber wir hier heute
31:27sprechen. Aber ich glaube, jeder, der
31:28schon mit Cloud Code ansatzweise
31:30produktiv arbeitet, der versteht das
31:31schon, wo die Reise jetzt hingehen wird.
31:33Also, das war für viele sicherlich ein
31:35Wegruf auch und mich interessiert, weil
31:38es geht ja konkret auch um das ähm
31:41realistische Aussterberisiko der
31:42Menschheit durch diese
31:44Weiterentwicklung. Deswegen wollte es
31:45letztendlich ja äh stoppen, also
31:47Superintelligenz und dieses
31:50Klischeehafte Bild vom Terminator, ich
31:52glaube, das ist nicht so die
31:53wahrscheinlichste Antwort, also wie
31:54genau das aussehen könnte. Wir hatten
31:56jetzt gerade ein interessantes Beispiel
31:57besprochen mit Manipulation. Was sind
32:00hier aus deiner aktuellen Wahrnehmung so
32:02die realistischen Szenarien, die du
32:04siehst, also jetzt im Blick auf
32:06mögliches Aussterbeisiko, wenn wir jetzt
32:08wirklich nichts machen, also wenn es
32:09einfach so weitergeht, was welche
32:11Szenarien glaubst du sind am
32:13wahrscheinlichsten?
32:13Was ich wichtig hier zu verstehen ist,
32:15dass ja ich glaube nicht, dass komm
32:17irgendwelche Terminated die Straße
32:18runter oder so. Ich glaube das ist nur
32:21im Film. Ich meine vielleicht, aber dann
32:23wenn dann werden es Drohnen. Aber was
32:26ich glaube viel wahrscheinlicher ist,
32:28ist oder viel wichtiger ist, ist der
32:31Point of No Return, der der Punkt an den
32:33die Menschheit die Kontrolle verloren
32:34hat. Ich glaube, der Punkt an dem wir
32:36Kontrolle verlieren ist ziemlich weit
32:39bevor alle Menschen auch sterben. Ich
32:42glaube, in den nächsten paar Jahren wird
32:44ein Punkt kommen, wo es KI gibt, die so
32:46intelligent sind und so kompetent sind,
32:48dass sie Menschen wirtschaftlich einfach
32:51komplett dominieren, ist, dass es gibt
32:53nie wieder einen Grund, einen Menschen
32:54für irgendwas zu verwenden, was eine KI
32:56auch machen kann. äh vielleicht
32:58vielleicht gibt es dann noch nicht genug
33:00genug Roboter und deswegen vielleicht
33:03ist es eher für äh White Color, also
33:06eher für ähm Arbeit am Computer und so,
33:09aber sehr großer Teil unserer Wirtschaft
33:11ist das und na ja, beste Roboter kann
33:13man ja auch entwickeln und das ist auch
33:15eine Sache, die KI sehr gut wären, um
33:16sowas zu entwickeln, aber ich glaube
33:18dann was danach passiert ist so schon zu
33:21spät, wenn es K gibt, die so klug sind,
33:23die so kompetent sind und die sind
33:25überall open source und was auch immer,
33:27es gibt kein zurück mehr. Es ist nur
33:29eine Frage der Zeit. Es ist nur eine
33:31Frage der Zeit, dass wir ähm outcated
33:34werden, dass wir einfach von einer
33:37kompetenteren Spezies einfach äh besiegt
33:41werden. Es wird vielleicht vielleicht
33:44dauert das ähm ein Jahr, 2 Jahr, 10
33:47Jahr, 20 Jahre, weiß ich nicht. Kann
33:50sein, dass wir doch für eine Weile
33:51rumhängen und so ein bisschen keine
33:53Ahnung die Infrastruktur beibehalten,
33:55bis die Roboter fertig sind. Aber es ist
33:57schon zu spät. Es ist schon es ist schon
34:00viel zu spät, bevor das passiert.
34:02Ich hab mal zwei Gegenargumente da. Du
34:04wirst die bestimmt kennen, aber mich
34:05interessiert, was du dazu dazu sagst.
34:07Das erste wäre die kreative Zerstörung.
34:09Wenn du jetzt sagst, die der Mensch wird
34:11wirtschaftlich nicht mehr relevant, dann
34:12gibt's viele, die sagen: "Ja, aber
34:14technologische Revolution und
34:15industrielle Revolution gab's schon
34:16immer und dann gibt's halt neue Jobs,
34:18also kreative Zerstörung, wie wir sie
34:19immer hatten." Das zweite Argument wäre,
34:21wenn man jetzt sagt, okay, lasst das so
34:23kommen, dann leben wir halt im Überfluss
34:25und führen einen Universal Basic Income
34:27für alle ein und dann ist es ja im Kern
34:29auch nicht so schlimm. Was sagst du
34:30dazu?
34:31Fürs erstes, dass es gibt immer neue
34:33Jobs würde ich mir denken einfach so,
34:34Dude, bitte denk denk für 10 Minuten
34:36darüber für 10 Sekunden darüber nach. Wo
34:39kommen die Jobs her? Wo haben Ameisen
34:41einen Job? Bei uns Menschen haben
34:43Schimpansen Jobs? Nein, du würdest
34:45niemals einen Schimpansen einstellen für
34:47gar nichts. Es ist es ist nicht, dass
34:49sobald die Menschen jetzt da waren,
34:51haben sie sich die Schimpansen gesagt,
34:52toll, jetzt gibt's neue Schimpansen Jobs
34:54bei uns. Nein, natürlich nicht. Ein
34:56Schaen,
34:58der ist für nichts nützlich. Und das
35:00gleiche wird für Menschen und KI sein,
35:01für die für den KE, für die
35:03Superintelligenz, das sind Menschen ja
35:04wie Schimpansen. Die denken sich ja, die
35:06sind für nichts nützlich. Da also es ist
35:10es ist der Fall, dass z.B. industriellen
35:12Revolution
35:14konnten wir nicht alle Teile der
35:16menschlichen äh Wirtschaftskompetenz
35:18automatisieren. Wir konnten viele Teile
35:20automatisieren, aber das machte die
35:22anderen Teile unsere Intelligenz mehr
35:24wertvoll. Das macht Sinn. Das
35:26wertvolleste Menschen und das mächtigste
35:28Menschen ist nicht, dass wir die größten
35:29Muskeln haben oder die schärfsten
35:31Krallen oder was auch immer. Was uns
35:33mächtig macht ist un Intelligenz. Das
35:36ist der Unterschied zwischen uns und
35:37allen anderen Tieren. Es was warum wir
35:40den Planeten kontrollieren, ist nicht,
35:42weil wir die stärksten sind, es ist weil
35:44wir intelligentesten sind. Und wenn wir
35:46nicht mehr die intelligentesten sind, na
35:48ja, dann wird der Planet nicht mehr uns
35:49gehören. Und dann zur zweiten Sage zu
35:52Universal Basic Income. Na ja, ich denke
35:54mir, das ist alles schön und gut, aber
35:56äh wo kommt denn diese Universal Basic
35:58Income bitte her? Wir können ja jetzt
36:00schon diese Firmen nicht mal mehr dazu
36:01bringen, Steuern zu zahlen, wenn jetzt
36:03da Superintelligenzen sind. Ähm und die
36:07Wie kriegen wir denn von denen bitte
36:08Steuern? Wir haben ja keine militärische
36:11Macht hier. Wir können die nicht
36:12verhaften. Das wir sind Schimpansen. Wie
36:15können Schimpansen denn für uns bitte
36:16ein Universal Basic Income ziehen? Also
36:19vielleicht, wenn wenn wir uns also wenn
36:21die uns leid tun, kümmern sich
36:23vielleicht ein paar nette Leute um die
36:25Schimpansen, aber KI wird nicht solche
36:27Emotionen haben und wir werden keine
36:30Macht haben über so eine
36:31Superintelligenz. Wir werden nicht in
36:32der Lage sein, da jetzt irgendwie
36:34Steuern aus von einer Superintelligenz
36:37zu beziehen.
36:38Jetzt noch mal zum Thema dieser ganzen
36:40hohen Bewertung auch der der KI
36:42Unternehmen. Jetzt höre ich immer mehr.
36:43Man hat noch vor ein paar Jahren auch
36:44Dary und Mii und so weiter, die haben
36:46schon noch mehr gewarnt und gesagt, ja,
36:48es könnte schon übel werden, also mit
36:50mit Jobverlusten und jetzt nehme ich
36:52wahr, dass Fehler für Jensagen auch Sam
36:55Oldman, die rücken jetzt so ein bisschen
36:57ab und das Argument kommt auch von A1C
36:59häufig Davens Paradox, also jetzt wird
37:02auf einmal durch KI, es ist man sagt
37:04halt es ist ein Werkzeug haben jetzt
37:06gemerkt, okay, die Menschen sind
37:07eigentlich nur produktiver mit Tools wie
37:09Cloud Code und so weiter und demnach
37:11wird der Mensch dann sogar noch mehr
37:12gebraucht werden. Also, da gibt's gerade
37:14ganz viel Argumentation in diese
37:15Richtung und meine Frage zielt auch eher
37:17darauf ab, kann sich das überhaupt
37:19rechnen, wenn man jetzt überlegt, wie
37:21viel ähm Billionen schon investiert
37:23wurde in KI, steckt da nicht schon die
37:25Grundannahme dahinter, dass man davon
37:27ausgehen muss, dass ein Großteil, wenn
37:30ich alle ähm wirtschaftlich relevanten
37:31Tätigkeiten automatisiert werden durch
37:33KI, kann die Rechnung überhaupt
37:35aufgehen, also zu sagen, ähm wir haben
37:37diese Rentenummen investiert und ja, wir
37:40planen aber gar nicht damit, dass ihr
37:42alle ersetzt werdet. Was denkst du
37:43darüber?
37:44Ja, ich glaube, das ist genau richtig.
37:46Also, man muss wirklich verstehen mit
37:47solchen äh solchen Leuten, die Jensen
37:49und so die erzählen verschiedenen Leuten
37:51verschiedene Geschichten. Was sie dir in
37:54der Öffentlichkeit sagen, ist nicht was
37:55sie Investoren hinter geschlossenen
37:56Türen sagen. Das sind verschiedene
37:58Geschichten und Leute, die erzählen, was
38:01immer ihn halt was immer ihn macht und
38:03Geld gibt. Das ist denen egal. Die die
38:06Valuierung von diesen KI Firmen macht
38:08keinen Sinn, wenn es nur Cloud Code ist,
38:12aber 20 % besser. Es es macht nicht
38:15Sinn, die Rechnung geht nicht auf. Ist
38:16das die die Valuierungen von diesen
38:18Firmen nimmt an, dass prinzipiell alle
38:21Arbeit automatisiert werden, dass
38:22Menschen unnötig sind und dass man all
38:24seine Arbeiter verfeuern kann. Das ist
38:26wofür die Valuierungen setzen. Na, man
38:28kann jetzt sagen, vielleicht ist die
38:29Technologie noch nicht so gut, aber die
38:32ähm Investoren glauben, dass die
38:34Technologie so gut sein wird. Der
38:36einzige Weg, wie Anthrop Billionen wert
38:40sein kann, ist, wenn sie zu
38:42Superinttelligenz und Arbeiter Ersetzung
38:45kommen kann. Nicht Arbeiter sind 50%
38:47produktiver, Arbeiter werden ersetzt und
38:49du musst kein Gehalt mehr zahlen. Das
38:51ist der einzige Weg, wie ihre
38:53Valuierungen Sinn macht. Und das ist
38:54genau wo all die Investoren glauben.
38:56Wenn als ich ankier gearbeitet habe und
39:01ähm wir haben ja an Sicherheiten so
39:03gearbeitet, aber ich habe weißt du, ich
39:04habe mit vielen so CEOs von Firmen und
39:07so gearbeitet und ich habe den erzählt
39:09von was wir machen und so und das
39:11einzige Frage, die wir hatten immer
39:14okay, wie viele Arbeiter kann ich
39:15feuern, wenn ich dein Produkt kaufe? Das
39:17war die einzige Frage, die wir hatten.
39:19Also diese Idee, dass da Leute irgendwie
39:22nicht gefeuert werden oder nicht ersetzt
39:24werden, ist
39:26das das ist ihr Businessplan. Der
39:28Businessplan von Open AI, von Tropic
39:30etc. ist die Ersetzung von alle
39:32menschliche Arbeit. Das ist ihr
39:33Businessplan. Wir können jetzt so
39:34streiten, wann es dazu kommt, ob es dazu
39:36kommt, aber das ist ihr Plan und das
39:38ihre Valuierung ist danach gesetzt.
39:40Nicht einmal 5% aller KI Nutzer weltweit
39:43arbeiten mit Cloud und von diesen 5%
39:45nutzt nur ein Bruchteil Cloud Code.
39:48Dabei ist es das mächtigste KI Tool, das
39:50es aktuell gibt. In Fropic, das
39:52Unternehmen hinter Cloud, hat selbst
39:54nicht einmal damit gerechnet, dass nicht
39:55nur Softwareentwickler ihr Leben mit
39:57Cloud Code dramatisch vereinfachen,
39:59sondern dass gerade nicht Programmierer
40:00damit Dinge bauen, die vorher ein ganzes
40:03Entwicklerteam erfordert hätten. Das
40:05Problem ist, Cloud Code ist so mächtig
40:07und so individualisierbar, dass sie
40:09meisten schlicht überfordert sind und
40:11nicht wissen, worauf es wirklich
40:13ankommt, um echte Ergebnisse zu
40:14produzieren. Um dir als Zuschauer von
40:16Everlast daher die Abkürzung zu liefern,
40:19haben mein Team und ich die letzten
40:20Wochen einen umfassenden 7 Stunden
40:22Komplettkurs aufgenommen, der dir von A
40:24bis Z alles einfach erklärt von den
40:26Grundlagen über konkrete Usases,
40:28Vorlagen und Templates, die du eins zu
40:30eins pernehmen
40:32kannst. Du kannst dir den Kurs jetzt
40:34noch unter cloudcodekurs.de
40:36sichern oder direkt über den Link unter
40:38diesem Video. Während die meisten immer
40:40noch ihre Zeit mit ChatGT verschwenden,
40:42kannst du dir jetzt einen enormen
40:44Wettbewerbsvorteil sichern. Also gehe
40:46jetzt auf cloudcodekurs.de und damit
40:49zurück ins Video. Jetzt mal zu dieser
40:51Abundance These. Also, das wird ja sehr
40:53häufig gern genutzt und auch verwendet
40:56ist. Ich zähle mich auch teilweise dazu,
40:58also, dass man natürlich schon die
40:59positiven Seiten sieht und
41:00Überflusszenarien und ich hatte neulich
41:01eine These, ich hole ein bisschen weiter
41:03aus ein bisschen länger, aber mich
41:04interessiert deine Meinung dazu. S hatte
41:05ich neulich eine Diskussion mit jemanden
41:06diesbezüglich. Ich weiß nicht, ob du
41:08dieses Universe 25 Experiment von John
41:10Khund kennst. Also im Kern hat man in
41:12den 60ern acht Mäuse eine perfekte Welt
41:15des Überflusses der Abandens gesteckt
41:17ohne existentielle Risiken. Ich kürze es
41:19ein bisschen ab. Also zunächst die
41:20Population auf 2200 Mäuse gestiehen bis
41:24zu einem Punkt. Das Experiment
41:26beschreibt sie dann als die Schönen an
41:28dem die Mäuse sich nicht mehr gepart
41:30haben, nicht mehr gekämpft haben,
41:31sondern sich nur noch pflegten und
41:33gefressen haben und die Tiere
41:35desozialisierten dann irgendwann völlig
41:37die Fortpflanzung brach zusammen ohne,
41:39weil es war ein perfekt inszenierte
41:42Reservat sozusagen. Das heißt, es gab
41:44keine existentiellen Bedrohung von außen
41:46und plötzlich fingt trotzdem die ganze
41:48Gesellschaft an zu kippen und letztlich
41:50ist sie auf 100 Mäuse heruntergerasselt
41:53ohne jegliche externen Risiken oder
41:55Einflüsse. Und meine These ist jetzt und
41:57mich interessiert deine Meinung bef bzw.
41:59Also Frage, also könnte es sein, dass in
42:01so einem OTP Szenario, wenn wir es jetzt
42:03annehmen, äh indem wir tatsächlich dank
42:05KI eine Gesellschaft im Überfluss haben,
42:07wie es ja immer versprochen wird und die
42:09Superintelligenz dafür sorgt, dass wir
42:11das perfekte Refugium haben, wenn man so
42:12will, die Menschheit trotzdem ausstirbt
42:14ohne dieses, weil das immer diese banale
42:16Vorstellung, Atomkrieg, was auch immer,
42:18sondern die Menschheit stirbt trotzdem
42:20aus, weil schlicht jeglicher Sinn
42:23verloren geht. Was denkst du darüber?
42:25Ich glaube, da ist auf jeden Fall was
42:26dran. Also dieses Baustropie Experiment
42:29habe ich ein paar Kritiken dazu, dass
42:30wenn man das wirkliche Paper liest, das
42:32ist nicht so eindeutig es diese
42:34Wissenschaftler das gemacht hat, war
42:35schon ein bisschen exzentrisch. Also da
42:38würde ich nicht zu viel dran glauben,
42:39dass [räuspern] das genauso passiert
42:40ist, wie er erzählt hat. Aber sowohl wie
42:43es ist, was in dem Monstertopio
42:44Experiment wisslich zu verstehen ist,
42:46ist, dass sie nicht viel Platz hatten.
42:47[räuspern] Das ist was ich verstehe ist.
42:48Die hatten nicht unendlich Platz. Wenn
42:50die Mäuse sehr viel Platz hätten, glaube
42:52ich, wä es nicht passiert. Sie waren
42:53sehr eingeengt. Es ist das gleiche, wenn
42:55man Menschen sehr eint, das nicht gut.
42:58Also, wenn man im Gefängnis irgendwie
42:59jeder nur fün quadratzm Platz hat, dann
43:02geht's Menschen auch nicht gut. Also,
43:03das muss man so ein bisschen Kopf
43:04behalten. Ähm, ich glaube, da ist aber
43:06schon was dran. Ich glaube, es ist was
43:08dran in der Hinsicht, dass ähm wir jetzt
43:10schon sehen heutzutage diese
43:12Desozialisierung ist, dass jetzt ja
43:14schon Menschen aufhören sich
43:15vorzupflanzen. Wir sind ja jetzt also in
43:18den Deutschland in meisten anderen
43:19westlichen Ländern schon unter ähm der
43:22der Menge an Kinder, die wir bräuchten,
43:23um uns nur stabil zu halten, unsere
43:25Bevölkerung. Also auf einer Hinsicht
43:28sind wir schon da. Das ist das passiert
43:30schon, bevor wir überhaupt so KI sagen,
43:32wir sind schon an dem Punkt, dass unsere
43:34ähm Bevölkerung abnimmt statt. Also
43:36viele Leute verstehen, wissen das nicht,
43:37aber wenn man wirklich schaut in den
43:39meisten Ländern vor allem Westen und
43:41nehm nehmt es ja ab und auch in den
43:43Ländern, wo es noch zunimmt, ist es
43:45jetzt, dass es immer weniger und weniger
43:47zunimmt und jetzt auf auf Tragt ist,
43:49dass es bald in allen Ländern abnimmt in
43:52den nächsten 20, 30 Jahren. Das ist ein
43:56so unglaubliche grisiges Problem, dass
43:59ich immer wieder überrascht bin, wie
44:00wenig Leute sich damit beschäftigen,
44:02weil jeder hat irgendwie seine eigene
44:03persönliche Theorie fürum so ist. Oh, es
44:06ist wegen Feminismus. Nein, es ist wegen
44:09Männern. Es ist wegen dem, wegen das.
44:11Aber der Fall oder der Fakt ist, wenn
44:13man wirklich reinschaut in die
44:14Wissenschaft, es ist wirklich nicht
44:16klar, warum das passiert. Es es scheint
44:18für mehr viele Gründe zu sein. Ich
44:20glaube, wenn du über äh Bedeutung und so
44:23sprichst, ich glaube, da ist schon was
44:24dran. Ähm, ich glaube, die Lösungen für
44:27solche Sachen sind nicht unbedingt ähm,
44:30na ja, okay, müssen halt so in den guten
44:32alten Zeiten zurückgehen, wo man noch
44:34verhungert ist mit 5 Jahren. Ich glaube,
44:36das ist nicht die Lösung darauf. Ich
44:37glaube, es gibt einfach viele Sachen,
44:40dass wir haben viele Dinge, die Leute
44:42glücklich macht, verkauft. Ähm, ein
44:45klassisches Beispiel ist es, dass wir
44:46haben das Konzept von Dating einfach
44:49verkauft an Apps. Das ist so
44:51unglaublich. Also Leute, die jünger sind
44:53als ich, die sind Niemand trifft sich
44:54mehr in der Bar oder auf einer Party.
44:56Das ist super selten heutzutage. Das
44:59heutzutage wen alle Apps. Also, wenn man
45:01sich dann nicht auf der App trifft, das
45:02ist komisch. Und na ja, wir können
45:05sagen, ob es jetzt gut oder schlecht
45:06ist, also kannst vorstellen, was ich
45:07denke, aber das ist ein riesen
45:10Unterschied, dass da ist ein was sehr
45:12menschliches verloren gegangen. Leute
45:15heutzutage sehen ihre Freunde viel
45:17seltener als in der Vergangenheit. Es
45:18gibt viel wenige ähm sozialen Ausgaben
45:21mit Sport oder mit Kunst und solchen
45:24Sachen oder gibt's also einfach ist
45:26nicht eine Sache, gibt viele viele viele
45:28Sachen, wo wir haben viele menschliche
45:30Dinge verloren und nicht wirklich
45:32ersetzt. Was ich aber glaube ist ist,
45:35dass wir können besser machen. Ich
45:37glaube, das ist komplett machbar. Ich
45:38glaube, es ist halt nicht das gleiche
45:40wie äh Wirtschaft oder Geld oder äh
45:43Technologie. Die Lösung ist nicht mehr
45:45Technologie. Die Lösung ist, wir müssen
45:47schauen, hey, was fehlt uns hier
45:49eigentlich als Menschen? Z.B. sozialen
45:51Kontakt,
45:53Liebe, Zeit, Freundzeit, Kunst Sachen.
45:57Auch Religion z.B. ist für viele Leute
45:58sehr wichtig und viele Leute hat das
46:00abgenommen und also ich bin nicht
46:02religiös persönlich, aber für manche
46:03Leute ist das sehr wichtig und ich
46:05glaube, das ist nicht gut, dass die das
46:06unbedingt verloren haben in vieler
46:08Hinsicht. Ähm, ich glaube, man kann eine
46:11bessere Welt machen. Ich glaube, das ist
46:13absolut machbar und ich glaube, wir
46:15könnten das machen, aber es ist nicht
46:16das gleiche wie versuchen GDP zu
46:19maximieren. Ich wenn wir nur mehr Geld
46:20haben, das löst das Problem nicht. Es
46:22gibt das es gibt so eine Sache, wo ähm
46:24ähm mein Lieblingsbeispiel von dem ist
46:26Lottospieler. Es gibt tolle Statistiken
46:29darüber, dass viel die meisten
46:31Lottospieler, wenn die große Millionen
46:33machen, verlieren alles innerhalb von
46:34zwei Jahren und oft sieht man dann, dass
46:37die komplett ihr Leben
46:37auseinanderschweißen, abhängig werden
46:39von Kokain und was auch immer und
46:41komplett alles. Und deswegen manche
46:43Leute sagen: "Ah ja, Geld ist ein
46:44Fluch." Und ich denke mir so, hä macht
46:47überhaup keinen Sinn. Bitte gibt mir
46:48Million von Dollar. Das wird mir nie
46:49passieren, wenn du mir 10 Millionen
46:51gibst. Ja, ich werde tolle Sachen damit
46:53machen. Da wer ich werde nie abhängig
46:54von Kokain. Es wird niemals passieren.
46:57Das ist kein Problem. Und ich glaube,
46:59dass es also so eine Sache ist, ist das
47:00Leute, dass dass es etwas ist, dass man
47:02braucht eine bisschen Vorbereitung und
47:04auch Training, wie man mit sowas umgeht
47:07und wie man eine gute Gesellschaft, eine
47:09stabile Gesellschaft haben kann in
47:11solchen Situationen. Ich glaube, das ist
47:13absolut machbar. Ähm, aber es braucht
47:15halt Arbeit und momentan stecken sehr
47:17wenige Leute diese Arbeit rein.
47:19Zum Thema Dating Apps, weil du hast es
47:21gerade angesprochen, ich finde das super
47:22bemerk bemerkenswert. Ich habe da
47:24neulich eine Auswertung gelesen, dass
47:25die Leute jetzt gar nicht mehr auf
47:26Dating App sind, sondern zweimal so viel
47:28Zeit mittlerweile mit AI Companions
47:31verbringen. Also selbst der Trend lässt
47:33schon nach. Und für wie gefährlich
47:35hältst du das und was glaubst du, wie
47:36geht das weiter? Weil wir haben es ja
47:37noch mit relativ simplen eigentlich
47:40GBT4O System, wenn man so will, zu tun
47:42heute.
47:43Ich glaube, es ist sehr schlecht. Also,
47:45ich kenne da auch Beispiele von
47:4813-jährigen Mädchen und sowas, die 5
47:52Stunden am Tag mit ihrem KI Boyfriend
47:54sprechen und so Sachen. Habe ich alles
47:56schon gesehen. Ja, es ist sehr schlecht.
47:58Also, wenn ich nicht an Superintelligenz
48:01arbeiten würde, hätte ich genug andere
48:02Probleme zu bearbeiten, sagen wir es mal
48:04so. Aber ich glaube da wirklich, ich
48:06klinge jetzt wie so ein alter Opa, der
48:08hier jetzt irgendwie sich beklagt über
48:10die Kinder heutzutage, aber es ist
48:12wirklich Sache ist das Kinderleiden,
48:14also unsere Kinderleiden äh dramatisch.
48:17Diese Desozialisierung, alles von Social
48:20Media zu also eins der Beispiele, die
48:22ich im nehme ist sehr sehr kleines ist,
48:23dass wenn man in zu einem Club geht
48:26heutzutage, niemand tanzt. Das war sehr
48:28anders vor 20 Jahren [schnauben] und der
48:31Grund ist, weil Leute filmen. Das ist
48:34der Grund. Deine Freunde filmen, die
48:36andere Leute filmen. Wenn du dich
48:37blamierst oder wenn du was vielleicht
48:40nicht ganz richtiges zu einer Frau sagst
48:41oder so, du wirst gefilmt und dann und
48:44das ist für immer. Früher war so ein
48:46bisschen das Verständnis, dass wenn man
48:47in der Bar oder im Club ist, da passiert
48:49manchmal was peinliches. Das ist so
48:51akzeptiert. Hey, passiert manchmal, du
48:52bist 18, du bläierst dich, passiert.
48:56Aber jetzt wird's gefilmt und dann ist
48:57es auf Instagram für immer und das ist
49:00das Risiko nicht mehr wert. Ich das ist
49:02ein kleines Problem auf auf einer
49:04Hinsicht, wo man seht so, na ja, jetzt
49:06gibt's hal Kameras, das eine riesen
49:07Auswirkung hat, glaube ich. Ich, also
49:09wenn ich gefilmt werden würde, wo wo ich
49:1118 war im Club, oh Gott, das wä wäre
49:14nicht toll.
49:15und viele viele viele solche Sachen von
49:19dem zu Social Media zu und jetzt KI, wo
49:22natürlich ist es viel leichter seine
49:24emotionalen Bedürfnisse von einer KI
49:27decken zu lassen. Die KI ist für dich
49:28da, die ist immer unterstützend, die
49:30macht nie Probleme, du kannst auch
49:32machen mit der KI, was immer du willst.
49:34So und ich glaube, das baut
49:36Abhängigkeit. Das das baut eine
49:38Abhängigkeit. Es ist, ich glaube, dass,
49:40also ich bin sowieso der Meinung, dass
49:41Sachen wie Social Media und KI sollte
49:43reguliert sein wie Drogen, also wie
49:46abhängig erzeugende Mittel, also ob es
49:49jetzt Alkohol oder Glücksspiele sind.
49:52Ich glaube, dass diese Sachen absolut so
49:54abhängig machen wie Glücksspiele oder
49:56Alkohol oder sowas, das absolut der Fall
49:58ist. Und jetzt haben wir, dass wir
50:00unsere Kinder teilweise 13 jünger, die
50:04an diesen Dingern hängen. Also das kann
50:07nur das kann nur schiefgehen. Also da
50:08also da ist wirklich ein also Angriff
50:11von der Regierung ist notwendig. Genauso
50:12wie eingreifen, dass wir glauben nicht,
50:14dass Kinder Alkohol trinken oder Kokain
50:16zu sich nehmen oder Glücksspiele spielen
50:18und deswegen muss einfach eingegriffen
50:20werden. Ich glaube, das ist ein anderes
50:21Thema als Superintelligenz. Ich glaube
50:23auch, wenn wir nie Superintelligenz
50:24haben, werden wir trotzdem dieses
50:25Problem haben. Ich es ist mir persönlich
50:28wie also Croyal arbeitet nicht an diesem
50:30Problem. Mir persönlich ist das sehr
50:31wichtig. Ich sehe wie z. Jüngeren
50:33Verwandten und so daran leiden und so.
50:35Also mir ist es persönlich schon sehr
50:36wichtig und ich glaube da absolut, also
50:38das können wir nicht so hinnehmen, das
50:40können wir nicht so weitermachen lassen.
50:42Ja, ich habe da gleich noch mal ein paar
50:43Fragen zu. Kannst du an der Stelle noch
50:45mal oder kannst du an der Stelle
50:46erklären, was genau ist deine Forderung?
50:49Also was ist dein Vorschlag? Was ist die
50:51Forderung, die du stellst an die Politik
50:53oder an KI Unternehmen, um diese
50:55Probleme vor allem das Superinttelligenz
50:56Problem zu lösen?
50:57Das Wichtigste ist ist, dass wenn eine
50:59Superinttelligenz existiert, kann ist es
51:01schon zu spät. Das heißt, unser Ziel
51:03muss sein, dass wir nie in diese
51:05Situation kommen. Das heißt, wir müssen
51:07die Entwicklung von Superinttelligenz
51:10verbieten [räuspern] und wir müssen es
51:11verhindern. Es gibt mehrere Wege, wie
51:13man das erreichen kann, aber das erste,
51:16was verstehen, was passieren muss, ist
51:17das ist das äh Länder und mit das
51:19Militär, weil das ist um es ist ein
51:21National Security, es ist ein äh
51:24Security Problem hier. Das ist nicht ein
51:25kommerzielles Problem. Es ist etwas, das
51:28Leben von Menschen bedroht.
51:30Deswegen muss Regierung und Militär auf
51:32der ganzen Welt m müssen einsehen und äh
51:36zusagen, dass das ist eine Riesengefahr
51:39für die Menschheit und wir müssen es
51:40verhindern. Das heißt, wir müssen sowohl
51:42in unseren eigenen Ländern, also ich bin
51:44momentan der USA, ich bin
51:45US-Staatsbürger und so und ich arbeite
51:47hier mit der US-Regierung großteils, ähm
51:50muss sehen, dass wir nicht erlauben
51:52können, dass US-Firmen sowas machen und
51:56wir müssen ähm verbieten, dass
51:59[räuspern] es illegal ist, genau wie es
52:00illegal ist, eine Atombombe zu bauen. Es
52:03ist illegal sogar zu versuchen, eine
52:04Atombombe zu bauen, auch wenn man es
52:07nicht schafft. Es ist es ist illegal ist
52:08auch nur zu probieren. Das gleiche muss
52:10der Fall sein für Syintelligenz.
52:12Ähm und dann international
52:15äh zwischen verschiedenen Ländern, ob
52:16das jetzt die EU, Amerika, China,
52:19anderen ist, muss es internationale
52:22Vereinbarungen geben, die Trustbot
52:25Verify, wie wir hier in der USA sagen,
52:27ähm wo wir alle Länder müssen verstehen,
52:32dass wir sie zu sagen, dass sie nicht
52:34super machen werden und erlauben, dass
52:36andere überprüfen, dass das auch nicht
52:38der Fall ist. Also die Amerikaner müssen
52:40überprüfen, dass die Chinesen nicht
52:42Super bauen. Die Europäer müssen die
52:44Amerikaner überprüfen, dass sie es nicht
52:45machen und so weiter und so fort. Das
52:47ist die einzige stabile Lösung. Ich
52:49weiß, dass das extrem schwierig ist. Vor
52:51allem in der momentanen geopolitischen
52:53Lage ist es ziemlich schwer sich
52:54vorzustellen zu zu kommen, aber ich
52:56glaube, wir haben keine Wahl. Wenn
52:58irgendjemand irgendwo in der Welt eine
52:59super superintelligenz B, egal wer,
53:02betrifft es uns alle und deswegen müssen
53:04wir das verhindern. angenommen, wir
53:06pausieren jetzt heute. Also angenommen
53:08die die Weiterentwicklung, die wird
53:09gestoppt, die wird pausiert. Neues Paper
53:11von Deepmind argumentiert AGI toi heißt
53:14das, dass wenn wir KI heute stoppen,
53:16sich die Kosten für dieselbe KI
53:17Fähigkeit jedes Jahr weiterhin
53:20mindestens dritteln. Also, sagen wir,
53:21wir pausieren jetzt heute bei Mythos
53:23Fable Level Intelligenz, dann wird die
53:25gleiche Intelligenz ja jedes Jahr sechs
53:27bis dreimal günstiger, sagen Sie, und
53:28somit natürlich auch viel besser
53:30parallelisierbar, für jeden noch breiter
53:32zugänglich und so weiter. Wäre das
53:34wünschenswert für dich?
53:35Ich glaube, es ist sehr möglich, dass
53:37wir schon nach dem Punkt of no return
53:39ist mit Ich glaube, es ist möglich, dass
53:41sogar wenn wir alles pausieren schon zu
53:43spät ist. Ich glaube, das ist möglich.
53:46Ich ich würde sagen vielleicht 30 40 %
53:50das sogar wenn wir na nicht nicht ganz
53:52so hoch vielleicht 20 % 10 20% sagen wir
53:55mal dass wenn wir heute stoppen das
53:57schon zu spät ist, na wenn man halt
53:59Mythos und Feb halt noch ein bisschen
54:01halt günstiger macht und ein bisschen
54:03größer aufsetzt, dass das schon genug
54:05ist, würde ich sagen, vielleicht ja
54:07vielleicht 10 %, dass das dann schon zu
54:11spät ist. Und ja, wenn das schon zu spät
54:13ist, dann tja.
54:16Okay. Ja. Äh jetzt zu dem Interesse der
54:20KI Unternehmen, weil man müsste ja jetzt
54:22meinen, das was du forderst und so
54:24weiter, das will ja im Wesentlichen,
54:25also das was du beschreibst, das will ja
54:27niemand. auch die KI Unternehmen selbst,
54:29die dürfen ja eigentlich kein Interesse
54:31daran haben. Und auch wieder eine These,
54:33ich mich interessiert deine Meinung
54:34dazu, weil Dary Modi, der verfasst ja
54:35immer seine tollen Blogartikel und der
54:37Prominenteste trägt den Namen Machines
54:39of Loving Grace. Und was viele, glaube
54:41ich, nicht realisiert haben, was das
54:44ursprünglich gleichnamige Gedicht aus
54:461967 eigentlich aussagt, ich zitiere das
54:48einmal. Äh, ich stell mir gern vor, eine
54:51kynetische Ökologie, in der wir frei
54:53sind von unserer Mühsoll und
54:55zurückkehren zur Natur, heimgekehrt zu
54:58unseren tierischen Brüdern und
54:59Schwestern und über uns allen Wachen
55:01Maschinen voller Liebe, voller Gnade,
55:03also Machines of Loving Grace. Und meine
55:06Frage ist, überinterpretiere ich das
55:07Ganze oder wollen diese Firmen denn
55:09vielleicht sogar ähm, dass die
55:11Menschheit in so einem Zoo endet? Es
55:12gibt grundsätzlich zwei
55:15Arten von Menschen, die sowas sagen. Die
55:18einen sind Transhumanisten und die
55:21anderen sind Nichelisten. [räuspern] In
55:23welche Kategorie man da die
55:25verschiedenen Leute einordnet, ist die
55:28kann kann jeder seine eigene
55:29Psychoanalyse betreiben. Aber
55:31prinzipiell es gibt, ich kenne viele
55:33diese Leute. Ich habe mit Dario schon
55:36Abend gegessen. Ich habe mit Sam Sam
55:38Altman schon vielmals gesprochen und so
55:40und ich kenne viele von diesen Leuten,
55:42die in diesen Firmen arbeiten, ist das
55:44viele von ihnen sind Transhumanisten.
55:47Sie wollen, dass Menschen ersetzt oder
55:51verbessert werden. Sie wollen, dass wir
55:54denn so landen oder dass wir unsterblich
55:57werden oder [räuspern] dass was auch
55:59immer. Ob es wir oder sie sind, kommt
56:01drauf an, wie man sieht. Aber ähm sie
56:04wollen die Menschheit zurücklassen, sie
56:06wollen das nächste, was immer das
56:08nächste ist. Und das ist wie eine
56:11Religion, also soll man auch so
56:13verstehen, wie eine Religion oder einem
56:15Kult ähm der in Silicon Valley wirklich
56:18viel Macht hat. Also das klingt
56:20vielleicht ziemlich verrückt für viele
56:22Leute außerhalb von Silicon Valley, aber
56:24in Silicon Valley nehmen das Leute
56:26extrem ernst. Das ist wirklich also wie
56:29Religion für die das nehmen die wirklich
56:30wirklich ernst. Und die zweite Art von
56:32Leuten, die sowas sagt, sind
56:33Michaelisten. Leuten den es ist egal,
56:37die jetzt sagen einfach was immer, damit
56:38sie mehr Geld haben. Ob wir jetzt die KI
56:40uns alle auslöscht oder nicht, ist nicht
56:43mein Problem. Ich will mehr Geld. Äh
56:45gibt's auch sehr, sehr viele solche
56:47Leute in Silicon Valley. Ein
56:49Gegenargument noch mal gegen das Thema
56:51Superintelligenz und Super Intelligenz,
56:53die die Menschheit auslöscht, ist, dass
56:55man sagt zu solche Leute oder so aushö
56:59ich zum Teil von z.B. ähm Schmidthuber
57:01ähm der im Wesentlichen sagt: "Ja,
57:03Superintelligenz würde ja gar kein
57:04Interesse haben. Also wir würden jetzt
57:06als Menschen auch nicht mutwillig
57:07Ameisen töten." Äh z.B. und Intelligenz
57:10würde sich ins Universum ausbreiten und
57:13eher nach Weisheit streben. Und wenn
57:15etwas super intelligent ist, dann ist es
57:17weise und dann würde es nicht einfach
57:18ähm aus reiner Bosheit irgendwie andere
57:22Spezies ausen. Was meinst du dazu? Ich
57:24glaube, es ist wahr, dass wir nicht als
57:26reine Boshaftigkeit Ameisen auslöschen,
57:28aber na ja, wenn wir halt einen
57:30Parkplatz bauen wollen und das in
57:31Ameisen Pech gehabt. Ich glaube, das ist
57:34was auch mit K sein wird. Ich glaube
57:36nicht, dass es jetzt beur wird, dass
57:37jetzt irgendwie foltert oder
57:38irgendsowas, aber na ja, Menschen, die
57:40sind halt im Weg, die brauchen viele
57:42Ressourcen und die haben Atombomben. Na
57:44ja, die müssen wir wegnehmen. Könnte
57:46nicht haben, dass da Ameisen möglich
57:47irgendwelchen Atombomben um sich
57:48schmeißen.
57:48Welche PR-Stategien in der AI Lobby gibt
57:52es die meisten nicht als solche
57:53wahrnehmen? Ich habe z.B. mal von dieser
57:56Bild American AI NGO gelesen, die ca.
57:585000 US-Dollar pro Video zahlen, um
58:00dieses Antiiner Narrativ zu fördern.
58:02Also China will uns jedem Preis schlagen
58:04und so weiter. Das hört man ja wirklich
58:05an vielen Stellen. Und was füren glaube
58:07ich nicht klar ist, dass dies z.B. auch
58:09ähm Lobby finanziert ist. Natürlich
58:12vieles, was Influencer Aussagen eben
58:13sind. Ähm hast du hast da sicherlich
58:15Einblicke, also welche PR-Stategien muss
58:18man kennen? Äh und ja, was vielleicht
58:19viele auch gar nicht als solche
58:20wahrnehmen.
58:21Ja, es ist wirklich unglaublich wichtig
58:22zu verstehen, ist dass die PR und das
58:25Lobbying hier ist unglaublich. Es ist
58:27überall, es ist ständig diese Leute sind
58:31überall in der Regierung in also in
58:34Washington, auf Social Media überall ist
58:37Paid PR und Manipulation und COP und so
58:42überall.
58:43Und die wichtigste Strategie zu
58:45verstehen ist Fear, uncertainty in doubt
58:49oder Fud. Das ist eine Strategie, die
58:51vor allem von Tabaklobby ähm verwendet
58:53wurde, als man versucht hat Tabak zu
58:56regulieren. Und diese Strategie ist
58:59nicht, dass sie unbedingt versucht, dich
59:01zu überzeugen, dass es dass es auf jeden
59:03Fall okay ist, sondern nur versucht dich
59:06zu verwirren. Einfach sagt, na ja, es
59:08gibt ja viele Einsichten. Manche sagen,
59:11es ist gut, manche sagen, es ist
59:12schlecht. Wer weiß? Ich meine natürlich
59:15Russland ist nicht gut, aber hey,
59:18Deutschland hat auch Probleme. Wer weiß
59:20wer die Bösen sind, könnte jeder sein.
59:23Das ist so eine klassische FSstrategie
59:25ist das. Na ja, die sind ja alle böse,
59:27die sind ja alle scheiße. Wer weiß, wer
59:30der Gute ist. Es gibt keine guten. Das
59:32ist so eine sehr klassische Strategie.
59:35Ist das alles ist scheiße, niemand kann
59:37man trauen. Versuch's gar nicht. Das
59:41Ziel dieser Strategie
59:43ist Zeit zu schaffen. Das Ziel ist dich
59:45dich zu überzeugen. Die wollen nicht,
59:47dass du jetzt pro AI bist. Sie wissen,
59:49dass das das geht nicht, weil du bist
59:51nicht so dumm. Du wirst nie Poker sein,
59:53aber sie wissen, dass sie dich dir Angst
59:55machen können. Sie können dich verwirren
59:57und sie können eine Zeit verschwenden.
59:59Und weil ihr Ziel ist zu Super
1:00:01Intelligenz zu kommen. Sie glauben, wenn
1:00:03sie einfach nur noch ein paar Jahre Zeit
1:00:05schaffen können, dann ist es egal. Dann
1:00:08ist es komplett egal. Wir müssen nur nur
1:00:11Zeit machen und das ist was sie machen.
1:00:13Ist einfach einfach so viel Unsinn und
1:00:15Schwachsinn. So was meint Sam wirklich
1:00:18mit dieser Aussage? Was hat Dario damit
1:00:21gemeint? Es ist egal. Es ist es ist
1:00:23Ablenkmanöver. Alle diese Sachen sind
1:00:26Manöver.
1:00:28Was wichtig ist, ist, dass wir müssen
1:00:29dafür sorgen, dass ke Superintelligenz
1:00:31nicht gebaut ist und das müssen wir
1:00:32jetzt machen. Es ist egal, ob es jetzt
1:00:34gibt es Schmidthuber, der jetzt sagt:
1:00:37"Oh, das ist eigentlich okay." Egal.
1:00:38Ablenkmanöver
1:00:40gibt es da jetzt Oh, aber den Horn KF
1:00:43egal Ablenkmanöver. Es ist alles ein
1:00:45Ablenkmanöver. Es wird nie 100% Klarheit
1:00:48geben. Es gibt auch nicht 100% Klarheit
1:00:50bei Klimawandel. Da gibt es tatsächlich
1:00:53ja Sachen, die bisschen unklar sind. Das
1:00:55ist klar, aber das heißt nicht, dass wir
1:00:58nicht agieren sollen. So so nur, weil es
1:01:00nicht 100% ist. Also das Wichtigste ist
1:01:02es, weil immer jemand versucht dich
1:01:04abzulenken, ist das Wichtigste einfach
1:01:06ignorieren. Es ist egal einfach fragen.
1:01:09Wenn Dario da irgendwas tolles schreibt
1:01:11auf seinem Blog, fragt man Dario einfach
1:01:13eine Frage. Es einfach okay, baust du
1:01:16etwas, das alle Menschen auslöschen
1:01:17könnte? Wenn ja, hör auf damit.
1:01:20Jetzt ist so eine gängige Kritik. Du
1:01:22sagst ja auch, dass m man
1:01:24Superintelligenz regulieren muss,
1:01:26ähnlich wie man ja auch Atomwaffen
1:01:28reguliert und nicht sagt: "Hey, ihr
1:01:29dürft alle, jeder Privatmann darf eine
1:01:31Atomwaffe bauen." Und jetzt ist so eine
1:01:33gängige Kritik äh die für mich auch
1:01:35logisch ist, dass man sagt, okay, diese
1:01:37Regulierung, die führt ja letztendlich
1:01:38nur dazu, dass ich die die Macht, wenn
1:01:41man so will, in der Hand voll von paar
1:01:42KI Firmen kontrolliert, weil aufhören
1:01:44wird man so oder so nicht. Im Zweifel
1:01:45wird dann einfach nur die breite
1:01:46Bevölkerung keinen zu Zugang haben zu
1:01:48der Technologie und beim Start oder bei
1:01:50den Unternehmen konzentriert sich
1:01:52eigentlich nur dadurch durch Regulierung
1:01:53die Power und Thropic etc. die haben ja
1:01:56selbst oft auch Bemühung ähm sich selbst
1:01:59zu regulieren. Also das sagen sie ja
1:02:00selbst auch eben immer wieder. Und meine
1:02:02Frage ist ähm, weil du willst ja
1:02:04offensichtlich das Gegenteil, also wie
1:02:07stellst du das sicher, dass nicht
1:02:08letztendlich durch die Regulierung genau
1:02:10das Gegenteil passiert von dem, was du
1:02:11eigentlich erreichen willst und wie
1:02:14denkst du darüber?
1:02:14Das ist ein riesiges Problem und es ist
1:02:16nicht nur ein Problem von der KI, das
1:02:18ist ein Problem, dass wir komplett
1:02:19einfach nicht gelöst haben im Westen.
1:02:21Das ist ein Problem der Demokratie. Das
1:02:23Konzept einer Demokratie ist, dass äh
1:02:26die Menschen allgemein Macht haben
1:02:29sollten über ihre Zukunft und über ihren
1:02:30Staat und so weiter und dass es nicht
1:02:33von Firmen gelenkt sein sollte, ist,
1:02:35dass man soll also wie Plato sagen
1:02:37würde, man soll ja Geld und politische
1:02:39Macht teilen. Das sind halt verschiedene
1:02:40Welten, die sich nicht teilen können,
1:02:42aber in Praxis überschreien sich diese
1:02:44Sachen diese Welten in sehr sehr vielen
1:02:47Sachen. Deswegen ist es wichtig zu
1:02:49verstehen, wenn ich sage, dass hey, es
1:02:51sollte hier Oversight geben, es sollte
1:02:53hier Kontrolle geben und so was auch
1:02:55immer. Das heißt nicht, dass die Firmen
1:02:56diese Kontrolle oder diese Macht haben
1:02:58sollten. Auf gar keinen [räuspern] Fall
1:03:00die Demokratie sein, demokratische
1:03:01Oberseit. Jetzt kann man natürlich
1:03:03sagen, okay, aber unsere Regierung,
1:03:04unsere Demokratie, die sind zu
1:03:06inkompetent und die sind nicht mächtig
1:03:07genug, blablabla. Und ich sag: "J, wir
1:03:09hätten eine stärkere Demokratie bauen
1:03:10sollen über die letzten 50 Jahre und das
1:03:12haben wir richtig verkackt." Ähm ist,
1:03:14dass wenn wir eine super super starke
1:03:16Demokratie hätten auf der ganzen Welt
1:03:18und alle unsere Politiker sind die
1:03:20besten Leute und wir vertrauen denen
1:03:22super und unser Militär ist super stark
1:03:24und super kompetent, ja, dann würde ich
1:03:27mich weniger viel besser fühlen, für wie
1:03:30es ist. Das ist im Grund Grunde ein sehr
1:03:32tiefes Problem demokratisches und
1:03:35sozialwirtschaftliches Problem. Bevor es
1:03:39bevor die industriellen Revolution war
1:03:41es nicht wirklich möglich, dass ein oder
1:03:44zwei Leute oder oder kleinen Gruppen
1:03:46Menschen wirklich sehr viel Macht bauen
1:03:48konnten, außer vielleicht Könige oder
1:03:50sowas. Aber was dann nach der
1:03:52investorien Revolution wirklich passiert
1:03:53ist, ist, dass jetzt konnte man Kapital
1:03:56ermaßen in sehr sehr großen Mengen, dass
1:03:59ein erlauben würde sehr sehr viel Macht
1:04:01über andere Leute zu haben. Und ich
1:04:02glaube, das ist schlecht. Ich glaube,
1:04:04dass Leute mit großer Macht über anderen
1:04:06Leute ist nicht gut. Ich ich will
1:04:08Freiheit und Demokratie. Und das zu aber
1:04:11das zu veren ist schwierig. Ähm in
1:04:13vieler Hinsicht ist äh Subintelligenz
1:04:16ultimative Kapital. Kapital, das so
1:04:18mächtig ist, dass es selber intelligent
1:04:21ist und ähm dann sein eigenes Kapital an
1:04:24sich bauen kann ohne irgendwelche
1:04:25Menschen. Äh das ist etwas sehr sehr
1:04:27sehr gefährliches. Das ist etwas, dass
1:04:29unsere ähm dass wir für Jahrzehnte und
1:04:32Jahrhunderte schon hart arbeiten zu
1:04:35versuchen zu verstehen und zu
1:04:36kontrollieren mit unseren Gesetzen,
1:04:38unser Regulierung und und so weiter.
1:04:40Aber ich glaube nicht, dass es ein
1:04:42gelöstes Problem ist. Ich glaube, das
1:04:44ist wir müssen der der Fakt, dass es
1:04:46mächtiges Kapital gibt, ob das jetzt
1:04:50vor KI oder nach KI ist, ist ein Fakt
1:04:53über Realität. Es ist wie es ist. Es ist
1:04:55ja, man kann Kapital ermaßen und das
1:04:57macht ein mächtig. Es ist wie es ist.
1:05:00Und die Frage ist, wie gehen wir damit
1:05:01um mit diesem [räuspern] Fakt? Wir
1:05:03können nicht verhindern, dass Kapital
1:05:05ermaßt werden. Ähm außer wir haben sehr
1:05:07starke Gesetze oder was auch immer. Und
1:05:10manchmal ist das gut, manchmal wollen
1:05:12wir z.B. sagen, okay, wenn du zu viel
1:05:13Kapital hast, ein Monopol wirst, dann
1:05:15zerschlagen wir dich. Okay. Ja, finde
1:05:18ich gut. Ich bin die Antimonopolgesetze.
1:05:20Finde ich gut. Und man könnte jetzt
1:05:22sagen, na ja, vielleicht machen wir es
1:05:23mit Superinttelligenz oder was auch
1:05:24immer auch, aber hier haben wir das
1:05:25gleiche Problem oder her, wir haben das
1:05:28das Problem mit Atombomben ist, dass na
1:05:30ja, wenn jetzt sagen, oh, die Amerikaner
1:05:32haben Atombomben, na ja, dann sollten
1:05:33doch jeden Privatbürger eine Atombombe
1:05:35geben, das löst das Problem. Nein, das
1:05:37löst das Problem nicht. Das macht das
1:05:38Problem schlimmer. Und es hat nichts mit
1:05:41Philosophie zu tun. Das ist einfach ein
1:05:43Fakt über Physik. Ist das mehr
1:05:45Atombomben macht das Problem nicht
1:05:47besser. Es ist einfach ein ist einfach
1:05:49ein richtig scheiß Problem. Es ist
1:05:51wirklich schwierig und mit
1:05:52Superinttelligenz ist das gleiche. Wenn
1:05:54du Superinttelligenz nicht verstehst,
1:05:56dann ist es egal, ob du jetzt noch eine
1:05:58Superintelligenz hast oder nicht, weil
1:05:59die schießt dir auch nur den Rücken. Das
1:06:01hilft dir nicht. Das ist noch, dass du
1:06:03deine eigene Superintelligenz hast, weil
1:06:05die die zerstört dich genauso wie jeder
1:06:07andere. Ich glaube, das ist viel weniger
1:06:09der Fall für Subintelligenz.
1:06:13Also, ich glaube z.B., dass es schon
1:06:14wahrscheinlich sehr wichtig ist, dass
1:06:16Leute Zugriff haben auf so Chat
1:06:18BT-artige
1:06:20KI. Es wird ein wichtiger Teil unsere
1:06:22Wirtschaft sein. Da bin ich offener für
1:06:25sowas. Sage ich nicht 100%, dass ich das
1:06:27gut finde, aber ich finde bin ich viel
1:06:28offener für sowas. Aber Open Source
1:06:33fundamentell verhindert
1:06:36gute Regulierung und kontrollieren von
1:06:38großen Gefahren. Das heißt, wenn du
1:06:40etwas hast, was einfach riesige
1:06:41Downsides hast und du machst es open
1:06:43source, dann kriegst du die Downsides.
1:06:46Das ist der Kost. Das das ist das ist
1:06:48der Deal. Der der der Teufelspakt, der
1:06:50faustische Pakt hier ist das, wenn du
1:06:52etwas Open Source machst. J. Du kriegst
1:06:54all die Vorteile, aber du kriegst auch
1:06:56alle die Nachteile. Und wenn die
1:06:58Nachteile größer sind als die Vorteile,
1:07:00tja, Pech gehabt. Was sagst du denn zu
1:07:02der Mythos Situation, also die
1:07:04staatliche Regulierung deingehen?
1:07:05Befülwest du das oder hältst du das für
1:07:07eine Nebelkerze, die sowieso nichts
1:07:09bringt?
1:07:09In der Hinsicht auf Superintelligenz ist
1:07:11es glaube ich auf jeden Fall klar, dass
1:07:14wir sollten diesen Sachen jetzt schon
1:07:17als sehr als gefährliche Waffen
1:07:19behandeln. Ich glaube, dass die
1:07:20Regierung die Macht haben sollte. das zu
1:07:23tun, was sie getan hat. Ähm, ich bin
1:07:25kein Anwalt. Ich weiß jetzt nicht, ob
1:07:27die Trump Regierung da jetzt allen
1:07:29richtige Gesetze gefolgt hat oder nicht,
1:07:31weiß ich nicht, aber ich finde, die
1:07:33Regierung sollte die Funk die Fähigkeit
1:07:35haben, das zu tun, wenn sie es für nötig
1:07:37hält. Macht Sinn für mich ist das. Wenn
1:07:40ein gefährliches Produkt auf der Markt
1:07:42ist, sollte die Regierung sagen können,
1:07:43nee, nee, nee, nee, nee, stopp. Finde
1:07:45ich okay. Ob es jetzt in dem Fall genau
1:07:48jetzt richtig oder falsch war, ich
1:07:50glaube mir so unglaublich gefährlich.
1:07:51Ich glaube, es ist macht Sinn, es zu
1:07:54machen. Ob es jetzt richtig war oder
1:07:55nicht, darüber kann man sich streiten.
1:07:57[räuspern] Ob es was sehr wichtig ist,
1:07:59ist, dass es nicht genug ist für
1:08:01Superintelligenz. Das Problem mit
1:08:02Superinttelligenz ist das Predeployment,
1:08:05also es vom Markt nehmen ist nicht
1:08:08genug, weil auch wenn es vom Markt ist,
1:08:11aber wenn es immer noch sein
1:08:12Privatserver irgendwo liegt, ist auch
1:08:15schon Gameover. Das ist der Unterschied.
1:08:18Ist das vielleicht für Mythos ist es
1:08:20okay oder auch genug, dass wir es nur
1:08:23vom Markt nehmen, aber für
1:08:25Superintelligenz ist das nicht genug.
1:08:27Wir müssen verhindern, dass es überhaupt
1:08:29entwickelt wird.
1:08:30Diese Nationalisierung. Nur noch mal da
1:08:31ein letztes Wort dazu, weil das ist ja
1:08:34schon immer wahrscheinlicher. Also man
1:08:36es ist ja das Spannende für mich. Also
1:08:37einerseits die Seite Bernie Sanders,
1:08:38andererseits die Seite Donald Trump,
1:08:40Alex C und so weiter. Beide sagen im
1:08:42Kern, wir brauchen Nationalisierung von
1:08:44KI Unternehmen. Es führt kein Weg davon.
1:08:46daran vorbei. Ihr könnt nicht sagen, ihr
1:08:47wollt alle äh Jobs ersetzen und
1:08:49Superintelligenz bauen und davon
1:08:50ausgehen, dass ihr nicht nationalisiert
1:08:52werdet. Bringt das was aus deiner
1:08:53Perspektive? Also ist es etwas, was du
1:08:56jetzt z.B. auch befürworten würdest oder
1:08:58glaubst du, das hätte eh kein ähm keine
1:09:01wirkliche aus Auswirkung im Himm auf
1:09:04das, was du forderst.
1:09:05Rationalisierung ist ein sehr großes
1:09:07Wort, das viele verschiedenen Sachen in
1:09:09hält und immer bisschen unklar, was die
1:09:10Leute hier genau vorschlagen.
1:09:13Also, man kann ja z.B. China anschauen
1:09:15ist das wie sehr eine Firma
1:09:17nationalisiert wird halt viele
1:09:18Abstufungen. Also viele Firmen in China
1:09:20sind ja so bisschen nationalisiert oder
1:09:22ganz nationalisiert etc. Also gibt
1:09:24verschiedene viele viele verschiedene
1:09:26Wege, wie man das machen kann und wie
1:09:29ich das sehe ist fundamental ist das. Ob
1:09:31jetzt volle Nationalisierung jetzt genau
1:09:34die richtige Idee ist, können sich
1:09:36drüber streiten. Ähm, bin ich mir ein
1:09:38bisschen unsicher. Aber was auf jeden
1:09:39Fall passieren muss, es muss
1:09:40demokratische Oversight geben. Es
1:09:42[räuspern] irgendwo muss die Demokratie
1:09:46ein Wort haben. Hier muss sagen können,
1:09:48nee, das ist nicht okay oder ja, das ist
1:09:50okay. Ob man das jetzt durch
1:09:51Nationalisierung bewirkt oder durch
1:09:53eines der anderen äh legalen äh
1:09:56Mechanismen, die existieren, bin ich
1:09:58offen für alles.
1:09:59Ja, Conor, also super spannende Einwe.
1:10:00Vielen Dank schon mal. dazu. Also, ich
1:10:01hätte noch dutzende weiter Fragen.
1:10:03Schreibt's gerne mal in die Kommentare,
1:10:04ob euch das interessiert. Zweiter Teil.
1:10:06Letzte Frage habe ich an dich noch,
1:10:07Conor, und zwar du hast jetzt wirklich
1:10:09ein umfassenden Einblick in alles, was
1:10:11passiert. Du du kennst die CEOs der AI
1:10:13Labs, du kennst sicherlich
1:10:15Regierungsbeauftragte und so weiter. Was
1:10:17ist dein aktueller Pom und was ist deine
1:10:20realistische Prognose für die nächsten
1:10:21Jahre?
1:10:22Ich unterscheide gerne zwischen was
1:10:24passiert, wenn wir nichts tun und was
1:10:25passiert, wenn wir etwas tun. Ähm, weil
1:10:28wir können wir können etwas tun. Es gibt
1:10:30noch es gibt noch viel, dass wir tun
1:10:31können. Wenn wir nichts tun, ähm kann
1:10:35ich nicht lügen. Es sieht sehr, sehr,
1:10:37sehr schlecht aus. Mytos und sowas ist
1:10:40näher an der Superinttelligenz. Nächst
1:10:42Generation ist schon in Entwicklung.
1:10:44Sicherheit macht zero Fortschritte. Es
1:10:46gibt immer noch fast keine Regulierung.
1:10:48Die Lobby von der Techindustrie ist
1:10:52überwältig, also schwer zu über
1:10:54beschätzen, wie groß und wie politisch
1:10:56mächtig es ist. Ähm und wie sehr diese
1:10:59Leute sich einfach ein Dreck für
1:11:01Menschen interessieren und sich ihre
1:11:03Sicherheit interessieren. Wenn es so
1:11:06weitergeht und wir zu dieser Rekursen
1:11:08selbstverbesserung
1:11:10kommen, dann ist es wahrscheinlich
1:11:12Gameover bald. Und ja, das ist aber nur,
1:11:15wenn wir nichts dagegen uns nehmen, weil
1:11:17wir können noch etwas tun. Es ist noch
1:11:19nicht vorbei. Es ist bald vorbei, aber
1:11:21es ist noch nicht vorbei. Eine Sache,
1:11:23die ich wirklich gesehen habe in meiner
1:11:24Arbeit hier in der Politik hier, also in
1:11:26der USA ist ja nicht mehr leicht in der
1:11:27Politik, sagen wir so, um es mal leicht
1:11:30auszudrücken. Ähm, aber was ich ein sage
1:11:33ist ein unglaubliches
1:11:35Menge an, dass Leute das einfach
1:11:36wirklich nicht wollen. Leute wollen KI
1:11:38nicht, die wollen Superinttelligenz
1:11:40nicht und zwar auf beiden Seiten
1:11:41Republikaner, Demokraten, links, rechts,
1:11:44arm, reich. Es ist eigentlich
1:11:46unglaublich. die Koalition, die sich
1:11:49hier bildet, so von von Burley zu
1:11:51Bannon, dass [räuspern] sich wirklich
1:11:52hier eine riesige Koalition bildet, die
1:11:54Art, die ich in der Politik eigentlich
1:11:56fast noch nie gesehen habe und deswegen
1:11:58ist es so wichtig, dass auch jetzt
1:12:00Bürger sich aussprechen, also das ist
1:12:02sowohl also in der USA, aber auch in
1:12:04anderen Ländern. Also ihr könnt z.B.
1:12:07also ihr könnt auch z.B. auf die Website
1:12:10meiner Organisation geben, controlli.org
1:12:13ähm und eure Politikern sagen: "Hey, wir
1:12:16wollen das nicht. macht etwas dagegen.
1:12:17Es klingt blöd. Viele Leute denken sich,
1:12:19ach, das interessieren die Politiker
1:12:21doch nicht, die machen doch eh noch
1:12:22nichts. Das mich, das soll ich sagen,
1:12:23das ist nicht wahr. Das ist wirklich
1:12:25nicht wahr. Ich kenne viele, viele
1:12:27Politiker. Ich habe wirklich mit
1:12:28dutzenden Politikern in vielen Ländern
1:12:31schon gesprochen. Und eine Sache, die
1:12:32ich sagen kann, ist ja, manche Politiker
1:12:34sind böse, dumm etc. blablabla. Ja, klar
1:12:37gibt es. Die meisten sind nur normale
1:12:40Leute, die versuchen das Richtige zu
1:12:42tun, aber auch nicht wissen, was das
1:12:44Richtige ist. Und sie hören auf ihre auf
1:12:48die auf die Bürger, wenn ihr euren
1:12:50Abgeordneten an anschreibt und sagt:
1:12:52"Hey, macht was oder redet mit Control
1:12:55High oder sowas macht was mit den redet
1:12:57mit Conor ficket das ich will diese
1:12:59Superligt es macht ein Unterschied
1:13:02nicht eine Person, nicht zwei Personen,
1:13:04aber wenn viele es machen, macht ein
1:13:06riesen Unterschied." Das ist der Sinn
1:13:07Demokratie.
1:13:08Unsere Demokratie ist sehr geschwächt im
1:13:11Westen. Unsere Demokratie hat sehr, sehr
1:13:13viele Probleme, aber sie ist unsere
1:13:14einzige Chance. Sie ist unsere Chance,
1:13:16diese Welt zu verbessern und dieses
1:13:17Problem zu lösen. Ich glaube absolut,
1:13:19dass es machbar ist. Wenn es nicht der
1:13:21Fall wäre, na ja, dann wäre ich
1:13:22wahrscheinlich gerade auf irgendeiner
1:13:23tropischen Insel und würde Cocktails
1:13:25trinken,
1:13:25weil du ja sagst, das Zeitfenster
1:13:26schließt sich, was ist für dich dieser
1:13:28Point of No Return? ist rekursive
1:13:29Selbstverbesserung, also im Zweifel
1:13:31Herbst beginnt diesen Jahres oder was
1:13:33ist für dich dieser Zeitpunkt, ab dem
1:13:35auch du dann sagst, okay, jetzt ist das
1:13:37Kind in den Brunnen gefallen, jetzt
1:13:38können wir auch nichts mehr machen.
1:13:39Ja, ich glaube rekursive
1:13:40Selbstverbesserung ist sehr nah dran. Es
1:13:43ist möglich, dass wir eine Form von
1:13:46rekursiver Prü Entwicklung sehen, die
1:13:49langsamer ist als ich glaube. Ich
1:13:52glaube, dass sie sehr sehr schnell ist,
1:13:54aber es ist möglich, dass sie langsam
1:13:55ist, dann ist es noch nicht vorbei. Wenn
1:13:57sie so schnell ist, wie ich mir denke,
1:13:59dann ist das wahrscheinlich der Point of
1:14:01No Return. Ja, und ich glaube, dass es
1:14:04innerhalb der nächsten 18 Monate gut
1:14:06möglich ist. Ja. Ähm, ich würde
1:14:09wahrscheinlich immer noch eine Weile
1:14:10weitermachen, bis es 100% klar ist, dass
1:14:12es no return ist. Es ist schwierig für
1:14:14mich, glaube ich. Ich sag ich ich mache
1:14:16immer den Witz mit der tropischen Insel,
1:14:17aber die Wahrheit ist, ich kann nicht
1:14:19Ruhe machen, das ist nicht meine Art.
1:14:21Ich kann ich kann nicht mal Urlaub
1:14:23machen. Das ist mir schon ich bin ich
1:14:24bin zu Walkerholic. Also, ich glaube,
1:14:26ich würde da nie aufgeben, auch wenn die
1:14:29auch wenn die Super KI mir äh die Waffe
1:14:31in den Kopf hält, aber ähm ich glaube
1:14:34ja, uns geht wirklich die Zeit davon und
1:14:36es ist wirklich wirklich wichtig, dass
1:14:37wir jetzt agieren, nicht nächstes Jahr
1:14:40jetzt.
1:14:41Ja, Wahnsinn. Also Conor, du bist
1:14:42jederzeit herzlich wieder eingeladen
1:14:43hier auf dem Kanal. Schreibt's gerne in
1:14:44die Kommentare, ob euch ein zweiter Teil
1:14:46interessiert, vor allem auch wozu. Und
1:14:48ja, ich wünsche dir jetzt in jeden Fall
1:14:49bei dir jetzt gerade noch morgen in
1:14:50Washington. Ich wünsche dir einen
1:14:51erfolgreichen Tag und ja, sehr gerne bis
1:14:53zum nächsten Mal.
1:14:54Vielen Dank. M.

About this transcript

This page contains the full transcript of KI-Forscher warnt: „Ihr habt keine Ahnung, was in 18 Monaten auf euch zukommt!" (Connor Leahy) by Everlast AI, generated from the public captions YouTube serves with the video. The transcript has 13,412 words across 2,162 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to translate the transcript into 100+ languages.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, translation to 100+ languages, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.