Ex-Amazon-KI-Chef: „Digitale Menschen KOMMEN, das ist ganz klar!" (Alex Smola) — Transcript
Full transcript
- 0:00Und da kam halt eine Menge von Energie
- 0:02raus, die halt überhaupt keinen Sinn
- 0:03machte. Da bräuchte man ein
- 0:04Teilchenbeschleuniger, der so groß ist
- 0:06wie das Sonnensystem.
- 0:08Überlegt, na ja, ich glaube nicht, dass
- 0:10das zu meiner Lebenszeit je passieren
- 0:12wird. Jetzt gibt es ja Leute wie den
- 0:15einen der Enhropic C-founder
- 0:16beispielsweise, der wohl Mitarbeiter,
- 0:18die sich beworben haben, sagte: "Hey,
- 0:21such dir mal besser ein Hobby abseits
- 0:22von AI Research, weil das ist das erste,
- 0:25was wir automatisieren."
- 0:26Ob die KI Forschung selbst das das erste
- 0:31Opfer da der KI wird, ist es unklar. Was
- 0:34klar ist, ist allerdings, dass es jetzt
- 0:35mittlerweile möglich ist, einfach
- 0:37relativ schnell aus vielen Publikationen
- 0:40die Ideen rauszuziehen, die zu
- 0:41kombinieren und dann neu zu
- 0:43implementieren. Und das ändert so ein
- 0:47bisschen die Dynamik. Ein Compiler, der
- 0:49versucht jetzt da nicht unbedingt den äh
- 0:51Coding Agent da irgendwie aufs Glatteis
- 0:53zu führen. Aber so Mensch, natürlich
- 0:56machen wir das. Wie stellst du dir denn
- 0:58das Arbeiten mit KI in den nächsten,
- 1:01sagen wir zwei bis dre Jahren vor?
- 1:03Insofern sehe ich das eigentlich als
- 1:05Möglichkeit, da Sachen zu humanisieren,
- 1:10die halt momentan nicht möglich sind,
- 1:13weil es halt einfach viel zu teuer wäre,
- 1:15weil es halt einfach nicht möglich ist,
- 1:16dafür jeden so ein persönlichen Pfleger
- 1:18einzustellen, der sich um einen kümmert.
- 1:20Aber ein persönlicher Roboter, das ist
- 1:22wahrscheinlich erschwinglich. Die
- 1:24Geschichte äh wartet halt nicht auf die
- 1:28zu spät kommen.
- 1:36Was ist eigentlich das fundamentale
- 1:38Problem der ganzen KI Benchmarks? Welche
- 1:41unbekannten Durchbrüche führten uns
- 1:43überhaupt in die Era des Deep Learnings
- 1:45und der neuronalen Netze? Und wie sieht
- 1:47die Zukunft mit Voice AI und Digital
- 1:50Humans aus? Genau darüber spreche ich
- 1:52gleich mit Dr. Alexander Smola, einem
- 1:55der meist zitierten Machine Learning
- 1:56Forscher der Welt, der den kompletten
- 1:58Bogen der modernen KI von den Support
- 2:00Vector Machines über das Deep Learning
- 2:03bis zu den heutigen Sprachagenten selbst
- 2:06mitgeprägt hat. Smola wurde in
- 2:07Deutschland geboren und studierte Physik
- 2:09in München. Für seine Masterarbeit ging
- 2:11er 1995 an die legendären 18T Bellabs,
- 2:15wo Jan Lecur die Abteilung leitete und
- 2:17Wladimir Wapnik, der Erfinder der
- 2:19Support Vector Machines, sein Betreuer
- 2:21war. Promoviert hat er dann 1998 in
- 2:24Berlin bei Bernard Schillkopf, mit dem
- 2:26zusammen er Learning with Kennels
- 2:28geschrieben hat, das Standardwerk der
- 2:31Era vor dem Deep Learning. Später wurde
- 2:33er Professor an der Kanie Melon und
- 2:35Vice-präsident bei Amazon, wo er die
- 2:38gesamte KI Sparte von AWS mit aufgebaut
- 2:41hat. 2023 hatte dann Boson AI gegründet,
- 2:44dass mit seinen offenen Higgmodellen
- 2:47heute zu den führenden Adressen im
- 2:49Bereich Voice AI gehört. Und falls du
- 2:51mich noch nicht kennst, mein Name ist
- 2:52Leonard Schweding und als Inhaber der
- 2:54marktführenden KI Beratungs und
- 2:55Implementierungsagentur Everlast AI habe
- 2:57ich in den letzten Jahren nicht nur über
- 2:592100 mittelständischen Unternehmen und
- 3:01hin Champions erfolgreich beraten,
- 3:03sondern betreibe auch mehrere KI
- 3:04Softwareunternehmen wie beispielsweise
- 3:06Corporate LM. Hier bei Everlast AI
- 3:08spreche ich nun wöchentlich seit über
- 3:10zwei Jahren mit den führenden Köpfen,
- 3:11Experten, Professoren und KI
- 3:13Unternehmern zu der wichtigsten
- 3:15technologischen Revolution dieses
- 3:16Jahrhunderts mit dem Ziel, dass du als
- 3:18Zuschauer von Everlast AI der breiten
- 3:20Masse immer mindestens 2 d Jahre voraus
- 3:24bist. Wenn diese Gespräche für dich
- 3:25hilfreich sind und dich weiterbringen,
- 3:27dann ist die größte Unterstützung, wenn
- 3:29du dieses Video hier likest und deine
- 3:31Meinung in den Kommentaren teilst. Und
- 3:32nun springen wir direkt rein in das
- 3:34Gespräch mit Alex Mola. Ja, hallo Alex.
- 3:37Alex, du hast dich jetzt zuletzt mit dem
- 3:39Problem aktueller allgegenwärtigen KI
- 3:41Benchmarks auseinandergesetzt und das
- 3:43mit diesem Bild erklärt. Jemand erwähnt
- 3:45seiner KI beiläufig, dass er heute Abend
- 3:47noch die Ausrüstung für eine kleine
- 3:49Ausstellung ins Auto lädt, ohne um
- 3:51irgendetwas zu bitten. Und das eine
- 3:53Modell antwortet dann bloß mit klingt
- 3:55nach einem soliden Plan, gute Fahrt,
- 3:57also so wie es die meisten von uns
- 3:59kennen. andere Modell, aber denkt mit,
- 4:01also es gibt noch mal ungefragt eine
- 4:03komplette Packliste, damit nichts
- 4:04vergessen wird und gibt sogar den Tipp,
- 4:06das Auto in umgekehrte Aufbaureihenfolge
- 4:08zu beladen, damit vor Ort alles in der
- 4:10richtigen Reihenfolge dann auch wieder
- 4:12raus rauskommt. Kannst du dieses
- 4:14Experiment noch mal näher erläutern? Was
- 4:15hast du dort untersucht und was ist das
- 4:17Problem an den ja heute allgegenwärtigen
- 4:20KI Benchmarks, dass du herausgefunden
- 4:22hast? Ja, das war ein ziemlich
- 4:24spannendes Projekt, das eine unserer
- 4:27Praktikantinnen, die Sefar Harfi da in
- 4:30Toronto
- 4:32da bei Bosonai gemacht hat. Und zwar
- 4:35ging es uns ganz einfach darum so zu
- 4:38analysieren, was denn so ein KI System
- 4:40wirklich gut macht. Und da gibt's halt
- 4:42die ganzen Benchmarks, wo man so einem
- 4:44System eine Frage stellt und dann
- 4:45antwortet es. Und das ist ja auch
- 4:48wichtig, dass wenn man sagt, was ist
- 4:49denn die Wurzel von neun, dass es halt
- 4:51dann sagt, okay, das ist die drei oder
- 4:53wie ist das Wetter morgen, dann ist das
- 4:55ja auch ganz nützlich, wenn es einem das
- 4:56Wetter sagt oder beweise mein Theorem.
- 5:00Aber na ja, das Problem ist, dass oft da
- 5:04dem diesen Fragen noch was anderes
- 5:06dahinter liegt und na ja, das ist halt
- 5:10so, dass z.B. Wenn ich nach dem Wetter
- 5:12frage, dann ist es ja oft nicht nur aus
- 5:14zufällig so, sondern dann will ich halt
- 5:16vielleicht dann auch in die Stadt
- 5:17hinfahren und was machen und so weiter.
- 5:19Und da wäre es halt schon ganz gut, wenn
- 5:21diese Systeme genauso wie halt auch bei
- 5:23Menschen, die das ja auch machen, dass
- 5:26die Systeme dann verstehen, was denn
- 5:28wirklich die Motivation war, was dann
- 5:30wirklich noch weiter dahinter stecken
- 5:33könnte und dann eben entsprechend gute
- 5:36Antworten geben. Das erste, um das
- 5:38rauszufinden, ob das ob diese Theorie
- 5:40auch wirklich stimmt, ist mein zu
- 5:42messen, wollen das die Leute denn
- 5:44überhaupt und das sind wir eben
- 5:45hergegangen, haben, also sogenannte
- 5:47proaktive, also so Antworten, die dann
- 5:49eben noch weitere Fragen beantwortet
- 5:52haben und Systeme, die das nicht gemacht
- 5:54haben, wir haben die dann Menschen
- 5:56gezeigt und die dann gefragt, was
- 5:58gefällt euch besser? Und die haben also
- 6:00ziemlich eindeutig gesagt, dass also die
- 6:03Systeme, die dann halt wirklich das
- 6:05ganze Bild da mit in Betracht ziehen,
- 6:07dass die dann eigentlich beliebter sind
- 6:11und danach sind wir hergegangen und
- 6:13haben das dann eben bei verschiedenen
- 6:15Frontier Models dann ausprobiert. Das
- 6:17haben wir also ausprobiert bei chat GPT
- 6:19und haben wir ausprobiert bei Tropic
- 6:21Cloud und bei verschiedenen Quens und
- 6:23Deeps und so weiter und ja gut, ich kann
- 6:26d nachher noch ein bisschen erklären,
- 6:27wie wir den Benchmark gebaut haben und
- 6:29es stellt sich stellt sich halt dann
- 6:30raus, dass vor allem Chat GPT da
- 6:34besonders gut ist und das zweite, was
- 6:36ich rausgestellt hat, ist und das ist
- 6:38ein bisschen eine Vermutung von uns,
- 6:41dass vor allem die Systeme, die halt
- 6:44auch so ein aktives Chatsystem da haben,
- 6:47wo sich die Leute dann mit dem System
- 6:49unterhalten, dass die vor allem bei
- 6:52diesen Sachen gut waren, wohingegen die
- 6:53Systeme, die vor allem halt auf
- 6:55Benchmarks und so weiter ziert haben,
- 6:57die waren da nicht so gut. Das war halt
- 6:59ein ganz klares Signal, das relativ
- 7:01unabhängig von der anderen
- 7:03Leistungsfähigkeits Systeme war. Mit
- 7:05anderen Worten, die haben also ganz klar
- 7:08dann auf die ja Problemlösung der
- 7:11Benutzer optimiert. Die Frage, warum uns
- 7:13interessiert uns das bei Poson? Na ja,
- 7:15ganz einfach, weil wir halt auch Systeme
- 7:16bauen, die mit Menschen interagieren und
- 7:19drum wollen wir halt auch wissen, was
- 7:21macht denn so ein System wirklich gut
- 7:23und das erste ist, dass man eben so eine
- 7:24Hypothese aufstellt, die dann testet,
- 7:26dann müsst was andere Systeme machen und
- 7:29wenn man das dann versteht, dann kann
- 7:30man halt auch seine eigenen Systeme
- 7:32verbessern. Ja, da werden wir gleich auf
- 7:33jeden Fall auch noch mal drauf zu drauf
- 7:34zu sprechen kommen. Ich habe noch mal
- 7:35eine Frage zu der Konsequenz daraus,
- 7:38weil wenn jetzt heute fast im Wochentakt
- 7:40neue Modelle veröffentlicht werden, dann
- 7:42werden ja immer diese Benchmarklisten
- 7:44veröffentlicht und oftmals muss es dann
- 7:46fast schon so sein, dass das Modell ein
- 7:49paar Prozentpunkte besser abschneidet
- 7:51als irgendein Vorgänger oder als die
- 7:52anderen. Und das, was ihr meine ich auch
- 7:54herausgefunden habt, war, dass diese
- 7:56ganzen Benchmarks, da gibt's ja dutzend
- 7:58wenig hunderte mittlerweile davon, die
- 8:00man sich natürlich fein säuberlich dann
- 8:02irgendwie auch rauspickt. Es gibt
- 8:03natürlich so ein paar Standard
- 8:04Benchmarks, aber dass die gar nicht so
- 8:06aussagekräftig sind. Also, ich meine, du
- 8:08sagtest oder ihr habt irgendwas
- 8:09herausgefunden im Sinne von, wenn ich
- 8:12fünf Fragen beantworten kann, dann kann
- 8:13ich eh schon die ganze Benchmark und die
- 8:15sind sich eh alle im Grunde ziemlich
- 8:17ähnlich. Also, was hast du da noch mal
- 8:18herausgefunden zu der Aussagekräftigkeit
- 8:21äh die dieser ganzen Benchfunks? Da
- 8:22gibt's ein paar Sachen. Zum einen ist es
- 8:25so, dass halt wie man das auch erwarten
- 8:28würde, dass halt die Leistungsfähigkeit
- 8:31bei verschiedenen Benchmarks da ziemlich
- 8:33stark korreliert. Z.B. wenn ich da
- 8:35irgendwie fünf verschiedene
- 8:36Programmierbenchmarks habe, dann ist es
- 8:39so, dass halt ein Modell, das bei einem
- 8:41der Programmierben Benchmarks gut ist,
- 8:43typischerweise auch bei den anderen vier
- 8:45gut ist. Gleichermaßen, wenn so ein
- 8:47Modell gut ist bei Mathematik für einen
- 8:51Satz der Tests, dann ist es
- 8:52wahrscheinlich auch für die anderen
- 8:54Tests gut. Also das sieht man auch bei
- 8:56Menschen so. So z.B. wenn jemand ein
- 8:57guter Mathematiker ist und dann halt in
- 9:00ein linearen allgebräne 1 abschneidet,
- 9:03dann ist der Wahrscheinlichkeit auch bei
- 9:06Differentialgeometrie gut. Also das ist
- 9:08eigentlich was ganz was natürliches. Das
- 9:10Ganze kam dadurch raus, dass wir halt
- 9:12anfingen, ja, unsere Modelle für
- 9:14verschiedene Sachen zu testen und das
- 9:16ging dann dahin, dass wir dann halt
- 9:18Dutzende von Benchmarks hatten und wir
- 9:20haben fingen dann an halt so Systeme zu
- 9:22bauen, um dann weitere Benchmarks
- 9:24automatisch hinzuzufügen und das ging
- 9:26eigentlich ganz gut, nur irgendwann
- 9:29wurde man da ein bisschen Angst und
- 9:30Bange, weil na ja, gut, wenn man halt so
- 9:32viele Benchmarks hat, dann dauert es
- 9:35lange, die ganzen auszutesten, das da
- 9:37kostet viel Rechenzeit und na ja, gut.
- 9:40Welcher ist denn überhaupt gut? Und
- 9:41irgendwann kam dann mal in der
- 9:43Besprechung eben die Frage auf, na ja,
- 9:47wie viele braucht man denn wirklich und
- 9:49welche sind die richtigen? Und man kann
- 9:52das dann so intuitiv ein bisschen
- 9:53überlegen. Na ja, für die Sachen braucht
- 9:55man halt vielleicht ein bisschen die
- 9:57Diversität von den den Tests und so
- 9:59weiter, aber sobald man dann anfängt
- 10:01sich zu fragen, ja, welche brauchen wir
- 10:02denn wirklich? Dann ist es relativ
- 10:04einfach, da so ein mathematisches Modell
- 10:06aufzubauen und zu messen, wie stark die
- 10:09korrelieren und dann halt einfach nur
- 10:11die Benchmarks zu nehmen, die
- 10:13entsprechend unabhängig voneinander sind
- 10:15und na ja, gut, das hat sich halt dann
- 10:17rausgestellt mathematisch, dass das
- 10:18relativ schön geht und dass du halt
- 10:20ungefähr nur ein halbes Dutzend
- 10:21Benchmark brauchst, um die meisten
- 10:24Punkte dieser Information da zu
- 10:27bekommen. Und genau aus dem Grund war
- 10:29halt z.B. dies das Ergebnis da mit der
- 10:32Proaktivität ganz erstaunlich, weil das
- 10:34eben einen neuen Aspekt, eine neue
- 10:36Facette diese Messungen da gefunden hat,
- 10:40die eigentlich relativ unabhängig von
- 10:41den anderen Fähigkeiten ist. Das ist
- 10:43halt so ein bisschen und um jemand nach
- 10:45das Leben leicht zu machen.
- 10:46Ja, das Spannende an dem Beispiel ist ja
- 10:48auch, wie wie du es ja auch geschrieben
- 10:49hast, dass die Modelle das ja schon
- 10:51können. Man fragt es halt nur noch nicht
- 10:53nur noch nicht ab, obwohl man als Nutzer
- 10:55im Konsens wahrscheinlich sagen würde,
- 10:57das hilft mir mehr. Und ich habe noch
- 10:59mal trotzdem eine zweite Frage zu dem
- 11:01Resultat, auf das du gekommen bist und
- 11:02zwar das sogenannte Pokémon Theorem. So
- 11:06hast du das ganze getauft. Kannst du
- 11:07best noch mal näher erläutern, was
- 11:09hattest damit auf dich?
- 11:10Okay, das ist das ist noch meine ganz
- 11:13ganz eine andere Geschichte. Das ist das
- 11:16ist was ganz was Nettes, was da passiert
- 11:18ist. Es hat da was im mit Fairness und
- 11:19so weiter zu tun. Und vor ein paar
- 11:21Jahren war das ja auch ein ziemlich
- 11:23spannendes Thema. nämlich äh ist es ja
- 11:25auch immer noch, nämlich wenn wir so KI
- 11:27Systeme bauen,
- 11:29sind denn die Antworten, die diese
- 11:31Systeme da geben? Fair. Mit anderen
- 11:34Worten, äh ist es so, dass z.B. wenn ich
- 11:37dann eine kurze Nase habe oder eine
- 11:38lange Nase habe, das halt dann ob mir
- 11:42das System dann die ne
- 11:44Versicherungsverkauft oder nicht. Und da
- 11:47gab's ja auch genügend Beispiele in der
- 11:51Gesellschaft, in denen dann mit ja und
- 11:56also versteckt unter der mit mit allen
- 12:00möglichen Begründungen da einfach dann
- 12:02halt rassistisch Sachen durchgeführt
- 12:04wurden. Also z.B. gibt's da in Amerika
- 12:06dieses Redlining, das war vor ungefähr
- 12:08100 Jahren, wo halt einfach äh dann in
- 12:11Stadtbezirken, die hauptsächlich äh von
- 12:13schwarzem besiedelt waren, dass dieen
- 12:16halt einfach dann die Kedalien gegeben
- 12:19wurden. Und das sieht man auch eben 100
- 12:22Jahre später noch z.B. haben die immer
- 12:24noch viel mehr Blei in der Farbe in den
- 12:27ganzen Mitwohnungen 100 Jahre später.
- 12:29Also das die die Auswirkungen sind
- 12:32ziemlich katastrophal und drum hat sich
- 12:34halt auch die ganze KI Community da hat
- 12:38sich die überlegt, na ja, wie kann man
- 12:39das messen, wie kann man dahergehen und
- 12:41halt Systeme bauen, die fair sind. Das
- 12:43Problem ist,
- 12:45oft ist das halt so ein zweischneidiges
- 12:47Schwert. Mit anderen Worten, äh und da
- 12:49gab's dann ja auch viele Studien, die
- 12:50dann sagten: "Ja, dieses und jenes
- 12:52System ist unfair und dann kam wieder
- 12:54andere herer und sagten, na ja, das
- 12:55System ist doch fair." Und da gab's also
- 12:58viele dieser Diskussionen und na ja, vor
- 13:01ein paar Jahren habe ich dann eine
- 13:02Vorlesung da in Stanf gehalten und
- 13:04Fairness kam halt auch dabei und dann
- 13:06dachte man na ja gut, das kann man
- 13:07eigentlich einigermaßen einfach
- 13:08quantifizieren und ja gut, also wer
- 13:11Pokémon nicht kennt, da gibt's halt
- 13:12diese Tag ein so nach dem K und du musst
- 13:15sie alle fangen und dann dachte man ja
- 13:17gut kann ich denn all diese ganzen
- 13:19Fairnesskriterien überhaupt fangen? Kann
- 13:22ich denn für alle Kriterien fair sein?
- 13:23Und das stellt sich halt dann raus, dass
- 13:25es nicht geht. Wieso wir das jetzt da
- 13:27veröffentlicht haben, das ist eigentlich
- 13:29ganz lustig. Also mein Sohn, der ist
- 13:30jetzt im zweiten Jahr an der University
- 13:32of Washington und der meinte dann so für
- 13:35ein Kursprojekt, Papa, was soll ich denn
- 13:37machen? Sage ich, na ja, schau d mal
- 13:39dieses Thorem an. hab stand bei mir nur
- 13:41auf einer Folie ohne ordentlichen Beweis
- 13:44und so weiter und dann ist der halt
- 13:46damit wirklich hat sich da richtig tief
- 13:49reingekniet, hat noch viel weitere
- 13:51Ergebnisse dazu bewiesen und ja, da bin
- 13:54ich eigentlich ganz stolz drauf, dass es
- 13:55halt das erste äh in dem Fall dann Sohn
- 13:59Vater Paper äh da hat er ganz klar noch
- 14:03viel viel mehr dazu beigetragen, da
- 14:04kamen noch viele andere weitergegebnisse
- 14:06dazu und na ja, drum haben wir das jetzt
- 14:09eben auch zu einer Konferenz F
- 14:10eingeschickt und sagt mir kann ich auch
- 14:11mal drüber schreiben. Ja, gut.
- 14:13Jedenfalls der die Aussage dieses
- 14:16Pokémon Theorems ist halt wirklich, dass
- 14:17man da beweisen kann, dass es nicht
- 14:21möglich ist komplette Fairness zu
- 14:23bekommen. Und da haben wir das halt dann
- 14:25gezeigt, sowohl für endlich dimensionale
- 14:28einfache Kriterien als auch, wenn du
- 14:30z.B. so Fair Feature und Representation
- 14:33Learning, wenn man das macht, dass das
- 14:34halt auch nicht möglich ist und paar
- 14:35andere Sachen noch. Äh, das ist
- 14:37eigentlich ganz schön. Das erklärt halt
- 14:39auch so ein bisschen, wieso es zum einen
- 14:42diese ganze Fairnessforschung gibt, zum
- 14:44anderen, aber die Leute dann trotzdem
- 14:45sagen, ja, so ein System ist nicht fair,
- 14:47weil es eben nicht perfekte Fairness
- 14:50geben kann mathematisch.
- 14:51Ja, wirklich höchst interessant. Also du
- 14:53beschäftigst dich jetzt seit Jahrzehnten
- 14:55kann man sagen, mit KI Modellen, was sie
- 14:57können, was sie nicht können, wie wir
- 14:58sie richtig ja evaluieren können. Bevor
- 15:00wir da gleich noch tiefer reingehen auch
- 15:02in deine Vita, kannst du noch mal um das
- 15:04Thema Benchmarks abzuschließen
- 15:05erläutern, worauf ihr dann gekommen
- 15:07seid, wie es besser geht, weil ihr habt
- 15:09ja dann tatsächlich eine eine eigene
- 15:10Benchmark noch mal entwickelt, einen
- 15:12eigenen Ansatz, wie man das alles besser
- 15:15messen könnte, diese KI Modelle. Kannst
- 15:17du das noch mal näher erläutern, worauf
- 15:19ihr dabei gekommen seid? Die Sache ist
- 15:21die, also erstens mal Benchmarks, es
- 15:23wird nie genug geben. Das ist das, das
- 15:26ist das erste. Zum zweiten, es gibt
- 15:28immer zu viele. Äh, okay, das klingt
- 15:31jetzt ziemlich paradox, ist es ja auch.
- 15:33Und zwar liegt's zum einen daran, dass
- 15:35natürlich die Fähigkeit
- 15:38der KI Systeme immer besser wird. Also
- 15:41Sachen, die vor vielleicht einem
- 15:43Jahrzehnt noch äh ganz schwierig gewesen
- 15:46wären, nämlich äh finde eine Katze in
- 15:48dem Bild, die sind mittlerweile trivial
- 15:50und mittlerweile müssen halt die
- 15:52Anforderungen, die man an so ein System
- 15:54stellt, auch deutlich höher werden. Z.B.
- 15:56na ja, was macht denn die Katze? Da
- 15:58fängt die gerade eine Maus und finde die
- 16:01Katze ist halt kein schwieriges Problem
- 16:03mehr. Für dieses spezielle Thema haben
- 16:05wir halt dann eben auch eben
- 16:07entsprechend den Benchmark entwickelt,
- 16:09weil den braucht man ja auch zum Teil,
- 16:11um überhaupt messen zu können,
- 16:13funktioniert ein System besser als das
- 16:14andere? Und was wir eben gemacht hab
- 16:17haben ist ähm da Unterhaltungen zwischen
- 16:21Modellen und dem Benutzer da eben
- 16:23modelliert, dann bis zu einem bestimmten
- 16:25Punkt angeführt, an dem dann die wir
- 16:28dann verschiedene Modelle evaluiert
- 16:30haben, wie Proactive, also wie halt wie
- 16:33voraussehen, die dann das Ganze dann
- 16:36weiterführen könnten und dann haben wir
- 16:38das Ganze wieder sowohl von Menschen als
- 16:41auch von Systemen evaluieren lassen. Das
- 16:43klingt jetzt ein bisschen geschummelt,
- 16:44dass man daher geht ein System so ein KI
- 16:47System sowas vorhersagen lässt und
- 16:49danach auch wieder bewerten. Aber AI ist
- 16:51a Judge, also so KI als dann aus
- 16:55Bewerter, das ist eigentlich ein relativ
- 16:58typisches Verfahren, um herzugehen und
- 17:00dann in großen Mengen solche Sachen
- 17:02auswerten zu können. Das funktioniert,
- 17:05wenn man dann vorhergeht und kalibriert,
- 17:06dass die KI dann auch das sagt, was der
- 17:09Mensch auch sagen würde. Also da braucht
- 17:12man eben für diese ganzen Tests zum
- 17:15einen ein System, das einigermaßen gut
- 17:17ist. Und das Gute ist, dass es viel
- 17:19einfacher ist zu kritisieren als zu
- 17:20bauen. Das weiß jeder, wenn er sich
- 17:22irgendwann die Bundesliga anschaut und
- 17:24dann sagt, na ja, der und jeniger, jeder
- 17:26Spieler, ja, den hätten sie jetzt nicht
- 17:28auswechseln sollen und so weiter. Da
- 17:30gibt's so viele Leute, die gute Trainer
- 17:32werden, aber das dann selber zu machen,
- 17:34das ist ein bisschen schwieriger. Und
- 17:37das ist halt eine Sache, die halt nicht
- 17:38nur so
- 17:40mein halt so als Mensch macht, sondern
- 17:42das geht den KI Systeme genau gleich so,
- 17:44denn denen fällt's viel einfacher zu
- 17:47kritisieren als zu machen und das ist in
- 17:49dem Fall dann Vorteil, wenn man dann
- 17:51halt dadurch durch so ein Kritiker auch
- 17:54bessere Systeme bauen kann, ohne dass so
- 17:57ein besseres System schon existieren
- 17:58muss.
- 17:59Ja, sehr spannend. Ja. Das bietet sich
- 18:01ja häufig auch heute in KI Us Cases. Wir
- 18:03haben auch einige davon an, dass man
- 18:05halt auf verschiedene LMs hat, die sich
- 18:07gegenseitig dann wiederum kritisieren,
- 18:09wenn z.B. um bei Datenbankentscheidung
- 18:12nutzen wir es z.B. teilweise, ne, dass
- 18:13man Codex Cloud Code gegeneinander
- 18:15argumentieren lässt und dann so ein
- 18:17Model Councel quasi bildet. Ähm damit
- 18:20die Zuschauer jetzt auch noch mal alle
- 18:22deinen Werdegang verstehen und da das
- 18:24worüber wir dann auch mit Boson und
- 18:25woran jetzt gerade heute woran du
- 18:27arbeitest, dass man das noch mal
- 18:28wirklich versteht. Du hast ja in den
- 18:3090ern schon bei AT&T Bellabs gelernt
- 18:33unter Jan Lec und dein Masterbetreuer
- 18:36war Wladimir Wappnik, der Erfinder der
- 18:39Support Vector Machines. Du hast
- 18:40ursprünglich jedoch Physik gelernt, hast
- 18:43in Physik studiert. Kannst du doch mal
- 18:45erläutern, wie kam es überhaupt dazu,
- 18:47dass du in den 90ern schon in diesem
- 18:48Kreis gelandet bist? Ja, okay. Das ist
- 18:51eine lustige Geschichte. So, ich wollte
- 18:54irgendwann mal so ein ganz theoretischer
- 18:56Physiker werden. Also so nach dem Motto,
- 18:59was kann man denn machen, dass über das
- 19:02Standardmodell hinausgeht? Also Standard
- 19:04Modell ist so ein Modell, das im
- 19:05Wesentlichen in den 60ern einige
- 19:08Nobelpreisträger da gebaut haben und das
- 19:10halt mittlerweile das dass sie das halt
- 19:12unglaublich dauerhaft ist und sogar also
- 19:15bis ja 60, 70 Jahre später immer noch
- 19:19die meisten der Voraussagen trifft.
- 19:22Na ja, das Problem ist dabei, dass man
- 19:24halt um
- 19:26über solche Modelle hinauszugehen, dass
- 19:28man unglaublich große Energieskalen
- 19:30braucht. Drum gibt's z.B. das Zern. Drum
- 19:32gibt's diese ganzen anderen
- 19:33Teilchenbeschleuniger
- 19:35und da gibt's einen ziemlich großen eine
- 19:39ziemlich große Spannung zwischen dem,
- 19:41was die Theorie vorhersagen kann und was
- 19:44man experimentell messen kann und das
- 19:46kann halt ein halbes Jahr 100 kann
- 19:48ganzes Jahrhundert sein. Und ne,
- 19:51irgendwann dachte ich mir dann so, will
- 19:53ich denn der Theoretiker sein, der
- 19:55vielleicht wunderbare Mathematik da
- 19:57entwickelt und bei dem dann vielleicht
- 20:01ein halbes Jahrhundert, vielleicht ein
- 20:02Jahrhundert später dann die Leute
- 20:03rausfinden, ja, also der Alex, der hat
- 20:05das ganze schön mathematisch
- 20:07ausgerichtet, aber die Realität ist halt
- 20:09nicht so und das Risiko war es mir nicht
- 20:12wert. Und na ja, das kam dann, also
- 20:16irgendwann halt in so einer
- 20:17Theorievorlesung äh zum wirklich der
- 20:22Punkt, wo da mussten wir irgendwann so
- 20:23eine Energieskala ausrechnen für in der
- 20:25sich dann die Elektroschwache und eine
- 20:27an eine andere äh Kraft da ungefähr die
- 20:30gleiche Skala haben. Und da kam halt
- 20:32eine Menge von Energie raus, die halt
- 20:34überhaupt keinen Sinn machte. Da
- 20:35bräuchte man Teilchenbeschleuniger, der
- 20:37so groß ist wie das Sonnensystem. mir so
- 20:40überlegt, na ja, ich glaube nicht, dass
- 20:43das zu meiner Lebenszeit je passieren
- 20:45wird. Sollte ich mir vielleicht was
- 20:47anderes anschauen.
- 20:49Ein Freund von mir äh der Bernard
- 20:51Schellkopf, den hatte ich da auf einem
- 20:53äh Sprachkurz in Italien kennengelernt,
- 20:55der war da gerade bei AT&T und der
- 20:58meinte dann: "Ja, du Alex, das ist ein
- 21:01ziemlich tolles Thema, kommst du mal bei
- 21:02uns vorbei?" Na ja, gut, das war ich
- 21:04dann sowieso gerade im Überlegen, was
- 21:06ich denn machen soll und ja, dann bin
- 21:07ich eben dadurch zu ATNC gegangen. Zum
- 21:09Kontext, der Bernhard, der ist
- 21:11mittlerweile Max Plan Direktor in
- 21:13Tübingen und wahrscheinlich einer der
- 21:15besten Machine Leer in Deutschland. Die
- 21:17Sache jedenfalls war dann die ich ging
- 21:18dann zu ATNT fing dann bei Wniknck an
- 21:21und das war eine ziemlich lustige
- 21:23Spannung zwischen dem Jan und dem
- 21:24Vladimir. Der Wladimir war sehr
- 21:26theoretisch konvexe Optimierung
- 21:28Statistik und statistische Lerntheorie
- 21:31und der Jan hat halt damals auch schon
- 21:33neuronale Netze gemacht und so für die
- 21:35nächsten ungefähr so 15 Jahre oder so
- 21:38waren dann die Supportvektoren und Kerne
- 21:40und so weiter halt auch deutlich besser
- 21:43als die neuronalen Netze. Es lag vor
- 21:46allem an der Hardware und es lag halt
- 21:49daran, dass wenn man wenige Daten hat
- 21:53und man halt relativ viel Hauptspeicher
- 21:56im Vergleich zur Rechenleistung hat,
- 21:59dass dann so Methoden, die halt viel
- 22:01Speicher und nicht so viel
- 22:02Rechenrechnung brauchen, dass die dann
- 22:04besonders gut sind.
- 22:06Irgendwann hat sich dann das ganze hat
- 22:09sich die Kurve dann verändert äh eben
- 22:11durch dann schnellere CPUs und dann
- 22:14nachher auch GPUs. Also das ist ja genau
- 22:16das, was dann Alex Net und dann äh die
- 22:19Nvidia GPUs und so weiter, was dann das
- 22:21alles dann gemacht hat. Das war dann
- 22:24wirklich der Punkt an dem sich dann das
- 22:27ganze um an dem das Ganze umkippte. Und
- 22:30man sieht das halt auch so, dass die
- 22:33Rechenleistung äh ja ungefähr so um vier
- 22:37Größenordnungen je Jahrzehnt dann
- 22:39anwächst. möglicherweise dieses
- 22:41Jahrzehnt haben wir dann mehr als vier.
- 22:43Äh von der von der Speicherkapazität
- 22:46her sind es vielleicht so zwei bis drei
- 22:48Größenordnungen.
- 22:50Und wenn man sich das so überlegt, dann
- 22:51ist es ganz klar, dass dadurch dann
- 22:53Algorithmen, die besonders viel
- 22:56Rechenleistung verbrauchen und nicht so
- 22:58viel Speicher brauchen, dann besonders
- 23:00äh nützlich sind. Und dadurch na ja, das
- 23:04war natürlich dann auch irgendwie eine
- 23:06konvergente Evolution. Dadurch, dass
- 23:08halt das gut funktionierte, haben die
- 23:10Leute dann mehr GPUs dafür gebaut und so
- 23:13weiter und dann haben die wieder
- 23:14Algorithmus entwickelt, aber dadurch kam
- 23:17es also dann halt wirklich zu soalen
- 23:19Netzen und so in den letzten ja 15
- 23:21Jahren oder so äh 10 bis 15 Jahren habe
- 23:25ich halt dann auch nur letzte gemacht
- 23:27und ich meine das ist halt eigentlich
- 23:29für sehr sehr große Systeme s auch der
- 23:31richtige Ansatz. Mathematik braucht man
- 23:33immer noch, aber die Werkzeuge sind halt
- 23:36mittlerweile ganz anders.
- 23:37ist ganz spannend.
- 23:38Die meisten wissen nicht, dass hinter
- 23:39all diesen Videos hier ein großartiges
- 23:42Rechercheteam von Everlast steckt, das
- 23:44jeden Tag die KI News, Updates und
- 23:47Trends herausrecherchiert, die wirklich
- 23:49relevant für alle sind, die von all
- 23:51diesen technologischen Entwicklungen
- 23:53profitieren wollen. Da jedoch nicht
- 23:54jeder diese Möglichkeit hat und es im
- 23:56Tagesgeschäft oft schwer ist, den
- 23:58Überblick über alles zu behalten, haben
- 23:59wir mit KI Bubble den mittlerweile
- 24:01Nummer 1 KI Newsletter im gesamten
- 24:04Dachraum aufgebaut. Du erhältst dort zu
- 24:06100% kostenfrei jeden Tag die
- 24:08wichtigsten Updates aus den Bereichen
- 24:10KI, Robotik, Technologie und Zukunft,
- 24:12die bereits heute darüber entscheiden,
- 24:14was morgen Realität ist und das so
- 24:16kompakt aufbereitet, dass du jeden Tag
- 24:18in wenigen Minuten auf dem neuesten
- 24:20Stand bist, ohne selbst recherchieren zu
- 24:23müssen. Trag dich also jetzt kostenfrei
- 24:25unter kibubble.news für deinen täglichen
- 24:28KI Newsletter direkt in dein
- 24:29E-Mailpostfach ein. Den Link findest du
- 24:31ebenfalls in der Videobeschreibung und
- 24:32damit zurück ins Video. Ja, also das ist
- 24:34ja auch höchst interessant jetzt noch
- 24:35mal ein bisschen näher darüber zu
- 24:36sprechen, wie wir überhaupt
- 24:37dahingekommen sind und wie es natürlich
- 24:39auch weitergeht, aber du hast ja du hast
- 24:41Bernard Schildkopf angesprochen 2002
- 24:43hast du gemeinsam mit ihm schon ein Buch
- 24:44geschrieben, Learning with Kernels als
- 24:46Standardwerk und das ist ja vielen heute
- 24:48gar nicht mehr so bewusst, also dass es
- 24:49überhaupt eine Zeit vor dem Deep
- 24:51Learning gab und vor neuronalen Netzen
- 24:54gab. Also, kannst du das noch mal
- 24:56einfach erklären? Was sind überhaupt
- 24:57Kelern Methoden und woran unterscheiden
- 24:59sie sich auch von dem Deep Learning, das
- 25:01wir heute kennen? Da gibt's eigentlich
- 25:03ein paar Sachen, also von der Numerik
- 25:07und so weiter. Das habe ich schon
- 25:08bisschen an angebracht, aber was halt
- 25:11was halt so ein Kernel ist und so
- 25:13mittlerweile gibt's ja diese gibt's ja
- 25:15sogar eine Konferenz für das
- 25:17Darstellungslernen, also die
- 25:18International Conference on Learning
- 25:20Representations und so eine Darstellung
- 25:23ist halt im Wesentlichen so eine
- 25:26Vektoreinbeckerung. Wenn ich halt ein
- 25:27Bild von der Katze habe, dann kann ich
- 25:29hergehen äh und das halt normal in
- 25:32Pixeln darstellen. Ich kann aber auch
- 25:33hergehen und sagen, wie versteht denn
- 25:37das System das so, dass z.B. die die
- 25:39Bilder von zwei Katzen ziemlich ähnliche
- 25:42Vektoren sind und das Bild dann von dem
- 25:45Hund vielleicht hier ist und das Bild
- 25:46von ich weiß nicht Laptop ungefähr dort
- 25:50drüben sitzt, aber jedenfalls halt so,
- 25:52dass dann die Einbettungen, die in den
- 25:55Vektoren, dass die halt dann so ähnlich
- 25:58sind, je nachdem ja nach der
- 26:01semantischen ähnlichkeit. Äh und das ist
- 26:04eine der großen Stärken von dem
- 26:07neuronalennetz.
- 26:09zumindest dann nachher die LMS und so
- 26:11weiter kam noch einiges anderes dazu.
- 26:13Bei den ganzen Kernmethoden
- 26:16äh war der Trick dann der, dass eben
- 26:18statt da das Ganze zu lernen, dass man
- 26:20herging und dass sich das halt dann halt
- 26:22auch durch na gutes Ingenieurs und
- 26:24Statistikwissen sich so eine Darstellung
- 26:27dann ausgedacht hat und dann gesagt hat,
- 26:29na ja, gut, die Darstellung ist
- 26:30wahrscheinlich einigermaßen gut und
- 26:31damit können wir dann die ganzen anderen
- 26:33Sachen machen. Also der große
- 26:35Unterschied ist eben der, dass bei den
- 26:36Kernmethoden wir dann hergegangen sind,
- 26:39uns einfach dann durch Ingenieursalent
- 26:43die Darstellungen
- 26:45ausfantasiert haben. Und bei den
- 26:47neuralen Netzen, da lernt man die halt
- 26:49dann auch. Wenn man das lernen kann,
- 26:50dann kann man halt noch viele andere
- 26:52Sachen mehr damit machen. Und das war
- 26:54eigentlich so der Beginn dieser ganzen
- 26:56Kaskade. Das war ungefähr so um die, na
- 26:58ja, Resnet und so weiter, diese ganzen
- 27:01Bilddeinwettungs
- 27:03äh Algorithmen, da fingen dann die
- 27:06Neuronalnetze an, dann wirklich was ganz
- 27:09was Neues zu bauen. Und die Einbetungen
- 27:11gibt's auch immer noch, also z.B. die
- 27:12ganzen Vector suchen, also RAG,
- 27:15Retriever, Augmented Generation und so
- 27:17weiter, die basieren immer noch alle auf
- 27:19diesen Einbettungen.
- 27:21Also, das ist so ungefähr der Punkt, wo
- 27:23sich die dann unterschieden haben. Das
- 27:25zweite ist, dass halt bei den Kernen das
- 27:27ganze mathematisch schön und klar ist.
- 27:30Da hat man dann konvexe Optimierung,
- 27:32Optimalität und so weiter. Und man kann
- 27:34sich das ungefähr so vorstellen, wie
- 27:36halt dieses äh ich weiß nicht, ob es in
- 27:38Deutschen so gibt, searching under the
- 27:40Lantern Pole, also unter der Laterne zu
- 27:42suchen. Der Witz ist halt der von einem
- 27:45Betrunkenen, der seinen Schlüssel
- 27:47verliert und dann fängt er an den
- 27:48Schlüssel zu suchen und dann, na ja,
- 27:51sucht er halt was unter der Laterne,
- 27:52dann kommt sein Freund daher und fragt:
- 27:53"Ja, was machst du denn?" "Ja, ich habe
- 27:56ein Schlüssel verloren." Sag, "Hast du
- 27:58den Schlüssel verloren?" Ja, da drüben.
- 27:59Dann sagt er, warum suchst du denn unter
- 28:01der Lanterne? Und dann sagt er halt, na
- 28:03ja, da drüben ist es dunkel, da finde
- 28:04ich ih sowieso nicht, aber hier ist
- 28:05wenigstens Licht. Und so ein bisschen
- 28:09das ist bei den Kernmethoden halt und
- 28:12viel auch bei der Statistik passiert,
- 28:13dass man halt versucht hatte dann die
- 28:18inexakten Fragen perfekt zu beantworten.
- 28:21Und was mittlerweile beim neuronalen
- 28:23Netzen passiert ist, dass man versucht
- 28:25die viel exakt Fragen nähersweise zu
- 28:29beantworten. Und das ist halt
- 28:32mathematisch nicht so schön, aber es
- 28:34gibt besser bessere Antworten. Na ja,
- 28:36gut. Das ist so ein bisschen jetzt
- 28:37philosophisch mal wieder geworden, aber
- 28:39so kann man sich das ein bisschen
- 28:41vorstellen, was so der Unterschied ist
- 28:42so ein zwischen der Statistik zuvor und
- 28:45was halt mittlerweile passiert.
- 28:46Ja. Und auf dem Weg dorthin, also zu dem
- 28:49was jetzt heute passiert, da gab's ja
- 28:50dann durchaus auch ein paar Probleme,
- 28:53auch technische Probleme. Du hast 2010
- 28:55den Parameter Server erfunden vor diesem
- 28:59Hintergrund. Was war das Problem? Also
- 29:01was was wozu brauchte man diese
- 29:03Erfindung und warum ist es auch so
- 29:05wesentlich gewesen für alles was dann
- 29:07danach kam?
- 29:08Den gibt's ja auch immer noch. Der heißt
- 29:10mittlerweile halt nur ganz anders und
- 29:12mittlerweile gibt's den sogar auch in
- 29:14Hardware, wenn man sich ein
- 29:16Networkswitch von Nvidia kauft. Also
- 29:19hier war das Problem, dass äh wir so
- 29:222010 hatten. Ich war damals bei Yahoo
- 29:25und na ja, das Problem war, dass die
- 29:28halt viele viele Textdaten hatten und
- 29:32die kein ordentliches System hatten, um
- 29:33so ein bisschen die Kategorien von
- 29:35diesen Textdaten da zu
- 29:39äh zu analysieren. Und da gab's ein, da
- 29:43gab's halt ein mathematisches Modell,
- 29:45das nannte sich Topic Models, also so
- 29:47Themenmodelle, wo man dann sagt, okay,
- 29:49dieser Text, der hat diese und jene
- 29:50Themen. Und man will halt dann zum einen
- 29:52die Themen finden und zum anderen halt
- 29:54für die ganzen Dokumente danach
- 29:56rausfinden, was die Themen in diesen
- 29:58Dokumenten sind. Ja, gut. Und da gab's
- 30:01ein paar schöne Papers von Markley, also
- 30:04David Bly, Andrew Ingen, Mike Jordan und
- 30:06so weiter, die das halt auch dann auf
- 30:08kleinen Systeme da bewiesen hatten. Also
- 30:10klein bei bedeutet dann vielleicht so 10
- 30:13000 100.000 1000 Dokumente und na ja Jah
- 30:16Y Jahur hatte halt dann damals viele
- 30:19Millionen von Benutzern und ich wollte
- 30:22das halt laufen lassen und da gab es
- 30:24einfach nichts und habe ich so ein
- 30:27bisschen überlegt, wie man das bauen
- 30:28kann und man muss halt sich überlegen
- 30:302010, da gab's noch keine GPUs so
- 30:32ordentlich äh die man da so verwendet
- 30:34hat und die Daten waren halt viel zu
- 30:37groß, um das Ganze in einen Rechner da
- 30:40rein passen lassen zu können. Ich meine,
- 30:43das Problem gibt's jetzt auch mit den ja
- 30:45milliarden großen äh Parametermodellen
- 30:48da von KI, aber wir hatten damals das
- 30:51Problem eben auch schon, dass wir halt
- 30:52dann da viele Milliarden von Parametern
- 30:55hatten, nur war der Speicher noch
- 30:56kleiner. Und dann hatte ich mir da so
- 30:59eine Vorlesung eigentlich von dem äh Jim
- 31:02Corose angehört über Blackboard Modelle.
- 31:05Das waren KI Modelle, wo halt dann die
- 31:07einzelnen KI Systeme dann auf einem auf
- 31:09eine Tafel schreiben und dann das andere
- 31:11Modell das wieder von der Tafel abliest
- 31:13und d dachte man ja vielleicht können
- 31:15wir so ein ähnliches Modell da halt auch
- 31:17zum Trainieren verwenden und nur dass
- 31:19halt die einzelnen Tafeln, weil das so
- 31:21eine große Tafel gebräucht hätte, haben
- 31:23wir die in einzelne kleine äh Speicher
- 31:27Täfelchen sozusagen aufgebrochen,
- 31:29nämlich einzelne Rechner, die dann ein
- 31:32Teil des Gesamtbildes hatten und dann
- 31:35haben die eine zweite Gruppe von
- 31:37Arbeitern, die eben dann die Daten
- 31:39verarbeitet hat, die haben dann eben
- 31:40wieder die Daten an diese ja Parameter
- 31:43Servers, also die die diese die
- 31:45Computer, die diese einzelnen Teile der
- 31:47Daten da hatten, da drauf geschrieben
- 31:49und dann wieder abgelesen. Man kann sich
- 31:51halt das so vorstellen wie so ein
- 31:52bipartit Graf. Also hat man zum einen
- 31:54die Server, dann hat man unten die
- 31:55Arbeiter und die unterhalten sich alle
- 31:57mit allen und auf die Art und Weise
- 32:00konnten halt dann über 1000 Rechner was
- 32:04machen, was ansonsten auf den einen,
- 32:06zwei Rechnern überhaupt nicht möglich
- 32:07gewesen wäre, weil es einfach nicht gen
- 32:09Speicher gab. Ja, gut, wenn man sich das
- 32:11jetzt überlegt, das ist ja auch wieder
- 32:13das Problem, was man ja mittlerweile bei
- 32:15dem verteilten Training und so weiter
- 32:17hat, wenn man also so ganz große
- 32:20Sprachmodelle baut, da passen die auch
- 32:22nicht mehr in den Speicher von der
- 32:23einzelnen Grafikkarte rein. Die passen
- 32:26auch nicht mehr in den Speicher von, na
- 32:28ja, acht Grafikkarten, also GPUs für
- 32:30einen Rechner rein oder auch nicht mehr
- 32:33für so ein GP äh 72 NVL, also selbst da
- 32:37passen die auch nicht mehr rein. da muss
- 32:39man dann trotzdem eben wieder hergehen
- 32:41und die Modelle entsprechend aufteilen,
- 32:44die dann und die dann über ein System
- 32:47koordinieren. Also so vom Prinzip her
- 32:51ist das noch gleich geblieben. Was dann
- 32:54vor ein paar Jahren gemacht hat, ist zu
- 32:55sagen, na ja, gut, diese Primar Server,
- 32:58also da, wo die Daten reingeschrieben
- 33:00werden, da gehen ja gehen die Daten
- 33:02hoch, da wird dann was addiert und dann
- 33:04die Summe wieder wieder zurückgeschickt.
- 33:06Und das kann mir eigentlich dann genau
- 33:07schon in den Network Switch, also da so
- 33:10wo die ganzen Computer miteinander
- 33:12verkabelt sind, damit einbauen. Und dann
- 33:15mittlerweile gibt's eben da auch Sharp,
- 33:17das ist Nvidia Infinity Band Melanox,
- 33:20also für die Quantum 2 Switches. Und
- 33:23dann da weiter kann man eben diese
- 33:25ganzen Rechnungen, die wir damals dann
- 33:28auf einem PC gemacht haben, sind die
- 33:31schon im Netzwerk drin und auf die Art
- 33:33und Weise spart man sich halt den
- 33:34Rechner noch auf der anderen Seite. Äh,
- 33:36das war eigentlich ganz nett zu sehen,
- 33:38wie das Ganze dann wie es der Kreis da
- 33:40so schließt. Die Inspiration war
- 33:43irgendwann mal vor durch KI von der
- 33:45Vorlesung von jemand, der halt dann
- 33:47davon geredet hat, da haben wir was
- 33:48gebaut und zum Schluss verwendet der die
- 33:51KI jetzt wieder genau diese Modelle,
- 33:53aber mittlerweile sind diese Systeme
- 33:55halt deutlich differenzierter wie dann
- 33:58was aufgeteilt wird. Das ist ja ziemlich
- 34:01spannend.
- 34:02Ja, sehr bemerkenswert. Da hast du auch
- 34:03gleich einige Fragen mit beantwortet.
- 34:05Das hätte mich nämlich auch
- 34:06interessiert, wie wie das heute
- 34:07funktioniert. Aber lass uns gern von
- 34:09dort aus dann noch mal die Brücke
- 34:11schlagen zu dem, wie es dann weiter ging
- 34:13bei dir in deinem Werdegang. Du wurdest
- 34:15ja dann entdeckt äh wenn man so will von
- 34:18Google später dann auch von Amazon was
- 34:20Vice Präsident für die gesamte Machine
- 34:22Learning
- 34:23spart, hast du es mit aufgebaut. Wie kam
- 34:26es dazu und woran hast du dort in dieser
- 34:28nächsten Phase konkret gearbeitet? Also
- 34:30die Sache war ja die, ich war ja bei
- 34:31Jahu, wir haben da eben so Systeme und
- 34:33so weiter gebaut und irgendwann hat dann
- 34:36halt Jahus [schnauben]
- 34:38für Führerschaft da ein paar ziemlich
- 34:41katastrophale Entscheidungen getroffen
- 34:43und dann sind denen die ganzen Forscher
- 34:45weggelaufen. Ich hatte gleichzeitig halt
- 34:47auch schon ein Angebot von der Kigemon
- 34:50University dort als Professor zu lieren.
- 34:52Das habe ich dann angenommen, das war
- 34:54dann schon vorher, aber meine ganzen
- 34:56Freunde, die ich halt da bei Yahoo
- 34:59gemacht hatte, waren halt dann weg. Die
- 35:01meisten sind halt zu Google gegangen und
- 35:02da dachte ich mir, ja, gut, ich brauche
- 35:04auch weiterhin noch Partner in
- 35:06Industrie, um sicherzustellen, dass halt
- 35:08meine Forschung entsprechend halt auch
- 35:11dann auf guten Grund und Boden sitzt.
- 35:15Und drum bin ich dann eben mit denen
- 35:17auch mit zu Google gegangen und dann war
- 35:19ich dort also für ungefähr so drei Jahre
- 35:23erstmal für neun Monate Vollzeit und
- 35:25dann nachher nachdem ich Professor wurde
- 35:28äh Teilzeit ging ich jeweils im Sommer
- 35:29hin und ansonsten während des Semesters
- 35:32bin ich halt dann ab und zu mal für eine
- 35:34Woche nach Mountainv geflogen, wenn es
- 35:36mal die Vorlesungen erlaubten. Und na
- 35:38ja, das war eigentlich eine ziemlich
- 35:40spannende Zeit. Das einzige war, dass
- 35:42wir dann irgendwann mal beschlossen
- 35:43haben, ja, eigentlich könnten wir auch
- 35:45ein Startup gründen. Das haben wir dann
- 35:47gemacht. Das wurde dann auch von der
- 35:49Firma gekauft. Na ja, das der Aufkauf
- 35:52war vielleicht nicht ideal. Ähm
- 35:57egal. Jedenfalls war dann die Überlegung
- 35:59so, was mache ich denn jetzt? Ähm und na
- 36:03ja, gut, meine Familie wollte unbedingt
- 36:05wieder zurück in die Bayarea. Ähm, denen
- 36:08hat einfach Kalifornien viel besser als
- 36:10Pittsburg gefallen. Und dann haben wir
- 36:12gedacht, okay, äh mal schauen, was
- 36:15könnte ich denn sonst machen. Habe ich
- 36:17umgeschaut und dachte mir, ja, bei
- 36:19Amazon könnte ich da wahrscheinlich ähm
- 36:22den meisten Unterschied ausmachen.
- 36:25und habe mich dann dopporben.
- 36:27Fing dann bei AWS an, Amazon Webservices
- 36:30und habe dann halt auch mitgeholfen, die
- 36:34KI bei AWS aufzubauen. Das ging auch
- 36:36ganz gut. hatte dann ungefähr eine
- 36:38Gruppe von so 140 Leuten ähm in
- 36:44von Shanghai. Da haben wir das AWS Labor
- 36:47dort aufgebaut bis zu Tübingen. Äh da
- 36:50hatten wir einige Scholars äh New York,
- 36:53Seattle und dann Hauptsichts der Gruppe
- 36:56war in Palo
- 36:58und na ja, da haben wir auch viele
- 36:59schöne Sachen gemacht. äh angefangen vom
- 37:02ATML, also Autoglonen mittlerweile. Das
- 37:05TFN hat das jetzt dann endlich doch
- 37:08überholt und T PFN, also das ist der
- 37:10Frankutter und Co. Mittlerweile ist sein
- 37:13Startup von SP aufgekauft worden, aber
- 37:15jedenfalls also automatisches
- 37:17Maschinenle haben wir gemacht. Zum
- 37:19zweiten haben wir ziemlich viel Zeit
- 37:21investiert auch darin, um die ganzen
- 37:23Leute bei Amazon in Machine learning zu
- 37:26trainieren. Also, wir haben es dann
- 37:28ungefähr geschafft so 25 bis 30.000 1000
- 37:32Ingenieure jährlich in Machine Learning
- 37:34zu trainieren.
- 37:37Noch mal eine andere Geschichte, wie wir
- 37:38das angestellt haben. Die kurze Antwort
- 37:40ist einfach, man muss schauen, dass die
- 37:43Probleme einfach genug sind, dass die
- 37:46Werkzeuge mächtig genug sind und dass
- 37:48man das Ganze in kurz genuge Zeit
- 37:50schafft. Und na ja, gut, wir haben
- 37:53diesbezülich dann auch ein Buch
- 37:54geschrieben, das Dive into Deep Learning
- 37:56und na ja, gut, natürlich haben wir auch
- 37:58gute Forschung angestellt, also von LMS
- 38:01bis zu Computer Vision bis zu Systemen
- 38:04und so weiter.
- 38:06Ja, das war eigentlich eine ganz
- 38:07entspannende Zeit
- 38:10und ja, gut, dann irgendwann so 2023
- 38:14haben wir dann beschlossen, ein Startup
- 38:16anzufangen. Das ist dann B AI. Bevor wir
- 38:18da reinspringen, noch mal zum Dive into
- 38:20Deep Learning, weil das war jetzt nicht
- 38:22nur ein Amazon Projekt, also ganz im
- 38:24Gegenteil, also ist ja mittlerweile auch
- 38:25zum Standardwerk geworden über 175
- 38:28Universitäten lehren mit diesem Projekt.
- 38:31Du hast es komplett offen geteilt, also
- 38:33vielleicht kannst du das noch mal näher
- 38:34leutern. Was war überhaupt der
- 38:35Hintergrund und der der Antrieb auch?
- 38:37Also dieses Wissen so offen zu teilen
- 38:40mit allen? Das ganze fing damit an, wir
- 38:42hatten damals so ein Deep learning
- 38:43Framework, nennt es sich MXnet und wir
- 38:47hab haben wir irgendwie uns gedacht,
- 38:48also die ganze Dokumentation
- 38:51von MXNet war jetzt nicht so großartig.
- 38:54Da schreiben wir ein paar Tutorials und
- 38:56das Ganze hat dann angefangen so ein
- 38:59bisschen äh selbständig äh dann beliebt
- 39:02zu werden und na ja, gut, dann irgendwie
- 39:04so ein paar Jahre später waren das dann
- 39:07also letztendlich über 1000 Seiten. Na
- 39:10ja, gut, die Sache ist die, wieso haben
- 39:12wir das für alle veröffentlich gemacht?
- 39:14Na ja, gut, das ist zum Teil auch
- 39:16einfach, wo ich finde, dass es wichtig
- 39:18ist, wieder an die ganze Community da
- 39:21wieder zurück zu geben. Also, ich hatte
- 39:23ja das Glück dann bei einem sehr sehr
- 39:25guten äh, also Diplomvater dann
- 39:29anzufangen und hatte auch das Glück mit
- 39:32guten Leuten bei der Promotion und so
- 39:34weiter zusammenzuarbeiten und habe also
- 39:36hatte eigentlich immer Glück, dass die
- 39:39Leute ganz offen mit mir das Wissen
- 39:41geteilt haben und ich hatte halt auch
- 39:43das Glück, dass ich halt in einem Land
- 39:45geboren wurde und danach in lang in Land
- 39:47ging, in dem solche Sachen einfach
- 39:49möglich waren. Das Problem ist, nicht
- 39:51jeder hat so viel Glück.
- 39:54Das bedeutet aber nicht, dass Leute in
- 39:55anderen Ländern nicht genauso schlau
- 39:57sind. Und das war halt auch das Ziel,
- 39:59dann dieses Wissen so zu teilen und so
- 40:03dann allen zugänglich zu machen, dass es
- 40:04denen halt möglich ist, das relativ
- 40:06einfach selbst zu lernen. Es wurden dann
- 40:09letztendlich ungefähr so 500, an denen
- 40:12das gelehrt wurde und das wird immer
- 40:14noch gelehrt. Ähm, klein kleiner
- 40:17Kommentar hier am Rande. Ähm, na ja,
- 40:20nachdem wir dann Busung gegründet haben,
- 40:22hatten wir nicht viel Zeit dazu, das
- 40:24Ganze ein bisschen weiter zu entwickeln,
- 40:26aber jetzt mit Cloud und so weit und
- 40:29Codex geht das eigentlich wieder. Und
- 40:31ich habe da gerade so ein kleines äh
- 40:34Wochenendprojekt äh da darüber
- 40:36vielleicht mal später mehr. Also, wenn
- 40:38man zu dlsmolad.org
- 40:40geht, dann sieht man halt auch, was sich
- 40:42da mittlerweile entwickelt. So über ein
- 40:45paar Wochenenden, letzten Monat oder
- 40:47zwei bin ich daher gegangen und habe das
- 40:50ganze wieder decklich reanimiert und
- 40:51viele Inputs dazu noch mit hinzugefügt.
- 40:54Da gibt's irgendwann wahrscheinlich noch
- 40:55mal in viel größere Blockfast dazu, aber
- 40:58jedenfalls schon mal, wenn du das
- 40:59anschauen willst, geh zu dlsmoler.org
- 41:03ist noch nicht angekündigt auf meinen
- 41:04Blogs, aber da wird's eine deutliche
- 41:08Erneuerung geben. Es wird viel Arbeit
- 41:10werden, weil halt, na ja, die K dann in
- 41:14den letzten
- 41:164 5 Jahren da mit Riesenschritten
- 41:18voranging und da riesengroße Löcher an
- 41:21Themen einfach momentan noch nicht
- 41:23beinhaltet sind, aber überhaupt das
- 41:25Ganze mal wieder halt auf einigermaßen
- 41:29einen neueren Stand zu bringen, die das
- 41:32überhaupt sicherzustellen, dass das Zeug
- 41:33wieder kompiliert, weil die GPUs haben
- 41:35sich geändert, die Systeme haben sich
- 41:37geändert, die Bildsysteme haben sich
- 41:39geändert. und so weiter. Das ist schon
- 41:41viel Spaß und Arbeit. Na ja, wieso ist
- 41:43er zu groß geworden? Na ja, gut, wenn
- 41:45man halt hergeht und sowas offen macht
- 41:47äh und dann halt auch also open so
- 41:49Source of Ghub dann hinzufügt, dann ist
- 41:51es sehr sehr einfach möglich Korrekturen
- 41:55schnell mit einzubauen. Also z.B. W ich
- 41:58gedacht habe für unser Learning mit
- 42:00Kernels Buch, da gab's halt dann
- 42:01irgendwann ein Eratum und das war halt
- 42:04dann irgendwie so, dass wir halt ab und
- 42:05zu uns dann jemanden Brief geschrieben
- 42:07hat zum Teil im Papier, zum Teil eine
- 42:09E-Mail und ich hoffe, dass wir uns viele
- 42:11davon behalten haben und manche haben
- 42:13wir sicher verloren und dann irgendwie
- 42:15paar Jahre später gab es dann eine
- 42:17zweite Edition, in denen halt so die
- 42:20ganzen Fehler dann korrigiert wurden.
- 42:24Das heißt, der ganze Turnaround, also
- 42:26der Zyklus zwischen Fehlerfinden und
- 42:29Korrektur im Markt waren halt dann 3 vi
- 42:32Jahre.
- 42:34Wohingegen jetzt, wenn du ein Fehler
- 42:36findest und sagst, Alex, da hast du was
- 42:37falsch geschrieben und eigentlich sollte
- 42:39man das so machen und übrigens, das ist
- 42:41nicht so gut erklärt. Und übrigens hier
- 42:43gibt's noch ein neueres Ergebnis dazu,
- 42:45dann ist halt der Zyklus vielleicht ein
- 42:47paar Stunden, wenn ich dann gerade mal
- 42:49wieder das Buch neu kompiliere und diese
- 42:51Möglichkeit macht halt einfach so ein
- 42:54Onlinebuch unschlagbar. Es gibt ein paar
- 42:56andere Sachen, nämlich dass man halt
- 42:57auch die ganzen Notebooks sich da
- 42:59runterladen kann, die dann auf dem
- 43:01eigenen Rechner rechnen kann und so
- 43:02weiter. Und da gibt's na ja, noch viele
- 43:05spannende Sachen, die jetzt in den
- 43:07nächsten wahrscheinlich paar Wochen dann
- 43:10die kann ich dann ankündigen. Jedenfalls
- 43:12ja, wird's halt bessere Folien geben, äh
- 43:15bessere Themenabdeckung,
- 43:16äh viele Tippfehler sind repariert und
- 43:19so weiter. Da gibt's noch viele neue
- 43:21Sachen dazu, aber na ja, gut, das ist
- 43:23halt ein Wochenende Projekt, weil
- 43:25tagsüber bin ich halt auch das hier von
- 43:27Boni AI. Ähm, da habe ich nicht so viel
- 43:29Zeit, das tagsüber zu machen, aber ab
- 43:31und zu geht das dann schon. Wenn da
- 43:33jemand mithelfen will, gerne.
- 43:36Absolut. Also eine ganz wesentliche
- 43:37Frage einfach eine kurze Einordnung von
- 43:40dir dazu, die mich interessiert, weil
- 43:41ich weiß, es gibt natürlich auch viele
- 43:43Zuschauer, die sich die Frage stellen,
- 43:44lohnt sich das denn noch? Also gerade
- 43:46wenn du sagst, du arbeitest jetzt wieder
- 43:47daran, das ganze weiter auszubauen und
- 43:50so weiter, jetzt gibt es ja Leute wie
- 43:52den einen der Enhropic C-founder
- 43:54beispielsweise kam jetzt neulich raus,
- 43:56der wohl neuen Mitarbeitern, die sich
- 43:58beworben haben, sagte: "Hey, such dir
- 44:00mal besser ein Hobby abseits von AI
- 44:03Research, weil das ist das erste, was
- 44:05wir automatisieren und solche Aussagen,
- 44:07die hört man ja durchaus immer wieder,
- 44:08also das AI Research, diese ganzen Dinge
- 44:12mit das erste sind, dass man ähm
- 44:14automatisieren möchte. Jetzt ist eben
- 44:16meine konkrete Frage, was äh was ist da
- 44:18dran und natürlich auch was inwi weit
- 44:20lohnt sich das noch für die Menschen da
- 44:22draußen, die sagen, mich interessiert
- 44:23das, aber ist meine Zeit da wirklich gut
- 44:25investiert, heute noch Deep Learning zu
- 44:27lernen oder macht's nicht e im Zweifel
- 44:28auch die KI? Was meinst du dazu?
- 44:30Also, ich meine KI ist ein Werkzeug, ist
- 44:32ein unglaublich mächtiges Werkzeug und
- 44:36na ja, viele der Sachen, die ich da
- 44:38jetzt, ich meine, das hat schon auch
- 44:40einen Grund, wieso ich mir halt z.B.
- 44:42jetzt überlegt habe, kann ich das mal
- 44:43schnell am Wochenende z.B. wieder äh zum
- 44:46Laufen bringen und ja, viele der Sachen
- 44:49sind halt einfach dann von Cloud Code
- 44:52oder von Codex geschrieben.
- 44:55Ähm da kann man dann eben sagen, schaut
- 44:56dir mal die ganzen Gitter Bissues an,
- 44:58was die Leute da alles als Problem
- 45:00gefunden haben und integriere das mal
- 45:02automatisch. Das ist was halt äh noch
- 45:06vor einem Jahr eine Fleißarbeit gewesen
- 45:09wä wäre, die halt
- 45:12fast niemand machen würde. Insofern
- 45:14diese Automatisierung, die ist gut und
- 45:17ist auch sehr sehr nützlich. Das zweite
- 45:19ist so, dass es natürlich mittlerweile
- 45:21auch so ist, dass ich auch mal sagen
- 45:22kann, hallo, ich glaube, der Beweis in
- 45:25dieser und jener Richtung müsste
- 45:26eigentlich funktionieren und so ein
- 45:28Theorem müsste es geben. Beweise es mal.
- 45:30Da gibt's Leute, die viel viel besser
- 45:32sind als ich, der das wirklich großartig
- 45:34machen. Also, wenn man sich z.B. den Tim
- 45:36Gers und so weiter anschaut und die
- 45:37Leute, die jetzt dann Probleme beweisen,
- 45:40Tim Gaus ist ein Filzmodellist, also das
- 45:42so der Nobelpreis in der Mathematik, die
- 45:45sagen nicht, dass die KI sie ersetzen
- 45:46wird, die sagen, dass es halt ein
- 45:49Werkzeug ist, um dann Sachen viel
- 45:51schneller zu beweisen und Sachen zu
- 45:52beweisen, die vielleicht ansonsten nicht
- 45:54so einfach möglich gewesen wären. ähm ob
- 45:58dann irgend das dann so, na ja,
- 46:01Paranwier, Struktursuche und so weiter,
- 46:03dass sowas dann automatisiert wird, ja,
- 46:06bitte, das ist halt ansonsten auch oft
- 46:08Fleißarbeit. Ähm und wenn man das
- 46:11entsprechend automatisieren kann, das
- 46:13ist das ist großartig, ob die KI
- 46:16Forschung selbst das erste äh Opfer da
- 46:19der KI wird, ist es unklar. Natürlich
- 46:23was klar ist, ist allerdings, dass es
- 46:25jetzt mittlerweile möglich ist, einfach
- 46:26relativ schnell aus vielen Publikationen
- 46:29die Ideen rauszuziehen, die zu
- 46:30kombinieren und dann neu zu
- 46:32implementieren.
- 46:34Und das ändert so ein bisschen die
- 46:37Dynamik. Also ich würde das sagen, das
- 46:40ändert sie ändert die Dynamik von dem
- 46:43First Mover Advantage zu dem Second
- 46:45Mover Advantage.
- 46:47Ähm das sieht man auch ein paar
- 46:49Beispielen. Äh das eine Beispiel wä
- 46:51jetzt der Open Claw versus Hermes und
- 46:54Hermes kam halt von News Research. Der
- 46:57das kam einfach von hinten. Und was die
- 47:01gemacht haben ist die haben sich klar
- 47:03angeschaut gesagt, okay das sind alles
- 47:05gute Ideen übrigens ein paar Sachen
- 47:07machen wir anders. Und dann sind sie
- 47:09hergegangen und halt ganz konsequent
- 47:11durch na ja KI Werkzeuge sind es ihnen
- 47:13auch gelungen, da jetzt mit Open Cla
- 47:16dann aufzuschließen und ich glaube
- 47:17momentan sind sie ein bisschen vorne
- 47:19dran.
- 47:20Ein dreites Beispiel ist das, wenn als
- 47:24äh der äh Cloud Code da Codelak da
- 47:28passierte, innerhalb von na ja, 48
- 47:31Stunden sind die Leute hergegangen,
- 47:33haben diesen Typescript Code dann auf
- 47:36Python portiert und dann ist jemand
- 47:39hergegangen und hat den dann noch mal
- 47:40auf Rust portiert innerhalb von 48
- 47:43Stunden. Das ist halt was vor noch ein
- 47:47zwei Jahren nicht möglich gewesen wäre.
- 47:49Was das halt bedeutet ist, dass man
- 47:51hergehen kann und wenn man sagt, okay,
- 47:53hier gibt's eine gute Idee, integriere
- 47:54die mal dort, dass das sehr sehr schnell
- 47:57geht und vorher wäre es halt einfach
- 48:00viel Fleißarbeit gewesen. Mittlerweile
- 48:02ist es so, dass man halt solche Ideen
- 48:05dann relativ schnell portieren kann.
- 48:07Sobald es die an einer Stelle gibt,
- 48:09wird's die überall geben. Das ist na ja
- 48:12eigentlich ein ein großer Entschuldigung
- 48:14für das englische Wort inler. Das ist
- 48:16das ist halt was Sachen möglich macht,
- 48:18die vorher nicht möglich gewesen wären.
- 48:21Und das gibt ein auch Geschwindigkeit,
- 48:23weil es ist das ist großartig. Ähm dass
- 48:26es natürlich alles gut ist, ist
- 48:28natürlich nicht, aber es ist jedenfalls
- 48:30so, dass ich damit dann z.B. selbst viel
- 48:32produktiver bin, als ich vor noch vor
- 48:34ein paar Monaten gewesen wäre.
- 48:36Willkommen zur Bonus US Case Sektion
- 48:37dieser Folge. Eine der häufigsten
- 48:39Fragen, die ich nämlich unter jedem
- 48:40Video lese, ist: Leo, wie sprichst du
- 48:42eigentlich diese Texte einfach so in
- 48:44deinen Computer ein, sodass sie perfekt
- 48:46formatiert in jeder App landen? Die
- 48:48Antwort auf diese Frage ist Voicely,
- 48:50denn während die meisten immer noch Wort
- 48:52für Wort tippen, sprichst du mit Voicely
- 48:54alles einfach ein, egal ob E-Mails,
- 48:56Nachrichten, Prompts oder ganze
- 48:57Dokumente und Voicely verwandelt deine
- 49:00Stimme in Sekunden in sauberen fertig
- 49:02formatierten Text. Im Schnitt sprichst
- 49:04du nämlich vielmal schneller als du
- 49:06tippst und sparst dir, nur dadurch fast
- 49:08einen ganzen Arbeitstag und mit dem
- 49:10neuen Sprachregler kannst du sogar
- 49:12einfach alles auf Deutsch einsprechen
- 49:14und erhältst den fertigen Text auf
- 49:15Englisch, was perfekt für das Prompten
- 49:17von KI Agenten ist, die ja mit Englisch
- 49:20doch oft besser klar kommommen. Re ist
- 49:21inzwischen die Nummer 1 KI Spracheingabe
- 49:24im deutschsprachigen Raum läuft auch
- 49:25Windows und Mac ist vollständig DSGVO
- 49:27konform und hat sogar einen lokalen
- 49:29Privacy Mode mit dem deine Stimme deinen
- 49:31Rechner nie verlässt und du kannst sogar
- 49:33komplett kostenfrei starten auf
- 49:35voicely.de. Also lade dir Voicely jetzt
- 49:38einfach kostenfrei herunter auf
- 49:39voicely.de de oder direkt über den Link
- 49:42in der Videobeschreibung und damit
- 49:44zurück ins Video. Ja, ist ein sehr
- 49:45interessanter Take, also, dass wir jetzt
- 49:47durch AI im Prinzip ein Second Mover
- 49:50Advantage haben. Und lass uns gerne
- 49:52jetzt über Boson AI sprechen. Ihr baut
- 49:54ja wirklich auf Modelle und ihr seid
- 49:56fokussiert auf Voice AI. Was genau macht
- 49:59ihr mit Boson AI und warum seid ihr
- 50:01ausgerechnet auf die Sprache fokussiert?
- 50:04Also bei Börson, wir fingen damit an
- 50:07Systeme zu bauen für Interaktion und
- 50:10Roleplay und so weiter. Das waren erst
- 50:12Sprachmodelle und was halt relativ
- 50:15schnell klar wurde, ist, dass um so ein
- 50:17richtig gutes Frontiermodell zu bauen,
- 50:20dass das halt eine riesengroße
- 50:21Kapitalinvestition äh braucht, also so
- 50:24für Sprache und na ja, die
- 50:28Wirtschaftlichkeit solcher Sachen ist
- 50:30halt ein kleines Problem. Wenn man sich
- 50:32so überlegt, so ein gutes
- 50:34Frontiermodell, wenn das rauskommt, hat
- 50:36es ungefähr eine Lebenszeit von 6 bis 12
- 50:40Monaten.
- 50:42Und na ja, als Startup ist es ja auch
- 50:44irgendwie so, dass wir halt auch
- 50:45irgendwann aus unserer Investition auch
- 50:47wieder Geld machen müssen,
- 50:49wenn man sich das so überlegt, so ein
- 50:50gutes Frontiermodell kostet vielleicht
- 50:5250 Millionen, vielleicht 100 Millionen
- 50:54und wenn das halt eine Lebenszeit von
- 50:56einem knappen Jahr hat, brauche ich,
- 50:58wenn ich ein Margin von 30% hätte, mal
- 51:01angenommen, brauche ich dann da halt
- 51:03mindestens so 2 300 Millionen Umsatz, um
- 51:06überhaupt wieder zu null rauszukommen.
- 51:09Und das ist halt, wenn man sich so
- 51:12überlegt, was man dann halt so für ein
- 51:14Seed und Series A bekommt, ist das halt
- 51:17mehr als das, was man für ein Seed und
- 51:18Series A bekommt oder zumindest damals
- 51:21dann bekam. D haben wir uns überlegt,
- 51:23gut, nachdem das vielleicht nicht so
- 51:25viel Sinn macht, welche Probleme können
- 51:27wir uns anschauen, bei denen die
- 51:30Wirtschaftlichkeit funktioniert und
- 51:31Sprache ist halt eines der Probleme, bei
- 51:34der es noch geht. Muss sicher das so
- 51:36also Voice äh also sowohl Ton rein als
- 51:40auch Ton raus. Das zweite war halt auch
- 51:41so, dass wir uns, dass wir gesehen
- 51:43haben, dass für diese ganzen
- 51:44interaktiven Systeme für Gameplay und so
- 51:46weiter, die wir da gebaut haben, das ist
- 51:48halt ziemlich,
- 51:50na ja, unbequem ist, wenn man die ganze
- 51:53Zeit tippen muss. Da würde ich doch viel
- 51:55lieber mit äh so einem Charakter in dem
- 51:57im Spiel dann reden und von dem was
- 52:00hören, statt da einfach nur zu
- 52:01schreiben.
- 52:03Ja, gut, dann fragt man sich natürlich
- 52:05so, wie kann ich sowas bauen, dass halt
- 52:06dann auch die Sprache gut versteht, das
- 52:08halt auch ein bisschen Hirn hat. Und da
- 52:10macht's eigentlich relativ wenig Sinn,
- 52:13dann mit einem Sprachmodell von null
- 52:15anzufangen, sondern da kann man sich
- 52:16halt dann auch ein Sprachmodell nehmen,
- 52:18das halt schon mediert wurde, das nicht
- 52:20allzu groß ist, aber halt kompetent ist.
- 52:23Wir haben sowohl auf Lama aufgebaut als
- 52:25auch dann für die neuesten Modelle auf
- 52:26Cuben. Äh Cen ganz einfach aus dem
- 52:29Grund, weil Lama 3 war gut, Lama 4
- 52:35nicht perfekt. Äh insofern haben wir
- 52:37halt dann auf K aufgebaut, weil das ein
- 52:39bisschen leistungsfähiger ist und da
- 52:42macht's halt relativ wenig Sinn. Also
- 52:44überlegt das so, wenn dir jemand äh
- 52:46Stahl umsonst gibt, dann baust du keine
- 52:49Stahlmühle, sondern baust du ein Auto.
- 52:52Und das gleiche ist, dass war halt wenn
- 52:55es halt so Modelle schon mal frei zur
- 52:58Verfügung gestellt werden, dann baut man
- 53:00halt da drauf auf. Das macht
- 53:01wirtschaftlich Sinn. Äh, was wollen wir
- 53:04insgesamt bauen? Wir wollen insgesamt
- 53:06wirklich so einen digitalen Menschen
- 53:08bauen. Ähm, zuerst natürlich nur hinter
- 53:11dem Bildschirm, aber die nächste Sache
- 53:16Etappe wäre dann halt auch äh vielleicht
- 53:18mit einer Robotikfirma da zu partnern
- 53:20und das Ganze dann halt auch in die
- 53:22physische Welt zu bringen. Ähm mehr
- 53:26darüber irgendwann mal später da, das
- 53:28ist noch nicht spruchreif, aber na ja,
- 53:31gut. Was braucht man halute dazu? Also
- 53:33das erste ist natürlich, man möchte so
- 53:35ein Modell eine Stimme geben. Die
- 53:36meisten Menschen, wenn sie eine Stimme
- 53:37hören, erwarten, dass das Modell halute
- 53:39auch sie hören kann. Also drum braucht
- 53:41man halt dann dann halt auch
- 53:43Spracherkennung und auch
- 53:44Sprachverständnis. Mit anderen Worten,
- 53:46wenn ich lustig oder grantig bin, dann
- 53:49hätte ich gerne, dass das Modell das
- 53:50auch versteht und auch ein bisschen
- 53:51versteht, was im Hintergrund abgeht.
- 53:53Also ist ein bisschen schwieriger als
- 53:54Spracherkennung, aber damit kann man
- 53:56halt auch durch den Kontext und so
- 53:57weiter viel besser erkennen, was ab was
- 53:59passiert.
- 54:01Das zweite ist es auch so, dass es
- 54:03natürlich ganz klar ist, dass wir
- 54:05Menschen nicht nur die Stimme hören
- 54:08wollen, sondern halt auch ein Bild sehen
- 54:10wollen. Z.B. wenn ich jetzt hergehen
- 54:13würde und die Kamera hier abschalten
- 54:14würde, ich mache das jetzt natürlich
- 54:16nicht, aber wenn ich es machen würde,
- 54:17dann wären die meisten Zuschauer hier
- 54:20traurig. Und obwohl es jetzt nicht so
- 54:22interessant ist, sich den Alex
- 54:24anzuschauen, Leo, du hast im Hintergrund
- 54:26noch zwei fühne Stat und Gemälde, aber
- 54:29bei mir ist das ja gut, du könnst es das
- 54:32ganze auch so anhören, aber trotzdem
- 54:33schauen sich die Leute gern an, die
- 54:35wollen heute auch was sehen und drum
- 54:38haben wir dann angefangen Avatar zu
- 54:39bauen. Da kam jetzt auch gerade raus und
- 54:42man kann sich natürlich überlegen, dass
- 54:44äh wenn man was sieht, dass sie halt
- 54:47auch möchten, dass man halt auch was
- 54:49dann erkennen kann, also dass irgendwann
- 54:51halt auch eine Videoung und so weiter
- 54:53passiert. Also das ist das sind so die
- 54:55nächsten Schritte, um das Ganze so um
- 54:59halt von einem Textmodell zu einem
- 55:01kompletten audiovisuellen Modell zu
- 55:03gehen. Das ist so an der Interface
- 55:08Seite, was da passiert bei uns und da
- 55:09kam gerade ein paar schöne Modelle raus,
- 55:11also Hix Audio TTS, das jetzt knapp 100
- 55:14Sprachen spricht. Audio Understanding
- 55:16kommt auch bald noch. Der Avatar kam
- 55:18jetzt gerade raus, die erste Iteration,
- 55:20die relativ numerisch in effizient ist.
- 55:24Aber was natürlich
- 55:26dem ganzen noch dahinter stehen muss,
- 55:28ist halt auch ein Gehirn.
- 55:30Und
- 55:32man kann dann hergehen und sich
- 55:33überlegen, na ja, diese einfachen
- 55:35Sprachmodelle, die wir halt verwendet
- 55:36haben, um dann so ein Audiomodell zu
- 55:38bauen, das sind halt irgendwie so
- 55:41ja dutzende von Milliarden von
- 55:44Parametern. Das ist halt kein so
- 55:47schlaues Modell, das ist halt ein
- 55:49schlaues Plappermaul.
- 55:51Ähm, der Grund, wieso man sowas macht,
- 55:53ist, dass halt für die ganze Spracherung
- 55:56und Erzeugung man da eigentlich kein so
- 55:58großes Modell braucht oder mit anderen
- 56:01Worten, dass so ein großes Modell
- 56:03einfach viel zu teuer werde, weil so die
- 56:07Text Tokens sozusagen die das sind so
- 56:10das Äquivalent von Silben in den halt so
- 56:12ein Modell denkt. Für Sprache braucht
- 56:15man ungefähr so drei Tokens pro Sekunde.
- 56:18Drei bis fünf für es hängt da vom
- 56:21Tokeniz ab und so weiter. Für Audio
- 56:23braucht man irgendsowas in der grö
- 56:25Größenordnung von na ja 10 bis 40 oder
- 56:28so. Also ungefähr eine Größenordnung
- 56:30mehr. Das bedeutet, dass so ein
- 56:33Audiomodell viel mehr erzeugen muss über
- 56:37eine gegebene Zeit, z.B. für 10
- 56:39Sekunden, als ein Sprachmodell. Und das
- 56:42bedeutet wiederum, dass es eigentlich
- 56:45numerisch keinen Sinn macht, dann ein
- 56:46sehr sehr großes äh Frontier Modell zu
- 56:49haben, das halt dann 100 Milliarden bis
- 56:52halt eine äh ja von von der Parameter
- 56:56hat. Das das macht keinen Sinn. Was aber
- 56:59Sinn macht, ist herzugehen, dann so ein
- 57:01Frontend zu haben, das halt da
- 57:02einigermaßen gut versteht und dann
- 57:05nachher noch im Hintergrund ein deutlich
- 57:08komplett komplexeres Modell zu haben.
- 57:10Wir Menschen machen das ja auch, z.B.
- 57:12Wenn ich jetzt da was rede, dann denke
- 57:14ich natürlich schon, was ich sagen soll,
- 57:16aber ich habe auch im Hinterkopf dann
- 57:19sozusagen Gedankengang, der mir so ein
- 57:21bisschen besser sagt, na ja, was ich
- 57:22dann vielleicht in ungefähr 1 2 15
- 57:25Sekunden oder vielleicht ein 2 Minuten
- 57:26oder 5 Minuten anbringen möchte. Das ist
- 57:29also insofern ganz natürlich, dass auch
- 57:31wir Menschen da so das langfristige
- 57:33Denken mit der kurzfristigen
- 57:35Unterhaltung da entkoppeln, wobei es
- 57:38natürlich dann schon eine Interaktion
- 57:39gibt. Z.B. willo, wenn du jetzt sagen
- 57:41würdest, ja, das ist alles Mist, dann
- 57:42würde ich natürlich hergehen auch
- 57:44umdenken und überlegen, wie kann ich das
- 57:46anders planen. Aber das gleiche System
- 57:49passiert dann halt auch bei den Modellen
- 57:51und das ist eigentlich das, wo die Reise
- 57:54dann hingeht, um Modelle zu haben, die
- 57:56sehr interaktiv sind und gleichzeig auch
- 57:58schlau. Der dritte Punkt dabei ist
- 58:01natürlich, wir brauchen ja nicht nur
- 58:03schlaue Modelle, sondern wir müssen halt
- 58:04auch was machen. Z.B. jemandem sagen,
- 58:07wie sie halt so wie man Modem repariert
- 58:09oder sowas. Das heißt, wir brauchen also
- 58:11zum dritten halt auch noch eine
- 58:12sozusagen eine Programmiersprache,
- 58:15wobei der Schwerpunkt hier ist auf
- 58:17Sprache statt programmieren, um so ein
- 58:21System dann ordentlich beibringen zu
- 58:23können, dass es halt was Nützliches
- 58:25macht. Da hat die Community auch schon
- 58:27viel gemacht, z.B. diese ganzen Plugin
- 58:28Skills und so weiter, die mittlerweile
- 58:31durch diese ganzen Reasoning und
- 58:32Frontier Models und Tool Calls und so
- 58:34weiter alles funktionieren. Das ist ein
- 58:36guter Anfangspunkt, aber man braucht da
- 58:37halt noch noch ein bisschen mehr, damit
- 58:39dann halt nicht irgendwann so der BMW äh
- 58:43Autoverkäufer dann plötzlich empfiehlt,
- 58:45dass es eigentlich dann ein Mercedes EV
- 58:48oder ein Tesla kaufen sollte, weil das
- 58:51würden halt dann die Leute, die dann den
- 58:53Botter gebaut haben, das würde den dann
- 58:56nicht so sehr gefallen, aber das
- 58:59[räuspern] ist halt noch dann die dritte
- 59:01Komponente und so bei Boson waren wir
- 59:03halt alle drei dieser Teile.
- 59:06Zum einen der audiovisu visuelle
- 59:09Frontend, dann die Reasoning Ability und
- 59:13na ja, gut, wenn es da halt gute
- 59:14Frontier Models gibt, dann wäre es dumm,
- 59:17die nicht zu verwenden. Und dann zum
- 59:19dritten diese Programmierkomponente, um
- 59:21sicherzustellen, dass man halt auch den
- 59:24Modellen das sagen kann, dass die auch
- 59:26was Nützliches bauen. Das ist dann Final
- 59:29Flow, das kommt dann irgendwann mal
- 59:30raus. Ähm, haben das mit ein paar Kunden
- 59:33schon am laufen, aber ja, das ist so das
- 59:37gesamte Bild, woran wir arbeiten. Zwei
- 59:39Fragen habe ich dazu. Erstmal noch mal
- 59:41zum Audiomodell an sich, weil das ist ja
- 59:44vielen, du hast es gerade schon
- 59:45erläutert, aber das ist vielen ja auch
- 59:47gar nicht so klar. Es gibt ja
- 59:47verschiedene Ansätze, wie ich solche
- 59:49Voice AI Modelle bauen kann. Also
- 59:52klassisch hat man Text to Speech, ein
- 59:54Speech to Text Modell, ein LM dann noch
- 59:57mit dazwischen. Es gibt ja aber auch den
- 59:58Ansatz Ansatz Speech to speech, wie es
- 1:00:00jetzt z.B. old Mayaltime Modellen. Das
- 1:00:03wäre meine erste Frage. Also wie genau
- 1:00:05ist hier euer Ansatz? Also habt ihr
- 1:00:08quasi auch Text to Speech, Spex oder ist
- 1:00:10es eher vergleichbar mit so einem
- 1:00:11Realtime Modell von Old Mayi? Und die
- 1:00:13zweite Frage ist, wo ordnet ihr euch in
- 1:00:17etwa ein? Wir haben ja eingangs über
- 1:00:18Benchmarks gesprochen und dass diese
- 1:00:20natürlich nicht immer allzu
- 1:00:21aussagekräftig sind, aber ihr seid ja
- 1:00:23auch open weights, also wir werden das
- 1:00:24sicherlich auch mal verlinken. Kann
- 1:00:25jeder selbst herunterladen, selbst
- 1:00:27betreiben eure Hicksmodelle, aber wo
- 1:00:30ordnet ihr euch ein so im Vergleich auch
- 1:00:33zu anderen? Also erstmal von der
- 1:00:34technischen Frage her so Speech to
- 1:00:37speech versus dann two stage, also zwei
- 1:00:41Schritte oder Stage. Also Thage wäre im
- 1:00:43Wesentlichen Spracherkennung, dann
- 1:00:46Textmodell zum Denken und dann wieder
- 1:00:48Text to Speech, um wieder Sprache zu
- 1:00:50erzeugen.
- 1:00:52Diese Modelle, das ist so eher der
- 1:00:54klassische Ansatz, die haben den
- 1:00:55Vorteil, dass sie relativ einfach zu
- 1:00:57verstehen sind. Die sind sehr schön
- 1:00:58modular. Das Problem ist, dass bei jedem
- 1:01:01dieser Schritte jeweils Latenz dazu
- 1:01:03kommt. Und wenn du mir eine Frage
- 1:01:05stellst und ich dann ungefähr ein bis
- 1:01:07zwei Sekunden warte, bis ich dir
- 1:01:09antworte, dann ist das seltsam. Menschen
- 1:01:12haben eigentlich gerne so 100 bis 200
- 1:01:14Millisekunden Latenzen. Das hat
- 1:01:16biologische Gründe. Z.B. wenn man
- 1:01:18hergeht und schaut, ob da jemand so
- 1:01:19neurodegenerative
- 1:01:21Erkrankung hat, dann geben wir her,
- 1:01:23zeigt denen ein Schachbrettmuster z.B.
- 1:01:26und misst dann die Zeit, die es dauert,
- 1:01:28vom Auge bis zum äh bis zum Großhirden.
- 1:01:33Und wenn die Zeit über eine bestimmten
- 1:01:37ja über die bestimmte Zeit hinausgeht,
- 1:01:40dann kann man davon ausgehen, dass da im
- 1:01:42Hirn was kaputt ging. Also der die
- 1:01:44Aussage, dass jemand eine lange Leitung
- 1:01:46hat, das kann man da, das ist da
- 1:01:48buchstäblich richtig, weil halt dann da,
- 1:01:50wenn im Gehirn was kaputt geht, dann
- 1:01:52werden dann Umwege gebaut, um die
- 1:01:54Verarbeitung hinzukriegen. Also insofern
- 1:01:56funktionieren halt Menschen ungefähr so
- 1:01:58mit der Taktfrequenz von ungefähr 10 Hz,
- 1:02:01vielleicht ein bisschen weniger,
- 1:02:02vielleicht ein paar ein bisschen
- 1:02:03schneller. Aber das ist so ungefähr der
- 1:02:06die Zeit. Insofern sind halt die ein bis
- 1:02:082 Sekunden dann schon viel zu lang. Das
- 1:02:10hat Google damals hal auch schon vor 20,
- 1:02:1230 Jahren rausgefunden bei der Suche.
- 1:02:14Nämlich haben die rausgefunden, dass
- 1:02:16wenn man hergeht und den Leuten das
- 1:02:19Sucheergebnis viel später als ungefähr
- 1:02:21150 Millisekunden zeigt, dass einfach
- 1:02:24die dann eher weggehen. Das ist auch der
- 1:02:26Grund, wie z.B. wieso z.B. die ganzen
- 1:02:28Erzsysteme und so weiter alle so für die
- 1:02:31Aktionen ungefähr so ein Zeitrahmen
- 1:02:33Rahmen von 100 bis 200 Millisekunden
- 1:02:35haben. Okay, wieder zurück zum zur KI.
- 1:02:39Insofern ist es halt schon ganz
- 1:02:41nützlich, wenn man so ein System hat,
- 1:02:43das direkt antworten kann. So Speech zu
- 1:02:45Spech kann das. Da gibt's einige
- 1:02:48Modelle. Ich würde sagen, das von QiI
- 1:02:50wäre wahrscheinlich das Moshi, das wäre
- 1:02:51wahrscheinlich das erste gewesen.
- 1:02:53Slinking Machines hat gerade ein System
- 1:02:54rausgebaut rausgebracht oder zumindest
- 1:02:57gedemot äh indem man das machen kann
- 1:03:01ohne Avatar, aber mit sehen. Also wir
- 1:03:04haben das Komplement nämlich der Avatar
- 1:03:07ist da, aber wir sehen gerade nicht.
- 1:03:08Also das ist ein schönes Komplement
- 1:03:11dazu, aber die Sache ist die, wenn man
- 1:03:15eben so Speed Speed Systeme hat, dann
- 1:03:18haben die genau eben dieses Problem,
- 1:03:20dass man dann sehr sehr viele Parameter
- 1:03:22und sehr viel Rechnung verbrätt,
- 1:03:24nur einfach um Sprache rein und Sprache
- 1:03:26rauszuschicken.
- 1:03:28Man, was man halt aber auch gleichzeitig
- 1:03:30machen muss, ist die Möglichkeit dann
- 1:03:32ein System zu haben, das halt relativ
- 1:03:34komplexe Gedanken führen kann, dass z.B.
- 1:03:37Datenbank abfragen kann. Die Datenbank
- 1:03:39braucht dann vielleicht ein paar
- 1:03:40Sekunden und so weiter. Das ist einer
- 1:03:42der Gründe, wieso diese Multistage
- 1:03:45Systeme dann auch noch einigermaßen
- 1:03:47populär sind.
- 1:03:48Ähm, also das ist zum Teil eine
- 1:03:50Systemfrage und wie es wahrscheinlich
- 1:03:52weitergehen wird, ist, dass wir ein oder
- 1:03:55zwei Stage Systeme haben für den für die
- 1:03:57direkte Interaktion mit den Menschen
- 1:04:01und dann sozusagen im Hintergrund ein
- 1:04:03viel komplexeres, teureres System hier
- 1:04:06geht mit Tooluser, also Werkzeug
- 1:04:10Werkzeuge verwenden, Datenbanken
- 1:04:11abfragen, lange Gedankengänge
- 1:04:14durchzugehen, um dann die Antwort da zu
- 1:04:17erzeugen.
- 1:04:18Und das Gute ist, dass Menschen ziemlich
- 1:04:21gut drauf trainiert sind, sowas zu
- 1:04:23akzeptieren. Z.B. wenn du mir jetzt eine
- 1:04:26Frage stellst, die ich nicht sofort
- 1:04:27beantworten kann, dann ist es perfekt
- 1:04:29okay, wenn ich sag, du lass mich mal
- 1:04:31nachdenken, Augenblick mal schnell. Und
- 1:04:34die meisten Menschen akzeptieren das
- 1:04:35ganz ganz normal.
- 1:04:38Insofern, wenn dann halt ein System
- 1:04:40sagt, ja, lass mir mal kurz nachdenken,
- 1:04:42dann akzeptieren sie das auch nur, wenn
- 1:04:44das Modell dann plötzlich stumm ist und
- 1:04:46nach 3 Sekunden dann mit der Antwort
- 1:04:48zurückkommt, dann ist das seltsam und
- 1:04:51stößt dann halt so die meisten Menschen
- 1:04:53bisschen ab. So, ich glaube, dass es da
- 1:04:55sehr viel noch spannende so
- 1:04:59Benutzerinterface Forschung geben wird
- 1:05:01geben wir müssen, um sowas gut zu bauen.
- 1:05:04Okay, wo stehen wir bei Boson?
- 1:05:06Ähm, also wir haben exzellente
- 1:05:09Ergebnisse mittlerweile in den
- 1:05:10Benchmarks für unser TTS Modell. Ähm und
- 1:05:15das ist ja nicht nur so, dass wir das
- 1:05:16behaupten, wir stehen dahinter auch. Wir
- 1:05:18drum haben wir unsere Weits auch uns
- 1:05:21unser uns unser Modell halt auch auf
- 1:05:23Hugging Face zur Führung gestellt. Es
- 1:05:26ist frei für alle Forscher und es ist
- 1:05:29frei für na ja so Leute, die das mal
- 1:05:33selbst auf kleiner Skala bauen wollen.
- 1:05:36Wenn du damit was kommerziell machen
- 1:05:38willst, dann schick uns eine E-Mail und
- 1:05:41na ja, Model Serving und so weiter. Das
- 1:05:44kommt dann auch noch ein paar Sachen
- 1:05:45dazu. Also insofern für große
- 1:05:48kommerzielle Nutzung helfen wir da gerne
- 1:05:50mit. Für kleine Benutzung, wenn du es
- 1:05:52austesten willst, Proof of Concept
- 1:05:54Pilotversuch,
- 1:05:56die Modelle sind alle frei und offen
- 1:05:58verfüg verfügbar. Insofern weiß dann
- 1:06:01jeder auch genau, dass wir halt dann
- 1:06:02nicht nur mit Schaum schlagen, sondern
- 1:06:04halt auch was die was Substanz dahinter
- 1:06:06ist. Das ist halt auch um ja, wieso
- 1:06:09wieso soll jemand uns trauen? Weißt bei
- 1:06:12Google gut, die gibt schon paar
- 1:06:14Jahrzehnte, denen kann man schon auch
- 1:06:16mal trauen, weil die halt auch jahr
- 1:06:18Jahrzehnte lang dann eine Historie
- 1:06:20haben, dass sie was Gutes machen bei
- 1:06:21uns. Wir sind halt ein Startup. Wieso
- 1:06:23soll uns jemand trauen? Das einfachste
- 1:06:25ist zu sagen, okay, hier ist die
- 1:06:27Evidenz,
- 1:06:29probier es aus, überzeug dich selbst
- 1:06:30davon, wenn es dir gefällt, dann komm zu
- 1:06:32uns und dann können wir das machen. Das
- 1:06:35ist so ein Teil der Produktstrategie,
- 1:06:37wie wieso wir Teile veröffentlichen und
- 1:06:41dann halt das dann trotzdem auch
- 1:06:42komellen machen. Der andere Grund ist
- 1:06:44halt auch ein einfach der dabei, dass
- 1:06:45halt wie halt auch schon gesagt vorher,
- 1:06:49wir halt auch große Fans von Open Source
- 1:06:52und Community sind. Und das ist halt
- 1:06:55diese Ideologie, das von mir, da von
- 1:06:58mein Mitgründer, die dann halt uns da
- 1:07:00auch ein bisschen führt. Ja, so ich kann
- 1:07:02es auch nur befürworten, weil gerade
- 1:07:03viele andere in dem Bereich, also so
- 1:07:06die, ich sag mal führende Modelle ja
- 1:07:09wirklich alle claw so Source sind und
- 1:07:10von daher kann ich es natürlich nur
- 1:07:11begrüßen, wenn ihr hier ordentlich
- 1:07:14mitmischt im Markt. Jetzt habe ich noch
- 1:07:15mal zwei Fragen an dich, weil du ja auch
- 1:07:17sagtest, man wird den Modellen immer
- 1:07:18mehr Codingfähigkeiten geben und das ist
- 1:07:21ja im Kern auch so dieser große
- 1:07:22Durchbruch, den man jetzt spätestens
- 1:07:24seit Februar 2026 gesehen hat, also
- 1:07:27sowas Coding Agents imstande sind und
- 1:07:30das ist meine erste Frage. Also wie hast
- 1:07:32du diese Entwicklung wahrgenommen, weil
- 1:07:34du jetzt wirklich auf Jahrzehnte KI
- 1:07:36Entwicklung schon zurückblickst. Also
- 1:07:38wie nimmst du konkret den aktuellen
- 1:07:39Stand der KI wahr? hier wir haben über
- 1:07:41Jan Le beispielsweise gesprochen, der
- 1:07:43sagt: "Ja, das mit den LMS kommen wir
- 1:07:45nicht weiter. Wir brauchen wieder andere
- 1:07:46Ansätze für jetzt viele Nutzer da
- 1:07:49draußen. Es ist ja durchaus schon
- 1:07:50äußerst beeindruckend, also all das, was
- 1:07:52jetzt heute schon möglich ist mit
- 1:07:53Agentic Coding. Also da interessiert
- 1:07:55mich einfach so dein persönlicher Blick
- 1:07:56auf den Markt heute. Und die zweite
- 1:07:59Frage geht dann noch mal in Richtung
- 1:08:00Digital Humans, weil das geht so ein
- 1:08:03bisschen mit meiner These einher, die
- 1:08:04ich habe. Dadurch, dass diese großen
- 1:08:05Labs jetzt so ein immensen Fokus haben
- 1:08:08auf Entic Coding, habe ich mir die Frage
- 1:08:09gestellt, die letzten ein, zwei Jahre,
- 1:08:11wieso ist eigentlich so verhältnismäßig
- 1:08:13wenig passiert, also im Bereich Voice AI
- 1:08:15und Avatare, da ist ja eigentlich gar
- 1:08:17nicht mal seit dem Advanced Voice Mode
- 1:08:19Ende 224 für meine Begriffe recht wenig
- 1:08:22passiert und auch im Bereich Avatare.
- 1:08:25Ja, also der große Sprung blieb noch so
- 1:08:27ein bisschen aus und meine These
- 1:08:28dahinter ist, dass man sich halt einfach
- 1:08:29fokussiert hat auf Coding Agents und
- 1:08:32gesagt hat, da sehen wir jetzt als große
- 1:08:35KI Labs nicht den Nutzen halt diese
- 1:08:37Avatare zu lösen. Und das wird mich
- 1:08:39interessieren, ob du äh ob ob das
- 1:08:41stimmt, diese These und wie du natürlich
- 1:08:43auf das Thema Effizienz bei Avataren
- 1:08:45ähäh letztendlich ähm blickst. Also äh
- 1:08:48zwei Fragen so ein bisschen in die
- 1:08:50Richtung Tempel Coding.
- 1:08:51Okay, das sind jetzt ungefähr fünf
- 1:08:53Fragen auf eine. Ich versuch es
- 1:08:54einigermaßen kurz zu antworten. Mal
- 1:08:56schauen, wie es wie es geht. Also erster
- 1:09:00Datenpunkt, wenn man sich also mein
- 1:09:02GitHub History anschaut, dann sieht man
- 1:09:05halt das ab seit März, da ich da halt
- 1:09:08auch ziemlich viel gebaut und Code
- 1:09:09geschrieben habe. Wobei das ist halt im
- 1:09:12Wesentlichen sind das halt As, die da
- 1:09:14Code schreiben, die halt einfach Sachen
- 1:09:16möglich gemacht haben, die halt vorher
- 1:09:18unmög nicht unmöglich gewesen wären. So
- 1:09:20z.B. Und dieses Benchmark Paper, das ist
- 1:09:22mein erstes
- 1:09:24Einzelartorenpaper, dass ich je in
- 1:09:26meinem Leben geschrieben habe. Und das
- 1:09:28wurde geschrieben über eine Zeit von
- 1:09:3235 Stunden ungefähr. Das ist ein Zehntel
- 1:09:35dessen, was es mich ansonsten gekostet
- 1:09:37hätte, selbst wenn ich dann mit einem
- 1:09:39Kurator zusammengearbeitet hätte. Ähm
- 1:09:41und das ist halt einfach mittlerweile
- 1:09:43möglich, weil halt viele der Sachen, die
- 1:09:45ansonsten ja, machen wir mal dieses,
- 1:09:46machen mal jenes Experiment, gehen mal
- 1:09:48besorgt mal diesen Datensatz und
- 1:09:50verarbeitet mal so und so vor, dass das
- 1:09:52halt einfach ganz schnell ging. Und das
- 1:09:55ist ein unglaublicher Produktivitäts äh
- 1:09:59ermöglicher, wo wo ich halt auch einfach
- 1:10:01mittlerweile hergehen kann. Na ja, statt
- 1:10:03da jemand was zu erklären, okay, jetzt
- 1:10:05set einfach mal selber hin, bau es
- 1:10:06einfach mal schnell, hier ist ein
- 1:10:08Prototyp und dann können wir mal drüber
- 1:10:10reden und vorher wäre das halt einfach
- 1:10:12nicht möglich gewesen. Also viele Sachen
- 1:10:14sind halt jetzt einfach sehr sehr billig
- 1:10:16geworden.
- 1:10:17Äh relativ. wieso die ganzen Labors da
- 1:10:21vor allem auf Coding Agents gesetzt
- 1:10:23haben. Ich würde nicht sagen alle, aber
- 1:10:25das ist der eine Grund der der Grund,
- 1:10:28wieso die wohl wahrscheinlich am
- 1:10:30schnellsten sich weiterentwickelt haben,
- 1:10:32ist, weil der Daten und Iterationsloop
- 1:10:34sehr sehr einfach ist. Der ist einfach,
- 1:10:37weil ich kann halt einfach hier gehen
- 1:10:38Code schreiben, den kompilieren oder
- 1:10:40laufen lassen oder was auch immer.
- 1:10:42Für Python brauche ich ja keine
- 1:10:43Kompilation und dann schauen, ob das
- 1:10:47funktioniert. Mit anderen Worten, ich
- 1:10:49kann da halt relativ zügig Systeme
- 1:10:52bauen, die auch gleich Feedback bekommen
- 1:10:55und dadurch mir dann Systeme bauen, die
- 1:10:57die halt auch viel schneller besser
- 1:10:59werden. Also so ein Codelook, das das
- 1:11:02sind halt Sekunden, wohingegen, wenn ich
- 1:11:05das Ganze mit Menschen mache, Menschen,
- 1:11:08die reden halt nicht in Sekunden, die
- 1:11:10reden in Minuten oder Stunden, ich z.B.
- 1:11:13das Interview jetzt, das ist halt jetzt
- 1:11:15über eine Stunde, ähm so ein einfach den
- 1:11:19Text da durchzuschicken, das hätte
- 1:11:21wahrscheinlich Bruchteile einer Sekunde
- 1:11:23gedauert und drum dauern halt diese
- 1:11:26Iterationen viel länger und das wird
- 1:11:29wohl eine der eine der Sachen sein,
- 1:11:33wieso das Ganze ein bisschen länger
- 1:11:34dauert für so Digital Humans das Ganze
- 1:11:37zu bauen, aber das kommt, das ist ganz
- 1:11:39ganz klar. Es ist halt auch so, dass
- 1:11:42eigentlich erst seit ja ein paar Monate
- 1:11:44die Modelle mächtig genug sind, dass man
- 1:11:47denen halt Anweisungen gibt und die dann
- 1:11:50diese Anweisungen mit hoher
- 1:11:51Wahrscheinlichkeit erfolgreich
- 1:11:53durchführen. Das passiert immer noch
- 1:11:55nicht so richtig. Also z.B. wenn ich so
- 1:11:56ein Coding Agent habe, kann das schon
- 1:11:58mal auch mal sein, dass der plötzlich
- 1:12:00beschließt dann irgendwie ein Datentyp
- 1:12:01auf FP64,
- 1:12:04also 64 Bit zu ändert und dann sehe ich
- 1:12:06das plötzlich, ja, warum machst du denn
- 1:12:07das? Okay, wieder Kommando zurück und
- 1:12:10also die kann man dann nicht unbedingt
- 1:12:12hergehen lassen und das ganze dann
- 1:12:13automatisch durchführen lassen über Tage
- 1:12:15hinweg, aber mittlerweile für
- 1:12:17stundenlang lange arbeiten geht das oft
- 1:12:19schon und das ist halt
- 1:12:24na ja und das ist halt so der Ermögliche
- 1:12:28um dann überhaupt hergehen zu können und
- 1:12:29jetzt dann ja so strukturierte Dialoge
- 1:12:32zu haben. Was nach noch dazu kommen
- 1:12:34wird, ist halt eine Frage z.B. Ja, gut,
- 1:12:37wir unterhalten uns jetzt. Es ist auch
- 1:12:39freundlich. Du versuchst jetzt nicht
- 1:12:40mich irgendwie zu blamieren. Ich
- 1:12:42versuche jetzt dich nicht zu blamieren,
- 1:12:43weil wenn da jemand hergeht und ein Auto
- 1:12:45kauft und der Autoverkäufer ist halt
- 1:12:47dann ein Agent, dann ist es halt schon
- 1:12:49möglich, dass ich versuchen würde, mir
- 1:12:51dann möglichst guten Preis dann zu
- 1:12:53besorgen. Und da gab's auch z.B. als
- 1:12:55erstmal ein paar Leute dann da Worts
- 1:12:57verwendet haben, jemand der gesagt hat,
- 1:12:59ja, äh stimm allem zu. Und dann hat der
- 1:13:02Agent halt dem so ein äh Lieferwagen für
- 1:13:04ein Dollar verkauft. Und dann ging der
- 1:13:06zum Autohändler hin und sagte: "Okay, de
- 1:13:09Asient hat das jetzt alles bestätigt.
- 1:13:10Ich hätte jetzt gern mal so ein Auto für
- 1:13:12ein Dollar."
- 1:13:13Ähm und solche Sachen willst du
- 1:13:15natürlich nicht haben. Also, da gibt's
- 1:13:17noch viele andere Sachen, die halt für
- 1:13:21unter für Unterhaltung mit Menschen noch
- 1:13:24hinzukommen, die so für Code nicht
- 1:13:27unbedingt ganzer zentral sind, weil so,
- 1:13:30na ja, ein Compiler, der versucht jetzt
- 1:13:32dann nicht unbedingt den äh Coding Agent
- 1:13:35da irgendwie aufs Glatteis zu führen.
- 1:13:37Aber so ein Mensch natürlich machen die
- 1:13:39das. Ich meine Menschen sind nicht alle
- 1:13:43gut. Manchmal manipulieren sie machen
- 1:13:45sie das aus J und Tollerei einfach nur
- 1:13:47um mal zu sehen, ob überhaupt möglich
- 1:13:48ist. Ich meine wir haben das alle sicher
- 1:13:51mal probiert.
- 1:13:53Ja und das ist glaube ich auch ein
- 1:13:55bisschen so noch die größere
- 1:13:56Herausforderung.
- 1:13:57Wie stellst du dir denn das Arbeit mit
- 1:13:59KI in den nächsten, sagen wir zwei bis
- 1:14:02dre Jahren vor? Wenn wir jetzt mal
- 1:14:04annehmen, dass die meisten heute
- 1:14:05eigentlich immer noch so mit KI arbeiten
- 1:14:07wie vor zwei Jahren. Ich habe also ein
- 1:14:09Chatfenster bei Chat GBT und ich nutze
- 1:14:11es als etwas besseres Google. Jetzt
- 1:14:13gibt's natürlich schon eine immer größer
- 1:14:14werden Anzahl an Menschen, die Coding
- 1:14:16Agents verwenden und in Agent Loops
- 1:14:18arbeiten und vielleicht sogar mit
- 1:14:19Multients arbeiten, aber im Endeffekt
- 1:14:21habe ich ja trotzdem immer noch eine
- 1:14:22Chatingabe und wenn überhaupt nutze ich
- 1:14:25irgendwie Speech to Text, aber so
- 1:14:27richtig sprechen mit der mit der KI, das
- 1:14:30machen jetzt heute doch die wenigsten,
- 1:14:31weil es die Möglichkeit schlicht gar
- 1:14:32nicht gibt jetzt im Arbeiten mit Code
- 1:14:34Code oder Codex und wie stellst du dir
- 1:14:37das vor? Also, willst dann werde ich
- 1:14:38mein Digital Human haben, mit dem ich
- 1:14:40alle Aufgaben deligiere? ähm oder wie
- 1:14:43wird die das Arbeiten am Computer mit KI
- 1:14:46funktionieren in den nächsten, sagen wir
- 1:14:48zi d Jahren? Wie wie stellst du das vor?
- 1:14:50Also zum einen vonurchsatz her sind die
- 1:14:54meisten Menschen halt mit dem mit der
- 1:14:56Tastatur doch noch deutlich schneller
- 1:14:59als äh beim Sprechen und auch deutlich
- 1:15:01präziser. Also, ich kann mir jetzt nicht
- 1:15:05unbedingt vorstellen, dass ich äh für
- 1:15:07bestimmte technische Sachen da unbedingt
- 1:15:09dem Agent dann was sagen würde. Äh es
- 1:15:14gibt andere Sachen, z.B. wenn ich so
- 1:15:16Brainstorming und so weiter, dass da
- 1:15:18natürlich ein Voice Interface und so
- 1:15:19weiter da nützlich wäre. Was ich mir
- 1:15:22aber vorstellen kann, ist, dass viele
- 1:15:23dieser ganzen ähm ja, Callcenters und so
- 1:15:27weiter, dass es da eine deutliche
- 1:15:29Qualitätsverbesserung geben wird in den
- 1:15:32nächsten paar Jahren, dadurch, dass halt
- 1:15:34einfach äh dann
- 1:15:37na ja, Leute, die vielleicht mit relativ
- 1:15:40wenig äh Training und die bekommen bekam
- 1:15:42dann halt vielleicht irgendwie so ein
- 1:15:44zwei Seiten Dokument, dass sie dann
- 1:15:46durch ein gut konfiguriertes KI System
- 1:15:49ersetzt werden. Das ist zum einen sehr
- 1:15:53vielversprechendes zum anderen auch
- 1:15:54Fruchteinflößend, weil natürlich die
- 1:15:57Menschen haben müssen sich dann halt
- 1:15:58einen anderen Job suchen. Das wird ein
- 1:16:00ja großes gesellschaftliches Problem
- 1:16:02werden, weil da gibt's halt Regionen in
- 1:16:05der Welt äh die ein Hauptteil des des
- 1:16:09Einkommens dadurch bekommen.
- 1:16:13Es ist aber natürlich auch
- 1:16:15vielversprechend, weil halt für in
- 1:16:16vielen Dingen es dann einfach überhaupt
- 1:16:18nicht genügend Menschen gibt, die sowas
- 1:16:20machen können. Da z.B. also Englisch ist
- 1:16:23ja noch ein einfaches Problem. Da gibt's
- 1:16:24halt viele Menschen, die Englisch
- 1:16:25sprechen, aber z.B. für Deutsch ist es
- 1:16:27dann schon eine größeres Problem, weil
- 1:16:29es halt einfach nicht so viele deutsche
- 1:16:30Sprecher gibt und wenn ich so ein
- 1:16:32Callcenter dann haben würde oder möchte,
- 1:16:35dass halt dann guten Kundendienst für
- 1:16:37verschiedene Sachen hat, das ist halt in
- 1:16:39vielen Dinge, vielen Fällen einfach
- 1:16:41nicht möglich. Das wäre halt
- 1:16:42finanzieller Ruin und da kann ich dann
- 1:16:45halt mittlerweile hergehen und Sachen
- 1:16:46anbieten, die vorher überhaupt nicht
- 1:16:48möglich wären. Also, das wäre mal das
- 1:16:51eine ein bisschen weitergehend.
- 1:16:54Ähm, ich vermute mal, dass wir in den
- 1:16:57nächsten paar Jahren also sehr sehr
- 1:16:59viele auch so Roboter haben werden. Und
- 1:17:01mit Robotern, das kann alles sein von
- 1:17:04irgendwie so einer Schachtel mit
- 1:17:06Bildschirm, die halt am Tisch steht und
- 1:17:08dann auf Fragen antwortet und dann
- 1:17:09einfach ein bisschen intelligenter
- 1:17:11antwortet als äh so was momentan die
- 1:17:15ganzen Systeme da der großen Firmen
- 1:17:17machen. Ich will sie jetzt nicht nennen,
- 1:17:19weil ich habe die alle bei mir auf dem
- 1:17:20Tisch stehen und die würden gleich
- 1:17:21antworten, wenn ich den das sagen würde.
- 1:17:23Das ist die einfachste Form. Das zweite
- 1:17:25wäre wahrscheinlich halt auch, dass halt
- 1:17:27ich vielleicht halt auch so ein Roboter
- 1:17:29hätte, der z.B. für die Krankenpflege,
- 1:17:31für die Gymnastik und so weiter, dass
- 1:17:33der da ein bisschen den Menschen hilft.
- 1:17:35Und wenn man sich so überlegt, z.B. wenn
- 1:17:37dann so alte Menschen in dem Hospiz
- 1:17:40sind, da ist es ja nicht unbedingt so,
- 1:17:41dass die Krankenpfleger dann unglaublich
- 1:17:43viel Zeit haben. Das fällt dann oft auf
- 1:17:47die Angehörigen zurück.
- 1:17:48Und wenn die täglich eine Stunde haben,
- 1:17:51dann ist es großartig, aber das passiert
- 1:17:54halt auch nicht immer.
- 1:17:56Und
- 1:17:58in dem Fall würde ich sagen, ist es
- 1:18:00deutlich humaner, wenn da so ein KI
- 1:18:03System den Menschen hilft, statt das,
- 1:18:06dass die halt irgendwie dann 24 Stunden
- 1:18:09am Tag ein Fernsehkanal sich anschauen,
- 1:18:11der halt einfach nur auf sie dann äh
- 1:18:14einströmt. Ähm, da gibt's, glaube ich,
- 1:18:18erfüllendere Art und Weisen äh dann so
- 1:18:22äh im Krankenhaus oder im Hospit zu
- 1:18:24sein, äh die halt auch besser
- 1:18:25motivieren. So, insofern sehe ich das
- 1:18:29eigentlich als Möglichkeit, da Sachen zu
- 1:18:32humanisieren,
- 1:18:34die halt momentan nicht möglich sind,
- 1:18:37weil es halt einfach viel zu teuer wäre,
- 1:18:39weil es halt einfach nicht möglich ist,
- 1:18:40dafür jeden so einen persönlichen
- 1:18:42Pfleger einzustellen, der sich um einen
- 1:18:44kümmert. Aber ein persönlicher Roboter,
- 1:18:48das ist wahrscheinlich erschwinglich.
- 1:18:50Und natürlich ist es nicht so gut wie
- 1:18:52ein Mensch, aber es ist besser als kein
- 1:18:55Mensch.
- 1:18:56Also, das ist halt so, ich meine, man
- 1:18:59sollte halt da nicht hergehen und zu
- 1:19:00sagen, äh, dass halt da das Gute äh der
- 1:19:04Perfektion ist da oft äh der Feind des
- 1:19:07Guten.
- 1:19:09Und statt dann eben nichts zu haben,
- 1:19:11weil es nicht perfekt ist, wäre es also
- 1:19:13viel besser was zu haben, was halt da
- 1:19:15zumindest gut ist. Gut, da bin ich
- 1:19:17vielleicht ein bisschen pragmatisch oder
- 1:19:19vielleicht ein bisschen naiv, aber ich
- 1:19:22kann mir daad durchaus vorstellen, dass
- 1:19:24es insgesamt die Lebensqualität
- 1:19:25verbessern wird.
- 1:19:27Was insgesamt kommt, es ist sehr sehr
- 1:19:30schwer zu sagen. Jenseits der nächsten
- 1:19:32ein zwe Jahre, wenn wir uns überlegen,
- 1:19:35Beispiel stellen wir uns ein gehen wir
- 1:19:36einfach mal zurück auf 2024.
- 1:19:40Damals glaube ich nicht, dass die
- 1:19:42meisten Leute so wirklich gesehen
- 1:19:44hätten, was jetzt 26 passiert. Dann wür
- 1:19:47die Coding Agents von 24 anschaust, die
- 1:19:49waren nutzlos. Mittlerweile sind sie
- 1:19:52sehr sehr gut. Z.B. Open Claw hätte
- 1:19:54wahrscheinlich vor einem Jahr noch
- 1:19:55niemand so richtig vorher gesehen und
- 1:19:58das wäre auch vor einem Jahr noch nicht
- 1:20:00passiert, weil damals nämlich die ganzen
- 1:20:01Frontier Models noch nicht gut genug
- 1:20:03waren, um so ein System autonom einige
- 1:20:06Zeit laufen zu lassen. Natürlich hat der
- 1:20:09Peter Steinberger da was großartiges
- 1:20:10gebaut, weil wenn er das Ich meine, der
- 1:20:13war auch vorher schon großartig. Der hat
- 1:20:14auch vorher schon großartige Sachen
- 1:20:15gebaut, aber wenn der da, wenn der Open
- 1:20:17Clown ja vorher gebaut hätte, wä es
- 1:20:19gescheitert.
- 1:20:21Das er war
- 1:20:24derjenige, der das gerade zum richtigen
- 1:20:26Zeitpunkt entdeckt hat und dann drauf
- 1:20:29aufgebaut hat, aber ja, das ist halt
- 1:20:32sehr sehr schwierig zu sehen, was da
- 1:20:34Menschen erfinden werden in den letzten
- 1:20:37ja nächsten paar Jahren. Das das ist ist
- 1:20:40unglaublich spannend. Ja, das wird ja
- 1:20:41dann auch wieder eine ganz elementare
- 1:20:43Symbiose werden zwischen Voice AI und
- 1:20:45den Pflegerobotern beispielsweise. Also
- 1:20:47genau dort werdet ihr dann auch
- 1:20:49sicherlich wieder ins Spiel kommen und
- 1:20:51wir haben heute einen sehr guten
- 1:20:52Rundumschlag gemacht. Also, ich hätte da
- 1:20:54noch viele Fragen, aber schreibt's gerne
- 1:20:55mal in die Kommentare, ob ich da noch
- 1:20:56ein zweiter Teil mit dem Alex
- 1:20:58interessieren würde. Ich habe jetzt doch
- 1:21:00noch mal eine letzte Frage, die mich
- 1:21:02trotzdem interessiert, Alex, weil du
- 1:21:03bist ja jetzt seit über 20 Jahren im
- 1:21:06Ausland, im Silicon Valley jetzt äh seit
- 1:21:09einiger Zeit und demnach interessiert
- 1:21:11mich natürlich auch so dein Blick auf
- 1:21:13Deutschland jetzt gerade mit dem
- 1:21:15Hintergrund Perfektion ist der Feind des
- 1:21:17Guten. Genau das erlebe ich hier immer
- 1:21:19wieder. Also, dass man sagt, im Zweifel
- 1:21:21führen wir KI nicht ein, weil es könnte
- 1:21:23ja ein paar Halluzinationen geben und
- 1:21:24dass der Mensch selbst eigentlich viel
- 1:21:26schlechter ist oder selbst halluziniert,
- 1:21:28das wird dann gern übersehen. Ähm und
- 1:21:31deswegen interessiert mich, wie du
- 1:21:32natürlich von von dort aus jetzt mal so
- 1:21:34ganz allgemein auf Deutschland blickst.
- 1:21:37Ähm wie steht Deutschland aus deiner
- 1:21:39Perspektive da in diesem KI Wettrennen,
- 1:21:43wenn wir es mal so nennen wollen, im KI
- 1:21:44Zeitalter ganz grundsätzlich. Was ist
- 1:21:46deine Meinung heute zu Deutschland? Und
- 1:21:50ja, welche welche Ratschläge hast du
- 1:21:52vielleicht auch an alle die die
- 1:21:54Unternehmer, die die hier sind?
- 1:21:56Ich muss dazu sagen, ich lebe hal jetzt
- 1:21:58schon seit na ja 26 Jahren im Ausland.
- 1:22:01Also insofern
- 1:22:03weiß ich jetzt nicht, ob ich jetzt da
- 1:22:05wirklich die genaueste Einsicht habe
- 1:22:08darüber, was genau in Deutschland
- 1:22:09passiert. Es gibt auch gute Startups da,
- 1:22:12also z.B. also wie gesagt Priabs, die
- 1:22:14haben gute Arbeit gemacht. Imid dann in
- 1:22:17Österreich, die wurden jetzt gerade vom
- 1:22:18Bistral aufgekauft, die haben auch gute
- 1:22:20Arbeit gemacht. Also, es gibt also auch
- 1:22:22wirklich äh gute
- 1:22:26gute Ansätze da, gute Arbeit. Das ist
- 1:22:29ähm also das ist ja eben wie gesagt
- 1:22:31nicht so, dass da Amerika das
- 1:22:33Ideenmonopol hätte oder China oder was
- 1:22:35auch immer. Gute Leute gibt's überall
- 1:22:38ein paar Probleme. Als wir damals mit
- 1:22:41bei Boson angefangen haben, habe ich
- 1:22:43mich auch in Deutschland ein bisschen
- 1:22:44umgeschaut nach Investitionen und so
- 1:22:46weiter und die waren auch alle
- 1:22:48interessiert, aber das ging halt alles
- 1:22:49ein bisschen langsamer
- 1:22:52und bis es dann dort fertig gewesen
- 1:22:55wäre, da waren halt die Sachen schon
- 1:22:58erledigt.
- 1:22:59So, Geschwindigkeit der Entscheidung ist
- 1:23:02halt schon sehr sehr wichtig und na ja
- 1:23:07ähm ja, die die Geschichte äh wartet
- 1:23:11halt nicht auf die zu spät kommen. Also,
- 1:23:14ich habe da jetzt den Gbertoff ein
- 1:23:15bisschen falsch zitiert, glaube ich,
- 1:23:17aber so im Wesentlichen hat der das auch
- 1:23:18gesagt. Ähm, na ja, das ist halt
- 1:23:21wirklich so, dass halt Geschwindigkeit
- 1:23:23wichtig ist.
- 1:23:24Das zweite, was vor allem in Deutschland
- 1:23:28ein großes Problem ist, sind die
- 1:23:29Energiekosten.
- 1:23:31Und
- 1:23:33da muss man sich halt überlegen, ob da
- 1:23:35manche Entscheidungen, wie man halt wie
- 1:23:38halt die Energie z.B. da
- 1:23:41erzeugt wird, ob es da ob da der der
- 1:23:44richtige äh Trader ob da die richtige
- 1:23:47Güterabwegung wirklich passiert ist. Ich
- 1:23:50meine, ich bin jetzt da kein
- 1:23:51Energiepolitiker in Deutschland.
- 1:23:53Insofern kann ich, ich kann halt nur vom
- 1:23:56Ausland her sagen, dass halt Energie in
- 1:23:58Deutschland ein bisschen teuer ist und
- 1:23:59das bedeutet halt dann gleich auch
- 1:24:01wieder das Datenzentren und damit dann
- 1:24:03dann halt auch die ganze Rechnung und so
- 1:24:05weiter halt alles eher nicht so
- 1:24:08passiert, das ist ein Problem. Ähm des
- 1:24:11weiteren ist es so, dass halt
- 1:24:15Deutschland insgesamt schon sehr
- 1:24:17vorsichtig ist mit Entscheidungen
- 1:24:20und das hat schon hat schon auch so
- 1:24:23seine Vorteile, denn wenn man vorsichtig
- 1:24:25ist, macht man nichts falsch,
- 1:24:27aber wenn man vorsichtig ist, macht man
- 1:24:29halt auch oft was nicht richtig.
- 1:24:32Und
- 1:24:34na ja, manchmal ist, glaube ich, da die
- 1:24:36Balanz zwischen äh ja, Vorsicht und
- 1:24:40Sturm und Drang
- 1:24:42nicht ideal. Ich meine, wenn wir uns so
- 1:24:44die die Gründerzeit anschauen,
- 1:24:47so ich glaube nicht, dass die Vorsicht
- 1:24:49da da so groß war oder z.B. als das Auto
- 1:24:51da erfunden wurde, da haben die Leute
- 1:24:54auch dagegen protestiert und so weiter
- 1:24:56und trotzdem gab's das Auto und na ja,
- 1:25:00das hat halt auch ein Jahrhundert später
- 1:25:02noch äh Konsequenzen. Insofern
- 1:25:07muss man sich halt schon überlegen,
- 1:25:09wie hungrig müsste man denn sein? So
- 1:25:15z.B. halt so die Überlegung, macht's den
- 1:25:17Sinn einfach zu sagen, ja, wir haben
- 1:25:18genug, wir brauchen nicht mehr. Gut,
- 1:25:20dann bekommt man halt auch nicht mehr.
- 1:25:22Dann bekommt man genau den Status quo.
- 1:25:24Aber dann darf man halt auch nicht
- 1:25:26traurig drüber sein, wenn halt jemand
- 1:25:27anderen mehr an, wenn andere halt d mehr
- 1:25:30als das Status quo bekommen. Das ist
- 1:25:33eine Gesellschaftsentscheidung,
- 1:25:35die kann ich nicht treffen. Aber
- 1:25:39ich meine, es ist manchmal bin ich schon
- 1:25:41bisschen traurig, aber das ist gut, das
- 1:25:43ist jetzt so ein bisschen meine, ich
- 1:25:45glaub politische Meinung und das ist ein
- 1:25:49KI Interview, das lassen wir vielleicht
- 1:25:51nicht auf die Politik dann konvergieren.
- 1:25:53Gleichzeitig muss man sich natürlich
- 1:25:55auch schon drum kümmern, dass halt die
- 1:25:57Ärmsten da nicht auf der Strecke
- 1:25:58bleiben. Beispiel drum haben wir halt
- 1:26:00auch diese ganzen Materialien da
- 1:26:02kostenlos zur Verfügung stellt, damit es
- 1:26:04allen Menschen möglich ist, was zu
- 1:26:05lernen.
- 1:26:07Also es ist wichtig, dass es möglich ist
- 1:26:09gleichzeitig allen Menschen eine
- 1:26:11Möglichkeit zu geben, aber auch im
- 1:26:14gleichen Adenzug, wenn dann jemand halt
- 1:26:15was großartiges macht, dass die halt
- 1:26:18dann auch davon profitieren können und
- 1:26:21so bisschen diese Balance, das ist halt
- 1:26:25Gesellschaftsabkommen. Das ist so
- 1:26:28bisschen meine Meinung, aber ja. Ja,
- 1:26:30aber es ist ja es ist ja doch super
- 1:26:32interessant, also dieser Blick von außen
- 1:26:34auch von jedes noch mal so in der
- 1:26:36Deutlichkeit auch zu hören. Das kann ich
- 1:26:38so in jedem Fall nur unterstreichen und
- 1:26:40wie gesagt, schreibt es gerne mal in die
- 1:26:41Kommentare, ob ich noch ein zweiter Teil
- 1:26:42interessiert. Ich bin mir sicher, dass
- 1:26:43wir hier noch mal sprechen werden, Alex.
- 1:26:45Also, vielen Dank dir für die spannenden
- 1:26:47Einblicke und gerne bis zum nächsten
- 1:26:49Mal.
- 1:26:49Okay, vielen Dank dann noch. Tschüss.
About this transcript
This page contains the full transcript of Ex-Amazon-KI-Chef: „Digitale Menschen KOMMEN, das ist ganz klar!" (Alex Smola) by Everlast AI, generated from the public captions YouTube serves with the video. The transcript has 14,696 words across 2,346 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.
What you can do with it
Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to choose a caption track available on the video.
Free YouTube transcript tool
YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, caption language selection, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.