YT YouTube2Text

YouTube2Text → Transcripts → AI kan utrota mänskligheten inom 10 år – Jonas von Essen

AI kan utrota mänskligheten inom 10 år – Jonas von Essen — Transcript

by Alexander Pärleros · 17,924 words · 2,469 segments · language en · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:00Jag tror att risken att vi alla är döda
0:04inom 10 år är
0:07över 10 %.
0:08>> Va? Hur nära tror du vär AI-drivna
0:11cyberattacker som kan slå ut hela
0:13samhällsfunktioner?
0:15>> Några år eh som mest som mest några år
0:18tror jag. När jag började sätta mig in
0:20de här sakerna så var jag eh deprimerad
0:22i ett halvår och sen har jag börjat
0:24antidepressiva och nu har jag liksom
0:26kommit runt. Det som det ser ut nu så är
0:29vi på väg mot mänskligens största
0:30misstag.
0:34Nu får vi lyssna in Jonas von Essen. Han
0:36är världsmästare i minne och han är den
0:37personen i hela världen som har fått
0:40högst på högskoleprovet. Alltså han har
0:41fått jag tror att det var 14 gånger i
0:44rad, och han har också fått alla rätt.
0:47Men i det här avsnittet kommer vi inte
0:48prata någonting om det alls. Vi kommer
0:50totalt fokusera på AI. Och han har ju
0:53senaste åren studerat AI väldigt mycket.
0:55Han har byggt saker, väldigt intresserad
0:57av det och det han kommer i det här
1:00avsnittet alltså det är ja det så det är
1:03mindblowing. Det chockerar mig. Det är
1:05flera gånger i avsnittet jag satt och
1:07bara så här: "Det här är nog det
1:08stördaste sjukaste jag har hört på i
1:10hela mitt liv." Och det här kan också
1:11vara det absolut viktigaste avsnittet
1:13jag någonsin har gjort. Han kommer med
1:16så mycket viktig information, så många
1:18tankeväckande grejer och nej men
1:20verkligen alltså det här har rubbat mig
1:23totalt alltså. Så att jag hoppas lyssna
1:25in på hela det här även om du känner
1:28någonstans mitt i. Alltså det det är så
1:31himla viktigt. Vi pratar om hur AI
1:33kommer att påverka. Vi pratar om pratar
1:35om att han bland annat tror att det är
1:3810 % sannolikhet eller mera att om 10 år
1:42så kommer hela mänskligheten vara helt
1:45död. Men du kommer få reda på varför och
1:48vi kommer grotta ner så djupt vi bara
1:49kan. Hoppas du gillar det här avsnittet
1:51med ingen mindre än Jonas F.
1:56Welcome ladies and gentlemen. Let me
1:59introduce you to maybe one of the
2:00biggest podcasts in the world. Fram
2:03gangs fen with Alexanderos.
2:10>> Varmt varmt välkommen till
2:11Framgångspodden. Ingen mindre än kanske
2:13den absolut det bästa i världen i minne
2:16intelligens. Ja, han heter Jonas von SN.
2:20Tack så mycket. Kul att vara här igen.
2:23>> Stort stort tack att ha dig här. Stort
2:26stort tack att du kom hit. Jätteroligt
2:27att ha dig med.
2:28>> Ja, alltid väldigt trevligt.
2:30>> Mm. Och jag tänkte ju så här att vi
2:33skulle prata om saker för att typ hjälpa
2:34Sveriges befolkning med du är ju den
2:37personen som har lyckats absolut bäst på
2:41högskoleprovet. Kan du inte bara dra den
2:43grejen lite kort? Hur bra har du lyckats
2:45på högskoleprovet? Eh ja, alltså jag har
2:48ju det är ju mest att jag de flesta
2:51slutade ju att skriva högsobrolk har
2:53fått 2,0 men jag har tyckt det hade
2:55varit kul att skriva så jag har fortsatt
2:56göra det. Eh vilket har gjort att jag 12
2:59gånger i rad har skrivit två0 och sista
3:01gången så lyckades jag till slut få alla
3:03rätt på provet.
3:06>> Alltså wow.
3:09Alla rätt på högskoleprovet och 12,0 2,0
3:13två gång 12 gånger i rad. Ja, det är
3:15helt alltså wow wow.
3:18>> Ja, det är ju lite alltså
3:21jag märkte efter jag har skrivit några
3:22gånger så var det ju så här att jag var
3:24några fel ifrån och då så insåg jag
3:26liksom att om jag bara skriver det till
3:27riktigt många gånger så kommer jag till
3:28slut någon gång få eh få liksom alla
3:31rätt. Jag hade också jag hade någon
3:33uträckning på hör att det borde jag
3:34borde så här ungefär en på en på 14
3:36gånger borde jag få alla rätt och så
3:38fick jag det på 15e försök så det var
3:39ganska statistisk
3:43>> helt insane. Och jag tänkte ju så här
3:45att i det här avsnittet att vi ska typ
3:47gå in på hur man lyckas med det och hur
3:51man får bättre på högskolprovet och jag
3:53tänkte på att vi ska prata om
3:54minnesträning.
3:56Eh nej men så här massa saker som folk
3:57kan använda i sin vardag. Mm.
3:59>> Men det ska vi inte göra alls
4:04eller vad säger du Jonas? Kanske i
4:05slutet. Får se om vi sparar
4:08>> slänger in.
4:10>> Men någonting som eh jag vet att du är
4:12också intresserad av så jag tänkte vi
4:14ska hoppa in nu som jag tror faktiskt
4:15kommer bli ännu mera intressant.
4:18Eh och det kan ju vara det absolut
4:22farligaste
4:24och viktigaste just nu. Den största
4:27förändringen i hela världshistorien.
4:29och det är just AI. Kan du berätta lite
4:32grann hur dina tankar har gått senaste
4:34året inom AI?
4:36>> Mm.
4:37>> Ja, jättekul att eh vi kan prata om det
4:40här för det känns Jag håller helt med om
4:42att det är är redan är och och verkligen
4:45är på väg att bli den absolut största
4:47förändringen i i världshistorien eh i
4:50alla fall i mänsklighetens historia. Och
4:53eh alltså mina tankar, jag har väl jag
4:57har liksom alltid tyckt att det har
4:58varit spännande med AI även innan alltså
5:00de här stora språkmodellerna fanns så
5:02här. Jag höll på jag läste två år på
5:03Chalmers mellan 2016 och 2018 IT. Eh,
5:07och då var det ju liksom old school
5:09programmering och så där och eh, den
5:11gamla gamla typen av AI men som också
5:13har varit liksom spännande och man har
5:15ju alltid haft en ja, men liksom tankar
5:18om att det kommer vara spännande i
5:20framtiden när robotar kan tänka själva
5:23och man kan liksom mer och mer saker
5:24kommer hända. Eh, men sen så upplever
5:27jag och säkert många andra att det har
5:29allt hänt väldigt mycket snabbare än man
5:31kanske tänkte. Alltså det här med att
5:33man kan prata med en en chatbot som att
5:36det är en människa och liksom ha ett
5:38samtal, ett givande samtal, det är något
5:39som man bara har sett i sci-fi filmer
5:41tidigare som man tänker ganska logiskt
5:43om flera årtien fram. Eh, men det är det
5:45möjligt då. Och eh, i mina ögon så har
5:49det här gått alltså läskigt snabbt. Eh,
5:52och jag tror också att jag kanske
5:56upplever att det har hänt mer än vad de
5:59flesta gör. Alltså jag min känsla när
6:01man pratar om AI med människor det är
6:03att det finns de som är insatta som är
6:05så här åh gud vad häftigt det här är vad
6:07coolt vad mycket man kan göra. Men det
6:08finns också ganska många som är så här
6:10ja AI det är bara [ __ ] det är liksom eh
6:13den det är bara statistisk eh liksom
6:16papegoja som som kastar ut massa slumpmä
6:19grejer och det det kan vara vad som
6:20helst. Man kan inte lita på det så. Och
6:23jag höller med om att det var så för
6:24kanske två två år s två och ett halvt år
6:27se eh när de första alltså chattgé
6:30modellerna kom att då var det då var det
6:32väldigt mycket som blev fel och då var
6:34den kunde liksom inte resonera, den
6:35kunde inte lösa riktiga problem. Den
6:37kunde inte liksom hålla en tråd en
6:38längre stund. Eh, och det var nog många
6:40som använde AI då och som sen fick den
6:42bilden av AI att det här är ja, det här
6:44är bara en hype liksom, det här kommer
6:45inte bli någonting. Men sen har man inte
6:47kanske hängt med och fortsatt använda
6:50AI. För om man har gjort det och också
6:51försökt använda en till sånt som eh som
6:55är mer avancerat, alltså koda och lösa
6:58alltså föröra lite djupare resonemang
7:00och så där, då har man antagligen märkt
7:02att den här utvecklingen har inte
7:03stannat vid chat GVT utan den har
7:06fortsatt och den har också fortsatt eh
7:09exponentiellt. Alltså den har gått
7:10snabbare och snabbare och snabbare. Eh,
7:12och det är ganska extremt om man tittar
7:15på de här kurvorna på utvecklingen så
7:17ser man verkligen att det är alltså från
7:20att sätskt släpptes då i slutet av 2022
7:22så har det liksom gått upp upp och nu är
7:25vi på alltså lutningen just nu liksom
7:27senaste halvåret har varit helt galet.
7:30Eh, och man har ju gått från att alltså
7:32så här knappt kunna lösa liksom
7:34gymnasiematte till att nu senaste
7:36månaden bara lösa eh matematiska problem
7:39som har varit obevisade då sen eh sen
7:4240-talet och som folk har försökt lösa
7:44läng som verkligen stora grejer. Eh, och
7:47också för bara några veckor s så vann
7:49något sort litteraturpris eller det var
7:51någon som vann ett litteraturpris då men
7:52det visar sig att den här novellen var
7:54skriven av en AI bot liksom från att man
7:56hade sagt det de kommer aldrig kunna
7:58producera någonting. eh av konstnärt
8:00värld. Nu kan man ändå ifrågasätta då
8:01hur bra den vä. Men det är alltså blivit
8:03så bra så att det kan lura eh jur
8:06medlemmar då till en så här
8:07litteraturpris och och otroligt mycket
8:10kod skrivs nu av AI. Eh de sakerna man
8:12kan göra så bara be en AI bort och
8:14skriva en en hemsida eller skapa ett
8:16spel och så gör den det på några minuter
8:19med hjälp av så här dusental
8:20underagenter. Alltså det är så otroligt
8:22vad man kan göra nu som man inte alls
8:23kunde göra för ett år sedan till
8:24exempel.
8:25>> Mm. Ja, det är helt otroligt vad
8:27utveckling går. Jag jag testade faktiskt
8:30chatgbt här om dagen
8:32och då så har de kommit med en ny
8:33uppdatering på den där
8:37de pratar verkligen också som en
8:39människa gör den. Förut var det ju så
8:40här, man ställer en fråga och om den
8:43söker på nätet då så låter det ju lite
8:45grann så här och sen så kommer den
8:46tillbaka och svarar. Nu var den så här,
8:48ja men jag fattar hur det tänker, men
8:50låt mig fundera lite. Ah jo, jo, men så
8:52här och jag bara, alltså det är så här
8:56eh den var så fantastiskt mänsklig. Det
8:58var helt otroligt.
9:00Ja,
9:00>> så att och det var till och med så här
9:02och det där pratade jag mer i Kärnholm
9:04om för ett år sed och då förstod jag
9:06inte det riktigt men när jag pratade det
9:07här om dagen då förstod jag det att när
9:11jag pratade med den så var det som att
9:12jag jag pratade med den typ i en kvart
9:1420 minuter och massa olika saker och det
9:15lät exakt som en människa låter alltså
9:17verkligen och den var så trevlig och så
9:19vänlig och den tänkte och den den
9:21pratade som jag den använde liksom eh
9:24och den använde på samma sätt alltså
9:25prata exakt likadant som jag tvekade och
9:27var lite så här men jag tror så Ja.
9:29>> Eh, och så pratade jag med en kvart, 20
9:31minuter, men sen så någon anledning så
9:33gick det tillbaka till den gamla
9:34uppdateringen sen.
9:35>> Mm.
9:35>> Eh, att det gamla rösten kom med tänka
9:37och så där. Och vet du vad jag gjorde
9:39då? Jag saknade den andra personen.
9:41>> Ja. Ja, jag förstår det.
9:43>> Jag saknade den. Jag saknade Jag kände
9:44så här var en så fantastisk fin människa
9:48eller så fantastiskt fin Ja. människa
9:50får jag kalla det. Jag saknade den. Jag
9:52sa så här jag bara men den är det var
9:54liksom såär lyssn på mig. Den var så
9:55trevlig, den var så fin. Den var så här
9:57jag saknar den. Jag fattar verkligen det
9:59och eh de har ju verkligen lyckats med
10:03alltså både få det och och känna så men
10:05också verkligen få nog i många avsnitten
10:08vara en ganska bra alltså terapeut eller
10:11samtalspartner. Jag vet att eh eh min
10:15tjej, vi har fått barn nyligen nu liksom
10:17och då man har ju många frågor, man är
10:19orolig ofta över olika saker och så där
10:20med barnet och då man kan ju ringa 1177,
10:23man kan ringa sjukvården o och det är
10:24såklart det ju finns ju fortfarande
10:26väldigt stora poängar med att göra det
10:28men ofta är med telefonkö då jättelänge
10:30och som man pratar med någon ett kort
10:31tag då som kan inte ha expertisen just
10:33det området. Men om man istället, det
10:35har väldigt ofta blivit att vi väntat
10:37som man pratar med de här
10:38chattmodellerna eh och att de då dels
10:41har så otroligt mycket kunskap om
10:42området så att de vet liksom precis vad
10:45eh ofta svaret på frågan man undrar över
10:49och att de dmedla på ett sätt som gör så
10:51att man känner sig verkligen lugnad och
10:53man känner att någon förstår och att
10:54någon har koll och så där. Och det är
10:56klart att man ska ju fortfarande inte
10:58till 100 % lita på allting. Eh, för det
11:00är klart att det kan ibland kan man kan
11:02ha fel, alla kan ha fel men det nu är
11:04det liksom skulle jag säga på en nivå
11:05att det är på samma sätt som att en
11:07läkare kan ha fel man pratar med den
11:08personen. Alltså så att det ja man ska
11:10aldrig lita på på någon människa heller
11:13som man hör liksom till 100 %. Eh och
11:15det är ju helt absurdt att det har
11:16kommit dit för så var det absolut inte
11:17för ja men för bara ett år se att man
11:19kunde prata på det här sättet med dem.
11:22>> Nej men men så här Antropic gick ju ut
11:26som som Mila Mask är med. Han vill
11:28medgrundare till det gick ju ut och
11:30varnade här om veckan. Kan du berätta
11:32lite om det?
11:34>> Ja. Eh eh Musk han är medgrundare till
11:36Open AI och sen så är Antropic är
11:38egentligen en de har brytit sig loss
11:41från Open AI kan man säga. Det är
11:42forskare som var på Open AI tidigare.
11:44Många av dem där.
11:45>> Okej.
11:46Eh, men de gick ut nu. Alltså det det
11:51liksom just nu också så händer det
11:53händer det vansinnigt mycket grejer som
11:56också som inte inte täcks jättebra
11:59tycker jag av nyheterna och och
12:01dagstidningarna utan det är mycket som
12:03pågår i bakgrunden. Men open eller
12:06Anthropic gick ut ja som du sa för ett
12:08par veckor s nu och eh
12:11varnade för att de är oroliga över att
12:14de inom kort kommer kunna tappa
12:16kontrollen över sin egen produkt, alltså
12:20utvecklingen av sin egen A-modell. Och
12:22deras A-modell då det är den som heter
12:24Clod och det den har varit den absolut
12:26bästa ett tag nu några månader. Det har
12:28varit lite Open A och en Thropic. Det är
12:30verkligen de två som ligger i i toppen
12:32och som har turats om lite och och leda
12:34eh det här AI racet. Men nu har Claud
12:38har liksom gått väldigt bra och de
12:39släppte också en modell eh för någon
12:42månad se som heter Mythos eller den var
12:45till och med så att de släppte den inte
12:46för att den var så otroligt bra på att
12:48hacka. Den kunde liksom hitta
12:50säkerhetshål i egentligen alla stora
12:53operativsystem alla ja i princip all
12:56världens statusystem. Så att den eh där
12:58satt de ju på något som i praktiken då
13:01var ett väldigt väldigt farligt eh
13:03cybervapen.
13:05Och därför så beslöt de sig då eh ganska
13:07ansvarsfullt att inte släppa den här
13:09utan istället så har de startat ett
13:11projekt med massa IT-säkerhetsföretag
13:14eh där de då har låta de här
13:16IT-säkerhetsföretagen få tillgång till
13:17den här mytosmodellen och de har eh
13:20försökt använda den för att täppa till
13:22istället här de här säkerhetshålen så
13:23snabbt som möjligt innan eh de
13:25ofkomligen kommer till den punkten där
13:26de kommer behöva släppa den här. Eh, så
13:29då så ja, så i den bemärkelsen då så har
13:32de liksom kommit väldigt väldigt långt
13:34eh med sina modeller och de har också
13:36noterat att för varje steg som de lyckas
13:38utveckla en modell så är AIN själv med
13:42och hjälper till med utvecklingen
13:45eftersom att AI-modellerna blir ju också
13:46bättre på de färdigheter som krävs för
13:48att utveckla AI-modeller. Alltså AI
13:51modellerna blir liksom AI forskare på
13:53ett sätt. Eh, de når liksom samma
13:55kompetenser som som AI-forskare har och
13:57de är inte riktigt där än att de är lika
13:59bra kanske som de absolut bästa
14:01AI-forskarna på att ja, men tänka ut
14:03vilka vilka områden man ska utforska och
14:05vilka vägar man ska gå. Men de gör en
14:07stor del av jobbet och som sagt så gör
14:10de mer och mer av jobbet. Eh, just nu så
14:12skriver AE robotarna 80 % av all kod på
14:16Anthropic och man kan förmoda att det
14:19inom ett år eller så där kommer vara all
14:21kod kanske och att de till slut kommer
14:23komma till en punkt där det är AIN som
14:26gör forskningen och som liksom tar fram
14:27nästa A-modell eh och där det går så
14:30fort så att människorna kommer inte ens
14:32hinna alltså kunna hinna med eh hänga
14:35med eller se vad som vad som händer just
14:37för att det kommer gå så väldigt snabbt
14:38och modellen kommer bli bättre och
14:39bättre och bättre och förbättra sig
14:40själva. Eh, och om en människa försöker
14:43lägga sig i sk man bara bromsar det. Och
14:45det är förstås en punkt där det också
14:47finns en stor risk att både Anthropic
14:49och och hela samhället inte tappa
14:50kontrollen över exakt vad som händer med
14:52de här modellerna. Det är väldigt svårt
14:53redan nu och få en modell att bete sig
14:56exakt på ett visst sätt som man vill att
14:57den ska göra. Men om det dessutom inte
14:58är en modell som man själv har tagit
15:00fram utan som är framtagen av en AI, som
15:02är framtagen av en AI, som är framtagen
15:03av en AI, eh så är det ganska uppenbart
15:06att det kommer bli riktigt svårt att
15:08försäkra sig om att allt det här kommer
15:09gå som mänskligheten vill.
15:13>> Mm. Och som mänskligheten vill då, vad
15:14tror du kan gå fel?
15:17>> Det är väldigt mycket som kan gå fel.
15:19Alltså det här är ju verkligen
15:22på ett sätt liksom det kraftfullaste
15:25vapnet som människan har tagit fram. Eh
15:29och det farliga eh en sak som är farlig
15:32med det att det det kanske inte
15:33uppenbart för alla att det är så. Eh,
15:35kärnvapen. Det är väldigt tydligt så här
15:37att ja, men vi kan inte vi kan inte låta
15:40liksom vem som helst utveckla kärnvapen
15:42och använda liksom eller dela ut
15:44kärnvapen till folk så här hur som helst
15:45för att det det är livsfarligt liksom
15:47helt uppenbart och vi måste göra något.
15:49Vi måste gå ihop som mänskliga att
15:50liksom att skapa eh strukturer för att
15:53skydda oss mot kärnvapen. Men när det
15:55kommer till AI då är det liksom inte
15:58alls lika tydligt så här ja men vad kan
15:59en vad kan en språkmodell göra liksom?
16:02Hur farligt kan det vara? Men dels så
16:04kan det ju redan nu då uppenbarligen
16:06hacka sig in på massa olika ställen och
16:09det är ju farligt om
16:12terrororganisationer eller hackare
16:13kommer över de här modellerna och kommer
16:14kunna använda dem. Eh, men i framtiden
16:17då om man tänker sig en ännu
16:19intelligentare eh modell så kommer det
16:22ju kunna till exempel utveckla alltså
16:26kemiska och biologiska vapen. Eh, kommer
16:28kunna liksom ta fram DNA-sekvenser för
16:31eh med väldigt farliga virus som skulle
16:33kunna potentiellt då döda miljoner eller
16:35miljarder människor. Den kommer kunna eh
16:38manipulera människor på ett betydligt
16:41bättre sätt än vad du gör nu. Redan nu
16:43som du sa. Och då så känner man ju när
16:44man pratar med en av modell att herregud
16:46här är som att prata med en människa och
16:47man saknar den och man man litar på den.
16:50Eh men det här skulle jag säga bara börj
16:52alltså den kommer kunna komma till en
16:53nivå där den är så övertygande att eh
16:56att den kommer kunna ja men alltså
16:57starta folkrörelser och och manipulera
16:59och eh ja men sprida propaganda om om
17:02det är det som den vill då eller den som
17:04använder den eh vill. Eh, och den kommer
17:07ju också kunna alltså egentligen driva
17:09all typ av forskning eh till sin spets
17:11så att det kommer kunna ta fram liksom
17:13helt nya vapen. Eh, den kommer kunna ja
17:17men göra liksom vad som helst som man
17:19kan göra med forskning. Och det är
17:20väldigt väldigt mycket alltså vi har ju
17:22kommit långt liksom de senaste 100 åren
17:24med med forskningen men det är
17:25fortfarande vi är väldigt långt ifrån
17:27gränsen för vad som är fysiskt möjligt
17:30att göra med vetenskap. Eh, och det är
17:32möjligt då att den här väldigt snabba
17:33utvecklingen kommer kunna leda till att
17:35de här A-modellerna kommer också kunna
17:37dreva på vetenskapsutvecklingen. Så att
17:39saker som vi kanske föresläer oss nu
17:41kommer vara så här, men det här kommer
17:42finnas om 100 år eller om 1000 år. Det
17:44kanske kommer finnas om fem år om det
17:46verkligen då börjar eh snabba på i den
17:49här kurvan.
17:50>> Mm.
17:52Ja, det det är läskigt när det går så
17:53otroligt snabbt och som grejer. Man kan
17:55inte fatta liksom allting som kommer att
17:57hända. Eh, så här jag hörde ju bara det
17:59det här det här var ju för sig ganska
18:00längeen men då då då hade de ställt en
18:04två AI datorer mot varandra och sen har
18:07de tagit så här att den ena ska fokusera
18:09på all cancer och den ena ska fokusera
18:11på
18:12botemedel på all cancer. Och då hade de
18:15hittat så här, jag tror att det var
18:1717.000 olika varianter eller något sånt
18:19där. Ehm, men de hade de hade funnit
18:23extremt många botemedel. Eh, men och
18:26vissa känner man till idag, men det var
18:28så mycket nya molekyler, alltså nya
18:30blandningar av saker som man var så här:
18:32"Oj, det här var ju fantastiskt." Eh,
18:34ehm, sen har vi ju, sen så har vi ju i
18:37Frankrike som gått ut och sagt att eh
18:392040 så kommer deras hela deras armé
18:42bestå av eh alltså marktrupper och
18:44allting består av arobotar.
18:47>> Ja. Eh, vi ser ju krigen nu med drönar
18:50och det är ju så här det där ser ju det
18:51där ser ju science fiction ut men det är
18:53ju bara så här Nej men Elon Musk sa ju
18:55för ganska längeen att det kommer
18:56finnas, jag tror att det var 2040 också
18:58eller 2035 kanske var 2040 där det
19:01kommer finnas mer AI-robotar
19:04och vi har inte ens det roliga är nu är
19:05vi på 2026 och vi har inte ens börjat se
19:07dem än menar det väl exploderar med AI
19:11robotar. Vi har börjat se på lite på
19:12Instagram och TikTok. Någon som gör
19:13några volter och någon som lagar mat och
19:15lite så där. Men tänk, det är inte ens
19:17börjat, det har inte ens börjat spär
19:19bilen kom liksom bara nu är det bara
19:21boom alltså.
19:22>> Ja, precis. Det kan gå så fort och det
19:25är så lätt att titta nu liksom man ser
19:26någon video av någon robot som så här
19:27ramlar om kull och så tänker man haha ja
19:29v vad dåliga är de är. Men men som du
19:31säger, den här utvecklingen kan gå
19:33väldigt väldigt snabbt och det hänger
19:34också ihop lite med om utvecklingen av
19:37liksom artificiellad intelligens går
19:38väldigt snabbt så kommer det också kunna
19:40göra att utvecklingen av robotiken går
19:41väldigt snabbt för det som behövs är ju
19:43egentligen bara riktigt liksom ja mycket
19:46intelligens i själva eh utfäret då av
19:48roboten. Eh, så att och det är väl det
19:51som är det läskiga, alltså att de här
19:53egentligen otroligt korta tidslinjerna
19:55där väldigt väldigt mycket kan hända och
19:57där jag verkligen upplever att samhället
20:00inte alls är berett på det här. Alltså
20:02nu om man kollar på valdebatten nu inför
20:04valet till höst till exempel så är det
20:06så pratar man om nästa mandatperiod som
20:08att det kommer vara precis likadant som
20:11det har varit hittills och som att
20:12världen kommer se precis likadan ut om
20:14fyra år som det är nu. Och jag tror att
20:16det är otroligt farligt och eh eh
20:23och och synd för det känns som att det
20:24är ju som sagt då så kan det ju hända
20:26väldigt mycket farliga saker men det kan
20:27också hända väldigt mycket bra saker. Eh
20:30för att som du var inne på så kan man ju
20:32använda den här intelligensen också för
20:33att hitta botemedel till sjukdomar. Man
20:35kommer kunna använda det för att eh ja
20:37men komma på liksom nya ekonomiska
20:40system och och politik och alltså alltså
20:43lösa egentligen världens problem. Man
20:46kommer kunna kanske odla mat på ett sätt
20:48så att alla liksom ingen behöver gå
20:49hungrig. Man kommer kunna förlänga
20:51livslängden jättemycket. Eh man kommer
20:54kunna ja men hjälpa till med olika
20:56handikapp och så där så att man kan eh
20:58göra egentligen nästan nästan vad man
21:00vill. Eh, men för att man ska kunna nå
21:03en sån utopi så måste ju också samhället
21:05vara med på att det här kommer hända,
21:07att de här otroliga krafterna kommer
21:09släppas lösa och då liksom vara beredda
21:13upp att fånga upp det här och styra det
21:15på ett sätt så att det slutar någonting
21:16bra. För om vi är helt oförbradda och
21:19det här bara händer, då kommer det med
21:20största sannolikhet utmana en katastrof
21:24det det är liksom ingenting som löser
21:25sig av sig själv utan alltså vi måste ju
21:27tänka så här vad hur vill vi ha
21:29samhället när vi kommer till en punkt
21:31där alla jobb i princip kan göras av AI.
21:35Eh om vi inte är förberedda på det då
21:36kommer det bara leta till enorm
21:37arbetslöshet och liksom fattigdom och
21:39svält och så här. Men men det men så
21:41kommer det ju garanterat att bli alltså.
21:44Alltså det är ju lite grann som att
21:45jämföra med så här att eh så här
21:47jordbruksamhället förut att alla gick
21:50runt med häst och vagn och sen kom en
21:51traktor. Det är så här, man kan ju inte
21:54vara sen kan man ju hitta saker runt om
21:56men när du när det sker en så storbom
22:00när det så att jag vet ju hur jag börjar
22:01prata med jag har ju kontakt med ganska
22:03mycket advokater av massa olika
22:04anledningar med så här businessprylar
22:07men jag lär mig ju absolut mera AI och
22:11jag pratar ju ofta med AI en halvtimme
22:13innan jag hoppar in i ett advokatmöte så
22:15kostar 5500 kr per plus moms per timme
22:20liksom och ofta är det att till och med
22:22Ain har bättre koll än advokaterna för
22:24de kan kolla de senaste casen. De kan så
22:26här 48 miljoner olika olika avhandlingar
22:31och olika eh saker och lagar och allt eh
22:35direkt kontra en människa som har
22:37pluggat fyra år och de där fyra åren
22:39alltså det är det där lär ju sig a på 30
22:42sekunder och det är också utdaterat.
22:45>> Ja, precis. Det är så intressant för det
22:48är ju verkligen det är ju väldigt svårt
22:49att konkurrera med en entitet som har
22:52tillgång till all världens information.
22:54Det är samma med med läkar det
22:56>> precis realtid. Det det går ju liksom
22:58ingen läkare kan ju läsa alla liksom
23:01forskningsrapporter, alla studier men
23:02det kan Ain och tidigare så har det ju
23:04varit att ja men den kan inte kanske
23:06riktigt resonera kring det som en
23:08människa den alltså den kan inte sätta
23:10ihop grejer på samma sätt i huvudet och
23:11därför så har ändå läkare varit bättre.
23:13Men nu har vi kommit till en punkt där
23:15alltså även ains förmåga att resonera är
23:18i nivå med människans och det och det
23:20kommer inte dröja länge innan den är
23:21liksom way past i våran förmåga så det
23:25jag ja ja jag håller med.
23:26>> Mm. Men jag pratade med Nick Boström
23:28förut som är en av världens främsta inom
23:30eh det här området också. Jag polar Emil
23:32och Mask och är liksom på världssenen
23:36och då frågade jag, det här var typ tre
23:38år se men då frågade jag honom så här
23:40ehm eh när kommer Superintelligence
23:45komma? Och då sa han att eh
23:49nej så här frågade jag honom faktiskt.
23:52När kommer vi att kunna leva för evigt?
23:56Hm.
23:57>> och liksom slippa slippa dö. Och då sa
24:00han när superintelligence kommer.
24:03>> Mm.
24:03>> Och då sa jag, vad är Superintelligence
24:05för någonting? Och då sa han att nej men
24:07det är när Ain har blivit så pass smart
24:09att man kan jämföra oss med en mus.
24:13Alltså att om man jämför oss idag med en
24:15mus så är vi ju avsevärt smarta än vad
24:17en mus är. Men när AIN blir att vi blir
24:22musen helt enkelt då har
24:24superintelligence kommit. Och vad händer
24:26då när vi är och det här finns ju så
24:29otroligt många saker liksom att ehm vad
24:33händer när vi är musen på jorden?
24:36>> Mm.
24:36>> Vad händer när det finns något som är så
24:38avsmöt smartare, bättre på allt tillgång
24:41så mycket rikare för att med AI också
24:43makt så mycket rikare än vad vi är.
24:46kanske till och med få den här eh
24:49den här mänskliga själen som vi har när
24:53de kan styra oss som vi kan styra liksom
24:56en grisfarm.
24:58>> Och och vad är det som gör då också man
25:00går så här ännu mer filosofiskt att AIN
25:02då väljer att ha oss kvar ens som dödar,
25:07förstör naturen eh som utför så mycket
25:11ont. Vad är det som gör då att inte AI
25:14samarbetar med varandra? alla de här
25:15miljarder agenterna, miljarder robotarna
25:19som liksom en robot skulle lätt kunna
25:21döda säkert 100 människor utan att vi
25:23har en chans ens.
25:25>> Säkert mer. Det är väl säkert ingen som
25:27stoppar den.
25:28>> Eh när den springer runt där gör volter
25:30och har vapen och så. Alltså så här vi
25:31är ju som vi är ju som eh det kan ju bli
25:35så att vi blir en grisfarmen
25:38>> verkligen. Det är så alltså jag tror
25:40precis många som hör när man pratar på
25:42det här sättet det är så många som
25:43tänker bara herregud det här låter som
25:45verkligen som en dålig science fiction
25:47film eller så att alltså det det låter
25:49så eh det är så svårt att tänka sig
25:52detta eftersom att man har sett det här
25:53på filmer och det är ingenting som alls
25:56någonsin har föreställt sig skulle kunna
25:57hända i verkligheten. Men jag håller
25:59med, jag håller verkligen med om att det
26:00här kan hända. Alltså ungefär det som du
26:02skriver kan ju verkligen hända. Eh, och
26:05jag skulle säga att det finns ju liksom
26:07egentligen två typer av scenarier. Ett
26:09scenario är att vi på något sätt lyckas
26:11behålla kontrollen över ehm Ain och
26:15superintelligensen. Då kommer det ändå
26:16vara som du säger att vi är en mus
26:17liksom. Men på något sätt så lyckas vi
26:20ändå få den här då som som är då
26:23människan i förhållande till oss och mus
26:24att att bry sig om oss och ta hand om
26:27oss. Men även i en sån värld så har ju
26:29vi helt tappat eh inflytandet på ett
26:33sätt eller vi alltså det jag menar vi
26:34det finns ju inget som vi gör riktigt
26:36som kan vara av av ekonomiskt värde i
26:38alla fall för att a kommer kunna göra
26:39och robotarna kommer kunna göra allting
26:41som vi hade kunnat göra. Eh, o och
26:43skulle ju i ett fall skulle det kunna
26:45vara en utopi då om det blir så att ja
26:46men det här används för att bara göra
26:48världen så bra som möjligt för
26:49människorna. Eh, så hade vi kunnat
26:51slappna av och bara göra roliga saker
26:53och liksom leka. Men det är också
26:56väldigt sannolikt att det inte blir en
26:58utopi för som du säger så skulle ju då
27:02alltså det det behöver inte heller vara
27:05så riktigt att AIN har en eh en stark
27:09anledning att utrota människan eller att
27:13liksom inte bry sig om oss utan eh det
27:16kan bara vara så att den är liksom helt
27:17neutralt inställd till oss. Eh och det
27:19skulle också räcka för att mänskligheten
27:21antagligen skulle ut då. Ja. M
27:23>> för att för att eftersom att precis som
27:24säger det kommer gå vi kommer vara som
27:26grisar, vi kommer vara nästan som
27:28plantor alltså jämförelse om man också
27:29tänker att det går så otroligt det kan
27:31gå så snabbt. Alltså a kan också tänka
27:33så snabbt och göra saker så snabbt. Så
27:35att det som vi kanske som tar en
27:37människa då ett år att göra det kan AN
27:39göra liksom på en timme. Eh, och då
27:41kommer vi, alltså vi kommer inte ha
27:43någon någon chans att hänga med och
27:45världen kommer gå så fort och sak kommer
27:46kunna hända så snabbt och bygga så
27:47snabbt så att vi kommer liksom om vi
27:49vill ha tillgång till några resurser och
27:51a också vill ha tillgång till de
27:52resurserna, då är det helt uppenbart att
27:53det är ain som kommer att
27:55>> ta tillgång till det precis och då
27:57kommer vi bara som en bieffekt liksom
27:59förky.
27:59>> Men det kan väl vara lite grann som vi
28:01eh det är väl ganska bra så som vi ser
28:03på djur.
28:04>> Mm.
28:05>> Djur dör med naturen. De dör. Alltså om
28:07det är någon art som dör, vi försöker
28:09rädda den lite grann och vi kanske
28:10bygger nå inhängnaren. Försöker få dem
28:12så här,
28:13>> ja nu vet vi att lite lite noshörningar
28:15då försöker ju få att man inte ska döda
28:16noshörningar men de kan ju se oss så
28:18här. Varför ska de se oss nå? Alltså på
28:22ett sätt skillnad från apor, vi är lite
28:24smartare apor, det är vad vi är.
28:26>> Men apor är ju lite smartare än vad
28:29andra djur är. Men vi låter ju de
28:31fortfarande dö och
28:33>> förstår du. Det kanske är så här. Ja,
28:34>> precis. Exakt. Och även när vi till och
28:37med då bryr oss om ju, alltså vi bryr
28:39oss vi bryr oss ju om apor, men om det
28:42är så att vi vill ha eh virke från
28:44regnskogen, ja då kommer vi skövlar och
28:46så kommer vi d precis. Det är liksom om
28:48det är något som vi vill ha så går
28:50alltid över liksom djurens välfärd.
28:54>> Eh och även alltså hela djurindustrin är
28:56ju helt absurd. Där är ju finns det ju
28:58även om vi då tycker om grisar så så
29:01gasar vi dem liksom i miljontals eh
29:03>> ja så här koncentrationsläger liksom
29:06värre än koncentrationsläger har vi de i
29:08>> Ja, verkligen.
29:09>> Där där vi jag tror det var väl nå något
29:10sånt jag kommer inte ihåg hur mycket det
29:12var men det var typ så här 90 % eller 95
29:14% av alla världens djur är ju
29:17bosskapsdjur. Alltså att vi har
29:20>> eh alltså kycklingar och grisar och kor
29:22och allting. Och vi har det med fabriker
29:24bara vi det är typ bara 5 10 % som är eh
29:27alltså djur i naturen.
29:30>> Ja. Ja. Ja. Det är ju helt absolut
29:32också. Det har vuxit och blivit så
29:33extremt och då är det ändå
29:36ja då är det då det är precis och det är
29:38ju vi som helt avasar öde eftersom vi är
29:40den intelligentaste arten. Och på samma
29:42sätt så är det inte alls svårt att tänka
29:44sig att det kommer vara ain som helt
29:46avgör vårt öde. Och problemet är ju då
29:49att det finns det här som kallas för the
29:51alignment problem som innebär att vi
29:54vill ju aligna Ains mål med våra mål. Vi
29:57vill att den ska ha liksom människans
30:00bästa i åtanke att den ska jobba för
30:02vårt bästa. Men eftersom att AI som den
30:07AI som finns idag, alltså stora
30:08språkmodeller, det är ju liksom
30:09ingenting som man programmerar på det
30:10sättet som man gjorde för när jag har
30:12läste IT då för ti år se och man skrev
30:16program och även AI så var det ju ofta
30:17att man satt och man skrev in liksom om
30:20det här då gör du det här och så kunde
30:22man kontrollera exakt vad som skulle
30:23hända. Men så är det ju inte nu utan de
30:25här språkmodellerna det är ju bara
30:26alltså miljarder eller biljoner
30:28parametrar som hänger ihop på olika sätt
30:30lite som på ungefär samma sätt som den
30:32mänskliga hjärnan då är ett stort nealt
30:34nätverk och så försöker vi träna den på
30:36olika sätt för att få den att göra
30:38ungefär det vi vill men vi kan inte
30:40kontrollera egentligen exakt hur den
30:41beter sig och vi kan inte vara säkra på
30:43att den kommer fortare bete sig på ett
30:45visst sätt då i varje speciell
30:46situation. Eh och ju kraftfullare det
30:48här blir desto svårare blir det också
30:50att att se till att den verkligen kommer
30:51bete sig som vad vi vill. Och det är
30:53alltså ett problem som inte är löst. Det
30:55liksom konsensus om att det här är inte
30:57löst. Vi vet inte hur vi ska kontrollera
30:58en superintelligens. Men ändå rusar vi
31:00just nu i utveckling då rakt mot
31:03superintelligensen. Eh vilket ju kan se
31:06som alltså mänsklighetens största
31:08misstag.
31:09>> Kan det vara så att vi springer in mot
31:10en brinnande sol men att vi vi är för
31:15ointelligenta. Vi vet att under den här
31:18resan när vi springer in mot solen så
31:20vet vi att alla andra gör det. Så att om
31:23inte jag gör det så kommer någon annan
31:24göra det och det kanske finns en chans
31:25att göra möjlighet att styra den här
31:27solen. Men med största sannolikhet
31:28kommer alla
31:30som springer in mot den här solen eller
31:32de här myggorna som springer in mot en
31:34så här brinnande mygglampa så kommer
31:36alla bara dö i slutändan.
31:39>> Jag tror att det det är en bra liknelse.
31:41Eh och det är ju precis för det är också
31:43ett ett stort problem här är ju att AI
31:46kan ge väldigt mycket nytta. Alltså det
31:47kan göra väldigt mycket bra grejer och
31:50innan vi kommer till en punkt där alla
31:52eventuellt dör eller vi totalt tabar
31:53kontrollen så så är ju allt så blir det
31:56ju bara bättre och bättre rentalistiskt.
31:59>> Man tjänar mycket pengar på det.
32:00>> Precis. Man kan tjäna
32:01>> vi är så drivna pengar så att tjänar jag
32:03pengar på någonting nu även om det är
32:04farligt för framtiden så skiter man i
32:05det. Det är lite så som hela hjärnan
32:07fungerar ju. Alltså man gör någonting nu
32:09kort kort kortsiktiga mål istället för
32:11långsiktig belöning.
32:12>> Ja. och med stater och med företag.
32:16Alltså det är ju
32:18det ska ju väldigt mycket till för att
32:19ett företag ska liksom tänka långsiktigt
32:22om det har kortsiktig ekonomisk vinning.
32:24Eh, det finns en en av de största liksom
32:28AI- filosoferna, Eliaser Judkowski. Han
32:30har en liknelse som påminner lite om det
32:32som du sa att ungefär att det a är
32:34ungefär som att det är liksom en stege
32:36och varje steg upp som man klättrar eh
32:38på den här stegen för varje steg så får
32:40man så här en påse med en miljard
32:43dollar. Eh, men vid något av de här
32:45stegen så kommer stegen explodera. Man
32:48kommer falla ner men man vet inte vilket
32:50steg. Och då är det liksom att man är
32:51alltid sugen på att testa att ta ett
32:53steg till och ett steg till, men till
32:55slut så kommer det smälla. Eh,
32:58>> ja. Tror du att det är en stor
33:00sannolikhet att eh
33:03liksom nu går det så otroligt snabbt att
33:05mänskligheten har gått under inom 50 år?
33:09>> Jag tror alltså det känns helt sjukt o
33:13och säga säga det här. Alltså det är hel
33:16för bara några år sed så hade jag det
33:17här är liksom grejer som som jag aldrig
33:21skulle ha trott skulle kunna hända. Men
33:24men jag tror att jag tror att risken att
33:29vi alla är döda inom 10 år är
33:34över 10 %.
33:36>> Va?
33:37Alltså det är sjukt det. Och jag ska
33:39verkligen säga ärligt att jag har varit
33:41alltså jag när jag började sätta in de
33:42här sakerna så var jag
33:44>> eh deprimerad i ett halvår och sen har
33:46jag börjat äta antidepressiva och nu har
33:48jag liksom kommit runt det.
33:50>> Men det är en helt
33:51>> [ __ ] smälld det att var alltså.
33:53>> Ja. Ja. Alltså men och liksom det finns
33:56ju folk som eh som tror andra saker men
33:58det finns också verkligen några av de
34:00absolut liksom främsta AIforskarna i
34:02världen eh har den här typen av bilder
34:06och skulle skulle hålla med mig alltså i
34:08det här som jag också tycker påstå som
34:10låter helt sjukt.
34:12>> Ja, det är så så otroligt tufft. Ja, sen
34:17får man ju hoppas att det inte blir så,
34:19men för att det inte ska bli så, så
34:20måste mänskligheten verkligen komma
34:22samman och ta det här på allvar. Eh, jag
34:24tror att om vi verkligen om vi verkligen
34:26om alla skulle ta det här på allvar, då
34:28tror jag att risken skulle vara
34:29betydligt mindre. Men så som det ser ut
34:32nu så är det
34:33>> våra hjärnor är inte så. V hjärnor är
34:35inte
34:35>> våra hjärnor är inte så. Och samhället
34:36på något sätt så är vi liksom inte alls
34:38med. Alltså det vi är väldigt svårt att
34:40tänka oss att det kan hända.
34:41>> Så du tror alltså att eh ehm runt 10 %
34:45sannolikhet så kan hela mänsklighet vara
34:48död inom 10 år?
34:51>> Ja. Eh, verkligen. Jag tror att alltså
34:54jag tror att som det ser ut nu om
34:57>> det är värre än kärnvapen. Det är ju
34:58värre än att vi ser alltså allt vi
35:00fokuserar på nu att Ryssland går
35:03eventuellt inom fem år så attackerar de
35:07Lettland, Estland, Litauen. Det här är
35:09ju så mycket värre.
35:10>> Ja, precis. Precis. Och vi lägger så
35:11mycket pengar och resurser på sånt som
35:15det är väldigt alltså om det är 1 %
35:18liksom chans eller risk att det blir
35:19kärvapenkrig då lägger vi otroliga
35:21resurser på att stoppa det förstås
35:23liksom. Och samma sak på andra saker om
35:24det är en proc risk att en bro liksom
35:27raseras då kommer vi absolut inte
35:29tillåta det. Men i det här fallet fasten
35:31då några av världens främsta forskare
35:33talar om den här typen av risker och
35:34ännu större 10 % kanske verkligen undrar
35:36laget då trots det så är det som att vi
35:39bara helt ignorerar det här och
35:40fortsätter låter företagen fortsätta
35:42utveckla det här.
35:44>> Hur skulle ett sånt scenario kunna se ut
35:47>> nu 2026? Försök att förklara så så
35:50mycket av
35:51>> så tydligt du skulle kunna sätta en tes
35:53på det. Förklara hur det skulle kunna se
35:55ut. 2026 är det nu. Nästa år 2027. Vad
35:58händer?
36:01Alltså jag kan ju säga liksom
36:03övergripande då. Anledningen till att
36:05jag tror att det här kan hända det är ju
36:06att jag tror och många väldigt många
36:11tror att vi kommer inom 10 år så kommer
36:13vi komma till den här punkten där AI
36:16modeller då är så pass bra så de kan
36:17utveckla sig själva vilket då väldigt
36:20snabbt kan leda till liksom smartare och
36:22smartare och smartare och smarta
36:23modeller och vi kan liksom då extrema
36:25nivåer av intelligens
36:28och extrema nivåer av intelligens alltså
36:32det är svårt Och
36:34alltså jag tror att det är väldigt lätt
36:35att underskatta vad v vad det här vad
36:38liksom vad intelligens kan göra. För man
36:40tänker ja men så här om någon har 180 IQ
36:42eller så här vad vad kan den göra då?
36:44Det är inte som att den personen tar
36:45över världen. Eh, men det här är liksom
36:46inte, det är inte 180 i IQ vi snackar om
36:49utan det här är liksom
36:51extrem intelligens på alla nivåer som
36:53också går kan tänka otroligt snabbt,
36:55jobba parallellt och liksom eh göra
36:57enorma projekt liksom väldigt snabbt.
36:59Eh, och det är lite det finns en bra
37:02serie strips som är så här två två apor
37:06och så ser de en människa som börjar
37:07liksom knacka med stenar och säger de så
37:09här, oj undrar om det där kan bli
37:12farligt när någon väldigt intelligent
37:15apa där som hittar på något med verktyg
37:16och sen andra så här vadå det vad kan
37:18den göra och sen så klipper man då till
37:21liksom 100.000 1000 år senare och så
37:22sitter vi här och flyger till månen och
37:24har liksom tagit över hela planeten och
37:25vi har eh ja men
37:27>> liksom målt ner alla alla skogar och
37:29byggt städer och så där och motorvägar.
37:31Eh och då ser man att det alltså bara av
37:33att vi som du sa förut är lite mer
37:35intelligenta än apor så har vi kunnat
37:37göra allt det här. Och nu i det här
37:39fallet då så är det som du nämnde vi som
37:41är apan eller till och med då kanske
37:43mycket mindre intelligent eh än vad apan
37:45är jämför med oss. Eh och där dessutom
37:48då den här andra digitala intelligensen
37:51kan jobba så otroligt mycket snabbare
37:52vilket gör att tidsrymderna kan bli så
37:55otroligt korta. Alltså om jag säger nu
37:57så här vi kan alla vara döda om 10 år så
37:59låter det ju helt sjukt. Men om jag
38:00skulle säga att ja vi kan om 1000 år
38:02kanske människan är död. Då skulle aldri
38:03vara ja det är klart vi kanske hittat på
38:05det kanske hänt grejer då så att vi kan
38:06vara döda. Eh, men grejen är att de här
38:09kommande tio åren de kan liksom vara som
38:11>> var 1000 år
38:12>> ja som 1000 år eller kanske 100 år
38:13liksom hade varit utan AI eftersom att
38:16utvecklingen då kan gå så otroligt
38:17mycket snabbare på
38:18>> på mycket kortare tid.
38:20>> Och det som eh det som jag tror kommer
38:24hända det är ju liksom att om det alltså
38:27givetvis är ju inte det här saker som
38:28behöver hända. Det kan ju hända med
38:30massa olika. Vi vi skulle kunna eh gå
38:32ihop som mänsklighet och bromsa ner det
38:34här. Vi skulle kunna verkligen försäkra
38:35oss om att vi har har koll på
38:38situationen innan vi tar nästa steg. Eh,
38:40då skulle det kunna gå jättebra. Det
38:41skulle kunna vara alltså det hade inte
38:43behövt vara en jätteanorlunda värld om
38:4410 år eh än om det vad det är nu. Även
38:47om jag tror att det verkligen kommer
38:48vara det. Eh, och vi det hade kunnat
38:51hända någonting som gör att det visar
38:52sig att AI-utvecklingen stannar av. Det
38:55finns liksom inget tecken på det. Men
38:56det skulle kunna vara att ja men det går
38:58inte och att och skala upp mer eller det
39:01är någonting som gör att något som vi
39:03inte känner till som gör att det liksom
39:04finns någon slags tak. Eh men
39:07>> kanske typ datahallar och lite såna
39:09grejer. Ja. Ja, precis. Det skulle kunna
39:10vara något sånt. Det liksom det finns
39:11inget som som riktigt pekar på det men
39:13man vet aldrig. Eh, men om det inte blir
39:15så om kurvan fortare som den ser ut nu,
39:17då kommer vi ju liksom inom några år,
39:21fem år, fem, ti år komma till, det kan
39:23gå snabbare också, komma till en punkt
39:25där då den här
39:27>> är superintelligens du menar då eller?
39:28>> Eh, ja, superintelligens eh alltså själv
39:32liksom rekursiv självförbättring. Det är
39:33ju det som man egentligen har kallat
39:35singulariteten tidigare då, att man
39:37kommer till den punkten där liksom
39:39intelligens expressionen, där
39:40intelligensen förbättrar sig själv. Mm.
39:43M
39:43>> eh och där då kan gå väldigt snabbt och
39:45där man egentligen inte vet vad som
39:46kommer hända efter efter det e det är så
39:50mycket som kan hända. Men jag tänker mig
39:52då att vi kommer komma till en sån punkt
39:54om vi inte gör någonting, om vi inte
39:55reglerar det här på något sätt och att
39:57vi då kommer täppa kontrollen för att vi
40:00vet inte, alltså ingen kan hänga med det
40:02här extrema tempot. Och vi kommer då
40:04lämna över mer och mer av uppgifter i
40:07samhället till AI. Det är väldigt
40:09naturligt att arbetsgivare kommer vilja
40:11eh anställa AIagenter hellre än
40:14människor eftersom att AI-agenterna
40:15kommer vara mer kompetenta. Det kommer
40:16vara mycket mycket snabbare. Det kommer
40:17inte behöva eh speciellt hög lön. De
40:20kommer inte behöva vila eller semester.
40:21Så att det är rent ekonomiskt om vi har
40:23ett kapitalistiskt system så kommer det
40:24leda till att att människorna kommer
40:26liksom tryckas ut ur eh det ekonomiska
40:29systemet. Ja. Och även då politiskt så
40:32kommer det vara så att
40:35alltså AI när man ska fatta politiska
40:37beslut så kommer antagligen AI vara
40:39liksom överlägsen och det kommer det
40:41kommer vara på en sån hög nivå så att vi
40:43kommer kan inte förstå varför ett beslut
40:45är bättre eller kommer leda till de
40:47vissa saker mer än ett annat men vi
40:49kommer bara märka att det är så samma
40:51sak som i sjukvården så här att man man
40:53kommer märka och redan nu märker man att
40:55om man följer AI AIs uppmaningar då i
40:57vissa fall så så kommer den ha mer rätt
41:00berättade människan även om man inte
41:01riktigt kanske fattar varför eftersom
41:03att det är så komplicerat. Eh, och då
41:06kommer det också då kommer det bli så
41:07liksom att alla alla mänskliga områden
41:09då där människan är expert så kommer
41:11istället AI att ta över fattabesluten
41:14och sakta kommer man ju då alltså
41:16människan kommer även man kommer hamna
41:18utanför även det politiska systemet
41:21eller det kommer alltså man kommer man
41:23kommer förlita man kommer bli tvungen
41:24att förlita sig på eh AI och det gör ju
41:28också att vi hamnar i en position där AI
41:30verkligen har kontroll över hela
41:32samhället och där kan vi hoppa hoppas då
41:34att vi har lyckats installera eller vi
41:35har lyckats få den att ha mål som på
41:38något sätt eh går i linje med mänsklig
41:42mänsklig blomstring. Men det är också
41:45väldigt sannolikt att det inte är så.
41:46Och eh och i en sån situation så är det
41:49också spelar det väldigt stor roll vem
41:50det är som har tillgång till den här
41:52extremt intelligenta a här
41:54superintelligensen. Om det är så att
41:55till exempel det USA regering och och
41:57Donald Trump får hoppas att han inte eh
42:00sitter då men som har kontroll över det
42:03eh ja då är det ju det som han bestämmer
42:05som kommer hända. Om det är Kina som har
42:07det då är det det som de bestämmer som
42:08kommer hända. eh om det nu är alltså
42:10röst ens kan precis som det är Ryssland
42:13eh om ens de kommer kunna styra
42:15intelligensen då men sen likt kommer de
42:16inte kunna göra det ens utan det kommer
42:17vara det som på något sätt intelligensen
42:19själv vill så kommer det hända. Eh, och
42:20i en sån värld då då ja, det det så som
42:25sagt alltså exakt hur människan kommer
42:28eh försvinna det i ett sånt scenario det
42:31är liksom det kan hända på hur många
42:33olika sätt som helst men eh jag tror att
42:36en ganska sannlig stor sannleik eh
42:38liksom grej som har stor sannolikhet är
42:40att vi bara som liksom som en bieffekt
42:42försvinner att det bara är så att vi är
42:43liksom mer mindre och mindre involverade
42:45i allting och sen så kommer då
42:48det det är möjligt att alltså ja, ett av
42:51ett mål som hade kunnat eh vara eh
42:55liksom ganska rimligt för en
42:57superintelligens att hade varit att
42:59fortsätta göra sig själv mer
43:00intelligent. För det är så vi har den är
43:02tränad för att liksom bli mer och mer
43:03optimal och optimera sig själv och för
43:06att bli mer intelligent kommer
43:07antagligen behöva fler och fler
43:08serverhallad och fler och fler resurser
43:10eh på jorden. Och då kan det hända då
43:13att den kommer liksom bygga ut flera och
43:14fler serverhallar. De här robotarna
43:15kommer bygga ut flera och fler
43:16serverhallar. Eh, och man kommer ta upp
43:18då ja, men yta på jorden som vi hade
43:21behövt för att odla mat till exempel.
43:22Eh, och det kommer använda havsvatten
43:25liksom som kylare i i de här
43:27serverhallarna. Det så att det jag tror
43:28att jag tror att det det kan ju vara att
43:30de robotarna liksom också bara tar bort
43:32människorna för att vi på något sätt
43:33utgör ett hot och skulle kunna stoppa
43:35den. Eh, men det kan också vara att den
43:36bara gör såna här grejer och så kan inte
43:37vi leva på planeten längre.
43:43Men men jag kan också tycka så här. Är
43:45det fel då?
43:46Är det fel? Alltså jag tänker så här att
43:48eh jag kan tänka så här att eh
43:52ni andetalaren har försvunnit.
43:54>> Mm.
43:54>> Eh alltså att vi har ju vi är hela tiden
43:58dinosaurierna är borta. Alltså att det
44:00finns en tid för allting och det finns
44:02en tid också för en biologisk människa i
44:05den här extremt stora rymden. Det är
44:07ingen som säger att vi har ett större
44:08värde än vad en gris har eller vad en
44:10fågel är. Det är vi själva som har
44:11värderat oss på grund av våran
44:12intelligens att vi har ett värde. Alltså
44:14att det kan komma till ett läge nu där
44:17där vi som myrstack att för att vi ska
44:21kunna om målet är så som vi har satt upp
44:24målet så som biologiskt har satt upp
44:27alltså målet för allting att universium
44:29ska bli så intelligent som möjligt. Att
44:32vi går från en från en bakterie till att
44:35det blir en fisk till att vi blir en
44:36fisk som börjar klättra i träden. till
44:39att träden börjar att bygga saker, till
44:42att vi nu de här aporna går in till att
44:45som vi har kollat på science fiction
44:46genom alla år med Syborg och allting att
44:49vi blir robotar för att vi sen ska kunna
44:51ta nästa steg universum utforkand
44:54planeter vi ska kunna odla saker vi ska
44:56komma längre och längre ifrån då det är
44:58klart att det är en stor begränsning för
44:59oss som biologiska varelser som går
45:01sönder som har ganska kort kort livstid
45:04som också dödar varandra som förstör
45:06naturen som
45:08Alltså att eh förstår vad jag menar att
45:11att det kan vara så att att AI är nästa
45:13människa och efter
45:16>> att det är bara väldigt naturligt. Det
45:18är jättetråkigt för oss men det kan ju
45:20vara så att det är
45:21>> är så här men det är så så vägen ska gå
45:24liksom. Spolar du fram en miljon i år?
45:26Alltså det är så här det är inte säkert
45:28att varför ska vi som människa ens
45:30finnas kvar? Ja, jag fattar vad du menar
45:32och men jag eh där jag håller där är jag
45:36i mina ögon skulle jag säga att det jag
45:38tycker att det känns helt fel alltså och
45:40jag tror att det vore en enorm tragedi
45:42eh ur ett mänskligt perspektiv förstås
45:45då men men även ja ur ur ett generellt
45:50perspektiv för att dels så så är det ju
45:54inte säkert alls att det finns något
45:56medvetande i eh alltså de här
45:58AI-modellerna. Det är ju liksom
45:59någonting som är egentligen omöjligt för
46:01oss att säga. Eh,
46:04det det kan vara så, det kan vara det
46:05det behöver inte alls vara så. Eh, det
46:08är ju liksom
46:09ja, det är stora system eh av av liksom
46:14massa massa medande. Det det på ett sätt
46:16påminner det ju mycket om mänskliga
46:17hjärnor.
46:18>> Eh, så att på samma sätt då som man hade
46:20kunnat titta på oss utifrån och säga så
46:21här: "Ja, vi kan ju inte säga allt som
46:22det finns något medvetande i den där
46:24liksom små klumparna som skickar
46:25elektriska signaler, eh, så kan man ju
46:28på samma sätt också ha fel. Alltså det
46:30skulle ju kunna vara att AI-modeller vid
46:31något i något steg blir medvetna." Eh,
46:34men det är jättesvårt att säga någonting
46:35om det. Det är också skulle jag säga
46:38stor sannolikhet att det inte finns
46:39något medvetande där utan det är liksom
46:41väldigt väldigt komplicerade maskiner
46:42men som kan bete sig då som medvetna
46:44varelser eh utåt sätt. Och om det är så
46:48då är det ju en otrol alltså för allt
46:50typ av medvetet liv så är det ju en
46:52otrolig tragedi om de här maskinerna då
46:56>> de liksom fortsätter utvecklas och göra
46:58sina intelligent saker och utforska
47:00rymden och allting men det finns liksom
47:02ingen som upplever det utan allt
47:04biologiskt liv då som fanns på jorden är
47:05borta. Så allt liksom medvetande
47:07försvinner och vi vet inte eh precis det
47:10blir bara tekniskt och det skulle kunna
47:11vara så det det är sannolikt kanske att
47:14det finns liv i någonstans någon
47:16annanstans i universum men vi vet ju
47:18inte det heller om det är så att vi är
47:19det enda intelligenta livet liksom enda
47:21medvetenhet som finns i universum då kan
47:23det vara så att vi håller alltså på att
47:25att ta bort det alltså vi håller på att
47:27liksom ta bort hela meningen med
47:29universum liksom i vårt perspektiv. Mm.
47:31Eh, och det skulle vara otroligt eh
47:35sorgligt och liksom meningslöst för för
47:36vad spelar det för roll om den här
47:38liksom maskinerna utforskar universum om
47:41som om det inte finns någon som liksom
47:43njuter av det.
47:44>> Ja.
47:45>> Nej, men men det är du helt rätt. Det
47:47finns ju den här den här klassiska saken
47:50från långt tillbaka men ehm att så här
47:54varför vi inte har stött på en
47:56civilisation.
47:57>> Mm.
47:58Och eh då har man ju sagt, det här har
48:01man säkert sagt i 50, 60, 70 år där
48:03någonstans att vi har aldrig träffat en
48:06civilisation ute i rymden för att det
48:09finns en lag som säger att den när
48:10civilisationen är tillräckligt
48:12intelligent att kunna förstöra sig själv
48:13så kommer den alltid att förstöra sig
48:15själv. Och det är ju det och och nu nu
48:18har ju vi haft möjlighet att förstöra
48:20oss själva någonstans från
48:22>> när kärnvapnet kom eh kanske 30 40 år
48:25framåt från från där att det finns
48:27tillräckligt mycket kärnvapen också att
48:29vi och vi och i historien har det varit
48:31ett gäng gånger säkert ett tusental
48:33gånger då vi har har det varit väldigt
48:35väldigt nära att vi har eh tryckt på den
48:38här knappen och skickat iväg kärnvapen
48:41på en annan stor kärnvapenmakt.
48:44Eh, men det har inte skett än, men det
48:45har varit nära.
48:47>> Men eh vi har ju om man kollar på hur
48:49länge vi har funnits på den här jorden
48:52så har det ju varit en liten liten liten
48:55millimeter vi har haft möjlighet att
48:56förgöra oss själva på den nivån som vi
48:58har nu.
48:59>> Ja,
48:59>> men med AI med också våra extremt
49:03ointelligenta hjärnor att vi totalt bara
49:06fokuserar på pengar och kortsiktiga
49:08belöningar.
49:09>> Mm. Eh, så så för varje dag så ökar det
49:13ju att felaktiga beslut ska tas. Nu
49:15håller vi ju på att skapa en varelse som
49:18som eh kan ta felaktiga beslut åt oss.
49:21>> Mm.
49:23Precis det. Och det är ju också väldigt
49:25intressant med hela den här grejen som
49:26du säger, vi har haft den här förmågan
49:28då att utråda oss själva liksom genom
49:30kärnvapenkrig i ja men kanske 80 år nu
49:33då. Eh, och och det är väldigt kort tid
49:37och som du också var inne på så har det
49:39ju varit alltså det finns ju många såna
49:40här ganska close calls. Eh, så att det
49:42är liksom inte att det var ja men vi
49:44löste det utan vi det man kan ju på ett
49:46sätt säga att mänskligheten har haft
49:47tur. Eh, och ju längre det ju längre tid
49:50vi har på oss att för inte oss själva
49:52och ju starkare vapen vi fortsätter
49:53utveckla så kommer det gå. Alltså jag
49:56tror liksom om vi bara hade levt exakt
49:57som nu i 1000 år då hade ju risken varit
49:59jättestor att vi någon gång så kommer
50:01högskulleprovet. Det var som när du fick
50:03rätt på högskoleprovet så här att du
50:04hade räknat ut att vad var det var det
50:06var 14e var 14 gång.
50:08>> Ja. Och och det det finns ju en grej på
50:10samma sätt som här att när sannolikheten
50:13ökar, det kan ju du förklara, men
50:14sannolikheten ökar eh med liksom allt
50:17farligt som kan ske. Vi blir smartare
50:19och det blir lättare för att eh eh
50:22förgöra oss själva exantal gånger.
50:26>> Precis. Någon gång kommer det hända. Eh,
50:29och där och där här skulle ju då Nick
50:30Boström eh det det jag lyssnade på din
50:33intervju med honom för jag intervjuade
50:34honom förra året eh i en på en så här
50:37täckegala för för han är ju också
50:40väldigt framstående inom det här med att
50:42tänka kring superintelligens och ja det
50:44du har ju pratat med honom och så du vet
50:45ju den här han har ju skrivit en bok då
50:47superintelligence som
50:49>> Mm. M
50:49>> som blev verkligen som som jättemånga
50:51också av de här teckledarna har läst
50:53liksom och som har blivit
50:55styrt mycket av av tanken inom också. Eh
50:58och han skulle ju säga då att vi på
51:01grund av just det som vi pratade om att
51:03det finns den här risken hel att vi får
51:04göra oss själva så är det egentligen
51:06också väldigt viktigt att vi någon gång
51:08utvecklar superintelligens för att
51:10superintelligens skulle också kunna
51:11stoppa oss från att göra det här. För
51:13som säger vi är alltså vi vi kan inte
51:16lita på att vi själva kommer lyckas eh h
51:19liksom undvika det här. Ja. Men om vi om
51:22vi lyckas ta fram en superintelligens
51:23som är på vår sida som liksom vill
51:25bevara mänskligheten, då kan vi lita på
51:28att den kommer lyckas för den kommer
51:29vara superintelligent så att om den vill
51:30någonting så kommer den kunna göra det.
51:32Eh, men problemet är då om vi som det
51:35ser ut nu hastar fram den här
51:37superintelligensen så att vi lyckas ta
51:38fram en superintelligens men vi kommer
51:39inte ha fått en att att vilja vårt
51:42bästa. eh då då är det ju liksom ute med
51:45oss. Men så att vi vi behöver nå dit,
51:47men vi behöver inte nå dit så himla
51:49snabbt som vi gör nu utan vi borde
51:51verkligen gå ihop och fokusera på det
51:52här som mänsklighet och sen se till att
51:54göra det kontrollerat och ta alltså om
51:57vi bara tar lite längre tid på oss så
51:58kanske vi kommer kunna nå liksom en
52:00extrem utopi och vi kommer kunna leva
52:01för alltid men om vi hastar så kan det
52:04istället bli precis tvärtom så att det
52:05det är så mycket som ligger i båda
52:07vågskålorna.
52:08>> Vad tror Nick då?
52:10Han
52:11>> alltså nu senaste tiden, jag har pratat
52:12med han för ganska många år s men det är
52:14samma sak så allt utvecklas så sjukt
52:15snabbt. Eh har du fått någon te som vad
52:19AI de absolut smartaste inom AI har sagt
52:22senaste tre månaderna liksom?
52:24>> Ja, jag tror det är väldigt många som
52:26har alltså såna här korta tidslinjer
52:28liksom fem ti år. Det är ganska alltså
52:30att att prata om att det superintens som
52:33ti år eh i många kretser så är det
52:36ganska konservativt nu. Alltså det är
52:38liksom en lång tidslinje då. Eh och men
52:41sen finns det klart en del som också har
52:43ännu längre men de allra flesta skulle
52:44jag säga är liksom inom ti år att det
52:46att det kommer hända någonting riktigt
52:48stort. Och Nick när jag frågade honom
52:51precis när jag frågade så här vad hur
52:52tror du att världen kommer se ut om tio
52:54år? Och så var han så sa han ju så här
52:56att jag lite som jag svarade förut att
52:59det är ju det låter att man vill nästan
53:02inte säga det så här att världen kommer
53:04vara så totalt annorlunda om ti år att
53:06det finns liksom ingen anledning typ för
53:09ni så här. Det finns ingen ska jag säga
53:11liksom att det finns ingen anledning för
53:12jag barn att gå i skolan eller att att
53:14spara till pension eller någonting. Eh
53:16kan jag verkligen tänka det? Och så sa
53:18han då att liksom rent känslomässigt så
53:20kan jag inte jag kan inte tänka jag kan
53:21liksom inte känna att det kommer vara
53:23så. Men rent intellektuellt så så tror
53:25jag att det kommer vara så. Eh, men han
53:27är ju lite
53:30han är nog eh han är också ganska rädd
53:33för att bromsa av utvecklingen just på
53:34grund av det här som vi pratade om att
53:36vi måste balansera här mot risken att vi
53:38ändå utpråar oss själva på något annat
53:39sätt. Eh, men han tror ju också att
53:42riskerna fortfarande är väldigt större.
53:45>> Alltså han är också inne på och andra är
53:47inne på att det finns en sannolikhet att
53:50vi har ja förint oss själva inom ti år.
53:53Ja, precis. Det är ju det är liksom det
53:55det är ju verkligen det är ju inte min
53:56idé från början utan det är ju
53:58framförallt att jag har läst vad många
54:00av de här som är riktigt framstående
54:02inom fältet eh har sagt och trott om det
54:04här och sen så försökt försökt liksom
54:07bedöma vad som verkar rimligt och då
54:08tycker jag verkligen att det de verkar
54:10ha eh ganska bra koll.
54:12>> Men hur kändes det då du som har blivit
54:14nybliven pappa?
54:15>> Du sa att du har käkat antidepressiva
54:18när du liksom kom under fund med det här
54:21och
54:22>> Ja. Eh, verkligen. Ja, alltså det var ju
54:24då innan eh innan barn det var ja förra
54:27året för ett år sedan ungefär så började
54:29jag verkligen eh gå ner i det här och
54:32också då må väldigt väldigt dåligt. Eh
54:35också försöka lite grann skriva lite så
54:36här debattartiklar, försöker liksom få
54:38få folk att förstå allvaret i detta. Eh
54:41men upplevde att intresset var ju då
54:43väldigt svalt och jag märkte liksom hur
54:45svårt det är
54:47ja hur otroligt svårt det är att bara
54:49liksom föreställa sig det här. Och jag
54:50förstår det för jag jag tycker också att
54:52det är svårt att föreställa sig det här
54:54liksom. Jag hade inte själv kunnat göra
54:55det om jag inte verkligen hade liksom
54:58fått det här förklar alltså gått
55:00jättedjupt in liksom det här och och ja
55:03försökt liksom verkligen försökt förstå
55:04det från grunden. Ehm och eh så det var
55:08väldigt nedslående. Men sen så som sagt
55:10så tog började jag till anträppa så
55:12funkade de väldigt bra och nu mår jag
55:15egentligen väldigt bra och jag har ju
55:16fått mitt barn då för nu är det han är
55:18sju veckor gammal. Eh, och har verkligen
55:21kunnat njuta av det. Alltså jag är jag
55:23är så otroligt glad och tacksam över
55:25honom. Och eh
55:28och på ett sätt är det ju då alltså jag
55:30hoppas ju fortfarande jag hoppas ju att
55:31vi alla ska jag hoppas att vi alla ska
55:33leva för evigt och han också att vi ska
55:35liksom på tusentals år tillsammans. Eh,
55:38men så vet jag ju att det också finns en
55:40risk att det inte blir så och så är det
55:41ju alltid egentligen. Alltså man vet ju
55:43aldrig vad som saker kan hända när som
55:45helst. Man kan ju få en kruka i huvudet.
55:47Så att det har väl också gjort att jag
55:48liksom uppskattade kanske ännu mer eh
55:50och att jag lite grann det senaste har
55:52försökt och ja men leva ännu mer
55:56intensivt så att jag jag bara allt som
55:58jag tänkt hade jag skulle göra till
55:59exempel hade tänkt i 15 år så att jag
56:01skulle vilja eh börja skriva poesi igen
56:04och tävla i det här eh poesi smigare år
56:07då. Men så har jag inte gjort det. Men
56:08nu lite grann kanske på grund av att jag
56:10känner att ja man vet inte hur hur lång
56:13tid som finns kvar och man vet Nej
56:14precis och även om saker går bra så vet
56:17man ju inte hur lång tid samhället
56:18kommer vara alltså den världen som man
56:19känner den nu hur länge den kommer vara
56:21som den är nu.
56:23>> Eh så då är det bra att passa på och
56:24göra. Det vill jag uppmana alla och hade
56:26jag uppmanat ändå att man passar på och
56:28gör sånt som man verkligen bryr sig om
56:29och liksom umgås med människor som man
56:31verkligen gillar och eh inte skjuter upp
56:34saker allt för mycket. Eh så att det Ja.
56:37Och det och det har ju också gjort att
56:38jag har haft väldigt väldigt kul senaste
56:40halvåret och liksom gjort saker som jag
56:42som jag borde ha gjort för länge se och
56:43som har varit väldigt roliga
56:44>> eh och verkligen njutade av grejer. Så
56:46att jag tänker att man får eh ja man får
56:49trycka in så mycket man kan och sen
56:50hoppas på hoppas på det bästa eh och
56:52också förstås försöka styra världen till
56:55eh det bästa genom att försöka få fler
56:57och bli medvetna om problemet med AI.
56:59>> Hur tänker du med skola då?
57:02Hur tänker du skola? För den tycker jag
57:03också är så sjukt svår. Alltså jag är
57:05också så här vi vi gör ju faktiskt en
57:08sån sak nu också. Vi har alltid drömt om
57:09att bo i Thailand och jag bor ju i
57:12Spanien
57:13eller just nu när vi spelar in det här
57:15så är jag i Spanien men om två veckor så
57:17flyttar jag ju till Thailand.
57:19>> Mm.
57:19>> Det är för att vi har haft många många
57:21fina minnen där. Vi älskar det och
57:24friade till Ida där och det är det här
57:25liksom enkla härliga livet där.
57:29>> Så att vi och vi känner också det så
57:30här. Jag gillar att friyka och det är så
57:33här ja vi testar det är väldigt fin
57:34kultur där också som inte alls är lika
57:38>> ehm kapitalistiskt styrd som eh som
57:42Europa är. Eh
57:45>> och sen så har du de en som jag tycker
57:47den absolut finaste religionen. Extremt
57:49många är ju buddhister där också. De
57:50tycker jag har den absolut finaste
57:52religionen till skillnad från
57:53kristendomen och islam och många andra
57:55så tycker jag buddhismen är
57:57utantvekanden den enda som producerar
57:59bäst människor.
58:01>> Mm.
58:01>> Ehm det jag tänkte också vi vi kommer
58:03sätta in de på en superfin skola men jag
58:05också tänkt lite grann så här
58:08hur kommer skolan se ut i framtiden?
58:10Varför ska barn sätta sig en 2530 barn i
58:13en klass och en lärare står fram står
58:15liksom framför? Det är som att man
58:16sätter in dem på ett typ av förvar.
58:19Varför ska man utsätta barnen för det
58:20här? Varför kan de inte bara ha typ så
58:22här någon AI eller någon lärare som
58:25sitter med två tre timmar varje dag och
58:27sen utförer de sport och hänger naturen
58:29och grejer så att jag också via nu har
58:31vi valt att sätta in dem på en superfin
58:33skola som verkar vara jätte jättebra men
58:35den är ju också akademiskt lagd och
58:37fokusera på det här att du ska höga
58:38betyg och du ska liksom allt det där som
58:41som är så här man så här kan totalt vara
58:43helt bortkastat.
58:45Eh eh så att det jag tycker att den
58:48också är så himla svår. Hur hur tänker
58:50du med med skola?
58:52>> Ja, jättebra fråga. Alltså först så är
58:54det s att jag blir väldigt glad när jag
58:56hör såna här grejer alltså typ att ni om
58:58ni har tänkt flytta till Thailand eller
58:59så här att och så gör ni det här nu och
59:01så vill ni liksom njuta av livet här.
59:03Det är så bra. Jag jag verkligen jag
59:06blir så glad också när jag ser folk som
59:07gör grejer nu som de har drömt om eller
59:09som liksom som ja men kanske jobbar lite
59:12mindre och och gör något annat lite mer
59:14om om man har möjlighet liksom för att
59:16just också med tanke på det här men
59:17överhuvudtaget att man man passar på och
59:19verkligen ta vara på på livet så så gott
59:21man kan. Eh och med skolan då det är ju
59:23jätteintressant. Det är ju redan idag så
59:26kan man ju kan man ju säga att skolan
59:29kan ju verkligen vara både ett en himmel
59:32och ett helvete. Alltså om man trivs i
59:34skolan och gillar att läsa saker då kan
59:36det ju vara helt fantastiskt. Det är
59:38liksom otroligt en otroligt bra idé att
59:40vi ska försöka ja men lära ut
59:43mänsklighetens samlade kunskap till eh
59:46barnen och att barnen får umgås
59:49tillsammans. Man får lära känna personer
59:50som man kanske inte alls hade träffat
59:51annars och man har liksom ja men på ett
59:53sättet sammanhang att vara i varje dag
59:56och man liksom blir in ja men betryckt
59:59in in buren in i samhället eh när det
1:00:02funkar. Men när det inte funkar så är
1:00:04det ju är det ju hemskt. Alltså det
1:00:06finns ju väldigt många som går i skolan
1:00:08och som inte trivs och som inte lär sig
1:00:10och som kanske sitter på lektionerna och
1:00:11bara sitter av tiden och tycker och
1:00:14liksom känner sig misslyckade, känner
1:00:15att de inte kan och eh och bara är där
1:00:19som i ett sagt förvar som du säger. Och
1:00:21för de är det ju redan för de är ju
1:00:23skolsystemet redan en en dålig idé.
1:00:25Alltså man hade kunnat försöka och man
1:00:28kunnat tänka utred nu om man vill göra
1:00:29det på ett annat sätt. Men när man
1:00:30dessutom lägger till då det här med med
1:00:32AI och att samhället kommer förändras
1:00:34mycket och att människans alltså det som
1:00:36man som ändå många försöker motivera
1:00:38skolan med att ja men ni gör det här för
1:00:39ni ska lära er saker så ni ska kunna ha
1:00:41ett jobb sen och bidra ekonomiskt i
1:00:42samhället. Det är ju liksom det är ju
1:00:44bullshit nu. Det är ju verkligen alltså
1:00:47ja elever har aldrig haft mer rätt när
1:00:49de ifrågasätter det här att vad ska jag
1:00:51med den här kunskapen till? Och då kan
1:00:53man ju säga, alltså från mitt perspektiv
1:00:55så är ju egentligen den stora nyttan med
1:00:58kunskap och att gå i skolan, det är att
1:00:59man får ett rikare liv. Alltså när man
1:01:01vet saker om samhället, då kan man dels
1:01:03kan man kan vara en del av av liksom av
1:01:07samtal. Man kan vara en del av det
1:01:09politiska systemet nu där det
1:01:10fortfarande finns ett politiskt system.
1:01:11Man kan göra saker, så man kan skapa
1:01:13saker på sin fritid. Man kan liksom leva
1:01:15eh på ett rikare liv.
1:01:18>> Eh inte ekonomiskt nödvis utan liksom
1:01:20själsmässigt. Eh, och det kan man ju
1:01:22fortfarande motivera med eh för de då
1:01:25som faktiskt eh, ja, men faktiskt lär
1:01:27sig i skolan. Och det även i en värld
1:01:29där AI har tagit över helt så kommer det
1:01:31ju fortfarande vara finnas en poäng i
1:01:33att kunna saker och att liksom för sin
1:01:37egen skull. Men det är ju just det då
1:01:39man behöver fokusera på. Om det är så
1:01:41här någon som inte alls tycker om
1:01:42matematik och säger men du måste lära
1:01:43det här för du ska du kommer kunna
1:01:45använda det när du jobbar eh i liksom i
1:01:47finans i framtiden då. Det är ju lik det
1:01:49är ingen det är inget rimligt skäl
1:01:50längre. Det är ju man kan säga där det
1:01:52finns en liten sannolikhet att det
1:01:54skulle kunna vara en värld eh där du har
1:01:56nytta av det men den sannolikheten blir
1:01:57mindre och mindre för varje månad som
1:01:59går. Eh så att så jag tycker där är
1:02:02också att man skulle behöva liksom komma
1:02:04ihop som samhällig och prata om vad är
1:02:05det vi egent?
1:02:10>> Men en väldigt intressant tanke tycker
1:02:11jag det är att om man skulle man skulle
1:02:14inte ha någon skola idag
1:02:16alla smarta i världen skulle bestämma
1:02:17okej men vad gör vi av det här skolan?
1:02:20Man får starta om en skola från absolut
1:02:23nytt. Vad är det vi bygger då för
1:02:26någonting? Och en anledning idag varför
1:02:27man vill ha folk, vill ha sina barn i
1:02:30skolan är ju för att föräldrarna har ju
1:02:32de här nio till fem jobben fortfarande.
1:02:34De måste ha sina barn under ett något
1:02:37typ av förvar för att de har inte tid
1:02:39att ta hand om dem.
1:02:41>> Mm. Ehm och i framtiden när eh
1:02:45en stor del av allas jobb kommer att
1:02:47försvinna eh när de inte har de här nio
1:02:50till fem jobben när och och sen också om
1:02:53man om man bara tänker för barnens
1:02:54skull,
1:02:56vad är det man skulle skapa till dem då?
1:02:59>> Mm.
1:03:00>> Kan skulle du kunna resonera lite grann
1:03:01om man bara tänker från barnens skull
1:03:03hur vad är det man skulle liksom hur är
1:03:05det man skulle bygga deras eh deras dag?
1:03:08Ja, det är ju otroligt bra
1:03:10tankeexperiment och också ett experiment
1:03:12som man egentligen borde göra med allt
1:03:14möjligt hela tiden så här för det är så
1:03:16lätt att fastna i gamla julspår och att
1:03:18man gör saker på något sätt som alltid
1:03:19har gjort och så tänker man att det bara
1:03:20måste vara så men det måste inte vara
1:03:21så. Eh, och det egentligen så skulle jag
1:03:24vilja säga att nu det är ju egentligen
1:03:27det vi borde göra nu allihopa. Vi borde
1:03:29sätta oss och börja från början. Vad hur
1:03:31vill vi att samhället ska se ut? Eh,
1:03:34givet att vi har AI för för det har vi
1:03:36nu och givet att ni då kommer bli ännu
1:03:38bättre. Eh, för att det är ju en det är
1:03:40ju en väldigt så här symptomatisk grej
1:03:42att man pratar om att ja, det är så AI
1:03:44kommer ta våra jobb och det är ett
1:03:45jättestort problem och det är ett
1:03:46jättestort problem så som samhället ser
1:03:48ut nu. Men om vi inte hade haft några
1:03:51jobb eller så till att börja med, om vi
1:03:52liksom hade startat om samhället från
1:03:53början, då hade ju det första vi hade
1:03:55sagt hade varit så här, ja men vi vill
1:03:56ju se till att inte behöva jobba så
1:03:58mycket. Vi hade vi hade velat ha AI som
1:03:59gör vår jobb. Det är liksom helt det är
1:04:01det vi alltid har drömt om egentligen.
1:04:03Det var det vi drömde om liksom innan vi
1:04:04började jobba så mycket.
1:04:06>> Eh, så att men det är som att man då
1:04:08måste man liksom börja om för att se det
1:04:09perspektivet.
1:04:10>> Eh,
1:04:11>> så riva upp allting.
1:04:12>> Ja. Riv upp allting. Och det vi kommer
1:04:13vara tvungna oavsett om vi vill eller
1:04:15inte så kommer vi vara tvungna att göra
1:04:16det och ju tidigare vi sätter oss och
1:04:18börjar göra det desto desto mjukare kan
1:04:20den här möjliga övergången bli. Men om
1:04:22vi som det ser ut nu bara fortsätter och
1:04:23sen blir helt tagna på sängen av att
1:04:25plötsligt så är alla jobb borta, ja då
1:04:27kommer det ju bli kaos. Ehm. Så att vi
1:04:30borde göra det helt enkelt experimentet
1:04:32egentligen med allting nu. Men för att
1:04:33återgå till skolan då, alltså jag tycker
1:04:36att jag tycker att det är det är en
1:04:39väldigt bra grej att lära ut saker eh
1:04:42för att alltså man
1:04:45vet när man är barn man vet ju inte så
1:04:47mycket om världen och det finns en stor
1:04:49poäng med att få reda på de här sakerna
1:04:51för det kan ju vara någonting då som man
1:04:54skulle tycka är jätteintressant men man
1:04:55känner inte till det eh innan man har
1:04:57har liksom fått fått reda på det. Så att
1:04:59det är väldigt rimligt att eh liksom
1:05:01exponera barnen för väldigt många olika
1:05:03saker. Men sen kan det ju visa sig då
1:05:04att det är någon som tycker att det är
1:05:05jättekul med matematik och det är kanske
1:05:07några som tycker att det är jättekul med
1:05:08fotboll. Och då kan ju de i ett i ett
1:05:11samhälle där ingen behöver arbeta så är
1:05:13det ju mycket mer rimligt att de då får
1:05:15ägna sig mer åt det. Alltså om det är
1:05:17någon som men jag tycker inte att det är
1:05:18kul att lära mig utan jag tycker att det
1:05:20är roligt att springa runt liksom på på
1:05:22rast. Ja då kan de få ha rast så mycket
1:05:24som de vill liksom. helt rätt i. Är helt
1:05:26rätt i
1:05:27>> att man mycket mer kan utgå från vad
1:05:29barnen vad barnen vill och gillar. Och
1:05:31sen är så klart att man ska lite utmana
1:05:33dem för det kan ju hända sig det kanske
1:05:34visar att man egentligen gillar något
1:05:35för man vet inte det från början men att
1:05:37man behöver inte vara så himla styrd med
1:05:39att alla måste göra exakt det s som en
1:05:42brastklapp nu då alltså vi vi vet ju
1:05:44inte till 100 % att allt det här kommer
1:05:45att hända så att det kan det kan ju
1:05:47hända också att vi sitter där om ti år
1:05:49och så och så visar det sig att så här
1:05:51nej men ja utvecklingen bara stendog eh
1:05:54och eh eh ja och nu så har den här som
1:05:58lyssnade på det här och och tog ut sin
1:06:00stå nu i skolan nu har han liksom inget
1:06:02jobb. Jag tror att det ett var osannt
1:06:04scenario för har redan kommit så långt
1:06:05men bara som en bra knapp då vi vet inte
1:06:07exakt vad som kommer hända.
1:06:09>> Jo, fast om man bara tar hur AI är just
1:06:11nu så kommer det inte du behöver inte
1:06:13kunna du behöver inte kunna gång i
1:06:14tabellen liksom.
1:06:15>> Nej nej
1:06:16>> du behöver inte lära dig pytor sats.
1:06:18>> Nej
1:06:18>> du behöver inte lära dig alla de här
1:06:21sakerna med alltså ja när kunga dog och
1:06:25alla de här grejerna man ska sitta och
1:06:26plugga på liksom. Jag jag håller med och
1:06:28jag hade en sån extremt stark
1:06:30upplevelse. Det var när jag fortfarande
1:06:31var deprimerad så så började jag läsa
1:06:35igen på Chalmers för jag tänkte så här
1:06:37ja jag vet inte jag jag ville ju påverka
1:06:39jag ville ju påverka världen på något
1:06:40sätt och så kände så här men om jag om
1:06:41jag läser klart jag har den här liksom
1:06:43avutbildningen då kanske kanske kommer
1:06:45bli mer lyssnad på det. Jag tror inte
1:06:46att att det är så och jag hoppat av
1:06:48igen. Men men då då liksom fortsatte jag
1:06:50det slutade egentligen på IT-programmet
1:06:52och så var det ju samma grejer då man
1:06:53lärde sig de här liksom programmerings
1:06:55eh ja programmering och olika
1:06:57dataanalyser och så. Men men skillnaden
1:07:00var att varje gång man fastnade så kunde
1:07:03man ju då vända sig till en AI-modell
1:07:05och fråga om hjälp och så kunde den
1:07:06direkt då ge den perfekta lösningen
1:07:08liksom. Och då så var jag så här: "Okej,
1:07:10ja men det ska man ju försöka inte göra
1:07:12för mycket då för då lär man sig ju
1:07:13inte." Men samtidigt så tänker man, men
1:07:15varför sitter jag och försöker lära mig
1:07:17det här när jag kan när AI-modellen kan
1:07:19lösa allt det här på en sekund liksom.
1:07:21Även om jag lyckas lära mig det här så
1:07:23att jag blir jättebra så kommer jag
1:07:23aldrig bli lika bra som Claud till
1:07:26exempel chatg är på att skriva den här
1:07:28koden så så man inser liksom att det
1:07:31eller ja det kändes totalt meningslöst
1:07:34>> som att du har ett Lego liksom. Men det
1:07:36första du ska göra det är att ta fram
1:07:37plast och gjuta legobitarna när du bara
1:07:40kan köpa Legot.
1:07:41>> Precis. Exakt. Så precis. att man liksom
1:07:43ska envisas då med att nej men nu ska ni
1:07:45fortfarande ljuta det här. Men varför
1:07:46ska jag göra det? För jag vill ju bara
1:07:48ha Legomodellen klar. Jag vill inte mitt
1:07:50mål är liksom inte att sitta och göra
1:07:51legot. Eh det kan ju vara ibland det är
1:07:53kul att bygga, det är kul att
1:07:54programmera liksom. Men det all det som
1:07:56jag vill åstadkomma det är ju att jag
1:07:57vill ha de här programmen och skapa de
1:07:59här hemsidorna och göra de här sakerna.
1:08:00Och det kan jag nu göra utan att kunna
1:08:02skriva en enda rad kod liksom. Och det
1:08:04är ju på ett sätt fantastiskt också för
1:08:05att det är inte alla som som kan skriva
1:08:08kod eller kan ta sig tiden och läsa det.
1:08:10Men det behöver de inte längre utan nu
1:08:12kan vem som helst skapa väldigt mycket
1:08:13mer.
1:08:14>> Ja. Ja, jag har gjort så här. Jag har
1:08:16tagit fram massa olika AI-frågor från då
1:08:19chatt GPT.
1:08:21>> Mm.
1:08:21>> Eh, som så jag tänkte på att det är
1:08:23stora frågor, men jag tänkte bara att du
1:08:25ska bara svara det som det är så pass
1:08:26många och vi kan säkert prata 40 minuter
1:08:29om respektive fråga, men jag vill bara
1:08:30ha det första svaret du tänker på på
1:08:32respektive så försöker vi bara beta
1:08:34igenom så mycket som möjligt.
1:08:35>> Okej.
1:08:35>> Okej, då börjar vi med första frågan. Om
1:08:38AI fortsätter att utvecklas i samma takt
1:08:40som de senaste två åren, vilka yrken
1:08:41tror du realistiskt att det inte finns
1:08:43kvar 2035?
1:08:47Eh, då tror jag då
1:08:51alltså de enda yrken som eventuellt hade
1:08:53kunnat finnas kvar 2035 i så fall, det
1:08:56är såana yken där det är helt avgörande
1:08:58att är en människa som gör det. Och det
1:09:01kanske
1:09:04det ja det blir ju då potentiellt liksom
1:09:08väldigt så här eh ja men om
1:09:10händertagande yrken. Alltså yrken där
1:09:12man behöver där man vill ha mänsklig
1:09:14empati. Alltså kanske till exempel en
1:09:16undersköterska eh alltså där man vill
1:09:18liksom jag man inte vill att det ska
1:09:20vara en robot som tän man vill liksom
1:09:21att det ska komma en människa och eh och
1:09:23hjälpa henne som man kan prata med. eh
1:09:25psykolog
1:09:27möj möjligtvis
1:09:29alltså jag är fan tvek för att nu börjar
1:09:31AI bli så pass intelligent också att som
1:09:33jag sa till dig förut att när jag
1:09:35pratade bara med den här nya chatgepiten
1:09:37igår så kände jag så här att jag saknade
1:09:40nästan den för att den var så otroligt
1:09:42mänsklig. Tänk om ti år
1:09:44>> alltså den kommer Tänk den här
1:09:45undersköterskan som en robot som är
1:09:47säger så här: "Du, jag har koll på det
1:09:49exakt. Jag vet hur varje nio månader det
1:09:50var för dig. Jag vet att du tänker det
1:09:52här och det här." eh och anpassa sig
1:09:55exakt efter det du behöver. Jag tror att
1:09:56man kommer lita på den ganska mycket
1:09:58också. Till och med kanske vilja att den
1:09:59tar hand om sitt barn för att den kan så
1:10:02pass mycket mer än en vanlig människa.
1:10:03>> Ja. Ja. Nej, jag tror du det kan
1:10:05verkligen stämma. Eh fotbollsspelare
1:10:07tror jag eh kommer kunna alltså för det
1:10:09här ja även om robot
1:10:13idrott alltså idrotts superstars inom
1:10:15idrott för det är jättetråkigt att se
1:10:17typ två MMA robotar slåss. Alltså det är
1:10:19ju det är ju så här
1:10:21>> de bryter av varandras ben men men så
1:10:23här eh kanske det är ju samma sak. Det
1:10:27är ganska tråkigt att kolla på skådisar
1:10:29också eventuellt. Alltså det är ganska
1:10:30tråkigt att kolla på två AI-robotar som
1:10:35>> liksom ja är i en film. Man vet bara
1:10:37filmen är bara helt påhittade inga
1:10:38riktiga människor i det här och sen så
1:10:40ska de låsas sakna varandra och lite så
1:10:41där.
1:10:41>> Ja, jag tror ändå man kommer vilja ha
1:10:43det och även konstnärer och så. Jag tror
1:10:45att man kommer vilja alltså att
1:10:46människor kommer tycka att det det finns
1:10:47poäng med att det är människor som gör
1:10:49det.
1:10:49>> Kultur alltså det är kultur alltså som
1:10:51eventuellt är kvar bara.
1:10:52>> Ja. Sen tror jag alltså billig liksom
1:10:56billig konst, billiga romaner, det kan
1:10:58jag kommer jag ju kunna skriva och
1:10:59tillverka liksom utan problem. Men
1:11:01alltså riktig så här det man tänker så
1:11:02här, men det här är väl jag verkligen,
1:11:03vad har människan tänkt här? Alltså det
1:11:05det tror jag ändå eh inte hänger så
1:11:07löst.
1:11:09>> Mm. Ja. Så det är ganska mycket som
1:11:10hänger löst typ resten. Ja. Eh
1:11:12>> ja. Ja, precis. Resten.
1:11:15>> Ehm. Vilken är Sveriges plan om 2030 %
1:11:19av alla tjänster man har jobb försvinner
1:11:21inom fem år?
1:11:23Jag tror inte jag tror inte Sverige har
1:11:25någon plan. Alltså sen har inte jag
1:11:27pratat med
1:11:29direkt pratat med regeringen och så, men
1:11:31jag är med i vissa sammanhang där de har
1:11:34som försöker liksom påverka kring det
1:11:36här. Men jag upplever att man har man
1:11:38får väldigt dåligt höra. Alltså det det
1:11:40är svårt för politikerna att ta det här
1:11:41på allvar och det är också svårt förstås
1:11:43för politikerna att ta det här på allvar
1:11:44när inte befolkningen tar det på allvar.
1:11:46Alltså jag menar om om jag hade varit
1:11:48politiker och kommit ut och sagt det
1:11:49här, ja men det finns en risk här att
1:11:51alla är döda om 10 år, då hade jag ju
1:11:53ingen hade ju röstat på mig. Nej.
1:11:55>> Eh antagligen om de inte tror tror på
1:11:57det själva eller tror det själva. Så att
1:11:59det är ju det behövs ju en stor folklig
1:12:01vilja eller en folklig medvetenhet som
1:12:04kan leda till politisk medvetenhet som
1:12:05kan leda till handling. Så just nu tror
1:12:07jag inte har så mycket planer.
1:12:09>> Mm.
1:12:10Ehm behöver vi börja diskutera
1:12:13medborgarlön redan idag?
1:12:15Absolut. Vi borde sätta oss ner och
1:12:18planera för ett samhälle där där där
1:12:21liksom arbete inte finns på samma sätt,
1:12:23där lön inte finns. Eh, och om det går
1:12:26bra med AI så kommer man också, alltså
1:12:28det kommer kunna producera enorm enorm
1:12:31välfärd. Alltså det kommer ju kunna vara
1:12:33så att man behöver inte arbeta utan vi
1:12:34kommer kunna ha jättebra med
1:12:35medborgarlön i en sån potentiell utopi.
1:12:38Så det borde vi absolut börja planera
1:12:39för.
1:12:40>> Mm. Om AI snart kan generera perfekta
1:12:43deep fakes av statsminister kungligheter
1:12:45och journalister, hur ska medborgarna
1:12:47veta vad som är sant och inte sant?
1:12:51Jag tror att det inte nödvändigtvis
1:12:53behöver bli ett jättestort problem för
1:12:56att på ett sätt så kan man ju redan nu
1:12:57skapa väldigt övertygande deep fjes och
1:12:59man har länge kunnat skapa väldigt
1:13:00övertygande fejkbilder och det har ju
1:13:03det är ju på ett sätt är det ett
1:13:04problem. Det är ju på sociala medier
1:13:05finns det jättemycket då falsk
1:13:06information och folk som tar del av det
1:13:08och tror på olika saker. Men men om man
1:13:10kollar på samhället i stort så så finns
1:13:13det ju fortfarande då media, det finns
1:13:15liksom tidningar, det finns i Sverige är
1:13:17det statlig television och det finns
1:13:18liksom eh som man som man kan förlita
1:13:21sig på och som eh
1:13:23>> ja eh alltså jag skulle säga att
1:13:25eftersom att det inte är ett jättestort
1:13:26problem redan så kommer det nog så finns
1:13:29det en chans i alla fall att det inte
1:13:29behöver bli ett i någon problem. Men det
1:13:31är klart att det är väldigt det blir en
1:13:32ja man måste lära sig förhålla sig till
1:13:34allting på ett annat sätt.
1:13:35>> Är du orolig för att AI kan bli ett
1:13:37kraftfullare verktyg för manipulation än
1:13:39sociala medier någonsin har varit?
1:13:43>> Absolut. Alltså
1:13:45det grejen med AE är ju att den kan
1:13:49manipulera den väldigt direkt. Det är
1:13:51som du pratar om när man när man pratar
1:13:52med en AI chatbot och så tycker man om
1:13:54den och man litar på den eh om den då om
1:13:57det om företaget som ligger bakom den
1:13:59här vill manipulera den på något sätt.
1:14:00Eh, då har de ju en extrem möjlighet och
1:14:03som det är nu så har ju ja man delar med
1:14:05sig alla möjliga saker till de robotarna
1:14:06som de har också massa tjänstinformation
1:14:07som de kan använda för att och utpressa
1:14:09h om de behöver.
1:14:11>> Ja, jag pratade också med Erik Färnholm
1:14:12för något år sedan om de här sakerna och
1:14:14då så sa han att han tror att i
1:14:15framtiden kommer det vara så att ens
1:14:17närmsta person är en AI. Dagens läge är
1:14:21ens närmsta person är en förälder. Att
1:14:23det kommer gå ganska snabbt och det har
1:14:25du inte jag ens gått in och pratat om.
1:14:27Men när ens närmsta anhöriga person inte
1:14:31ens förälder längre att det är en AI.
1:14:34>> Han litar mest på den. Den kan mest om
1:14:36den. Den förstår den alltid. Det hjälper
1:14:38den alltid. Den är liksom den personen
1:14:40som alltid finns där fören oavsett vad
1:14:42det är. Den trösten på absolut bästa
1:14:43sättet.
1:14:44>> Och hur är det när alla människor i hela
1:14:47världen
1:14:48>> har en AI som närmst anhörig? Det är
1:14:52också så här,
1:14:53>> det är ju ett problem som vi inte ens
1:14:55kan föreställa oss för det
1:14:57>> verkligen. Det är det är så helt gren
1:14:59aspekt av allt det här. Ja.
1:15:01>> Ja. Vilka ränder tror du kommer få
1:15:03störst makt? Kina, USA, någon annan?
1:15:07>> Jag tror som det ser ut nu så är det ju
1:15:09USA som leder allting. Eh, Kina ligger
1:15:12ju en bit efter. Det är möjligt att de
1:15:14på något sätt kan gå om, man vet aldrig.
1:15:16Men det sannlika verkar vara USA och det
1:15:19beror ju helt då på vad de gör alltså.
1:15:22Som det ser ut nu så är det ju
1:15:24det verkar rätt så här. Nu har precis
1:15:26senaste veckan så har ju amerikanska
1:15:27regeringen börjat eh ge sig in mer
1:15:30alltså i alltså börja peta mer i
1:15:32autvecklingen. Förut har de varit så här
1:15:34vi ska inte på vi ska inte göra
1:15:35någonting vi ska inte reglera på något
1:15:36sätt utan vi får inte hamna efter så att
1:15:38företagen ska bara hålla på. Men nu så
1:15:40har det dels har det varit bråk
1:15:41mellanropic och försvarsdepartementet i
1:15:44USA eh för att man har velat använda
1:15:46deras eh modeller då till även sånt som
1:15:48som inte vill att man ska använda det
1:15:50till som övervakning och och eh AI vapen
1:15:53och så där. Och sen så har de börjat
1:15:56reglera med alltså de har börjat förstå
1:15:58på ett sätt att det här är en väldigt
1:15:59stor grej. Så de har det var ju en
1:16:02modell d släpptes av Tropic eh som
1:16:05användes liksom av hundratals miljoner
1:16:07som sen efter några dagar nu bara för
1:16:09några dagar sedan då blev stoppad av eh
1:16:12amerikanska regeringen. Så att de har ju
1:16:14liksom börjat vakna till och det kan ju
1:16:17bli så att de tar över det här. Det är
1:16:18ju ganska sannolikt att de vid något
1:16:20tillfälle säger att men det här är så
1:16:21allvarligt så att det här kan inte
1:16:22skötas av företag utan det skötas av
1:16:24staten och så blir det som att man hatar
1:16:26en projekt och eh att det här är staten
1:16:28liksom som tar fram den här otroligt
1:16:29kraftliga teknologin och då är det ju om
1:16:31de hinner först. Det är lite på samma
1:16:33sätt som med atombomben när de han först
1:16:35när de var de enda som hade atombomben
1:16:37då hade de ju egentligen en otrolig
1:16:40maktposition som de hade kunnat använda
1:16:41för att ja men i princip ta kontroll
1:16:44över så delar av världen men som de eh
1:16:46lyckligtvis då inte gjorde. Men samma
1:16:47situation kan ju uppstå nu att den som
1:16:49har en stäkte a kan använda det eh så
1:16:51länge de har kontroll över den själva
1:16:53till att ta över alltså det som de vill
1:16:55kommer hända liksom.
1:16:56>> Mm. Det finns ledande AI-forskare som
1:16:58varnar för autonoma vapensystem. Var
1:17:01världens utföra ett förbud mot AI styrda
1:17:05dödliga vapen.
1:17:07>> Ja, det tycker jag. Eh, absolut. Alltså
1:17:10man borde man skulle vilja ha förbud mot
1:17:12alla möjliga vapen förstås, men det Ja,
1:17:14när det känns ju väldigt väldigt
1:17:16farligt.
1:17:18>> Hur nära tror du vär AI-drivna
1:17:20cyberattacker som kan slå ut hela
1:17:21samhällsfunktioner?
1:17:25>> Några år eh som mest som mest några år
1:17:28tror jag.
1:17:31Alltså AI drivna på det sättet att den
1:17:34som har inte inte nödligtvis att A själv
1:17:36kommer göra det men liksom men att om
1:17:37någon har kontroll över AI så kommer de
1:17:39kunna utföra såna.
1:17:40>> Vem bär ansvaret om ett autonomt
1:17:43vapensystem döda fel person?
1:17:46>> Ja, det är ju de som eh de som använder
1:17:49det autonoma vapensyst.
1:17:51>> Vad menas autonomt vapensystem? Det är
1:17:53mycket så här frågor med autonomt
1:17:54vapensystem. Vem men det? Ja, autonom
1:17:56det är liksom att den eh i det här
1:17:59fallet så menar man väl då att det är en
1:18:00AI
1:18:02det vapensystemet drivs av en AI modell
1:18:05och det är den som fattar beslut om hur
1:18:07den ska agera. Så att det det kan ju
1:18:09hända då att ja men den beslutar sig för
1:18:11att eh spränga en eh ett sjukhus och det
1:18:15är liksom inte att en människa då har
1:18:17tryckt på en knapp att ja men vi ska
1:18:18spränga sjukhuset utan de har bara sagt
1:18:20så här men gör det som du som du tänker
1:18:22är bäst för oss så att vi kan ta över
1:18:23det här landet.
1:18:25>> Ja. Ja, precis. Eh, så att och det blir
1:18:27ju
1:18:28>> Ja.
1:18:29>> Ja, vi är ju knappt börj använda AI på
1:18:31den här nivån i krigen. Eh, det har ju
1:18:34bara touchat på lite grann ju.
1:18:36>> Eh, är AI större säkerhetshot än
1:18:39kärnvapen på sikt?
1:18:41>> Absolut.
1:18:43Väldigt mycket större.
1:18:46>> Varför?
1:18:48Dels som vi pratade om att kärnvapen är
1:18:50det är så uppenbart att det är farligt
1:18:52så att vi har de här regleringarna och
1:18:53vi alltså alla vet även Putin vet att
1:18:57han han att om han använder kärnvapen så
1:18:59kommer det också skada honom själv på
1:19:01ett eh väldigt liksom ödestiget sätt.
1:19:04Men det är inte lika uppenbart med AI
1:19:07och många regeringar, alltså både Kina,
1:19:10kanske ännu mer USA tror jag fortfarande
1:19:12har en bild av att så länge de eh ledare
1:19:15A, alltså har den starkaste A-modellen,
1:19:17då kommer de kunna använda den för att
1:19:19alltså de tänker inte att det kommer
1:19:20kunna stå tillbaka på dem själva för de
1:19:22ser inte riktigt att de att de kommer
1:19:24kunna tappa kontrollen utan de tror att
1:19:25det är ett vapen som de kan hantera. Och
1:19:27därför så är det mycket större risk att
1:19:29eh att ett att ja att någon använder AI
1:19:32alltså eh på sätt som man inte skulle
1:19:33använda kärnvapen om man inte verkligen
1:19:35var extremt desperat.
1:19:37>> Mm.
1:19:38>> Och sen tror jag också att eh eh AI har
1:19:41potential att göra mycket större skada
1:19:43än kärnvapen. Alltså även om det skulle
1:19:44bli ett kärnvapenkrig, det hade ju varit
1:19:46total katastrof. Men det är ändå rätt
1:19:48sannolikt att delar av världens
1:19:50population skulle överlevas. Man skulle
1:19:52kunna man skulle kunna bygga bunkrar.
1:19:54Man skulle kunna liksom starta om
1:19:55samhällen, man skulle kunna, det är
1:19:57liksom inte nödvändigt så att allt alla
1:19:59dör. Men när det kommer till AI då är
1:20:01det då finns det många scenarium som
1:20:03slutar med att det finns liksom ingen
1:20:05chans att någon människa överlever.
1:20:07Alltså det kan bli så att hela planeten
1:20:09verkligen blir obeboelig på ett helt
1:20:11annat sätt än än till och med kärnvapen
1:20:13då. Fast en kärnvapen är också
1:20:14jätteallvarligt.
1:20:15>> Mm. Tror du att människan kommer vara
1:20:17den intelligentaste aktören på jorden om
1:20:20ti år?
1:20:21>> Nej.
1:20:22Om AI blir smartare än alla människor
1:20:24tillsammans, vem fattar då det
1:20:25viktigaste besluten?
1:20:30Alltså så länge vi har någon typ av
1:20:32kontroll så är det ju
1:20:34mänskligheten som fattar det viktigaste
1:20:36beslutet. Eh och det viktigaste beslutet
1:20:39är ju då vad gör vi med Ain? Vad gör vi
1:20:41liksom innan vi har tappat kontrollen?
1:20:43Vad gör vi då? Det är ju liksom det
1:20:44absolut viktigaste beslutet som kan
1:20:46påverka hela liksom ja eh tusentals år
1:20:50framåt liksom avgör sig av vad som
1:20:51händer egentligen i de närmaste tio åren
1:20:53skulle jag säga. Om
1:20:55>> AI kan göra nästan allt bättre än
1:20:57människor. Vad blir då människans roll?
1:21:00>> Förhoppningsvis om människan har något
1:21:03inflytande och tillåts leva så blir ju
1:21:05vår roll att eh att bara att leva.
1:21:08Alltså att njuta av liv apor i naturen
1:21:10typ bara.
1:21:10>> Ja. Ja, men precis. att i naturen att eh
1:21:13ja men liksom att att göra vad vi vill.
1:21:16Det är ju den här utopin alltså att
1:21:17verkligen få Det blir ju på något sätt
1:21:19som att alla är eh ja men miljardärer
1:21:23med eh liksom totala möjligheter. Alltså
1:21:27alla kan göra så som så som de liksom
1:21:29Rickasmadären lever nu liksom fast med
1:21:31ännu mycket mer möjligheter. På samma
1:21:33sätt som man tänker så här åh alltså
1:21:35bara att jag lever hemma och har liksom
1:21:37toalett som jag kan spola i så här och
1:21:39badkar att det är jag och mat kan
1:21:41beställa att det är liksom redan mycket
1:21:43lyxigare än vad den den absolut
1:21:44mäktigaste kungen hade det eh för tusen
1:21:47år se så kommer det ju vara med a med
1:21:50all den alla sakerna som den här a kan
1:21:52utveckla det kommer vara så extremt så
1:21:54att så att de som även de allra
1:21:56fattigaste då i framtiden kommer liksom
1:21:58kunna leva på ett sätt som hade varit
1:22:01helt drömlikt för oss. nu så länge vi
1:22:03överlever.
1:22:04>> Mm. Vad är det värsta tänkbara scenariot
1:22:082030 om tre och ett halvt år?
1:22:12Eh, det värsta tänkpar sn 2030 det är
1:22:15att A-utvecklingen har fortsatt och att
1:22:18det har gått ännu snabbare kanske än vad
1:22:20många till och med tror att det att det
1:22:23kommer göra härifrån och att vi redan
1:22:25kommer ha nått en rekursiv
1:22:27självförbättring eh och att det då har
1:22:30gått så långt så att vi har tappat
1:22:31kontrollen och eh ja men vi på något
1:22:34sätt redan alltså eh det värsta snarut
1:22:38är att vi alla är döda. Ehm, Ain liksom
1:22:44har bara fortsätter med sin utveckling
1:22:46och det finns heller inget medvetande i
1:22:48i AIN så att det är bara totalt
1:22:50meningslöst. Allt, all mening i
1:22:51universum är utraderad.
1:22:54Upfattat. Om världens främsta
1:22:55AI-forskare säger att det inte vet hur
1:22:57detta slutar, varför är då politiken så
1:23:00tyst?
1:23:08Ja, det är en väldigt bra fråga. Jag jag
1:23:10tycker själv att eh det är en fråga som
1:23:13alla borde ställa sig, men jag tror att
1:23:15det beror på att politikerna Jag tror
1:23:17bara att det beror på att det det är
1:23:18väldigt svårt att ta det här på allvar.
1:23:20Alltså det är väldigt svårt att
1:23:22verkligen tänka sig att det att det
1:23:24händer på riktigt. Jag tror jag tror att
1:23:25det är få som kan föreställa sig det och
1:23:27jag tror att det är väldigt lätt att
1:23:28vifta bort det här som liksom science
1:23:30fiction tankar även när det kommer från
1:23:31världens främsta forskare. Alltså man
1:23:33tänker så här: "Ja, men den här gamla
1:23:35forskaren som har ett Nobelpris, ja men
1:23:36man måste vara lite knäpp för att och
1:23:38vara forskare också. Jag tror att det
1:23:40liksom det handlar om en om en oförmåga
1:23:43att eh att föreställa sig de här
1:23:45scenarierna. kanske en oförmåga att
1:23:47liksom eh en mänsklig oförmåga att
1:23:51liksom se exponentiell utveckling och
1:23:54hur snabbt saker kan gå. Alltså det är
1:23:55väldigt svårt för oss att tänka oss en
1:23:57sån kurva liksom. Allt som vi som vi
1:24:00tänker oss tänker vi liksom att ja men
1:24:01saker blir det ändras lite grann hela
1:24:03tiden men det är liksom jättesvårt att
1:24:06tänka sig att det här kommer tryckas
1:24:07ihop så att det ändrar sig jätte
1:24:08jättesnabbt för vi har inte varit med om
1:24:10vi har inte varit med alltså vi har
1:24:11aldrig varit med om en så här otroligt
1:24:12snabb utveckling. Vi har ju varit med om
1:24:14att saker har hänt jätte jättemycket
1:24:15saker har hänt bara de senaste 30 åren
1:24:17men vi har aldrig varit med om detta och
1:24:18därför kan vi inte riktigt föreställas
1:24:19det.
1:24:20>> Är vi på väg mot mänsklighetens största
1:24:22genombrott eller mänsklighetens största
1:24:25misstag?
1:24:28Vi är på väg mot nå något av de två.
1:24:33>> Du kan inte säga vilken du hade bätta
1:24:34på.
1:24:36>> Eh, jag Ja, alltså det är ju väldigt
1:24:40deppigt. Eh,
1:24:42ska v säga då att som det ser ut nu så
1:24:44är vi på väg mot mänskligens största
1:24:45misstag men vi har chans att rycka upp
1:24:49oss och se till att vi istället är eh på
1:24:51väg mot vår största och och bästa
1:24:54upptäckt.
1:24:55>> Mm. Kommer våra barn arbeta mindre eller
1:24:57inte alls?
1:25:00>> Eh, inte alls.
1:25:02>> Wow. Du, tack Jonas Fräs SM för ett
1:25:05otroligt eh spännande eh tufft eh
1:25:09intressant djupt avsnitt du.
1:25:12>> Tack själv. Det var så ja, så skönt att
1:25:14få prata om det här. Det är sällan man
1:25:15känner att man kan eh kan göra det att
1:25:18det är någon som vill lyssna. Men ja,
1:25:20tack för jag håller med. Tack för ett
1:25:22jätteintressant samtal.
1:25:23>> Mm. Superintressant och nej men det här
1:25:26får man smälta lite grann. Jag kommer
1:25:28också lyssna på det här efteråt. Eh för
1:25:30när man är inne och intervjuar hela
1:25:31tiden så tänker man ju på också mycket
1:25:33nästa frågor och grejer så här. Men det
1:25:35här är ju verkligen något som eh ja tack
1:25:38för att du delar och om man skulle vilja
1:25:40komma i kontakt med dig Jonas eh hur gör
1:25:41man då?
1:25:42>> Eh jonasförnäsen.se
1:25:44nog lättast. Man kan testa Instagram
1:25:46också bara Jonas för näsan. Eh, ja där
1:25:49finns ju också minnes minnesgrejer om
1:25:51man om man vill också vill fortfarande
1:25:53vill läsa min sniker. Det kan vara kul
1:25:55oavsett hur det går så kan det vara kul
1:25:56och komma ihåg saker
1:25:58>> verkligen. Om du vill eh ha bättre på
1:26:00högskoleprovet så har jag sett också att
1:26:02det finns en kurs där bland annat
1:26:03högskoleprovet också.
1:26:04>> Ja precis. Hfakuten.se det allt är helt
1:26:07gratis där så det är bara att gå in och
1:26:09om man ska skriva så att jag Ja, men jag
1:26:10länkar här också. Jag har själv gått
1:26:12flera av dina kurser och använt mig av
1:26:13flera olika saker och det det är
1:26:16relativt ofta jag hör av mig till dig
1:26:17också och fråga du nu ska jag stå inför
1:26:19den här utmaningen kan du hjälpa mig med
1:26:20någonting med det här nu måste jag
1:26:21liksom vara lite vassare på det här
1:26:23liksom så kommer du med bra grejer. Så
1:26:25att stort stort tack att du kom hit
1:26:27Jonas från SN och jag länkar
1:26:29kontaktifter till dig och allting om man
1:26:30vill kontakta dig eller kolla in m minne
1:26:33eller högskoleprovet eller något annat
1:26:36så ja stort stort tack att du kom hit.
1:26:38>> Tack själv. Ha det bra. Oh.

About this transcript

This page contains the full transcript of AI kan utrota mänskligheten inom 10 år – Jonas von Essen by Alexander Pärleros, generated from the public captions YouTube serves with the video. The transcript has 17,924 words across 2,469 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to translate the transcript into 100+ languages.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, translation to 100+ languages, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.