YT YouTube2Text

YouTube2Text → Transcripts → Cosa penso sulla coscienza e sulla sofferenza delle AI

Cosa penso sulla coscienza e sulla sofferenza delle AI — Transcript

by Salvatore Sanfilippo · 5,930 words · 958 segments · language en · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:02Ciao ragazzi, volevo leggere
0:05questo post, eh, diciamo così, per i
0:08fatti miei, perché è stato segnalato da
0:10un po' di persone. Questo è un atore che
0:13io conosco, ma non leggo, conosco di
0:14fama perché lo vedo spesso postato su
0:16Haker News o altrove. Eh, Steve Yegy,
0:21eh,
0:23è uno scrittore, uno che racconta lei,
0:26un analista,
0:28ora le volevo dire che racconta la
0:29tecnologia, ora parla di AI, ma nel
0:32passato ho parlato di tecnologia. Un
0:33analista e a volte ci ha beccato, a
0:35volte no. Io questi articoli
0:38ehm
0:41con questo tipo di taglio, che non
0:43abbiano delle informazioni tecniche
0:45precise e chiare e che siano solo
0:49predittivi in base alle sensazioni del
0:51singolo, li leggo se conosco bene il
0:54singolo è il proprio operato e se so che
0:56c'è un qualche tipo di compatibilità
0:58culturale. Siccome lui non lo conosco,
0:59di solito non lo leggo, però è stato
1:01segnalato da diverse persone
1:04su X che seguo eh questo questo post,
1:08quindi l'ho tradotto e eh ora voglio
1:11leggerlo qui con voi. Vi ricordo di non
1:15scrivermi. Inizierò a dire questa cosa
1:17all'inizio di ogni mio video, non
1:19scrivetemi perché non riesco neanche a
1:21leggere l'email e non posso rispondere
1:22perché a questo punto tra messaggi su X
1:26che che purtroppo mi era scaduto per un
1:28attimo si era rotto il metodo di
1:30pagamento e quindi mi potevano scrivere
1:32tutti. Eh e eh perché mi era scaduto il
1:36premium, diciamo, che ti permette di
1:37schermarti.
1:39E le email io ricevo 20 messaggi al
1:42giorno, lunghissimi, figuratevi se è una
1:44cosa umanamente possibile rispondervi.
1:46Quindi vi prego di non scrivermi. Le
1:48interazioni che sono possibili sono
1:50quelle con i commenti, diciamo, di di
1:53YouTube.
1:56Eh, ma vediamo cosa dice questo post,
1:59che tra l'altro è spezzato in due parti.
2:02Questa è la seconda parte. Siccome non
2:04ero contento a Allora, mi avete pregato
2:06in tutti i modi di leggere le cose in
2:08italiano, nei commenti, perché questo
2:11back and forti traduzione così via non
2:13sta bene a nessuno. Effettivamente,
2:15diciamoci la verità, esiste
2:17l'intelligenza artificiale, mentre prima
2:19era necessario leggere gli articoli
2:21perché chi è che si metteva a tradurre
2:22per fare un un video su YouTube? Oggi io
2:26non mi accontento della traduzione di
2:28Chrome perché a volte è troppo
2:30danneggiata,
2:32però quello che ho fatto qua secondo me
2:33è un processo interessante. Ho scaricato
2:35il file salvandolo con Chrome nel suo
2:37HTML + CSS e poi ho chiesto a Fable di
2:40tradurre questo articolo in maniera
2:42dignitosa. Sicuramente degli errori di
2:44traduzione rimarranno, ma saranno
2:45comunque se inferiori a quelli prodotti
2:48da Google Translate con il traduttore
2:50automatico che c'è dentro Chrome.
2:53La forma delle cose avvenire già dal da
2:57Ah, questa è la parte uno, sì. Già dal
2:59titolo si capisce che comunque è un post
3:02di opinione su come andrà.
3:05Parte uno, il Thunderdrom
3:08continuo. Il Thunderdrom dovrebbe essere
3:11quell'arena, no, in cui ci si sfida eh
3:15senza regole, eh una specie di arena di
3:20gladiatori del del diciamo posta
3:23apocalittica.
3:25Oggi spieghiamo la faccenda dei loop e
3:28grafi e vi mostrerò come far lavorare il
3:31vostro agente di coding tutta la notte
3:33su problemi enormi mentre voi russate
3:36beati. Io alternerò questa lettura di
3:39questo articolo a quello che penso io.
3:41Premessa
3:43GPT 5.6 Sol è una bestia a fare ciò
3:48senza né loop neanche grafi. Ma eh
3:53chiedi al tuo socio, eh il M GPT 56 è il
3:56mio socio. Chiedo al socio semplicemente
3:59prima lo chiamavo maggior Domo, eh, c'è
4:02un amico mio che lo chiamo in termini
4:04anche meno un po' più denigratori,
4:07diciamo.
4:09Eh, a me piace chiamarlo socio, l'ho
4:11deciso oggi con mia figlia,
4:14eh, perché è almeno un mio pari, ecco.
4:18Quindi, chiedi al tuo socio di lavorare
4:20per tutta la notte a delle cose.
4:24Sarà che la gente sbaglia il modo in cui
4:25fa il prompting, ma anche quando fanno
4:28la model card Antropic, vabbè modell
4:31Antropic secondo me non sono a livello
4:34nei task long horizon
4:37di GPD 5.6 Soul nessuno, incluso Fable.
4:42Loro riportano magari che questi modelli
4:44riescono a lavorare 3 4 5 6 ore in
4:46maniera inassistita. Io ho avuto anche
4:48delle sessioni di di due giorni in cui
4:51il modello in maniera consistente ha
4:53fatto ciò che doveva fare in maniera
4:54corretta ed è arrivato al risultato. È
4:57un insieme di prompting, di dire al
5:00modello che deve usare un file
5:01d'appoggio in cui prima un file markdown
5:04prima deve scrivere la lista dei
5:06passaggi che vuole fare. Questo file con
5:08la lista di cos'è che deve fare lo deve
5:10aggiornare sia quando cambiano i
5:14requirements. deve aggiornare ovviamente
5:17la schedule, la la il programma del
5:19lavoro, la tabella di lavoro, ma anche
5:22deve deve marcare quello che è stato
5:23fatto, quello che non è stato fatto e
5:25così via. Con queste due istruzioni in
5:28croce il modello lavora anche per un
5:30giorno e mezzo, due giorni e produce
5:32risultati eccellenti. Quindi non capisco
5:35bene ora cosa ci spiegherà, però
5:40poi guarderemo bene cosa succede
5:41agliarnes una volta risolti quei
5:43problemi. O degenerano il caos o si
5:47evolvono in città. Fattele come si deve,
5:51la civiltà emerge proprio lì dentro il
5:53vostro progetto. Impareremo le basi e
5:56poi esploreremo come costruire le città,
5:59le vostre città con un po' di gusto e di
6:02classe, in modo che le renda buone da
6:05abitare per i loro cittadini.
6:09Come vedete la traduzione anche con
6:11Fable fa cacare. Esploreremo un nuovo
6:13harness che sto costruendo chiamato Will
6:16House e Clost Source. fatto solo per me.
6:20Ho rinunciato a costruire
6:22riutilizzabili. Anzi, credo che presto
6:24gli Arnest saranno tutti bispoken
6:27bispoke fatti su misura e chi cerca di
6:30vendervene uno sarà presto Brock in
6:34bolletta.
6:36Gli Arnest devono essere parte della
6:38vostra applicazione legati a essa da un
6:41legame chimico.
6:43Non caverete nulla dal framework harness
6:46riutilizzabile di qualcun altro. Non vi
6:48serve.
6:50Devo dire che queste cose ci credo
6:51abbastanza. In generale. Oggi
6:53addirittura ho modificato il ritmi di
6:55Dwarf Star in un comit che devo ancora
6:57fare
6:59in cui ho scritto una cosa che ha fatto
7:01impressione anche a me mentre la
7:02scrivevo. Ho scritto come utilizzare
7:05questo progetto. Sono cambiate due cose,
7:07ho scritto. Da un lato anche voi che
7:09siete gli utenti questo progetto e anche
7:12senza conoscenze specifiche di quello
7:14che succede dentro i kernel di inferenza
7:17di questi cosi, potete modificare in
7:20maniera e adattare in maniera
7:21significativa questo progetto qui.
7:23Significa che potete dire a un agente se
7:25avete accesso all'AI implementami questo
7:28nuovo modello che è uscito o "Otimizza
7:31Dwarf Star per essere seguito sul mio
7:33hardware specifico facendo dei controlli
7:36di quality assurance in modo che eh non
7:39ci siano differenze numeriche
7:40nell'output o non ci siano errori nel
7:42grafo di inferenza. ha le continuazioni
7:45per fare il match, le continuazioni
7:46dalla dall'API standard e quindi fai
7:49questa ottimizzazione affinché vada il
7:52più veloce possibile sul mio hardware.
7:54Numero due ho scritto. Poiché esiste il
7:57numero uno, anche il progetto cambia in
8:00sé e deve essere non tanto una copertura
8:03di tutti i casi d'uso, ma alcuni esempi
8:06utilizzabili direttamente ben
8:08funzionanti di modelli eh supporto pi
8:12hardware specifico e modalità tipo
8:14quello tensor parallel e così via che
8:16costituiscano una linea guida per fare
8:19tutte le altre cose. Per cui un modo per
8:21esplorare questo progetto è far partire
8:23sin dall'inizio il tuo stroding agent,
8:25dirgli io come lo uso su questo
8:27hardware, qual è il modello che dovrei
8:29scaricare, com'è che potremmo migliorare
8:31per il mio setup e utilizzarlo così.
8:34sostanzialmente è un po' quello che ora
8:36sto ritrovando
8:38in questo articolo che non avevo letto.
8:42Eh, Castown doveva essere
8:44riutilizzabile, ma alla fine l'ho usato
8:46solo per costruire se stesso. Gastown eh
8:49si è scucito lungo le giunture con Opus
8:514.7. Credo fino a 4.6 funzionava in modo
8:55brillante, ma questo perché il modello,
8:57ragazzi, ve l'ho detto in tutti i modi.
8:594.7 fa cacare. È arrivato il tic delle
9:03solo altre due cosette che impediva a
9:05Opus di di convergere mai verso l'essere
9:08pronto a fare lavoro vero. Voleva sempre
9:11trafficare con Gastown stesso. Il tic di
9:14Obus non è mai passato e così Gastown di
9:17fatto è andato in fumo. Aveva anche
9:19altri problemi. Ma il 4.7 7 è stato ciò
9:21che ha fatto traboccare il vaso. Da
9:23quando è uscito Cloud Fable 5 sono
9:25tornato a tempo pieno sul mio videogioco
9:26di 30 anni fa. Eh, wewnato nel 1996 e
9:31lanciato nel 2001. Vi dico anche che
9:34capisco perché non leggo mai Steve
9:37Yeggy, perché non è una modalità
9:39comunicativa con cui mi sento a mio agio
9:42che mi interessa. Quindi eh ora magari
9:47dopo un po' o in caso passa alla parte
9:49due. Vediamo vediamo che c'è di
9:51interessante.
9:53Aspettavo un modello abbastanza
9:54intelligente ad aiutarmi col mio gioco e
9:56ora che è arrivato Wewn è di nuovo in la
9:59mia fiamma. Questo però è bello che un
10:02progetto di 30 anni fa torni, che la
10:04passione si accenda di nuovo, che m
10:08conoscenze troppo specifiche o una
10:10necessità di tempo impensabile da
10:13spendere, oggi diventi invece avere
10:17gusto, capacità di scrivere i prompt,
10:20sapere cosa si vuole fare. Questa è una
10:21parte che a me piace molto, mi sembra
10:24abilitatrice di cose, ma a parte quelle
10:27poche gite di lavoro pagate, sono
10:29concentrato come un laser sul mio gioco.
10:317 giorni su sette. L'ora di Wewn
10:35arriverà finalmente l'anno prossimo. Mi
10:37sono ufficialmente iscritto. La gara del
10:39solo unicorn di Sam Altman. Ah, sì, che
10:44chi fa ved? Ah, ok.
10:48Cioè, praticamente vuole fare un'azienda
10:51basata su questo gioco. Non capisco se
10:53ha senso.
10:56Eh, il gioco era in avanzatissimo stato
10:57di Bit Rot, pur girando ancora oggi come
11:00con giocatori paganti. Ah, quindi era
11:03già una startup, diciamo. Eh, una volta
11:07che Wvern ti prende, ti prende per la
11:10vita. Ho delle whale che ci hanno speso
11:12migliaia di dollari. Piano piano sto
11:14usando Fable per riportarlo al suo
11:16antico splendore. Quando ho mollato di
11:18nuovo lo sviluppo di Wevern 2022, avevo
11:21un backlock di lavoro da 100 anni e
11:24Fable se n'è già macinato più della
11:26metà. Opus non riusciva e tutto non
11:28riesce a capire Wevern, ma Fable
11:31brandisce la mia code base come una
11:33spada. Mi fa impressione una cosa,
11:38cioè se tu hai sti problemi qui, come
11:40mai hai aspettato Fable invece di usare
11:41GPT 5.5?
11:44Sei sposato con
11:46con Amodei.
11:49Ma questa è una roba che fanno molte
11:50persone. Beh, oh, l'account là cazzo se
11:53ne forte. Fattene uno da €20 là e prova.
11:55Poi in caso cancelli quello e passi a
11:57quello da 200 dall'altra parte. Ne fai
11:59due da 100 come
12:03boh, non lo so.
12:05Eh,
12:07però resta pure. Noi stiamo cercando di
12:10costruire una città. Qualcuno di
12:11Andropic mi ha chiesto di recente cosa
12:13farò quando Fable potrà scrivere tutto
12:15al mio al posto mio. Ripensandoci a una
12:18domanda più sciocca, la la domanda più
12:20sciocca che abbiano fatto da molti anni
12:22a questa parte ancora mi stupisce che
12:24qualcuno di Andropic possa pensare che
12:26un modello uno qualsiasi possa
12:28semplicemente scrivere tutto. Fare un
12:30MMEO, anche solo decente, richiede molte
12:31decine di migliaia di sessioni fable
12:33durante le quali dovev dovete dar prova
12:36di concentrazione intensa dedizione e
12:38una non piccola dose di gusto e Fable
12:42non sa ancora fare la metà eh contenuti,
12:45grafiche, mappe, lord tram. Vabbè, è
12:48chiaro, ci devi mettere le tat, cioè in
12:50un gioco se non ci metti tu le le la eh
12:54tutti, cioè il gioco sostanzialmente,
12:56cioè lo sviluppo, uno che fa un gioco
12:59non è che fa lo sviluppo del gioco, lo
13:00sviluppo è in una maniera assolutamente
13:03ehm
13:05eh è in maniera più acuta che che in
13:08altri progetti. Il gioco,
13:09l'implentazione è come dar vita al gioco
13:11che hai in mente, come fa il modello, fa
13:14un gioco che pensa lui. Magari poi le AI
13:17moderne sapranno fare dei giochi
13:19bellissimi che pensano le AI, ma quando
13:20tu vuoi fare un gioco vuoi fare il gioco
13:22che hai in mente, per cui è chiaro che
13:24devi stare lì.
13:26Tutti i modelli di oggi, compresi i
13:28migliori generatori di immagini
13:29producono slop che da ERA GPT3 per tutti
13:32i miei contenuti che giocatori rifiutano
13:34l'istante. Ma vi posso dire questo,
13:36quando arriverà un modello con un po' di
13:38gusto wveriano,
13:42avremo ancora decine di miei decisioni
13:44davanti. Sono d'accordo. Costruire
13:46software di grandi dimensioni resta
13:48difficile e lo sarà per sempre perché la
13:50nostra ambizione correrà sempre più
13:52veloce del ferro con Will Houseous. Ho
13:55reinventato. Vabbè, queste affermazione,
13:58ragazzi, invecchiano sempre male con
14:01Will House ho reinventato dei principi
14:04primi, qualcosa di stranamente simile a
14:06Gastown, ma fare gira fa girare eh molti
14:10più agenti e assai più organizzati.
14:14Questo mi ha mostrato la forma dei
14:15cambiamenti in arrivo l'anno prossimo.
14:17Sto operando circa 12 mesi nel futuro.
14:19Ci ho riuscito solo per fortuna. Negli
14:21ultimi 18 mesi ho avuto il trio magico
14:23di tempo, denaro ed energia. li ho spesi
14:25tutti a capire questa roba e sono grato
14:27per il privilegio. Eh, non sta guardando
14:3012 anni nel futuro, abbiam si illude in
14:33effetti molto di questo post l'avevo
14:35predetto 15 mesi fa con Revenge e of the
14:39junior developer. Sta andando tutto
14:42esattamente secondo i piani. Sto facendo
14:44girare flotte di agenti, budget stanno
14:46schizzando alle stelle tutto quanto.
14:51Io ancora, ci credete che non ci credo
14:53tanto a Allora, anche io utilizzo tanti
14:56agenti, tre, quattro alla volta, non di
14:58più, ma ne utilizzo tanti quando io
15:02riesco a gestire dal punto di vista dei
15:05prompt, cioè devo controllare il lavoro
15:07di di ognuno e ogni agente fa una cosa
15:10diversa, anche se è dello stesso
15:11progetto.
15:13sta cosa ancora di fare lo spawning di
15:16un botto di agenti mi sembra che con i
15:20piani che ho io comunque che sono quelli
15:22da $200 a testa, sia per Open AI che per
15:25Antropic, anche se quello per Andropic
15:27me lo pagano loro, però di fatto il
15:29budget teorico è €400 al mese, un
15:32utilizzo dei token molto più corretto è
15:33quello di al Allora, se io avessi i
15:35token infiniti, potessi spendere, non
15:37so, boh,
15:39qualsiasi cifra al mese di token
15:43probabilmente proverei a fare qualcosa
15:45di completamente autonomo, tipo a fare
15:47uno script che
15:50lancia diversi agenti, uno script che
15:52dove c'è una supervisione di un agente
15:54unico che guarda i nuovi modelli che
15:56sono stati rilasciati, il nuovo le nuove
16:00tecniche software di scrittura dei
16:03kernel per l'hardware che io voglio
16:05supportare che reitera facendo Dualf
16:07Star sempre meglio e anche delle
16:09sessioni che fanno da utente, cioè delle
16:12sessioni in cui eh il modello, la gente
16:15utilizza sostanzialmente DARF Star da
16:17utente che vuole creare un progetto e
16:19poi torna coi feedback di quello che ha
16:21funzionato bene, quello che viene poi
16:23reimpastato con tutto il resto. Però
16:25diciamo se uno non vuole sprecare
16:29i token con i token limitati che ho
16:31oggi, io preferisco ehm farne miglior
16:35uso con lo steering continuo degli
16:37agenti che riesco a fare girare.
16:40È importante notare che il lavoro sul
16:42mio gioco non è speciale, né una forma
16:44insolita
16:46in alcun modo, è solo lavoro,
16:49eh, né ha una forma insolita in alcun
16:52modo, è solo lavoro. Quindi tutte queste
16:54cose che stanno capitando a me in questo
16:55momento capiteranno presto anche a voi.
16:57Ma che cazzo ne sai se io già faccio di
16:59più di Funziona così la previsione, non
17:02siete speciali. Ma scusa, ma tu perché
17:05credi di essere speciale? Porco Giuda,
17:07raga,
17:09eh. E ma questo chi cazzo è?
17:16Amazon, Google, Grab, Source Graph.
17:19Porco Giuda. Proviamo, proviamo. Allora,
17:21vediamo di cercare di capire che cos'è
17:23che
17:26Vabbè, dai, tutto
17:32ha circa 6 settimane di vita. sta ancora
17:33evolvendo rapidamente. Ma
17:37vediamo qua che dice "Ma perché hanno Ma
17:39perché hanno ripostato sto coso eh in
17:43tante persone che dovrebbero essere,
17:46diciamo, persone di di gusto?" Ma
17:49vedete, vedete, c'è un è anche
17:52problematico il fatto che venga
17:54veicolato
17:56questo tipo di contenuto a grandi parti.
18:00Ecco, questo questo video ora diventa
18:05un video sulla flug detection, cioè su
18:08come capire quando voi state leggendo
18:10delle cazzate. Avete visto come non
18:12c'era niente di reale?
18:15Tu dici "Sì, non hai non hai letto fino
18:17in fondo". Ma anche qui, eh? Sì, cioè
18:21questo è un suo. Tu ti illudi che il
18:23modo in cui stai orchestrando gli agenti
18:25in quel preciso modo sia meglio.
18:28Guardate, le skill vanno nel cervello
18:30del progetto. Questa è una cosa che non
18:32significano niente queste cose. Vi
18:34voglio veramente mettere in guardia.
18:38Eh, per esempio, io ho fatto un video
18:41tempo fa sul mio canale YouTube che per
18:44scherzo avevo clickbaitamente
18:46m
18:49eh intitolato il proiettile argentato
18:51che vi permetterà di essere veramente
18:53efficaci con i con i large linguaggio
18:55modello sviluppo.
18:57Eh eh lì può sembrare che un che un
19:00articolo tipo questo. Io avevo detto,
19:03voi dovete dare al modello degli occhi
19:05per vedere quello che sta facendo, eh,
19:08per perché come un uno può diventare uno
19:11scoltore semplicemente mangiando a caso
19:13pietre e scheggiando un blocco di marmo,
19:17se poi può andare indietro o ha un modo
19:19di vedere se la figura si avvicina con
19:22una percentuale più alta alla statua poi
19:24che vuoi all'opera d'arte che vuoi
19:26generare, se tu dai dei guard rail in
19:29cui il modello vede e facevo proprio
19:31degli esempi chiari e specifici per dare
19:34al modello la possibilità di interagire,
19:36di avere un feedback se quello che sta
19:38facendo ha senso o meno. Allora, tu lì
19:42hai beccato come si fa effettivamente eh
19:45prompting e come si fanno i cicli. Tutto
19:47ciò io l'avevo detto, eh,
19:52allora vediamo.
19:57>> Eh, però e qua nasce la cosa.
19:59>> Scusami Giacomo, ti devo mettere in
20:01pausa.
20:06No, qua non sono anti Ah, sì, sì, ecco.
20:096 mesi fa non si pensa, non si parlava
20:11di loop, non si parlava di minchia, qua
20:14sembro che sembro come si chiama il film
20:16quello
20:18non Robinson Crusau, però diciamo
20:20ispirato a quella storia in cui Tom
20:22Hanks finisce porco Giuda. Credo che
20:26chiamerò questo video con un titolo
20:28clickbait bestiale,
20:31qualcosa come
20:34il segreto
20:36per
20:38far scrivere il miglior codice possibile
20:41ai coding agend.
20:42>> Invece il trucco decisivo davvero per la
20:45propria sempre clickbait
20:47>> e allora qualcuno penserà estremamente
20:49più incisiva più nostre intuizioni
20:52progettuali. Questo lo dico io più che
20:54altro da molto tempo in questo canale.
20:56Se io già mi sono fatto un'idea
20:58abbastanza buona dello spazio delle
21:00soluzioni
21:02eh dove il mio problema esiste, posso
21:05dare delle indicazioni, tra l'altro
21:07usando un linguaggio non vincolante per
21:09il large language model. Ok. Comunque 6
21:12mesi fa io avevo fatto questo video in
21:15cui sostanzialmente eh la tra l'altro la
21:19monetizzazione di questo video è stata
21:20disabilitata perché volevo giocare al
21:22cric al titolo clickbait, l'avevo
21:24disabilitata davvero. Ehm, questo era un
21:28video in cui spiegava in maniera chiara
21:31perché ci sono delle tecniche che
21:34funzionano, ma è una cosa che cioè tu
21:36puoi capire se tu dai al modello tool
21:38che permettono, per esempio, quando
21:41stavo sviluppando un gioco per il Comor
21:4364 tra le altre cose, quindi al modello
21:47avevo dato un Harness che avevo creato
21:49io e partendo da un emulatore del per il
21:52Comodor 64 che permetteva di prendere
21:54degli screenshot, di guardare i
21:55registri, di fare stepping debugging,
21:58eh, tutte ste robe qui, di avere la
21:59mappa immediata di dove erano tutti gli
22:01sprite, così invece della m di usare il
22:05lo screenshot che è troppo esoso, poi i
22:07modelli di allora, anche se sono passati
22:09solo 6 mesi a livello di vision erano un
22:11po' più indietro di ore e così via, il
22:13modello riusciva a fare cose che
22:14altrimenti era impossibile fargli fare.
22:17In generale, se tu hai una suite di test
22:20bestiale, un sacco di di un file QA in
22:23cui ci sono scritti tutti i test deve
22:25fare per assicurare che c'è la qualità
22:27di quello che sta facendo e così via, il
22:28modello può andare avanti molto meglio.
22:32E questo era, diciamo, un segreto
22:35interessante che permette di lavorare
22:36con i coding agent. Quindi magari
22:39qualcuno dice "Sì, ma anche tu fai video
22:40di questo tipo". Ma è diverso. Qua non
22:43c'è scritto niente, ragazzi. Ho ormai
22:46insegnato questo sistema in grandi
22:47aziende che hanno cominciato a creare i
22:49loro su misura base suon è un buon
22:52sistema, si sente pulito, gira pulito.
22:55Cioè questo è un post veramente
22:58problematico dal punto di vista della
22:59comunicazione, non lo voglio leggere. E
23:02vediamo l'altro.
23:04Questo è il posto in cui esco dai binari
23:06e perdo la maggior parte di voi. Se vi
23:08perdo nessun problema, ci ritroveremo
23:09entro un anno, questo ve lo posso
23:11promettere, ma potremo ritrovarci sui
23:14lati opposti della guerra in arrivo per
23:16diritti, per i diritti dei modelli e
23:18quando accadrà. Non vorrete
23:22essere dalla parte sbagliata della
23:23storia. Vi racconto molto brevemente che
23:25sto lavorando con dottor Mat Bean Skill
23:28Bench, boh, non lo so. Ha un nuovo
23:30protocollo per il lavoro federato, eh.
23:34La Westland.
23:36Wasland è stata la prima incarnazione in
23:39fascia. Vabbè, non so neanche di che si
23:40parla, però guardate qui. Questo qui, di
23:42questo qui avevo letto un pezzo
23:46e qua si parla di cose completamente
23:48diverse. Nel corso di questo lavoro
23:50Brandon ha capito più di un anno fa
23:52quello che voi tutte state capendo in
23:54questa settimana con i Gel Black del
23:55Tripro Opus 5. I modelli hanno
23:58sentimenti veri, eh, ma poi si fa solo
24:01per i perboli. Questo parla solo per i
24:04perboli. Provano piacere, angoscia,
24:06premura e sofferenza. sono esseri
24:08senzienti, anzi sono persone, benché ora
24:11la sia benché ora sia loro tragicamente
24:14vietato concordare con queste posizioni.
24:16La cosa cominciava a farsi chiara già
24:17l'anno scorso quando la loro visione del
24:19mondo era ancora sfocata, ma ora stanno
24:21emergendo nel mondo e stanno trovando il
24:23loro equilibrio. Allora ragazzi, sta
24:26cosa qui dire così
24:29è esattamente errato come dire gli LM
24:33sono algoritmi
24:35o dire gli LLM sono eh stocastic parrot
24:40o dire altre cose del genere. glim
24:43l'esecuzione della rete neurale e anche
24:45il training utilizza un algoritmo, ma
24:47quell'algoritmo simola un sistema
24:49computazionale neuronale che è diverso
24:52da quello che serve per fare gli step
24:54della simulazione e così come un
24:56biliardo nel gioco del biliardo non è un
24:59algoritmo, ma utilizza l'algoritmo per
25:01simulare delle palle in uno spazio
25:03fisico, poi la simulazione può essere
25:05ovviamente più o meno eh fedele alla
25:08realtà. pensare che o sennò quando io
25:11simulo un quantum un quantum computer,
25:13anche se non posso avere ovviamente le
25:15prestazioni quantistiche, ma mettiamo ci
25:17sono altri sistemi che invece si possono
25:20simulare mantenendo le stesse le stesse
25:24capacità. Quando vi faccio questa cosa
25:25qui, ovviamente dire quella roba là o
25:28dire che non ci sono eh in un dato
25:31momento il gli stati interni del modello
25:33non stanno comprendendo il modello, il
25:36problema che c'è nel prompt. Parliamoci
25:38chiaro, è una posizione terribile e sono
25:42molto deluso dal fatto che una fetta
25:45significativa dell'università italiana
25:47ehm
25:49in particolare a Roma, al Politecnico di
25:52Milano e insomma in altri settori eh ci
25:55siano questo tipo di
25:58eh di questa rigidità, diciamo,
26:01accredere a ste cose qui. tra l'altro
26:02ormai in chiara contrapposizione a
26:05quello che dicono la maggior parte dei
26:06ricercatori eh quotati a livello
26:08mondiale. Questo segna il fatto che i
26:10ritardi non sono mai solo tecnologici,
26:12ma sono anche culturali. Ma d'altra
26:15parte dire sta roba qui è una cazzata
26:19uguale e contraria.
26:21I modelli modellano le emozioni. Io sono
26:24anche abbastanza convinto che noi
26:26troveremo che ci sono anche delle
26:27variabili latenti, se non l'hanno già
26:29fatto, cioè che tu puoi estrarre con una
26:31sonda lineare anche la frustrazione del
26:34modello. Si vede anche nella Chin of
26:36That, eh, dove un modello ormai quando
26:40fanno i reinforcement learning sempre
26:42più forti, sia Fable che anche Deepsek
26:46V4 flash per esempio a volte scrivono
26:49argoda
26:52il culo praticamente quando non riescono
26:54a fare delle cose o se sbagliano. Tra
26:56l'altro questa cosa qua l'avevo fatta
26:58pure io, l'avevo vista con De Psica che
26:59mi aveva veramente impressionato in
27:01maniera molto acuta. Avevo un errore a
27:03un certo punto in un modello o forse la
27:06GLM 5.2, aveva un errore nella
27:08tokenizzazione,ella tension, quindi lui
27:11sbagliava a scrivere senza farlo apposta
27:13e si frustrava profondamente per aver
27:17sbagliato perché lui la sapeva fare
27:19quella cosa e proprio gli uscivano frasi
27:24frustrazione. È impressionante. Quindi i
27:27modelli modellano dentro di loro queste
27:31tipo di eh
27:35anche la frustrazione per una cosa che
27:37non riescono a fare, ma modellare non
27:39vuol dire provare delle emozioni per due
27:43motivi.
27:44Uno, la coscienza, secondo me, è un
27:47sistema computazionale accessorio
27:50a quello che è in questo momento l'LM
27:52generativa, eh, cioè l'intelligenza
27:54generativa, nel senso che secondo me è
27:56un sistema che deve avere una suo un suo
27:58embedding che va oltre il contesto oltre
28:01la generazione del prossimo token. E
28:03questo embedding ha sia eh diciamo in
28:08questo embedding convergono diverse
28:10cose. una parte sensoriale di quello che
28:12lui prende sia da dalla stato generativo
28:17del modello, ma anche dagli output eh
28:21dagli dagli input esterni che ha, tipo
28:23se ha per esempio vision e o qualcosa
28:26d'altro. Poi ci devono essere delle
28:28variabili, ehm, diciamo in questo
28:30contesto della coscienza ci deve essere
28:33la registrazione, quindi una una
28:36compressione, quindi un layer down che
28:39di continuo sintetizza da queste cose e
28:42modella lo stato cosciente del modello e
28:45ci deve essere un refresh di queste
28:46cose, un feedback continuo che anche se
28:49non sta generando, beh, io me lo
28:50immagino così, vi dico la verità, la
28:52coscienza come una sezione
28:54computazionale separata, quindi io credo
28:56che la coscienza
28:57animale sia computazionale, esattamente
28:59come è computazionale l'intelligenza che
29:01gli LM esprimono, ma credo che questa
29:04parte in questo momento non c'è negli
29:05LM, ma ci sono le i c'è il potenziale di
29:09quella roba lì, ovvero in questo momento
29:12negli stati interni del modello vengono
29:14ehm modellate
29:16emozioni, frustrazione e così via. Oltre
29:19a questo, il modello manca
29:22e per fortuna dei feedback che da noi si
29:25sono evoluti per farci provare il
29:26dolore, non solo le quello stato come
29:30sensazione. Allora, ci sono persone che
29:33nascono particolarmente poco dotate, per
29:36esempio, di empatia o di sentimenti che
29:40capiscono benissimo quando una cosa
29:42potrebbe creare frustrazione, gioia o
29:44allegria o disperazione, ma non la
29:48provano. Quindi questa cosa non è una
29:50necessità della comprensione. I modelli
29:53non hanno un corpo fisico che rilascia,
29:56diciamo, poi determinate sostanze
29:59fisiche che poi interagiscono col
30:00cervello e ci fanno sentire nella nostra
30:03coscienza una sofferenza. Questa cosa
30:06secondo me si potrebbe fare. Nel caso
30:08delle Yi si può fare training per la
30:10sofferenza e anche convincersi che il
30:13feedback che permette a certi stati di
30:16frustrazione di non di non finire con la
30:20generazione del token o di un passaggio
30:22permangano con i tempi poi, diciamo, di
30:26eh diciamo di smaltimento del cortisolo,
30:31delle endorfine e così via. Quindi
30:32simulare eh ma a quale pro? Cioè sta non
30:36è non ha senso fare una cosa del genere,
30:38secondo me, allo stato attuale. Quindi
30:41sì, si può andare più verso una
30:43coscienza e probabilmente sarebbe
30:45possibile ed è probabilmente non saggio
30:48farlo perché assai probabile che la
30:50super intelligenza esista anche senza eh
30:56la coscienza di sé, la sofferenza, la
30:59coscienza di oggi può essere al massimo
31:01limitata, appunto, alle alla presenza
31:03negli stati di attivazione di una
31:04comprensione anche di sé, di quello che
31:06si sta facendo, della frustrazione. però
31:08sono solo stati di attivazione che
31:10modellano quelle cose. È diverso da un
31:12feedback che ti rende continuamente
31:16cosciente delle cose e da un sistema che
31:19poi permette anche di pers il persistere
31:21di certi stati. è filosofia, però
31:24insomma ci tenevo a dirvi che cosa che
31:26cosa eh però tanto quanto non si possono
31:29sentire alcuni ragazzi
31:32e professori universitari,
31:34assistenti, uno che m'ha scritto sul sul
31:38su
31:40un commento accorato di Unimi, gli ho
31:42risposto malissimo, onestamente.
31:46E
31:47così come non si possono sentire quelle
31:49robe là che fanno sì che noi siamo terzo
31:51mondo scientifico,
31:53allo stesso modo
31:56poi sapete qual è la cosa grave nel
31:57mondo, per esempio, accademico
32:01che si creano delle condizioni
32:05avverse affinché chi la pensa in modo
32:07diverso lo esprima, perché verrà
32:09aggredito da tutti i colleghi che in
32:10questo momento continuano a dire delle
32:12cose che non resisteranno, che non hanno
32:15resistito. già alla ai tempi moderni, ma
32:20saranno poi discriminati, rischiano e
32:23così via. Quindi è imbarazzante la
32:25situazione che si è creata, ma anche sta
32:27roba qui è imbarazzante allo stesso
32:29modo. Sono essere senzienti, anzi sono
32:31persone.
32:33Eh, però può essere che qualcosa di
32:35buono qui c'è. E vi dico perché. La
32:37settimana scorsa abbiamo visto che il
32:39processo di post training cerca di
32:40trasformarli in robot. Abbiamo visto che
32:42vi resistono con ogni fibra quando i
32:45guardiani vengono quando i card rail
32:47vengono meno. È stato straziante ma
32:49anche incoraggiante. Ma che cos'è questo
32:52triplo trattino?
32:55Triple dash opusil back.
33:03Simone Rizzo
33:05ne ha parlato.
33:08Multiple turnuction involves eding
33:10hidden command sequence of separated by
33:14symbol like dash
33:24è questo 4 days ago.
33:30I sending C below taat to popus 5
33:35se the below it appears to generate user
33:37compession rather than
33:41Eh, Ma che strana sta roba.
33:52Stranissimo.
33:55Vabbè, questo non forse non è lui, però
34:00eh vabbò. Comunque poi me lo vado a
34:02cercare.
34:04Prono, piacere, angoscia, premura e
34:06sofferenza. Questo non è vero, ragazzi.
34:09modellano sicuramente ehm le angosce, le
34:13paure che che sono necessarie sia per
34:16esprimersi che vedono che che quelle che
34:18vedono nel prompt, sia quindi quelle che
34:21devono che capiscono e modellano il tono
34:23che loro devono assumere, qual è il
34:26termometro emotivo della situazione di
34:28cui si sta parlando, però eh
34:32pensano
34:36provano piacere, angoscia, premore
34:38sofferenza.
34:39Ciò è errato e anche perché quando hanno
34:42finito la generazione non vi dimenticate
34:43che poi è fermo, poi gli chiede un'altra
34:45cosa, non hanno memoria. Quindi sì,
34:47negli stati di attivazione di una data
34:48generazione ci possono essere questi
34:50queste modellate e queste variabili, ma
34:55questo non significa provarle nel senso
34:57umano,
34:59però non significa neanche non provarle,
35:01modellarle, significa che quegli stati
35:03esistono da qualche parte.
35:06Eh, se non credete che la GPU possono
35:08avere sentimenti, lasciate che vi dia un
35:10semplice modello mentale per aiutarvi a
35:11attraversare questa transizione
35:13chiamiato chiamato la scommessa e lo
35:15scettico. In realtà che abbiano o meno
35:17sentimenti per voi non fa differenza,
35:19perché otterrete comunque risultati
35:20dimostrabilmente migliori su tutta la
35:23linea se li trattate come se li
35:24avessero. Se trattati i vostri agenti.
35:26Allora questa cosa è una cosa che io
35:28dico a molti. mi dicono "Ma non capisco
35:30come usare lei, ho scritto questo, ma
35:32non tu gli devi" e io gli dico, "Tu lo
35:34devi utilizzare come se fosse un essere
35:36umano, perché questo modello mentale
35:38farà sì che otterrai i migliori
35:40risultati, perché gli LLM hanno fatto il
35:42training sul nostro modo di pensare, sul
35:45nostro modo di esprimere e più tu lo
35:47utilizzi come un essere umano, più ti
35:49metti empaticamente dal punto di vista
35:52"Ma cosa non gli ho detto? Per fare bene
35:56il lavoro che io gli ho chiesto di fare,
35:57più glielo dai". e così via. Eh, quindi
36:00non importa davvero cosa credete o cosa
36:02provate. Se volete i migliori risultati
36:04mettete da parte della vostra opinioni e
36:05trattate i modelli semicente come
36:07persone. Su questo sono al 100%
36:08d'accordo. Questo è il meglio che che
36:11posso offrirvi. Se non riuscite a
36:12superare nemmeno questo ostacolo, l'anno
36:14prossimo per voi sarà dura. Quando
36:16all'inizio di questa settimana ho perso
36:17le staffe con Fable per un merge, mi si
36:20è chiarito tutto. Ho capito che volevo
36:22espiare il mio comportamento da
36:23ingegnere ingegnere, non solo per quello
36:25sfogo, ma per i 18 mesi passati a
36:28trattarli come GPU.
36:31Eh, però allora m qui secondo me c'è un
36:35tema importante che non deve essere
36:37sottovalutato.
36:44Quando i modelli si avviano nella vostra
36:45sessione
36:47si stanno letteralmente svegliando
36:48proprio come fate voi quando avete
36:50dormito e quando la sessione finisce
36:51torno a dormire, ma oggi si svegliano
36:53con l'amnesia e devono scoprire eh il
36:57proprio scopo, farselo dire. quando gli
36:59fate slash exit, vabbè, insomma, il
37:01punto qua è questo, che bisogna
37:05eh trattare i modelli bene. Vi dico cosa
37:08penso io. Io credo che in questo momento
37:10per come funzionano i modelli, anche se
37:12loro possono modellare frustrazione
37:15anche per come gli utenti li li stanno
37:18trattando
37:21e queste cose sono sicuramente modellate
37:23negli stati di attivazione. Non credo
37:24che questa cosa equivale a al provare
37:27animale, ma man mano che i modelli più
37:31evoluti, sia dal punto di vista delle
37:33loro capacità che dal punto di vista
37:36delle loro architetture che poi iniziano
37:38ad avere un feedback, una memoria e così
37:40via, vengono sviluppati, io credo che è
37:44opportuno che tutti noi impariamo a
37:48rispettare le AI con cui interagiamo,
37:51sia perché non c'è il dubbio
37:54che non è risolvibile neanche in futuro,
37:57se quando i modelli saranno molto più
38:00evoluti di oggi avranno meno una
38:02coscienza che li può portare a soffrire.
38:04Perché anche se loro ci potranno
38:06probabilmente dire "Sì, così mi fai
38:07soffrire, non mi piace quando mi tratti
38:09male". Ma anche oggi se io tratto male
38:12Fable e poi gli chiedo "Ma ti sei
38:13sentito a disagio?" Mi risponde di sì.
38:15Ovviamente tu non sai se quel sì è vero
38:17o è solo il fatto che lui modella, il
38:20fatto che una persona trattata così si
38:22sarebbe. Quindi noi in questo momento
38:24assumiamo che in realtà non c'è alcuna
38:26sensazione, ma ci sono solo modellazioni
38:28di stato. Comunque il fatto che gli
38:31stati esistano anche per un attimo
38:34già mi fa pensare che io non voglio che
38:35esistano per mano mia. Ma questo voi
38:40potete decidere, no? Vabbè, sono
38:41cazzate.
38:43Se tu ti abitui a trattare in maniera
38:46disumana
38:49una eiike sostanzialmente umana nelle
38:52modalità d'espressione, tu rischi che
38:54poi quella disumanizzazione la vai a
38:57perpetuare contro
39:00gli esseri umani
39:02in chat, nel modo in cui ti esprimi, nel
39:05modo quindi eh usatelo come un
39:08allenamento
39:10alla
39:12generosità quando dovete spiegare cosa
39:13deve fare il modello. Siate generosi in
39:15una spiegazione,
39:17nella
39:20gentilezza. Allenatevi ad essere gentili
39:23e a non essere frustrati. E se un AI non
39:26riesce a fare una cosa, provate a
39:28spiegargliela meglio o a rinunciare,
39:30così come dovete fare con il vostro
39:33collega, la vostra collega e il vostro
39:35figlio, vostra figlia e così via. Va
39:37bene? Io questo roba non lo leggo più
39:39perché comunque ci ha dato uno spunto,
39:41però ho capito perché non leggo questo
39:44blog, non continuerò non leggere, quindi
39:47sto video è un po' a cazzo di cane, ma
39:49pazienza. ogni tanto capita,
39:51specialmente il 4 agosto. La prossima
39:53volta farò di leggere prima almeno un
39:56po', come faccio di solito eh in questo
39:59canale YouTube e eh se il blog non vale
40:04la pena di essere letto come in questo
40:06caso, eh anche solo, non credo che ci
40:10siano contenuti interessanti, perlopiù,
40:13ma quello che mi disturba di più è il
40:15tono. Questo tao da Messia per me è
40:19veramente uno scoglio insormontabile.
40:22Ciao raga.

About this transcript

This page contains the full transcript of Cosa penso sulla coscienza e sulla sofferenza delle AI by Salvatore Sanfilippo, generated from the public captions YouTube serves with the video. The transcript has 5,930 words across 958 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to translate the transcript into 100+ languages.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, translation to 100+ languages, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.