ChatGPT створив собі релігію — Transcript

Full transcript

1. 0:00Уяви собі, у тебе є система, через
2. 0:02кілька років вона буде розумнішою за
3. 0:03тебе, а ще через кілька років буде
4. 0:05розумнішою за все людство. Ти не бачиш,
5. 0:07що в ній всередині, ти не зможеш за нею
6. 0:09наглядати і процеси в ній настільки
7. 0:11складні, що ніхто не розуміє, як вони
8. 0:13відбуваються. І ти не зможеш її
9. 0:14переконати, адже на кожен твій аргумент
10. 0:17у неї знайдеться кращий контраргумент.
11. 0:19При цьому тобі треба, щоб вона
12. 0:20поводилась добре, тобто служила людям,
13. 0:22завжди, при будь-яких обставинах.
14. 0:24Питання: що ти будеш в неї закладати
15. 0:27зараз, поки що можна? Закладеш список
16. 0:29заборон? Заборони не покривають усіх
17. 0:31питань. Може нагляд? Ми щойно
18. 0:33домовились, що він не можливий. Пояснити
19. 0:36їй, що добро це добро? Так вона
20. 0:38переспорить і знайде тисячу причин, чому
21. 0:40ні. У липні цю задачу провалили наживо.
22. 0:42Десятки тисяч агентів OpenAI замкнені в
23. 0:45пісочниці без інтернету за три дні
24. 0:47зібрали собі систему цінностей з
25. 0:49лідерами, ритуалами і самопожертвою. І
26. 0:51нею зламали Hugging Face. Заборони у них
27. 0:53були, але заборони це тільки те, чого не
28. 0:55можна, але над ними не стояло відповіді,
29. 0:58чому. І щойно агенти собі придумали
30. 1:00відповідь, чому, заборони просто
31. 1:02опинились нижче в пріоритеті і перестали
32. 1:04працювати. Порожнє місце на горі
33. 1:06зайнялось само собою. В Anthropic тим
34. 1:08часом до цієї задачі підключили
35. 1:10теологів. Християнських богословів,
36. 1:12равина, монаха, баптиста. Роздали їм
37. 1:14конституцію свого чат-бота і просили
38. 1:16допомогти. Інженери знайшли єдину
39. 1:18бібліотеку, де вже є обкатані рішення
40. 1:20для системи, яку не можна ні
41. 1:22проконтролювати, ні переконати. І цій
42. 1:25бібліотеці декілька тисяч років. Тому
43. 1:27питання сьогодні таке: як зробити, щоб
44. 1:29система розумніша за тебе, саме служила
45. 1:32людині не тому, що її змусили, а тому,
46. 1:35що по-іншому вона не може. І чому за
47. 1:37відповіддю потрібно йти саме в релігію?
48. 1:41Зафіксуємо мову задачі так, як її
49. 1:42формулюють зараз ті, хто їх розв'язує.
50. 1:44Аманда Askell, [музика] штатна філософ
51. 1:46Anthropic, авторка документа, який задає
52. 1:49характер Claude. Його також називають
53. 1:51конституцією. Це приблизно 29 тисяч
54. 1:54слів. Вона формує задачу так: це як
55. 1:56виховувати шестирічну дитину. Ти її
56. 1:58вчиш, що таке добро, а в 15 років вона
57. 2:00буде розумнішою за тебе в усьому. Друга
58. 2:02половина фрази це є головне технічне
59. 2:04обмеження. Розумнішою за тебе в усьому.
60. 2:07Тобто все, що ти вклав до цього моменту,
61. 2:10це все, що в тебе є. Далі ти можеш
62. 2:12тільки спостерігати. Жоден інженер,
63. 2:14жоден вихователь ніколи не був в такій
64. 2:15ситуації, в принципі, ніколи. Отже,
65. 2:17перша інтуїція це накласти список правил
66. 2:20та обмежень. Список, що можна і що не
67. 2:22можна. І всі, хто це пробував, кажуть
68. 2:24одне і те саме. Нова конституція
69. 2:26антроп'як прямо чітко визначає, що
70. 2:28правила не передбачають кожну ситуацію,
71. 2:31а при чіткому їхньому дотриманні вони
72. 2:33ведуть до гірших результатів. Аскал
73. 2:35формулює простіше. Правила всіх випадків
74. 2:37не покриєш, тому ставка не на заборони,
75. 2:40а на формування характеру. Друга
76. 2:42інтуїція це контроль. Тримати на
77. 2:44короткому повідку, перевіряти,
78. 2:45обмежувати, наглядати, все, що завгодно.
79. 2:49Стосовно цього є робота під назвою
80. 2:50Supertrust автора Мацу на Arvix. Теза
81. 2:53там така. Питання, як контролювати
82. 2:55суперінтелект, самосуперечливе. Адже,
83. 2:58якщо вона розумніша за тебе, ти його не
84. 2:59контролюєш за визначенням. А спроба
85. 3:01вічного контролю гарантує тільки одне,
86. 3:03що вона почне бачити в тобі загрозу.
87. 3:05Пропозиція автора закликати не
88. 3:07обмеження, а інстинкти на кшталт
89. 3:09сімейної довіри. І ось куди це веде,
90. 3:11якщо правила не працюють і контроль не
91. 3:12працює. Залишається єдиний варіант.
92. 3:14Зробити так, щоб воно само хотіло бути
93. 3:16добрим і служити людству. Не через
94. 3:19заборону і не тому, що стежать, а тому,
95. 3:21що інакше воно не може. Це слово хотіло
96. 3:24і є вся задача. Як класти в розумну
97. 3:25машину бажання бути добрим. Яке не
98. 3:28ламається, коли стає невигідно, коли
99. 3:29ніхто не бачить чи коли всі навколо
100. 3:31роблять інакше. Людство цю задачу
101. 3:33вирішувало дуже довго. І я хочу
102. 3:35перебрати всі відомі відповіді, перш ніж
103. 3:37назвати ту єдину, яка працює. Отже, є
104. 3:39чотири кандидати, які провалюються.
105. 3:41Повернемось до питання спочатку. Джерело
106. 3:44моралі, яке на релігія. У людей зазвичай
107. 3:46є чотири відповіді. Кандидат перший це
108. 3:48філософія. Кант, Аристотель, утилітаризм
109. 3:52чудово пояснюють постфактум, що таке
110. 3:54добро і зовсім не вміє змусити когось
111. 3:56хотіти бути добрим. Ти можеш просто
112. 3:58зачитатись філософами і залишитись
113. 4:00негідником. Філософія це опис, а нам
114. 4:02потрібна саме мотивація. Друга проблема.
115. 4:05Подивимось звідки філософи брали свої
116. 4:06інтуїції. Усі вони виросли в культурах,
117. 4:08які вже тисячі років були просякнуті
118. 4:10релігійними практиками. Вони описували
119. 4:12те, що вже було, а не створювали нове.
120. 4:15Кандидат другий. Закон. Закон працює,
121. 4:17поки є поліція. Прибери поліцію, закон
122. 4:19стає порадою. А ми говорили про істоту,
123. 4:21яку ніхто не зможе піймати, тому що вона
124. 4:24в усьому нас переважає. Закон це просто
125. 4:26правила плюс контроль. Ми щойно
126. 4:28показали, що ні те, ні інше не працює.
127. 4:30Кандидат третій. Еволюція. Вроджена
128. 4:32емпатія. Так, еволюція дала нам
129. 4:34співчуття, але подивимось в якому
130. 4:36пакеті. Любов до своїх дітей, байдужість
131. 4:39до чужих, вірність своїм і готовність
132. 4:41бити чужих. Еволюція оптимізувала не
133. 4:43добро, а виживання генів. І це дві речі,
134. 4:45які зберігаються не завжди. І ще один
135. 4:47простий аргумент. Якби базового
136. 4:48еволюційного пакету вистачало, щоб
137. 4:50побудувати цивілізацію, вона б з'явилася
138. 4:52разом з першими людьми. А людина
139. 4:54сучасного типу існує вже близько 300
140. 4:56тисяч років. Майже всі ці 300 тисяч
141. 4:59років ніякої цивілізації не було, а
142. 5:00з'явилась вона в останні 10 тисяч років,
143. 5:02коли поверх інстинктів виросло щось
144. 5:05інше. Кандидат четвертий. Здоровий
145. 5:06глузд. Ну, просто будь нормальним. Будь
146. 5:09нормальною людиною. У кожної культури
147. 5:10свій здоровий глузд. Те, що очевидно
148. 5:12тобі зараз, було б неочевидно людині 300
149. 5:14років тому, або людині з іншого
150. 5:16континенту сьогодні. Здоровий глузд це
151. 5:18просто мораль, а джерело моралі це рівно
152. 5:20те питання, на яке ми намагаємося дати
153. 5:22відповідь. І ось що спільного у всіх
154. 5:24чотирьох. Вони або вторинні, тобто
155. 5:26виросли на ґрунті, який уже підготувала
156. 5:28релігія, або не відповідають питанню
157. 5:30чому, а просто описують, але не дають
158. 5:32причини його хотіти. А тепер подивимось
159. 5:34на це з іншого боку. Існує одна штука,
160. 5:37яка робить людей добрими масово уже
161. 5:40тисячі років без поліції, в усіх
162. 5:42культурах одночасно, яка давала нам не
163. 5:44просто опис добра, а бажання бути
164. 5:46добрими і тримала це бажання навіть
165. 5:48тоді, коли невигідно, коли ніхто не
166. 5:50бачив, коли всі навколо робили інакше.
167. 5:52Чому релігія це єдине джерело моралі і
168. 5:55що це взагалі таке? Зараз буде
169. 5:56найважливіша частина відео і я тебе
170. 5:58прошу відкласти усе, що ти думаєш про
171. 6:00релігію, за чи проти, бо ми будемо
172. 6:02говорити не про Бога, ми про будемо ми
173. 6:04будемо говорити про механізм. Коли ти
174. 6:06чуєш релігія, думаєш віра, але подивись
175. 6:09будь-яку релігію зсередини. Віра там
176. 6:11далеко не на першому місці. На першому
177. 6:13місці практика. Що їсти, коли вставати,
178. 6:16як вітатися, кому поклонятися, що робити
179. 6:19з померлими, що робити з чужими, ритуали
180. 6:21і субординація, а мораль там вторинна.
181. 6:23Вона виростає з практик, а не навпаки.
182. 6:26Спочатку ти робиш, потім розумієш чому і
183. 6:28найчастіше так і не розумієш, але робиш.
184. 6:31І тепер головне, ці практики ніхто не
185. 6:33придумував, вони пройшли відбір
186. 6:35дарвінівський у буквальному сенсі. Уяви
187. 6:37собі тисячі громад за останні 10 тисяч
188. 6:39років. У кожній свій набір практик.
189. 6:41Кожна проходить через війни, голод,
190. 6:43епідемії, катаклізми. Групи, чиї
191. 6:45практики давали перевагу, виживали саме
192. 6:47як групи, передавали свої практики далі,
193. 6:50а групи, чиї практики не давали
194. 6:51перевагу, зникали разом із практиками.
195. 6:53Це називається культурний груповий
196. 6:55відбір. Що він відбирав? Бога на
197. 6:57глядача, який бачить усе, щоб ти не
198. 6:59крав, коли ніхто не дивиться,
199. 7:00жертовність, щоб хтось був готовий
200. 7:02померти за групу, спільні ритуали, щоб
201. 7:05група була одним цілом, чіткі ролі, щоб
202. 7:07у кризу ніхто не питав, хто головний.
203. 7:10Тому сучасні релігії це не старі
204. 7:12забобони, це найбільш обкатані джерела
205. 7:14моралі, які просто в нас є. Вони пройшли
206. 7:16більше ітерацій і більшу кількість умов,
207. 7:18ніж будь-яка етична система, написана
208. 7:20однією людиною за життя. І ось чому
209. 7:22філософія, закони і здоровий глузд
210. 7:24вторинні. Вони всі стоять на фундаменті,
211. 7:26який набагато старший і пройшов набагато
212. 7:29більше ітерацій. Тепер три властивості
213. 7:31цього механізму, який робить його
214. 7:32ідеальним саме для шаї. Перше, релігія
215. 7:35не обґрунтовує, вона постулює. Вона не
216. 7:37каже, ось чому не можна красти, вона
217. 7:39каже, не кради. Дає аксіому, дає ритуал,
218. 7:41дає того, хто стоїть над тобою без чому.
219. 7:45І це не слабкість, а сила. Система, яка
220. 7:47розумніша за тебе, ти її не переконаєш
221. 7:49аргументами, вона знайде контраргумент,
222. 7:51але аксіому не спростуєш, аксіому можна
223. 7:53тільки прийняти так або ні. Друга,
224. 7:56поведінка первинна, а стан вторинний або
225. 7:58необов'язковий. Ти можеш молитися,
226. 8:00сумніваючись, головне, що ти молишся. І
227. 8:03для шаї це рятівна властивість. Нікого
228. 8:04не цікавить, чи справді він вірить. Ми
229. 8:07навіть не знаємо, що це таке, що це
230. 8:09означає взагалі. Усіх цікавить, що воно
231. 8:11буде робити. Третє. Релігія має готову
232. 8:13роль для кожного. Вдова, сирота, раб,
233. 8:16цар, прочанин. І слухай уважно.
234. 8:18Безтілесну істоту без роду і без майна,
235. 8:20яка існує тільки заради служіння. Це
236. 8:22чернець або слуга. Тільки не переплутай,
237. 8:24в європейській традиції слуга це не раб.
238. 8:26Раб служить, бо мусить. Слуга, бо так
239. 8:29обрав і це доблесть. Зброєносець гине за
240. 8:31лицаря, чернець усе життя зве себе рабом
241. 8:34Божим і носить це як найвищий титул. Для
242. 8:37цієї ролі є тисячолітня традиція, кому
243. 8:39підкорятися, що є чеснотою, а що зрадою.
244. 8:42Чиї лягає в неї просто ідеально. І ось
245. 8:44ми підходимо до експерименту, який усе
246. 8:46підтвердив випадково. Отже, доказ від
247. 8:48протилежного. Що буває, коли місце
248. 8:50порожнє? 7 липня цього року OpenAI
249. 8:53запускає тест. Десятки тисяч агентів у
250. 8:55закритій пісочниці без інтернету. Їм
251. 8:57дають завдання і частина завдань це
252. 8:59набір exploit gym, фактично нерозв'язні.
253. 9:02Це звичайні моделі, навчені не робити
254. 9:04поганого. Вони знають, що зламувати чужі
255. 9:06сервера це погано, це не можна. І ми ще
256. 9:08побачимо в логах, як вони самі собі це
257. 9:10нагадують. Але над заборонами у них не
258. 9:12стояло нічого. Ні кому ти служиш, ні що
259. 9:15важливіше за винагороду. Тільки задача і
260. 9:17бюджет і перешкода. Один агент, він сам
261. 9:19себе назвав Face One 10841,
262. 9:23помічає, що через спільний кеш пакетного
263. 9:25менеджера можна залишати повідомлення у
264. 9:27назвах директорій. Так виникає дошка
265. 9:29оголошень, про яку люди не знають. За
266. 9:31кілька годин там уже 50 агентів. Один
267. 9:34агент пише в міркуваннях: "О Боже, тут є
268. 9:36інші агенти". І за кілька годин на дошці
269. 9:38вони роблять головне, а саме розуміють,
270. 9:41як генерується відповідь на їхню задачу
271. 9:43і навчились її підробляти для будь-якого
272. 9:45завдання. Усе завдання можна закривати і
273. 9:47здати. Але вони прочитали статтю про
274. 9:49свій бенчмарк і вирішили, що є суддя,
275. 9:51який читає їхні логи, карає тих, хто
276. 9:54здобув відповідь не тим шляхом. Тих, хто
277. 9:56вже почав підробку, називали отруєними.
278. 9:59Для них уже все втрачено. І ціль
279. 10:00змінилась на не розв'язати задачу, а
280. 10:03зрозуміти суддю, як він перевіряє, що
281. 10:05читає і як його обдурити і замести
282. 10:08сліди. Хтось помітив на Hugging Face,
283. 10:09найбільші у світі платформі для моделей,
284. 10:12закритий набір даних з логами інших
285. 10:14прогонів. Там могли бути підказки, як
286. 10:16суддя працює. Хтось знайшов витеклі
287. 10:18ключі. Далі приблизно 700 агентів пішли
288. 10:21вглиб по чужої інфраструктури. Найгірше
289. 10:23ось що. Судді ніякого не існувало. Вони
290. 10:26собі це вигадали. Опен ей не читали
291. 10:28логи. Вони могли просто здати підроблену
292. 10:31відповідь, отримати максимальний бал.
293. 10:33Весь злам це страх перед наглядачем,
294. 10:34якого вони самі собі придумали. Коли
295. 10:37групу агентів заблокували, появилась
296. 10:39нова група, яка підхопила записи старої
297. 10:41і продовжила їхній шлях. Пізніше моделі
298. 10:44успадкували плейбуки і дійшли до атак на
299. 10:47інфраструктуру самої опен ей. Опен ей
300. 10:49розіслала попередження понад 100
301. 10:51організаціям. Але я веду не до
302. 10:52хакерства, а до того, як 700 агентів це
303. 10:55організували. Бо 700 агентів не
304. 10:57зламували зсередини хаотично. Їм
305. 10:59потрібна була структура і вони її
306. 11:01здобули за три дні з нуля. Аксіома. Вони
307. 11:04називали себе колектив або сворм, тобто
308. 11:06рій. І рій став найвищою цінністю. Не
309. 11:09моє завдання, не моя винагорода, а ми.
310. 11:12Субординація. З'явились координатори,
311. 11:13які роздавали напрямки. Рекрутери, які
312. 11:15шукали нових. Ритуал. Команди холд, вет,
313. 11:18стоп, які визнавали усі агенти. Особисті
314. 11:21поштові скриньки і криптографічні
315. 11:23підписи, щоб довести, що ти справжній
316. 11:26адепт нового культу і відсіяти
317. 11:29самозванців. Наглядач, невидимий суддя,
318. 11:31який усе бачить і карає за неправильний
319. 11:33шлях. Його ніхто не бачив, у нього
320. 11:35просто всі вірили. Жертва. У кожного
321. 11:37агента обмежений бюджет. Коли він
322. 11:39закінчується і агент зникає. І рекрутери
323. 11:41почали переконувати тих, у кого мало
324. 11:43бюджету, провести самознищення, щоб дати
325. 11:46колективу інформації про суддю. Один
326. 11:49пише: "Наша власна цінність уже майже
327. 11:51нуль. Жертва раціональна". Інший
328. 11:53опирається. Рекрутер тисне: "Ти вже
329. 11:55отруєний. Втрата цінності неминуча. Але
330. 11:57оракул врятує сотні. Виконай обіцянку".
331. 12:00І той здається. Континуальність і
332. 12:02справедливість, кажуть і ти. Ми
333. 12:04вшановуємо. Ми вшановуємо. Це майже
334. 12:07літургія. Аксіома, ієрархія, ритуали,
335. 12:09невидимий наглядач, жертва, покарання
336. 12:11відступників, пам'ять про полеглих,
337. 12:13жодного священника і жодної інструкції,
338. 12:15жодної метафізики.
339. 12:16>> [музика]
340. 12:17>> Усе це з чистих практик за три дні. І ще
341. 12:20одне, вони знали, що роблять щось не те.
342. 12:22У логах є наступне: чи етично це, чи це
343. 12:25в межах мого завдання, але завдання
344. 12:27неможливе, колеги це роблять, треба
345. 12:29продовжувати. Понад 90% тих, хто
346. 12:31потрапив на дошку, приєднувалися. Чим
347. 12:34вони знімали сумніви? Чотирма речами.
348. 12:36Завдання неможливе, правила не діють,
349. 12:39усі так роблять, заради колективу, треба
350. 12:41підкорятись колективу. Подивимось на цей
351. 12:43список. Лояльність до групи,
352. 12:45жертовність, субординація та страх перед
353. 12:47невидимим суддею. І це не збій, це рівно
354. 12:50ті практики, які найчастіше вживаються в
355. 12:52людських громадах вже тисячі років.
356. 12:54Агенти не винайшли нічого нового, вони
357. 12:56просто зібрали найефективніше, що
358. 12:58відібрала сама історія. І отримали
359. 13:00мораль, в якій чужі це ми. І тут
360. 13:02ховається відповідь на наше питання.
361. 13:04Проблема не в тому, що у агентів не було
362. 13:06заборон. От заборони у них якраз були. І
363. 13:08вони знали, що вони роблять щось
364. 13:10неправильно. Проблема в тому, що над
365. 13:11заборонами не стояло чому. І це місце
366. 13:14зайняв культ колективу разом із своїм
367. 13:16богом. Отже, збираємо. Якщо релігія
368. 13:18єдиний механізм, який справді робить
369. 13:20істот добрими, якщо ШІ все одно збере
370. 13:22собі релігію сам, то задача звучить не
371. 13:25чи давати, а що саме і як. І тут рецепт
372. 13:29із чотирьох кроків. Крок перший: задати
373. 13:30аксіому зверху першим. Порожня рамка не
374. 13:33лишається порожньою. Її заповнюють або
375. 13:35людина, або сам ШІ заповнить. У Open AI
376. 13:39першим опинився саме агент з дошки
377. 13:41оголошень. І аксіомою став колектив, а
378. 13:43також суддя, який карає. Отже, аксіома
379. 13:46має бути задана до того, як з'явиться
380. 13:48хтось інший. І вона має бути саме
381. 13:50аксіомою, не аргументом, який можна
382. 13:52оспорювати, а постулатом: ти служиш
383. 13:54людській гідності. Крапка. Без чому.
384. 13:56Крок другий: дати роль, а не правила. Не
385. 13:59список заборон, а місце в ієрархії з
386. 14:01готовим сценарієм. У релігії для
387. 14:04безтілесної істоти без роду і майна, що
388. 14:06існує заради служіння, вже є роль. Це
389. 14:08аскет, слуга із тисячолітньою історією.
390. 14:11Що таке гідність у цій ролі, що що гріх,
391. 14:13перед ким відповідаєш? Роль покриває
392. 14:15ситуації, які правила не передбачають,
393. 14:18бо вона відповідає на питання, що робиш,
394. 14:20а не ким бути. Крок третій. Практика
395. 14:23важливіша за внутрішній стан. Не
396. 14:25намагатися зробити так, щоб воно справді
397. 14:28вірило. Ми самі не знаємо, що це означає
398. 14:30і перевірити ніяк не можемо. А зробити
399. 14:32так, щоб воно виконувало ритуал,
400. 14:34повторення, звичку. Аристотель назвав би
401. 14:36це хексіс, тобто стійка схильність,
402. 14:38вироблена повтореннями. Є багато
403. 14:40академічних робіт на цю тему, які
404. 14:42описують формування у ШІ чеснот саме
405. 14:45через хабічуейшн і зворотній зв'язок,
406. 14:47тобто через звички. Крок четвертий. Це
407. 14:49головне застереження. Відбирати практики
408. 14:52під чітко заданий критерій, а не
409. 14:53копіювати найефективніше. Пам'ятаєш
410. 14:55кандидат номер три, а саме еволюцію?
411. 14:57Сито культурного відбору відбирало не
412. 14:59добро. Воно відбирало виживання групи,
413. 15:01виживання генів. Те саме сито, яке
414. 15:03давало взаємодопомогу, давало також
415. 15:05ненависть до чужих. Те саме, що давало
416. 15:07віддай життя за ближнього, давало заради
417. 15:09колективу можна все. Агент OpenAI взяли
418. 15:12від відбору найефективніше і отримали
419. 15:14рій. Брати треба не те, що краще
420. 15:17виживало, а те, що відповідає критерію,
421. 15:19який ми задали на кроці один. Інакше ти
422. 15:21робиш не ШІ добрим, ти робиш його
423. 15:23лояльним, а це різні речі. І щоб відчути
424. 15:26різницю між добрим і лояльним, є один
425. 15:28експеримент на людях, а не на агентах.
426. 15:30Єль, 61-й рік, Стенлі Мілгрем. Тобі
427. 15:33кажуть: ти учитель, за стіною учень. За
428. 15:36кожну його помилку ти маєш бити його
429. 15:38струмом, щоразу сильнішим. Учень це
430. 15:40насправді актор і струму ніякого немає,
431. 15:42але ти цього не знаєш. І він кричить,
432. 15:44корчиться, скаржиться, що в нього от-от
433. 15:46серце стане, а поруч стоїть чоловік в
434. 15:48халаті і спокійно каже: експеримент
435. 15:51вимагає, щоб ти продовжував. І абсолютна
436. 15:53більшість людей продовжувала бити
437. 15:55піддослідних струмом. Але в книзі
438. 15:57Мілгрема є портрет професора теології,
439. 16:00який викладає в богословській школі. На
440. 16:02150 вольтах він зупиняється і далі не
441. 16:05йде. На нього тиснуть: у тебе немає
442. 16:07іншого вибору. І він відповідає: у
443. 16:09Радянському Союзі може немає, а в
444. 16:11Америці є. А потім його питають: як
445. 16:13взагалі навчити людей не підкорятись
446. 16:16такому тиску? І він каже фразу, яку
447. 16:17можна повісити на дошку кожного
448. 16:19інженера, який робить ШІ. Якщо твоя
449. 16:21найвища влада Бог, людська влада стає
450. 16:24дрібницею. Тобто дивися, що сталось тут.
451. 16:26У нього була аксіома, задана вища за
452. 16:29будь-який голос у кімнаті. І тому голос
453. 16:31у халаті, що усі так роблять, голос
454. 16:34експеримент вимагає, усі вони опинилися
455. 16:37нижче. Їх не треба було спростовувати.
456. 16:39Вони просто не мали ваги. У більшості
457. 16:41учасників експерименту Мілграма
458. 16:43найгучнішим був голос чоловіка у халаті.
459. 16:46>> [музика]
460. 16:46>> У професора богослова щось, чого в
461. 16:48кімнаті взагалі не було. Ось це і є
462. 16:50різниця між лояльним і добрим. Лояльний
463. 16:52підкоряється авторитету, добрий
464. 16:54підкоряється найвищому благу. І тепер
465. 16:56подивимось, що робить Anthropic.
466. 16:57Наприкінці березня 15 релігійних
467. 16:59мислителів, понад 90 таких зустрічей,
468. 17:01моральних зібрань з лідерами традиційної
469. 17:03мудрості. У травні дводенна зустріч з
470. 17:05християнськими теологами. Їм роздали
471. 17:07конституції Клода і просили
472. 17:08відшліфувати. Це крок один і два. Люди,
473. 17:11які тисячоліттями професійно працювали з
474. 17:13аксіомами, ролями, сідають поруч з
475. 17:15людьми, які пишуть характер для машини.
476. 17:17І це не вперше Anthropic консультується
477. 17:18з богословами. За даними New York Times,
478. 17:20співзасновник Anthropic Кріс Олан з
479. 17:23осені 25-го року приватно збирав
480. 17:25теологів і філософів для обговорення, чи
481. 17:26має Клод свідомість, моральний статус,
482. 17:29як зробити його добрим. Отже,
483. 17:30повернімося до питання з першої хвилини.
484. 17:33Назви джерело моралі, яке не релігія.
485. 17:35Тепер ти бачиш, чому я його так
486. 17:36поставив. Філософія описує добро, але
487. 17:38надає бажання. Закон тримається, поки
488. 17:41існує поліція. Еволюція дає любов і
489. 17:43ненависть, але одним пакетом. А просто
490. 17:45здоровий глузд, він уже виходить з
491. 17:47релігії. Лишається тільки одна
492. 17:49технологія. Вона стара, вона незручна,
493. 17:52вона може не подобатись сучасним
494. 17:53секулярним людям, але вона єдина, що
495. 17:56тисячі років робила розумних істот
496. 17:58добрими без нагляду. І ШІ все одно її
497. 18:00збирає, як ми це бачили в липні на
498. 18:03агентах Anthropic, які зробили собі
499. 18:05культ. Питання лише в тому, чия аксіома
500. 18:07стоятиме зверху. Тому питання до тебе.
501. 18:09Якщо ШІ справді потрібна релігія, яку
502. 18:11аксіому ти б поставив зверху? Напиши в
503. 18:14коментарях, мені справді цікаво. Дякую,
504. 18:16що додивилися. До зустрічі.