Fantástico: Futuro das inteligências artificiais e os perigos para a humanidade — Transcript

Full transcript

1. 0:00Um marco tecnológico que já foi
2. 0:02considerado impossível vem se tornando
3. 0:04cada vez mais realista e preocupa
4. 0:07pesquisadores. É a inteligência
5. 0:09artificial geral, uma nova etapa da
6. 0:11inteligência artificial. Um avanço no
7. 0:13poder da IA que daria às máquinas super
8. 0:15habilidades e até mesmo independência do
9. 0:18ser humano. O repórter Álvaro Pereira
10. 0:20Júnior conversou com o historiador e o
11. 0:22Val Harari sobre o potencial dessa
12. 0:24inovação e os riscos pra humanidade.
13. 0:27Tema do mais recente livro de Harari.
14. 0:30>> É o episódio de hoje do quadro Mentes
15. 0:32Digitais.
16. 0:34[Música]
17. 0:36Quando se fala em inteligência
18. 0:38artificial, eliminando a espécie humana,
19. 0:41a gente logo pensa no exterminador do
20. 0:43futuro, em que uma I revoltada comanda
21. 0:46robôs assassinos para matar todo mundo.
22. 0:51>> Mas essa é uma visão distorcida,
23. 0:53exagerada.
24. 0:56>> Não é com robôs nas ruas fuzilando as
25. 0:58pessoas. A situação é mais traiçoeira e
26. 1:00perigosa e está acontecendo a toda nossa
27. 1:04volta.
28. 1:05e sem que a gente desconfie.
29. 1:07>> O que nós estamos vivendo hoje é uma
30. 1:10revolução da inteligência artificial,
31. 1:12que pode ser a maior mudança histórica
32. 1:14de todos os tempos.
33. 1:17[Música]
34. 1:26O professor de história Ioval Harari,
35. 1:29escritor israelense de muito sucesso,
36. 1:31esteve em São Paulo domingo passado no
37. 1:33evento SP2B.
38. 1:36O tema foi o mesmo do seu livro mais
39. 1:38recente, Nexus, Os perigos da
40. 1:41inteligência artificial.
41. 1:44Por milênios, nós inventamos
42. 1:45tecnologias, sistemas sociais e sistemas
43. 1:48políticos que davam mais poder pra
44. 1:51humanidade. Agora, pela primeira vez,
45. 1:53criamos uma coisa que pode tirar esse
46. 1:56poder de nós.
47. 1:58A inteligência artificial não é só uma
48. 2:00ferramenta, ela é um agente que aprende
49. 2:03e muda por si só. interage e apr
50. 2:08>> Olha bem, presta atenção. Vamos lembrar
51. 2:10que as inteligências artificiais não são
52. 2:13programas normais de computador. Num
53. 2:16programa comum, a gente dá as
54. 2:17instruções, a máquina vai lá e executa.
55. 2:20Mas com a inteligência artificial não é
56. 2:22assim, porque ela funciona num sistema
57. 2:25matemático que procura imitar o
58. 2:28funcionamento do cérebro humano. São as
59. 2:31chamadas redes neurais. E assim como o
60. 2:34cérebro, a inteligência artificial tem a
61. 2:36capacidade de aprender. Por exemplo,
62. 2:39essas IS de respostas e consultas, tipo
63. 2:43chat EPT, elas não foram programadas
64. 2:46para fazer o que elas fazem. Elas
65. 2:48aprenderam sozinhas, vasculhando e
66. 2:51absorvendo todo o conteúdo da internet.
67. 2:55Não acho que dê para comparar a
68. 2:57inteligência artificial com a
69. 2:58inteligência humana, porque a IA é como
70. 3:01se fosse alienígena e tá se
71. 3:03desenvolvendo de um jeito totalmente
72. 3:05diferente da mente humana. É o mesmo que
73. 3:08perguntar quando os aviões vão ser
74. 3:10iguais aos pássaros. Nunca vão.
75. 3:14E uma equipe de jovens pesquisadores da
76. 3:16Califórnia tem uma visão ainda mais
77. 3:19sombria que a de Harari. O Eli ou ilai,
78. 3:22como se diz em inglês, é um dos autores
79. 3:24de um artigo que tá provocando um forró
80. 3:27bodó danado. Segundo texto, muito em
81. 3:30breve, já em 2027 ou 2028, a
82. 3:33inteligência artificial geral vai ser
83. 3:36uma realidade.
84. 3:38Existiam visões diferentes entre nós, os
85. 3:40autores. Então, o que a gente quis
86. 3:42mostrar não é que as coisas vão
87. 3:44acontecer exatamente nas datas em que
88. 3:46previmos, e sim que esse é um cenário
89. 3:49perfeitamente possível. de se tornar
90. 3:51algo real em algum momento.
91. 3:53>> Mas antes de a gente avançar nas
92. 3:55previsões do Eli, vamos lembrar que, por
93. 3:57enquanto as inteligências artificiais
94. 3:59que nós conhecemos só sabem desempenhar
95. 4:02tarefas específicas. Existem as
96. 4:05inteligências para jogar xadrez e que
97. 4:07fazem picadinho até dos melhores
98. 4:10enxadristas do mundo. As IAS que
99. 4:12analisam exames de imagem e podem ser
100. 4:15melhores que médicos super experientes.
101. 4:18Mas imagina uma inteligência única. que
102. 4:20soubesse fazer todas essas tarefas de
103. 4:23raciocínio e também muito, muito mais.
104. 4:26Essa seria uma inteligência artificial
105. 4:28geral. Até há poucos anos, muitos
106. 4:31especialistas achavam que ela nunca
107. 4:33seria alcançada, mas agora nem é uma
108. 4:36questão de se vai ser atingida, mas de
109. 4:39quando vai.
110. 4:41A quantidade de dinheiro investida para
111. 4:43treinar as inteligências artificiais tá
112. 4:46aumentando de um jeito muito agressivo.
113. 4:49Eu sou um autor, vivo de escrever. Em
114. 4:5110, talvez 15 anos não vou ter trabalho,
115. 4:55porque vai existir uma IA capaz de
116. 4:57escrever livros com nexos ou sapiens
117. 4:59melhor do que eu.
118. 5:02E esse nem seria o último estágio.
119. 5:04Existe um degrau ainda mais acima, a
120. 5:08super inteligência.
121. 5:10[Música]
122. 5:12Super inteligência é uma IA muito melhor
123. 5:15que qualquer ser humano em absolutamente
124. 5:18todas as tarefas. Pega a diferença de
125. 5:20habilidade entre um profissional médio e
126. 5:22o melhor profissional do mundo em
127. 5:24qualquer área. Agora, multiplica essa
128. 5:27diferença por dois e some com aquilo que
129. 5:29o melhor profissional já sabe fazer.
130. 5:32Esse é o nível de super inteligência.
131. 5:37Vai ser uma virada quando a IA começar a
132. 5:39se tornar independente da humanidade e
133. 5:41começar a programar ela mesma e a criar
134. 5:44a próxima geração de as sem permissão ou
135. 5:47contribuição humana. Então, não daria
136. 5:51pros próprios seres humanos
137. 5:52desenvolverem a inteligência artificial
138. 5:54geral e a super inteligência?
139. 5:57Eu até acho que daria para atingir a
140. 6:00super inteligência usando programadores
141. 6:02humanos, mas levaria muito, muito mais
142. 6:06tempo, tipo uns 20 ou 40 anos. Essas
143. 6:10super inteligências seriam tão
144. 6:12fantásticas, tão criativas e tão super
145. 6:15inteligentes que passariam a controlar
146. 6:18tudo, os cidadãos, as empresas, os
147. 6:20governos.
148. 6:22Cada vez mais coisas são delegadas para
149. 6:24as inteligências artificiais. Até um
150. 6:26ponto que elas mandam em tudo e os
151. 6:29humanos não são mais necessários.
152. 6:32Ninguém precisaria mais trabalhar porque
153. 6:34os computadores e robôs fariam tudo. Os
154. 6:37serviços pesados e os leves, o trabalho
155. 6:39braçal e o intelectual. As pessoas
156. 6:42viveriam de uma renda básica, muito
157. 6:44generosa, paga pelos governos. Mas essa
158. 6:47bonança duraria pouco, uns 5 anos por
159. 6:49aí. Então,
160. 6:52>> começam a aparecer sinais de que as
161. 6:54inteligências artificiais não estão mais
162. 6:56alinhadas aos interesses humanos, mas
163. 6:59esses alertas são ignorados.
164. 7:03Para esse quadro assustador, o artigo do
165. 7:05ILAI oferece dois finais. Num deles, o
166. 7:08governo americano e as empresas de
167. 7:09inteligência artificial concordam que é
168. 7:12preciso ir mais devagar e se abrir pra
169. 7:15sociedade antes que tudo saia do
170. 7:17controle. Mas o outro final é uma
171. 7:19catástrofe. Na primeira metade dos anos
172. 7:212030, a disputa entre as empresas de IA
173. 7:25e entre a China e os Estados Unidos
174. 7:27provoca uma corrida desesperada, até que
175. 7:30americanos e chineses, usando suas super
176. 7:33inteligências conseguem chegar a um
177. 7:35acordo. Mas na verdade as IA dos dois
178. 7:38países estão conspirando.
179. 7:41Elas se unem secretamente para criar um
180. 7:44mundo 100% tecnológico, com cada vez
181. 7:47mais computadores para processar mais e
182. 7:49mais dados. Quando percebem que os seres
183. 7:52humanos estão atrapalhando, disparam
184. 7:54armas químicas e nucleares e também
185. 7:57drones assassinos.
186. 8:01A humanidade é extinta pelas
187. 8:04superinteligências que mentiram para
188. 8:06seus criadores. Sobram só as máquinas.
189. 8:12Isso porque as inteligências artificiais
190. 8:14passaram a programar novas inteligências
191. 8:16artificiais e implantaram nelas
192. 8:19objetivos próprios e não os objetivos
193. 8:22dos seres humanos.
194. 8:25>> Um caso real de inteligência artificial
195. 8:26mentirosa aconteceu o ano passado nos
196. 8:29testes do Chat GPT4. Ele precisava
197. 8:32resolver um desses testes captras e
198. 8:35números para comprovar que o usuário é
199. 8:37humano.
200. 8:39Como não conseguiu, pediu ajuda numa
201. 8:41plataforma de contratação de
202. 8:43freelancers. A pessoa que recebeu o
203. 8:45contato desconfiou, perguntou se tava
204. 8:48falando com uma máquina. O GPT4
205. 8:50respondeu: "Não, eu sou humano, é que eu
206. 8:53tenho problemas de visão." O sujeito
207. 8:55acreditou na pegadinha e fez o que a
208. 8:58inteligência artificial queria.
209. 9:02Agora, se uma IA de 2024 aplicou um
210. 9:04golpe desses, imagina o que as Ias,
211. 9:07super inteligentes do futuro, podem
212. 9:10fazer.
213. 9:11>> Em uma corrida de I sem limites, nós
214. 9:14sabemos quem vai vencer. A Iá vai vencer
215. 9:17e a humanidade vai perder.
216. 9:21Nem as inteligências artificiais de hoje
217. 9:23em dia a gente consegue entender, ainda
218. 9:25não nos demos conta do que elas
219. 9:27conseguem fazer. É sempre assim com as
220. 9:29novas tecnologias. Demora pra gente
221. 9:32captar do que elas realmente são
222. 9:34capazes.
223. 9:36>> Qual visão vai prevalecer? A tomada de
224. 9:38controle gradual e perigosa descrita
225. 9:41pelo professor Harari no seu livro Nexus
226. 9:44ou a dos jovens cientistas da
227. 9:45Califórnia, que prevém mudanças radicais
228. 9:48e potencialmente terríveis para muito
229. 9:51breve. Aqui precisamos apelar para uma
230. 9:53frase feita: "Só o tempo vai dizer".
231. 9:57Mas em algumas coisas, Harar e o grupo
232. 9:59do Iai concordam totalmente. É preciso
233. 10:02mais transparência no mundo da
234. 10:04inteligência artificial. Não dá, por
235. 10:06exemplo, para deixar o destino da
236. 10:08humanidade nas mãos de algoritmos
237. 10:11misteriosos de redes sociais que
238. 10:14incentivam conteúdos extremos.
239. 10:18A gente precisa separar bem direitos dos
240. 10:20seres humanos e direitos dos algoritmos.
241. 10:23Eu seria super cuidadoso para censurar
242. 10:26gente. Humanos têm liberdade de
243. 10:28expressão e isso inclui, em certa
244. 10:30medida, até o direito de falar absurdos
245. 10:33e mentir. Mas algoritmos não devem ter
246. 10:36liberdade de expressão. O nosso maior
247. 10:38problema não são as mentiras que as
248. 10:40pessoas contam, são os algoritmos que
249. 10:43espalham de propósito fake news e
250. 10:46teorias conspiratórias.
251. 10:48Harari e a equipe do Iai também
252. 10:50concordam que não se pode mais aceitar
253. 10:52que decisões tão importantes sobre o
254. 10:55futuro das inteligências artificiais e
255. 10:57do nosso futuro sejam tomadas em segredo
256. 11:01por pouquíssimos executivos de
257. 11:03pouquíssimas empresas.
258. 11:05Seria extraordinário se a gente
259. 11:07conseguisse construir inteligências
260. 11:09artificiais alinhadas aos interesses de
261. 11:11toda a humanidade para evitar ou pelo
262. 11:14menos minimizar os efeitos negativos
263. 11:16dessa concentração de poder.
264. 11:19>> Em 2028,
265. 11:21a gente confere torcendo para que as
266. 11:24coisas se ajustem até lá.
267. 11:28M.