Os perigos da Inteligência Artificial: Criação de imagens e vídeos usados como armas de manipulação — Transcript

Full transcript

1. 0:05O Domingo Espetacular chama sua atenção
2. 0:07agora para uma tecnologia que pode se
3. 0:09tornar perigosa, o uso da inteligência
4. 0:12artificial para enganar e distorcer
5. 0:15informações da vida real. Meu nome é
6. 0:17Roberto Cabrini e você me conhece da
7. 0:19televisão? Não, eu sou a Carolina
8. 0:22Ferraz, mas posso ser também o Edu
9. 0:25Ribeiro ou ainda o Álvaro Garneiro, que
10. 0:29viaja mundo aa percorrendo paraísos.
11. 0:32Nada disso. Eu sou o Romeu Picoli e
12. 0:35trago um alerta. [música]
13. 0:38Será que as pessoas conseguem distinguir
14. 0:40uma imagem verdadeira de uma outra
15. 0:42criada por inteligência artificial?
16. 0:47A resposta, segundo pesquisas
17. 0:49internacionais, é preocupante. Na
18. 0:51maioria das vezes, não. [música]
19. 0:54A gente for olhar os vídeos que mais
20. 0:56viralizam, esses que furam a bolha, eles
21. 0:58são de coisas que as pessoas querem
22. 0:59acreditar. Eu quero acreditar que esse
23. 1:00cachorro salvou essa criança.
24. 1:02>> Um estudo global feito por uma empresa
25. 1:04de tecnologia com mais de 12.000 pessoas
26. 1:07mostrou que a cada 10 pessoas, apenas
27. 1:10seis conseguem identificar corretamente
28. 1:13uma imagem falsa. Quatro se enganam.
29. 1:17E você olhe bem [música] para essas duas
30. 1:19imagens.
31. 1:21Qual é a gerada por inteligência
32. 1:23artificial?
33. 1:25Veja [música] os detalhes.
34. 1:27A resposta a gente mostra daqui a pouco.
35. 1:29O avanço dessa tecnologia impressiona
36. 1:32pela rapidez e pela realidade.
37. 1:36Mas o mundo começa a discutir os limites
38. 1:38para isso. Imagens e sons manipulados
39. 1:42por inteligência artificial. percorrem o
40. 1:45mundo através das redes sociais e
41. 1:47impactam não só na vida privada das
42. 1:50pessoas,
43. 1:51mas podem espalhar informações falsas e
44. 1:54muitas vezes perigosas.
45. 1:58Os vídeos falsos viraram uma arma de
46. 2:00guerra poderosa.
47. 2:03[música]
48. 2:04Neste aqui, por exemplo, o presidente
49. 2:06ucraniano Volodimir Zelensk anuncia o
50. 2:09fim da guerra com a Rússia e pede que os
51. 2:12soldados baixem as armas e se reinem.
52. 2:17>> A informação rodou o mundo. O próprio
53. 2:20Zelensk [música] teve que desmentir o
54. 2:22vídeo em uma rede social.
55. 2:29A facilidade de produzir imagens e
56. 2:32vídeos falsos movimenta também o mundo
57. 2:34do crime. [música]
58. 2:36Golpes e propagandas enganosas t sido
59. 2:39cada vez [música] mais comuns.
60. 2:41>> Oi, galera. A imagem manipulada
61. 2:44ex-modelo Gisele Binten chamou atenção
62. 2:46recentemente. Criminosos usaram
63. 2:49inteligência artificial para criar um
64. 2:51vídeo falso em que ela anunciava malas
65. 2:54de viagem.
66. 2:55>> Você tem só 72 horas.
67. 2:56>> Nesse mundo paralelo da inteligência
68. 2:58artificial, eu posso aparecer em Paris.
69. 3:01Olha só a torre Aifel. Ou no Rio de
70. 3:04Janeiro. Agora é o Pão de Açúcar. Mas na
71. 3:07realidade eu tô na sala da casa do Paulo
72. 3:10Aguiari em São Paulo, que é quem tá
73. 3:12criando todos esses efeitos.
74. 3:15Ele pode inclusive me transformar nele.
75. 3:17>> Quem continua falando aqui é o Romeu
76. 3:19Piccoli, mas com a voz e a imagem do
77. 3:23Paulo. E é aí que mora o perigo. Hoje em
78. 3:26dia, com uma foto, né, a gente consegue
79. 3:29gerar uma pessoa falando alguma coisa.
80. 3:32Então pensa que inclusive a foto que
81. 3:36você posta no fim de semana na praia
82. 3:39pode ser pega, inserida numa
83. 3:42inteligência artificial e falar alguma
84. 3:46coisa que não foi você que falou e as
85. 3:49pessoas que tiverem vendo isso vão
86. 3:51acreditar que você falou aquilo. Então,
87. 3:54a gente precisa tomar mais cuidado com a
88. 3:55nossa privacidade, [música]
89. 3:57entender melhor o que que a gente tá
90. 3:59postando na internet, para quem a gente
91. 4:01tá [música] postando na internet.
92. 4:04>> O Paulo é criador de conteúdo, professor
93. 4:06de inteligência artificial e foi o
94. 4:07responsável por um vídeo que faz um
95. 4:10alerta sobre os riscos dessa tecnologia.
96. 4:13E esse vídeo viralizou. Já são mais de
97. 4:1525 milhões de visualizações
98. 4:18e 1 milhão de compartilhamentos. Em 2026
99. 4:21vai ficar praticamente impossível saber
100. 4:23o que é real ou não. Agora que qualquer
101. 4:25[música] pessoa pode ser qualquer coisa.
102. 4:27E eu quero te dar três dicas importantes
103. 4:29para evitar golpes e desinformação.
104. 4:31>> E eu falei: "Pô, vamos fazer um vídeo
105. 4:32onde a gente mostre tecnicamente o que é
106. 4:35possível ser feito, mas que sirva como
107. 4:36um alerta". A dica aqui é [música]
108. 4:38combinar com a turma senha e se recebeu
109. 4:41um conteúdo suspeito, pedir isso pra
110. 4:43pessoa. E para chamar a atenção,
111. 4:44coloquei essa galera toda aí que tá bem
112. 4:47em alta para me ajudar a fazer essa
113. 4:49mensagem chegar mais longe.
114. 4:51>> Nesse [música] mundo cada vez menos
115. 4:53real, qualquer um pode ter acesso a
116. 4:55essas ferramentas, até quem não é
117. 4:57profissional da área. Toda [música] vez
118. 4:59que a gente pede lá para ir a gerar
119. 5:01imagem de um homem brasileiro, ela foi
120. 5:04treinada com milhares, no caso bilhões
121. 5:07de imagens que remetem a tokens, a tags.
122. 5:10E quando o usuário ele escreve lá um
123. 5:12prompt, um comando de texto, a máquina
124. 5:14entende aquilo que você está colocando,
125. 5:16procura em todo o treinamento dela e
126. 5:17gera algo novo que é baseado em tudo que
127. 5:20ela já viu. Por isso tem até o debate,
128. 5:22será que a IA ela cria ou ela gera?
129. 5:25Vou fazer um vídeo então como se eu
130. 5:26fosse o Neymar. Aqui o que a eu tô
131. 5:29gravando já, o que a gente tá falando.
132. 5:31Você consegue transformar a minha imagem
133. 5:33no Neymar e a minha voz também.
134. 5:35Exatamente. Esse conteúdo vai ser o
135. 5:38Neymar falando. Ora isso em quanto tempo
136. 5:41agora? F 10 minutinhos. A gente faz 10
137. 5:43minutos.
138. 5:45>> Encontrar as falhas nesse tipo de vídeo
139. 5:47tem ficado mais difícil.
140. 5:49>> Ó, essa é a situação atual da I. Se você
141. 5:51olhar o fundo da praia, ele tá muito
142. 5:53inconsistente. Tipo, olha as pessoas
143. 5:55como elas se movem lá no fundo, ó, lá
144. 5:57atrás, assim, você não consegue ver, tá
145. 5:59meio serrilhado os prédios. Então, olhar
146. 6:01pros detalhes sempre é o caminho.
147. 6:03>> Gente, eu acabei de acordar, tá?
148. 6:05>> Este outro [música] vídeo do Paulo são
149. 6:07os olhos que entregam a falsidade
150. 6:10>> e é muito bem feito por conta das
151. 6:12imperfeições, mas se você parar o vídeo,
152. 6:14você vai perceber que todos os detalhes,
153. 6:17os pequenos detalhes, eles sofrem
154. 6:18alterações que um vídeo real jamais
155. 6:20sofreria. Por exemplo, os cílios da
156. 6:21moça. Olha
157. 6:22>> aí. Aqui começa a aparecer vários fios,
158. 6:25>> apareceu vários. Aí ela ela abriu o
159. 6:27olho, apareceu um monte e aqui sumiu de
160. 6:28novo. Gente, não é possível que vocês
161. 6:30acham que isso é real.
162. 6:32>> Sabe quando a gente tira uma foto, faz
163. 6:34um vídeo de uma viagem, de um lugar que
164. 6:36visitou ou de um ídolo que conheceu?
165. 6:39Antes eram provas de que aquela situação
166. 6:42havia sido vivenciada em tempos de Yá,
167. 6:46não mais. E agora eu vou perguntar pra
168. 6:48própria inteligência artificial
169. 6:51quais são os riscos
170. 6:55de confiar
171. 6:57em vídeos hiper realistas
172. 7:01gerados por ela?
173. 7:04A resposta: falsa evidência [música] e
174. 7:07decisões irreversíveis, manipulação
175. 7:09emocional e política em massa, o que
176. 7:12facilita a desinformação
177. 7:15e colapso [música] da confiança social.
178. 7:18A gente tem que entender que o fake news
179. 7:20ele pode acontecer de três formas
180. 7:21diferentes. A gente tem uma pessoa
181. 7:24intencionalmente distorcendo a
182. 7:27realidade. A gente tem uma pessoa
183. 7:29[música]
184. 7:30que olhou para uma informação,
185. 7:32interpretou ela de um jeito e aí ela
186. 7:36passou pra frente e isso era uma
187. 7:38mentira. [música] Terceira opção, a
188. 7:40gente literalmente vê a pessoa gerando
189. 7:44uma informação [música] que é
190. 7:46verdadeira, mas o processo de entregar
191. 7:50essa eh informação pros outros, ela se
192. 7:54distorce ou ela não existe. O advogado
193. 7:58Luís Augusto Duro, [música] especialista
194. 7:59em cybercrimes e direito digital, diz
195. 8:02que não há uma legislação específica no
196. 8:04Brasil que regule todos os aspectos da
197. 8:07deep fake no sentido amplo. Quando um
198. 8:10criminoso usa uma inteligência
199. 8:12artificial para produzir esse conteúdo
200. 8:15falso, seja para eh constranger alguém,
201. 8:18seja para conseguir um dinheiro de
202. 8:20terceiros, seja para causar alguma
203. 8:22polêmica, seja o que for, você terá ali
204. 8:25eh a possibilidade do enquadramento
205. 8:27legal. E essas previsões estão
206. 8:29espalhadas nas mais variadas leis do
207. 8:31Brasil, Código Penal, Código Eleitoral,
208. 8:34Estatuto da Criança do Adolescente e as
209. 8:36penas, a depender da conduta podem
210. 8:38chegar inclusive a 10 anos de prisão.
211. 8:43>> Vocês já se enganaram com com vídeo
212. 8:45[música] na internet?
213. 8:46>> Uma vez já.
214. 8:47>> Tinha um famoso que tava vendendo um
215. 8:49produto e eu realmente achava que era
216. 8:51esse famoso tava vendendo.
217. 8:52>> Você olhou achando que era verdade? Não
218. 8:54era?
219. 8:55Não creio. Eu não. Com certeza. Eu nunca
220. 8:58muita
221. 8:59>> que saiba não, né? Que saiba não.
222. 9:02>> Lembra daquela pergunta que nós fizemos
223. 9:04no começo da reportagem? Se você
224. 9:06consegue identificar uma imagem gerada
225. 9:08por inteligência [música] artificial, 10
226. 9:10segundos pr as pessoas tentarem
227. 9:12descobrir. Você acha que algum desses
228. 9:14dois vídeos é artificial?
229. 9:16>> Acho que é o primeiro.
230. 9:17>> Primeiro.
231. 9:18>> É.
232. 9:18>> Você errou.
233. 9:19>> Errei.
234. 9:21Eu acho que esse aí. Esse aqui
235. 9:23>> eu acho que o primeiro.
236. 9:25>> O primeiro
237. 9:25>> é o primeiro.
238. 9:26>> No primeiro
239. 9:27>> é o primeiro.
240. 9:28>> Eu acho que o primeiro. O
241. 9:29>> primeiro
242. 9:29>> é
243. 9:30>> a senhora errou.
244. 9:31>> Ah, nossa. Tá vendo? Segundo.
245. 9:34>> O segundo é artificial.
246. 9:36>> A forma que a moça se movimentou.
247. 9:38>> É,
248. 9:39>> foi parecia muito robótica.
249. 9:41>> É. O outro
250. 9:43>> é
251. 9:43>> é
252. 9:44>> pouco.
253. 9:45>> Acertaram. Vocês acertaram. Estamos novo
254. 9:48ainda.
255. 9:49>> Eu acho que é o primeiro
256. 9:51>> gerado com inteligência artificial.
257. 9:53>> Foi gerado por
258. 9:54>> eu acho que é o segundo.
259. 9:56>> Ah, é. Deu empate. Das 10 pessoas que
260. 9:58nós ouvimos, cinco acertaram, cinco
261. 10:01erraram. E você?
262. 10:04>> Acho que tem um ponto hoje que a gente
263. 10:05foi meio criado com com essa máxima de é
264. 10:08inocente até que se prove ao contrário.
265. 10:10Acho que hoje é falso até que se prove
266. 10:12que é verdade, entendeu? A inteligência
267. 10:14artificial está cada vez mais perfeita e
268. 10:17acessível para os leigos. Cuidado com o
269. 10:19que você vê e compartilha nas redes
270. 10:22sociais.
271. 10:24[música] Ah.