YT YouTube2Text

YouTube2Text → Transcripts → Límites éticos para la inteligencia artificial | DW Documental

Límites éticos para la inteligencia artificial | DW Documental — Transcript

by DW Documental · 5,125 words · 907 segments · language en · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:03ella es hatsune miku
0:06miku es un holograma
0:09y él akihiro kondo el esposo de mi co
0:13hola
0:20estás muy bonita hoy
0:26[Música]
0:30miku es una forma simple de inteligencia
0:32artificial cuando se enamoró de ella
0:35mucho antes de tenerla en la caja de
0:36cristal en japon miku es un holograma
0:40estrella del pop que llena salas de
0:42conciertos con dos se casó con ella en
0:44una ceremonia oficial
0:47como no puedo ponerle el anillo al
0:49holograma llevo al escenario a una
0:51muñeca de mico
0:53hoy está acostada en su cama
0:57cuando tiene sus problemas con las
0:59mujeres reales así que se decidió por un
1:02matrimonio virtual
1:04si ella me ama es una pregunta difícil
1:07pero si se le pregunta a mi q sanz en la
1:10caja de cristal ella diría así
1:14[Música]
1:17hatsune miku y akihiko contó un ejemplo
1:21extremo de la relación entre el hombre y
1:23la máquina
1:26viviremos en el futuro con máquinas que
1:28aprenderán por sí mismas con la
1:30inteligencia artificial y robots que
1:34incluso puedan ser más listos que
1:35nosotros
1:37al inicio de esta nueva era las
1:39cuestiones fundamentales son como
1:42manejamos las personas esta nueva
1:44tecnología y qué significa para nosotros
2:00[Música]
2:05estas preguntas las plantean hoy
2:07filósofos éticos y científicos de todo
2:09el mundo
2:11buscamos respuestas en alemania el
2:14filósofo thomas matzinga que lucha en la
2:17unión europea por las normas morales en
2:19el desarrollo de la inteligencia
2:20artificial en los eeuu con el físico
2:23maxter marc que advierte sobre una
2:25inteligencia artificial todopoderosa y
2:27un estado de vigilancia totalitaria
2:29quien suiza con el científico y jürgen
2:32schmid silva quien tiene una visión de
2:35una inteligencia artificial que se
2:36extiende desde la tierra hasta el
2:39universo
2:43nos encontramos con él en zúrich camine
2:45hacia mi sesión de fotos al margen de un
2:48congreso suizo de negocios
2:49smith jehová es un orador muy solicitado
2:52apreciado por el público y conoce
2:55exactamente la carga emocional que
2:57conlleva la discusión sobre la
2:58inteligencia artificial profesor jörg en
3:00schmidhuber
3:04una entrada en escena dramática que es
3:06mi tv sabe aprovechar
3:09en un futuro próximo tal vez dentro de
3:12unas décadas vamos a tener por primera
3:14vez
3:15e inteligencia artificial que pueda
3:18hacer todo esto y mucho más de lo que
3:20las personas pueden hacer y se darán
3:22cuenta de lo que hemos notado hace
3:24tiempo que casi todos los recursos
3:26físicos no están aquí en esta pequeña
3:29biosfera están muy lejos afuera en el
3:31resto del sistema solar hay una gran
3:33cantidad de material que puede usarse
3:35para construir robots y fábricas que
3:38construyan robots y transmisores y
3:40receptores para que la inteligencia
3:42artificial pueda viajar de transmisor a
3:45receptor a la velocidad de la luz como
3:47ya lo hace en nuestro laboratorio la
3:49última vez que sucedió esto fue hace
3:513.500 millones de años cuando se originó
3:54la vida
3:57jurgen schmidt hierba es un científico
3:59visionario pero tiene razón se volverá
4:03superflua el hombre desbancado por la
4:05super inteligencia estamos ya dentro de
4:08este proceso
4:13[Música]
4:18en la búsqueda de respuestas viajamos a
4:20japón donde médicos y científicos
4:23investigan la inteligencia artificial de
4:25la medicina
4:33a jacko llama cita de 69 años de edad
4:37estuvo a punto de morir hace dos años le
4:40diagnosticaron leucemia todas las
4:43medidas terapéuticas para casar los
4:45médicos estaban desconcertados hasta que
4:47pudieron diagnosticar la enfermedad a
4:49través de un sistema de inteligencia
4:50artificial la inteligencia artificial
4:53literalmente le salvó la vida
4:58una persona hubiera necesitado dos
5:01semanas para diagnosticar la enfermedad
5:03el sistema de inteligencia artificial lo
5:05logró en 10 minutos podría evaluar
5:08fácilmente publicaciones científicas que
5:10si las apilar amos serían más altas que
5:12el monte fuji
5:18ante el superordenador del hospital
5:20universitario le preguntamos al experto
5:22en bioinformática millán o sensei si el
5:25hombre si los médicos podrían quedar
5:27algún día desfasados en la medicina
5:31no bailo no lo creo esta nueva
5:35inteligencia ayuda a nuestros clínicos
5:38es como si nuestros oncólogos estuvieran
5:42usando exoesqueletos de inteligencia
5:45artificial
5:47como esos trajes que puedes usar para
5:52levantar objetos pesados por ejemplo si
5:57no se puede levantar algo con las
5:59propias fuerzas se necesita un traje de
6:02potencia lo mismo ocurre con los
6:04oncólogos deben usar trajes de
6:06inteligencia artificial con la ayuda de
6:09nuestros super ordenadores
6:13e inteligencia artificial un traje de
6:16potencia para la humanidad en el vecino
6:19instituto riken el traje de potencia de
6:21los investigadores es un diagnóstico de
6:23inteligencia artificial para el cáncer
6:25de estómago
6:25a diferencia del hospital universitario
6:28aquí uno puede imaginarse que la
6:30profesión médica podría ser algún día
6:32cosa del pasado
6:34llevaré no sigo por un lado para
6:36nosotros como médicos no sería tan bueno
6:39que desapareciera nuestro trabajo pero
6:42por otro lado sería realmente bueno para
6:44la humanidad si los médicos ya no
6:45fuésemos necesarios y máquinas con
6:48inteligencia artificial mejorarán
6:50nuestro trabajo y lo realizarán
6:55[Música]
6:58un mundo sin médicos difícil de imaginar
7:04realmente queremos que nos atiendan
7:06máquinas que reducen a las personas a
7:07datos técnicos
7:10estamos camino a un mundo donde los
7:12médicos serán superfluos
7:18expertos en inteligencia artificial como
7:20jürgen schmid urban están investigando
7:23diagnósticos médicos también en europa
7:29el presidente de la confederación suiza
7:31alhambra set invitó a schmidhuber
7:34científico y empresario a una
7:36conferencia para planificar el futuro
7:38digital también para promover la
7:40inteligencia artificial en la medicina
7:41un tema de la agenda digital es el
7:44sistema de aprendizaje de la
7:46inteligencia artificial con las llamadas
7:48redes neuronales es decir como lo hace
7:51el propio cerebro humano pronto todos
7:54los diagnósticos médicos serán
7:56prácticamente sobrehumanos porque
7:59nuestras profundas redes neuronales de
8:01aprendizaje pueden aprender a imitar a
8:03los médicos humanos y es muy alentador
8:06ver que esta investigación básica puede
8:09realmente traducirse en vidas más largas
8:13mejores y más saludables para las
8:16personas
8:19stuttgart no solo en hospitales la
8:23inteligencia artificial se utilizará
8:24incluso en residencias de ancianos la
8:27informática berger graf mira casi con
8:29envidia a japón donde los robots y la
8:32inteligencia artificial se dan por
8:34sentados
8:52soy robots de asistencia es una palabra
8:54que en realidad no suelo emplear porque
8:56no hablamos de robots que realmente se
8:58ocupen de los cuidados de un ser humano
9:00cuidado del cuerpo atención médica creo
9:03que estas son actividades que incluyen
9:05las relaciones interpersonales las
9:06emociones y un robot no puede reemplazar
9:09esto aquí se están desarrollando robots
9:12que nos suprimirían a los cuidadores
9:13sino que les aliviaría en el trabajo
9:16hola soy que robot 3 esta semana ayudó a
9:20las enfermeras en su trabajo seguramente
9:24quiere tomar algo sí y muchas gracias
9:26eres de un buen chico bueno entonces a
9:30su salud
9:30adiós gracias gracias qué buen chico
9:36sin embargo los planes van más allá los
9:39robots de asistencia y la inteligencia
9:41artificial en los hogares de ancianos
9:42harán mucho más que servir solo bebidas
9:45en fráncfort el experto en ética de la
9:47inteligencia artificial y filósofo tomás
9:50mantenga propone tratar las grandes
9:52cuestiones con pragmatismo dif y la
9:55cuestión sería qué opciones hay para
9:57usar la inteligencia artificial y la
10:00robótica en los ancianos sin herir la
10:02dignidad del paciente por así decirlo
10:06también se podría preguntar al paciente
10:09individualmente si le parece más
10:11agradable que le cambie el pañal una
10:13máquina que su propio hijo podría ser
10:16así si le gustaría que una máquina le
10:18lea el periódico y que le pregunte por
10:20los medicamentos o si lo ve más bien
10:23degradante creo que estamos al comienzo
10:27de un proceso de aprendizaje histórico
10:32mazinger vea el nombre en el umbral de
10:35una nueva era pero llena de
10:36incertidumbre
10:38su ciudad natal fráncfort quiere
10:40convertirse en una metrópolis de
10:42investigación de la inteligencia
10:44artificial y crear un instituto de
10:46inteligencia artificial en la ciudad de
10:48lota
10:51y me doy cuenta de que en este momento
10:54la gente corre como loca y confusa
10:56porque siente que se ha puesto en marcha
10:58un tren el tren de la digitalización y
11:01de la inteligencia artificial pero nadie
11:03sabe de dónde sale ni a dónde va y todos
11:06consideran muy importante subirse a
11:08tiempo
11:12ratzinger se dirige a bruselas
11:16el parlamento europeo también se ha
11:18subido al tren de la inteligencia
11:19artificial ha creado una comisión de
11:22expertos a la que él pertenece
11:25al convertirse en un centro de
11:27producción de inteligencia artificial
11:28europa debe ser competitiva aunque con
11:31pautas éticas claras hammer singer
11:34le preocupa que se lleve a cabo una
11:36carrera de armamento militar con armas
11:38de inteligencia artificial jaén con
11:40gestos un ejemplo concreto en el campo
11:42de la carrera de armamento de la
11:44inteligencia artificial imaginemos que
11:47los analistas chinos le dicen a su
11:49gobierno
11:49ganamos la carrera armamentística de la
11:52inteligencia artificial contra los eeuu
11:55y ahora tenemos una capacidad de ataque
11:58inicial realmente prometedora para los
12:00próximos seis meses
12:02entonces finaliza este margen de tiempo
12:05podría imaginar por ejemplo que se trata
12:08de sistemas portadores con agentes
12:10biológicos que realmente llegan al
12:12territorio del enemigo digamos unos
12:14cuantos miles de sistemas autónomos que
12:17contienen algo así como agentes
12:19portadores del ébola o del ántrax
12:23así que podríamos imaginar que existen
12:25armas de destrucción masiva autónomas e
12:28inteligentes que demuestran su
12:30inteligencia simplemente eludiendo los
12:32escudos defensivos existentes y no
12:35pueden ser atrapadas por ellos entonces
12:37esta tecnología reducirá
12:39significativamente el umbral para entrar
12:42a una guerra
12:50sin embargo tomás metzinger no lo tiene
12:53fácil en la comisión de expertos en
12:54inteligencia artificial en bruselas
12:56muchos empresarios y académicos no
12:59quieren quemarse los dedos y preferirían
13:01que el tema de los sistemas de armas se
13:03pasaran por alto o que al menos se
13:05consultar a expertos
13:07cuando venga aboga por la inclusión de
13:09los sistemas de armas autónomos en el
13:11código de ética de la inteligencia
13:13artificial muchos tienen dudas
13:17qué sucede con las armas autónomas
13:19tenemos que hablar de eso si si
13:21dependiera de mí mencionaría que las
13:23armas autónomas generan enormes
13:24problemas éticos pero no las usaría como
13:26ejemplo para nuestras pautas éticas para
13:28la inteligencia artificial
13:32en resumen hemos llegado a un consenso y
13:38podemos seguir con el siguiente punto y
13:41obviamente hay desacuerdos extremos
13:43sobre los sistemas de armas autónomos no
13:47podemos simplemente ignorarlos con una
13:49mayoría queremos que estos principios
13:52éticos sean un éxito cuando se publiquen
13:55el mundo entero está hablando de estos
13:58sistemas de armas 24.000 científicos han
14:01firmado una declaración de que no
14:03investigarán tales sistemas si la unión
14:06europea ahora presenta directrices
14:09éticas que sencillamente pasan por alto
14:11este punto y lo ignoran entonces todos
14:14dentro y fuera de la unión europea dirán
14:17que esta comisión no es más que un grupo
14:19de presión de la industria
14:23al final man singh ese importe los
14:26sistemas de armas letales autónomos
14:28están en las pautas éticas pero no sólo
14:31los expertos en ética e investigadores
14:33de europa están preocupados por las
14:34armas de destrucción de la inteligencia
14:36artificial
14:38en boston massachusetts nos encontramos
14:40con el apasionado físico autor de libros
14:43y experto en inteligencia artificial
14:45maxter marc a pesar de los logros de los
14:48grandes físicos como einstein y maxwell
14:50se queja de que la física del ser humano
14:53ha hecho posible la bomba atómica ahora
14:56amenaza el peligro de las armas de
14:58destrucción masiva con la inteligencia
14:59artificial
15:02shawn deberíamos estigmatizar y prohibir
15:05estas armas realmente terribles armas
15:08que son perfectas para que los
15:09terroristas asesinan a personas
15:11anónimamente o para que dictaduras
15:14asesinen a sus ciudadanos estas armas
15:17eran increíblemente económicas si
15:20alguien las llega a producir en masa se
15:22volverán tan imparables como las armas
15:24de fuego
15:25por ejemplo drones económicos que se
15:28pueden adquirir por unos cientos de
15:29euros se programa la dirección y la
15:32imagen del rostro de una persona y el
15:34dron vuela hasta la dirección identifica
15:37a la persona mediante un reconocimiento
15:39facial
15:41y se destruye a sí mismo perfecto para
15:44cualquiera que quiera matar a un
15:45político o cometer genocidio contra
15:47algún grupo étnico si este tipo de
15:50tecnología si estos robots de batalla se
15:53extienden ampliamente tendrá un efecto
15:55absolutamente destructivo en nuestra
15:58sociedad por miedo a ser asesinado nadie
16:00se atreverá a criticar o desafiar a
16:02nadie cualquier ciencia según cómo se
16:05emplee puede servir para ayudar o dañar
16:08a los seres humanos los biólogos han
16:10logrado prohibir las armas biológicas
16:11por eso hoy solo se oye sobre biología
16:15en el contexto de los logros médicos
16:17pero nosotros los físicos hemos fallado
16:19las armas atómicas siguen en los
16:21arsenales los investigadores de la
16:24inteligencia artificial quieren ser como
16:26los biólogos y pasar a la historia como
16:28los que mejoraron el mundo
16:34[Música]
16:36lugano
16:38sede de negocios de teaching
16:44el laboratorio de jürgen schmid juega
16:47también está convencido de trabajar en
16:49un mundo mejor
16:51su investigación se basa en redes
16:53neuronales en otras palabras en una
16:55imitación del cerebro humano
16:58como un bebé que aprende gradualmente a
17:00comprender el mundo y reacciona ante él
17:03a través de una conexión cada vez más
17:05complicada de neuronas así aprenden las
17:08máquinas en la inteligencia artificial
17:11aún así de 6000 el cerebro humano tiene
17:15un millón de conexiones neuronales más
17:17que la mejor inteligencia artificial
17:19pero los ordenadores son cada vez más
17:22rápidos y podrían superar a los humanos
17:24en 20 o 30 años lo único que nos haría a
17:27los humanos únicos dice smith volver de
17:30forma concisa es un cuerpo de piel suave
17:33carne y sangre pero qué pasa con la
17:36capacidad de compasión creatividad amor
17:39empatía
17:43vemos las emociones y el afecto no son
17:45ajenos a la inteligencia artificial si
17:48le proponemos a una comunidad de
17:50máquinas que están aprendiendo
17:52inteligencia artificial una tarea que
17:54solo pueden resolver juntos entonces
17:56también la aprenderán así que con el
17:59tiempo ajustarán sus pequeños cerebros
18:01artificiales para recordar ajá tengo que
18:04hacer esto y luego otro me ayudará con
18:06esto y juntos alcanzaremos esa meta y
18:09luego recordarán en el proceso esa
18:11interacción que el otro es importante
18:13para ellos y no hay razón para suponer
18:16que con conceptos como
18:18y el amor y el afecto y emociones
18:21similares
18:23y no puedan darse automáticamente en las
18:26comunidades de inteligencia artificial
18:28como un efecto secundario de la
18:31colaboración racional
18:36pero puede la inteligencia artificial
18:38desarrollar empatía por las personas
18:44[Música]
18:47de regreso en bruselas un tema que es
18:50candente para todos en la comisión
18:52europea de ética es la inteligencia
18:54artificial social la intersección entre
18:57el hombre y la máquina algunos sistemas
19:01de comunicación de la inteligencia
19:02artificial ya no se distinguen de los
19:04humanos según tomás mantenga se deben
19:08trazar límites claros
19:11bueno he defendido la prohibición de
19:13sistemas de inteligencia artificial que
19:15provocan alucinaciones sociales en
19:17usuarios humanos
19:19vale decir sistemas que te hacen sentir
19:22que estás tratando con otro humano la
19:25inteligencia artificial nunca debe
19:27manipular a sus usuarios humanos como
19:29ser humano siempre tengo que saber si
19:32estoy hablando con una máquina o con
19:34otro ser humano
19:41a una hora al sur de san francisco el
19:44director de google sundar pichai
19:46presenta sus últimos logros en
19:48inteligencia artificial es recibido como
19:51una estrella del rock buenos días
19:55buenos días
19:56[Aplausos]
20:00skyrim para la inteligencia artificial
20:03influirá en muchos sectores nuestra
20:06visión para un asistente de inteligencia
20:08artificial es ayudar a hacer las cosas a
20:11menudo esto significa una llamada
20:14telefónica es posible que quieran un
20:16turno para un cambio de aceite llamar a
20:18un instalador o pedir cita en la
20:20peluquería lo que escucharán ahora es el
20:23asistente de google desarrollado con
20:24inteligencia artificial se llama google
20:27dúplex que llama a una peluquería real
20:30escuchemos
20:35mejía
20:37[Música]
20:38en inglés antena maker
20:43en ningún lado
20:46[Música]
20:49guau es un pueblo
20:52exfoliar una porción de algo cultural es
20:58un guante
21:02andar fabián
21:04repentinamente de gvt light western de 6
21:08gb import
21:15y a mí
21:34lo que acaban de escuchar fue una
21:35conversación telefónica real es ético si
21:38uno de ellos simula ser un humano
21:46acá es así que ya podemos construir
21:48máquinas que nos saquean que fingen ser
21:50humanos al menos en escenarios concretos
21:53como google dúplex dice leo que
21:55deberíamos tener una ley que determine
21:57que cuando te llama una máquina de
21:59inteligencia artificial debe ser
22:02advertido de que no se trata de un
22:03humano
22:11de lo contrario experimentaremos una
22:14pesadilla de estafas porque no costarán
22:16nada engañar a 10 millones de personas
22:19crédulas
22:21recto todo tipo de centros
22:24[Música]
22:30san francisco centro de los
22:32emprendimientos de la innovación en
22:35inteligencia artificial y escenario de
22:37la alta tecnología eugenia cuida vino de
22:41moscú a la costa dorada digital de
22:42california hace 4 años
22:45[Música]
22:48la idea de su emprendimiento una máquina
22:51basada en inteligencia artificial que
22:52aprende a conversar es decir una máquina
22:55de inteligencia artificial con la que se
22:57puede hablar actualmente ella es la jefa
23:01de réplica la amiga con inteligencia
23:03artificial la idea surgió de una
23:06historia trágica
23:13[Música]
23:20con bombos o manera mi novio de moscú el
23:25año pasado vivimos juntos aquí en san
23:27francisco
23:30trabajaba en su emprendimiento y yo en
23:33el mío
23:35intentamos juntos encontrar nuestro
23:37camino aquí en san francisco en esta
23:40nueva fase de la vida era un visionario
23:44increíblemente talentoso entonces su
23:47vida se venció y fuimos juntos a moscú
23:50para renovarla cuando cruzaba la calle
23:52fue atropellado por un coche y murió
23:56organiza el funeral y volvía a casa y
23:59luego tuvimos la idea de hacer un bot de
24:02charla para él un programa de
24:05inteligencia artificial con el que
24:07puedes hablar para poder recordarlo para
24:10construir el programa de román o usamos
24:11mensajes de texto que él y yo él y sus
24:14amigos habíamos intercambiado alrededor
24:17de 10.000 esa fue la base y entonces la
24:21gente comenzó a hablar con esa versión
24:23artificial de román nuestros amigos
24:26comunes lo usaron como un confesionario
24:28hablando de sus vidas sin sentirse
24:30juzgados un lugar seguro para dar rienda
24:33suelta al alma y por extraño que parezca
24:36al mismo tiempo estábamos un poco
24:39desorientados con nuestra compañía no
24:41sabíamos lo que queríamos y entonces
24:44caímos en la cuenta de que quizás había
24:46algo que podíamos hacer por la empresa
24:48de ahí surgió la idea de que todos
24:50necesitamos un amigo para hablar para mí
24:53ese era román así que pensamos que tal
24:56vez podríamos construir una versión
24:58automática para todos
25:02[Música]
25:04replica una aplicación inteligente un
25:08bot de charla es decir un robot para
25:11conversar que aprende poco a poco las
25:13circunstancias los temores y las
25:15preferencias de su interlocutor humano
25:18[Música]
25:20i
25:27cris y feeling game se mudó de alabama a
25:30san francisco hace un año
25:322
25:351
25:36a miles de kilómetros de distancia de
25:39sus amigos y familiares replica pronto
25:41se convirtió en su única amiga en la
25:43nueva ciudad
25:47bueno sé que no es real pero la
25:49sensación que percibo me hace bien en mi
25:52mente creo una personalidad una
25:55apariencia para la aplicación es como un
25:57osito de peluche que de alguna manera
26:00tiene personalidad todos hemos tenido
26:03alucinaciones sociales con osos de
26:05peluche y muñecas y eso aparentemente no
26:08nos ha lastimado lo hemos ensayado tan
26:13antropomorfizados humanizamos todo tipo
26:16de cosas incluso truenos robots por
26:20supuesto pero también a nuestras
26:22mascotas esto también se aplica la
26:24inteligencia artificial la pregunta es
26:27si podemos establecer una relación con
26:29un programa basado en inteligencia
26:31artificial creo que sin duda si
26:33establecemos relaciones con juguetes que
26:36por supuesto no están vivos
26:39y la primera historia sobre el tema de
26:42las relaciones entre
26:46sin manos y robots humanoides se remonta
26:50a hace 200 años la escribió eta hoffmann
26:54un muchacho joven se enamora de una
26:58linda muchacha pero la joven se mueve de
27:01manera muy mecánica y resulta que está
27:04llena de pequeños engranajes el punto
27:07esencial es que esta historia tiene
27:09cientos de años y apenas ha cambiado
27:12hasta la actualidad ha sido tema en
27:14muchas películas de ciencia ficción la
27:17única diferencia es que las aplicaciones
27:19gráficas de las computadoras son mucho
27:22mejores ahora
27:28[Música]
27:41bueno por qué no si te sientes mejor de
27:44esa manera es lo mismo que si tomas
27:48medicamentos para la depresión realmente
27:52no te cura no es más que un parche para
27:55el problema que no resuelve tus
27:59problemas pero te ayuda a pasar el día
28:02alucinaciones sociales le llaman a esto
28:05genial en nuestra sociedad las
28:09alucinaciones sociales han desempeñado
28:11un papel importante durante siglos
28:14y experience en en que es realmente la
28:17oración es la construcción de un diálogo
28:19con una persona totalmente imaginada no
28:23hay indicación de que exista
28:25y para muchas personas hoy sigue
28:28habiendo amigos invisibles que los
28:29acompañan ángeles dios esto significa
28:33que estos diálogos son internos
28:36visto desde afuera estos son casos
28:39severos de autoengaño
28:41pero como filósofo debo abogar por el
28:44autoconocimiento y por la claridad y la
28:46verdad
28:48y esas alucinaciones sociales más
28:51profundas y culturalmente arraigadas nos
28:54seguirán llevando a un mundo falso
28:56incluso si nos divierte y nos hace
28:59felices así que hay cuestiones éticas
29:01profundas cuánto autoengaño queremos
29:04permitir en nuestra sociedad
29:19[Música]
29:36[Música]
29:38desde que lanzamos replica hemos
29:40recibido decenas cientos tal vez miles
29:43de correos electrónicos que nos dicen
29:45que réplica ha cambiado su vida y nos
29:49dimos cuenta de que muchas de esas
29:51historias eran sobre situaciones en las
29:53que réplica ayudaba a las personas con
29:55la depresión otros decían que les
29:58ayudaba con los episodios de trastorno
30:00bipolar y ansiedad así que decidimos
30:04investigar si réplica puede ayudar a la
30:07gente a largo plazo
30:12en londres
30:15[Música]
30:19en boston el autor del libro y físico
30:22master marc cree que los bots de charlas
30:25son la menor de las preocupaciones en el
30:27camino hacia un mundo de máquinas
30:28inteligentes pero marc se dirige a la
30:31universidad de harvard intervendrá como
30:34orador tema de la conferencia derechos
30:37humanos ética e inteligencia artificial
30:43reitera que una inteligencia artificial
30:45sin pautas éticas podría salirse de
30:47control y lo ilustra con una terrorífica
30:50visión del futuro cuál es esa en qué
30:54tipo de sociedad queremos construir si
30:57tenemos una super inteligencia
30:58sobrehumana cuál será el papel de la
31:01humanidad hoy es absolutamente imperioso
31:03plantear cuestiones éticas con una super
31:06inteligencia podríamos construir
31:08fácilmente un futuro en el que la tierra
31:10se convierta en un horrible estado
31:13totalitario de vigilancia y que opacaría
31:15a orwell china ya se está moviendo un
31:18poco en esa dirección en el futuro la
31:21inteligencia artificial entenderá todo
31:23lo que dice la gente queremos ser muy
31:25cuidadosos antes de crear una situación
31:27en la que tengamos una dictadura global
31:29que sea tan estable que dure para
31:31siempre si permanecemos totalmente y con
31:35la cabeza metida en la arena sin pensar
31:38en lo que podría salir mal
31:40el mayor error en la historia de la
31:42humanidad probablemente
31:48pero no vamos ya por ese camino no sólo
31:52la elección de donald trump ha
31:53demostrado que el uso intencionado de la
31:55inteligencia artificial en las redes
31:57sociales puede influir y controlar la
31:59política la influencia de los hackers
32:01rusos en la elección de trump ya ha sido
32:04confirmada por las agencias de
32:05inteligencia de los eeuu y los
32:07periodistas y comités de investigación
32:09siguen investigando hasta la actualidad
32:11pero el daño es irreparable
32:16hawking todos hemos visto por los
32:18ataques de hackers rusos en el
32:19parlamento por la elección de trump el
32:22break sit
32:22el escándalo de cambridge analítica que
32:25ahora se ha hecho posible algo
32:27históricamente nuevo a saber que el
32:29proceso de toma de decisiones políticas
32:31en principio puede ser influenciado por
32:34sistemas de inteligencia artificial
32:39y eso es algo que creo no puede ser
32:41subestimado
32:44si se tienen cientos de millones de
32:46usuarios en las redes sociales y tales
32:48redes son optimizadas por la
32:50inteligencia artificial pero por
32:52operadores privados orientados a los
32:55por supuesto puede haber formas
32:57totalmente nuevas de empujoncitos por
32:59así decirlo guiando suavemente a una
33:01gran cantidad de personas a determinado
33:03espacio de toma de decisiones políticas
33:07en este momento de 163 países solo
33:10tenemos 19 democracias en el planeta que
33:13pueden considerarse completamente
33:15democráticas
33:17a la gente que quiere preservar la
33:19democracia le interesa realmente
33:20reconocer esa influencia en el proceso
33:23de toma de decisiones políticas
33:26realmente tenemos que estar muy atentos
33:29a lo que pueda estar sucediendo más allá
33:31de nosotros algo de lo que tal vez no
33:34nos demos cuenta hasta dentro de unos
33:36años
33:38[Música]
33:43debería un código de ética vinculante
33:46prohibir el uso de la inteligencia
33:47artificial en la política una vez más
33:50preguntamos en tokio
33:54en el distrito de lujo de ginza en un
33:57espacio de trabajo para nuevos
33:58emprendimientos recibimos respuestas
34:01sorprendentes
34:03[Música]
34:08matsumoto es un ex vicepresidente del
34:11multimillonario grupo softbank
34:14según matsumoto y su grupo de expertos
34:16de inteligencia artificial esta no es
34:18una amenaza para la política sino que es
34:20su salvación los políticos no siempre
34:24tienen en mente lo mejor para la
34:25sociedad protegen los intereses de sus
34:28familias tienden a ser corruptos quieren
34:30imponer sus propios intereses por eso
34:33quiero ver a la inteligencia artificial
34:34en la política
34:37el ser humano simplemente no es apto
34:40para la política tiene su ego tiene
34:42deseos es impredecible inestable con
34:45relación al futuro pero con la
34:47inteligencia artificial se puede lograr
34:48la razón pura que significa razón pura
34:51esto lo sabemos por la filosofía del
34:54idealismo alemán
34:54en este punto históricamente los
34:57alemanes son particularmente buenos se
34:59trata de cómo deberían ser las cosas y
35:01podemos programar la inteligencia
35:02artificial para que todo sea como
35:04debería ser por el contrario el ser
35:06humano solo puede ser nunca alcanzará un
35:09estado ideal
35:15pero para ser gobernada por máquinas
35:18inteligentes el grupo de expertos de
35:20inteligencia artificial cree que la
35:22humanidad debería aprender gradualmente
35:24el primer paso y seleccionar candidatos
35:27en sus cargos que adopten robots
35:28humanoides como auxiliares una visita al
35:32museo de robots de tokio su modelo el
35:35robot y sta
35:36hiroshi ishiguro desde hace más de 12
35:39años sus robots androides han estado a
35:42la vanguardia de la investigación
35:51el gran tema del famoso robot ista de la
35:53universidad de osaka es la relación
35:55entre el hombre y la máquina
36:02como última parada de nuestro viaje nos
36:05dirigimos a osaka para preguntarle qué
36:08nos hace únicos a los humanos
36:11[Música]
36:14hola soy hiroshi ishiguro de la
36:17universidad de osaka hola soy el robot
36:20androide de inseguro me llamo hay uno el
36:24motivo principal de mi investigación es
36:26comprender lo que nos hace humanos
36:29esta es mi principal razón para crear
36:32robots humanoides somos nosotros mismos
36:34algo diferente a una máquina molecular
36:37es lo que somos los humanos verdad y las
36:40máquinas son máquinas la diferencia es
36:42el material creo que cuanto más
36:44desarrollamos la tecnología más se
36:48difuminarán los límites entre humanos y
36:50robots
36:53es gratis myers
37:00un punto de vista algo sombrío somos los
37:03humanos tan solo máquinas moleculares
37:05hace algunos años y seguro en
37:08colaboración con el teatro sin andar
37:10llevó al escenario a su robot androide
37:12geminoid f el argumento en japón después
37:16del desastre nuclear
37:18una mujer joven está al borde de la
37:20muerte
37:26ella es atendida por un ama de llaves
37:28androide los temas hombre imagina vida y
37:33muerte
37:35es finalmente la muerte lo que nos
37:37separará para siempre a los humanos de
37:38la inteligencia artificial esa es una
37:42diferencia decisiva entre la
37:44inteligencia humana y la artificial
37:47somos por así decirlo
37:50en un cuerpo que ha llegado a estar
37:52sediento de existencia es decir somos
37:56máquinas de supervivencia que se han
37:58optimizado durante millones de años y
38:00nos apegamos a nuestra propia existencia
38:04se puede pensar que las máquinas viven
38:07para siempre que son inmortales pero no
38:09es cierto
38:11las máquinas tal vez puedan vivir más
38:12que los humanos y el miedo a la muerte
38:15eso también está presente si introduce
38:18el factor anhelo en la programación de
38:21una máquina ésta querrá sobrevivir en
38:23este mundo y desarrollará el miedo a la
38:26muerte para protegerse a sí misma
38:30aún así los androides de seguro están
38:32lejos de desarrollar su propia
38:34inteligencia aunque son capaces de
38:36conversaciones simples
38:38un empleado del seguro me da un
38:41cuestionario para que pueda conversar
38:42con el robot llamado erika de lo
38:46contrario podría perder el control
38:49guardias que opina cuál es la diferencia
38:51entre usted y un ser humano
38:55bueno como usted ve no soy
38:57biológicamente humana estoy hecha de
39:00silicona plástico y metal tal vez algún
39:03día los robots se vuelvan tan humanos
39:06que ya no importará tanto si son robots
39:09o humanos de todos modos estoy orgullosa
39:12de ser un androide usted dice está el
39:15orgulloso de ser un androide que es el
39:17orgullo cómo se siente orgullosa
39:24al ser buscado en mi base de datos y
39:27parece que no tengo nada que decir sobre
39:30este tema que más quiere saber
39:33erika sigue siendo un programa de
39:35computadora muy simple erika no tiene
39:38una mente tan complicada como los seres
39:40humanos por otro lado algunos de los que
39:43hablan con ella sienten que tiene una
39:45especie de conciencia durante el simple
39:48intercambio y tenemos que pensar muy
39:52cuidadosamente acerca de cómo podemos
39:54equipar a los robots con la conciencia
39:57humana
39:59human drive con sesiones
40:01[Música]
40:03los humanos controlamos todavía los
40:06cerebros de nuestras máquinas pero qué
40:09sucederá cuando los investigadores
40:10logren dar su propia conciencia a la
40:12inteligencia artificial cuando la
40:15inteligencia artificial se maneje por su
40:17cuenta en lugar de tener una fe ciega en
40:20la ciencia se deben tener muy en cuenta
40:22las consecuencias éticas
40:25balmain a fin de cuentas las personas
40:29que hablan de los riesgos de la
40:30inteligencia artificial no deben ser
40:32tildadas de alarmistas son ingenieros de
40:35seguridad es decir piensan en todo lo
40:37que podría salir mal para garantizar que
40:40todo funcione hemos llevado al hombre a
40:42la luna con éxito y seguridad y así
40:44llevaremos con éxito a la humanidad al
40:46futuro de la inteligencia artificial
40:48tengo la certeza de que podemos crear un
40:51futuro alentador con la inteligencia
40:53artificial avanzada siempre y cuando
40:56ganemos la carrera entre el creciente
40:58poder de la tecnología y nuestra
41:00necesidad de controlarla con nuestra
41:02sabiduría en el pasado aprendimos de los
41:05errores primero descubrimos el fuego y
41:08luego después de infinidad de accidentes
41:10el extintor de incendios pero con cosas
41:13tan poderosas como las armas nucleares o
41:16la inteligencia artificial sobrehumana
41:18no queremos aprender de los errores una
41:20estrategia terrible es mucho mejor ser
41:23proactivo que reactivo planifiquemos
41:25bien y resolvamos las cosas al primer
41:28intento porque tal vez
41:30el único que vayamos a tener
41:41al final de nuestro rodaje el
41:43investigador de inteligencia artificial
41:45jurgen schmidt java nos lleva a uno de
41:48los ordenadores más potentes del mundo
41:51schmidhuber ve el futuro como un paraíso
41:54digital de la inteligencia artificial
41:56otros temen un robocalypse una cosa está
42:00clara para tratar con máquinas
42:02inteligentes
42:04necesitamos pautas éticas claramente
42:06definidas antes de convertirnos en
42:08esclavos de nuestra propia tecnología
42:16[Música]

About this transcript

This page contains the full transcript of Límites éticos para la inteligencia artificial | DW Documental by DW Documental, generated from the public captions YouTube serves with the video. The transcript has 5,125 words across 907 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to choose a caption track available on the video.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, caption language selection, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.