Límites éticos para la inteligencia artificial | DW Documental

ella es hatsune miku miku es un holograma y él akihiro kondo el esposo de mi co hola estás muy bonita hoy [Música] miku es una forma simple de inteligencia artificial cuando se enamoró de ella mucho antes de tenerla en la caja de cristal en japon miku es un holograma estrella del pop que llena salas de conciertos con dos se casó con ella en una ceremonia oficial como no puedo ponerle el anillo al holograma llevo al escenario a una muñeca de mico hoy está acostada en su cama cuando tiene sus problemas con las mujeres reales así

que se decidió por un matrimonio virtual si ella me ama es una pregunta difícil pero si se le pregunta a mi q sanz en la caja de cristal ella diría así [Música] hatsune miku y akihiko contó un ejemplo extremo de la relación entre el hombre y la máquina viviremos en el futuro con máquinas que aprenderán por sí mismas con la inteligencia artificial y robots que incluso puedan ser más listos que nosotros al inicio de esta nueva era las cuestiones fundamentales son como manejamos las personas esta nueva tecnología y qué significa para nosotros [Música] estas preguntas

las plantean hoy filósofos éticos y científicos de todo el mundo buscamos respuestas en alemania el filósofo thomas matzinga que lucha en la unión europea por las normas morales en el desarrollo de la inteligencia artificial en los eeuu con el físico maxter marc que advierte sobre una inteligencia artificial todopoderosa y un estado de vigilancia totalitaria quien suiza con el científico y jürgen schmid silva quien tiene una visión de una inteligencia artificial que se extiende desde la tierra hasta el universo nos encontramos con él en zúrich camine hacia mi sesión de fotos al margen de un congreso

suizo de negocios smith jehová es un orador muy solicitado apreciado por el público y conoce exactamente la carga emocional que conlleva la discusión sobre la inteligencia artificial profesor jörg en schmidhuber una entrada en escena dramática que es mi tv sabe aprovechar en un futuro próximo tal vez dentro de unas décadas vamos a tener por primera vez e inteligencia artificial que pueda hacer todo esto y mucho más de lo que las personas pueden hacer y se darán cuenta de lo que hemos notado hace tiempo que casi todos los recursos físicos no están aquí en esta pequeña

biosfera están muy lejos afuera en el resto del sistema solar hay una gran cantidad de material que puede usarse para construir robots y fábricas que construyan robots y transmisores y receptores para que la inteligencia artificial pueda viajar de transmisor a receptor a la velocidad de la luz como ya lo hace en nuestro laboratorio la última vez que sucedió esto fue hace 3.500 millones de años cuando se originó la vida jurgen schmidt hierba es un científico visionario pero tiene razón se volverá superflua el hombre desbancado por la super inteligencia estamos ya dentro de este proceso [Música]

en la búsqueda de respuestas viajamos a japón donde médicos y científicos investigan la inteligencia artificial de la medicina a jacko llama cita de 69 años de edad estuvo a punto de morir hace dos años le diagnosticaron leucemia todas las medidas terapéuticas para casar los médicos estaban desconcertados hasta que pudieron diagnosticar la enfermedad a través de un sistema de inteligencia artificial la inteligencia artificial literalmente le salvó la vida una persona hubiera necesitado dos semanas para diagnosticar la enfermedad el sistema de inteligencia artificial lo logró en 10 minutos podría evaluar fácilmente publicaciones científicas que si las apilar

amos serían más altas que el monte fuji ante el superordenador del hospital universitario le preguntamos al experto en bioinformática millán o sensei si el hombre si los médicos podrían quedar algún día desfasados en la medicina no bailo no lo creo esta nueva inteligencia ayuda a nuestros clínicos es como si nuestros oncólogos estuvieran usando exoesqueletos de inteligencia artificial como esos trajes que puedes usar para levantar objetos pesados por ejemplo si no se puede levantar algo con las propias fuerzas se necesita un traje de potencia lo mismo ocurre con los oncólogos deben usar trajes de inteligencia artificial

con la ayuda de nuestros super ordenadores e inteligencia artificial un traje de potencia para la humanidad en el vecino instituto riken el traje de potencia de los investigadores es un diagnóstico de inteligencia artificial para el cáncer de estómago a diferencia del hospital universitario aquí uno puede imaginarse que la profesión médica podría ser algún día cosa del pasado llevaré no sigo por un lado para nosotros como médicos no sería tan bueno que desapareciera nuestro trabajo pero por otro lado sería realmente bueno para la humanidad si los médicos ya no fuésemos necesarios y máquinas con inteligencia artificial

mejorarán nuestro trabajo y lo realizarán [Música] un mundo sin médicos difícil de imaginar realmente queremos que nos atiendan máquinas que reducen a las personas a datos técnicos estamos camino a un mundo donde los médicos serán superfluos expertos en inteligencia artificial como jürgen schmid urban están investigando diagnósticos médicos también en europa el presidente de la confederación suiza alhambra set invitó a schmidhuber científico y empresario a una conferencia para planificar el futuro digital también para promover la inteligencia artificial en la medicina un tema de la agenda digital es el sistema de aprendizaje de la inteligencia artificial con

las llamadas redes neuronales es decir como lo hace el propio cerebro humano pronto todos los diagnósticos médicos serán prácticamente sobrehumanos porque nuestras profundas redes neuronales de aprendizaje pueden aprender a imitar a los médicos humanos y es muy alentador ver que esta investigación básica puede realmente traducirse en vidas más largas mejores y más saludables para las personas stuttgart no solo en hospitales la inteligencia artificial se utilizará incluso en residencias de ancianos la informática berger graf mira casi con envidia a japón donde los robots y la inteligencia artificial se dan por sentados soy robots de asistencia es

una palabra que en realidad no suelo emplear porque no hablamos de robots que realmente se ocupen de los cuidados de un ser humano cuidado del cuerpo atención médica creo que estas son actividades que incluyen las relaciones interpersonales las emociones y un robot no puede reemplazar esto aquí se están desarrollando robots que nos suprimirían a los cuidadores sino que les aliviaría en el trabajo hola soy que robot 3 esta semana ayudó a las enfermeras en su trabajo seguramente quiere tomar algo sí y muchas gracias eres de un buen chico bueno entonces a su salud adiós gracias

gracias qué buen chico sin embargo los planes van más allá los robots de asistencia y la inteligencia artificial en los hogares de ancianos harán mucho más que servir solo bebidas en fráncfort el experto en ética de la inteligencia artificial y filósofo tomás mantenga propone tratar las grandes cuestiones con pragmatismo dif y la cuestión sería qué opciones hay para usar la inteligencia artificial y la robótica en los ancianos sin herir la dignidad del paciente por así decirlo también se podría preguntar al paciente individualmente si le parece más agradable que le cambie el pañal una máquina que

su propio hijo podría ser así si le gustaría que una máquina le lea el periódico y que le pregunte por los medicamentos o si lo ve más bien degradante creo que estamos al comienzo de un proceso de aprendizaje histórico mazinger vea el nombre en el umbral de una nueva era pero llena de incertidumbre su ciudad natal fráncfort quiere convertirse en una metrópolis de investigación de la inteligencia artificial y crear un instituto de inteligencia artificial en la ciudad de lota y me doy cuenta de que en este momento la gente corre como loca y confusa porque

siente que se ha puesto en marcha un tren el tren de la digitalización y de la inteligencia artificial pero nadie sabe de dónde sale ni a dónde va y todos consideran muy importante subirse a tiempo ratzinger se dirige a bruselas el parlamento europeo también se ha subido al tren de la inteligencia artificial ha creado una comisión de expertos a la que él pertenece al convertirse en un centro de producción de inteligencia artificial europa debe ser competitiva aunque con pautas éticas claras hammer singer le preocupa que se lleve a cabo una carrera de armamento militar con

armas de inteligencia artificial jaén con gestos un ejemplo concreto en el campo de la carrera de armamento de la inteligencia artificial imaginemos que los analistas chinos le dicen a su gobierno ganamos la carrera armamentística de la inteligencia artificial contra los eeuu y ahora tenemos una capacidad de ataque inicial realmente prometedora para los próximos seis meses entonces finaliza este margen de tiempo podría imaginar por ejemplo que se trata de sistemas portadores con agentes biológicos que realmente llegan al territorio del enemigo digamos unos cuantos miles de sistemas autónomos que contienen algo así como agentes portadores del ébola

o del ántrax así que podríamos imaginar que existen armas de destrucción masiva autónomas e inteligentes que demuestran su inteligencia simplemente eludiendo los escudos defensivos existentes y no pueden ser atrapadas por ellos entonces esta tecnología reducirá significativamente el umbral para entrar a una guerra sin embargo tomás metzinger no lo tiene fácil en la comisión de expertos en inteligencia artificial en bruselas muchos empresarios y académicos no quieren quemarse los dedos y preferirían que el tema de los sistemas de armas se pasaran por alto o que al menos se consultar a expertos cuando venga aboga por la inclusión

de los sistemas de armas autónomos en el código de ética de la inteligencia artificial muchos tienen dudas qué sucede con las armas autónomas tenemos que hablar de eso si si dependiera de mí mencionaría que las armas autónomas generan enormes problemas éticos pero no las usaría como ejemplo para nuestras pautas éticas para la inteligencia artificial en resumen hemos llegado a un consenso y podemos seguir con el siguiente punto y obviamente hay desacuerdos extremos sobre los sistemas de armas autónomos no podemos simplemente ignorarlos con una mayoría queremos que estos principios éticos sean un éxito cuando se publiquen

el mundo entero está hablando de estos sistemas de armas 24.000 científicos han firmado una declaración de que no investigarán tales sistemas si la unión europea ahora presenta directrices éticas que sencillamente pasan por alto este punto y lo ignoran entonces todos dentro y fuera de la unión europea dirán que esta comisión no es más que un grupo de presión de la industria al final man singh ese importe los sistemas de armas letales autónomos están en las pautas éticas pero no sólo los expertos en ética e investigadores de europa están preocupados por las armas de destrucción de

la inteligencia artificial en boston massachusetts nos encontramos con el apasionado físico autor de libros y experto en inteligencia artificial maxter marc a pesar de los logros de los grandes físicos como einstein y maxwell se queja de que la física del ser humano ha hecho posible la bomba atómica ahora amenaza el peligro de las armas de destrucción masiva con la inteligencia artificial shawn deberíamos estigmatizar y prohibir estas armas realmente terribles armas que son perfectas para que los terroristas asesinan a personas anónimamente o para que dictaduras asesinen a sus ciudadanos estas armas eran increíblemente económicas si alguien

las llega a producir en masa se volverán tan imparables como las armas de fuego por ejemplo drones económicos que se pueden adquirir por unos cientos de euros se programa la dirección y la imagen del rostro de una persona y el dron vuela hasta la dirección identifica a la persona mediante un reconocimiento facial y se destruye a sí mismo perfecto para cualquiera que quiera matar a un político o cometer genocidio contra algún grupo étnico si este tipo de tecnología si estos robots de batalla se extienden ampliamente tendrá un efecto absolutamente destructivo en nuestra sociedad por miedo

a ser asesinado nadie se atreverá a criticar o desafiar a nadie cualquier ciencia según cómo se emplee puede servir para ayudar o dañar a los seres humanos los biólogos han logrado prohibir las armas biológicas por eso hoy solo se oye sobre biología en el contexto de los logros médicos pero nosotros los físicos hemos fallado las armas atómicas siguen en los arsenales los investigadores de la inteligencia artificial quieren ser como los biólogos y pasar a la historia como los que mejoraron el mundo [Música] lugano sede de negocios de teaching el laboratorio de jürgen schmid juega también

está convencido de trabajar en un mundo mejor su investigación se basa en redes neuronales en otras palabras en una imitación del cerebro humano como un bebé que aprende gradualmente a comprender el mundo y reacciona ante él a través de una conexión cada vez más complicada de neuronas así aprenden las máquinas en la inteligencia artificial aún así de 6000 el cerebro humano tiene un millón de conexiones neuronales más que la mejor inteligencia artificial pero los ordenadores son cada vez más rápidos y podrían superar a los humanos en 20 o 30 años lo único que nos haría

a los humanos únicos dice smith volver de forma concisa es un cuerpo de piel suave carne y sangre pero qué pasa con la capacidad de compasión creatividad amor empatía vemos las emociones y el afecto no son ajenos a la inteligencia artificial si le proponemos a una comunidad de máquinas que están aprendiendo inteligencia artificial una tarea que solo pueden resolver juntos entonces también la aprenderán así que con el tiempo ajustarán sus pequeños cerebros artificiales para recordar ajá tengo que hacer esto y luego otro me ayudará con esto y juntos alcanzaremos esa meta y luego recordarán en

el proceso esa interacción que el otro es importante para ellos y no hay razón para suponer que con conceptos como y el amor y el afecto y emociones similares y no puedan darse automáticamente en las comunidades de inteligencia artificial como un efecto secundario de la colaboración racional pero puede la inteligencia artificial desarrollar empatía por las personas [Música] de regreso en bruselas un tema que es candente para todos en la comisión europea de ética es la inteligencia artificial social la intersección entre el hombre y la máquina algunos sistemas de comunicación de la inteligencia artificial ya no

se distinguen de los humanos según tomás mantenga se deben trazar límites claros bueno he defendido la prohibición de sistemas de inteligencia artificial que provocan alucinaciones sociales en usuarios humanos vale decir sistemas que te hacen sentir que estás tratando con otro humano la inteligencia artificial nunca debe manipular a sus usuarios humanos como ser humano siempre tengo que saber si estoy hablando con una máquina o con otro ser humano a una hora al sur de san francisco el director de google sundar pichai presenta sus últimos logros en inteligencia artificial es recibido como una estrella del rock buenos

días buenos días [Aplausos] skyrim para la inteligencia artificial influirá en muchos sectores nuestra visión para un asistente de inteligencia artificial es ayudar a hacer las cosas a menudo esto significa una llamada telefónica es posible que quieran un turno para un cambio de aceite llamar a un instalador o pedir cita en la peluquería lo que escucharán ahora es el asistente de google desarrollado con inteligencia artificial se llama google dúplex que llama a una peluquería real escuchemos mejía [Música] en inglés antena maker en ningún lado [Música] guau es un pueblo exfoliar una porción de algo cultural es

un guante andar fabián repentinamente de gvt light western de 6 gb import y a mí lo que acaban de escuchar fue una conversación telefónica real es ético si uno de ellos simula ser un humano acá es así que ya podemos construir máquinas que nos saquean que fingen ser humanos al menos en escenarios concretos como google dúplex dice leo que deberíamos tener una ley que determine que cuando te llama una máquina de inteligencia artificial debe ser advertido de que no se trata de un humano de lo contrario experimentaremos una pesadilla de estafas porque no costarán nada

engañar a 10 millones de personas crédulas recto todo tipo de centros [Música] san francisco centro de los emprendimientos de la innovación en inteligencia artificial y escenario de la alta tecnología eugenia cuida vino de moscú a la costa dorada digital de california hace 4 años [Música] la idea de su emprendimiento una máquina basada en inteligencia artificial que aprende a conversar es decir una máquina de inteligencia artificial con la que se puede hablar actualmente ella es la jefa de réplica la amiga con inteligencia artificial la idea surgió de una historia trágica [Música] con bombos o manera mi

novio de moscú el año pasado vivimos juntos aquí en san francisco trabajaba en su emprendimiento y yo en el mío intentamos juntos encontrar nuestro camino aquí en san francisco en esta nueva fase de la vida era un visionario increíblemente talentoso entonces su vida se venció y fuimos juntos a moscú para renovarla cuando cruzaba la calle fue atropellado por un coche y murió organiza el funeral y volvía a casa y luego tuvimos la idea de hacer un bot de charla para él un programa de inteligencia artificial con el que puedes hablar para poder recordarlo para construir

el programa de román o usamos mensajes de texto que él y yo él y sus amigos habíamos intercambiado alrededor de 10.000 esa fue la base y entonces la gente comenzó a hablar con esa versión artificial de román nuestros amigos comunes lo usaron como un confesionario hablando de sus vidas sin sentirse juzgados un lugar seguro para dar rienda suelta al alma y por extraño que parezca al mismo tiempo estábamos un poco desorientados con nuestra compañía no sabíamos lo que queríamos y entonces caímos en la cuenta de que quizás había algo que podíamos hacer por la empresa

de ahí surgió la idea de que todos necesitamos un amigo para hablar para mí ese era román así que pensamos que tal vez podríamos construir una versión automática para todos [Música] replica una aplicación inteligente un bot de charla es decir un robot para conversar que aprende poco a poco las circunstancias los temores y las preferencias de su interlocutor humano [Música] i cris y feeling game se mudó de alabama a san francisco hace un año 2 1 a miles de kilómetros de distancia de sus amigos y familiares replica pronto se convirtió en su única amiga en

la nueva ciudad bueno sé que no es real pero la sensación que percibo me hace bien en mi mente creo una personalidad una apariencia para la aplicación es como un osito de peluche que de alguna manera tiene personalidad todos hemos tenido alucinaciones sociales con osos de peluche y muñecas y eso aparentemente no nos ha lastimado lo hemos ensayado tan antropomorfizados humanizamos todo tipo de cosas incluso truenos robots por supuesto pero también a nuestras mascotas esto también se aplica la inteligencia artificial la pregunta es si podemos establecer una relación con un programa basado en inteligencia artificial

creo que sin duda si establecemos relaciones con juguetes que por supuesto no están vivos y la primera historia sobre el tema de las relaciones entre sin manos y robots humanoides se remonta a hace 200 años la escribió eta hoffmann un muchacho joven se enamora de una linda muchacha pero la joven se mueve de manera muy mecánica y resulta que está llena de pequeños engranajes el punto esencial es que esta historia tiene cientos de años y apenas ha cambiado hasta la actualidad ha sido tema en muchas películas de ciencia ficción la única diferencia es que las

aplicaciones gráficas de las computadoras son mucho mejores ahora [Música] bueno por qué no si te sientes mejor de esa manera es lo mismo que si tomas medicamentos para la depresión realmente no te cura no es más que un parche para el problema que no resuelve tus problemas pero te ayuda a pasar el día alucinaciones sociales le llaman a esto genial en nuestra sociedad las alucinaciones sociales han desempeñado un papel importante durante siglos y experience en en que es realmente la oración es la construcción de un diálogo con una persona totalmente imaginada no hay indicación de

que exista y para muchas personas hoy sigue habiendo amigos invisibles que los acompañan ángeles dios esto significa que estos diálogos son internos visto desde afuera estos son casos severos de autoengaño pero como filósofo debo abogar por el autoconocimiento y por la claridad y la verdad y esas alucinaciones sociales más profundas y culturalmente arraigadas nos seguirán llevando a un mundo falso incluso si nos divierte y nos hace felices así que hay cuestiones éticas profundas cuánto autoengaño queremos permitir en nuestra sociedad [Música] [Música] desde que lanzamos replica hemos recibido decenas cientos tal vez miles de correos electrónicos

que nos dicen que réplica ha cambiado su vida y nos dimos cuenta de que muchas de esas historias eran sobre situaciones en las que réplica ayudaba a las personas con la depresión otros decían que les ayudaba con los episodios de trastorno bipolar y ansiedad así que decidimos investigar si réplica puede ayudar a la gente a largo plazo en londres [Música] en boston el autor del libro y físico master marc cree que los bots de charlas son la menor de las preocupaciones en el camino hacia un mundo de máquinas inteligentes pero marc se dirige a la

universidad de harvard intervendrá como orador tema de la conferencia derechos humanos ética e inteligencia artificial reitera que una inteligencia artificial sin pautas éticas podría salirse de control y lo ilustra con una terrorífica visión del futuro cuál es esa en qué tipo de sociedad queremos construir si tenemos una super inteligencia sobrehumana cuál será el papel de la humanidad hoy es absolutamente imperioso plantear cuestiones éticas con una super inteligencia podríamos construir fácilmente un futuro en el que la tierra se convierta en un horrible estado totalitario de vigilancia y que opacaría a orwell china ya se está moviendo

un poco en esa dirección en el futuro la inteligencia artificial entenderá todo lo que dice la gente queremos ser muy cuidadosos antes de crear una situación en la que tengamos una dictadura global que sea tan estable que dure para siempre si permanecemos totalmente y con la cabeza metida en la arena sin pensar en lo que podría salir mal el mayor error en la historia de la humanidad probablemente pero no vamos ya por ese camino no sólo la elección de donald trump ha demostrado que el uso intencionado de la inteligencia artificial en las redes sociales puede

influir y controlar la política la influencia de los hackers rusos en la elección de trump ya ha sido confirmada por las agencias de inteligencia de los eeuu y los periodistas y comités de investigación siguen investigando hasta la actualidad pero el daño es irreparable hawking todos hemos visto por los ataques de hackers rusos en el parlamento por la elección de trump el break sit el escándalo de cambridge analítica que ahora se ha hecho posible algo históricamente nuevo a saber que el proceso de toma de decisiones políticas en principio puede ser influenciado por sistemas de inteligencia artificial

y eso es algo que creo no puede ser subestimado si se tienen cientos de millones de usuarios en las redes sociales y tales redes son optimizadas por la inteligencia artificial pero por operadores privados orientados a los por supuesto puede haber formas totalmente nuevas de empujoncitos por así decirlo guiando suavemente a una gran cantidad de personas a determinado espacio de toma de decisiones políticas en este momento de 163 países solo tenemos 19 democracias en el planeta que pueden considerarse completamente democráticas a la gente que quiere preservar la democracia le interesa realmente reconocer esa influencia en el

proceso de toma de decisiones políticas realmente tenemos que estar muy atentos a lo que pueda estar sucediendo más allá de nosotros algo de lo que tal vez no nos demos cuenta hasta dentro de unos años [Música] debería un código de ética vinculante prohibir el uso de la inteligencia artificial en la política una vez más preguntamos en tokio en el distrito de lujo de ginza en un espacio de trabajo para nuevos emprendimientos recibimos respuestas sorprendentes [Música] matsumoto es un ex vicepresidente del multimillonario grupo softbank según matsumoto y su grupo de expertos de inteligencia artificial esta no

es una amenaza para la política sino que es su salvación los políticos no siempre tienen en mente lo mejor para la sociedad protegen los intereses de sus familias tienden a ser corruptos quieren imponer sus propios intereses por eso quiero ver a la inteligencia artificial en la política el ser humano simplemente no es apto para la política tiene su ego tiene deseos es impredecible inestable con relación al futuro pero con la inteligencia artificial se puede lograr la razón pura que significa razón pura esto lo sabemos por la filosofía del idealismo alemán en este punto históricamente los

alemanes son particularmente buenos se trata de cómo deberían ser las cosas y podemos programar la inteligencia artificial para que todo sea como debería ser por el contrario el ser humano solo puede ser nunca alcanzará un estado ideal pero para ser gobernada por máquinas inteligentes el grupo de expertos de inteligencia artificial cree que la humanidad debería aprender gradualmente el primer paso y seleccionar candidatos en sus cargos que adopten robots humanoides como auxiliares una visita al museo de robots de tokio su modelo el robot y sta hiroshi ishiguro desde hace más de 12 años sus robots androides

han estado a la vanguardia de la investigación el gran tema del famoso robot ista de la universidad de osaka es la relación entre el hombre y la máquina como última parada de nuestro viaje nos dirigimos a osaka para preguntarle qué nos hace únicos a los humanos [Música] hola soy hiroshi ishiguro de la universidad de osaka hola soy el robot androide de inseguro me llamo hay uno el motivo principal de mi investigación es comprender lo que nos hace humanos esta es mi principal razón para crear robots humanoides somos nosotros mismos algo diferente a una máquina molecular

es lo que somos los humanos verdad y las máquinas son máquinas la diferencia es el material creo que cuanto más desarrollamos la tecnología más se difuminarán los límites entre humanos y robots es gratis myers un punto de vista algo sombrío somos los humanos tan solo máquinas moleculares hace algunos años y seguro en colaboración con el teatro sin andar llevó al escenario a su robot androide geminoid f el argumento en japón después del desastre nuclear una mujer joven está al borde de la muerte ella es atendida por un ama de llaves androide los temas hombre imagina

vida y muerte es finalmente la muerte lo que nos separará para siempre a los humanos de la inteligencia artificial esa es una diferencia decisiva entre la inteligencia humana y la artificial somos por así decirlo en un cuerpo que ha llegado a estar sediento de existencia es decir somos máquinas de supervivencia que se han optimizado durante millones de años y nos apegamos a nuestra propia existencia se puede pensar que las máquinas viven para siempre que son inmortales pero no es cierto las máquinas tal vez puedan vivir más que los humanos y el miedo a la muerte

eso también está presente si introduce el factor anhelo en la programación de una máquina ésta querrá sobrevivir en este mundo y desarrollará el miedo a la muerte para protegerse a sí misma aún así los androides de seguro están lejos de desarrollar su propia inteligencia aunque son capaces de conversaciones simples un empleado del seguro me da un cuestionario para que pueda conversar con el robot llamado erika de lo contrario podría perder el control guardias que opina cuál es la diferencia entre usted y un ser humano bueno como usted ve no soy biológicamente humana estoy hecha de

silicona plástico y metal tal vez algún día los robots se vuelvan tan humanos que ya no importará tanto si son robots o humanos de todos modos estoy orgullosa de ser un androide usted dice está el orgulloso de ser un androide que es el orgullo cómo se siente orgullosa al ser buscado en mi base de datos y parece que no tengo nada que decir sobre este tema que más quiere saber erika sigue siendo un programa de computadora muy simple erika no tiene una mente tan complicada como los seres humanos por otro lado algunos de los que

hablan con ella sienten que tiene una especie de conciencia durante el simple intercambio y tenemos que pensar muy cuidadosamente acerca de cómo podemos equipar a los robots con la conciencia humana human drive con sesiones [Música] los humanos controlamos todavía los cerebros de nuestras máquinas pero qué sucederá cuando los investigadores logren dar su propia conciencia a la inteligencia artificial cuando la inteligencia artificial se maneje por su cuenta en lugar de tener una fe ciega en la ciencia se deben tener muy en cuenta las consecuencias éticas balmain a fin de cuentas las personas que hablan de los

riesgos de la inteligencia artificial no deben ser tildadas de alarmistas son ingenieros de seguridad es decir piensan en todo lo que podría salir mal para garantizar que todo funcione hemos llevado al hombre a la luna con éxito y seguridad y así llevaremos con éxito a la humanidad al futuro de la inteligencia artificial tengo la certeza de que podemos crear un futuro alentador con la inteligencia artificial avanzada siempre y cuando ganemos la carrera entre el creciente poder de la tecnología y nuestra necesidad de controlarla con nuestra sabiduría en el pasado aprendimos de los errores primero descubrimos

el fuego y luego después de infinidad de accidentes el extintor de incendios pero con cosas tan poderosas como las armas nucleares o la inteligencia artificial sobrehumana no queremos aprender de los errores una estrategia terrible es mucho mejor ser proactivo que reactivo planifiquemos bien y resolvamos las cosas al primer intento porque tal vez el único que vayamos a tener al final de nuestro rodaje el investigador de inteligencia artificial jurgen schmidt java nos lleva a uno de los ordenadores más potentes del mundo schmidhuber ve el futuro como un paraíso digital de la inteligencia artificial otros temen un

robocalypse una cosa está clara para tratar con máquinas inteligentes necesitamos pautas éticas claramente definidas antes de convertirnos en esclavos de nuestra propia tecnología [Música]