La inteligencia artificial, ¿nuestra salvación o condena? | Nosotros y ellos | DW Documental

existe el riesgo de que los sistemas de Inteligencia artificial eliminen a los humanos debido al envejecimiento de su población Japón enfrenta problemas muy graves quiero resolver estos problemas podemos controlar estos sistemas podemos asegurarnos de que entiendan algo o de que observen valores humanos cuando los hayan entendido amo estas tecnologías me gustaría tecnologías para realizar una contribución a la humanidad y a la sociedad humana incluso los sistemas nerviosos del cerebro pueden conectarse con el ciberespacio esta tecnología evoluciona rápidamente no sabemos cómo funciona ni cómo funcionarán los sistemas futuros será seguro lo que se desarrolle esta Inteligencia

artificial reconoce que los seres humos son uno de los seres vivos importantes esteo Gro está desarrollando tecnologías poderosas de las que sabemos muy poco las preocupaciones de la gente acerca de que la ia generativa acabe con la humanidad surgen del temor de que si no se controla la ía podría potencialmente desarrollar capacidades avanzadas y tomar decisiones que sean perjudiciales para los humanos mientras el mundo Lidia con las implicaciones de este campo en rápida evolución una cosa es segura el impacto de la ia en la humanidad será profundo [Música] [Música] y [Música] [Música] con las nuevas

tecnologías de ia se puede lograr una fusión entre el lado humano y el lado tecnológico este es uno de los primeros sbs portátiles del mundo Cyber se esfuerza por desarrollar tecnologías cibernéticas muy innovadoras centradas en medicina y cuidado de la salud para los seres humanos y la sociedad [Música] humana Mi nombre es yosuki sankai soy profesor en la universidad de sucuba en Japón y al mismo tiempo coo de cyberdine permítanme crear un futuro brillante para los humanos y las sociedades humanas con este tipo de sistemas de ia [Música] quiero contribuir a mejorar el mundo es

por eso que trabajo en la seguridad de la Inteligencia artificial muchos intelectuales y profesores de la industria y la ciencia reconocen que existe un riesgo significativo de que los sistemas avanzados de Inteligencia artificial puedan extinguir a la humanidad en los últimos años hubo rápidos avances en el desarrollo del sistema de Inteligencia artificial que se vuelven cada vez más poderosos grandes y competentes capaces de realizar conclusiones complejas sin embargo en términos de seguridad de estos sistemas no Se realizaron avances igual de significativos Mi nombre es Gabriel mobi pueden llamarme G soy estudiante de doctorado en la

universidad de Stanford e investigo en el campo de la seguridad de la Inteligencia artificial tenemos un grupo de investigación que se enfoca en reducir los riesgos de los sistemas avanzados de Inteligencia artificial Como por ejemplo minimizar los riesgos de armas de destrucción masiva eso es algo bueno desafortunadamente estas amenazas catastróficas parecen ser bastante significativas muchos científicos líderes estiman que la probabilidad de un riesgo existencial por la Inteligencia artificial avanzada es de uno o dos dígitos además de la extinción de los humanos también existen otras proyecciones peores como la instauración de sistemas totalitarios o la concentración

de poder de manera que muchas personas no tengan voz sobre cómo la Inteligencia artificial dará forma y transformará a nuestra sociedad la ia se ha convertido en un tema muy controvertido hay muchas preocupaciones legítimas algunos creen que podría provocar pérdida de empleos aumento de la desigualdad e incluso un uso éticamente cuestionable de la ia sin embargo la ia también tiene un enorme potencial para beneficiar a la humanidad podría ayudarnos a abordar algunos de los mayores problemas del mundo como el cambio climático las enfermedades y la [Aplausos] pobreza deo hoy discutimos nuestros avances en la tecnología

de la cibernética un campo que conecte el espacio ciberfísico con los seres humanos en este ámbito la tecnología y el ser humano se fusionan específicamente el espacio físico el cuerpo y el sistema nervioso craneal que procesa la información Gracias a nuestros incansables esfuerzos hemos obtenido la aprobación para aplicaciones en lesiones de médula espinal y accidentes cerebrovasculares en Europa y en Estados Unidos H reconoce señales de intención humana que son transmitidas desde el cerebro a los dispositivos periféricos cuando el ser humano desea moverse el cerebro genera señales de intención estas señales se transmiten a través de

la médula espinal y los nervios motores hasta el músculo permitiéndoles finalmente movernos los sistemas hal y los humanos siempre trabajan juntos estos dispositivos se implementan ahora como productos médicos en 20 países existen oportunidades realmente fantásticas para utilizar la tecnología DEA en medicina por la detección de cáncer mediante sistemas de reconocimiento de imágenes con ia sin pruebas invasivas lo cual es realmente fantástico al igual que la detección temprana ninguna tecnología es inherentemente buena o mala son solo las personas las que lo son por supuesto debemos considerar Cómo el desarrollo de estas tecnologías afectará a largo plazo

a los seres humanos al mismo tiempo debemos pensar menos en el aspecto técnico y más en los impactos reales en la vida de las personas Japón es optimista sobre la tecnología de ia actualmente hay un gran entusiasmo es como un juguete nuevo y brillante con el que Todos quieren jugar cuando viajo Estados Unidos Australia o países de la ue la preocupación y el miedo son mucho mayores para ser honesta me sorprendió bastante las reuniones tienen lugar cada miércoles invitamos a un invitado o un investigador que de una charla luego tomamos té sí es algo bueno

es como un laboratorio de investigación tienes un adaptador HDMI a usbc algo para enchufar no estás conectado olvídalo Disculpa esto y ahora le cedo la palabra a nuestro orador dan hendri las reuniones de los miércoles son una excelente oportunidad para conocer a nuevos estudiantes y discutir Por qué les interesa o no la seguridad de la Inteligencia artificial si alguien quiere sintetizar el virus de la viruela o si se trata de algo como el gas mostaza se puede hacer el acceso ya está ahí y Se volverá más fácil con el tiempo Pero sigue siendo un problema

se necesiten habilidades específicas básicamente necesitas algo así como un médico especialista en virología de alto nivel para crear una nueva pandemia que podría destruir la civilización hay secuencias en línea Que no revelaré que podrían matar a millones de personas son Realmente mucho más peligrosas Sí con respecto al acceso muchas personas se preguntan si no solo se necesita ser un destacado doctor sino también tener algún tipo de laboratorio biológico para llevar a cabo experimentos esto también depende de la calidad de las instrucciones permiso también Vienen personas que tienen una perspectiva diferente creen que las inteligencias artificiales

poderosas no estarán disponibles durante mucho tiempo y no les parece importante podríamos Establecer un incubador hay un gran potencial especialmente para aquellos que crean pandemias artificiales para causar un gran daño pero también hay otros casos de uso indebido uno es el de los ciberataques es posible que en los próximos años tengamos sistemas de ia que no solo sean buenos en programación sino también que sean buenos para realizar ataques de día cero y aprovechar vulnerabilidades de software en sistemas seguros principalmente la ia será utilizada para ganar dinero muchas personas podrían ser Podrían haber ataques a infraestructuras

públicas amenazas contra individuos para extorsionar losos los próximos años podrían convertirse en un salvaje oeste de ciberataques digitales pero también existe el riesgo de que los sistemas de ia escapen al control de sus desarrolladores actualmente no sabemos cómo controlar estos sistemas o asegurar que observen valores humanos cuando los hay entendido podrían aprender a valorar cosas que no coinciden con lo que queremos como humanos como un ambiente propicio para la vida o hacer felices a las personas mi familia siempre me ha apoyado profesionalmente hace unos años el tema de la seguridad de la ia no era

tan difundido así que siempre había cierta incertidumbre tendría un trabajo seguro o esas cosas pero con el tiempo a medida que veíamos Cómo se desarrollaba la ia y como cada vez más personas lanzaban la alarma y advertían sobre los riesgos de la ia mi madre Me enviaba un mensaje cada pocos días diciendo Oye has oído hablar de esto Lamentablemente muchos expertos creen que los peores riesgos ocurrirán con una probabilidad bastante alta estiman un valor de uno o dos dígitos la presidenta de la comisión de comercio de Estados Unidos dijo que estima una probabilidad del 15%

de que la ia acabe con toda la humanidad mi Visión Es un poco diferente estamos creando sistemas de ia Esta es una especie recién creada los sistemas de ia generativos son diferentes de los simples sistemas de programación tienen funciones que se desarrollan la ia generativa reconoce que el humano también es una de las especies más importantes al igual que los animales y debido a que el humano es una especie la ía avanzada reconoce la importancia del humano intenta preservar nuestras sociedades culturas y condiciones de vida nosotros los humanos tenemos algunos problemas problemas de envejecimiento enfermedades

o tenemos accidentes los sistemas de ia o algunas tecnologías con sistemas de ia nos ayudarán señor y señora Kawasaki Muchas gracias por venir hoy ha pasado realmente mucho tiempo cierto se le ve muy bien sí no me ha ido [Risas] mal y cómo está su nieto [Música] me alegro mucho de ver cuánto ha mejorado su salud Japón enfrenta ahora muy graves problemas de envejecimiento de su población la edad promedio de los trabajadores agrícolas actualmente supera los 70 años cuando ella tuvo su derrame cerebral me hice la idea de que tendría que cuidarla por el resto

de su vida dej mi trabajo lo dejé todo esperando dedicar mi tiempo a cuidarla la mitad de su cuerpo estaba paralizado inicialmente nuestro médico dijo que nunca volvería a caminar nos dijer necesitaría cuidados de tiempo completo el director del hospital nos dijo vamos a conseguirte un robot Pensé qué un robot Entonces lo hicimos Vamos vamos vamos Ven vamos vamos camina nunca pensé que aprendería a caminar de nuevo tan rápido en Solo dos meses nuestra vida volvió a la normalidad ahora estoy caminando lo hago por mi corazón gustaría resolver los problemas de esta sociedad que envejece

cuando era niño mi madre me compró un microscopio y algunos componentes electrónicos dediqué mucho tiempo Cada día a realizar este tipo de experimentos y diferentes desafíos me encanta leer libros de ciencia ficción Yo robot escrito por isac [Música] si has oído hablar de la Inteligencia artificial en los últimos años es probable que la tecnología de la que has oído hablar haya sido desarrollada aquí los avances subyacentes se lograron aquí el dinero detrás de eso proviene de aquí las personas que están detrás de eso viven aquí todo se ha centrado aquí en el área de la

Bahía startups líderes en Inteligencia artificial Open Ai antropic inflection nombres que quizás aún no conozcan son respaldadas por algunas de las grandes empresas que ya conocen y que están en la cima del mercado de acciones estas son Microsoft Amazon meta Google muchas de estas empresas tienen su sede aquí en el área de la Bahía a pesar de todas las discusiones hem sobre la política de ia en realidad hay muy poco que las empresas de tecnología deban cumplir mucho de esto es simplemente voluntario entonces de lo que realmente dependemos como barreras de seguridad es de la

benevolencia de las propias empresas gabe es un ejemplo de muchos de los jóvenes que ahora se están uniendo al movimiento y que no son ideológicos que realmente están interesados en la tecnología que son conscientes de los potenciales peligros de la tecnología y ven esto como una oportunidad para ellos es extremadamente importante y lo consideran su oportunidad de trabajar en lo que muchos de ellos llaman el proyecto Manhattan de su generación A diferencia de muchas tecnologías desarrolladas en el pasado la ia está siendo impulsada principalmente por un pequeño grupo de científicos en San Francisco y este

pequeño grupo está desarrollando tecnologías extremadamente poderosas de las que sabemos muy poco quizás esto tenga que ver en parte con un optimismo histórico hacia la tecnología muchos están acostumbrados al paradigma de actuar rápido y romper lo que a veces lleva a que las cosas salgan bien pero cuando desarrollas una tecnología que afecta a la sociedad no quieres avanzar tan rápido como para destruir la sociedad [Música] paus y Busca una pausa global e indefinida en el desarrollo de la Inteligencia artificial por eso Estamos pegando carteles para informar a la gente el tema de la ia es

complicado gran parte del público no lo entiende gran parte del gobierno no lo entiende es difícil seguir el ritmo de los avances además de la mayoría de nosotros que trabajamos en este tema no tenemos experiencia en activismo lo que tenemos es principalmente conocimiento técnico y manejo de la ia Y eso nos preocupa la seguridad de la ia sigue preocupando solo a una minoría y de hecho muchos de los nombres importantes en el campo de la seguridad trabajan en laboratorios de ia creo que algunos de ellos están haciendo un gran trabajo pero están bajo la influencia

de las grandes empresas que impulsan este desarrollo ese es el problema creo que afuera debería decirles lo que tienen que hacer y desafortunadamente en el caso actual de la ia no existen organismos reguladores externos que estén realmente a la altura de la tarea de regular la son las mismas personas que dicen esta cosa podría matarnos a todos y aún así la seguiré construyendo creo que una razón para la gran resistencia hacia el m la Es la falta de consenso entre las personas que temen las consecuencias de la Inteligencia artificial para la humanidad y aquellos que

programan este Dios de la ia gran parte del debate aquí tiene un trasfondo realmente religioso es una de las razones por las que los seguidores de laa dicen que no se puede detener y no se debe detener parece que están hablando de construir un Dios como si lo estuvieran construyendo a su propia imagen amo a las personas y a la humanidad y también amo la ciencia ficción me gustaría desarrollar tales tecnologías como contribución y a la sociedad humana me gusta leer libros de ciencia ficción Y también disfruto viendo películas de ciencia ficción las películas de

Terminator forman parte de ellas sí pero desafortunadamente en algunas películas de los Estados Unidos o Europa las tecnologías siempre atacan a las personas pero realmente trabajan para el beneficio de las personas y la sociedad humana en la película Terminator un clásico del cine cyberdine es una empresa tecnológica ficticia que desarrolla el software para el sistema skynet un sistema de ia que se vuelve consciente de sí mismo y se pone Rebelde el papel de Cyber D en la historia es representar los peligros de que la ia se salga de control y servir como advertencia para el

mundo real no en las historias de Terminator esa compañía se llama Cyber systems por supuesto es posible Apagar algunos sistemas avanzados deia y Esperamos que se haga parte de La regulación se centra en asegurar que los centros de datos tengan buenos sistemas de apagado actualmente muchos no lo hacen eso podría ser más difícil de lo que pensamos en el futuro podríamos encontrarnos en una situación donde los sistemas de ia estén arraigados a toda la economía y a la vida de las personas muchas personas podrían depender de los sistemas de ia y sería difícil convencerlas de

que conviene apagar un sistema tan extendido también existe el riesgo de una carrera armamentista militar cuando se trata del desarrollo de sistemas autónomos de ia muchas grandes naciones podrían acumular grandes arsenales de armas autónomas y si algo sale mal podría resultar en un conflicto repentino que borre gran parte del mundo similar al caso de las armas nucleares en el peor de los casos grandes arsenales de armas autónomas de pronto podrían causar la muerte de muchas personas por incidentes menores es probable que en los próximos años muchos abusos involucren a las personas Se podrían usar sistemas

de ia muy persuasivos para convencer a las personas de hacer cosas que normalmente no harían esto podría implicar extorsión o delitos cibernéticos u otros métodos para obligar a las personas a trabajar desafortunadamente muchas de las técnicas actuales para manipular a otros para hacer el mal también podrían ser utilizados por la ia como la extorsión s lo que también es importante el hombre convierte al lobo terrible en un perro amable el ser humano Tiene un gran cerebro tecnologías y aliados naturales ahora estamos aquí qué viene después nosotros los humanos homos Sapiens obtenemos nuevos cerebros cerebros adicionales

el cerebro original más cerebros en el ciberespacio además afortunadamente tenemos nuevos socios amigos de ia robots Y así sucesivamente incluso perros robots lo que más me preocupa en todo este escenario Es que la tecnología de ia No necesariamente tiene que ser una herramienta para el capitalismo global pero en realidad lo es porque así es como se desarrolla y así naturalmente repetiremos todas las cosas que ya hemos hecho en términos de construcción de imperios explotación de personas y extracción de recursos naturales todas estas cosas porque la Inteligencia artificial es Solo otra forma de explotación no solo

deberíamos considerar que los humanos son ineficientes impredecibles o poco confiables sino encontrar belleza o valor en que somos impredecibles o poco confiables como la mayoría de las nuevas tecnologías Es probable que las personas se vean afectadas manera diferente por ejemplo una gran parte del sur global no tuvo tanta voz en el diseño y control de la ia pero al mismo tiempo algunos de estos riesgos también son globales cuando hablamos de riesgos de desastres podrían afectar literalmente a todos Si todos mueren todos son una especie de partes interesadas todos son potencialmente [Música] víctimas sigues planeando continuar

solo investigando sé que se trataba de una tesis doctoral estoy un poco inseguro sobre mi futuro profesional también hay que tener en cuenta el desarrollo de la aa Podría tener sentido ganar dinero de otra manera el salario inicial promedio en el campo de la ia es de 900,000 estadounidenses eso es mucho la gente en la industria tiene muchos recursos y afortunadamente todos los principales desarrolladores de ia también están contratando expertos en seguridad en un mundo razonable donde las personas se aseguran de que las nuevas tecnologías no sean peligrosas necesariamente debe haber precauciones de seguridad incluso

con un riesgo mínimo parece Sensato minimizarlo aún más para brindar más seguridad a las personas el uso Pacífico y el uso militar están muy cerca uno del otro estoy cuidadosamente Cómo lidiar con esto cuando nací no había sistemas de ia ni computadoras pero hoy en día los jóvenes comienzan sus vidas con ia y robots las tecnologías de Inteligencia artificial los ayudarán en sus procesos de crecimiento no anticipamos el rápido avance de la ia podría haber cambios de paradigma aú más salvajes pero supongamos que David venciera a todavía tenemos una oportunidad la gran mayoría de los

investigadores de ia se centran en desarrollar sistemas seguros y útiles que estén alineados con los valores y objetivos humanos Aunque es posible que la ia alcance la superinteligencia y represente una amenaza existencial para la humanidad muchos expertos consideran que esto es altamente improbable al menos en el futuro cercano [Música] [Música]