V. Completa. Una clase magistral del pionero de la inteligencia artificial. Jürgen Schmidhuber

Em dic Jürgen i fa 50 anys, als anys 70, volia ser físic, com el meu heroi, Einstein, possiblement el científic més famós de tots. Volia resoldre els misteris de l'univers. Però després, amb els anys, quan era adolescent, em vaig adonar que possiblement hi havia una cosa més important i significativa que podia fer.

O sigui, crear un científic artificial que aprengués a ser molt més intel·ligent que jo. En aquella època, em vaig adonar que no era tan llest, però sí prou per construir alguna cosa que aprengués a ser més intel·ligent que jo: un científic artificial que sabés resoldre tots els problemes que jo mateix no podia resoldre. Així, jo em podria jubilar i aquest científic artificial podia resoldre els misteris de l'univers.

Li vaig explicar tot això a la meva mare, als anys 70, i em va dir que estava boig. Als anys 80, quan estudiava ciències de la computació per aconseguir tot això, vaig explicar el mateix als meus companys i també em van dir que estava boig. "És impossible construir al llarg de la teva vida una intel·ligència artificial que sigui més intel·ligent que un ésser humà".

Això em van dir. Després, el 1987, vaig començar a publicar articles sobre això i, a principis dels 90, ja hi havia un munt d'articles interessants sobre les xarxes neuronals artificials, que són les precursores del que ara anomenem intel·ligència artificial. La majoria de les IA actuals es basen en aquestes xarxes neuronals artificials.

En aquella època, teníem diverses invencions boniques, però no interessaven a ningú. De fet, en aquesta època, a principis dels 90, vaig fer una conferència on vaig parlar sobre els nostres recents èxits al camp de la intel·ligència artificial, però a ningú li interessava el tema, excepte a una única persona en aquesta conferència, una jove. Li vaig dir: "Senyoreta, em fa molta vergonya, però li faré la xerrada només a vostè".

I em va dir: "D'acord, però afanyi's perquè soc la següent ponent". Vaja, que no li interessava a ningú en aquella època. No obstant això, els mateixos algoritmes vells que vam publicar llavors són presents avui dia als vostres mòbils.

La IA per al reconeixement de veu, la traducció i tot això està basada en el que vam fer nosaltres en aquell moment. Com és possible això? Per què no va funcionar llavors i per què funciona ara?

Perquè cada cinc anys, la informàtica es torna 10 vegades més barata. En altres paraules, 30 anys equivalen a un salt qualitatiu. Per això ara podem programar un milió de vegades més pel mateix preu d'aquell moment, quan vaig publicar aquests articles.

Ara, tenim coses com ChatGPT. I la "G", la "P" i la "T" de ChatGPT venen del que vam fer nosaltres allà per 1991. Aleshores, no es podia fer gaire, però avui tenim 10 milions de vegades més informàtica pel mateix preu i ara es poden fer un munt de coses boniques.

I el millor és que encara no hem vist res perquè en els pròxims 30 anys, si continuem a aquest ritme, i fa pinta que continuarem així, aconseguirem un altre salt qualitatiu. I tot el que avui ens sembla impressionant semblarà ridícul d'aquí a 30 anys. La gent mirarà enrere i dirà: "Mira, se sorprenien amb els models extensos de llenguatge i amb ChatGPT".

Els farà gràcia que érem ingenus. És una evolució increïble que anirem veient i que és una continuació de l'evolució anterior que s'ha desenvolupat durant dècades i ha passat desapercebuda. Tot canviarà.

Ara, són els mateixos paios de sempre, com els meus companys que van arrufar les celles davant les meves prediccions en aquella època. Ara, ja no se'n riuen i alguns fins i tot han canviat de parer i han dit que la IAG, intel·ligència artificial general, arribarà aviat, a causa de ChatGPT i models extensos de llenguatge similars. Però no es compara en res amb el que veurem.

Tot això ja està transformant la civilització, però no hi haurà cap aspecte de la civilització en les pròximes dècades que no es vegi profundament influenciat per això. Cal destacar que no existeixen només les IA que ens serveixen d'eina i imiten cegament el que nosaltres els hem ensenyat. Hi ha altres IA, com les que he tingut jo al laboratori durant dècades, que es fixen els seus propis objectius, com si fossin petits científics artificials o científics en general.

Són com nadons. Els nadons com aprenen? No aprenen descarregant dades de Facebook.

No. Aprenen fent els seus propis experiments i fixant-ne els objectius. Ells mateixos es fixen uns objectius i pensen: "A veure què passa si faig això i allò".

I mitjançant els experiments que s'inventen, descobreixen i aprenen com funciona el món i com ser més resolutius davant del món. Molts d'aquests experiments els inventen ells. Aprenen més aviat poc dels seus pares, mentre que de les seves pròpies experiències científiques aprenen moltíssim.

Ara, tenim xarxes neuronals artificials que fan el mateix i, al meu entendre, seran les més interessants. Aquestes IA que no només imiten cegament els humans, sinó que es fixen els seus objectius. Si no els donem la llibertat de fixar-se elles mateixes uns objectius, no seran tan intel·ligents com les altres IA que sí que gaudeixen d'aquesta llibertat.

Aleshores, aquestes IA autònomes resoldran molts problemes que concerneixen la humanitat, però hi haurà un pas següent que anirà més enllà. Les IA autònomes, els científics artificials, arribaran al lloc on la majoria dels recursos físics construiran altres IA fins i tot més grans. I no em refereixo a la nostra petitíssima biosfera, sinó a l'espai exterior, on es troba gairebé tota la matèria i energia necessàries per construir més robots, IA, infraestructura, fàbriques de robots autoreplicants i tot això.

Per tant, el futur pròxim continuarà girant al voltant de l'ésser humà, però a llarg termini, evolucionarà de tal manera que l'ésser humà ja no tindrà el control perquè les IA s'estendran des de la biosfera, pel sistema solar i la galàxia, fins a la resta de l'univers observable. Portarà molt de temps a causa de la velocitat de la llum. L'univers és tan gran que portarà el seu temps colonitzar-lo completament.

Però és el que passarà. Per tant, el que estem veient ara no és només una altra revolució industrial. És una cosa que anirà més enllà de la civilització i la humanitat tal com la coneixem.

Es podria comparar amb el que va passar fa 3,5 mil milions d'anys quan va començar la vida a la terra, quan la química es va convertir en biologia. Una cosa semblant i immensa està passant ara i és un privilegi haver estat testimoni dels seus començaments i haver-hi contribuït en certa manera. Teniu alguna pregunta?

Hola, Jürgen. Em dic Octavio. L'Elon Musk va dir que ho has inventat tot.

Has fet una contribució tremenda a la intel·ligència artificial. ¿Podries parlar-nos una mica més sobre aquesta contribució i les aplicacions actuals? Hi ha moltes aplicacions d'aquestes IA que hem desenvolupat.

Però abans d'entrar-hi, deixa'm explicar primer del que va la IA moderna. En realitat, va de xarxes neuronals artificials, que són una mica com el que tenim al cervell. Estan basades en el cervell humà.

El cervell humà té uns cent mil milions de petits processadors que es diuen neurones. Cada neurona està connectada a 10 mil neurones més de mitjana. Algunes són neurones d'entrada.

Són com una càmera, uns ulls, que capten centenars de milions de píxels per mil·lisegon. Són números petits. Penseu en els números del zero a l'u.

I hi ha altres neurones d'entrada que són com un micròfon, unes orelles o un sensor tàctil i estan connectades al cervell mitjançant cables. Algunes d'aquestes neurones són neurones de sortida que s'activen quan penses o mous els músculs de la mà o la cara quan parles. La teva vida s'activa quan reps tot aquest flux de dades i els tradueixes en accions que condueixen a l'èxit, on l'èxit equival a menjar tres cops al dia, però per això has de guanyar-te la vida, i per això has d'aprendre com funciona el món, aconseguir una feina, anar al supermercat, comprar menjar i coses així molt complexes.

Són coses molt complexes que els nens triguen 20 anys a aprendre. Ara bé, les xarxes neuronals artificials són ara similars perquè també tenen aquestes connexions i cada connexió té una petita força. Cada connexió té una força que diu: "¿Quant influirà aquesta neurona d'aquí en aquesta neurona d'allà a la següent etapa?

". Al principi, quan som nadons, totes aquestes connexions semblen aleatòries, però anem aprenent i algunes es reforcen i d'altres es debiliten. Així, el cervell acaba aprenent a fer tota mena de coses que abans no sabia fer, com conduir un cotxe, reconèixer veus o traduir d'una llengua a una altra.

Doncs el mateix passa amb les xarxes neuronals artificials, que implementen aquests principis. Aleshores, el que vam fer va ser crear diverses menes de xarxes neuronals artificials que fossin millors que les anteriors per aprendre a partir de seqüències llargues, com quan llegeixes un text llarg i l'has de classificar. Per classificar tot aquest text, has de memoritzar el que ja has après.

Tot això no va funcionar als anys 80, però després vam trobar la forma de comprimir enormement les dades d'entrada mitjançant tota mena de trucs que tenen a veure amb la "P" de ChatGPT. La "P" ve de <i> preentrenament</i> . Teníem alguna cosa que ara s'anomena transformador lineal normalitzat, però això és igual, no sou experts, no ve a tomb.

És una mena específica de transformador que es fa servir molt per als models extensos de llenguatge. D'aquí ve la "T" de ChatGPT. I la "G" ve de <i> generatiu</i> .

També es dona a les IA generatives de què tant es parla ara. Aleshores, la nostra contribució als anys 90 va ser bàsicament crear dues xarxes neuronals artificials que es barallessin. D'una banda, teníem una xarxa neuronal que produïa sortides i, de l'altra, teníem una altra xarxa que llegia aquestes sortides i intentava predir-ne les conseqüències.

Aleshores, la segona xarxa es dedicava a predir. Intentava minimitzar els seus propis errors mentre predia les conseqüències de les sortides que donava la primera xarxa. Cada cop predia millor les conseqüències.

Però llavors la primera xarxa es barallava amb la segona perquè volia aprendre a produir sortides reforçant i debilitant els pesos. Volia aprendre a generar pesos que enganyessin la segona xarxa perquè continués produint errors. Bàsicament, maximitzava la mateixa funció de pèrdua que minimitzava la segona xarxa.

Per això es barallaven. I aquest truquet, que vam fer servir el 1990, ara es fa servir molt per crear<i> deepfakes</i> , on les sortides són imatges i les prediccions són qüestionar-se si les imatges són falses o no. Potser heu vist aquestes imatges que semblen extremadament reals, però que no ho són.

Aquestes són algunes coses que vam fer aleshores. Podria parlar llargament. El meu alumne de doctorat, en Sepp Hochreiter, el 1991.

. . Com veieu, tot va passar el 1991.

Havia fet la tesi on no només implementava la idea del preentrenament, sinó que també analitzava les raons per les quals l'aprenentatge profund no funcionava. <i>Aprenentatge profund és un sinònim més</i> de xarxes neuronals profundes que aprenen. L'aprenentatge profund no va funcionar en aquesta època, però al final ha funcionat.

Doncs la tesi d'en Sepp explicava detalladament per què aquest aprenentatge profund no funcionava matemàticament i, a més, oferia una solució. Aquesta solució es diu ara connexions residuals. És la base del que avui coneixem com a memòria llarga a curt termini.

És una cosa que té les seves arrels a la tesi del meu exalumne. Més tard, ho vam publicar en una revista el 1997. Però, repeteixo, ningú no va mostrar gran interès fins que els ordinadors ja eren força ràpids, cap al 2010, quan per fi vam guanyar competicions amb altres feines dels meus alumnes, com l'Alex Graves i en Felix Gers.

Després, el 2010, les grans empreses de la conca del Pacífic van veure que podien crear un reconeixement de veu millor que amb els mètodes anteriors i, a partir d'aquí, es va popularitzar. Va tardar un temps en popularitzar-se, però ara ja ho teniu al mòbil. Hola, Jürgen.

Soc l'Andrés. Moltes gràcies per compartir amb nosaltres aquest moment. En algun moment, has comentat que hauríem de construir una intel·ligència artificial que faci de l'univers un lloc molt més feliç.

Pel que fa a això, tens algun exemple inspirador que ens puguis compartir? I, sobretot, ¿quina és la teva esperança més gran respecte a la intel·ligència artificial? Sí.

Abans de parlar sobre tot l'univers. . .

Culpa meva, he parlat abans de l'univers. Però abans d'entrar-hi, parlarem sobre com la IA pot allargar la nostra esperança de vida i fer-nos la vida més fàcil, sana i feliç fins a cert punt. Per exemple, el 2012, fa 12 anys, quan la informàtica era unes 200 o 300 vegades més cara que ara, la IA que feia servir el meu equip va guanyar un concurs de detecció del càncer.

Teníem unes mostres de mama i amb el microscopi podíem veure les cèl·lules, algunes de les quals suposaven un risc. Estaven a la fase mitòtica, que és l'etapa prèvia al càncer, però també hi havia cèl·lules benignes. Normalment, cal un professional mèdic, un històleg, que detecti quines cèl·lules són canceroses i quines no.

Però el nostre sistema va acabar vencent altres sistemes del sector i l'acadèmia. Era una xarxa neuronal d'aprenentatge profund que no sabia res d'histologia, però la vam entrenar amb un munt de dades. Nosaltres tampoc no sabíem res d'histologia, però la vam entrenar i va acabar sent millor que els altres sistemes que competien.

Avui dia, aquest mateix mètode es fa servir en centenars d'aplicacions i no només la detecció del càncer, sinó també en detecció de plaques a les artèries mitjançant tomografies i tota mena d'aplicacions a l'àmbit sanitari. Si busqueu a internet "LSTM", són les sigles en anglès de memòria llarga a curt termini, és del més famós que hem creat i actualment és la IA més citada del segle XX. Si el busqueu a internet juntament amb alguna paraula mèdica, per exemple, "diabetis", busqueu "LSTM diabetis" i us sortiran un munt d'articles que contenen "LSTM" i "diabetis" al títol.

No només al text, sinó també al títol. Això és perquè algú l'ha fet servir per detectar millor i predir millor la diabetis. Hi ha moltes aplicacions per a l'arrítmia, per exemple, tota mena de problemes cardíacs i moltes altres malalties.

Així que m'alegra molt que aquestes xarxes neuronals artificials siguin d'una immensa ajuda a l'àmbit sanitari, augmentin l'esperança de vida de les persones i les ajudin a estar més sanes. I com més dades puguem recollir de persones malaltes, més beneficis hi haurà després. Per exemple, si tinguéssim accés a totes les dades dels hospitals, com el tractament de cada pacient, qui ho ha comprat, qui ho ha pres, sota quines circumstàncies, veure el TAC coronari o el que s'hagin fet.

. . Si tinguéssim accés a totes aquestes dades, veuríem tota mena de correlacions creuades entre els tractaments que ara es desconeixen.

Potser un home que es pren una medicació i cinc anys després se'n comença a prendre una altra, probablement al cap de dos anys es mori d'un infart o una cosa així, com passa en la majoria dels casos. Això es pot veure amb les dades, però actualment el problema més gran és tenir accés a aquestes dades. Els nostres algoritmes poden aprendre a partir d'aquestes dades i és una de les tantíssimes maneres de millorar la sanitat.

En resum, ja només a l'àmbit sanitari hi ha moltíssim futur. Una cosa que també ja ha passat és que la IA ha trencat les barreres lingüístiques entre països. Fa 15 anys, vaig anar a la Xina i vaig haver d'ensenyar-li al taxista una foto del meu hotel perquè sabés on volia anar, perquè no sabia parlar amb ell.

Avui, em pot ensenyar el mòbil i dir-me alguna cosa en mandarí que jo escolti en anglès o alemany, després li contesto al mòbil i així mantenim una conversa. Per tant, no només la comunicació entre les persones s'ha tornat més fàcil, sinó també la comunicació entre els països. I hi ha molts altres exemples seguint la línia d'objectius de desenvolupament sostenible, on la IA es fa servir per millorar el món en molts sentits.

Aquesta és la meva esperança a curt termini, però a llarg termini és una cosa totalment diferent perquè estaríem parlant del futur de l'univers, que s'expandirà i farà que el cosmos sencer sigui intel·ligent. Però això portarà diverses desenes de milers de milions d'anys perquè la velocitat de la llum és molt lenta. Hola, Jürgen.

Estic encantada de ser aquí. Soc la Isabel. M'agradaria que m'expliquessis en concret, si us plau, com pot la intel·ligència artificial ajudar a resoldre problemes tan grans com ara el canvi climàtic, la sostenibilitat o l'equitat.

Sí. Gràcies per la pregunta, Isabel. La resposta fàcil és que, si agafes un dels algoritmes que hem desenvolupat, per exemple, LSTM, que és potser el més famós, i ho combines amb uns objectius de desenvolupament sostenible.

. . L'ONU té aquesta llista amb 17 objectius de desenvolupament sostenible: objectiu 1, objectiu 2.

. . objectiu 17.

Si agafes un objectiu i busques articles a Google Scholar sobre com s'usa la nostra IA per assolir aquests objectius, et sortiran un munt de resultats. Per exemple, les nostres tècniques es fan servir per predir sequeres, s'usen imatges per satèl·lit per predir les collites i com es veuran afectades pel temps, o per predir l'èxit de la pesca a certes zones del món, o predir quanta gent cremarà part de l'Amazònia. Tot això a partir de drons i imatges per satèl·lit.

També podeu predir la qualitat de l'aire. Molta gent de tot el món pateix per la pèssima qualitat de l'aire, així que pots monitoritzar-lo i registrar-lo per trobar solucions que millorin la qualitat de l'aire. O moltes persones també parlen de l'escalfament global.

Hi ha moltes idees sobre com reduir-lo, potser no parar-lo, però almenys reduir-lo. Un projecte en què estic ficat va d'extreure diòxid de carboni de l'aire. Per exemple, quan cremem alguna cosa, emetem diòxid de carboni a l'atmosfera i creem gasos d'efecte hivernacle que augmenten la temperatura del planeta, afectant milions de persones.

Un dels objectius és absorbir-lo mitjançant certs materials, catalitzadors i tota mena de mecanismes intel·ligents, com les MOF o estructures metal·lorgàniques. Després, fas servir la IA com si fos un químic artificial. Com ho fas això?

Primer, l'entrenes fins que sigui experta en química a còpia de fer molts experiments, on diverses substàncies interaccionin entre si sota certes pressions i temperatures amb diversos catalitzadors. Aquestes seran les entrades que vegi la xarxa neuronal. Després, es dona la reacció i en surt alguna cosa.

Així, aprèn a predir el que passarà, quines substàncies sortiran, les seves propietats. . .

A partir de les dades d'entrenament, aprèn a ser com un químic intuïtiu i pot predir els efectes i les reaccions que mai no ha vist. Aleshores, pots agafar aquesta xarxa neuronal artificial que ha après a ser un químic, fer-la treballar al revés i així, crees. .

. Imagina't que li dius: "Vull una substància de sortida que sigui el doble d'efectiva que la millor que he vist mai per extreure el diòxid de carboni de l'aire". Com canvio l'experiment?

¿Com canvio les substàncies d'entrada, les temperatures, les pressions i el catalitzador per aconseguir això? Aleshores, et dona un suggeriment. Ara bé, o la xarxa ja sabia molt de química a partir dels exemples d'entrenament i t'ha fet un bon suggeriment que funciona i estàs satisfet, o no és un bon suggeriment perquè, si la proves a la vida real, no funciona com havia predit.

Però en aquest cas, teniu un altre exemple d'entrenament que pots donar-li al químic artificial perquè millori. I així successivament. Això ja es fa servir en tota mena d'aplicacions químiques i nosaltres fem servir el mateix enfocament per millorar el catalitzador i extreure diòxid de carboni de l'aire.

S'anomena captura directa de l'aire. Aleshores, hi ha moltes aplicacions que estan totalment alineades amb aquests 17 objectius de desenvolupament sostenible que he esmentat abans i els abasten tots. Hola, Jürgen.

Soc en Diego i tinc 12 anys. Volia saber com creus que la intel·ligència artificial afectarà la feina en els pròxims anys i què em recomanaries estudiar quan sigui gran. És una pregunta excel·lent, Diego.

El que està anant bé a la IA és el que hi ha darrere de la pantalla. Els treballs d'oficina ara es poden facilitar enormement mitjançant IA. Per exemple, podeu dir a la IA que us faci un resum de 10 documents i sortirà força bé.

El que funciona bé és la IA que hi ha darrere la pantalla. El que no funciona per res és la IA al món físic, amb robots de veritat i màquines que alteren el món. Durant gairebé 30 anys, hi ha hagut unes IA que juguen als escacs millor que qualsevol persona.

I durant uns anys, hi ha hagut altres IA que juguen a videojocs igual de bé que una persona. Però aquestes són les IA que hi ha darrere la pantalla. No hi ha cap robot impulsat per IA que sàpiga fer amb la pilota el que un nen de 12 anys, perquè al món físic fem servir el cos, les mans, els peus, per anar del punt A al punt B, manipular objectes, fer coses i construir coses.

Tot això a nosaltres ens sembla fàcil, però és molt complicat per als robots d'ara. Tot el que és tangible és molt més difícil per a ells. Potser ja saps quines opcions tens per al teu futur.

A quines escoles vols anar? Potser vols fer el que és típic i intentar entrar en una universitat on aprendràs un munt de coses que ChatGPT segurament ja fa millor que molts estudiants. Hauríem d'aprendre a fer més coses que a la IA li resulta molt complicat, o sigui, fer coses amb les mans.

Crec que això es veurà reflectit als sous dels treballadors d'artesania, com els electricistes, per exemple. No hi ha cap robot que pugui anar a casa teva a reparar-te la instal·lació elèctrica. Mentre això continuï així i la IA no funcioni bé al món físic, intenta centrar-te una mica en coses per a les les quals hagis de fer servir les mans, el cos, la capacitat de manipulació i tot això.

No descuidis aquesta part. També hauràs d'aprendre la resta. Hauràs d'aprendre a escriure resums, fer dibuixos i aprendre les bases de les matemàtiques i a física.

És molt important aprendre això perquè el món es basa en matemàtiques i física. El món tal com el coneixem es basa en això. Però no descuidis les habilitats físiques i intenta anar a una escola on no es passin pel folre les classes d'Educació Física.

Cap robot té un millor mecanisme que aquest. Tenim cinc dits que estan plens de milions de sensors. Si volgués construir una mà artificial com aquesta, ni tan sols sabria on posar els cables.

És al·lucinant com n'és de miraculosa la mà. Res de la indústria tecnològica s'hi pot comparar. Fins i tot es repara sola.

Si et talles, sana sola. És totalment al·lucinant. No obstant això, a la llarga, tot el que poden fer únicament els humans, el que podem fer ara, també ho aprendran els robots.

Encara no, serà a la següent etapa, però acabarà passant. Aleshores, què ens queda als humans? Crec que el que ens queda és el que és específicament humà, és a dir, interactuar els uns amb els altres.

Mirem els robots industrials. No són gaire llestos, però es van crear fa uns 40 anys i, en aquella època, molts van dir que ens prendrien la feina. Era veritat fins a cert punt perquè en aquella època, a les fàbriques d'automòbils, hi havia centenars de treballadors que muntaven peces.

I uns anys més tard, unes dècades més o menys, en aquestes mateixes fàbriques hi havia centenars de robots i només tres paios vigilant de tant en tant el que feien els robots. No obstant això, als països on hi havia tants robots com aquests, la taxa d'atur va baixar perquè en aquests mateixos països es van crear altres llocs de treball que ningú no es veia venir. Fa 40 anys, ningú no s'hauria esperat que tants xavals guanyessin diners fent videoblogs a YouTube, on interactuaven amb les persones de manera diferent.

La majoria d'aquestes feines són un luxe. Però, de totes maneres, jo diria que gairebé tots els treballs són un luxe perquè molts no són rellevants per a la nostra supervivència. Per això n'hi ha molt pocs, com l'agricultura que ens dona menjar o construir cases perquè no ens plogui a sobre i dormir calentets o fresquets a la nit.

Tot això ho fa menys del 10 % de la població. A banda, hi ha molts altres treballs de luxe, com el periodisme, que sí, és important i es guanya més diners que a la construcció, però no és crucial per a la supervivència de la nostra espècie. El que ens va molt bé és inventar-nos llocs de treball cada dos per tres, que se centren a interactuar amb altres persones de maneres diferents.

No se centren en els robots i tot això. No. Se centren en les persones i crec que continuarem així.

No ens semblarà malament quan descobrim que existeixen éssers més intel·ligents a l'univers, perquè ells també aniran a la seva, que serà inventar tota mena de treballs de luxe que no són essencials, però sí divertits. Hola, Jürgen. Un plaer compartir aquesta estona amb tu.

Em dic David. Algunes persones tenen la por que la intel·ligència artificial adquireixi consciència de si mateixa i perdem el control d'aquesta. Tens algun missatge tranquil·litzador per a elles?

O, al contrari, tenim alguna cosa a témer? No tinc un missatge tranquil·litzador com a tal, però no crec que hi hagi gaire cosa de què preocupar-se. Fa un parell d'anys, vaig fer una entrevista on vaig dir que havíem tingut màquines senzilles i conscients durant dècades, des del 1991.

L'entrevista es titulava <i>Jürgen Schmidhuber afirma</i> <i>que les màquines tenen consciència des del 1991</i> o alguna cosa així. Us explicaré com es construeix una màquina que és conscient de si mateixa, que ja existeixen. És molt fàcil.

Primer, tens la xarxa neuronal que rep entrades, vídeos o el que sigui, realitza accions i interactua amb el món, canviant-lo. Mitjançant aquests canvis, el vídeo que rep després també canvia i, així, aprèn a predir els canvis. D'aquesta manera construeix un model del món.

Així és com ho vaig batejar el 1990, "model del món". Doncs aquest model del món és la segona xarxa neuronal que aprèn a predir les conseqüències de les accions de la primera xarxa. La primera xarxa vol maximitzar les recompenses i hi ha unes entrades especials que s'anomenen recompenses.

Per exemple, has de menjar tres cops al dia, si no, tindràs gana, la qual cosa serà una recompensa negativa que emetran les neurones de la fam. Cal evitar això maximitzant les recompenses i minimitzant el dolor. Aleshores, hi ha els senyals d'entrada especials que contenen molt significat perquè cal maximitzar-los o minimitzar-los.

I és clar, quan construïm un robot o un agent artificial, li donem sensors de dolor i recompensa, perquè al principi són tan maldestres que fan un munt d'experiments i aprenen el que els convé o el que no. Si xoca amb un obstacle, es podria fer malbé. Per això li donem sensors de dolor.

No li diem exactament com evitar aquest dolor, sinó que ho ha d'aprendre per si mateix mitjançant un algoritme d'aprenentatge. Només li diem: "Aquest és l'objectiu. Dedica't la resta de la teva vida a maximitzar la suma de tots els senyals positius i minimitzar la suma de tots els senyals negatius".

És molt fàcil fer tot això en un programa informàtic. Després, les conseqüències del programa senzill possiblement seran enormes, perquè ara l'agent intenta fer qualsevol cosa i, amb el temps, aprèn quines coses evitar i quines li convenen. Després, cada cop que li queda poca bateria i rep senyals de gana, també va aprenent a anar al lloc de càrrega, a seure i carregar-se per rebre senyals de sacietat, és a dir, nombres positius que van pujant.

I tot això sense xocar amb obstacles de camí al lloc de càrrega, en aquest cas rebria senyals de dolor. Però va aprenent a evitar aquests obstacles perquè aprèn a fer servir els vídeos que rep i els tradueix en accions, com rodejar l'obstacle. Això, per una banda.

També tenim un conjunt d'emocions simples que són evitar el dolor i maximitzar la satisfacció. D'altra banda, tens la segona xarxa que únicament prediu les conseqüències de les accions de la primera. Aquesta segona xarxa és com si fos una simulació del món més o menys.

Aprèn a predir què passarà si fa això i allò. Mentrestant, la primera xarxa utilitza la segona per anticipar-se, planificar el futur. Com funciona això?

Doncs fa servir aquesta segona simulació del món, que és una mica imperfecta, per imaginar diversos experiments amb una sèrie d'accions. "Si faig tal, xocaré amb l'obstacle i no arribaré al lloc de càrrega". Aleshores veu que aquesta sèrie d'accions no és bona.

Després, ho intenta amb una altra i diu: "Si executo aquesta sèrie d'accions, rodejaré l'obstacle, arribaré al lloc de càrrega i tot perfecte". Aleshores, triarà aquesta sèrie d'accions. Fes servir un model del món per planificar.

Però què passa en aquest model? Tot el que passa sovint a l'entorn es representa a les neurones. Això estimula la conducta dels mecanismes d'aprenentatge o les xarxes neuronals.

Per tant, en un entorn amb diverses categories, hi haurà neurones que representin aquestes categories. I en un entorn amb moltes cares, hi haurà neurones que reaccionin davant de certes representacions de cares. Si apareix una cara nova, només cal codificar la desviació del model de cara que ja tens.

Així que tot això serveix perquè el sistema comprimeixi les experiències en unes poques neurones. Ara bé, és important recordar que hi ha una cosa que sempre és present a la vida de l'agent quan aquest està actiu, que és l'agent en si mateix. O sigui, com a resultat d'aquests algoritmes d'aprenentatge automàtic estàndard, obtindrem representacions de l'interior del mateix agent, així com dels seus actuadors, dits, braços, cames o el que tingui, la bateria, les prediccions sobre quant trigarà a carregar-se per complet.

. . Totes aquestes prediccions formen part del model del món que alhora inclou un model del mateix agent.

Ara, quan el controlador utilitza el model del món per planificar i activa aquestes representacions internes, que descriuen l'agent en si, està pensant en si mateix. És conscient. Aleshores, prendre consciència de si mateix, en el context on vol assolir uns objectius, és una cosa natural que ha existit durant dècades.

També hem vist altres aspectes de la presa de consciència durant dècades. Per tant, tot això que diu la gent sobre prendre consciència de si mateix com si fos una cosa estranya és un concepte que ja existia en els models antics d'aprenentatge automàtic. Les IA antigues que interactuaven amb el món usaven models del món per planificar i en aquests models ja hi havia representacions de l'agent en si, que era conscient de si mateix cada cop que s'activava.

Hola, Jürgen. Soc l'Helena. Moltes persones, molts experts estan dient que d'aquí a molt poc la intel·ligència artificial superarà la humana en moltíssims aspectes, no només en alguns, no?

La meva pregunta és: quan creus que això pot passar? I, sobretot, quines conseqüències podria tenir per a nosaltres? Ja ha passat en moltíssims camps.

El 1997, per exemple, va ser la primera vegada que el millor jugador d'escacs del món va perdre davant d'una màquina. En aquella època, calia un ordinador molt gran, però avui qualsevol portàtil nan i trivial pot jugar a escacs millor que qualsevol persona d'aquest planeta. Als escacs, hem vist rendiments sobrehumans des de fa molt de temps.

Si mirem encara més enrere, per multiplicar dos nombres ja hi havia calculadores i també és un rendiment sobrehumà perquè cap persona no pot multiplicar tan ràpid com una calculadora. Ara cada cop tenim més coses per l'estil. Estem començant a veure aplicacions més importants, com a la sanitat, per exemple, on els metges artificials poden detectar certes malalties millor que un professional humà.

El 2011, vaig col·laborar amb el brillant investigador postdoctoral romanès, en Dan Ciresan, i vam veure per primer cop un rendiment sobrehumà en un camp important per als vehicles autònoms, que era el reconeixement de senyals de trànsit. Era la primera vegada que un sistema d'aprenentatge profund guanyava un concurs de reconeixement de patrons i això que al principi no sabia res, però a base de molts exemples va aprendre a reconèixer els senyals de trànsit. Això va ser el 2011, és a dir, fa gairebé 15 anys.

Aleshores, la informàtica era gairebé mil vegades més cara que ara, cosa que significa que avui podem programar gairebé mil vegades més pel mateix preu. Per això el rendiment actual és molt superior a moltes aplicacions. La gran pregunta és: ¿quan tindrem una IA sobrehumana no només en aquest joc en concret, els escacs, i aquesta aplicació específica del reconeixement de patrons, sinó també en pràcticament tot?

Però, bé, jo no em preocuparia per això, perquè podria tardar mesos o fins i tot anys. Hola, Jürgen. Em dic Esther i estic una mica preocupada perquè de vegades la intel·ligència artificial s'utilitza amb fins maliciosos i em preguntava com podríem prevenir aquestes situacions i quins són els principals desafiaments ètics als que ens enfrontem.

Que bé. És una pregunta molt important. Doncs jo et diria que és una cosa que no podem prevenir, perquè no va amb nosaltres.

Només hi ha vuit mil milions d'opinions sobre què està bé i algunes d'aquestes persones es barallen entre elles. En aquest mateix instant, s'està lliurant una guerra. Rússia està atacant Ucraïna i hi ha més guerres.

Tots dos bàndols usen drons equipats amb intel·ligència artificial per tenir més avantatge, matar l'enemic i utilitzar reconeixement de patrons per detectar tancs camuflats i coses així que probablement una persona no veuria de seguida. Cada dia, usen la IA de mil maneres diferents i ningú no pot aturar-los perquè per a ells és qüestió de vida o mort. És cert que hi ha molts estudis sobre la IA en armamentística.

Tot i això, cap arma dotada d'IA que es veu avui dia és tan destructiva com altres coses que ens haurien de preocupar. Em preocupa molt més la tecnologia de fa 60 anys en termes de bombes d'hidrogen instal·lades sobre míssils que podrien destruir una ciutat sencera en qüestió de mil·lisegons. Una ciutat amb deu milions d'habitants.

Sí, avui tenim drons que poden detectar una sola cara entre la multitud i és preocupant en molts sentits. Però més preocupant és que certes persones tinguin accés a bombes nuclears i en dues hores poden aniquilar gairebé tota la civilització tal com la coneixem sense necessitat de cap IA. No veig cap manera d'aturar-ho perquè les grans potències diran que, si no ho fan ells, ho faran els altres i els portaran avantatge.

Aleshores no podem aturar aquesta carrera armamentista. D'altra banda, el 5 % dels estudis sobre la IA s'enfoquen en la millora armamentística, però l'altre 95 % se centra en com fer-nos la vida més fàcil perquè les grans empreses que investiguen la IA o, almenys, les aplicacions de la IA, encara que potser no són uns estudis tan fonamentals, aquestes empreses volen vendre coses. I vosaltres comprareu només el que considereu que us convé.

Aleshores, estan competint entre elles perquè cadascuna vol crear un producte millor per a vosaltres perquè els hi compreu. Per això la gent té un gran biaix cap al que és la IA bona. Però no és més que un biaix comercial perquè volen vendre coses.

Hola, Jürgen. Com estàs? Soc la Marta.

Tu has estat una figura clau al camp de l'aprenentatge profund. Si haguessis d'apostar per la següent gran revolució en intel·ligència artificial, en quina àrea creus que es produirà? Crec que estarà relacionat amb una cosa a la qual li tinc molt afecte, que és una cosa anomenada metaaprenentatge.

Si mirem els algoritmes d'aprenentatge actuals, veurem que els han dissenyat persones. O sigui, una persona va pensar com crear un mètode perquè els pesos de les connexions entre les neurones fossin més forts o febles. Hi ha mètodes millors que altres, aleshores hi ha certa competitivitat entre els científics.

Però quan trobes un mètode efectiu que molta gent comença a fer servir, t'hi estanques, ja no es millora. Fa gairebé 40 anys, no tant, el 1987, vaig publicar la meva tesi. Va ser la meva primera publicació en què intentava superar aquest límit mitjançant un sistema d'aprenentatge que no aprengués només això i allò i es quedés tan tranquil, sinó que també aprengués a mirar i investigar el seu propi algoritme d'aprenentatge, modificar-lo i millorar-lo perquè fos un millor algoritme d'aprenentatge.

D'aquesta manera, no s'estancava en aquest primer disseny humà per millorar-se, sinó que a més buscaria una manera de millorar les maneres que tenia de millorar-se. En resum, estaria tota l'estona buscant una manera de millorar la manera de millorar-se i així successivament. No tindria cap límit a part de la computabilitat i la física.

Això és el metaaprenentatge. Com ja us he explicat, a ningú no li interessava, però ara és un tema recurrent i molts hi treballen. També hi ha bons exemples en els darrers anys, on una xarxa neuronal aprèn a implementar un d'aquests algoritmes famosos.

Un es diu propagació cap enrere dels errors. És igual si no us sona el nom. És un mètode famós d'enfortir o debilitar els pesos i, després, la xarxa aprèn a implementar l'algoritme d'aprenentatge de manera que millori tot el que passa per la xarxa.

Així, aprèn a crear un millor algoritme d'aprenentatge. Imagineu-vos l'abast. Ja no estaràs estancat en els algoritmes d'aprenentatge dissenyats per un humà i obtindràs millors sistemes que es van automillorant sense cap límit.

Crec que aquest és el futur. Sí. Gràcies, Jürgen.

És un plaer escoltar-te. Em dic Sofía i et vull preguntar més sobre comportaments. Si la intel·ligència artificial aprèn de nosaltres, els humans, aprèn també sobre els nostres biaixos, sobre els nostres judicis?

Ens pots compartir un exemple? Sí, la IA aprèn del tot a partir de les dades que la gent amb biaixos li proporciona. Hi ha molta crítica cap a la IA precisament per això.

Per exemple, hi ha IA que detecten el càncer de pell després d'aprendre a separar les taques inofensives de la pell de les canceroses, que es diuen melanoma, crec. La primera vegada que van entrenar una IA va ser només amb mostres de pell clara i, després, va ser un complet fracàs quan van afegir la gent de pell fosca. Aquest és un exemple famós de com entrenar una IA esbiaixada perquè aprèn només de les dades que rep i no generalitza quan veu coses que desconeix o no coneix del tot.

La solució evidentment és eliminar aquest biaix i proporcionar a la IA dades d'entrenament de totes les races humanes i els colors de pell. I és el que es fa, és clar. Els metges no són ximples i aprenen a reduir aquest biaix.

A més, el biaix que prové de tenir només dades d'homes i no els suficients de dones, o viceversa, evidentment cal corregir-ho. En teoria, és fàcil corregir-ho perquè només cal recollir més dades del grup minoritari. Així, el biaix desapareixerà.

En general, tots estem esbiaixats per les coses que hem vist de petits. Algú que s'ha criat a Espanya té idees molt diferents sobre com funciona el món, però pensem després en un esquimal. L'entorn on s'ha criat és totalment diferent, per això aprenen a distingir entre centenars de menes de neu.

Veuen petits patrons a la neu que els diu quina mena de neu és. I si et cries al desert, segurament mai no has vist la neu. Per tant, fins i tot els humans estan enormement esbiaixats per les dades d'entrenament que han rebut.

Passa el mateix amb la IA. Hola, Jürgen. Em dic Sergio.

Dins de 20 o 30 anys, ¿et veus confiant en intel·ligència artificial, en un robot per a les teves cures? Doncs jo per descomptat que sí perquè sé que a aquests metges artificials els va millor reconèixer certs patrons que són sospitosos i s'haurien d'estudiar més. Ara mateix, sempre tenim un professional al costat, perquè a les aplicacions mèdiques els programes fan suggeriments als metges i els mostren tot el que han trobat.

Aleshores, el metge diu: "Hauria trobat això i això, però això no". Ve bé que el programa els ho mostri perquè així el metge sap quines altres anàlisis fer al pacient. El que tenim ara és una combinació d'IA i humans perquè a l'àmbit sanitari s'inverteix molt esforç en la regulació i no es permetrà que la IA prengui la batuta així com així.

No. Primer, s'ha de provar i, només si és deu vegades millor que una persona, llavors serà obligatòria. De moment, confio en aquesta combinació d'humans i IA, que possiblement és millor que els humans.

Més endavant, crec que ja no tindrem cap professional al costat per guiar-nos. Igual que els airbags. La IA d'un airbag és molt senzilla.

Té un sensor i, si la pressió sobrepassa certs límits, explota i possiblement et salvi la vida. Però hi havia una època en què no existien els airbags. A Espanya, per exemple, crec que morien unes 20 persones al dia en accidents de cotxe.

Però es van inventar els airbags, els òrgans reguladors ho van examinar i va arribar un moment en què els airbags eren tan efectius que van reduir la taxa de mortalitat uns cinc morts al dia, en comptes de 20. No obstant això, es continua donant el cas que els airbags no funcionen com ho haurien de fer. O sigui, el coixí de seguretat explota, el cotxe continua baixant pel pendent, acabes al riu sense poder sortir del cotxe per culpa de l'airbag i t'ofegues.

Aleshores, en molt pocs casos, els airbags no funcionen com ho haurien de fer. Però la nostra societat funciona amb estadístiques a l'hora d'avaluar maquinària, com els airbags, i així que van veure que hi hauria quatre vegades menys persones mortes al dia a la carretera, llavors va ser quan Espanya va fer obligatoris els airbags. En resum, la societat en general utilitza un enfocament estadístic.

"D'acord, potser hi haurà vegades que aquesta màquina no funcioni, però de mitjana funcionarà tan bé que salvarà moltes vides, així que ho implementarem". El mateix passarà amb la IA a l'àmbit sanitari, els vehicles autònoms i les altres aplicacions. Hola, Jürgen.

Moltes gràcies per la sessió d'avui, és molt inspiradora. T'han anomenat pare de la intel·ligència artificial. Se't relaciona i et diuen precursor de moltes de les tecnologies que estan canviant les nostres vides.

Les tenim a la butxaca i a casa nostra. Però a tu com t'agradaria ser recordat? Com m'agradaria ser recordat?

Per qui? Espero que els meus fills em recordin com un pare decent. Pel que fa a la IA, caldria preguntar-se: "Recordat per qui?

", perquè com ja he esmentat abans, més aviat que tard gairebé tota la intel·ligència ja no estarà a la ment de l'ésser humà. Gairebé tots els records del passat ja no estaran a la ment humana, sinó a la IA i als científics artificials. I em jugo el que vulguis que aquests científics artificials, igual que els humans, tindran un gran interès en com van sorgir d'aquesta cosa rara que anomenem civilització, d'aquest conjunt d'éssers biològics que va començar aquest projecte de civilització fa uns 13 mil anys.

Tretze mil anys és un obrir i tancar els ulls en la història de la humanitat. La història de la humanitat va començar fa 13,8 mil milions d'anys. Ha durat 13,8 mil milions d'anys i, al final, és un període curtíssim.

Un milió d'anys passen així de pressa, igual que la civilització. Si mirem enrere, veurem que el primer agricultor de fa 13 mil anys era gairebé igual que l'home que va desenvolupar la primera IA 13 mil anys després. Si ens parem a pensar una mica, la civilització de la IA del futur que pensi en els seus orígens dirà: "Sí, en un obrir i tancar els ulls la biologia es va convertir en IA, perquè la biologia va crear aquests macroorganismes en forma de ciutats, empreses, infraestructura, eines.

. . Aleshores, les eines es van tornar intel·ligents, fins que van passar de ser eines a ser IA amb els seus propis objectius, es van expandir cap a l'espai i ara gairebé tota la intel·ligència és artificial".

Per tant, tindran molt interès en com van sorgir d'aquesta nostra civilització. Després, suposo que només les especialistes, les IA historiadores, voldran entendre tots els detalls: Com i quan exactament es va publicar això i allò? ¿Com va influir aquesta acceleració del <i> maquinari</i> en el desenvolupament i qui va contribuir a aquesta acceleració?

¿Com es van unir els diferents avenços per formar les primeres IA que mereixen anomenar-se IA? Per tant, crec que només seré una peça més d'aquest trencaclosques que anomenem civilització que, en retrospectiva, en conjunt serà un altre obrir i tancar d'ulls en la història de la humanitat. Hola, Jürgen.

De debò, inspirador. Tinc una pregunta. Si viatgessis en el temps i parlessis amb el Jürgen que va començar la teva carrera professional fa 40, 50 anys i li expliquessis la situació actual, ell estaria decebut o sorprès positivament amb el que ha passat?

Crec que diria: "No m'ho puc creure! És igual al que vaig predir". Aleshores, em vaig fixar l'objectiu de construir al llarg de la meva vida una IA que aprengués a ser més intel·ligent que jo per quan em jubilés.

Encara no hi hem arribat, però tampoc m'he jubilat encara. Aleshores, té bona pinta. Crec que aviat tindrem una IA de veritat i per fi podré jubilar-me.

Sí. Així que anem bé. Tot va segons el previst.