Yann Le Cun : où va l’intelligence artificielle ?

Introduction et accueil

00:02Bonsoir à tous. Cher Yan Lequin, chers Éric Azan, chers étudiantes, chers étudiants, mesdames, messieurs, un grand merci à tous d'être ici ce soir et puis tout spécialement à Yan Lequin d'avoir accepté de faire notre première grande conférence de l'année universitaire 2026-2027 en cette rentrée. Une fois de plus, les places sont parties très vite et je crois que c'est le témoignage de la soif qu'on nos étudiants d'être au contact de ceux qui agissent dans les domaines qui vont structurer leur vie future et à vrai dire structure déjà leur vie et en partie leurs études. C'est le témoignage, je crois, de leur curiosité et puis je pense qu'on verra dans un instant aussi de leur très grand talent.

00:57Alors, cette toute première grande conférence de l'année universitaire amène à Sciencepo un jeune entrepreneur car l'entrepreneuriat est une aventure dans laquelle vous vous êtes engagé cher Ivan Lequin il y a un peu moins d'un an maintenant en lançant l'ami ami pour Advanced Machine Intelligence. Dans ces nouveaux habits d'entrepreneurs, vous déployez en réalité une expertise développée au fil des années qui est unique au monde, construite pendant près de 40 ans d'une carrière éblouissante. Je crois que le mot peut-être utilisé, toujours consacré au même objectif. Repousser sans cesse les limites de la connaissance et du progrès technique et mettre ce progrès au service de l'humanité. à regarder un peu votre biographie, on

01:45se dit que vous avez mené en réalité plusieurs vies. Une vie de scientifique et de chercheur parmi les plus brillants de sa génération dont les travaux ont été salués au niveau international notamment par un prix Turing. Une vie de pionniers également, une vie d'inventeur qui a officié au sein des plus grands groupes mondiaux pour déployer des technologies de pointe. Et puis une vie de professeurs et d'intellectuels également qui n'hésitent jamais à prendre publiquement la parole. sur des domaines de connaissances si particuliers dans lesquels vous êtes encore une fois une des grandes somités mondial et une parole aussi je dois le dire qui se caractérise toujours par sa liberté et son indépendance. Bref, vous associez

02:29l'excellence et la liberté et ceux étudiants qui m'ont déjà entendu parler savent que ces deux concepts me sont chers et caractérisent de mon point de vue l'esprit de ce que nous aimons faire ici à Sciencep. Et puis vous structurez également votre vie entre deux continents, entre l'Europe et les États-Unis, avec le choix de donner à votre entreprise des attache à la fois à Paris et à New York, mais aussi à Montréal et à Singapour. Et là aussi, j'ai envie de dire comme science P, vous avez un pied ici bien enraciné en France, mais la tête, les bras et dans notre cas nos étudiants partout dans le monde. Ces considérations géographiques ne sont évidemment pas neutres et expriment, il me semble, dite, prononcé ici depuis

03:13l'Europe, une interrogation qui est à la fois un espoir, mais aussi parfois un sujet d'angoisse. Quelle est en effet la place pour l'Europe dans un monde de l'IA qui ressemble de plus en plus à une sorte de grand jeu comme les diplomates du 19e siècle appelaient les rivalités coloniales entre le Royaume-Uni et la Russie. Quel est aussi si la Chine et les les États-Unis devaient dominer seul le monde le de l'IA, la place de notre continent ? Si ces seules deux puissances s'imposent, comment éviter le piège de Tucidide numérique d'une course à l'arsenalisation de l'IA et à son usage à des fins destructrices ? Car il y a évidemment une autre question qui a beaucoup occupé le débat public ces derniers temps et je suppose qu'on en

04:01parlera ce soir. Ce sont les enjeux de sécurité que pose le développement exponentiel de l'IA. Vous avez souvent affiché un certain scepticisme face au discours annonçant un risque existentiel de l'intelligence artificielle pour l'humanité. Est-ce que c'est toujours votre conviction aujourd'hui ? Nous en parlerons. Alors que les investissements dans ce domaine n'ont jamais été aussi vertigineux et que certains au sein même des plus grandes entreprises de ce marché sont de plus en plus vocaux sur le sujet. Il y a un deuxième sujet évidemment propre à ce qu'on fait ici à Sciencep, c'est celui de la gouvernance mondiale de l'IA. On gouverne le nucléaire, on gouverne les questions chimiques, on gouverne les questions biologiques, je

04:47le sais comme ancien diplomate. On gouverne les réserves aliotiques, on gouverne l'Antarctique, on gouverne même au terme de la convention de Montégobé les émissions radiophoniques en produites depuis la haute mer et qui pourrait toucher vos côtes, mais on ne gouverne pas ou très peu l'IA et d'ailleurs les autres plateformes digitales. Est-ce bien raisonnable et est-ce que les sujets de souveraineté que cela pose ne doivent pas être examinés ? J'espère que nous aurons l'occasion d'en parler ce soir. Et puis il y a une dernière question plus proche encore pour nous ici à Sciencep enseignant, étudiants et membres de la communauté que nous fourmons, c'est celle de la question de la place de l'IA

05:29dans la formation des générations qui nous succéderont. Car si nous nous focalisons sur les risques les plus spectaculaires et les plus imminents dont nous venons de parler, il y a un risque de plus long terme, plus diffus qui est celui euh du maintien ou du risque de voir décliner nos compétences cognitives. Vous le rappelez souvent et c'est une conviction que je partage, une intelligence artificielle n'a de sens que si elle sert à améliorer la condition humaine et à augmenter nos facultés plutôt que à substituer. Si l'on prend cette conviction au sérieux, quelles conséquences doit-elle avoir sur la façon dont les universités comme la nôtre demain doivent former leurs étudiants ? Comment apprendre à penser,

06:11à raisonner, à décider au côté de l'IA et mais sans lui déluer ce qui reste propre à l'esprit humain ? ScienceP a posé un premier cadre conceptuel en janvier dernier et se dotera dans quelques temps d'un comité exploratoire sur le sujet pour déterminer un horizon d'action commune. Nous l'avons fait non pas en tournant du tout le dos AIA, mais en tentant de comprendre comment développer à la fois l'ambition et l'agit intellectuelle de nos étudiants en partant du principe que l'IA rend le monde non pas plus facile mais en réalité plus exigeant en terme de formation. Toutes ces questions qui me viennent à l'esprit sont quelques-unes évidemment parmi de nombreuses que nous allons évoquer ce soir. Mais avant de rendre la

06:58parole, je voudrais également finir en remerciant Éric Azan qui va se prêter au jeu de la discussion ce soir. D'abord parce qu'il a accepté de coprésider le comité sur l'intelligence artificielle que je viens d'évoquer avec Julie Clin, la doyenne de notre école de droit qui est ici parmi nous dont nous allons comité dont nous allons annoncer la composition définitive dans quelques dans quelques jours et qui se mettra au travail à l'automne après ce que nous avons consacré au changement climatique qui a débouché sur la création de l'école du climat sur les questions de sécurité avec la création d'un nouveau centre de sécurité de déf défense et sur l'Europe dont je viens de recevoir les conclusions il y a

07:41quelques temps et qui préconise l'ouverture d'un campus de science pot à Bruxelles. Je voudrais aussi dire que Éric a été un ami de SciencePa il fait vivre lui aussi un peu la magie de cette institution. On se souvenait tout à l'heure que notre première rencontre avec Anne Lequin était au sortir d'une conférence à 25 30 étudiants qui avait donc en petit groupe eu le bénéfice et le plaisir de discuter avec vous. Je crois que c'est le genre d'expériences assez uniques qui sont propres à cette maison et dont nous nous enorgueillissons bien sûr. Alors, je voudrais à nouveau remercier Éric et Yann Lequin pour la participation ce soir à cette grande conférence. Et puis sans plus tarder et non sans avoir salué

08:26ceux qui nous suivent sur YouTube de chez eux ou depuis nos campus, je voudrais vous souhaiter à toutes et tous une excellente grande conférence. Bonne soirée. [applaudissements]

08:42Alors, merci beaucoup Louis. Effectivement, la dernière fois que Yann est venu à Science Po, c'était pour mon cours que j'ai pompeusement appelé les pirates de l'intelligence artificielle et je me suis dit comme pirate, le mieux c'était d'avoir Yann Lequin pour le 2è ou 3è cours. Alors on verra en discutant un petit peu avec lui que c'est pas tellement un pirate, que c'est plutôt un des un des un des plus grands chercheurs de l'intelligence artificielle. Mais on va on va essayer de creuser tout ça. Merci Louis, merci de ta confiance. Et puis je voudrais dire juste dire deux mots. Pour moi c'est c'est je suis particulièrement heureux de discuter avec Yann d'abord parce que c'est un ami mais aussi parce que c'est probablement

09:19l'un des voir le chercheur qui a le plus marqué l'intelligence artificielle dans les dernières années. On va le voir, on va en discuter. Alors ce qui est très intéressant c'est qu'on va pouvoir discuter avec lui d'absolument tout. On va pouvoir discuter de ses années de formation. Je pense que c'est assez intéressant de la pause ou de pas de la pause. Enfin, vous vous êtes vous avez lu les journaux dans les deux derniers jours. Donc, je pense c'est un sujet intéressant dont on va devoir discuter également, mais aussi de la souveraineté, mais aussi de l'Europe, mais aussi de la France, mais aussi peut-être de ce qui nous attend tous en tant qu'étudiant, ancienne, étudiant, prof et cetera dans ce dans cette

La « pause IA » et ses critiques

09:50intelligence artificielle un petit peu complexe. Merci d'être là Yanne. Et puis je vais commencer par une première question parce que elle brûle les lèvres de tout le monde. Avant de parler un petit peu de ton parcours, je voudrais savoir ce que tu penses de la pause. Pas du bien. Euh les gens qui se font les les avocats de la pause euh sont un peu incohérents dans les opinions qu'ils expriment. Euh donc en particulier Dario Modéi qui est un peu à l'origine de ça, un peu suivi par Samtman Elan Mosque et cetera. Euh c'est en partie pour se draper dans le une espèce de d'enveloppe éthique pour montrer aux gens, vous voyez, on est vraiment responsable. On pourrait juste maximiser le la vitesse du progrès pour

10:39gagner des sous, mais on est tellement responsable que on a décidé de ralentir. Alors, c'est pas forcément très honnête mais ça part d'une illusion de de la part de Dario Medii. Faut se rappeler que en 2019, Dario Medilli qui à l'époque travaillait à Open AI avait dit "On ne va pas distribuer GPT 2 en open source parce que vous comprenez c'est potentiellement très dangereux." Alors à l'époque je m'étais moqué d'eux mais je m'étais vraiment moqué d'eux. J'ai carrément je carrément trollé en fait parce que je trouvais ça ridicule. C'était un énorme complexe de supériorité euh aussi bien de leur modèle que que d'eux-mêmes. 6 mois après, finalement, ils ont décidé de distribuer GPT2 en open source euh et

11:29ensuite quand3 est sorti, ils ne l'ont ils ne l'ont pas sorti en open source non pas pour des raisons de sécurité, bien que il disait que c'était le cas, mais simplement pour préserver leur leur avantage technologique et et commercial. Euh c'est l'époque aussi où Dario Modi a quitté Open AI pour fonder en Tropique parce qu'il pensait que Open AI prenait des libertés un petit peu trop euh rapides sur la distribution de modèle intelligent. Mais ce qu'il faut comprendre, c'est que l'investisseur qui a permis la création d'anthropique euh est une fondation qui s'appelle Open Philanthropie et qui euh en fait appartient à une mouvance intellectuelle de la silicone vallée qui s'appelle effective altruism et dans lequel les

12:19gens qui appartient à cette mouvance, qu'on peut assimiler une espèce de secte religieuse en fait ont très très peur de risque existentiel et se sont mis dans la tête de sauver l'humanité de de ces ses propres bêtises, on peut le dire. Euh c'est essentiellement financé par des gens qui ont énormément d'argent et beaucoup trop de temps libre. des gens comme par exemple Dustin Moskovic qui est un des cfondateurs de Facebook qui a quitté Facebook très tôt euh et qui est devenu de certaines manières paranoïque euh sur ses risques existentiels. Des gens comme Yan Talin qui est un un garçon charmant par ailleurs créateur de Skype mais qui aussi se s'est mis dans la tête qu'il fallait sauver l'humanité d'elle-même. Quelque

13:04chose que London de Mosque aussi partage d'ailleurs. C'est pour ça qu'il veut aller sur Mars. et et puis quel quelques autres Vitalic Betterine et d'autres. Donc des gens avec beaucoup d'argent et et qui partant d'une bonne intention de sauver l'humanité en fait font d'énormes bêtises. Alors la création d'anthropique partait peut-être d'un bon d'un bon sentiment faire du lias qui fera de mal à personne. Et la manière dont c'est utilisé aujourd'hui, l'argument de Dario Medi avec lequel il parle à plusieurs gouvernement de par le monde, c'est de dire vous comprenez l'IA c'est vraiment dangereux, il faut pas le mettre entre toutes les mains. Donc il faut réguler l'IA pour interdire en particulier l'IA

13:52open source particulièrement aujourd'hui parce que ça vient de Chine et puis les Chinois on peut pas leur faire confiance mais surtout parce que l'IA entre toutes les mains va mener à un désastre à cause des risques existentiels. Euh donc réguler l'IA, interdiviser l'open source. Bien sûr, ne régulez pas nous parce que nous on est intelligent et on sait on sait comment euh gérer euh l'IA. Donc ça part d'un d'un complexe de supériorité absolument insupportable euh et mal placé d'une part, mais surtout d'une volonté de capturer le marché par la régulation en convaincant les gouvernements de par le monde euh que l'IA est intrèquement dangereuse. Et c'est faux. On va y revenir parce que ça va forcément nous occuper une partie de la

Parcours : des années 80 à Bell Labs

14:38discussion. Mais avant qu'on y revienne, je voudrais que tu nous racontes un petit peu comment tu es tombé dans l'IA parce que on a l'impression que c'est ultra comment dire à la mode évidemment aujourd'hui c'est au cœur de tout ce qu'on de tout ce qui va transformer l'humanité mais il y a dans les années 80 quand tu as commencé à faire ton PhD et ensuite ton post doc c'était pas tellement à la mode. C'était même plutôt une hérésie les réseaux de neurones. Oui oui, je suis tombé à marmite quand j'étais petit mais moi j'ai toujours été intéressé par le problème de l'intelligence he c'est un des plus gros mystères euh question de la la science aujourd'hui. Comment fonctionne le cerveau ? Qu'est-ce que c'est que l'intelligence ?

15:20Et puis les autres questions fondamentales euh de quoi est fait l'univers et comment fonctionne la vie. Donc voilà, ils font choisir eu. Étant ayant plutôt la fibre de de l'ingénieur, je me suis dit que comprendre l'intelligence passait par la construction de machine intelligente. En fait, la seule manière de valider une théorie de l'intelligence, c'est de montrer qu'elle qu'elle fonctionne si on construit une machine basée sur les principes ces principes-là. Donc j'ai j'ai toujours été euh motivé d'un point de vue scientifique par la découverte des principes sous-jacents de l'intelligence et assez tôt euh réalisant que dans la nature l'intelligence est toujours le résultat de l'apprentissage et de l'adaptation.

16:05Il y a pas d'intelligence née, l'intelligence se construit par l'expérience, par l'apprentissage. Donc, j'ai toujours penser que l'apprentissage était un composant absolument essentiel de l'intelligence. Et puis aussi, peut-être parce que je suis feignant, je me suis dit, je suis pas assez intelligent pour concevoir une machine intelligente. Donc, il vaut mieux qu'elle se conçoit toute seule d'une certaine manière. et le l'apprentissage, c'est une manière de de de permettre à une machine de de se construire tout seul par expérience. Alors, à l'époque, quand j'ai commencé quand je finissais mes études d'ingénieur, [grognement] euh le ce qui était la mode, donc on parle de j'ai terminé mes études d'ingénieur en 83,

16:48j'ai commencé à m'intéresser la question quelques années avant. En 83, ce qui était la mode dans l'intelligence artificielle, c'était ce qu'on appelait le système expert et système à base de règles. Euh donc système d'IA dans lequel les ingénieurs ce qu'on appelait les ingénieurs de la connaissance à l'époque s'asseyaient, écrivait des règles et des faites et utilisait ce qu'on appelle les moteurs d'inférence pour dériver de nous fête de nouveaux faits à partir des faits existants et des règles. [grognement] Et il s'est avéré que cette méthode était applicable à un nombre relativement faible de situations pour lequel il était économiquement faisable de effectivement s'asseoir et écrire des règles. On s'est aussi aperçu que la

17:30plupart des tâches intelligentes que qu'accomplissent les humains ne sont pas régies par des règles ou par des recettes. C'est beaucoup plus fluide que ça pour je sais pas le diagnostic médical, diagnostic des pattes dans les ordinateurs, les choses comme ça. des applications qui ont été déployées. Euh alors moi je me suis dit euh à l'époque ce serait bien d'avoir des des machines capablees d'apprentissage. J'ai un peu étudié la question et c'était pas du tout à les modes à la mode à l'époque parce que les méthodes d'apprentissage euh avec l'inspiration de des du cerveau avait été à la mode dans les années à la fin des années 50 et début des années 60 mais avait complètement disparu en tout cas dans l'Occident à la fin des années

18:1860 où les gens s'étaient aperçus que les méthodes qui avaient été développées à l'époque à la fin des années 60 début fin les années 50 début des années 60 était en fait très limité dans leur dans leur capacité et ne mènerait jamais à des systèmes vraiment intelligents. Donc les gens avaient continué à travailler dans ces domaines mais avaient changé le nom du domaine en ne prétendant plus faire partie de l'intelligence artificielle mais en en disant on va construire des filtres adaptatifs des systèmes de reconnaissance des formes et ça paraît beaucoup plus sérieux. Euh et donc ces techniques en fait sont passées un petit peu sous le sous le sous le rideau derrière le rideau n'avait pas la visibilité de de but ambitieux de

19:00construire des machines intelligentes. Et donc je me suis aperçu que dans les années 80 il y avait personne en tout cas en France mais même aux États-Unis qui travaillaient sur l'utilisation d'apprentissage pour faire des machines intelligentes. Je me suis dit c'est quand même bizarre. Donc j'ai suis intéressé à ça. J'ai commencé à travailler un petit peu sur la question. Euh rendu rendu compte que il y avait euh une petite communauté euh au Japon en particulier et puis de psychologues aussi euh aux États-Unis et puis plus tard des physiciens qui s'intéressaient un petit peu à ça. Euh mais je commençais donc un doctorat ou un DEA à l'époque, c'est comme le M2 aujourd'hui. Et il y avait personne qui travaillait là-dessus.

19:42Donc, j'avais pas la possibilité de trouver un directeur de thèse. Euh alors, j'ai rencontré un certain Maurice Miligram qui était très sympathique et qui s'intéressait un petit peu à ce qu'on appelait à l'époque les réseaux d'automates. C'est ce qui se rapprocha un petit peu le plus de de ce qu'on appelle maintenant les réseaux neurones. Et a dit "Je sais pas très bien sur quoi tu travailles mais tu as l'air suffisamment tu as pas l'air bête donc je veux bien signer les papiers." Il s'est mis au réseau neurone après que j'ai fini euh euh ma thèse. Euh donc j'étais un petit un petit peu isolé euh et c'est que la fin de ma thèse que j'ai rencontré les gens qui la communauté naissante de de des réseaux

20:26de neurones en fait en 87. C'était qui ? Alors c'était des gens comme Jeffre Hinton qui avec qui j'ai fait mon mon post doc qui qui est toujours très présent. il a pris sa retraite, il fait plus de recherche mais il est toujours présent avec des déclarations un petit peu tonitruantes he sur la sécurité de l'IA et lui aussi a très peur des dangers de l'IA à mon avis à tort euh des gens comme Terry Sonovski qui est plutôt du côté des neurosciences neurosciences théoriques euh et puis un petit groupe de recherche qui est qui était Bell Labs Bell Laboratories qui était le à l'époque le laboratoire de recherche de grande entreprise de télécommunication AT&T euh c'est un laboratoire un peu mythique dans lequel une grande partie

21:10des technologies modernes ont été inventées. Le transistor, le laser, les cellules solaires, les capteurs CCD et cetera. Unix, langage CC++. Euh et donc après mon mon postdoc à à l'université de Toronto avec Jeffton, j'étais recruté par Bellab et c'est comme ça que j'ai atterri aux États-Unis. J'avais l'idée d'y rester 2 ans et puis euh c'était en 1988 et don je suis resté un peu plus longtemps euh et c'est c'est un peu là qu'on a développé un peu les techniques de base qui sont toujours utilisées euh pour la la reconnaissance d'images. Donc si vous avez une voiture qui avec assistance à la conduite ou un système d'analyse d'images médical et cetera, ça utilise les technologies qui s'appelait les

L'hiver de l'IA et le renouveau du deep learning

22:02réseaux convolutifs que j'ai développé à l'époque à la fin des années 80 début des années 90 à Bellabs et et à quel moment ça accélère ? parce que pour nous tout cétait accéléré en fait en 2022 mais on est on est un peu plusin que ça. Alors en fait ça accéléré bien plus tôt que ça. Il y a eu toute une période noire entre environ 1996 ou 956 et disons 2006, une période d'à peu près 10 ans dans lequel personne dans la communauté de l'apprentissage automatique, donc il y a une sous-communauté de l'inturance artificielle qui est l'apprentissage automatique qui est maintenant complètement dominante ce qu'on appelle le machine learning en anglais. Et cette communauté s'est complètement désintéressée

22:48de ce qu'on appelle maintenant le deep learning qu'on appelait les réseaux de neuron à l'époque entre oui 95 et 2006. Donc en fait pendant cette période là j'ai plutôt travaillé sur autre chose parce que il y avait vraiment aucune possibilité de d'avoir aucun impact euh sur la communauté pu c'était les les les les premières années de l'internet tout un tas de choses intéressantes à faire. Je travaillé sur un projet qui s'appelait déjà vu en français dans le texte des JVU de distribution de documents sur internet et cetera. Et puis je suis revenu au réseau neurone en en 2001 2002. Euh j'ai quitté ETNT. Euh j'étais brièvement au au laboratoire de entreprise japonaise NC NEC. Et puis en 2003 je suis devenu prof à New York

23:38University. Et donc j'ai vraiment redémarré un un programme de recherche sur les réseaux neurones pour pour montrer au aux gens que ça marchait. Et euh en cela, j'ai été accompagné de de Jeffrey Hinton et Yoshua Benjo, qui aussi s'intéressait au aux mêmes questions et on s'est mis ensemble pour essayer de de comment dire redémarrer l'intérêt de la communauté de la recherche dans ces dans ces techniques dont on savait qu'elle marchait vraiment bien mais qu' était un petit peu difficile à faire marcher. Ça a pris plusieurs années mais en 2012, donc ça a pris 6 7 ans en 2012 déjà en 2009, il y a eu déjà un gros regain d'intérêt dans ces méthodes de la part de la communauté de reconnaissance de la parole. On a commencé à avoir des

24:30systèmes de reconnaissance de la parole qui marchaient bien grâce au deep learning, réseau neurone. Euh et en quelques en quelques mois, en un an et demi, en 2011-2010, euh les téléphones mobiles d'un seul coup pouvaient pouvaient comprendre ce qu'on leur racontait euh grâce au réseau neurone. Donc ça a été déployé relativement vite par des entreprises comme Google et Apple et d'autres. Euh et en 2012, une autre révolution qui a eu un impact encore plus grand euh qui est que en utilisant mes méthodes, les réseaux convolutifs, Jeffinton et son équipe universit un un record de performance sur des un une base de données, un benchmark de reconnaissance d'images, classification d'imagit tellement supérieur au aux performances

25:17précédentes que la communauté de la la vision par ordinateur a du jour au lendemain a abandonné tout ce qu'il faisait et a commencé à utiliser ces nouvelles méthodes euh qu'auparavant il pensait être euh très peu prometteuse en fait. Ils étaient extrêmement sceptiques pour ne pas dire euh carrément insultant. Voilà. Donc euh il y a eu un complet revirement de situation en 2013 qui a attiré bien sûr l'attention des grandes entreprises comme euh Google, Microsoft, IBM, euh Facebook à l'époque et puis euh des entreprises chinoises aussi qui ont tout démarré des activités dans le domaine. Euh donc c'est à l'époque en à la fin 2013, début 2014 que j'ai créé Fire le laboratoire de recherche en IA de Facebook et je suis

26:04resté une une douzaine d'années. Et c'est merci d'avoir raconté ça parce qu'on a l'impression que on est environné d'IA et finalement il y a eu quand même un hiver assez long de l'IA et ça reposa sur finalement deux ou trois personnes un petit peu motivées de relancer un petit peu la machine. Oui, et c'est pour ça que le le comité euh Turing de la la CM nous a donné P Turing parce qu'on a euh en face de d'une d'une résistance en fait assez importante de la la communauté euh de la recherche, on a on a vraiment persisté euh au prix de comment dire de de de la notoriété de certains de nos étudiants qui nous suivaient sur ce chemin mais qui avaient un petit peu de mal à à publier leurs articles ou

26:49à acquérir un petit peu de reconnaissance. Mais d'un seul coup en 2013-24, ils se sont retrouvés comme étant un tout petit nombre de gens qui savaient faire marcher les réseaux neurones. Donc, ils ont immédiatement été happés euh par les entreprises qui qui euh qui travaillaient là-dedans. Donc, deux de mes anciens étudiants, par exemple Coravouchelou et celui qui et la personne qui dirige le projet Gemini à Google Deep Mind, euh Ra Hell euh et euh la directrice de la partie recherche de Deepmind, les vice-présidentes de la recherche. Donc ces gens-là qui étaient un peu les premiers étudiants à sortir au moment où le deep learning commençait, on fait d'excellentes carrières mais effectivement ça a été dur pour eux

27:37pendant leur leur doctorat. Alors toi tu n'es pas stupéfait par les progrès de l'IA mais nous depuis 2022 on est stupéfait. Avant pour certains d'entre nous on avait vu des choses. Moi, j'avais vu des choses mais globalement on est stupéfait depuis quelques années. Et pourtant tu nous dis que les modèles de langage c'est pas la panassée universelle. Alors non, on a le droit des stupéfaits et c'est certainement étonnant d'une certaine manière que les les LLM qui sont don dont la la méthode d'entraînement est un petit peu simpliste en fait marche aussi bien. C'est c'est effectivement un peu surprenant. Pas aussi surprenant peut-être que certains l'imaginent mais mais quand même surprenant. C'estàd que l'idée de

Limites des LLM et JEPA

28:19base que on pourrait construire des systèmes intelligents par apprentissage et que cet apprentissage soit basé sur la prédiction, ce n'est pas une idée nouvelle, c'est une idée très ancienne, en particulier dans le domaine des neurosciences théoriques. Euh tout un ensemble de théories qu'on qu'on regroupe sous le nom de predictive coding en anglais, codage predictif. Euh donc cette idée que les les jeunes animaux et les humains apprennent appréhender le le monde en en s'entraînant à prédire. En fait, le cerveau est une machine à prédire. Euh c'est c'est pas un nouveau concept, mais en fait je travaille sur l'idée de de d'enseigner au aux machines à comprendre le monde physique par prédire ce qui va se passer dans une vidéo

29:07depuis euh près de 20 ans, disons vraiment plus démarré il y a une quinzaine d'années et en gros euh on a fait très peu de progrès les 10 premières années de ces 15 années. Il y a que dans les cin dernières années qu'on a commencé à faire des des progrès un petit peu significatifs et euh il s'avère que l'apprentissage par prédiction, quand on essaie de prédire des données naturelles comme de la vidéo, c'est vraiment compliqué et c'est difficile à faire marcher et on commence seulement depuis quelques années à faire des progrès là-dedans. Par contre, il y a un domaine dans lequel ça marche vraiment très bien et c'est le texte. C'estàd que si on prend si on entraîne une machine où lui montre un texte,

29:52alors il y a deux méthodes. La première méthode, on on on prend un texte, on enlève 20 % des mots du texte et on entraîne un gros réseau neurone à prédire les mots qui manquent. D'accord ? Donc ça c'est la technologie 2017-28 euh à peu près 2019. Euh ça marche très bien pour permettre aux machines de euh faire la traduction, comprendre du texte, classifier le faire de la produire des résumés et cetera. Ça marche très bien. Mais en fait ce qui marche mieux, c'est encore plus simple et c'est une méthode auquelle Open AI a contribué qui est de ne pas masquer le texte. C'estàd on prend un texte, on enlève rien du texte et on entraîne un réseau de neurone à reproduire simplement le texte d'entrée sur sa

30:41sortie. Mais on on configure le ce réseau de neurone de manière à ce que pour prédire un mot, il ne peut pas regarder le mot correspondant dans l'entrée. Il ne peut regarder que les mots qui sont à gauche de ce mot. Donc implicitement quand on entraîne ce ce réseau neurone à reproduire son entrée sur sa sortie, ce qui a l'air facile, implicitement l'entraîne à prédire le mot suivant quelle que soit la séquence de mots qui précède. Et ça c'est magique. Et non seulement c'est magique mais on peut passer à l'échelle. C'est qu'on peut donc c'est la la série des GPT1, GPT2, GPT3 et puis et cetera. GPT, ça veut dire ça veut dire euh prin transformer donc et euh rapid Transformer et et donc c'est cette architecture très simple

31:36qu'on appelle aussi decoder only euh qui il s'avère passe à l'échelle pass on peut passer à l'échelle entraîner des réseaux beaucoup plus gros et intégrer en fait des connaissances qui sont implicites dans le texte avec cette méthode qui n'appelle l'air de marcher aussi bien que qui marche bien mieux par contre que la la méthode précédente qui consiste à à masquer, enlever certains mots qui qui une méthode plus ancienne. Euh donc cette révolution là qui pas qui a pas été immédiatement reconnue comme une révolution date de 2019-2020 et puis GPT3 en 2022, il y a eu des il y avait des projets simultanés sur exactement le même thème chez Meta chez Google. OPA était pas les seuls à développer ce genre de chos mais il y a eu

32:21effectivement un progrès significatif grâce à cette architecture et puis ensuite on s'est aperçu qu'on pouvait affiner ces architectures, enfin ces systèmes après qu'on les entraîne sur des quantités énormes de textes. On peut les affiner pour qu'elles obéissent à des instructions ou qu'elles répondent à des questions qui sont fréquentes parmi les utilisateurs et ça en fait des systèmes utiles. Et ça c'est chat GPT et tout ce qui est à suivi. Et quand on se place aujourd'hui, on a plusieurs questions. D'abord, on est complètement dépassé par le niveau d'investissement des Américains et potentiellement des Chinois. On est des petits Européens vraiment très loin. On a l'impression que il faut surinvestir

33:02sur le compute, c'estàd sur la puissance de calcul, surinvestir sur les modèles de frontières et que sinon on n'y sera jamais, qu'on a qu'un seul champion en Europe. Qu'est-ce qu'on va faire ? Qu'est-ce qu'on peut faire encore ? Alors bon, il y a plein de choses qu'il faut dire là-dessus. Euh et ça va nous mener à une longue discussion. Le je essayer de la couper en morceau. La première chose qu'il faut se dire c'est que ces systèmes, donc des LLM entraînés sur du texte sont très limités dans leur leur capacité. Euh donc j'ai j'ai déclaré je déclare depuis plusieurs années que ce type de technologie n'est pas un chemin viable vers des systèmes intelligents avec une intelligence similaire à l'intelligence

33:47humaine. Pourquoi ? Pour une raison très simple, c'est que le monde réel, le monde physique est beaucoup plus compliqué que le texte. Ça nous paraît paradoxal en tant qu'humain parce que on pense que le la langue humaine c'est un peu le le sommum de de l'intelligence humaine mais en fait pas du tout. Le texte est facile. Prédire le mot qui suit un texte particulier. On peut jamais prédire exactement le mot qui suit un texte mais on peut prédire une distribution de probabilité sur tous les mots possibles. C'est comme ça que fonctionne les LLM. Euh et on peut représenter cette probabilité. C'est juste une liste de nombres. Euh disons si le dictionnaire fait est de taille 100000 euh c'est une série de nombres de

34:30100000 nombres entre 0 et 1 dont la somme fait 1. C'est vraiment simple, on sait le faire. Euh et puis pour prédire un texte, on fait ce qu'on appelle la prédiction autorégressive. C'est pas un nouveau concept non plus. C'estàd qu'on on montre un texte au système, lui fait prédire le mot qui suit. Il prédit une probabilité sur tous les mots. On on prend on choisit un mot dans cette distribution de probabilité, un mot de haute probabilité. Mais c'est un peu stocastique. Et puis ensuite, on injecte ce mot dans l'entrée. C'estàd qu'on décale tous les mots de dans l'entrée du système et maintenant il voit sa propre sortie comme faisant partie de l'entrée. Donc maintenant, on peut lui demander de produire le deuxième mot. On met ça à

35:09l'entrée, 3è 4e et cetera. Donc ça ça pas besoin de beaucoup d'argent pour faire ça finalement. Alors là où il y a besoin de beaucoup d'argent, c'est si le réseau de neurone en question, on veut l'entraîner sur énormément de données et surtout on veut pouvoir expérimenter avec plusieurs architectures et cetera et cetera. Et le problème c'est que si on veut l'entraîner avec beaucoup de données, ce qu'il va faire c'est qu'il va accumuler toute la connaissance déclarative dans ces données et pour ça il faut beaucoup de mémoire. Donc ce qui coûte cher en fait euh dans dans ces systèmes, c'est qu'il faut des ordinateurs ou des des clusters d'ordinateur en fait qui sont très puissant au niveau calcul numérique

35:48parce que finalement ce qui se passe à la base dans ces réseaux neurones, c'est des multiplications, des additions, des comparaisons et rien d'autre. C'est vraiment très très simple. Euh mais dans des en c'est des centaines de milliards hein euh par inférence et et euh et donc si on veut que ces systèmes accumulent suffisamment de de connaissances déclaratives euh en étant entraîné sur du texte, il faut qu'ils aient énormément de mémoire. Donc des dizaines de milliards ou des centaines de milliards ou même milliers de milliards de paramètres. Donc ça ça prend beaucoup de mémoire. Chaque paramètre durant l'apprentissage est stocké sur 4 oct ou deux oct si on veut être un petit peu plus performant. Au

36:30moment l'inférence c'est plutôt un octa mais quand même ça fait beaucoup. Donc ça fait des GPU avec beaucoup de mémoire que Nvidia va vous vendre pour un prix énorme et beaucoup de trafic de mémoire. Donc ça fait monter les prix des mémoires. Je suis sûr que vous en aperçu et ça coûte cher. Donc il faut beaucoup de d'infrastructures qui qui coûte des centaines de milliards en fait d'investissement au capital que les grosses entreprises de de tech de la SCON vallée peuvent se payer mais personne d'autre. Et donc ça ça met effectivement euh les autres pays, y compris les Chinois en fait dans une des situations compliquées. Les Chinois encore plus en fait parce que le le gouvernement américain essaie de

37:12limiter l'accès de des Chinois au aux derniers aux dernières technologies. Alors pour les limitations de ces de ces de ces systèmes à base de LLM, euh comme je l'ai dit, prédire le mot suivant dans un texte relativement facile. Prédire les pixels qui suit dans une vidéo, c'est beaucoup beaucoup plus compliqué et on sait pas vraiment encore le faire. Ce qui fait que on a des systèmes qui peuvent passer l'examen du barreau, écrire des dissertations, euh même démontrer des théorèmes, écrire du code. Euh donc faire des choses qui sont vraiment basées sur sur du texte en fait. Euh mais où est ma voiture autonome ? Où est mon robot domestique qui peut débarrasser la table et remplir la vaisselle ? Et ne parlons même pas du robot

38:04domestique qui peut réparer la salle de bain. C'est pas pour demain. Et c'est ça, c'est la raison pour ça. On n même pas de système assez intelligent en fait pour avoir une compréhension du monde physique et aussi sophistiqué que la compréhension du monde physique d'achat gouttière. Donc il y a un gap énorme entre l'intelligence basée sur la langue si vous voulez ou la régurgitation de de connaissances accumulé de connaissances déclaratives et l'intelligence qui serait la compréhension du monde physique. Et on peut résumer ça en fait en un chiffre très simple qui est que la totalité de tout le texte disponible sur internet qui est utilisé pour préentraîner les LLM aujourd'hui, c'est environ 20000

38:51milliards de mots. Alors, un texte est tokenisé, c'est-à-dire qu'on on découpe les mots en sous-mot et cetera, on transforme ça en token. Et 20000 milliards de mots, c'est environ 30000 milliards de token. Chaque token est encodé typiquement sur trois octs. Donc si on fait le calcul, c'est à peu près 10 à la puissance 14 oct d'entraînement qui correspondrait à un texte qui prendrait tout un chacun ici environ 1 demi million d'années à lire. Ça fait beaucoup. Aucun humain est capable de d'ingérer et certainement de se souvenir d'autant de d'information, même de manière abstraite. Comparer ça aux données qui parviennent au contexte visuel dans les premières années de la vie. Un enfant de 4 ans a

39:41été éveillé typiquement un total d'environ 16000 heures dans sa vie. Et au cours de ces 16000 heures, il y a l'information qui est véhiculée par les le neroptique des yeux vers le le contexte visuel. C'est environ un octa par seconde par fibre du ner optique. On a 2 millions de fibres de ner optique 1 million par œil. Donc c'est environ un flux de 2 millions de de d'octès par seconde. Si on fait le calcul sur 16000 heures éveillé, c'est à peu près 10 à la puissance 14 oct. C'està-dire un enfant de 4 ans a vu autant d'information que le plus grand des LLM simplement par la vision. Euh et autant d'information qu'il y a dans le texte, la totalité du texte disponible publiquement sur internet. Donc ça ça

40:29vous dit que on n'arrivera jamais en fait à un système de de niveau humain en entraînant sur seulement sur du texte. Il a toute une partie de la réalité qui n'est pas présent dans le texte. Il n'est pas présente dans le texte. Sauf si on travaille avec des world models, non ? Alors ensuite, je peux vous donner les solutions. Euh je vous expliquer un petit peu en fait le la l'idée autour de autour de laquelle est construite Amilabs. Euh c'est et je vais je vais je vais vous prendre un exemple euh que j'utilise souvent euh dans ce genre de conférence. Si je prends une vidéo de cette salle, je commence par la gauche, je tourne la caméra et j'arrête. Et puis j'attends, je de donne ça à une machine entraîner à prédire ce qui se

41:14passe dans une vidéo et je demande à à cette machine, continue la vidéo. Très clairement, la machine va prédire que la caméra va continuer à tourner, qu'on est dans une salle de classe qui a probablement des fenêtres de ce côté-là parce qu'il voit les ombres projetées et cetera. Mais il y a absolument aucun moyen qu'il puisse deviner à quoi vous ressemblez tous. C'est pas possible. L'information n'est pas présente. C'est une une information impossible à prédire. Et quand on entraîne ces systèmes, des systèmes donc génératifs à prédire au niveau du pixel euh ce qui ce qui va se passer dans une vidéo, ça marche pas. on les tue. Alors évidemment, il y a tous ces systèmes qui font de la synthèse vidéo. Euh on a tous

41:56joué avec ça qui sont très impressionnants, mais ces systèmes en fait ne comprennent pas vraiment la réalité sous-jacente de de du monde physique. Euh donc euh comment peut-on entraîner un système ? Simplement par prédiction, ce qui marche très bien pour le texte. Comment transposer ce succès ? un système qui prédit ce qui est entraîné à prédire ce qui se passe dans une vidéo, sachant qu'il ne peut absolument pas prédire tous les détails de ce qu'il y a dans les vidéos. Alors ça ça conduit à un concept que j'appelle Jeppa. C'est un un acronyme, ça veut dire Joint Embeding predictive architecture. En français architecture prédictive d'enchassement joint. Euh et l'idée de de ça, c'est de dire il

42:40faut que il faut que le le système en en s'entraînant produise une représentation abstraite de la réalité dans lequel tous les détails qui ne sont pas prédictibles sont éliminés et ensuite s'entraînent à prédire mais dans dans cet espace de représentation abstraite. Et donc toute la question qui est en fait la question originale du deep learning, c'est comment apprendre des représentations de de percept ? Et on se pose toujours la même question, c'est une question qui m'obsède depuis 40 ans, c'est comment un système intelligent durant l'apprentissage peut apprendre une bonne représentation du monde, que ce soit pour la perception ou pour la prédiction dans la vidéo comme c'est le cas. Et et donc je suis arrivé à ce

43:22concept JPA qui euh j'ai publié une sorte de d'article sur ma vision de devrait aller la recherche en IA dans les la décennie qui vient qui fait c'est maintenant c'est plus que 6 ans euh que l'article a été publié en 2002 2022 pardon euh dans dans lequel je propose cette architecture. Puis il y a dans la communauté scientifique environ 2900 articles qui mentionnent Jeppa. Euh donc ça suscité pas mal d'intérêt mais c'est toujours dans la communauté de la recherche et ça n'intéresse pas encore en tout cas l'industrie de de l'IA de la Sicone Vallée. Ils sont tous dans une tranchée de d'améliorer les performances des LLM et aucune de ces entreprises ne peut se permettre de dévier de trop de de de l'approche dominante parce que il

44:17prendrait le risque de prendre du retard. Euh donc ça nous profite un petit peu parce que du coup on peut poursuivre cette approche sans concurrent. Comme tu as pas tout à fait répondu à ma question sur la souveraineté européenne, je je me permets de la reposer et et de je la je la formule d'une autre manière. Est-ce que si je fais JPA ou World Models et que je fais de l'open source en plus, est-ce que je m'en sors ? Alors concernant JPA World Model, qu'est-ce que c'est qu'un world model ? puisque tu as mentionné donc un modèle du monde, c'est ce serait un donc c'est basé sur ces histoires de JEPA. C'est c'est ce qui permettrait à un système intelligent euh d'agir, de planifier des actions euh

45:05en prédisant les conséquences de ces actions. La raison qui nous permet de d'appréhender une nouvelle situation et de d'agir de manière correcte, c'est en fait un modèle du monde qu'on a dans la tête qui nous permet de prédire les conséquences de nos actions. Je sais que si je pousse sur ce sur ce verre à la base, il va glisser. Si je pousse sur le verre en haut, il va probablement basculer. Si je pousse sur la table avec la même force, ça va pas bouger. On a une intuition de de ce qui se passe dans le monde qu'on apprend dans les premiers mois, les premières années de la vie. Au départ, purement par observation, ensuite par expérimentation. Les bébés humains apprennent par exemple la notion de gravité, le fait que un

World models et souveraineté européenne

45:47objet tombe quand il est pas supporté environ vers l'âge de 9 mois. Ça prend du temps pour les humains, c'est plus vite, c'est plus rapide pour la plupart des animaux. Donc, comment apprend-on ces concepts de base sur la réalité physique ? Et est-ce qu'on peut les apprendre par en s'entraînant à prédire ? La réponse est oui. Maintenant, on a la on a la réponse, c'estàd qu'on peut entraîner des systèmes de ces à à prédire ce qui va se passer à un niveau abstrait et on peut aussi les entraîner à prédire ce qui va se passer comme conséquence d'action. Donc si on a un système qui peut prédire comment va changer le monde étant donné l'état du monde à l'instant et une action que j'imagine prendre, puis-je prédire l'état du monde à

46:27l'instant t +1 qui va résulter de cette action ? Si j'ai ce modèle mental, je peux prédire le résultat d'une séquence d'action. Je peux voir si cette séquence d'action va accomplir une tâche que je voudrais bien accomplir. Et donc je peux par recherche trouver une séquence d'action qui va accomplir cette tâche. C'est la planification. On sait faire ça en tant qu'humain, très bien. On fait ça de manière hiérarchique, c'est plus compliqué mais on sait faire ça très bien. Beaucoup d'animaux savent faire ça aussi parce qu'ils ont un modèle mental de la réalité. Les systèmes d'hier actuel n'en ont pas. Ils ont appris plein de de faites sur déclaratif hein de sur le le monde, mais ils n'ont pas de compréhension de euh de de la

47:10réalité. Euh donc c'est ça qu'on essaie de construire à Milabs. Ce que ça va causer donc pour les raisons de souveraineté. c'est que ça va causer une nouvelle révolution dans l'IA. Il va y avoir une autre révolution dans l'IA dans les années qui viennent dû à l'avènement de ces modèles du monde de systèmes qui peuvent planifier, de systèmes qui ont un certain sens commun et donc de de systèmes qui vont ouvrir la porte à des applications en robotique par exemple ou application industrielle et c'est le c'est l'angle que Amilabs poursuit. Donc, on a peut-être perdu la partie des LLM en Europe, mais on n pas perdu euh le tout le le la bataille de de l'IA parce qu'il va y avoir d'autres révolutions et on peut être euh au

47:50départ de cette de cette autre révolution. L'autre raison pour laquelle on peut euh on peut avoir des contributions à cette nouvelle révolution, c'est que les modèles donc basés sur les modèles du monde ont besoin de moins de mémoire. C'est-à-dire que il remplace l'accumulation de connaissances déclarative par une compréhension du monde. Donc par exemple, vous avez pas besoin de vous rappeler explicitement le fait que quand vous poussez sur un verre en haut, il bascule. C'est c'est une compréhension. C'est pas un fait dont vous vous rappelez de manière isolée. Vous n pas besoin d'apprendre ça par cœur. D'accord ? Donc les modèles qu'on entraîne à Milabs sont de ce type là. Ils sont en au niveau taille, ils sont

48:33plus petits que les LLM. Ils ont pas besoin d'autant de mémoire. Euh donc, on a pas besoin d'autant d'ordinateur pour les pour les entraîner, mais ils ont une compréhension plus profonde en fait de la de la réalité. Donc ça donne une porte pour la souveraineté. La deuxième porte pour la souveraineté, c'est l'open source ou open weight. Alors pour moi, c'est un sujet de prédilection pour pour tout un tas de raisons et dans tout un tas de domaines, mais je pense que la question est particulièrement importante aujourd'hui parce que dans le présent et encore plus dans le futur, toute l'information qui va nous parvenir, qui va appartenir à tous les citoyens de France et de Navar vont se faire par l'intermédiaire de

49:23système système d'IA d'assistants I d'assistants intelligents. Si ces assistants sont propriétaire et produit par trois ou quatre entreprises sur la côte ouest des États-Unis ou en Chine, c'est pas bon pour la culture, c'est pas bon pour la démocratie, c'est pas bon pour les valeurs, c'est c'est bon pour rien. Donc, il faut absolument éviter cette situation dans lequelle toute l'information des citoyens se fera sera contrôlée en fait par une poignée d'entreprise américaine ou chinoise. Donc, il faut absolument la souveraineté. C'est pas une option. Et pour moi, la seule manière de d'arriver à à cette souveraineté, c'est pour les les pays en particulier qui ne sont ni les États-Unis ni la Chine, mais

50:13ça veut pas dire qu'on les exclut, de s'allier pour produire un modèle ouvert, gratuit, open source, euh qui serait un espèce de dépositaire de toute la connaissance humaine et qui serait entraîné sur tous les les données, non seulement les données qui sont disponibles publiquement aujourd'hui avec lesquels les modèles commerciaux sont aussi entraînés, mais aussi des données qui ne sont pas disponibles publiquement, euh les fonds culturels de la bibliothèque nationale en France et puis une quantité énorme de connaissances de de fonds culturels en Inde, en Égypte, au Vietnam, au Japon, en Corée et cetera. Si tout ces régions et ces pays collaboraient pour entraîner un modèle ouvert, il deviendrait le dépositaire de toute

51:05la connaissance humaine et il comprendrait toutes les langues du monde, tous les systèmes de valeur, tous les sens d'intérêt et cetera. Alors, c'est un peu une vision utopique, mais j'ai démarré un projet qui s'appelle Project Tapestry, tapisserie et qui qui essaie de de fédérer en fait des régions, des pays, des universités, des informaticiens et et des scientifiques à contribuer à la création de ça. On espère avoir, on a déjà le support d'un certain nombre de gouvernements de par le monde euh en particulier l'Inde, le Japon, le Vietnam et quelques autres et on espère sous peu avoir le soutien de la plupart des pays européens et puis d'autres d'autres acteurs. Moi, j'ai encore pas mal de questions,

51:53mais je pense que peut-être il y a des gens dans la salle qui veulent poser des questions. Je sais pas si c'est prévu, mais voilà, je vois quelqu'un au premier rang qui lève la main. Il un micro qui vient vers vous, je crois.

Questions du public : données, régulation, écologie

52:20Pardon. Merci. Bonjour Yan Lequin. Merci d'être venu à Sciencep. Ma première question et aujourd'hui il y a un type de data qui manque, on le connaît pas encore pour passer du texte au world model pour l'IA physique. Quel est ce type de data qui manque aujourd'hui ? Et dans les si on se projette de ou 3 ans, quel type d'entreprise dans l'IA sera la plus intéressante ? Euh et de quoi on attend d'elle ? Et finalement quel genre d'entreprise si on projette encore plus loin dans 5 10 ans que Amilab serait intéressé d'acquérir. D'accord. On n pas encore de revenu he donc il y a pas question d'acquérir quoi que ce soit mais pour l'instant on dépense beaucoup d'argent dans GPU euh enfin on calcule. Alors en fait, il y a pas vraiment de

53:23problème de données disponibles parce que si on avait des systèmes, des techniques d'apprentissage qui étaient aussi efficaces que ce qu'on observe chez les humains et les animaux, on pourrait entraîner un système qui comprend la réalité en avec 16 16000 heures de de vidéo. 16000 heures de vidéo, c'est environ 30 minutes d'upload sur YouTube. D'accord ? C'est très peu en fait de vidéo les modèles qu'on entraîne à l'heure actuelle. À cause du fait que nos méthodes d'entraînement sont pas aussi efficaces que ce qu'on observe chez les humains, on entraîne nos modèles avec l'équivalent de siècles de vidéo. D'accord ? Et c'est très facile à obtenir. C'est pas un problème de source d'information. Bon, il y a beaucoup plus

54:08de vidéos disponibles que ce qu'on peut gérer en fait avec les ordinateurs qu'on a aujourd'hui. Par contre, il y a il y a il y a un problème enfin il y a un type de de données disons auxquelles sont exposés les humains qui est un peu plus difficile à obtenir. C'est des données qui sont observation ou état du monde action état suivant. C'est par exemple des données qui viendraient d'un robot où on voit la la position peut-être la la vitesse de de de tous les les articulations du robot et puis on envoie une action au robot et on observe le résultat. Donc ça c'est ce qui permettrait de construire un modèle euh du robot qui permettrait de le le contrôler de manière intelligente. [grognement] Euh et ça c'est plus

54:56difficile à obtenir parce qu'il faut soit simuler le robot, ce qui est possible mais c'est c'est pas précis quand il s'agit de faire la manipulation d'objets par exemple la simulation marche pas bien. Euh ça marche bien. Par contre, si on veut faire en sorte que le robot court une course à pied, fasse un saut hauteur ou ou un espèce de mouvement kung fou, c'est pour ça qu'on voit tous ces robots hmnoïdes en Chine qui font tous ces trucs. C'est vraiment simple ça en fait. Les les modèles dynamiques des robots qu'il faut apprendre pour ça simples parce que l'interaction de ces robots avec le monde réel est en fait très très simple. C'est juste les pieds sur le sol et c'est à peu près tout. Euh mais quand

55:37il s'agit de par exemple manipuler un objet, c'est beaucoup beaucoup plus compliqué. En fait, il y a un gros secret dans toute l'industrie de la robotique aujourd'hui. Il y a plein de boîtes qui construisent des robots humanoïdes ou ou d'autres. Plein de boîtes aussi qui font des logiciels pour essayer de rendre les robots intelligents. Aucune des entreprises aujourd'hui qui fait des qui construit des robots humanoïdes n'a aucune idée de comment rendre ces robots suffisamment intelligents pour être utiles. OK ? Ces robots sont complètement inutiles. Alors, on peut en collectant énormément de données les entraîner les entraîner à accomplir une tâche par imitation, mais il faut collecter énormément de données

56:13euh peut-être des dizaines de milliers d'heures pour une tâche assez étroite dans une usine ou un truc comme ça. Et donc, c'est pas for c'est pas vraiment économiquement faisable. et le robot domestique qui débarrasse la table et qui nettoie les maisons, c'est pas pour demain. Euh donc il y a une grosse question, c'est combien de de boîtes de robotique humanoïdes vont boire le bouillon avant que l'IA ait fait suffisamment de progrès pour pour les rendre utiles ? On espère à Mila espère jouer un rôle positif naturellement. Madame au premier rang avait une question depuis assez longtemps donc je pense queil faut lui donner le micro à elle. Je sais pas s'il y a un micro sinon moi je donne mon micro volontiers.

56:51Voilà.

57:00Bonsoir. Merci beaucoup. C'est vraiment passionnant de de vous écouter. Moi, je suis Alam Garby, l'ambassadrice de France auprès de l'UNESCO et l'UNESCO en 2021 a publié des recommandations sur l'éthique de l'intelligence artificielle. Alors 2021, ça paraît le Moyen-Âge quand on voit le progrès de développement de ces ces modèles. Et moi la question que je je me poser c'est est-ce que aujourd'hui on peut encore réguler, gouverner comme comme l'a suggéré Louis Vassie l'intelligence artificielle ? surtout que on se pose des questions très concrètes à l'UNESCO notamment, c'est protection des enfants, l'un des informations, les droits cognitifs, droits d'auteur, diversité culturelle, vous l'avez vous

57:44l'avez abordé. Comment et est-ce qu'on peut est-ce qu'on doit et comment on peut le faire ? Alors pour moi, bon je suis pas législateur, je prétends pas avoir la moindre expertise pour commenter là-dessus, mais euh en ce qui me concerne, je pense que il faut il faut réguler les déploiements euh de système intelligents. C'estàd que si on veut déployer un système d'assistance à la conduite dans une voiture, il faut bien sûr que qu'il y ait un organisme indépendant qui va tester la fiabilité du système. Si on utilise un système d'analyse d'images médicale pour les les mammographies, évidemment, il faut une autorisation de mise sur le marché, s'assurer que euh que ça va faire du bien aux patients et

58:33cetera ou améliorer les performances. Donc pour la plupart des domaines, il y a déjà des réglementations existantes qui sont dues simplement au à l'application dans lequelle l'IA serait déployé. Donc il y a pas besoin en fait généralement de régulation supplémentaire. Alors maintenant, est-ce qu'il y a des des applications propres de l'IA qui qui n'existait pas avant pour lesquelles il faut des des régulations explicites de protection des données privées de et cetera. Pas clair du tout. en Europe, on a déjà des règles de protection de données privées qui s'appliquent et euh qui d'une certaine manière euh limite déjà à ce qu'on peut faire avec l'IA. Euh alors ensuite, il y a la question qui est qui est un peu plus controversée

59:23mais qui pour moi devrait pas être controversé, c'est doit-on réguler en amont euh la création de système d'IA ? Alors, si on pense que l'IA est intrinsèquement dangereuse, simplement l'existence d'un système d'IA puissant et intrinsèquement dangereuse, on pourrait tenter de réguler la recherche et le développement en IA. Mais moi, je n'y crois pas du tout. Alors, effectivement, c'est un peu les les déclarations de Tony Truant de de ces derniers jours. Ce sont des gens qui croient au danger intrinsèque de l'IA, mais je n'y crois pas, en tout cas pas dans l'état actuel. Euh c'est un peu comme si en 1920 quelqu'un avait dit il faut absolument réguler les vols transatlantiques avec les moteurs à réaction alors que

1:00:07les vols transatlantiques n'avaient pas encore été faits en 1920 ça date de 1929 et le moteur réaction n'avait pas encore été inventé. Comment pouvons-nous imaginer rendre un système sécurisé si on l'a pas encore inventé ? On n pas encore inventé l'intelligence, la super intelligence ou l'intelligence de niveau humain comme j'essayais de le dire précédemment. Alors il des gens qui font des illusions convallé et puis qui pour des raisons financières et commerciales bien sûr vont vous dire oui maintenant on pourra faire des systèmes super intelligents dans de 3 ans. Donnez-nous 300 milliards mais c'est faux. Je veux pas trop non plus simplifier les questions d'éthique. Il y a des vraies questions derrière. Bon j'ai une

1:00:51question concernant la régulation également. Euh donc vous défendez une régulation des usages et non de la recherche, je suis ici. Oh pardon. Comme je dis, vous défendez une régulation des usage et non de la recherche, une régulation du déploiement. Et donc concrètement quelle régulation de l'usage sur le plan écologique vous paraît pertinente et existe-t-il une régulation écologique de LIA qui puisse porter réellement que sur les usages sans devenir en pratique une contrainte pour la recherche ? Alors non. C'est-à-dire les les euh les centres de calcul qu'on utilise pour aussi bien pour le développement de système d'IA que pour leur utilisation, leur déploiement consomme de l'énergie. Et bien sûr, bon en France, on a l'énergie

1:01:39qui est en grande partie décarbonée. On est chanceux de ce côté-là. Faut mettre tous les data center en France. Pardon ? Il faut mettre tous les data centers en France. C'est ce que je pense. Oui. Oui. Voilà. [rires] Euh donc c'est c'est un avantage hein, c'est un atout certainement pour pour la France et puis pour le monde entier quoi. Parce que ça veut dire que effectivement mettre des data center en France ça fera probablement monter les prix de l'électricité mais ça augmentera pas beaucoup le le l'empreinte l'empreinte carbone. C'est un vrai problème dans d'autres pays. Il y a une autre question que les gens se posent qui est la consommation d'eau. Alors ça je dis tout de suite c'est pas du tout un problème.

1:02:17Ça consomme pas d'eau les data center. L'eau est recyclée. Enfin, c'est toujours la même eau. C'est un circuit fermé. Ça consomme vraiment pas d'eau. Si vous voulez vraiment économiser de l'eau, mangez plus d'amende parce que ça ça consomme de l'eau ou allez plus jouer au golf. Je joue pas au golf. Euh ça consomme plus que un gros data center. Donc ça c'est vraiment pas un problème. Le seul problème c'est émission de carbone et production d'énergie. Bon, il y a beaucoup de gens dans la Alors la ce qui est intéressant, c'est que les incitations de l'industrie pour réduire la consommation énergétique des de l'IA est là, c'est-à-dire que le gros des dépenses du d'une entreprise de tech, une entreprise d'IA pour servir des systèmes

1:03:07d'IA va dans la consommation énergétique. Il y a acheté les GPU à Johnson Wang, mais il y a aussi euh dans les opérations, c'est essentiellement euh la consommation énergétique. Donc il y a énormément d'efforts dans l'industrie. Il y a pas besoin de régulation pour ça. Toutes les incitations du marché conduisent les gens à diminuer au maximum la consommation énergétique par des des innovations au niveau architecture de modèle, au niveau algorithme sous-jacent, au niveau efficacité du du hardware lui-même, design des chips et puis tout ce qui tout ce qui va avec. Donc il y a pas vraiment besoin de régulation parce que l'incitation est là déjà. J'avais une question. Bonsoir. Merci beaucoup. Déjà, c'est incroyable ce que

1:04:00tout ce que vous avez dit. Euh, j'ai des questions par rapport aux données et comment vous sourcez vos données. Reprenant le l'exemple que vous avez donné à propos du nourrisson qui apprend en voyant en tant qu'enfant quand tu quand tu te lèves et que tu tombes, tu touches le monde et il y a toute la question de données aptique. Et vous, comment vous faites pour sourcer vos données ? Et comment vous faites pour récolter autant de données pour pouvoir alimenter vos worlds ? Oui. Alors, c'est une question intéressante euh à plusieurs volets. La première, c'est que euh en tant qu'humain et beaucoup d'animaux, euh on peut on peut très bien devenir euh intelligent sans la vision euh mais pas sans le toucher. Le toucher est

1:04:43absolument indispensable. Euh mais en fait la la la quantité d'information qui qui parvient au cerveau par le toucher est quasiment équivalent à ce qui ce qui parvient par la vision. C'est c'est très surtout si on est aveugle. Donc c'est assez euh haute bande passante quoi, au débit. Euh et ce qui est un petit peu ennuyeux, c'est qu'on a pas de bons capteur de toucher. Euh il y a des capteurs de toucher pour les robots, mais ils sont pas très bons. Et ceux qui sont bons euh durent pas longtemps. Ils sont basés sur des gels un peu un peu mou sur lequel on met de la peinture réfléchissante et une caméra derrière. Alors c'est magnifique. Un toucher, un sandw toucher extrêmement précis. Mais au bout de quelques heures

1:05:32d'utilisation, la peinture s'en va. Donc c'est pas donc on n pas beaucoup de données de toucher euh et il y a beaucoup de gens qui travaille sur la manipulation robotique sans toucher et c'est horriblement difficile. C'est probablement impossible en fait. Donc tant qu'on aura pas fait de progrès dans les capteurs, probablement la la performance va saturer. Oui. Bonjour. Merci Dominique Boulier. J'apprécie beaucoup vos critiques sur les LLM mais j'en aurai moi d'autres éventuellement à faire d'ailleurs. Mais vous êtes ici dans une université de sciences sociales et quand vous parlez d'apprentissage vous n'avez pas mentionné de dimension sociale. Alors qu'évidemment on apprend en tant que puisque vous parlez des

1:06:16enfants, on apprend massivement socialement dans la relation. De la même façon quand vous parlez des mondes des modèles du monde, on apprend pas non plus on on ne voit pas où est dans votre modèle du monde. Il y a tellement d'autres problèmes peut-être à traiter, c'est pour ça. Mais en attendant, la question du monde social, elle est aussi présente. Or, ces mondes là, ces systèmes là, de mon point de vue et nous sommes certain nombreux, tout le monde a travaillé sur cela, c'est largement plus complexe que les systèmes physiques sur lesquels on vous travaillez pour la la reconnaissance autrement. Est-ce que vous pensez qu'à un moment vous allez euh entamer cette phase de tentative entre guillemets de modélisation de ces

1:06:52dimensions sociale ? Sachant qu'ici, je suis persuadé qu'il y a des chercheurs qui sont prêts à donner un coup de main et qui sont très bons parce là-dessus pour ça. Donc, c'est une offre de service peut-être avec une condition quand même, c'est qu'il faudrait arrêter à ce moment-là de se dire qu'on va tout automatiser parce que précisément ce qui fait l'intérêt de cette performance technologique qu'on obtient avec les même les LLM, c'est seulement dans la mesure où ils sont couplés avec les sociétés, les organisations de façon fine, sinon effectivement ça devient du délire et à ce moment-là, on peut effectivement s'inquiéter. Donc vous voyez, il y a beaucoup de paramètres ou de conditions à mettre pour que

1:07:24l'association fonctionne. OK. Donc il y a quatre ou cinq questions dans votre question. Alors la première chose sur euh sur la relation de de l'humain du futur vis-à-vis de système intelligent peut-être super intelligent, c'est-à-dire plus intelligent que les humains dans tous les domaines. Il y a pas il y a pas il y a il y a pas de raison de douter que ça va arriver. Il a il y a pas de doute. Ça va arriver. On aura des machines, ça va pas arriver l'année prochaine, mais on aura des machines à un certain moment qui seront plus intelligents que les humains dans tous les domaines à peu près et probablement beaucoup plus intelligent dans certains domaines. Euh ça va venir pas avec les LLM ça. Il

Intelligence animale, causalité et clôture

1:08:07y aura d'autres technologies peut-être basées sur les world model peut-être ce que construit à Milabs, mais ça va prendre du temps. Ces systèmes bien qu'ils soient plus intelligents que nous seront sous nos ordres. c'est-à-dire qu'ils seront construits pour obéir à nos requêtes. Euh et l'activité humaine sera en grande partie euh d'être le patron d'une équipe super intelligente de gens qui de gens virtuels qui qui travaillent pour nous, d'assistant intelligents qui travaillent pour nous. On aura toujours la dans les mains la la décision de de savoir ce sur quoi travailler. Bien sûr, on aura des machines intelligentes pour nous aider à réaliser les projets qu'on qu'on imagine, mais l'imagination de ces

1:08:56projets est toujours dans nos mains. C'estàd que l'utilité pour l'humanité de de quelque chose de nouveau, que ce soit un produit ou un produit intellectuel ou quel qu'il soit, c'est proprement humain. Donc donc ce sera dans nos mains. Donc ce sera quand même travailler avec une équipe de gens super intelligents. Alors je sais pas si vous êtes enseignant à Science Po oui. Euh vous avez des étudiants en doctorat ? Je suis sûr qu'il y en a qui sont plus intelligents que vous. Moi, en tout cas, j'en ai qui sont plus intelligents que moi. [rires] C'est la meilleure chose qui puisse vous arriver, c'est d'avoir des collègues qui travaillent avec vous, qui sont plus intelligents que vous et qui sont prêts

1:09:35à vous écouter quand vous leur demandez de faire quelque chose. Euh et donc ça va être un petit peu la situation de l'humanité, une amplification de l'intelligence, de l'efficacité, de décisions rationnelles et cetera et de de capacité et technique d'une certaine manière. Mais mais à la fin, on est toujours ceux qui décident. Alors ensuite, il y a la question de l'apprentissage social. J'ai l'opinion exactement inverse de ce que vous avez dit, c'est-à-dire queà mon avis, l'utilisation de l'interaction sociale pour l'apprentissage facilite l'apprentissage. Ça rend pas plus compliqué, ça rend plus simple. C'est en fait un une amélioration qui est propre dans la nature au au aux espèces sociales qu'elles peuvent utiliser euh

1:10:19la diversité de de de compétences entre les individus pour en fait être plus efficace en tant que en tant que tribu ou espèce. Donc c'est euh c'est une propriété qui qui s'applique aux humains, au aux babouin, au chimpanzés, au certainement au loup et donc au chiens. Ce sont des espèces sociales mais qui s'appliquent pas du tout à des espèces très intelligentes comme par exemple les enoutants. Les enutants sont pas du tout sociaux, ils apprennent de leur mère mais les enoutants eux-mêmes sont territoriaux et donc interdissus très peu avec leur semblable. Euh ils ont pas de problème d'interaction sociale parce que l'interaction sociale consiste à chasser les autres individus qui sont trop prêts pour garder le territoire.

1:11:16Euh et pourtant ce sont des animaux incroyablement intelligents, presque aussi intelligents que les humains. On a l'impression d'être beaucoup plus intelligents que mais en fait non, on est juste un tout petit peu plus intelligent quee eux. Euh et puis tout un tas d'espèces qui deviennent vraiment intelligents et vraiment très vite sans aucune interaction avec leur congénère et avec leurs parents. Bon exemple, les poulpes. Les poulpes quand ils naissent, ils sont à peu près grands comme ça. Ils vivent environ 2 ans. Ils ne rencontrent jamais leurs parents parce que leur mère meurt dès qu'ils sortent de l'œuf. Euh ils deviennent vraiment intelligents vraiment vite. Euh les coucous compte jamais leurs parents euh et bon et c'est

1:11:55pas unique et c'est ces animaux qui sont pas bêtes du tout. Donc euh quel est le mécanisme par lequel un animal peut devenir intelligent sans avec très peu d'interaction avec ses congénères ? C'est c'est un grand mystère pour moi et l'interaction avec les congénères accélère le processus d'apprentissage bien sûr parce que du coup on peut apprendre par imitation donc c'est ça facilite l'intelligence. Alors ensuite, il y a tous les problèmes de compréhension de comportements sociaux qui eux peuvent être compliqués parce qu'il faut un modèle du monde de l'autre individu qui en général n'a pas des motivations alignées avec les les nôtres pas toujours. Donc là ça devient compliqué, on est d'accord et c'est des

1:12:36situations un peu antagonistes peut-être. Oui, merci beaucoup d'avoir été au piniatre c'est ici au piniatre et d'avoir continué c'est important les petites phrases qu'on a eu là qui nous chauffai qui étaient des phrases qui viennent de vous AI systems that understand the real word on peut comprendre d'un texte et de ce point de vue là les LLM sont quand même très forts. On peut comprendre le monde dans le sens de ce que vous avez donné c'estàd très physiquement avec un verre qui tombe. Mais si et j'ai j'étais assez sensible à ce que vous avez dit, on veut essayer de comprendre les conséquences de ces actions ou d'une chaîne d'action, est-ce que finalement c'est pas plus facile de repasser par l'abstrait d'un

1:13:23LLM plutôt que de quelque chose trivialement ? Ma question, c'est dans quel sens pour ces trois types de choses vous comprenez comprendre ? Est-ce qu'un Est-ce qu'un chat de gouttière a besoin de la langue pour savoir comment sauter comment sauter d'un d'un toit à un autre ? ou à grimper à grimper au mur en rebondissant d'un côté et l'autre. Ils ont une compréhension de leur propre physique d'abord et l'interaction de leur patte avec l'environnement et de l'environnement de la friction et cetera qui est hallucinante et ils n'ont pas besoin de la langue. Euh pareil pour la plupart des primates euh à part les humains qui n'ont pas besoin de la la langue en tout cas de langue de avec la complexité de de la langue humaine. Donc

1:14:10la langue bien sûr peut aider à partir au-delà d'un certain niveau d'abstraction. [raclement de gorge] il est probablement plus rapide et plus facile d'apprendre des concepts en utilisant la langue. Mais sur quelle fondation va se baser cette connaissance si elle n'est pas ancrée dans le dans la réalité ? C'est tout c'est tout un problème philosophicau disons que se posent à la fois les philosophes, les gens des sciences cognitives et les informaticiens de de l'IA, c'est est-ce que l'intelligence ne peut être que ancré dans la réalité ? c'est le grounding problem et la réponse à la ma réponse c'est oui. On ne peut pas créer des systèmes intelligents qui comprennent pas la réalité et en fait il

1:15:00y a beaucoup plus de complexité dans la réalité qu'il n'y en a dans dans les symboles abstraits et dans le et dans la langue. Et si on veut pouvoir utiliser à boncient la manipulation de symbole et la langue il faut à la fin qu'elle soit ancrée dans une réalité. Bonjour au milieu ici. Euh merci beaucoup pour votre conférence. Je voulais revenir un peu sur la question de la dangerosité des systèmes. Si on entend, je vous entends dire la technologie elle-même n'est pas intrinsèquement dangereuse. Si on met ça de côté, a-t-il des applications de cette de cette technologie qui peuvent l'être surtout non régulé ? Si on pense à l'exemple qu'a donné Dario Amode dans dans son blog post sur des bottes net

1:15:48qui pourraient être plus puissant que les défenseurs et donc pourrait faire tomber des parties d'internet si on va si on pousse la réflexion plus loin parce qu'il s'appuie sur du code donc du langage qui que qu'un LLM maîtrise finalement très bien. Bon, alors euh ça c'est un bon scénario euh d'un film à James Bond. Euh mais en fait dans la réalité ça marche pas du tout parce que en général les les gens qui s'intéressent à protéger des systèmes ont accès à des technologies et à des compétences supérieures plutôt que que les les ce qu'on appelle les chapeaux noirs hein qui qui essaient de faire des attaques. Donc les gens sont beaucoup posé la question est-ce que l'avènement de ces agents est plus avantageux aux

1:16:34attaques qu'à la défense et c'est très clairement plus avantageux à la défense et c'est pas un problème vraiment nouveau disons qualitativement ça change pas beaucoup de des attaques par virus et cetera on pas besoin pas besoin d'IA pour ça et puis du fishing et autres auquels on est habitué depuis les premiers événements de l'internet et du et de l'email. Euh donc il y a il y a pas de changement qualitatif là-dedans. Euh bien sûr les attaques peuvent être maintenant plus sophistiqué et automatisé mais les défenses aussi. Donc bon pas clair que il y a un changement de de l'équilibre entre les entre les deux. Sinon, il y a d'autres utilisations bien sûr dangereuses potentielles de l'IA, mais il y a aussi

1:17:20beaucoup de scénarios les James Bond là-dedans. C'estàd que des gens comme euh Dario MDI, Yos Benjo et autres disent "Mais que se passe-t-il si un système d'IA vous donne la recette d'un virus qui pourrait éliminer l'humanité et cetera ?" Alors ça ça fait se rouler par terre de rire les biologistes qui disent "Vous savez vous pouvez avoir la recette en fait elle existe même déjà la recette. Vous avez la séquence complète de du virus de Tartompion, mais le synthétiser, c'est une autre paire de manche. Et puis ensuite le le disséminer sans que ça vous tue vous-même, c'est une autre paire de manche encore. Et tu on peut pas faire ça sans une équipe de 50 biologistes triés sur le volet et sans avoir des machines dont il en existe que

1:18:07très peu dans le monde et qui sont toutes contrôlées. Donc vous pouvez pas faire ça en secret, c'est pas possible. Et vous pouvez pas faire ça en secret dans une caverne en Afghanistan ou quelque chose comme ça. C'est c'est c'est vraiment quelque chose de sophistiqué qui va pas passer inaperçu. Et puis euh bon, vous allez avoir euh 50 PhD qui travaillent là-dessus. Ils ont de bien meilleures opportunités dans le monde pour utiliser leur capacité que de faire un virus qui va les tuer. Enfin bon, il faut voir un petit peu aussi de manière réaliste quelles sont les motivations des gens. Donc oui, c'est un bon scénario la JB mais c'est à peu près tout. Bonsoir, merci pour votre intervention. Je suis un peu surprise de voir que

1:18:49l'intelligence humaine soit toujours posée comme un benchmark de l'évaluation des capacités de l'IA alors qu'il y a des animaux par exemple qui sont bien plus efficaces sur ces questions physiques. Donc est-ce que quand vous développez vos modèles, vous prenez en compte d'autres types d'intelligence, de perception du monde ou même de sens que ceux des humains ? Et est-ce que c'est aussi ça pourrait être aussi un nouveau benchmark d'évaluation par exemple ? Oui, excellent question. Alors, il y a un petit un petit livre que je vous recommande de lire qui est par un certain Franck Dovals et dont le titre est en anglais are we Are we intelligent enough to understand how intelligent animals are. Et donc, est-ce qu'on est assez

1:19:31intelligent pour comprendre l'intelligence des animaux ? Et la réponse c'est pas vraiment à vrai dire c'est les animaux sont beaucoup plus intelligents qu'on le pense. Leur intelligence est spécialisé en général dans certains domaines qui sont utiles pour leur survie. Mais les humains sont aussi très spécialisés. On a on a l'espèce d'impression euh un petit un petit complexe de supériorité que l'intelligence humaine est générale. C'est pour ça que certaines personnes dans l'IA appellent l'intelligence du niveau humain artificial general intelligence. C'est complètement faux. L'intelligence humaine est hyper spécialisée. Par contre, elle est très adaptative. C'est-à-dire que euh on a tous des des connaissances et des et des

1:20:19compétences différentes. Si on était généraux, on aurait tous les on pourrait tous acquérir les compétences de de tous les autres humains. Or, c'est pas vrai. Je suis trop vieux pour devenir un pianiste virtuose. J'aimais pris le son piano. Je voudrais bien d'ailleurs, mais trop tard. Donc on est spécialisé, on est très spécialisé. Mais on est très adaptatif, ce qui veut dire qu'on est potentiellement la la le spectre potentiel de tâche qu'on peut apprendre à résoudre, à accomplir en fait est assez large. Mais en pratique, il y en a qu'un petit nombre qu'on est capable de de vraiment faire. C'est pour ça que c'est ça qui fait qu'on peut tirer partie de du fait qu'on ait une une espèce sociale avec la

1:21:10diversité des compétences qu'on a. Mais absolument les animaux sont très intelligents et on comprend pas comment ils deviennent si intelligents si rapidement. On comprend pas même comment comment se fait-il alors ça revient à une question dont j'ai parlé précédemment. Euh comment se fait-il qu'un adolescent peut apprendre à conduire en une vingtaine d'heures de pratique alors qu'on a littéralement des milliards d'heures de données enregistrées de voitures conduites par des experts humains qu'on pourrait utiliser pour entraîner un système de deep learning par imitation à imiter les conducteurs humains. Ça marche pas. C'est pas c'est pas assez fiable quand on entraîne un système comme ça sur des données collectées

1:21:56d'humain par imitation, ça marche pas très bien. Les les voitures quasi autonomes qu'on voit, les les Wo et autres d'abord ne sont pas complètement autonomes. Elles peuvent conduire que dans des zones bien cartographiées, contrôlées et cetera et puis elles ont un système pour pouvoir appeler à la maison si elles sont si elles se retrouvent dans une situation un peu un peu compliquée. Donc elles sont pas complètement autonomes, elles sont au niveau 4, pas au niveau 5, malgré le fait que il y a une quantité de d'ingénierie et de capteur exotique et cetera qui dans le design de ces machines qui est qui est énorme et le fait qu'on ait énormément de données d'entraînement mais c'est pas suffisant. Donc, on n'

1:22:40toujours pas découvert les secrets, les mécanismes qui permettent euh aux humains et aux animaux d'apprendre si vite une nouvelle une nouvelle tâche ou même d'accomplir une nouvelle tâche sans sans apprentissage dès le premier coup. On essaie on espère faire des progrès vers ce une efficacité de ce type là avec les modèles du monde, avec les world model, avec les dont je ai parlé. Bonsoir.

1:23:11Euh, bonsoir. Merci de votre attention tout d'abord et j'auraiis une question un petit peu plus technique par rapport à votre approche du JPA euh que j'ai trouvé intéressante via le côté un peu, j'oserais dire mystérieux du fait que c'est un domaine qui n'est pas encore maîtrisé. Parfaitement. Comment [raclement de gorge] pourriez-vous démontrer que cette représentation, cette architecture qui est le JPA puisse conserver des variables qui sont causales et nécessaires à la planification au futur et pas juste de l'apprentissage avec des corrélations prédictives qui fonctionneraient sur une distribution d'entraînement. Grossièrement, si deux États du monde auraient des embeddings très proches, soit qu'on aurait des observations de

1:24:12ces derniers qui soient similaires, mais qu'il réagissent très différemment à des actions ou des interventions. Comment est-ce que le JPA pourrait garantir de différencier ces deux systèmes ? Alors, c'est une très bonne question. Ça pose un peu la question de la distinction entre la corrélation et la causation qui est donc on peut effectivement observer observer des quand on observe le monde, on observe des corrélations et puis ensuite comment peut-on interpréter les observations qu'on a pour établir des causalités ? Quelle est la variable qu'on peut influer qui va modifier ce qu'on observe ? Et les humains sont assez bons à ça, mais très loin d'être parfait. Donc par exemple, si on demande un

1:25:05enfant de 5 ans quelle est la quelle est la cause du vent ? Un enfant de 5 ans typiquement va répondre "Le vent, c'est causé par les feuilles des arbres qui bougent." OK ? la causalité est inversée, hein. Euh ou si on demande à une personne un petit peu aléatoire, disons un ou deux siècles dans le passé, quelle est la cause du tonner ? C'est Jupiter ou c'est voilà une divinité quelconque ? En fait, si on était bon, si on était si bon que ça à établir la causalité, la religion n'existerait pas. OK, c'est un peu offensif comme déclaration mais je on a pas 2 heures pour discuter de ce voilà. [rires] OK. Donc la meilleure on entraîne les GP donc des GPA qui sont conditionnés par les actions, c'est on a état du monde

1:25:58qui est qui est résultat de observation, action, état suivant et si action ou intervention. Donc en modifiant l'action et l'intervention, si on a suffisamment d'exemples d'apprentissage, on peut établir la relation causale entre cette intervention ou cette action et le les faits qu'on observe sur le monde. Donc à la fin, les modèles du monde sont des modèles causaux. Je crois qu'on va s'arrêter là parce qu'on a déjà largement débordé. Je voudrais simplement euh vous remercier tous les deux, cher Yannes, cher Éric, parce que au fond euh je vous écoutais et vous nous avez donné beaucoup d'espoir ce soir. Espoir dans le fait que la fin de l'humanité n'était pas pour la semaine prochaine ni pour l'année prochaine, ce qui nous a plutôt

1:26:38rassuré. Espoir dans le fait que nous allons demeurer les maîtres de notre destin humain. Espoir dans l'importance d'avoir des idées et donc dans ce que nous faisons ici en terme de formation également. et puis espoir dans notre capacité à faire dialoguer les sciences les plus dures euh les sciences les plus exactes, c'estàd les mathématiques parmi les plus complexes, la technologie et ce que nous faisons ici en sciences humaines et sociales. Et donc pour tout ça, je voudrais vous remercier tous les deux et vous demander d'applaudir nos invités. Merci. Merci. [applaudissements]

1:27:21[applaudissements]

1:27:27[applaudissements]