Audition d'Isabelle Ryl, directrice de la Paris School of AI
Legend
Transcript markers
- text Sentence being played
- text Search result
- text Intervention cited by the link you opened
Click a sentence to play the video from that moment. Select text to quote it with the speaker, timestamp and link.
More options
CE financement des politiques publiques Sénat
Isabelle Ryl
Donc l'utilisation de l'IA par les étudiants et les enseignants-chercheurs est évidemment un sujet de réflexion important pour nous, d'autant plus difficile que la technologie évolue à une vitesse sans commune mesure avec le temps institutionnel de la création des maquettes, voire même des règlements de scolarité qui indiquent ce qui est utilisable ou pas. Et donc les réponses que je vais vous donner aujourd'hui reflètent de ma connaissance ou de mon opinion sur le domaine à cet instant et ne seraient certainement pas les mêmes dans quelques années, voire même dans quelques mois. Donc tout d'abord l'impact de la technologie sur l'éducation, c'est comme dans beaucoup d'autres domaines, un potentiel important. Mais il faut prendre du recul et ni céder à l'affolement des grandes déclarations qui nous viennent souvent de l'ouest de l'Atlantique, ni le mettre au ban de la société puisque ça va vraiment être un outil accélérateur. Il faut que nos étudiants soient pleinement prêts à l'utiliser, l'intégrer dans leur vie professionnelle, mais de manière réfléchie.
Et donc bien évidemment, il n'est pas question pour nous de laisser l'étudiant seul face à son IA générative préférée qui pourra l'emmener là où il le souhaite. Alors le reste de mon propos parlera essentiellement d'IA générative, mais il existe d'autres choses dans autour de l'enseignement que vous avez dû voir. Et par exemple une société française comme Nolej, que vous avez peut-être rencontrée, utilise l'IA pour créer des contenus interactifs adaptés, etc. Donc faire vraiment quelque chose de d'attractif pour les étudiants, mais à partir du contenu de l'enseignant. Et donc il est parfaitement maître de son contenu et de ce qu'il souhaite transmettre.
Il ne s'agit pas d'aller questionner un chatbot qui va répondre quelque chose dont on ignore la provenance. Donc votre questionnement sur l'influence que peuvent avoir les technologies d'IA, donc maintenant essentiellement génératives, sur les comportements, les représentations, est à mon sens très très extrêmement important. Alors je suis loin d'être spécialiste du comportement et de ces choses-là. Et je pense que dans ce dans ce domaine-là au sein en tous les cas de l'université PSL, c'est le département d'études cognitives de l'École normale supérieure de PSL qui devrait vous apporter les meilleurs détails. Mais en tout cas, l'influence est nette et il s'avère qu'aujourd'hui quasiment tous les étudiants utilisent l'IA générative de manière quasi quotidienne.
Donc bien évidemment, une fois qu'on a admis cette existence cette utilisation massive de l'IA de l'intelligence artificielle générative sauvage ou encadrée, se pose également la question de l'équité face aux ressources puisque ces ces usages sont en général gratuits mais les les versions payantes sont beaucoup plus efficaces. Et donc l'idée pour l'université de mettre à disposition des outils ou pas. Et donc il a toujours été enfin en tous les cas à mon sens une cette manière d'influence mais pour moi pas d'influence sur le comportement mais plutôt économique des grands acteurs de mettre à disposition des outils dans les écoles et universités simplement pour apprendre aux étudiants à s'en servir et les habituer à les avoir à disposition, habitude qu'ils garderont probablement dans leur avenir professionnel par la suite. Ça a été le cas avec une suite bureautique célèbre, mais ça a été le cas quand j'étais jeune maître de conférences. Nous avions encore des langages de programmation dans lesquels certains compilateurs étaient payants.
Et bien évidemment, c'était mis à disposition des universités. Nous retrouvons exactement les mêmes choses aujourd'hui. Et en particulier une des grandes enfin une des grandes un des grands coups de Nvidia, c'est pas c'est bien évidemment d'avoir la plus grande part du marché de la production de puces, mais également d'avoir une plateforme logicielle propriétaire pour y accéder et donc d'avoir entraîné des générations de jeunes à utiliser leurs outils. Pour les IA génératives, je pense que c'est un peu la même chose. Un certain nombre d'entreprises sont en train de créer une dépendance économique puisque même l'usager personnel est très vite tenté de mettre quelques euros s'il en a les moyens pour avoir une version un peu plus puissante.
Et pour les entreprises, le coût de l'usage de ces modèles est extrêmement important. Donc on est en train d'assister à la mise en place d'une dépendance économique avec le risque que les les les coûts enfin les les prix augmentant un peu à la fois, on se retrouve dans un cercle vicieux d'une dépendance totale. Alors côté université, un une alliance s'est mise en une alliance s'est mise en forme pour envisager un modèle avec Mistral comme beaucoup d'autres administrations françaises l'ont faite. C'est une l'avantage c'est le modèle français.
Ça reste une entreprise. Donc ça ne casse pas complètement le le problème économique. Les puisque évidemment comme vous l'avez entendu forcément très souvent ces IA ne sont pas neutres en fonction du corpus sur lequel elles ont été entraînées leur comportement peut être différent. Et bien évidemment sans aucune malignité de la part d'une entreprise qui produirait un modèle d'IA générative les corpus disponibles sont par exemple beaucoup plus nombreux en en langue anglaise ou même en langue espagnole que dans d'autres langues y compris la nôtre. Donc tout ça entraîne des biais voulus ou pas mais qu'on ne peut pas ignorer.
Le risque que l'utilisation de ces différents algorithmes puisse ensuite avoir une influence à long terme sur les sur tout ce qui se produit dans l'université sur tout ce qui se produit au-delà dans la décision publique c'est un risque qui est je pense avéré mais pas inévitable. C'est toujours le la même question de du recul qu'on a par rapport à l'outil par rapport à l'usage qu'on en fait. Et c'est là que je pense est toute la mission de l'université aujourd'hui c'est de parvenir à éduquer la prochaine génération d'étudiants de manière à ce qu'ils aient le même regard sur ces outils que vous et moi qui sommes nés dans un monde où ils n'existaient pas. À savoir être capable de les de de juger leurs résultats d'avoir le bon sens paysan minimal de d'avoir l'intuition. Aujourd'hui la plupart des des étudiants ou des jeunes ne savent pas poser une division.
Mais c'est pas très grave du moment qu'ils s'aperçoivent que si on multiplie je ne sais pas moi cent par un milliard ça peut pas faire douze. Il y a une notion d'ordre de grandeur de de logique et c'est là qu'est toute la difficulté pour nous aujourd'hui d'inclure complètement l'IA générative et les modèles dans l'éducation sans pour autant se laisser laisser les étudiants comment céder à la facilité à la paresse. Donc pour ça nous nous n'en sommes qu'au début de l'histoire et et c'est à nous de de gérer ça au mieux. Je vais m'arrêter là pour ce propos liminaire et je suis à votre disposition pour répondre à vos questions.
Madame la rapporteure.
Colombe Brossel
Merci. C'est un côté vertigineux à la la dernière phrase que vous venez de prononcer. On est au début maintenant à nous de gérer. Merci beaucoup pour ces propos introductifs madame Ryl. Je vous avez posé le le fait que les universités françaises s'étaient organisées pour ne pas être dans une spirale de dépendance vis-à-vis des des acteurs économiques de l'IA générative et notamment américaines et chinoises c'est le sujet qui est devant nous.
Est-ce que pour autant ces acteurs économiques font partie des acteurs privés qui travaillent que ce soit avec Prairie ou avec avec l'établissement que vous dirigez ?
Isabelle Ryl
Alors dans j'écoutais l'audition précédente et j'aurais à peu près la même réponse que que mon ministre Dieu merci c'est qu'il y a une différence pour moi entre l'enseignement et la recherche. C'est-à-dire qu'on on bénéficie assez rarement voire pas du tout de financements directs privés sur l'enseignement. Par contre bien évidemment nous avons un grand nombre de partenariats de recherche et effectivement parmi ceux-ci des différents alors je vais pas dire tous parce que c'est pas vrai mais un grand nombre des producteurs d'IA générative américains. Chinois non.
Nous avons à une époque été fortement courtisés, je pense comme beaucoup d'autres établissements français, par un grand groupe de télécommunications chinois, mais sans sans jamais donner suite.
Colombe Brossel
D'accord. Parce que finalement ce qui est compliqué, mais j'imagine que ça doit être compliqué pour vous comme pour vos vos homologues et vos pairs, c'est d'arriver à tenir cet équilibre qui ne doit pas être si simple que ça. Ces acteurs existent, ils sont d'ailleurs leaders sur sur ce marché-là et donc ce sont aussi des acteurs avec lesquels vous vous travaillez dans le domaine de la recherche. Et en même temps, le fil le fil de la souveraineté est construit avec avec Mistral. Comment, enfin pardon pour la trivialité de ma question, mais est-ce que parce que ce sont des acteurs qui ne sont pas souverains, est-ce que ça induit ou ça a induit dans le passé et comment est-ce que vous vous prémunissez du fait que ça puisse arriver, est-ce que ça a un impact sur les projets de recherche, soit en termes de développement, soit sur des sujets qui de fait ne seraient pas abordés ?
Je je vous donne un exemple pour illustrer mon propos, peut-être que l'exemple est complètement à côté de la plaque, mais longtemps la question de la sobriété énergétique de l'IA n'a pas complètement fait partie du modèle global de discussion et d'échanges et de développement économique sur ce sujet. Et ceux qui parlaient à l'époque de la question de la sobriété énergétique paraissaient être un peu des oiseaux illuminés. Bon, de fait aujourd'hui, c'est un sujet qui a été intégré par tout le monde sur le fait que le développement de l'IA générative n'était pas sans impact du point de vue des ressources. Est-ce que ces cette participation de ces acteurs qui sont en même temps les producteurs et les initiateurs, est-ce que ça empêche un certain nombre de sujets, je parle en termes de recherche, d'émerger ? Est-ce que ça les freine ?
Est-ce qu'il y a des des irritants qui sont plus identifiables ? Et du coup comment est-ce que vous, de là où vous êtes, vous arrivez à vous prémunir de cette forme à la fin de stratégie d'influence qui ne qui ne dirait pas son nom puisque tel est le fil que que nous tirons ?
Isabelle Ryl
Alors je vais commencer par la conclusion puis je vous expliquerai comment j'essaierai de vous expliquer comment j'arrive là. Je pense et j'espère, alors peut-être suis-je naïve, que nous ne subissons pas d'influence. Les pour pour plein de raisons différentes, déjà nous avons une position relativement privilégiée. C'est-à-dire qu'au sein de Prairie, nous avons des chercheurs qui sont d'une très grande renommée et qui ont donc le choix de ce qu'ils font. Qui sont nous sommes relativement bien financés en IA et par les clusters en particulier.
C'est-à-dire que pour moi, je verrais pas un évitement de sujet mais peut-être plus si à un moment donné vous avez dans un domaine de recherche un manque cruel de financement, effectivement vous ne trouverez peut-être pas le moyen de financer quelque chose qui n'intéresserait aucune entreprise. Ce n'est pas notre cas aujourd'hui. Et par ailleurs, ce même pool de chercheurs est en général assez brillant pour recevoir enfin pour obtenir les fameuses bourses ERC, la Commission européenne, qui sont aussi des financements importants et totalement libres. Donc nous ne sommes pas dans une nous ne sommes pas en famine.
Voilà. Donc déjà c'est un point qui évite qui permet d'être plus plus raisonnable pour faire ses choix. Par ailleurs, dans ces grands groupes que vous mentionnez, un grand si on refait l'histoire, on est d'abord très très content qu'ils se soient installés à Paris. Si il y a alors entre 2015 et 2017, ils avaient choisi parce qu'à l'époque ils hésitaient. Ils hésitaient entre Londres et l'Allemagne.
S'ils étaient allés ailleurs, on ne parlerait peut-être pas de Paris de la même manière sur le sur l'échiquier mondial de l'IA. Donc ils sont là, ce sont des voisins peut-être un peu encombrants, voilà, mais nous sommes contents de les avoir. Dans ces grands groupes, dans les grands laboratoires de recherche, un très grand nombre des chercheurs viennent de chez nous. Et donc ça rend le dialogue extrêmement facile. On n'est pas dans une relation à construire et donc les les sujets qui peuvent qui pourraient être des irritants par moments sont beaucoup plus faciles à traiter parce que deux personnes qui se connaissent prennent leur téléphone et puis et puis en parlent.
Donc dans ce dans ce contexte-là, je ne pense pas qu'on subisse une influence sur les sujets de recherche qui sont choisis. Dans d'autres contextes, bon après c'est...
Étienne Blanc.
Étienne Blanc
Donc comme j'étais un peu court pour trouver une question qui ait du sens, je suis allé sur ChatGPT qui m'aide dans la rédaction de ma question. Voilà. Mais je le dis. Voilà, je pense que dans ce domaine il faut avoir une certaine sincérité. Voilà.
Non, c'est c'est une une question les fondations privées qui participent au financement de l'école ont-elles ensuite accès à des travaux ou à des expertises qui sont susceptibles d'influencer les politiques publiques ?
Isabelle Ryl
Alors comme quoi l'outil est utile. J'ai alors dans la Paris School of AI au sens stricto sensu ou dans le cluster, nous n'avons pas à ce jour de financement de fondations privées. À notre grand regret, nous aimerions beaucoup collecter plus de mécénat mais ce n'est pas le cas pour le moment. Quoique j'ai nous avons une entreprise j'ai peut-être dit une bêtise parce que ça passe peut-être par par leur fondation. Mais c'est une grande entreprise française qui qui nous donne du mécénat sans sans aucun contrepartie.
Sur sur des travaux un peu plus côté SHS et impact, il y a des des travaux qui peuvent être menés alors je sais pas si on je sais pas si on appelle ça influencer les politiques publiques mais en tous les cas des position papers ou des des travaux comme ça qui peuvent être publiés mais qui de ce cas sont publiés urbi et orbi. Ils ne sont pas à destination d'un d'un donateur ou même d'un partenaire quelconque. Le on n'est pas dans ce côté-là. Sur la sur tout ce qui est le sujet de votre de votre qui vous intéresse beaucoup sur la transparence puisque vous avez annoncé c'est aussi un sujet qui est pris très au sérieux et qui est aujourd'hui tout à fait géré par exemple dans chez NeurIPS, la grande conférence autour du machine learning et statistiques, la plus grande conférence en IA du monde, l'usage de l'IA générative est autorisé pour la rédaction des papiers mais dans un certain nombre de cas. Et donc ils sont listés par exemple pour peaufiner la grammaire, pour pour des petits détails de rédaction.
Et c'est aussi autorisé si c'est un élément méthodologique de la démarche scientifique, mais à ce moment-là ça doit être documenté. Par contre, c'est strictement interdit pour les reviewers, ceux qui relisent les papiers, puisque effectivement leur devoir de confidentialité fait qu'ils ne peuvent pas partager avec une autre personne le contenu du document qui leur est soumis, y compris avec un LLM. Donc ça c'est parfaitement documenté et c'est un problème de confidentialité. Le risque d'emballement du système qui serait basé sur l'usage massif de l'IA dans ce sens-là, même si ça sort un peu de votre commission, c'est d'avoir et bien des deux côtés, vous avez deux interlocuteurs, l'un utilise l'IA pour rédiger, l'autre pour relire, et au final on a un appauvrissement complet du domaine. Là où on a plus à craindre pour moi d'influence, enfin d'influence, c'est pas tant sur l'influence qu'il y aurait sur les travaux qu'on a.
Nous notre problème c'est la débauche. C'est l'attractivité que peuvent avoir des entreprises ou d'autres pays vis-à-vis des personnes qu'on forme puisque nous n'avons pas de secret de fabrication d'un silicium ou autre, c'est le modèle qui est publié, il est publié, et c'est la capacité du chercheur à créer le suivant qui est importante. Et donc c'est ça notre trésor de guerre sur lequel nous veillons.
Colombe Brossel
Et c'est d'ailleurs paradoxal parce qu'en effet le principal risque c'est certainement de voir partir des talents qui ont été formés, accompagnés par l'université et le cluster. Et quand on échangeait tout à l'heure, quand vous avez dit en fait la plupart des chercheurs dans ces groupes non souverains viennent de chez nous et c'est ce qui facilite le contact. Et donc c'est finalement assez paradoxal. Comment est-ce qu'on assure le fait que voilà, on leur donne envie finalement à ces chercheurs de rester dans un cadre qui soit celui de la recherche ou qui soit celui de la souveraineté européenne plutôt que transatlantique ?
Isabelle Ryl
Ce n'est pas forcément toujours facile. D'abord on ne veut pas forcément faire de la rétention parce que la recherche scientifique elle se joue à l'échelle de la planète et il est très important que des Français aillent travailler dans les laboratoires étrangers, dans les universités étrangères, d'abord pour se former à une autre manière de penser, à d'autres techniques, et puis aussi pour apporter le point de vue qui est développé dans nos universités. Là où nous commençons à être en mauvaise posture c'est quand le solde devient négatif puisqu'à l'inverse nous nous attirons beaucoup de jeunes personnes ou de chercheurs d'autres pays. Aujourd'hui dans les deux formations que j'ai mentionnées tout à l'heure que nous avons ouvertes à la rentrée qui sont à vocation internationale, donc la première année de bachelor en IA et la première année du master IA et société, nous avons dans chacune des deux formations vingt nationalités pour un groupe de trente d'un côté, un groupe de quarante-cinq de l'autre. Et donc ça c'est quelque chose que nous souhaitons, mais nous souhaitons aussi que les bons étudiants formés ensuite se fixent en partie chez nous et pas, c'est nécessaire.
Par contre, là, comme je vous le disais, où nous entrons dans une zone un peu risquée, c'est quand notre solde devient négatif. L'appétence pour la recherche par rapport à l'entreprise, elle existe quand même encore beaucoup. Nous avons, comme vous l'avez déjà entendu, je pense, beaucoup, un problème de salaire. Pas seulement vis-à-vis des grands groupes étrangers, mais même vis-à-vis d'autres universités européennes. Donc ça, c'est quelque chose sur lequel il faut travailler.
Et nous avons sur certains sujets des complications administratives qui peuvent un peu, comment dire, essouffler les gens au bout d'un certain temps, qui ont des facilités plus évidentes dans d'autres domaines. Par contre, nous avons quelque chose qui est quand même extrêmement précieux, c'est la liberté académique, qui a beaucoup existé dans des grands groupes outre-atlantiques qui avaient vraiment des laboratoires de recherche qui étaient organisés, enfin qui donnaient la même liberté que dans nos laboratoires académiques avec peut-être un peu plus de moyens, au sens de moyens de calcul, de moyens de recherche, et plus de salaire. Le tour de vis qui a été donné par les patrons de la tech nous a rendu service en quelque sorte. Ça a rétabli un peu l'équilibre. Et par ailleurs, sur des sujets que vous évoquiez au départ, la sobriété, je pense qu'il ne faut pas faire l'erreur de penser que toute IA est générative.
Beaucoup, beaucoup de recherches actuelles ne sont pas sur l'IA générative. Pour plein de raisons. D'abord parce qu'il y a beaucoup de choses qui se font sans IA générative. Il y a beaucoup de choses qui ne peuvent pas se faire avec de l'IA générative, simplement si vous voulez un résultat exact. C'est bête mais voilà.
Si vous voulez quelque chose qui s'embarque, si vous voulez faire voler un système de reconnaissance dans un drone, ben vaut mieux qu'il ne consomme pas toute la batterie du drone avant qu'il soit arrivé à destination. Vous préférez qu'il n'hallucine pas quand il va choisir de se poser quelque part et voilà. Donc ça, c'est très important. Par ailleurs, toute la phase qui consiste, toute cette course au gigantisme, ce combat entre les différentes grandes firmes américaines qui aura le plus grand modèle, nous ne sommes pas taillés pour la course. C'est pas le métier de chercheur de faire un modèle plus gros que le voisin.
Et donc les sujets qui sont traités sont plutôt par nature plus frugaux, à part évidemment, là je ne parle pas des besoins de calcul par exemple en astrophysique ou autre. Mais la recherche en IA aujourd'hui, en machine learning, ce n'est pas forcément sur ce type de solution. Et les gens qui cherchent la solution de demain, c'est-à-dire la génération qui ira après, n'ont pas forcément non plus en tête de faire quelque chose de gigantesque. De toute façon, on n'a pas les moyens, donc c'est...
Sonia de la Provôté
Moi j'ai juste peut-être une petite dernière question. Le sujet de l'IA et le sujet de l'influence, c'est pas tant ce qui sort, c'est ce qu'on a utilisé, donc à la fois l'algorithme, mais à la fois les données, tous les intrants, et la façon dont on rédige un prompt qui fait qu'au bout du compte on a une influence, enfin une réponse qui peut ou pas avoir valeur d'influence ou en tout cas fonction d'influence auprès de celui ou celle qui en bénéficie, et ça peut être un collectif pour le coup. Et la réponse peut être la même sur un sujet alors que c'est pas forcément la réponse admise au regard de l'intérêt général. Donc la question qu'on se pose finalement, c'est à la fois celle de la transparence, c'est-à-dire des algorithmes, d'où viennent les données. Parce que quand les IA sont fermées, il n'y a pas de problème.
Mais à partir du moment où on va sur la toile, si à un moment on répond, je, vous allez dire que je fais une guerre contre les platistes, mais si sur la toile on ne parle que de la terre plate, à un moment l'IA générative va sortir la terre plate, c'est-à-dire que c'est l'occurrence, la fréquence qui fait les choses.
Et le deuxième sujet, c'est la rédaction des prompts en fait et de la commande. Et pour le coup, là c'est vraiment un sujet éducatif. Vous avez évoqué cette question de l'esprit critique, du bon sens paysan, enfin tous ces sujets-là. En réalité, c'est à cet endroit-là que ça se manifeste ces capacités, ces compétences-là, est-ce qu'on a pu faire acquérir aux générations futures, enfin de maintenant et celles qui vont venir. Et donc comment est-ce que cette question de la transparence, d'une forme d'éthique, d'un regard critique sur les outils tels qu'ils sont conçus, parce qu'on voit bien qu'à un moment il y a un espèce de d'une espèce d'effervescence positive, tout est possible, donc on y va, on y va, on y va, et il n'y a pas de régulation.
Et est-ce que ces sujets-là sont abordés dans votre dans votre école ?
Isabelle Ryl
Alors, il y avait beaucoup de questions dans votre question. Effectivement, le fait que alors quand on parle de modèles qui sont qui ne sont pas fermés et qui ne sont pas qui ne sont pas utilisés cloisonnés sur des sources de données propriétaires, effectivement, il est très difficile, surtout sur les modèles les plus connus, de savoir sur quoi ils ont été entraînés. Quand bien même on le saurait, vu la quantité de données, ça serait extrêmement difficile, enfin ça serait difficile de rester autre chose que macroscopique. Mais même même ça on ne l'a pas. Donc il y a un enjeu de ce côté-là.
Alors de plus en plus, vous avez la possibilité de demander les sources des données de manière à les vérifier vous-même dans dans le prompt, indique-moi d'où viennent d'où viennent tes informations. Là où effectivement je vous rejoins sur la terre qui est plate, c'est sur l'influence. J'ai beaucoup de mal personnellement à croire à l'influence que pourrait avoir par exemple un régime étranger de type États-Unis pour biaiser votre décision de sénateur français en allant fine-tuner l'occurrence de que vous êtes en train d'utiliser pour fausser vos réponses. C'est c'est quand même très très tordu et très sophistiqué. Par contre, quand vous avez des puissances comme la Russie ou la Chine ou si on regarde de l'autre côté plus à l'ouest qui sont passées maîtres dans l'art de la création et de fausses informations, en fait les deepfakes influencent globalement assez peu la population parce qu'on voit assez vite que c'est c'est pas tout à fait vrai, que c'est que les gens ont quand même un certain, à part évidemment des groupes de complotistes qui s'auto-entretiennent, mais la plupart des gens avec leur bon sens savent très bien au bout d'un moment chercher et discerner le vrai du faux.
Par contre, ces masses de données peuvent empoisonner l'apprentissage des modèles. Et là un vecteur de d'influence massive non ciblée, et ça c'est une porte ouverte importante à l'influence. Donc comment évaluer la qualité des réponses, bah à part justement faire ça c'est compliqué. Et ensuite effectivement, le problème du prompt, c'est que pour bien trouver il faut savoir ce qu'on cherche. Et que donc c'est très difficile pour quelqu'un qui ne connaît pas du tout un domaine de bien poser la question du premier coup et donc de bien avancer pas à pas.
Donc c'est un c'est quelque chose qui est beaucoup plus fastidieux que ce qu'on imagine. J'ai un collègue chercheur qui trouve, je vous citerai pas lequel, un des modèles absolument merveilleux.
C'est un des meilleurs chercheurs de machine learning que je connaisse. Il utilise énormément son modèle d'IA générative pour ses papiers de recherche. Mais en disant par exemple : "Est-ce que tu penses que j'ai oublié une référence importante ?" "Tiens oui, tu devrais regarder tel papier." Et donc il regarde le papier, il le lit et il en retire lui-même ce qu'il a à en retirer.
Il estime que c'est une bonne référence ou pas, mais parce qu'il connaît son domaine. Si vous, j'imagine que vous n'êtes pas chercheur en machine learning, si demain vous demandez à votre modèle : "Quel papier dois-je lire en premier ?", il peut vous donner quelque chose de parfaitement pertinent, n'importe quoi ou le papier le plus cité par la Chine, la Russie ou voilà. Et donc si vous n'avez pas la capacité à analyser ce qui vous est remis, là vous êtes complètement pieds et poings liés devant le contenu qui vous est fourni. Voilà. Et donc là c'est très important effectivement.
Apprendre à faire des prompts, c'est important. On a fait, on a mis en ligne un, j'ai oublié le titre, mais un espèce de MOOC grand public qui doit s'appeler un truc du genre "L'art du prompt" pour essayer d'aider tout un chacun à maîtriser ça. Mais effectivement quand vous voyez des choses extrêmement sophistiquées qui ont été produites avec de l'IA, c'est en général, enfin c'est 100 % du temps je pense, par des gens qui auraient pu le faire moins vite, de manière moins précise, de manière moins large, mais qui auraient eu la capacité de le faire parce qu'ils ont eu la capacité de poser la bonne question.
Sonia de la Provôté
C'est bien. Et donc vous avez le sentiment qu'il y a une police qui s'instaure, en tout cas une vigilance au moins à défaut d'avoir pour l'instant les alertes pour dès à présent s'emparer de cette question et en quelque sorte l'institutionnaliser dans l'écosystème ?
Isabelle Ryl
Ah ben oui, je pense. Il y a un enjeu important de formation, mais on est dans le bon terreau pour faire ça parce qu'on a effectivement à la fois les spécialistes d'IA, les enseignants et ce sont des enseignants-chercheurs. Si un enseignant-chercheur n'est pas capable de se questionner, de se remettre en question, de remettre en question sa pratique, il y a un problème. C'est beaucoup plus difficile quand, je ne sais pas moi, si vous imaginez, je prends un métier au hasard, chez les notaires par exemple, c'est peut-être beaucoup plus difficile de s'adapter rapidement à ce type d'évolution. Au sein des universités et des écoles, on est dedans.
Donc c'est quand même l'endroit où ça doit bien se passer. Sinon ça laisse augurer de mauvaises choses pour le reste de l'écosystème.
Très bien, merci beaucoup.
Merci.
Sonia de la Provôté
Merci. Donc on attend vos réponses écrites évidemment et puis les éléments complémentaires que à l'aune de cet échange vous jugerez utiles pour contribuer à la commission d'enquête. Merci beaucoup madame.
Ask anything about this video — I analyse its transcript to answer.