Commission des affaires culturelles : Table ronde sur le thème « Intelligence artificielle et édition : vers un plagiat 2.0 ? »
Legend
Transcript markers
- text Sentence being played
- text Search result
- text Intervention cited by the link you opened
Click a sentence to play the video from that moment. Select text to quote it with the speaker, timestamp and link.
More options
Offset
Transcript offset
Export
Live capture
Versions of this video
Transcripts may differ slightly from one version to another.
Affaires culturelles et éducation (commission) Actual start Assemblée nationale
Alexandre Portier
J'écris au conditionnel, je ne suis pas qualifié pour l'évaluer. Monsieur Renaud Lefebvre, directeur général du Syndicat national de l'édition, que nous avions reçu en janvier dernier dans le cadre d'une table ronde consacrée à l'avenir du secteur du livre. Monsieur Denis Olivennes, président du groupe Editis, l'un des principaux groupes d'édition français, et vous êtes un acteur qui a connu beaucoup de mutations ces dernières années et que vous pourrez donc évoquer aussi à cette occasion. Et Madame Emma Saudin, directrice littéraire de la fiction aux éditions de l'Observatoire, éditions qui viennent de créer un label Livre Sanctuaire 100 % humain, dont la genèse, je dois le rappeler, a précédé les débats autour du roman de Monsieur Aurélien. Donc toutes vos expériences respectives nous permettront d'alimenter un débat que j'espère fécond et utile pour l'avenir.
Je vous propose qu'on puisse commencer tout de suite par Madame Bensamoun.
Alexandra Bensamoun
Monsieur le Président, Mesdames et Messieurs les députés, je vous remercie de votre nouvelle invitation. Je m'exprimerai ici en juriste, en tant que personnalité qualifiée aussi au Conseil supérieur de la propriété littéraire et artistique, mais je n'engagerai pas le Conseil par mes paroles. J'ai présidé et coprésidé depuis 2020 un certain nombre de missions pour le Conseil, donc pour le ministère de la Culture, sur le sujet de l'intelligence artificielle. La dernière mission a été présentée en juillet dernier et elle portait justement sur le statut, mais le statut juridique des productions de l'intelligence artificielle, c'est-à-dire des contenus générés à l'aide de l'intelligence artificielle.
Les recommandations que je formulerai ici sont des recommandations purement juridiques. Elles tiennent donc à l'effectivité du droit et à sa conformité au droit de l'Union européenne et au droit international. Je ne prendrai pas de position plus personnelle que cela. Alors le mot plagiat, puisque c'est ce mot-là qui nous a été proposé, c'est un mot qui appartient à la morale, un mot qui appartient aux usages. Le droit ne connaît pas le mot plagiat, il connaît la contrefaçon qui suppose la reprise d'une forme protégée, qui suppose la reprise d'éléments caractéristiques protégés d'une œuvre première, et les idées en droit circulent librement, elles ne sont pas appropriables.
Sous cette expression plagiat 2.0 que vous nous avez proposée, il me semble qu'on peut renvoyer en réalité à trois situations différentes. Elles n'appellent pas les mêmes réponses, d'où l'intérêt de distinguer ces trois situations. La première situation se situe en amont au moment de l'entraînement des modèles. Ces modèles ont été nourris d'œuvres et notamment nourris de livres. Vous l'avez dit, Monsieur le Président, comment protéger ceux qui créent la valeur ?
Le droit de l'Union européenne permet cette opération d'entraînement à travers une exception qui est l'exception fouille de textes et de données, on dit text and data mining, mais à deux conditions. La première condition est un accès licite à l'œuvre.
La deuxième condition, c'est le respect de l'opposition des titulaires de droit, ce qu'on appelle l'opt-out. Encore faut-il pouvoir établir que le livre ou telle œuvre a bien été utilisé pour former ce modèle. Les fournisseurs d'IA ne le disent pas, ils ne fournissent pas l'intégralité des sources qu'ils ont utilisées. Le droit européen a essayé de les y inciter. Dans le règlement européen sur l'intelligence artificielle, un article oblige à dévoiler ces sources d'entraînement, mais par une expression, par un oxymore dont vous jugerez l'efficacité, un résumé suffisamment détaillé.
Ce résumé suffisamment détaillé ne permet pas au titulaire de droit de savoir, de lever l'obstacle et de savoir si le livre ou telle œuvre a été utilisé pour entraîner ce modèle.
C'est pour lever cet obstacle qu'a été conçu, vous en avez parlé Monsieur le Président, la présomption d'utilisation. Avec cette présomption, le titulaire de droit n'aurait plus à prouver l'utilisation de l'œuvre elle-même. De toute façon, c'est une preuve qui est hors de sa portée, il ne peut pas rentrer chez le fournisseur d'IA et vérifier ce qui a été utilisé. Donc il n'aurait plus à prouver cette utilisation, mais à prouver un indice qui rend vraisemblable cette utilisation. La présomption est une figure juridique, un instrument juridique qui est très, très utilisé en droit, qu'on trouve notamment dans le Code civil dans de nombreux articles et qu'on connaît également en propriété littéraire et artistique.
Dans ce cadre-là, le fournisseur qui lui détient l'information, et bien pourrait toujours démontrer le contraire puisqu'il s'agirait d'une présomption simple. Une proposition de loi a été déposée au Sénat en ce sens en décembre 2025.
Le Conseil d'État a jugé le dispositif conforme à la Constitution et au droit de l'Union européenne. Le Sénat a adopté le texte à l'unanimité en avril. Votre commission a établi son texte le 2 juin et votre rapport d'information de juillet y a vu un mécanisme juridique opérationnel. Il reste à examiner ce projet en séance. Je peux juste ajouter qu'au niveau européen, un rapport du Parlement européen a repris cette idée de présomption d'utilisation et également qu'en Belgique, une proposition de loi a été déposée qui reprend la proposition française.
La deuxième situation qui appelle l'expression plagiat 2.0 selon moi, c'est celle du livre, un livre qui reproduit, un livre qui imite. Ici, le droit existant suffit.
Nous avons les armes. Lorsqu'un texte reprend de manière reconnaissable les éléments originaux, les éléments protégés d'une œuvre de l'esprit, alors il y a contrefaçon, que cette œuvre, ce deuxième, que ce deuxième ouvrage ait été d'ailleurs écrit par une personne ou produit par une machine. En revanche, imiter un style n'est pas en soi interdit car un procédé ou un courant, et bien, appartiennent à tous, appartiennent au fond commun en quelque sorte de la littérature.
Mais quand le style devient l'empreinte de l'auteur perceptible dans des éléments précis, alors la protection est susceptible de jouer. Vous avez peut-être, vous vous souvenez peut-être lors d'une sortie d'une version assez récente d'un grand modèle, la possibilité de générer des contenus à la manière des studios Ghibli. Donc imiter un style et bien parfois la protection ne joue pas, parfois elle jouera lorsqu'on reprend vraiment l'empreinte, ce qui caractérise une œuvre protégée. Et puis en tout état de cause, si jamais la contrefaçon ne peut pas jouer, l'action en parasitisme pourra prendre le relais. Le juge dispose donc d'un certain nombre d'outils pour ces œuvres qui sont reproduites ou imitées, ce qui lui manque le plus souvent ce sont les preuves.
Enfin pour finir la troisième situation, c'est celle qui illustre l'actualité littéraire de cette rentrée.
Vous nous en avez parlé, Monsieur le Président, un texte produit par une IA mais qui a été présenté comme écrit par une personne. Alors ici, ce n'est pas du plagiat comme on peut l'entendre. C'est une question plutôt d'authenticité et le droit d'auteur répond en partie à ce sujet mais de manière différente, vous allez voir. L'écrivain qui se sert de l'intelligence artificielle comme d'un outil, c'est-à-dire qui en dirige l'usage, qui en conserve la direction artistique, pourrait-on dire, c'est-à-dire dont les choix se lisent dans le résultat, dans le livre, et bien cet écrivain ne fait qu'utiliser un outil et il reste l'auteur du contenu qui est produit.
En revanche, si cet écrivain a laissé à la machine les choix pertinents, les choix caractéristiques, les choix originaux qui donnent au texte sa forme justement, il n'y a pas d'œuvre et le texte relève alors directement du domaine public. Il n'a alors aucun droit à céder à son éditeur et la garantie qu'il doit à son éditeur se trouve engagée. Notre droit positif présume l'auteur, c'est-à-dire celui sous le nom duquel l'œuvre est publiée, mais il ne présume jamais l'originalité, c'est-à-dire les choix libres et créatifs faits par l'auteur, par l'écrivain, l'expression de sa personnalité dans ce livre. Deux garde-fous me paraissent ici essentiels une fois qu'on a énoncé ce partage.
D'abord, aucune déclaration, aucun label ne doivent conditionner l'existence du droit, c'est-à-dire la naissance du droit d'auteur. Pourquoi ? Eh bien parce que la Convention de Berne, qui est une convention internationale qui nous unit tous sur le droit d'auteur, interdit les formalités préalables pour l'accès à la protection. On ne peut donc pas conditionner l'accès à la protection à un label ou à des formalités préalables. Ensuite, un logiciel de détection au sens du droit fournira un indice mais jamais une preuve juridique. Le seul apte à juger, ce sera le magistrat, le juge, et il aura uniquement un indice, un score ne pourra jamais à lui seul permettre, fonder une sanction.
Alors le rapport d'information de votre commission a recommandé en juillet dernier d'inscrire dans le code de la propriété intellectuelle l'exclusion des contenus qui seraient entièrement générés par l'intelligence artificielle.
Comme je viens de vous le montrer, le droit positif y conduit déjà. Les contenus générés par l'intelligence artificielle ne sont pas protégés par le droit d'auteur. Seuls les contenus où l'auteur a utilisé l'IA comme un outil peuvent accéder à la protection du droit d'auteur. Sans originalité, sans choix libre et créatif d'un auteur, il n'y a pas d'œuvre, et sans auteur et sans œuvre, il n'y a pas d'auteur.
Si vous choisissez pourtant, malgré cela, d'écrire ce texte et de l'intégrer dans le code de la propriété intellectuelle, aussi par souci de pédagogie, c'est important, eh bien je vous inviterais à n'y ajouter ni présomption d'originalité puisque la Cour de justice le refuse, ni formalité préalable puisque la Convention de Berne nous l'interdit. Dans ces trois situations, la difficulté finalement, vous le voyez, est la même. La difficulté aujourd'hui est la preuve. En amont, la loi peut la faciliter, cette preuve. En aval, ce sont plutôt les contrats, les usages de l'édition qui vont pouvoir organiser tout cela par des clauses, des clauses entre les auteurs et les éditeurs.
On va aussi l'organiser peut-être dans les règlements de prix, mais sans que cela ait de conséquence sur la protection du droit d'auteur parce que bien sûr, un prix littéraire peut avoir des règles différentes du droit d'auteur. Un prix littéraire peut exiger davantage que le droit sans aucune difficulté parce qu'il ne poursuit pas le même objectif.
Le prix littéraire juge le mérite alors que le droit d'auteur a interdiction de prendre en compte le mérite pour l'accès à la protection. Le prix littéraire peut également réserver sa reconnaissance à une écriture humaine sans que cela n'ait de conséquences sur l'accès à la protection par le droit. Je vous remercie pour ce moment de parole.
Speaker 4
Merci beaucoup et j'imagine que ça suscitera beaucoup de questions. Monsieur Fitoussi ?
Samuel Fitoussi
Monsieur, mesdames les députés, je vais donc vous livrer mon pronostic pour l'avenir de la littérature dans les années à venir. L'IA peut et pourra de plus en plus produire des livres exceptionnels dans toutes les catégories, du roman populaire à l'essai le plus exigeant. Elle saura, à partir de directions générales, adopter un style singulier et profond. Les tics d'écriture auxquels nous reconnaissons sa prose disparaîtront.
Tout ce que nous prenons aujourd'hui pour la signature du génie littéraire humain deviendra reproductible. Les écrivains qui nient cela, qui s'imaginent qu'ils sont irremplaçables, qu'ils disposent d'un je-ne-sais-quoi dont la machine serait à jamais privée, font penser aux mathématiciens naïfs d'il y a six mois. Les progrès de l'IA obéissent en effet à des lois d'échelle prévisibles. Augmentez la puissance de calcul et augmentez la quantité de données, même synthétiques, et vous obtenez de meilleurs modèles. À cela s'ajoute l'apprentissage par renforcement à partir des préférences humaines, ce qui entraîne les modèles à comprendre finement ce qui nous émeut et nous pousse à tourner la page.
Ceux qui pensent que le génie d'un auteur se déplacera dans l'art du prompt se bercent d'illusions. Désormais, un prompt d'une ligne peut déclencher un travail coordonné entre des dizaines d'agents collaborant plusieurs heures, capables de se répartir le travail pour explorer des milliers de pistes, les trier, construire une intrigue, imaginer des personnages, rédiger les chapitres, en vérifier la cohérence, reprendre les passages plus faibles, et cetera. Ce que l'IA prendra en charge mieux que l'humain sera donc non seulement le choix des mots, mais aussi la direction éditoriale et la génération d'idées. Le meilleur prompteur sera celui qui aura l'humilité de ne pas interférer dans le travail de son IA. Bref, dans ce nouveau monde, le génie littéraire des futurs Houellebecq, Céline ou Proust ne pourra plus sortir du lot.
L'écriture humaine sera noyée. Même si seulement 0,01 % de la production IA était de bonne qualité, cela représenterait un volume colossal puisque l'IA peut produire des textes à un coût presque nul et à un rythme effréné. À mesure que les textes artificiels occuperont une part croissante des nouvelles sorties, une part toujours plus faible de l'attention humaine sera dirigée vers les textes humains.
Ce phénomène a en fait déjà commencé. Une étude consacrée aux livres auto-édités sur Amazon montre que désormais un tiers des nouveaux titres entrant dans les classements des meilleures ventes contiennent une proportion importante de textes identifiés comme artificiels par Pangram. Et cela se fait au détriment de l'écriture humaine. En trois ans, la part de marché des livres entièrement écrits par des humains est tombée de 100 à 60 % sur le marché de l'auto-édition sur Amazon. Pire, plus un genre littéraire est investi par les productions artificielles, moins les livres écrits par des humains s'y vendent.
Le contenu artificiel se substitue au contenu humain. À terme, tout aspirant écrivain se dira : à quoi bon ? À quoi bon passer des centaines d'heures à me documenter, à réfléchir, à choisir mes mots pour être dans tous les cas soupçonné d'avoir copié-collé ChatGPT, le tout sans trouver de lecteurs ?
Alors les humains cesseront d'écrire. Bien sûr, certains continueront pour le plaisir, mais sans espoir d'être lus, cela restera relativement marginal, surtout dans le cas de l'écriture ambitieuse qui exige du travail et des sacrifices. Tout ceci, pourrait-on objecter, n'est pas une bonne nouvelle pour les écrivains, mais ça l'est pour les lecteurs qui auront accès à des livres exceptionnels produits par des IA. Il est en effet possible que nous prenions plaisir à lire des romans signés ChatGPT. Cela signifierait donc la mort de l'auteur, mais pas de la lecture.
Mais il est aussi possible qu'à long terme, nous nous détournions des textes écrits par l'IA. Je pense qu'il est en effet naïf d'affirmer, comme le font certains, que seule compte la qualité du texte et non la façon dont il a été fabriqué. S'il existait une règle générale selon laquelle seule compte la qualité du résultat, comment expliquer qu'un homme soit davantage ému par une lettre d'amour écrite par son épouse que par la même lettre qu'elle aurait fait générer par ChatGPT ?
Le texte fait partie des choses dont l'origine compte pour une multitude de raisons. Par exemple, je pense que ce qui comble dans la lecture, ce n'est pas seulement le fait de lire une suite de mots intéressante, mais aussi d'entrer en contact, parfois à travers le temps ou à travers les âges, avec un autre esprit. Or l'auteur qui choisit lui-même ses mots donne accès à son esprit à travers une multitude de petits choix. À l'inverse, l'auteur qui prompte délègue l'immense majorité de ses choix à une machine, introduit du bruit entre son esprit et le lecteur. Il n'est donc pas irrationnel de préférer lire un texte écrit par un humain plutôt qu'un texte de meilleure qualité écrit par une IA.
Le jour où chaque lecteur comprendra qu'il fait face, avec une forte probabilité, à la prose de ChatGPT, il risque de cesser de lire ou au mieux, de se réfugier dans les classiques. Aujourd'hui, les livres générés par IA vendus sur Amazon bénéficient de la crédulité des lecteurs, de la présomption d'humanité que l'on accorde par défaut à un texte.
Mais cette présomption s'érode. Son érosion annonce peut-être la fin de la civilisation de l'écrit. Je conclurai toutefois sur une note d'optimisme. La fin de la civilisation de l'écrit n'est pas inévitable. Le remède consisterait à rendre distinguables les textes produits par une IA des textes écrits par des humains.
Si le lecteur préfère les textes humains, il pourrait ainsi leur allouer disproportionnellement son attention. Cela préserverait l'incitation à écrire. Sans cela, le manque d'information crée une défaillance de marché analogue à celle que décrit l'économiste George Akerlof sur le marché des voitures d'occasion. Or, il existe des solutions pour identifier les textes générés par IA, par exemple le filigrane que certains labos d'IA appliquent déjà.
L'idée est d'orienter légèrement le choix des mots par le modèle, sans dégrader la qualité, selon une clé secrète qui permet, a posteriori, de déterminer si un texte a été ou non généré par un modèle d'IA. Cela permettrait aux écrivains qui écrivent encore de pouvoir le prouver, donc de garder la confiance de leurs lecteurs, donc de garder une motivation d'écrire. Une carrière d'écrivain resterait possible pour le prochain Michel Houellebecq. Merci de m'avoir écouté.
Alexandre Portier
Merci beaucoup. Je pense que ça suscitera également beaucoup de questions et de réactions. Monsieur Lefebvre ?
Renaud Lefebvre
Merci Monsieur le Président. Mesdames et Messieurs les députés. Peut-être tout comme Alexandra, peut-être un peu surpris par le libellé que vous aviez choisi pour intituler cette table ronde parce qu'effectivement le thème de plagiat est un terme qui renvoie plutôt à des situations de nature un peu différente à celle qui nous réunit aujourd'hui, et en particulier des situations dans lesquelles un auteur procède à des emprunts d'un autre auteur.
Et ça c'est vieux comme l'édition. C'est vieux comme l'édition et là la situation qu'on évoque aujourd'hui paraît quand même de nature de nature un peu différente mais à la réflexion je me suis dit que c'était sans doute une bonne manière d'aborder les questions les questions qui sont soulevées autour de l'intelligence artificielle parce que d'une certaine manière il y a bien eu plagiat et pas n'importe quel plagiat, le plagiat le plus monumental, le plus intégral, le plus absolu de l'histoire de l'édition, c'est-à-dire le plagiat de la totalité de la création éditée sous forme de livre depuis que le livre existe.
Et c'est ce dont Alexandra Bensamoun parlait tout à l'heure. Si les machines sont aujourd'hui capables d'écrire à la manière d'un romancier, et jusqu'à semer le doute sur un livre qui a été sélectionné par le plus prestigieux des prix littéraires, c'est parce que tous les modèles d'intelligence artificielle ont été entraînés avec des œuvres protégées par le droit d'auteur sans l'ombre d'une autorisation, et ce dès leur première phase de développement. Les acteurs de l'IA se sont rués sur des livres qui présentaient des avantages indéniables pour initialiser leurs modèles, tout simplement parce qu'il s'agissait de contenus et d'œuvres sélectionnés, édités, et dont la qualité intrinsèque présentait un facteur accélérateur extrêmement fort dans le développement des modèles.
Il est maintenant très clairement établi et les choses sont documentées que ce plagiat a été mené par les opérateurs de l'IA en parfaite connaissance de cause. On trouve des traces de correspondance interne des opérateurs de l'IA qui exposent les obstacles et les difficultés, évidemment plus que les difficultés, la prohibition d'un point de vue juridique et qui se livrent à une évaluation coût-avantage du risque juridique par rapport au bénéfice économique. Ce sont des choses encore une fois qui ont été documentées. Et après cette phase est venue le temps de la dissimulation des preuves avec tous les moyens techniques dont disposent les intelligences artificielles qui sont évidemment sans limites. Et c'est ce qui fait que je ne peux pas prendre la parole ici sans dénoncer très clairement l'obstruction dont a fait l'objet la proposition de loi dont Alexandra Bensamoun a parlé lors de son inscription à l'ordre du jour de l'Assemblée nationale.
C'est une licence donnée à des acteurs qui se sont rendus coupables de vol et de recel d'œuvres protégées par un droit de propriété.
Il est impératif que cette loi aille à son terme. Nous en avons besoin. Nous ferons sans. Nous ferons sans et nous sommes en train de faire sans, hein, en réunissant des preuves que nous savons maintenant déceler dans les principaux modèles d'intelligence artificielle. Il s'agit de moyens techniques et de moyens financiers qui sont considérables dans une situation où la répartition de moyens est profondément inéquitable entre les titulaires de droits et et les opérateurs d'intelligence artificielle.
La raison pour laquelle ce texte doit aller au bout également, c'est que le pillage s'étend et il se poursuit. Vous avez peut-être entendu parler à cette rentrée d'une autre polémique dont la presse s'est fait l'écho, c'est la situation de ces commandes providentielles reçues par des éditeurs en France, en Allemagne. J'étais à Francfort la semaine dernière, les éditeurs japonais nous en parlaient également, qui comme par hasard portent sur des milliers de titres de leur catalogue en un exemplaire. Et là l'investigation est assez simple, c'est que ces commandes ont été passées par des géants de l'intelligence artificielle par l'intermédiaire de grossistes. Et ces géants de l'intelligence artificielle ont tout simplement confié à des sous-traitants le massicotage, le scan, puis la destruction de tous ces ouvrages pour compléter leur alimentation en œuvres protégées par les systèmes d'intelligence artificielle.
Alors pourquoi et pourquoi maintenant ? Bah tout simplement parce que c'est une illustration du cynisme sans limite de ces acteurs qui cherchent à s'engouffrer dans les brèches ouvertes par la jurisprudence Anthropic dont vous avez peut-être entendu parler.
Anthropic a été condamné en Californie dans le cadre d'une transaction à verser 1,5 milliard de dollars d'indemnisation à des auteurs et éditeurs de livres. Malheureusement, le juge a laissé entendre dans sa décision que si Anthropic s'était procuré les ouvrages de manière licite, il aurait pu se prévaloir peut-être du fameux fair use. Fameux fair use, donc usage équitable. Je vous laisse juge du caractère équitable de l'usage dans lequel on achète un exemplaire pour un usage perpétuel et illimité. Heureusement, nous ne sommes pas aux États-Unis.
Le droit français et le droit européen nous permettent de bénéficier d'un cadre juridique infiniment plus favorable.
Alors voilà pour ce qui relève du plagiat et de la contrefaçon, mais ça a été également évoqué par Alexandra Bensamoun, la situation ne s'arrête pas là. Et je pense que c'est l'occasion pour nous aussi d'alerter sur la prolifération de ce que nous appelons entre nous les faux livres, c'est-à-dire ceux qui sont incontestablement des livres produits 100 % par IA et qui sont produits en masse par une plateforme, Amazon pour ne pas la nommer, via Kindle Direct Publishing, sous couvert d'auto-édition. Là encore, on est dans une situation de dissimulation puisque Amazon ne publie aucun chiffre. Ce que l'on sait, ou très peu de chiffres, les rares chiffres publiés laissent penser que le chiffre d'affaires généré au titre de ce type de production est certainement supérieur, ce chiffre certainement en milliards de dollars à l'échelle mondiale. Alors faute de chiffres, je vous invite les uns et les autres quand vous le souhaiterez à vous livrer à l'expérience.
Il y a de nouvelles tendances aussi dans l'évolution de ce parasitisme qui viennent après effectivement cette production de masse de livres de jeunesse, de livres pratiques, de livres de tourisme, de bien-être.
C'est le parasitisme, mais c'est le parasitisme instantané. Juste pour vous distraire, j'ai fait une recherche hier sur Amazon sur La Maison vide. Lecture méditative de La Maison vide de Laurent Mauvignier. Alors excellent ouvrage certainement, 166 pages, 15,81 €, signé par un célèbre Étienne Valcour. J'ajoute que Étienne Valcour est également un auteur prolifique visiblement et éclectique puisqu'il est également l'auteur d'un ouvrage de référence qui s'appelle Maîtriser le marketing sur Pinterest, vendu également sur la plateforme Amazon à 7,99 € et qui bénéficie d'une notation 5 étoiles.
Voilà. J'ai fait une rapide recherche pour voir si je trouvais un Étienne Valcour.
Le seul que j'ai trouvé sur internet est mort au Québec le 7 mars 1904, donc il a un sérieux alibi. Sérieux alibi. Et ça peut nous amener d'ailleurs à évoquer le titre qui est à l'origine de notre rencontre d'aujourd'hui, C'était ça ou mourir. Lancez une recherche, vous ne trouverez pas moins de cinq titres à partir de 5,99 € qui sont signés d'Octavio Bridget. Alors Octavio Bridget, auteur très prolifique, deux titres qui s'appellent C'était ça ou mourir, auteur qui a pu publier un ouvrage le 17 septembre et le 29 septembre.
Voilà, donc. Et sans parler de Céleste Ombrelle, Lucien Jules et Althea Mornet qui sont évidemment des figures de la littérature contemporaine. Alors, je pense qu'il y a là aussi très clairement matière à dénoncer. Au-delà de la situation individuelle qui est mise en cause par certains, il y a évidemment matière à agir.
Les éditeurs prendront leurs responsabilités, mais il y a également à agir sur le fondement du parasitisme, mais également de la tromperie, de la tromperie du consommateur. Et on est là face à une situation qu'on ne peut pas, qu'on ne peut pas tolérer et sur laquelle il faudra, il faudra intervenir. Voilà. Je fais ce détour simplement parce que je pense que la discussion qu'on a aujourd'hui est là aussi pour objet d'insister sur les enjeux plus fondamentaux sur l'édition que la situation ponctuelle qu'on évoque aujourd'hui, qui illustre également une nuisance, ce que je qualifierais de nuisance. C'est celle qui consiste à insinuer une suspicion dans la chaîne de confiance sur laquelle repose l'édition, une chaîne de confiance entre l'auteur et l'éditeur, entre l'éditeur et le libraire, entre le libraire et le lecteur.
Voilà, et ça, tout ça est effectivement extrêmement pernicieux. Bon, la situation qui a été évoquée est évidemment très complexe en réalité. Multiples questions, aucune réponse simple sur les aspects juridiques. Alexandra Bensamoun en a parlé.
On a bénéficié maintenant d'un cadrage très précis et très détaillé de la situation en matière de protection. En tant que syndicat professionnel, on travaille sur des clauses à disposition des éditeurs qui souhaiteraient les utiliser. Mais la question n'est pas juridique, et pas seulement juridique. Le contrat d'édition, il encadre la relation entre l'auteur et l'éditeur, ce n'en est pas le siège de la relation. Le cœur de la relation, c'est ce que j'évoquais en termes de confiance.
Il y a évidemment des initiatives en matière de pratiques professionnelles individuelles des éditeurs. On réfléchit également, et c'est un des points qu'on réunit nos instances tout à l'heure dans une réunion de bureau, un point inscrit à l'ordre du jour sur ce que pourraient être des actions et des initiatives communes en la matière. Il y a une dimension technique, évidemment les outils de mesure.
Évidemment les outils de mesure, mais ça a été évoqué par mon voisin de droite, c'est-à-dire que la tentation de recours à des outils de mesure, elle est évidemment forte. Ce que disent les bons experts techniques, c'est que leur efficacité risque d'être quasiment nulle d'ici quelques mois compte tenu de la propension des IA à générer elles-mêmes des bruits, des bruits humains. Il faudra peut-être avoir recours à d'autres techniques. On a parlé de l'obligation de transparence. On a parlé des perspectives de watermarking qui inverseraient la perspective en obligeant les opérateurs de l'IA, comme c'est le cas d'ailleurs du fameux article 50 qu'on a évoqué, de signaler la production par une intelligence artificielle.
Voilà de multiples questions. Je pense qu'aucune n'apporte, on sera probablement, en tout cas en ce qui me concerne, difficilement en capacité d'apporter des réponses simples à ces questions, mais je serai à votre disposition pour revenir sur l'ensemble de ces points si vous le souhaitez. Je vous remercie.
Denis Olivennes
Pardonnez-moi. Merci, Monsieur le Président, Mesdames et Messieurs les députés, bonjour. Je ne vais pas revenir, on pourrait avoir un débat philosophique sur ce qu'est un auteur et ce qu'est une œuvre originale. Comme vous le savez, c'est une invention récente puisque les deux datent à peu près du XVIIIe siècle et certains bons auteurs avaient prophétisé dès la fin des années 70, je pense à Roland Barthes, que ces deux réalités allaient disparaître. Il avait écrit un livre qui s'appelait La Mort de l'auteur.
Donc on pourrait discuter longuement de ce qu'est exactement une œuvre originale, de ce qu'est exactement un auteur, mais je crois que madame Bensamoun a donné un certain nombre d'éléments qui permettent de cadrer le débat d'un point de vue juridique. Je voudrais revenir plutôt sur le marché de l'édition et l'impact que va avoir, en prolongeant ce qu'a dit monsieur Fitoussi, l'impact probable que va avoir le développement des livres créés avec l'intelligence artificielle sur ce marché. Et je voudrais faire trois observations. La première, le marché du livre va globalement, va mal, ou en tout cas se détériore. Ça n'est pas lié à l'IA, c'est antérieur à lui.
Nous étions il y a quelques jours à la Foire internationale du livre de Francfort, qui est là, le festival de Cannes de l'édition mondiale, et la Fédération européenne des éditeurs donnait des chiffres qui sont frappants. Au cours des vingt dernières années, le chiffre d'affaires nominal de l'édition a progressé de 10, de 12 %.
Mais dans le même temps, l'inflation générale en Europe a progressé de 65 %. Ce qui veut dire qu'en réalité, le chiffre d'affaires réel de l'édition a décru d'une trentaine de pour cent. Donc la position relative de l'édition s'est détériorée, ce qui signifie que pour des raisons sur lesquelles il faudrait qu'on s'interroge, la préférence des consommateurs est moins marquée qu'elle ne l'était pour les livres, en sorte que l'édition va souffrir de plus en plus d'un effet de ciseau entre l'inflation de ses coûts et l'évolution de ses prix. Et ce qui va avoir un impact sur ses résultats et donc sa capacité à investir dans l'avenir dans des auteurs.
Ce qui est vrai de l'édition européenne est vrai de l'édition française, un peu moins. Un peu moins parce que des mécanismes, notamment la loi du prix unique, de la loi Lang, a permis de limiter la baisse des prix du livre, la baisse relative des prix du livre. Mais donc la détérioration de la position de l'édition française est plutôt de moins 20 % que de moins 30. Il reste qu'elle s'est détériorée. Donc le débat que nous avons intervient dans une perspective, dans un environnement qui est déjà un environnement difficile pour l'édition.
Or, ma deuxième observation, c'est que en théorie, l'IA va accélérer ce phénomène. Monsieur Fitoussi l'a cité, il y a un économiste célèbre qui a obtenu le prix Nobel d'ailleurs pour ses travaux, qui s'appelle George Akerlof et qui a développé le modèle dit, enfin la théorie dite des tacos, les tacos au sens des mauvaises voitures d'occasion. Et quelle est la thèse d'Akerlof ? C'est que dans une situation d'asymétrie d'information, c'est-à-dire dans lequel le consommateur ne sait pas faire la différence, ne sait pas exactement quel est l'objet qu'on lui vend, ne sait pas si l'objet qu'on lui vend est une voiture neuve ou une voiture d'occasion, si cette voiture d'occasion a l'air d'une voiture neuve, il va avoir le réflexe de réduire, de diminuer le prix qu'il affecte, la valeur qu'il affecte à l'objet qu'on lui vend.
Donc en quelque sorte, le mauvais objet va chasser le bon. Le prix moyen va baisser et donc les offreurs de voitures neuves vont se retirer du marché et les offreurs de voitures d'occasion vont augmenter leur présence sur le marché puisque leur prix, eux, va être meilleur. Et c'est exactement appliqué aux livres fabriqués par l'IA ce qui menace de se produire. Ce qui menace de se produire, c'est que les livres fabriqués par l'IA dont le coût de fabrication est nul vont se développer de manière croissante sur le marché et vont créer un effet d'éviction sur les livres fabriqués par des auteurs et produits par des éditeurs dont le coût sera supérieur au prix qui est offert. Est-ce que c'est purement théorique ?
Non.
Et c'est ma dernière et troisième observation. Une étude vient de sortir, pour l'instant elle n'a pas encore été publiée, c'est un working paper mais elle est accessible sur internet, je vous recommande de la lire, par un économiste qui s'appelle Chakra Bartky et enfin ils sont cinq, c'est l'auteur principal, qui s'appelle L'IA générative envahit et dilue le monde du livre. Ils ont étudié entre 2023 et 2026 l'impact de l'arrivée des livres générés par l'intelligence artificielle sur le marché du livre à partir d'un échantillonnage. Et que constatent-ils ? Mais ils constatent que la loi de la théorie des tacos s'applique.
En effet, ils ont observé une augmentation très puissante du nombre de livres. Plus 39 %. Fois 39 pardon, le nombre de livres s'est multiplié sur l'échantillon par 39. Beaucoup plus forte que l'augmentation des prix puisque celle-ci n'a été que de, elle a été multipliée, les prix ont été multipliés par 9, le chiffre d'affaires, les revenus plutôt. Une présence très forte des livres générés par l'IA dans l'échantillon, 25 % des livres alors qu'ils étaient quasiment zéro en 2023, 25 % des livres sont désormais à l'IA et leur place dans les classements est très forte.
Et les revenus évidemment captés par les livres de l'IA sont très puissants puisque leur coût de réalisation est nul.
Autrement dit, on voit que commence à se réaliser, nous sommes au tout début de l'IA générative et on voit que commence à se réaliser l'effet d'éviction que je citais et la préférence donnée par les consommateurs aux mauvais objets sur les bons avec une baisse des prix consécutive à cet effet et donc une détérioration croissante de la position des éditeurs. Autrement dit, la prophétie de Monsieur Fitoussi menace de se réaliser pour des raisons économiques, notamment parce que les éditeurs vont être de plus en plus en difficulté et de moins en moins en situation de financer le développement d'une offre d'auteurs originaux. Voilà ce devant quoi nous sommes, qui n'est pas une fiction, qui n'est pas une prophétie lointaine, mais qui commence de se réaliser sous nos yeux.
La question qu'on peut se poser, et je terminerai par là pour rester dans le temps qui m'a été alloué, la question qu'on peut se poser, c'est quelle est la réaction qu'on peut avoir ? Bien sûr, il y a les éléments qui ont été évoqués. La meilleure manière de contrer la loi de la théorie des tacos, c'est de signaler d'une manière claire le bon objet versus le mauvais pour rompre l'asymétrie d'information dont souffre le consommateur et lui permettre de distinguer le vrai livre du faux. Je crois que ça ne suffira pas.
Et et je pense que ce qui se passe aujourd'hui sur l'IA entre en résonance avec quelque chose de plus profond et je suis heureux de pouvoir le dire devant le législateur. La France a inventé, disons entre la loi Blum-Byrnes de du lendemain de la guerre, 46 ou 47, et la loi Lang, un dispositif extraordinaire de dit de l'exception culturelle. Nous avons réussi à faire financer une industrie française de la culture, des livres, des films, des disques, non pas par un protectionnisme ou un étatisme comment dirais-je inefficace, mais en acceptant la libre concurrence, l'ouverture du marché et en faisant en sorte d'asseoir une péréquation financière entre les producteurs mondiaux ou les diffuseurs mondiaux d'œuvres de l'esprit et la création française.
Exemple, pour être concret, la taxe sur les films, les salles de cinéma, qui faisait financer la création française par les films américains. Les films américains étaient tout à fait présents sur le marché français, mais à travers une taxe sur les billets d'entrée des salles de cinéma, il y avait une péréquation et ils finançaient la création et ainsi on a protégé la diversité. Je pense qu'il faut que vous repensiez à nouveau frais les dispositifs d'exception culturelle et que vous vous demandiez comment vous allez organiser la péréquation entre les plateformes numériques principalement américaines et les industries de création européennes.
C'est vrai pour le livre et la manière dont on va imposer que les LLM ou les grandes structures de l'IA américaine financent la création française. Renaud l'a dit, ça serait le minimum puisqu'ils les ont pillés est une question, mais ça va au-delà. Je sais que sont débattus actuellement du financement ou qu'il est dans les tuyaux que vous débattiez du financement de la presse française par les investissements dans les dans la publicité numérique des plateformes qui recueillent aujourd'hui 80 % des investissements numériques en France. C'est évidemment de la même nature et plus généralement, je crois qu'il est temps que nous comprenions l'impact de la transformation numérique du monde et que nous assurions la réinvention de notre exception culturelle à l'heure du numérique pour protéger nos industries culturelles.
Je vous remercie.
Emma Saudin
Mesdames et messieurs les députés, plein de choses très très intéressantes ont été dites. Moi, je vais me concentrer sur l'initiative que nous avons eue aux éditions de l'Observatoire et raconter la genèse du coup de ce label Sanctuaire. Qu'est-ce qu'un sanctuaire ? Ce n'est pas un camp retranché. Ce n'est pas un village gaulois.
C'est au contraire un lieu de combat, un lieu de conviction où nous chérissons quelque chose que nous jugeons précieux : la création humaine.
Le sanctuaire dont je vais vous parler ce matin, c'est un espace où l'intelligence humaine n'est pas mise en concurrence avec la machine, où l'intelligence humaine n'est pas marginalisée par la machine. Cela pourrait-il être la littérature dans une maison d'édition ? C'est le choix que nous avons fait aux éditions de l'Observatoire. Ce qui a présidé à ce choix, c'est la publication début mai de Sanctuaire d'Abel Quentin, réquisitoire contre l'intelligence artificielle générative qui donne son nom au label. En parallèle des échanges autour du texte, nous nous sommes demandés ce que nous pouvions faire nous, en tant que maison d'édition, pour défendre la création humaine, en tout cas la revendiquer haut et fort et y croire ensemble, à la singularité de chacun, à la force de l'imagination, au pouvoir des mots choisis avec soin.
C'est de cette manière qu'est née l'idée du label Sanctuaire pour la littérature aux éditions de l'Observatoire.
À ceux qui parlent de coup marketing, j'ai eu le manuscrit entre les mains au début de cette année 2024. Abel Quentin lui-même était en train de travailler à son prochain roman lorsque l'écriture de ce pamphlet s'est imposée à lui. Ensuite, cela a été des échanges et des réflexions pour faire naître concrètement ce label. Hasard total du calendrier, le premier livre à paraître sous ce label, Consonno de Gaspard Koenig, un récit littéraire sur nos ruines modernes, vient de sortir en librairie. Concrètement donc, quelle forme nous avons donnée à notre label Sanctuaire ?
C'est d'abord une discussion au moment de la rencontre avec un auteur ou une autrice, souvent des mois avant la publication, parfois une année, parfois plus, où nous évoquons la voix d'un texte, la vision qui s'en dégage, ce qu'il dit de nous ou de notre monde.
Et c'est un pacte que nous proposons à ce moment-là, un pacte moral dans lequel l'auteur s'engage à ne pas avoir recours à l'intelligence artificielle générative. On pourrait dire ce n'est qu'un pacte moral. Mais pour nous, c'est quelque chose de très fort, qui vaut serment. C'est aussi une manière de désamorcer l'air du soupçon. On a bien vu comme c'était poisseux et nauséabond, et de tout miser sur la relation de confiance qui se tisse entre un écrivain et un éditeur.
Ce pacte moral, il est ainsi formulé à l'entrée de chaque livre Sanctuaire. Vous entrez ici dans un livre Sanctuaire, fruit d'une intelligence humaine.
Ainsi, fidèle à la conception de la littérature qui nous anime, l'auteur ou l'autrice s'est engagé auprès de sa maison d'édition, de ses lecteurs et lectrices, à ne pas utiliser d'intelligence artificielle générative dans la rumination, dans la composition et dans l'écriture de l'ouvrage. C'est bien dans ces trois phases clés de l'élaboration du livre, et qui n'inclut pas volontairement, pour coller à notre monde, la recherche et la documentation. Dans le même mouvement, c'est vouloir redonner tout son sens et sa valeur au métier d'éditeur, louer ce côté artisanal et ce côté humain, sans quoi je ferais autre chose. En plus de ce pacte moral, une clause ajoutée au contrat vient clarifier l'originalité de l'œuvre en spécifiant le label sanctuaire dans une première partie et en faisant état dans une seconde, plus contraignante, des obligations qui en résultent. Pas d'outil de détection dans notre démarche.
C'est Gaspard Koenig qui le dit très justement : utiliser la machine pour vérifier, c'est déjà céder à la machine. Quand on sait que l'intelligence artificielle générative existe grâce au pillage massif des œuvres humaines, qu'on est déjà en train de travailler sur des modèles d'intelligence artificielle générative capables de contourner les détecteurs d'intelligence artificielle générative, cela ressemble à une histoire sans fin. Notre label, c'est faire le choix de l'engagement moral. Cela fait quatre ans que l'intelligence artificielle générative se propage dans nos existences à une vitesse folle et inégalée. Aujourd'hui, qu'elle puisse créer tout ou partie d'un livre, qu'elle puisse insuffler de l'émotion, ce qu'on pensait jusque-là relever que de l'humain, ce n'est pas une vue de l'esprit.
En prendre la mesure, le mettre sur la table parce que cela devait arriver indépendamment de la polémique de rentrée littéraire, c'était notre volonté. Nous ne prétendons pas que ce soit la solution parfaite. Simplement, à un moment, il est important d'agir, de clarifier sa position.
De la même manière, chacun est libre de faire ce qu'il lui plaît. Aux éditions de l'Observatoire, cela nous a semblé être une mission joyeuse que de trouver chaque année dix auteurs et autrices qui défendent la création humaine dans toutes ses dimensions, y compris celle de son labeur, de ses faiblesses, de ses obstacles. Dans un moment où le nombre de lecteurs diminue, où le temps consacré à la lecture diminue, où le Centre national du livre est menacé de disparition, il faut tenir bon. Parce que sinon, c'est quoi la suite ? Un monde où Anthropic rachète en toute impunité ses catalogues aux maisons d'édition ?
Créer ce label, c'est dire : nous ne voulons pas de ce monde. Et en tirer une fierté commune en faisant nôtres les mots de Christian Bobin : "J'écris seulement si quelque chose me coule du cœur jusqu'aux mains". Merci de votre écoute.
Alexandre Portier
Merci beaucoup pour vos interventions toutes passionnantes et qui vont susciter beaucoup de questions. Nous allons passer aux interventions des orateurs de groupe pour une durée de deux minutes en commençant par Mme Bénédicte Auzanot pour le Rassemblement National.
Bénédicte Auzanot
Merci Monsieur le Président, Mesdames, Messieurs, chers collègues. L'utilisation de l'intelligence artificielle générative est exponentielle : 2,5 milliards de requêtes par jour seulement pour ChatGPT. L'IA générative est une révolution technologique sans précédent qui apporte de nombreux avantages sur la santé, la recherche, mais aussi parfois des menaces comme sur la création littéraire et intellectuelle. Aujourd'hui, l'écriture par intelligence artificielle générative réussit à produire des livres que seule une autre machine, Pangram ou autre, arrive à détecter. Qu'est-ce qui fait qu'un livre généré par IA est bien écrit ?
Eh bien parce que cette IA a été entraînée par des livres parfaitement écrits. Le vieux continent, dont la France, a généré une connaissance magnifique et massive : Balzac, Zola, Molière, etc. Aujourd'hui, ces écrits entraînent les IA américaines et chinoises. Les révélations sur Anthropic, qui aurait détruit des millions de livres après les avoir fait ingérer à son IA, sont inquiétantes. De la même façon, un site internet sur la philosophie, par exemple, est victime d'extraction de données pour ensuite l'ingérer dans son IA.
L'IA est forte parce qu'elle ingère nos contenus qui sont excellents. Si vous voulez réellement lutter contre le plagiat 2.0, il faut protéger nos œuvres. La guerre de l'IA est une guerre d'investissement et de rentabilité.
Ma question est donc simple : que pensez-vous d'une redevance à l'extraction pour les entreprises étrangères afin de protéger les données et les œuvres de la France et de l'UE ? Et si oui, selon quelles modalités ? Je vous remercie.
Alexandre Portier
Merci, cher collègue. Pour le groupe Ensemble pour la République, Monsieur Éric Bothorel.
Éric Bothorel
Merci, Monsieur le Président. Mesdames, Messieurs, chers collègues, quelques réflexions personnelles et hérétiques. La Fontaine et Ésope, Montaigne qui jetait ses filets pour amasser des citations, Alexandre Dumas qui écrivait en équipe, Musset, Stendhal, Henri Troyat, Alain Fink... Le plagiat, le pastiche, l'emprunt n'ont guère freiné la notoriété de ces plumitifs. Écrivains comme peintres ont toujours copié pour maîtriser les modèles, émuler et dépasser.
Aujourd'hui, les modèles sont plus puissants, plus rapides, plus massifs, c'est le cœur du sujet. J'entends les éditeurs vouloir certifier qu'un texte a été écrit à 100 % sans IA ou à 100 % par un auteur. Il me semble-t-il, c'est vain.
Quand le traitement de texte corrige, quand l'éditeur amende, quand le moteur de recherche aide à vérifier une information, est-on encore dans un texte naturel ? Quand une IA résume votre texte, vous écrit un paragraphe, est-on dans du 100 % artificiel alors que ces modèles ont digéré toute la bibliothèque du Congrès ou nos Pléiades ? 100 % de nos écrits seront bientôt synthétiques, au moins très partiellement ou complètement. Restera la question de l'émotion, de la rencontre entre un lecteur et la pensée d'un auteur avec ses doutes. L'art continuera d'émouvoir et de déranger, c'est à cela qu'on reconnaît une œuvre.
Les écrivains seront poussés à être plus personnels, plus innovants, et le lecteur le saura. En musique, des millions de morceaux sont produits par IA, mais les mélomanes vont aux concerts de Céline Dion ou au jeune DJ Breton qui est mon fils. On ne les trompe pas. En revanche, c'est un séisme pour l'édition et surtout pour les gestionnaires de droits. Sur l'art, on peut s'entendre, sur les dollars, ça se corse un peu.
Nous voulions un opt-out pour qu'un auteur puisse refuser que son œuvre serve à entraîner des IA.
Serions-nous prêts à défendre l'opt-out d'une IA qui ne voudrait pas que ses modèles servent aux auteurs en mal d'inspiration ? La question est provocante, je le reconnais un peu. Mais est-on sûr qu'implanter l'opt-out fera naître plus de contrats ou de licences négociées que de contentieux ouverts ? Gaston Berger, inventeur français de la prospective, disait : demain ne sera pas comme hier, il sera nouveau, il dépendra de nous. Nous sommes en plein l'avenir, radicalement différent du passé de l'édition.
Depuis 2010, l'humanité produit autant d'informations en deux jours que depuis l'invention de l'écriture il y a 5 300 ans. Claude a lu tous les livres, Samuel Fitoussi en a lu plusieurs centaines. Fitoussi capable d'inventivité par ignorance, Claude incapable de créativité par omniscience. Beau débat. Je préfère vous entendre sur demain plutôt que sur l'aménagement d'hier.
Paul Valéry voulait faire des hommes prêts à affronter ce qui n'a jamais été. Comment y préparer les législateurs et les éditeurs ? Je vous remercie.
Alexandre Portier
Merci cher collègue. Pour le groupe LFI, Monsieur Arnaud Saint-Martin.
Arnaud Saint-Martin
Merci Monsieur le Président.
Merci pour vos interventions. C'est une question vertigineuse qui nous est posée aujourd'hui. Nous le mesurons tous et pour ce qui me concerne, en qualité de sociologue et ancien éditeur d'une maison indépendante qui publie des livres de SHS, ex-membre de l'observation de l'édition scientifique qui était inquiet des évolutions de la littérature scientifique, mais aussi dans un registre différent, en qualité d'auteur de canulars scientifiques qui visaient à interroger les régimes d'écriture en sciences. Alors on le sait, au tournant du XXIe siècle, la grande déflagration fut l'irruption du livre numérique et de l'extension des domaines de la publication, jusque dans la crise de surproduction que nous continuons de traverser. Mais il est vrai qu'avec l'IA, toutes les techniques qui lui sont associées, on assiste à un basculement encore plus critique, jusque dans les conséquences les plus désastreuses, notamment le pillage des catalogues pour entraîner les IA génératives ou au pillage auquel s'adonnent les auteurs, mais aussi les pirates cyniques du capitalisme de plateforme et il faut bien le dire aussi, les lecteurs.
L'usage de l'IA est transversal et invasif. Cherchant à optimiser la production, nombre de maisons prennent le pli en intégrant les outils qui permettent d'accélérer les tâches éditoriales les plus fastidieuses, notamment la correction et l'établissement des textes, sans même des métiers entiers de l'édition ou qui lui sont liés qui sont touchés comme la traduction, mais aussi à la base la production même des textes par des scripteurs de chair et de sang qui sont en passe d'être emportés dans le déluge de livres auto-édités par IA générés en flux tendu sans forcément rencontrer de lecteurs sur ce marché sans auteurs, ce qui est quand même une singularité. Puisque nous sommes invités à susciter des questions d'ordre prospectif, j'aimerais avoir votre sentiment sur une question formulée de façon volontairement optimiste et garantie sans IA.
Cette rupture dans la, dans le régime d'auctorialité, de production et de, d'appropriation des textes dilués dans l'intertexte numérique sans fin ni couture, qui suscite crispation et angoisse légitime, n'est-elle pas une formidable occasion de réinvestir et de se, de réinvestir notre exception culturelle, ça a été dit finalement, à l'ère d'une maximisation de la reproductibilité technique ? Ce n'est certes pas la première fois qu'un segment de la culture est exposé au risque de l'obsolescence programmée, mais l'édition continue de résister, vaille que vaille, notamment l'édition indépendante, humaine, labellisée sans IA, qu'il faut soutenir par tous les moyens. En résumé, rompre offensivement avec le déclinisme et l'actualité déprimante de la mort de l'auteur n'est-il pas une, une piste de résistance plus productive ? La notion de livre sanctuaire défendue et illustrée par les éditions de l'Observatoire me semble à cet égard très prometteuse. Il faudrait la rendre majoritaire et, et là c'est peut-être le, le rôle de la puissance publique d'y aider.
Merci cher collègue. Pour le groupe Socialiste et apparentés, Madame Dorine Bregman.
Dorine Bregman
Oui, merci Monsieur le Président. Bonjour à toutes et à tous, Mesdames et Messieurs, mes chers collègues. Merci pour vos interventions. Et si on soupçonnait chacun de nous de ne pas avoir écrit ses propres mots, y compris ces interventions devant votre commission aujourd'hui ?
L'intelligence artificielle est devenue une préoccupation majeure dans l'univers du livre et dans la culture en général. Et avec le groupe PS et apparentés, nous nous battons et nous soutenons effectivement la proposition de loi sur le droit d'auteur et sur la présomption d'utilisation des contenus culturels face aux IA génératives qui mangent les livres et tuent les auteurs. Comme beaucoup d'entre nous, j'ai été choquée par le scandale qui a éclaté autour du livre de Monsieur Aurélien, donc mis en cause pour avoir utilisé l'intelligence artificielle dans son dernier roman, C'était ça ou mourir. Hier d'ailleurs, dans une déclaration transmise à l'AFP, il nie avoir utilisé une quelconque intelligence artificielle.
Son livre a été écrit entre 2017 et 2019, précise-t-il. Mais à ce stade, une question demeure : sur quelles preuves repose cette accusation et d'une manière générale, comment fonctionnent ces révélations qui ont été faites, puisque nous avons parmi nous l'un des auteurs de ces révélations, en même temps pas sous sa propre identité, mais sous l'identité d'un compte anonyme et avec l'utilisation d'un d'un outil d'intelligence artificielle. Donc vous dénoncez l'usage de l'intelligence artificielle au moyen d'une intelligence artificielle, c'est une spirale sans fin. En effet, ces modèles larges de langage fonctionnent en aspirant des textes existants et se nourrissent de fragments d'œuvres. Ils en absorbent des quantités astronomiques et le vôtre n'y échappe sans doute pas.
Donc l'outil que vous mobilisez pour défendre la création s'est lui-même bâti sur le travail de celles et ceux que nous défendons, les autrices et les auteurs. Je pense qu'on ne protège pas leur plume en confiant le verdict à une machine qui s'est nourrie de leurs mots.
Vous dites défendre la création, mais vous entretenez aussi des liens avec le développement de l'intelligence artificielle. On s'interroge, est-ce que vous êtes juge et partie ? Y aurait-il un conflit d'intérêt ou s'agissait-il d'un super plan marketing pour votre outil ? Voilà mes questions aujourd'hui, je vous remercie.
Alexandre Portier
Question vertigineuse. Pour le groupe Droite Républicaine, Madame Frédérique Meunier.
Frédérique Meunier
Merci Monsieur le Président. Mesdames, Messieurs, la France est la première place éditoriale d'Europe par le nombre de titres et une exception culturelle qui repose sur un principe simple : derrière chaque œuvre, il y a une personne qui crée et qui est rémunérée pour cela. Or l'intelligence artificielle générative bouscule ce principe. Des modèles ont été entraînés sur des millions d'œuvres protégées, le plus souvent sans autorisation ni rémunération des auteurs et des éditeurs. C'est la question du plagiat 2.0 au sens strict.
L'IA se nourrit de la création humaine pour produire des textes qui viennent ensuite la concurrencer. Et puis il y a la question de la confiance. Récemment, l'écrivain Aurélien Bellanger a été accusé d'avoir utilisé l'intelligence artificielle générative pour écrire son roman, C'était ça ou mourir, sur la base d'un outil de détection Pangram. L'auteur conteste fermement. Son éditeur Grasset a d'abord dénoncé une fake news, puis l'Académie Goncourt a retiré le livre de sa sélection.
Cette affaire révèle plusieurs failles : la fiabilité des détecteurs qui est contestée, le fait que les éditeurs et les jurys n'ont ni règle ni outil partagé pour vérifier l'origine d'un texte, et enfin qu'il n'existe aucune obligation de transparence envers le lecteur. Alors je vous ai écoutés tous avec beaucoup d'attention.
Le label sanctuaire, madame Saudin, oui, pourquoi pas, même si madame Bensamoun nous a expliqué que le label n'avait aucune valeur juridique. Ensuite une IA, monsieur Fitoussi, qui va noyer l'écriture humaine, est-ce un bien ou un mal ? Telle est la question. Et enfin, petit sourire, le livre va mal, monsieur Olivennes, je vous invite le 6, 7 et 8 novembre à la foire du livre à Brive-la-Gaillarde et vous vous rendrez compte combien le livre va mal ou pas. Enfin, au bout du bout, ce que je me dis, c'est qu'au bout de cette chaîne il y a le lecteur.
Alors pourquoi le lecteur n'aurait-il pas le choix ? N'aurait-il pas ce que j'appelle un droit de transparence, à savoir si oui ou non en face de lui il a une œuvre avec l'IA, alimentée par l'IA ou tout simplement une œuvre alimentée et écrite par un auteur ? Merci.
Alexandre Portier
Merci cher collègue. Pour le groupe Écologiste et Social, madame Sophie Taillé-Polian.
Sophie Taillé-Polian
Merci monsieur le président.
Merci à vous pour vos interventions. Nous sommes aujourd'hui face à une révolution technologique d'une ampleur immense, gigantesque, qui appelle évidemment une réponse politique globale. Et cette réponse politique globale doit être démocratique et non pas seulement intervenir via l'émergence de polémiques souvent souvent dévastatrices. Or, depuis dix ans maintenant qu'Emmanuel Macron est au pouvoir, c'est la Start-up Nation qui commande, c'est les intérêts privés. Pas de débat sur les data centers alors qu'on leur procure notamment un certain nombre d'avantages fiscaux et qui envahissent nos territoires sans aucun sans aucun respect pour les pour les habitants habitantes.
Pas de débat sur l'utilisation de l'intelligence artificielle, peut-être oui dans certains domaines, peut-être non dans d'autres, et c'est bien de cela dont il faudrait que nous débattions dans une nation comme la nôtre. Pas de débat non plus bien sûr sur la protection du droit d'auteur à coups d'obstruction. Nous évidemment soutenons très fortement toute possibilité de réinscrire le texte dans l'hémicycle pour que nous puissions adopter cette loi. Il est temps d'avoir ce débat extrêmement large qui doit nous conduire à débattre dans notre pays, en Europe, dans le monde, à quoi doit servir l'intelligence artificielle et ne pas laisser le marché en décider seul. Parce que derrière l'intelligence artificielle, il y a aussi l'utilisation de nos ressources.
Ressources en eau, ressources en énergie, ressources en sol.
Et donc je voulais par cette intervention, je dirais élargir encore vos propos. Il faut bien sûr un moratoire immédiat sur les data centers XXL qui par ailleurs sont un emprisonnement pour nos données et un refus de souveraineté. Évidemment, il faut que cette loi sur les droits d'auteur puisse être inscrite rapidement le plus vite possible à l'Assemblée nationale pour que nous puissions terminer le travail commencé par le Sénat. Et oui bien sûr, il faut taxer les plateformes pour permettre à la création de vivre et de continuer à se développer. Merci.
Speaker 24
Merci cher collègue. Pour le groupe démocrate, Monsieur Laurent Croizier.
Laurent Croizier
Oui merci Monsieur le Président. Mesdames et Messieurs, l'intelligence artificielle ne crée rien. Elle puise. Elle puise dans les livres, les articles, les illustrations imaginés, écrits, dessinés par des auteurs.
L'IA dépend donc totalement des œuvres réalisées par l'intelligence humaine. Voilà le paradoxe : l'IA se nourrit du talent de créateurs humains qu'elle concurrence et fragilise. Pour le groupe Démocrate, de ce constat découlent trois exigences. D'abord, la transparence. Un auteur doit savoir si son œuvre a servi à entraîner un modèle de langage et être en capacité de le refuser.
Le lecteur doit savoir si un article, un livre ou une illustration a été généré par une IA. Ensuite, le respect du droit d'auteur. Nous refusons que l'intelligence artificielle pille le travail des artistes, des auteurs, des journalistes pour nourrir des modèles qui les concurrencent.
La presse en paie déjà le prix avec les aperçus Google qui s'approprient le travail des journalistes et détournent les lecteurs de leurs articles et la rémunération qui s'y rattache. Sans rémunération, c'est la création, la presse, l'information, je vais même plus loin, la démocratie elle-même qui est affaiblie. Enfin, la diversité culturelle. Les modèles de langage véhiculent des représentations et des valeurs. Comment éviter l'uniformisation des récits, des styles et in fine de la pensée ?
Notre langage et notre diversité culturelle sont bien plus que des gisements à exploiter, elles expriment notre singularité et portent notre système de valeurs. Le Sénat a adopté à l'unanimité une présomption d'utilisation des œuvres par les IA. Nous aurions souhaité que l'Assemblée nationale emprunte la même voie.
D'après vous, ce renversement de la charge de la preuve suffirait-il à garantir la transparence, à protéger la propriété intellectuelle et à préserver notre diversité culturelle ?
Merci. Chers collègues, pour le groupe LIOT, Monsieur Jean Bodart.
Jean Bodart
Oui, merci Monsieur le Président. Mesdames, Messieurs, mes chers collègues, d'abord bonjour à toutes et à tous. L'intelligence artificielle générative s'est imposée dans nos usages et dans nos vies à une vitesse effroyable et le monde de l'édition est particulièrement touché. Les grands systèmes d'intelligence artificielle ont ingéré massivement l'ensemble des ouvrages disponibles sur Internet sans distinction ni tri préalable.
Leurs algorithmes les utilisent ensuite pour générer des œuvres qu'il n'est pas aisé de catégoriser, et je mets le mot œuvre volontairement entre guillemets. En effet, la polémique récente, elle a d'ailleurs été évoquée déjà, où l'auteur Tellison Aurélien a vu son livre retiré de la sélection du prix Goncourt après des accusations d'utilisation d'intelligence artificielle le montre bien, les frontières entre œuvre, digestat électronique d'œuvre et production automatique de texte ne sont pas aussi simples et tranchées qu'on aimerait. Un résumé, une réappropriation numérique d'une œuvre sont-ils eux-mêmes des œuvres ou seulement des rejetons sans valeur intrinsèque ? La protection des œuvres doit-elle se limiter au patrimoine universel officiel ? En effet, comment différencier un texte inédit d'une production automatique par une intelligence artificielle ?
Qui décide de l'originalité de l'œuvre ? Les modèles actuels d'intelligence artificielle fonctionnant par itération statistique, leur appropriation des œuvres existantes est consubstantielle à leur mode de fonctionnement. Pourtant, la reconnaissance et la rémunération de l'auteur original sont les deux composantes essentielles de la pérennité d'un modèle d'édition, de l'édition. Si nous voulons continuer... Je vais donc pour terminer me permettre une question volontairement provocatrice : est-il bien prudent de confier à une machine le soin de valider ce qui est artificiel et ce qui ne l'est pas ?
Je vous remercie.
Alexandre Portier
Merci cher collègue. Pour le groupe GDR, Monsieur Frédéric Maillot.
Frédéric Maillot
Merci Monsieur le Président et merci à vous pour vos expertises. Chers collègues, sans tomber dans une course à l'originalité, mais en venant ce matin dans cette audition, la question que je me suis posée dix mille fois, c'est de quoi vais-je parler, sous quel angle je vais aborder l'IA ou qu'est-ce que je vais apprendre de l'IA qui va amplifier un peu plus ma crainte de l'IA. Moi, oui, je fais clairement partie de ceux qui craignent pour l'avenir, qui craignent et qui regardent l'avenir avec un œil inquiet quand on parle de l'IA. Et nous abordons ce matin l'IA dans l'artistique. L'IA est aussi présente dans la musique et lors des dernières municipales, nombre de chansons de campagne ont été générées par l'IA.
Et je veux aussi dire qu'une députée européenne a généré des faux applaudissements à la fin de son discours par l'IA.
Donc si l'exemple doit venir des politiques, on est un petit peu mal barrés, mes chers collègues. Et je veux aussi dire qu'il y a des pays qui ont pris des mesures drastiques, à l'image de l'Italie qui a interdit totalement sur ses ondes toute musique générée par l'IA. Il est important de dire, et mon collègue l'a très très bien fait ici, que l'IA, c'est nous qui le nourrissons. Il puise dans ce qui existe déjà. Donc elle est un peu le reflet de nous-mêmes.
Et j'aimerais dire à ce moment précis que ce n'est pas tout ce qui crée qui est mauvais, c'est la façon dont on l'utilise. Doit-on prendre des mesures drastiques ou très drastiques à l'image de l'Italie ? Parce que c'est humain, en fait, de vouloir prendre des raccourcis quand le chemin est trop long.
Et le goût de l'effort, il faut le dire qu'il y a une génération qui est en train de le perdre, le goût de l'effort. Moi je suis un admiratif de Georges Brassens. Je sais pas dans ma génération qui peut écrire des textes aussi puissants et aussi pointus que Brassens. Donc moi je suis pour qu'on réfléchisse, je suis pour qu'on prenne des mesures drastiques pour que nos artistes n'aient pas un jour à dire : c'était ça ou mourir.
Alexandre Portier
Merci. Chers collègues, nous avons trois questions également pour une durée de huit minutes que nous allons prendre immédiatement en commençant par Monsieur Christian Girard pour le Rassemblement National. Je le vois pas. Christian Girard ? Si, il est là.
Non, alors nous allons passer à René Pilato pour le groupe LFI.
René Pilato
Merci Monsieur le Président. Mesdames et Messieurs, collègues. Le plagiat 2.0 est un vol à grande échelle. Œuvres, romans, traductions, aspirés par millions sans consentement et sans rémunération des auteurs ont entraîné des modèles d'IA qui valent des centaines de milliards. Mais le danger dépasse le pillage car une machine qui produit sans avoir rien vécu et rien lu est une perte de sens.
L'art devient une moyenne statistique de ce qui existe déjà, le décharnant ainsi de ce qui fait l'humanité depuis sa naissance. Taylorisme qui ne dit pas son nom. L'artiste passe de la création à la production, de la production à la correction d'erreurs d'une machine avec des cadences accrues et des revenus en baisse. C'est une vision mercantile qui méprise les artistes en leur proposant de post-éditer des productions d'intelligence artificielle. Deux questions.
Êtes-vous favorable à une obligation de transparence sur les données d'entraînement ? Favorable à un consentement préalable des auteurs avec une juste rémunération ?
Je vous remercie.
Alexandre Portier
Merci cher collègue. Pour le groupe socialiste et apparentés, Monsieur Arthur Delaporte.
Arthur Delaporte
Oui, merci Monsieur le Président. Ce débat est absolument vertigineux et Monsieur Olivennes a rappelé dans son propos que la question d'auteur était une définition récente, que l'on avait prédit, y compris dans une période plus récente, la mort de l'auteur. Alors peut-être qu'aujourd'hui nous sommes encore en train, comme de banals réactionnaires, de nous imaginer que la mort de l'auteur est pour demain, mais que finalement il y a encore tout un terrain de création qui existe.
En tout cas, c'est ce qu'on peut souhaiter et c'est ce qu'on doit défendre ici dans cette commission. Néanmoins, il est vrai que le sujet qu'on se pose en tant que législateur face à ce fait social majeur que constitue l'advenance de l'IA générative dans les processus de création artistique, singulièrement aujourd'hui le monde de l'édition littéraire, mais la question pourrait être la même pour l'industrie du cinéma, pour la musique, ça a été rappelé à l'instant. Et finalement, à chaque fois, les grands principes qui reviennent sont les mêmes, c'est-à-dire d'une part assurer la transparence. Donc c'est ce que vous essayez de proposer, Madame Saudin, mais avec quelle garantie qu'il n'y a pas d'usage en définitif de l'IA ? Ça c'est une vraie question.
Alexandre Portier
Comment est-ce que vous arrivez à le certifier en dehors d'un engagement ? Merci chers collègues. Je vais tout de suite donner la parole à Madame Bensamoun pour qu'elle puisse répondre aux différents sujets qui la concernent. Pardon, excusez-moi, j'ai oublié Monsieur Jean-Yves Bony pour le groupe Droite Républicaine.
Jean-Yves Bonnefoy
Merci beaucoup.
Simplement, je suis pas député depuis très longtemps. La première chose que j'ai remarquée et appréciée quand je suis arrivé à l'Assemblée, c'est la bibliothèque. On a un lieu absolument magnifique avec, il n'y a pas forcément des livres d'auteurs, mais c'est des livres et c'est quelque chose qui donne une âme à ce lieu. Moi ce que j'aimerais, c'est que mes petits-enfants puissent continuer à aller dans des bibliothèques et pas forcément avoir comme horizon des data centers. Je trouve que c'est un petit peu dommage.
L'IA est arrivée, c'était un cadeau pratiquement. L'IA est arrivée comme un cadeau, on a vu ça, c'était magique, on pouvait avoir accès à énormément d'éléments sans que ça coûte quoi que ce soit pratiquement.
Et c'était un peu comme l'arrivée du train. C'était quelque chose qui perturbait les habitudes mais qui ouvrait des perspectives d'avenir intéressantes. Et je pense qu'il faut vraiment qu'on arrive effectivement à donner le choix aux lecteurs, à les informer et à faire en sorte qu'ils puissent choisir eux-mêmes ce qu'ils veulent pour leur avenir.
Alexandre Portier
Merci chers collègues. Je vais donc donner tout de suite la parole à Madame Bensamoun.
Alexandra Bensamoun
Merci Monsieur le Président et je vous prie tous de m'excuser de devoir partir rapidement parce que j'ai un engagement que je n'ai pas pu reporter. Je reviendrai très brièvement sur d'abord le sujet de l'amont.
En amont, en effet, le règlement sur l'intelligence artificielle a imposé une certaine transparence sur les sources qui sont utilisées pour l'entraînement. Malheureusement, l'article, on le sait et c'est très documenté aujourd'hui, a fait l'objet d'un lobbying très très fort et on a réussi à inscrire dans le texte européen une sorte d'oxymore, un résumé suffisamment détaillé des sources d'entraînement qui a été traduit dans un canevas, dans un template par le bureau de l'intelligence artificielle à Bruxelles d'une manière qui ne permet pas aux titulaires de droits de savoir si leur contenu a été utilisé ou pas pour l'entraînement. On a donc une règle de transparence en amont au niveau européen mais elle n'est pas suffisamment effective pour rendre justement au droit son effectivité. On a donc essayé, vous avez essayé, les législateurs, le législateur a essayé en France de parer à cette situation en imposant une présomption d'utilisation.
Cette présomption n'est pas un renversement de la charge de la preuve. C'est un déplacement de l'objet de la preuve. Les présomptions sont toutes des déplacements, c'est-à-dire qu'au lieu de prouver le fait principal qu'on ne peut pas prouver parce qu'un auteur ne peut pas aller dans la machine du fournisseur d'IA pour savoir si son contenu a bien été utilisé, c'est une preuve impossible. Et donc au lieu de prouver le fait principal, on prouve un indice, on en déduit le fait principal à charge pour la partie adverse de rapporter la preuve contraire.
La prem- une des présomptions les plus connues que vous devez connaître, c'est le mari de la mère est le père de l'enfant. Voilà, 1804, c'est le mari de la mère, et donc comme c'est le mari de la mère, on présume que c'est le père de l'enfant. Et si c'est pas le cas, bah il rapportera la preuve contraire. Aujourd'hui, c'est très possible de le faire. En 1804, ça ne l'était pas nécessairement.
Donc vous voyez ce déplacement de l'objet de la preuve, c'est un mécanisme qui est très pratiqué. Alors est-ce que ça va permettre de restaurer l'effectivité du droit d'auteur ? Ouf, je ne pense pas qu'on puisse faire peser sur une- un article unique, une petite règle qui permettra peut-être de faciliter l'effectivité du droit et la conclusion d'un marché de licence. Je ne pense pas qu'on puisse dire que ça permettra la- la restauration du droit. Mais en tout cas, c'est un premier pas, c'est une réflexion sans doute initiée sur, de manière plus large, et bien les règles, la législation qui s'applique dans l'environnement numérique.
On le sait, le DSA, l'IA Act, l'EMFA, la directive SMA, tout ça sont des- ce sont des textes qu'on doit penser aujourd'hui peut-être autrement.
Est-ce que cette présomption va multiplier les contentieux ? Ah ben j'ai envie de vous dire, alors si une présomption multipliera les contentieux, vu tout ce qu'on a comme présomptions dans les textes français, on devrait avoir un nombre de contentieux assez incroyable. Non, ça ne va pas multiplier les contentieux. La règle de droit a un effet prophylactique. La règle de droit est là pour inciter les acteurs à un comportement.
Heureusement, lorsqu'on vous dit vous devez rouler à 50, la plupart d'entre nous nous roulons à 50. Et certains bien sûr dérogent. En effet, certains vont déroger et ceux-là on pourra peut-être les attraper. Et j'ai envie de vous dire qu'aux États-Unis, il y a une dérégulation, il n'y a pas de présomption, il n'y a pas d'opt-out, il y a un fair use.
Bah aux États-Unis, il y a 150 procès en cours sur le sujet dont on parle aujourd'hui. Alors je crois que les règles aux États-Unis pourtant plus lâches permettent beaucoup plus de contentieux que nos règles qui sont plus serrées et qui en réalité ont pour objectif d'inciter. Sur l'aval, moi juste un mot sur le label. Je n'ai rien à dire moi sur ce label parce que c'est un label usage, un label pratique. Du point de vue du juriste, la seule chose que je peux dire c'est que on ne peut pas l'obliger aujourd'hui en contemplation des règles européennes de transparence et de l'article 50 du règlement sur l'intelligence artificielle.
Il n'y a pas d'obligation de déclarer ainsi l'usage de l'IA par un label dans les situations, dans la situation qui nous occupe, premièrement.
Deuxièmement, je rappelle que l'IA peut rester un outil d'assistance. Les auteurs ont toujours eu des outils, des relecteurs, des... et là je rejoins beaucoup Éric Bothorel. Ne punissons pas systématiquement l'auteur qui aurait par exemple, je sais pas, demandé à... ben je... voilà, je vais vous dire, une personne qui travaille pour une société de gestion collective m'a partagé le fait qu'elle, que cette personne écrit. Et elle m'a dit : "Oh c'était très utile l'intelligence artificielle parce que je lui ai demandé comment ça se passait quand on coupait la gorge de quelqu'un pour savoir comment est-ce qu'il faut faire fort, pas fort." Ne punissons pas tout usage de l'intelligence artificielle.
Demain tout le monde utilisera l'intelligence artificielle. Ne punissons pas nos auteurs, nos créateurs.
La seule chose qu'on doit leur demander, c'est de rester des créateurs et de ne pas déléguer complètement à la machine la démarche créative. Alors je sais que c'est compliqué, c'est de la qualification, mais à la fois, je veux vous dire, ne laissons pas la littérature sur le bord du chemin alors qu'on engage l'ensemble de la société à s'emparer de cet outil, en effet, très intéressant qu'est l'intelligence artificielle. Voilà, c'est une considération de juriste. Je n'ai pas à juger à part ça du label et cetera. Je trouve que le monde de l'édition peut tout à fait mettre en place des règles comme ça, mais le droit ne va pas dans ce sens-là.
Merci et désolée de mon départ un peu précipité.
Alexandre Portier
Merci beaucoup, Madame Bensamoun.
Je vais maintenant laisser la parole à Madame Saudin.
Emma Saudin
Par rapport au label, moi ma volonté n'est absolument pas de laisser la littérature au bord du chemin, bien au contraire, c'est la remettre en plein centre de nos vies. Vraiment ce label, je le redis et pour vous répondre aussi Monsieur Delaporte, rien ne peut absolument garantir puisque à partir du moment où on ne fait pas appel à la vérification technique, rien ne pourra garantir exactement. Après, moi ce que je défends vraiment, c'est que ce pacte, c'est un pacte moral.
Et ce pacte qui vaut serment, c'est pour moi quelque chose de très grand et de très joyeux. Et par exemple, pour reprendre cette affaire de la rentrée littéraire, on peut, je pense, se poser la question si Monsieur Tellier-Honorélien, encore une fois on ne saura jamais, mais mettons, prenons cette histoire. Si il avait eu un an avant la publication la discussion avec son éditeur, avec son éditrice, par exemple de ce label sanctuaire, est-ce que le résultat aurait été différent ? Eh bien je pense que oui. Je pense que oui, vraiment.
Parce qu'encore une fois, moi l'idée de ce label, c'est absolument de, ce n'est pas de rien interdire. Chacun encore une fois est libre de faire ce qu'il lui plaît. Mais simplement, c'est dire effectivement dans notre endroit, à l'Observatoire, où nous publions dix livres, c'est-à-dire ça reste à taille très humaine.
Moi j'ai avec mes auteurs, avec mes autrices, des relations ultra nourries. On se voit même quand il n'y a pas de livre, je veux dire on se voit en déjeunant ensemble, on tisse, on tisse une relation. Et donc à partir du moment où effectivement on aurait dit bah voilà, moi c'est cette vision du monde là que j'ai envie de, de défendre ici. Si toi pour X raisons tu me dis que, et bah effectivement c'est plus qu'un outil parce qu'encore une fois là on n'est pas au niveau de l'outil, c'est plus qu'un outil pour toi, et bien ce n'est pas grave. Mais simplement, et bah tu ne seras pas publié ici.
Voilà, c'est pour ça, je voulais vraiment effectivement revenir sur cette puissance en tout cas que je donne au pacte moral. Et encore une fois moi si j'ai pas ça dans mon métier, en fait ça n'a plus de sens, ça n'a plus de sens, vraiment.
Par ailleurs, je voulais revenir sur la question de légiférer ou non effectivement et il me semble que c'est très très important que l'essor de l'IA pose aujourd'hui des questions qui dépassent le seul monde de l'édition de la culture et que son encadrement, sa régulation nécessite vraiment un ajustement de notre droit dans bien des domaines. Et il me semble effectivement qu'il revient à vous législateurs d'y travailler et que effectivement je veux absolument être, je trouve que l'époque impose une transparence qui devrait être totale, un respect du consentement de l'artiste et qu'aujourd'hui ce cadre il est complètement malmené par le développement de l'intelligence artificielle générative et qu'il est à protéger car voilà.
Merci. Monsieur Fitoussi.
Samuel Fitoussi
Merci beaucoup.
Merci pour vos questions et interventions. Je vais répondre à certains points évidemment, pas tout. Donc j'entends l'idée qu'en musique par exemple, on a eu des musiques générées par l'IA et ça apporte une nouvelle diversité de contenu et parfois du contenu excellent qui plaise aux amateurs de musique, mais on continue à aller voir des concerts. Et je pense que l'exemple est assez instructif. Il y a et il continuera à y avoir une demande pour l'authenticité humaine.
Sauf que dans le monde de la musique, quand on va voir un concert, on sait qu'on va voir un humain. Il n'y a aucun doute là-dessus. Les types de biens, les types de contenus sont distinguables. Et donc ceux qui ont une préférence pour l'authenticité humaine peuvent exprimer cette préférence et ça préserve l'incitation à continuer à faire des concerts. Le problème dans le texte, c'est qu'on n'arrive pas à distinguer les deux types de contenu, ou en tout cas c'est très difficile.
Aujourd'hui on a encore Pangram qui est extrêmement fiable, demain ce ne sera peut-être plus le cas. Et donc j'en reviens à Karloff et à ce que disait Monsieur Denis Olivennes aussi, quand les deux types de biens ne sont pas distinguables, le lecteur est obligé d'appliquer le même soupçon de façon indifférenciée et uniforme à tout type de texte, humain comme IA, et il est obligé de se détourner de tout type de texte. Donc je ne sais pas si l'exemple de la musique malheureusement est très instructif, ou en tout cas s'il est instructif c'est justement il devrait justement nous dire qu'il y a une demande pour l'authenticité humaine et qu'il faut faire en sorte, il faut mettre en place les institutions permettant de faire en sorte que cette demande puisse continuer à s'exprimer. Ensuite, une autre idée que j'ai entendue, c'est l'idée qu'il faut accepter que l'écriture changera de forme et que les écrivains vont utiliser l'IA comme un outil, de la même manière qu'on avait avant des dictionnaires des synonymes, et ben maintenant on aura des IA à la disposition des écrivains.
J'entends beaucoup revenir cet argument, l'idée que comme on a tous accès au même au même outil, bientôt ceux qui produiront les meilleures œuvres seront ceux qui auront investi dans cet outil le plus de de créativité, d'intelligence, d'une forme de génie, d'un quelque chose peut-être qui reste encore à découvrir. Moi, je suis assez sceptique de cette idée. Je pense qu'une bonne analogie pour c'est l'histoire des échecs. Donc au début des années 90, on a entraîné des IA à jouer aux échecs. Elles ont peu à peu rattrapé le le niveau des grands maîtres d'échecs.
Vers le début des années 2000, elles ont elles ont dépassé le niveau des grands maîtres d'échecs, mais le meilleur niveau atteignable, c'était par le duo humain-machine. Un grand maître d'échecs qui jouait épaulé d'une IA pouvait apporter de la valeur à son IA, pouvait parfois voir les coups que suggérait son IA, modifier certains certains coups, appliquer ses recommandations.
Il avait encore des zones, son cerveau avait encore des zones de domination sur le cerveau de la machine et pouvait apporter de la valeur. Mais les années ont passé, une décennie à peu près a passé. Et maintenant, une IA qui joue seule bat systématiquement un grand maître qui joue avec son IA. Le niveau des IA aux échecs est désormais tellement supérieur au niveau des grands maîtres aux échecs que la période dite des centaures est terminée et que le grand maître d'échecs ne peut plus apporter de valeur au travail de son IA lorsqu'il joue avec elle aux échecs. Le mieux qu'il puisse faire, c'est ne jamais modifier les coups que son IA recommande.
Et je pense qu'on est peut-être actuellement à la période des centaures dans la littérature où une personne très intelligente qui prompte finement, qui itère, qui retravaille derrière ce que fait son IA peut sans doute apporter de la valeur et produire des œuvres exceptionnelles. Mais demain, comme je le disais tout à l'heure, le meilleur prompteur sera celui qui donne à son IA des directions extrêmement générales et qui la laisse travailler toute seule pendant des heures. Et il ne pourra plus apporter de valeur simplement parce que l'IA sera non seulement meilleure pour choisir les mots, mais meilleure pour se guider elle-même, meilleure pour se prompter elle-même, pour itérer elle-même, pour retravailler les passages faibles elle-même. Et donc je pense que si on accepte que la littérature devienne cette littérature hybride où l'IA est responsable d'une grande partie du travail, on se dirige vers un monde où la part d'humain dans les œuvres ne cesse de diminuer jusqu'à atteindre zéro dans quelques quelques années, voire même moins.
Par ailleurs, j'attire votre attention sur le fait que l'écriture est aussi une fin en elle-même parce qu'elle a des bienfaits cognitifs. C'est en écrivant, en choisissant ses mots qu'on se développe intellectuellement, même qu'on parfois qu'on découvre ce que l'on pense, qu'on change d'avis en écrivant, qu'on construit des raisonnements plus rigoureux en découvrant qu'une conclusion ne découle pas exactement d'une prémisse et qu'on affine son raisonnement et cetera. Donc l'écriture, le choix des mots, la difficulté de choisir les mots, c'est aussi parfois une fin en soi. Il y a aussi des bienfaits à ça et perdre ça ce serait regrettable même si en face évidemment je conçois que c'est pas le seul critère en fonction duquel il faut optimiser. Donc sinon j'ai aussi entendu que le problème avec la polémique Seda Mourir c'était qu'on risquait d'entrer dans un monde où on allait se mettre à soupçonner tout le monde.
C'est effectivement le risque, c'est le monde vers lequel on va, mais c'est pas lié aux gens qui démasquent les auteurs qui mentent à leurs lecteurs, c'est lié au fait que certains auteurs mentent à leurs lecteurs sur la façon dont ils ont créé leur livre. Et l'idée n'est pas d'accabler Aurélien, mais pour revenir sur donc l'analogie du marché des voitures décrite par Akerlof, admettons que vous ayez deux types de voitures, des voitures qui valent zéro euro, Denis Olivennes l'a bien dit tout à l'heure, mais des voitures qui valent on va dire zéro euro, des voitures qui valent dix mille euros. Le consommateur ne sait pas ce qu'il achète, mais il sait qu'il a une chance sur deux d'avoir une mauvaise voiture. Un prix unique s'impose, cinq mille euros. À ce prix-là, les vendeurs de bonnes voitures, qui savent que leur voiture vaut dix mille euros, n'ont plus envie de vendre, donc se retirent du marché.
Donc le consommateur réalise qu'il y a de plus en plus de mauvaises voitures sur le marché, non plus cinquante pour cent de mauvaises voitures mais mettons quatre-vingts pour cent.
Le prix unique passe à 2 000 euros, davantage de vendeurs de bonnes voitures se retirent, et peu à peu, il ne reste plus que des mauvaises voitures, plus aucune transaction n'a lieu. Et là, ceux qui sont responsables de ça, c'est pas en soi les vendeurs de mauvaises voitures, c'est le fait que les deux types de biens soient indiscernables et que le consommateur soit obligé d'appliquer le même soupçon, la même décote à toutes les voitures. Et ce qui permet de rétablir la confiance, c'est précisément de réussir à identifier, à distinguer les bonnes voitures des mauvaises voitures.
Et la solution au problème de la généralisation du soupçon passera donc précisément par le fait d'identifier les auteurs qui mentent à leurs lecteurs et donc, en ce moment, tant que c'est encore possible, de passer par des outils de détection extrêmement fiables comme Pangram. Pangram ne sera peut-être pas toujours fiable. Pour l'instant, il l'est extrêmement. Le taux de faux positifs sur Pangram est de l'ordre de 0,0041 %, corroboré par beaucoup d'enquêtes indépendantes. Il est même encore plus bas sur des textes en français.
Donc tant que Pangram marche, je pense qu'on devrait l'utiliser, non pas pour jeter l'opprobre sur ceux qui utilisent l'IA, mais simplement pour défendre les écrivains qui choisissent encore eux-mêmes leurs mots, pour leur permettre de prouver à leurs lecteurs qu'ils ont écrit, de garder la confiance de leurs lecteurs, donc d'être lus, donc de garder une raison d'écrire. Le refus d'utiliser Pangram, selon moi, est un réflexe profondément anti-littérature humaine parce que Pangram est la seule façon qu'ont ceux qui écrivent aujourd'hui de prouver leur bonne foi.
Donc j'entends, comme on disait tout à l'heure, il y a déjà un effet d'éviction. Les gens qui copient-collent très largement le travail de modèles d'IA sur le marché de l'attention prennent déjà des lecteurs aux écrivains qui écrivent eux-mêmes leurs livres. Et si on revient sur cette rentrée littéraire française, penser aux ressources d'une attachée de presse, le temps d'antenne dans des émissions littéraires, les encarts publicitaires, etc., ne sont pas extensibles. Donc quand tout ça est accordé à un livre généré par IA, tout cela n'est pas accordé à un livre dont un auteur a passé des centaines d'heures à choisir les mots. Et peut-être que pendant cette rentrée littéraire, des primo-romanciers de grand talent, par exemple, ont manqué leur rencontre avec un public parce qu'un livre généré par IA captait toute l'attention.
Donc je pense que c'est une œuvre vertueuse en quelque sorte de parvenir à identifier les livres générés par l'IA. Comme ça, le lecteur peut choisir en connaissance de cause s'il a une préférence pour l'authenticité humaine d'accorder son attention au contenu humain. Pour finir, j'ai entendu qu'il était absurde d'utiliser un outil d'IA pour détecter l'IA. Moi je trouve pas, c'est pas, enfin, tous les usages de la technologie ne se valent pas. Utiliser l'IA pour mentir à ses lecteurs, tromper son éditeur et faire semblant qu'on a écrit un livre qu'on n'a pas écrit, je trouve ça très peu vertueux.
Par contre, utiliser l'IA justement pour faire œuvre de plus de transparence et de probité dans la vie intellectuelle et culturelle, je trouve ça plus vertueux. Je trouve que c'est un sophisme de dire qu'il ne faut pas utiliser l'IA pour détecter l'IA. Ce serait comme dire que les Ukrainiens ne doivent pas utiliser d'armes pour se défendre contre les Russes. Tous les usages des armes n'ont pas la même valeur et la même vertu morale.
Donc donc donc voilà, je je comprends pas vraiment cet argument. Merci de m'avoir de m'avoir écouté.
Monsieur Lefebvre.
Renaud Lefebvre
Je je vais je vais réserver mon temps de mon temps de parole complémentaire pour pardon, je vais réserver mon temps de parole. Voilà, très bien, parfait, voilà. Donc je vais réserver mon temps de parole complémentaire pour revenir sur sur le sujet qui pourrait demander à un moment ou à un autre une intervention du législateur. Je pense qu'on peut se féliciter malgré tout qu'une situation de crise, puisque c'est quand même ce dont on parle, puisse favoriser la recherche de solutions comme ça a été évoqué dans un certain nombre de vos questions, ces solutions visant à rendre soutenable le développement d'intelligence artificielle pour les secteurs de la création, en particulier de l'édition.
Donc question précise qui a été posée : est-ce qu'il y a une solution, notamment sur la question de la rémunération des œuvres protégées utilisées par l'intelligence artificielle ? La réponse est oui. Il faut quand même rappeler qu'on est dans une situation qui est assez claire. Encore une fois, on reviendra sur les questions qui permettent d'en apporter la preuve, mais il n'y a pas de doute : toutes les œuvres ont été copiées. C'est tout simplement une atteinte à un droit de propriété dont vous connaissez la valeur.
C'est tout simplement de la contrefaçon. Alors comment on fait d'habitude, comment on faisait avant dans l'édition en cas de contrefaçon ? Bah on demandait le retrait pur et simple et les ouvrages contrefaits disparaissaient purement et simplement de la circulation des livres. Voilà. Alors là maintenant c'est impossible.
C'est impossible puisque tout ça a effectivement été vectorisé, calculé, etc. Et on va vers un usage de cette contrefaçon originelle globale, on va vers un usage perpétuel.
Eh ben qu'est-ce qu'il faut ? Il faut imposer et obtenir une rémunération perpétuelle proportionnelle, proportionnée aux bénéfices réalisés par ces acteurs et aux impacts négatifs qui portent sur le secteur. C'est tout simplement ça et en réalité il s'agit purement et simplement de faire appliquer le droit en la matière. Voilà. Alors sur le présent et on va revenir sur la question du qui a été posée sur alors je reviens sur la sur la là encore une fois c'est sur le règlement alors oui de ce que j'aimerais bien pouvoir appeler le passé.
Sur le présent il y a quand même la question du respect de ce qu'on appelle le droit d'opposition qui est donc l'expression par le titulaire de droit de sa volonté de ne de voir son œuvre ne pas être utilisée par l'intelligence artificielle. Il est violé par tous les acteurs de l'IA à chaque seconde.
Et tout ce que vous avez dit en disant les uns les autres que l'IA puise tout ce qui est... voilà, c'est un état de fait. Ce n'est pas conforme à l'état de droit. Voilà. Et donc ce dont on a besoin, c'est que le droit soit appliqué, y compris d'ailleurs dans l'acquisition des nouvelles œuvres, y compris dans ce qu'on appelle l'inférence, c'est-à-dire la capacité en temps réel d'aller chercher des informations fraîches sur le web et qui fait la qualité et l'efficacité des modèles. Il faudra évidemment que le droit d'opposition soit respecté.
Un créateur a le droit de refuser, et encore une fois, il ne s'agit que de l'application du droit positif actuel, il a le droit de refuser que son œuvre soit moissonnée par une intelligence artificielle. Aucun opérateur d'intelligence artificielle ne respecte actuellement ce droit d'opposition. Alors, on va revenir sur la question de la présomption.
Est-ce qu'on a besoin de cette présomption et est-ce que c'est un moyen suffisant ? Non, c'est un moyen nécessaire, mais ce n'est pas un moyen suffisant. Il s'agit encore une fois d'un texte de procédure, il s'agit pas d'un texte au fond, il s'agit d'un texte qui permet de faire appliquer le droit. On en a besoin parce qu'on a besoin de porter un signal très clair aux acteurs de l'IA, et qui pour l'instant ne le reçoivent pas, et ils s'en félicitent. Le signal, c'est : le droit s'applique là aussi, et ce n'est pas gratuit quand on utilise la propriété d'autrui.
Si on veut qu'émerge un marché de licence, il faut passer d'une situation — et certains dénoncent le fait et la complexité de mettre en œuvre un marché de licence — il faut quand même rappeler que si ce marché de licence n'existe pas, ce n'est pas parce qu'il y a un refus de vente, c'est parce qu'il y a un refus d'achat. À l'heure actuelle, les opérateurs de l'IA se servent de manière illimitée et gratuite de l'ensemble des contenus. Donc encore une fois, il s'agit de faire appliquer le droit. Si le législateur ne nous y aide pas, nous irons les uns les autres par nos propres moyens pour réunir des preuves et obtenir la condamnation à des dommages-intérêts considérables de tous les acteurs. Nous le ferons avec une détermination totale.
Vous le savez peut-être, mais le Syndicat national de l'édition, la SGDL, Société des gens de lettres, et le SNAC ont assigné un opérateur de rang mondial sur l'intelligence artificielle. C'est une procédure qui a plus de 18 mois, sur laquelle nous allons vers une audience de procédure au mois de février. Nous irons jusqu'au bout. Nous irons jusqu'au bout puisque, encore une fois, il s'agit là d'une condition existentielle pour le secteur de l'édition.
Autre point sur lequel on peut agir, et en particulier en ce qui concerne la transparence. Je pense que la transparence, elle commence là où l'utilisation de l'IA est la plus générale, la plus manifeste, et là où la tromperie est la plus caractérisée. Et je reviens sur cette question de ces faux livres qui prolifèrent sur les plateformes. On s'est livré, nous, à l'exercice jusqu'au bout, c'est-à-dire qu'on a réalisé un faux livre sur Amazon. Je vous en donnerai pas forcément le titre.
On a vraiment fait en sorte qu'il soit le plus mauvais possible. Dans la phase de conception de ce livre, la machine, le système, le logiciel nous a demandé de déclarer selon quatre niveaux le degré de recours à l'intelligence artificielle dans la réalisation de cet ouvrage. Nous l'avons fait.
C'est connu de manière parfaite par l'opérateur. Alors après pour s'amuser, pour pousser la machine dans ses retranchements, on est allé même jusqu'à demander à l'agent conversationnel du site si le livre avait été écrit par l'intelligence artificielle, on a reçu toutes les assurances selon lesquelles ce n'était pas le cas. Voilà. Mais ça c'est pour voilà. Alors encore une fois là, cette situation on ne peut pas on ne peut pas la laisser s'installer, ça a des conséquences en termes évidemment de de revendication de la de la protection au titre de droit d'auteur.
Accessoirement ça a également des des une dimension fiscale, c'est-à-dire ce sont des titres qui sont vendus à un taux réduit de TVA qui est conditionné par une œuvre de l'esprit et ce n'est pas établi. Donc on a une fraude à la TVA tout simplement qui est opérée sur ces sur ces ouvrages.
Et donc là, qu'est-ce qu'il faut faire ? Eh bien, il faudrait arriver à imposer à ces acteurs que ces ouvrages apparaissent sur leurs sites de vente en ligne dans une catégorie texte généré par intelligence artificielle, voilà, au lecteur effectivement de prendre sa décision en connaissance de cause. Voilà. Je vous remercie.
Denis Olivennes
Bien et bien puisque j'ai le privilège de d'être le dernier orateur de cette table, je voudrais être un peu solennel en m'adressant à vous puisque l'occasion de le faire est rare. Nous sommes, vous en avez tous conscience, on a tous conscience, à un moment de bascule civilisationnel. Ce qui est en train de se produire avec la révolution digitale augmentée par l'IA est bien plus que simplement une révolution économique ou technologique, c'est une révolution anthropologique.
Et votre génération de législateurs a une responsabilité historique puisque vous êtes les témoins de cette transformation. Vous vous souvenez du mot du général MacArthur à qui on disait : « Quelle est la différence entre une victoire et une défaite ? » Deux mots : trop tard. Donc la question est de savoir si nous allons arriver trop tard ou si, confrontés à cette révolution, nous allons agir. Et je trouverais paradoxal que nous soyons, nous Français, les inventeurs de l'exception culturelle, c'est-à-dire d'un système qui a permis et qui est admiré du monde entier et qui a permis de maintenir vivants le cinéma, la musique, l'édition, la presse en respectant sa diversité, que nous, nous soyons en retard ou en retard de phase par rapport, par exemple, aux juges américains qui ont pris le paradis du libéralisme, qui ont pris une série de décisions...
Donc oui, vous, vous avez la responsabilité historique, votre génération de législateurs a la responsabilité historique d'organiser des mécanismes de protection de ce que vos prédécesseurs ont bâti pour le plus grand intérêt de l'identité culturelle de notre pays.
Et je vous rappelle qu'il s'agit d'entreprises, les GAFAM auxquels on peut ajouter maintenant NVIDIA, qui représentent 20 000 milliards de valeur boursière, 200 milliards de chiffre d'affaires annuel et dont la progression, la croissance des revenus depuis 15 ans a été de quasi 700 %. Donc qu'est-ce que ça veut dire organiser ça ? Ça veut dire bien sûr prendre des mesures de précaution minimales comme la présomption d'usage. Oui, c'est évidemment bien sûr c'est nécessaire, c'est loin d'être suffisant, mais c'est nécessaire donc il faut absolument prendre cette disposition. Mais je crois qu'il faut aller bien au-delà et il faut aller bien au-delà en particulier pour deux secteurs qui sont dans l'œil du cyclone : l'édition qui est décisive pour notre identité culturelle et la presse qui est décisive pour notre débat démocratique.
Et si je devais résumer d'un mot ce que nous devons construire en France, c'est la chose suivante : il faut que les œuvres de l'intelligence artificielle, ou en tout cas les diffuseurs d'œuvres d'intelligence artificielle, financent les œuvres d'intelligence naturelle. Et il faut que les propagateurs de fake news financent les producteurs d'informations sincères. Il faut qu'on organise aujourd'hui des mécanismes de redevance perpétuelle, comme l'a dit Renaud tout à l'heure, des mécanismes de financement pérenne depuis ces plateformes numériques américaines vers les producteurs et les créateurs de contenu. Et on peut le faire d'une manière qui soit infinitésimale pour eux et décisive pour nous. Voilà, et c'est ça la responsabilité qui vous incombe aujourd'hui.
Je vous remercie.
Alexandre Portier
Merci.
Merci beaucoup à tous pour vos interventions passionnantes, très riches, très denses et qui ne vont pas manquer d'alimenter nos futurs travaux. Je voudrais simplement rappeler à mes collègues que nous nous retrouvons à 16h30 pour l'audition de Philippe Baptiste, donc ministre de l'Enseignement supérieur, de la Recherche et de l'Espace, et procéder ensuite à l'examen des crédits de la mission Recherche et Enseignement supérieur à 16h30. Et nous nous retrouverons aussi si nécessaire le soir à partir de 21h pour poursuivre. Voilà. Bonne journée à tous.
Ask anything about this video — I analyse its transcript to answer.