Commission des affaires étrangères : Prévoir des interdictions et des réglementations aux systèmes d’armes autonomes
Legend
Transcript markers
- text Sentence being played
- text Search result
- text Intervention cited by the link you opened
Click a sentence to play the video from that moment. Select text to quote it with the speaker, timestamp and link.
More options
Offset
Transcript offset
Export
Live capture
Versions of this video
Transcripts may differ slightly from one version to another.
Affaires étrangères (commission) Actual start Assemblée nationale
Pierre Pribetich
Les avancées technologiques réduisent progressivement l'écart entre l'aide à la décision et ce qu'on appelle en électronique et en automatique l'autonomie décisionnelle. Alors que l'IA assiste concrètement maintenant les opérateurs, elle pourrait concrètement remplacer l'humain dans des décisions de ciblage et d'ouverture au feu. J'en veux pour preuve la levée de fonds incroyable du 13 juillet 2026, c'est-à-dire avant-hier, concernant une start-up Helsing, start-up fondée en 2021 qui développe des logiciels IA pour les forces armées et pour surtout les drones autonomes, le fameux HX-2, une levée de fonds de 1,6 milliard d'euros faite en très peu de temps.
On mesure bien l'intérêt notamment des constructeurs pour de tels accompagnements et de telles facilités technologiques. La guerre d'agression menée par la Russie contre l'Ukraine illustre aussi cette dynamique, hélas. Ce conflit a accéléré le développement et le déploiement de fonctions autonomes intégrées à des drones et à d'autres systèmes de défense, démontrant à la fois l'intérêt opérationnel de ces technologies, leur faible coût et surtout la rapidité à laquelle elles évoluent. En effet, cette guerre d'agression menée par la Russie contre l'Ukraine nous montre que cette évolution n'est pas que théorique.
Les drones autonomes, les fonctions d'intelligence artificielle dites embarquées, l'accélération permanente de l'innovation militaire changent totalement la manière de faire la guerre. L'asymétrie du conflit russo-ukrainien au départ a forcé les Ukrainiens à utiliser de nouvelles armes, des armes dites low-cost, des drones, et leur génie a transformé un conflit classique asymétrique en une nouvelle forme de guerre. Les coûts, nous le savons, ont diminué, les capacités ont augmenté, les garde-fous, eux, peinent à suivre. Comme en 1968, l'imagination est au pouvoir, surtout lorsque la résistance, et la résistance du peuple ukrainien, alimente la créativité. Alors la question qui nous est posée aujourd'hui dépasse largement la simple application de la technologie.
Elle est d'abord profondément politique, d'où notre rôle.
Elle est surtout éthique, voire philosophique. Depuis Platon, nous savons que la force ne peut être légitime que lorsqu'elle demeure à la justice. Une machine ne connaît ni la justice, ni le doute, ni la responsabilité. C'est pourquoi la décision de donner la mort ne peut, ne peut à mon sens jamais lui être abandonnée. Le développement de ce qu'on appelle les armes autonomes létales, les SALA, soulève des interrogations majeures.
Il pose d'abord ce développement une question éthique, je l'ai rappelé, fondamentale.
Car la décision de recourir à la force létale constitue l'une des responsabilités les plus graves qui puissent incomber à un être humain. Déléguer cette décision à une machine dépourvue de conscience morale reviendrait à franchir un seuil inédit dans l'histoire de la guerre. Les enjeux, nous le savons, sont également aussi stratégiques. L'autonomisation croissante des armements pourrait contribuer à abaisser le seuil du recours à la force en réduisant le coût humain immédiat des opérations militaires. Elle risque également d'alimenter une course mondiale sans fin aux armements fondée sur l'intelligence artificielle tout en favorisant la prolifération de ces technologies, y compris entre les mains d'acteurs dits non étatiques.
Ces préoccupations sont d'autant plus importantes que les systèmes d'armes létales autonomes ne font aujourd'hui l'objet d'aucun instrument international juridiquement contraignant qui leur soit spécifiquement consacré. Certes les SALA ou les robots tueurs sont réputés se conformer au droit international humanitaire issu des conventions de Genève de 1949 et de leurs protocoles additionnels. Comme l'a rappelé la Cour internationale de justice dans un avis consultatif de 1996, la nouveauté d'une arme ne permet pas de s'affranchir des règles existantes du droit international applicable aux conflits armés.
Les systèmes d'armes autonomes demeurent donc soumis au droit international humanitaire, en particulier de distinction, de proportionnalité et d'humanité. Toutefois, l'effectivité de ces principes apparaît difficilement conciliable avec des systèmes susceptibles d'agir sans intervention humaine. L'autonomie décisionnelle de ces systèmes soulève une difficulté supplémentaire, celle de l'attribution juridique de la responsabilité en cas de violation internationale du droit humanitaire.
Consciente de ces enjeux, la communauté internationale a engagé dès 2013, soit il y a 13 ans, des discussions dans le cadre de la convention sur certaines armes classiques, dite CAC. Cette enceinte réunit 126 États parties et constitue aujourd'hui le cadre de négociation peut-être le plus approprié pour répondre à ces questions juridiques et éthiques soulevées par les systèmes d'armes autonomes. Elle présente à cet effet deux atouts majeurs. D'une part, elle offre, entre guillemets, une représentation équilibrée de l'ensemble des acteurs concernés, y compris les États dotés de capacités les plus avancées sur le plan technologique comme les États-Unis, la Russie ou la Chine.
D'autre part, son architecture juridique permet l'adoption des protocoles additionnels à la convention-cadre de 1980. Les négociations menées sous la conduite d'un groupe d'experts gouvernementaux ont permis plusieurs avancées importantes auxquelles la France, je le redis, a largement contribué. Elles ont progressivement fait émerger un consensus autour d'un socle de principes directeurs synthétisés dans un texte évolutif présenté lors de la conférence d'examen de novembre 2024, soit 11 ans après le début des négociations, puis régulièrement actualisé.
Ces principes réaffirment que le droit international humanitaire s'applique pleinement aux systèmes d'armes dotés d'autonomie et que leur emploi doit toujours relever d'une responsabilité humaine. Endossés sur la base du consensus, ces orientations posent la base d'un futur instrument juridique contraignant. Toutefois, nous le savons, ces discussions restent fragiles. Les États parties restent profondément divisés, tant sur la définition même de ce qu'on appelle les robots tueurs SALA que sur la pertinence d'un futur traité international.
Certains États plaident pour une interdiction de ces systèmes, d'autres privilégient de simples lignes directrices non contraignantes, tandis que le fonctionnement par consensus de la CCAC complique toute avancée rapide. La prochaine conférence d'examen de la convention prévue en novembre 2026 constituera une échéance déterminante. Les États parties devront notamment se prononcer sur le renouvellement du mandat du groupe d'experts gouvernementaux chargé de conduire ces négociations. C'est dans cette perspective et en tant que parlementaire, dans le cadre de la séparation des pouvoirs entre l'exécutif et le législatif et l'autorité judiciaire, que s'inscrit la proposition qui vous est soumise. Séparation des pouvoirs entre l'exécutif et le législatif, je le rappelle.
La résolution européenne qui vous est soumise aujourd'hui tente d'approcher et de proposer quelque chose qui permette d'avancer sur le droit international humanitaire. Elle appelle à l'adoption d'un traité international juridiquement contraignant sur les robots tueurs dits SALA. Ce traité devrait d'une part interdire les systèmes qui ne pourraient par leur nature même être développés ou employés dans le respect du droit international humanitaire. D'autre part, encadrer les autres systèmes intégrant des fonctions d'autonomie en garantissant un contrôle humain effectif tout au long de leur cycle de vie, depuis la conception jusqu'à leur emploi opérationnel.
Ce contrôle humain ne saurait être purement formel. Il suppose que l'autorité humaine conserve une compréhension suffisante du fonctionnement du système, exerce une véritable supervision et puisse interrompre son fonctionnement avant tout recours à la force létale. L'action internationale sur les robots tueurs dits SALA ne saurait toutefois se limiter au seul cadre offert par la CCAC. D'autres instances se sont en effet saisies de cette question et offrent un cadre propice à une réglementation ambitieuse des systèmes d'armes autonomes plus largement.
L'Assemblée générale des Nations Unies a ainsi adopté plusieurs résolutions entre 2024 et en 2025 qui témoignent d'une volonté de faire progresser la réflexion, les réflexions sur la question. L'Union européenne a, elle aussi, un rôle essentiel à jouer. Le Parlement européen s'est déjà prononcé sur les robots tueurs dits SALA en 2018 et en 2021. L'émergence d'une position européenne commune renforcerait considérablement la capacité de l'Union européenne à peser dans les négociations internationales et à promouvoir une réglementation conciliant les impératifs stratégiques, le respect du droit international humanitaire, les exigences éthiques qui fondent notre droit des conflits armés.
Mes chers collègues, l'innovation technologique ne peut se développer au détriment des principes et de nos principes fondamentaux. Il est de notre responsabilité de législateur, dans le cadre, je le rappelle, de la séparation des pouvoirs, d'anticiper ces évolutions afin que le progrès scientifique demeure compatible avec les exigences du droit international humanitaire et avec les valeurs que je crois nous défendons tous ensemble. Je vous invite donc à adopter cette proposition de résolution européenne. Je vous remercie.
Alain David
Merci, Monsieur le rapporteur. Merci, Pierre. Je vais maintenant ouvrir la discussion générale en donnant la parole aux orateurs des groupes. Deux minutes trente, je rappelle.
Mais enfin bon. Ok, à peu près, à peu près. Et la réplique globale du rapporteur. Alors là aussi, comme vous voulez Monsieur le rapporteur. Si vous voulez répondre individuellement ou globalement, à votre choix.
Ok. Alors, le premier groupe, c'est le Rassemblement National, Michel Guiniot.
Michel Guiniot
Merci Monsieur le président, Monsieur le rapporteur, mesdames, messieurs.
La proposition de résolution européenne que nous examinons aujourd'hui vise à promouvoir la conclusion d'un traité juridiquement contraignant prévoyant des interdictions et des réglementations aux systèmes d'armes autonomes et de l'élaboration d'une position commune européenne sur ce sujet. Avec l'avènement de l'intelligence artificielle et son omniprésence dans notre quotidien, il est tout à fait légitime de se demander où est la limite et mieux encore où sera la limite. Lorsque l'IA remplace peu à peu l'homme dans ses dimensions administratives et ses corvées, est-il envisageable de l'inclure également dans les missions les plus risquées en s'y substituant sur le champ de bataille, voire en prenant l'initiative d'ôter une vie ? La première des lois de la robotique d'Asimov établit qu'un robot ne peut porter atteinte à un être humain. Lorsqu'elle a été formulée en 1942, le fait qu'un robot puisse avoir ce degré d'autonomie relevait évidemment de la science-fiction.
Nous y sommes aujourd'hui. En juin 2024, nous apprenions par l'ambassade d'Ukraine que ce type de robot existe, qu'il fonctionne depuis 2024. Hors de tout cadre juridique, la guerre menée en Ukraine se déshumanise au plus haut point. La France s'oppose catégoriquement au développement de systèmes d'armes létales autonomes depuis 2019. Le Rassemblement National, en soutenant cette proposition de résolution, ne fait que soutenir la ligne internationale.
Si l'action létale autonome est aujourd'hui tolérée en période de guerre, quand ce débat arrivera-t-il pour les temps de paix ? On peut toutefois regretter qu'une fois encore, la position française se retrouve diluée au sein d'une doctrine européenne. Merci Monsieur le Président, merci Monsieur le Rapporteur.
Monsieur le rapporteur.
Pierre Pribetich
Chers collègues, merci pour le soutien à cette résolution. Nous ne partageons pas, et nous le savons, un certain nombre de positions, notamment sur l'Europe, mais bon, c'est votre position, elle doit être respectée.
Alain David
Merci. Bien, maintenant je vais donner la parole à Vincent Ledoux pour Ensemble pour la République.
Vincent Ledoux
Merci Monsieur le Président, Monsieur le rapporteur, mes chers collègues.
Tout d'abord, je voudrais saluer la qualité du travail de Monsieur Pribetich qui vraiment nous éclaire de manière tout à fait large à la fois sur l'exposé des enjeux et il a le mérite de porter devant notre commission une question qui ne relève plus, comme il l'a dit en amont, de la science-fiction mais bien de l'actualité stratégique. Effectivement, l'essor de l'intelligence artificielle dans le domaine militaire nous oblige à réfléchir dès aujourd'hui au cadre juridique, éthique et politique que nous souhaitons construire. Nous partageons tous, je crois, la conviction qu'aucun système d'arme ne devrait pouvoir décider seul de la vie ou de la mort d'un être humain. Le maintien d'un contrôle humain constitue un principe essentiel auquel la France est profondément attachée. Les travaux conduits depuis plusieurs années dans le cadre de la convention sur certaines armes classiques montrent d'ailleurs que notre pays, et vous l'avez rappelé Monsieur le Rapporteur, joue un rôle moteur dans cette réflexion internationale.
Il est donc important que notre Parlement accompagne cette dynamique et je me réjouis que les travaux de la commission des affaires européennes aient permis de clarifier plusieurs points importants, notamment la distinction entre les systèmes d'armes létaux pleinement autonomes et les systèmes intégrant des fonctions d'autonomie tout en demeurant sous contrôle humain.
Mais j'aurais néanmoins une question à adresser au rapporteur. Vous soulignez à juste titre que les négociations opposent aujourd'hui trois blocs : une vingtaine d'États, à l'instar du Mexique ou de l'Autriche, qui plaident pour une interdiction immédiate ; les États-Unis à l'inverse qui jugent que le droit international humanitaire est suffisant ; et entre les deux, la France, l'Allemagne, le Royaume-Uni, le Japon qui défendent une position médiane, tandis que la Russie et la Chine oscillent entre obstruction et abstention. Le risque donc qu'un traité ambitieux ne rassemble finalement que des États déjà convaincus crée une forme d'asymétrie stratégique.
Alors, Monsieur le rapporteur, comment envisagez-vous la conciliation de cette nécessaire ambition normative avec l'objectif d'universalité indispensable à l'efficacité d'un futur traité ? Quels leviers diplomatiques la France et l'Union européenne pourraient-elles mobiliser pour entraîner les grandes puissances dans cette démarche plutôt que de voir émerger un cadre qui ne s'imposerait qu'à une partie des acteurs ? Je vous remercie pour votre réponse.
Pierre Pribetich
Monsieur le député du Nord, merci pour vos propos élogieux. Sachez que le professeur d'université formé à l'université de Lille 1 adresse ses compliments à l'université de Lille 1 qui m'a formé. Donc voilà. Très bonne université, excellente. Bien, vous avez posé en fait plusieurs questions.
Naturellement, comme beaucoup d'entre nous, voire une large majorité, nous sommes très circonspects sur la dérive concernant le contrôle humain et concernant ces robots tueurs. Il faut faire la séparation entre ce que la France porte. Vous avez évoqué les discussions qui sont complexes, qui ne sont pas certaines d'aboutir, même si ce qui nous revient en fait des négociations entre les trois blocs pour l'instant est plutôt positif. Là, ce que nous devons faire, nous, c'est exprimer en fait la voix du Parlement. Nous ne sommes pas, à ma connaissance, ici il y a d'anciens membres du gouvernement, mais nous ne sommes pas en fait membres de l'exécutif.
La question qui nous est posée est une question liée à la perception que nous avons, nous, en tant que législateurs, de ce que nous devons faire. Et naturellement, le fait de dire, bah oui, mais attention, l'Assemblée nationale a cette position.
Oui, c'est une indication que nous donnons à l'exécutif. L'exécutif n'en prendra pas ombrage dans le cadre de la séparation des pouvoirs. Donc nous ne sommes pas dans une fonction de négociation, entre guillemets, et cette position, à moins d'arguments de très bas niveau, ne peut pas être utilisée contre la position de la France. Là, c'est la position du Parlement qui appelle à ce que nous allions de manière plus efficiente vers un traité international, notamment en prenant les différentes étapes et notamment celle de l'Union européenne. Je crois sincèrement, pour avoir été député européen, que le Parlement européen peut se saisir de notre position si elle est partagée.
Parce que dans la négociation d'un fonctionnement qui est différent du nôtre, c'est une position qui est importante. Et donc, utilisons un élément plutôt positif à cette démarche et non pas de le voir comme une sorte de défiance vis-à-vis de l'exécutif, ça n'a rien à voir. Là, ce que l'on évoque, la décision que l'on va prendre, c'est l'expression du Parlement dans sa souveraineté, dans son indépendance, de manière à le transmettre au Parlement européen qui, pour le coup, lui, peut avoir une position beaucoup plus forte. Je le rappelle, ce sujet, il me semble que c'est notre collègue Morel, hein, qui avait notamment beaucoup participé en tant que parlementaire européen à ces évolutions de 2018 et 2021.
Et donc c'est une manière aussi d'indiquer un choix. Et je pense que dans la négociation qui est compliquée, qu'il n'est pas entre guillemets, nous souhaitons naturellement que nous avancions, mais c'est une manière aussi d'indiquer notre propre position. Et c'est à l'exécutif après à utiliser finement, mais avec la qualité des diplomates, je ne doute pas que cette position puisse être utilisée utilement dans une négociation pour faire parvenir et pour parvenir à un accord.
Aurélien Saintoul
Merci Monsieur le président, Monsieur le rapporteur, collègues. Les risques que les systèmes d'armes létales autonomes suscitent sont désormais bien identifiés et reconnus largement dans les rangs des politiques, des juristes, des militaires ou des ingénieurs.
Ils sont de trois sortes : la perte de contrôle, la corruption du système par des biais et la dilution de la responsabilité des belligérants. Pour ce qui est de la perte de contrôle, de nombreuses alertes ont été lancées par des ingénieurs de renom quant au risque de voir des intelligences artificielles s'affranchir du cadre dans lequel initialement elles devaient agir, au point même de menacer l'opérateur ou les opérateurs humains censés les mettre en œuvre. Il va de soi qu'un tel scénario ne peut être accepté par une armée, pas même dans sa version la moins critique, celle d'un débordement de la planification. La persistance de biais dans les systèmes est par construction un risque dont il est presque impossible aussi de s'exonérer, puisqu'aucun système ne saurait être conçu par une intelligence humaine ou artificielle elle-même exempte de biais. Enfin, je veux m'attarder un instant sur la question de la dilution de la responsabilité dont il me semble qu'on n'est pas venu à bout en garantissant qu'un humain reste toujours, selon l'expression consacrée, dans la boucle de la décision.
Cette garantie est certes nécessaire mais pas suffisante comme le prouvent les usages réels de l'intelligence artificielle. Ce point est notamment documenté par le chercheur israélien Orish Schwartz dans un article de mai dernier dans lequel il revient sur l'utilisation par l'armée israélienne des programmes de désignation de cibles appelés Gospel et Lavender avec une ironie plus que cruelle. Il montre que le contexte d'utilisation de ces systèmes proposant des cibles toutes les 20 secondes offre une justification purement formelle à l'emploi de frappes massives contraire manifestement au droit international humanitaire. De fait, instruit par cet exemple, il apparaît que c'est l'ensemble des usages militaires de l'IA qui devrait faire l'objet d'une réglementation internationale.
Bien sûr, une telle ambition aurait des implications tellement fortes et nombreuses en matière de contrôle international qu'elle peut sembler aujourd'hui utopique, mais je crois néanmoins que nous devrons y venir. Pour cela, l'ouverture de négociations sur les SALA sera un point d'appui bienvenu, mais que nous regardons néanmoins avec réserve, bien conscients que le cadre de ces négociations au sein de la Convention sur certaines armes classiques peut très bien offrir un cadre idéal à l'enlisement volontaire des discussions par des États faussement bénévoles. Enfin, d'autres aspects de la question, notamment les liens qui pourraient exister entre SALA et contrôle des armes nucléaires, pourraient faire l'objet d'une réflexion conjointe et remettre, espérons-le, autour de la table les États dotés qui depuis trop longtemps malheureusement organisent la régression du contrôle des armements. Je vous remercie.
Pierre Pribetich
Merci, Monsieur le rapporteur. Chers collègues, nous avons déjà eu l'occasion d'échanger, notamment lors de la commission des affaires européennes.
Je partage votre point de vue et votre crainte, notamment concernant les articles dans des revues internationales sur la dilution de la responsabilité humaine. C'est un véritable problème et sans doute, mais c'est pas l'objet de cette résolution, faut-il que la commission de la défense de manière plus large embrasse, elle l'a déjà fait à différentes reprises, mais encore et encore, comment doit-on réguler l'IA dans l'utilisation notamment des forces armées. C'est un véritable problème qui est à la fois un problème exécutif mais aussi un problème de la responsabilité du législateur.
Et naturellement, toutes les bonnes volontés seront utiles pour essayer justement de mieux cadrer cette dilution de la responsabilité humaine avec les articles dont vous avez fait référence de chercheurs notamment sur des champs de bataille au Moyen-Orient, n'évitons pas de le citer, où l'imagination, entre guillemets, dans un sens délétère du terme, a été au pouvoir. Et toutes les dérives aussi car non contrôlées. Non contrôlées parce qu'il n'y avait pas de règles au niveau du droit international humanitaire. J'insiste lourdement, au-delà de cette responsabilité humaine, je le dis parce que j'ai été interpellé par des responsables scientifiques, reste la responsabilité juridique de la conception de tels systèmes. En cas de divergence du système dit autonome d'armes létales, qui a la responsabilité ?
Celui qui a commandé, celui qui a conçu ou celui qui, d'un point de vue décisionnel, a lancé l'objet ? C'est un véritable problème, notamment dans les laboratoires et dans les industries. Et je pense qu'on ne peut pas balayer d'un revers de main cette responsabilité parce qu'elle existe et dans d'autres champs, à juste titre, on a appliqué la responsabilité individuelle. Ça reste une responsabilité individuelle, chacun sachant qu'en droit pénal, il n'existe pas de responsabilité collective. Donc on a un problème de fond juridique.
Si on donne l'ordre de concevoir de telles armes, qui a la responsabilité juridique de la conception ? Et donc ce débat, qui est en général un débat caché, voire que l'on met sous le tapis, est un véritable débat, notamment par rapport aux commandes qui devraient faire l'objet dans les différentes entreprises liées à ce secteur de la défense. J'insiste lourdement, la levée de fonds dont j'ai fait référence sur cette start-up créée en 2021, d'1,6 milliard d'euros de levée de fonds, doit nous interpeller sur la prise en compte du développement, parce qu'avec de tels fonds importants, cette situation révèle en fait l'appétit, voire l'avidité pour développer des systèmes avec des objets et du développement lucratif derrière. Et donc ça doit aussi nous interpeller en tant que législateur pour définir le cadre et les bornes de ce dispositif.
Alain David
Pour le groupe Écologiste et Social, Jean-Louis Roumégas.
Merci, Monsieur le rapporteur.
Jean-Louis Roumégas
Merci Monsieur le président. Merci à Monsieur le rapporteur pour la conviction avec laquelle il porte ce sujet et l'alerte qu'il nous dresse ici. Le groupe Écologiste et Social, vous l'avez compris, soutiendra d'emblée cette proposition. D'abord parce que les progrès de l'intelligence artificielle ont décuplé les possibilités de systèmes d'armes capables de sélectionner et de tirer sur une cible sans intervention humaine, vous l'avez bien expliqué. Et cette technologie pose la question fondamentale que vous avez parfaitement soulignée : pouvons-nous accepter qu'une machine prenne de façon autonome une décision de vie ou de mort ?
Depuis 2013, la mobilisation de la société civile, des chercheurs et des organisations non gouvernementales a permis de mettre ce sujet à l'agenda des Nations Unies. L'Autriche a joué un rôle important à cet égard, un rôle précurseur, en portant ce débat au sein de la Convention sur certaines armes classiques et en défendant l'ouverture de négociations sur un instrument juridiquement contraignant. Elle est aujourd'hui membre du Conseil de sécurité, c'est donc le moment où la France doit l'épauler et soutenir cette initiative en tant que membre permanent et hôte du sommet de l'IA. La mobilisation est d'autant plus urgente que les usages militaires de l'IA ne relèvent pas du tout de la science-fiction.
Je voudrais citer comme mon collègue l'a fait un autre théâtre d'opérations, la guerre à Gaza, qui a montré les ravages causés par une automatisation exponentielle du ciblage par l'IA, comme l'a montré notamment la chercheuse Amélie Ferey et la coalition Stop Killer Robots. Les systèmes Lavender, Gospel ou Where's Daddy permettent de traiter un grand nombre de données et de désigner rapidement des cibles potentielles, laissant quelques secondes au donneur d'ordre pour vérifier la fiabilité des informations et les potentielles violations du droit international. L'utilisation de l'IA dans des procédures de ciblage à Gaza a montré que même lorsque la décision est réservée à l'humain, le système étant conçu comme une aide à la décision, en réalité la confiance placée dans la technologie est telle que le travail de vérification n'est pas effectué et que les préventions éthiques sautent, a fortiori dans un contexte où la chaîne de commandement exige une cadence de frappe importante.
Dans ce contexte, la France affirme certes refuser les armes fonctionnant totalement hors de tout contrôle humain, mais la doctrine demeure insuffisamment claire, notamment lorsqu'on évoque une modulation du degré d'automatisation en fonction des circonstances. Nous demandons donc que le travail doctrinal engagé sur l'usage de l'IA dans les armées associe plus étroitement militaires, chercheurs, parlementaires et ONG et pose les bases de règles d'engagement communes.
Cette résolution en pose les principes en proposant de maintenir un contrôle humain effectif sur toute décision létale et d'interdire les systèmes incompatibles avec cet objectif. Elle propose un cadre pour échanger sur la doctrine d'emploi de nos forces en prenant acte collectivement des risques que fait courir l'intelligence artificielle et en posant des conditions à son développement. Pour le groupe Écologiste et Social, aucune décision de tuer ne doit être abandonnée à une machine. Nous voterons donc pour cette proposition.
Pierre Pribetich
Merci chers collègues pour avoir rappelé des principes qui, je pense, font l'unanimité, j'espère, au sein de cette commission et au sein de l'ensemble de notre Assemblée nationale.
Mais c'est vrai que l'aide à la décision et dans la conception de ce qu'on appelle les véhicules autonomes, qui relèvent en fait d'un autre objectif scientifique, mais qui là aussi, l'aide à la décision a besoin d'un travail de vérification. Et le biais, entre guillemets, est lié justement à ce travail de vérification qui n'est pas en fait sécurisé vis-à-vis des règles du droit international. Nous reviendrons dans les amendements sur la notion de contrôle humain effectif, qui est un élément essentiel. Et vous avez, je pense à juste titre, appelé également ce Parlement à se saisir, en tant que législateur, de la définition d'une doctrine, notamment concernant la modulation du degré d'autonomisation des armes létales, notamment concernant des règles d'engagement.
Ne pas l'évoquer n'est pas faire acte de responsabilité de législateur. C'est naturellement pas cette commission, mais c'est à la commission de la défense à se saisir en fait de ce point de vue pour mieux cadrer les choses d'un point de vue législatif et d'un point de vue des règles, et notamment qui relèvent du droit humanitaire international. Laisser ça dans le flou consiste en fait à laisser la part belle à toutes les dérives. Je le redis assez simplement, à toutes les dérives. Et des positions dites mesurées, "oui, mais nous savons que...", non.
À un moment donné, il faut définir le droit, définir le cadre et permettre ainsi d'avancer vers un meilleur contrôle. Vous avez, il y a certains États, vous avez cité l'Autriche, c'est vrai. L'Autriche est dans une autre position que notre pays. Mais je le redis, nous avons nous intérêt à nous saisir de ce débat parce qu'il ne faut pas passer à côté de la définition plus précise, mieux encadrée, de ce qui devrait être concernant le contrôle humain effectif.
Alain David
Merci. Je vais donner la parole maintenant à Frédéric Petit pour les démocrates.
Frédéric Petit
Merci, Monsieur le Président. Merci au rapporteur non seulement pour son travail, mais de recadrer exactement le travail que nous faisons ici. Je trouve que c'était important de bien resituer notre travail de parlementaire par rapport à l'exécutif dans le cadre de la séparation des pouvoirs. Et c'est exactement comme ça. Ce que je voudrais faire, mes chers collègues, je voudrais faire une remarque, participer au débat de façon un peu personnelle.
Vous savez que j'habite dans une circo où ça se passe en ce moment et puis une circo où ça s'est passé. Je voudrais rappeler que le rapporteur l'a bien rappelé quand il a parlé de 2013 et du début des interrogations sur cela. Moi je remonte encore plus loin. Nous avons eu des automatisations de la mort sur la surveillance du rideau de fer. Il y a des gens qui sont morts par erreur.
Voilà. On s'est dit : "Oh zut, c'était automatique, un camionneur qui passait la zone et qui avait oublié qu'il voulait demander sa route et qui repartait à reculons se faisait descendre automatiquement sans réfléchir".
Nous avons, je vous rappelle, que dans les armes nucléaires, nous avons un laps de temps où il ne peut plus revenir en arrière. Alors c'est de l'automatisation, c'est un laps de temps, mais à un moment on peut pas revenir en arrière et c'est même interdit. C'est impossible. Je voudrais également rappeler que quand on dit humain, robot, on peut aussi se poser des questions sur l'humain. Qu'est-ce que vous savez qu'il y a des choses qu'on appelle des safaris humains en ce moment ?
Voilà, ce sont des gens qui décident, mais des personnes peuvent être absolument inhumaines en ce moment. Donc je crois qu'on arrive sur la deuxième notion qui est importante et que je voulais rappeler, qui est la vraie notion clé, c'est-à-dire la notion de responsabilité. Je crois que c'est le rapporteur l'a bien dit, je crois que c'est là que nous pouvons participer au débat, c'est-à-dire qu'est-ce que la notion de responsabilité ? Et c'est pour ça que je rappelais les safaris qu'on appelle humains dans un espèce d'alliance de mots absolument terrible. Je rappelle les safaris humains, ce sont des soldats qui s'amusent à descendre des civils à dix kilomètres avec des mini-drones à fibre optique.
Voilà, c'est un jeu.
Voilà, donc est-ce que c'est, je pose ça en termes de responsabilité. Parce que qui dit responsabilité dit suivi. C'est-à-dire qu'il faut qu'on ait de la responsabilité et qu'après on ait la redevabilité du responsable. Et c'est là qu'on va tomber, que notre travail parlementaire peut aider. Donc je rappelle la position de mon groupe sur ce sujet.
Nous sommes prudents. Nous y allons avec, comme l'ont dit beaucoup d'autres groupes, nous sommes tout à fait d'accord que ça doit se faire dans un cadre international, dans le cadre le plus élargi possible. Et c'est pour ça que nous accompagnons cette PPRE. Et l'essentiel, c'est bien le renforcement du droit international. Comme l'a dit mon voisin à l'instant, c'est lent.
Construire du droit international, c'est lent, en particulier à notre époque. Mais c'est bien ça qui doit nous guider, c'est de construire du droit international. Je vous remercie.
Pierre Pribetich
Merci, chers collègues. En effet, parce qu'on a bien souvent, on est dans l'urgence dans notre activité de parlementaire, mais des sujets comme ça, nous devons prendre le temps, le temps du débat, le temps de la réflexion. Ce sont des sujets éthiques, politiques. Et moi-même étant d'une filiation socialiste avec Gramsci, je rappelle tout de même que dans ses notes, il invoque la responsabilité politique. Je rappelle ceci tout simplement : agir, c'est toujours assumer les conséquences de ses décisions.
Et cette démarche, je le pense, est difficilement conciliable avec la décision létale confiée à un algorithme. On a un véritable problème et cette aide à la décision dont faisait référence Jean-Louis Roumégas, on l'a déjà en tant que chercheur et concepteur vécu avec ce qu'on a appelé les véhicules et ce qu'on appelle toujours les véhicules autonomes. Et lorsqu'on a lancé plusieurs expériences qui ont abouti en désignant un objectif, un beau jour, il y a un cycliste qui a traversé une route et on n'avait pas prévu le cas.
Et le véhicule autonome a écrasé le cycliste. Je le redis, toute œuvre humaine est perfectible et ce serait folie que de penser que la conception peut résoudre tous les problèmes. Ça veut dire que le contrôle humain effectif est un devoir au-delà du devoir moral, un devoir de contrôle en fait des armes létales. Dans cette démarche, il y a un problème de responsabilité qui est évident, responsabilité juridique. Qui, qui en cas d'emballement du système, parce que c'est ça en fait le problème, c'est l'emballement, qui aura la responsabilité ?
Le donneur d'ordre, le concepteur, celui qui a acheté les armes, celui qui a lancé le programme de recherche ?
Donc on a un problème d'individualisation de la responsabilité. Deuxièmement, vous avez parlé du suivi. Ça c'est très juste. C'est-à-dire il faut aussi qu'il y ait un suivi. Et donc on a pour l'instant, on tourne autour d'un traité et on espère qu'en novembre 2026 nous aurons avancé, même de quelques pas.
Néanmoins, rien ne nous promet que nous aurons avancé de quelques pas en novembre 2026. Et donc naturellement la prudence, vous avez rappelé la prudence de votre groupe, le renforcement du droit international humanitaire, je ne peux que partager en fait ces éléments. Mais la prudence ne retarde pas, ne doit pas retarder le débat et ne doit pas retarder la manière de réfléchir et de proposer, de générer en fait des lois qui nous permettent d'être vraiment dans notre fonction de parlementaire et notamment de renforcer le droit international humanitaire.
Dieynaba Diop
Merci, Monsieur le Président de séance. Merci, cher rapporteur, mes chers collègues. L'intelligence artificielle transforme déjà profondément les conflits armés. Elle peut assister les militaires dans l'analyse, le renseignement ou encore la protection des forces, mais une ligne rouge ne doit jamais être franchie, celle qui consiste à laisser une machine décider de la vie ou de la mort d'un être humain. C'est précisément l'enjeu des systèmes d'armes létaux autonomes.
Derrière la prouesse technologique se cache un bouleversement éthique, juridique et politique majeur que le rapporteur nous a bien rappelé. Car lorsque la décision de tuer est déléguée à un algorithme, qui répond des erreurs ? Les conflits en Ukraine comme à Gaza montrent que ces technologies ne relèvent plus de la science-fiction. Elles sont déjà expérimentées et utilisées. Plus nous attendons, plus il sera difficile de fixer les règles.
C'est pourquoi nous soutenons cette proposition de résolution. Elle affirme une exigence simple : le maintien d'un contrôle humain significatif sur toute décision de recours à la force létale et l'ouverture de négociations internationales en vue d'un instrument juridiquement contraignant prévoyant des interdictions et des réglementations concernant les systèmes d'armes létaux autonomes. L'Europe a une responsabilité particulière. Elle ne peut se contenter d'être spectatrice d'une course mondiale aux armements guidée par la seule logique de puissance. Elle doit être une force motrice pour défendre le droit international, protéger les populations civiles et rappeler que l'innovation technologique ne peut jamais s'affranchir des principes fondamentaux de notre humanité.
Et encore une fois, je remercie notre rapporteur et ses équipes pour ce rapport de qualité.
Monsieur le rapporteur.
Pierre Pribetich
Merci, chers collègues. On peut difficilement ne pas répondre de manière positive à vos propos élogieux, ce qui fera tout de même dire qu'au sein du Parti socialiste, il y a une unité de vue. N'est-ce pas ? Non, mais je ne sais pas, certains pourraient avoir un doute. Donc nous sommes bien en phase.
En tout cas, je redis tout de même que c'est une démarche importante, vous l'avez souligné. Retirer l'humain de la décision létale, je le redis assez simplement, c'est franchir une ligne rouge.
Franchir une ligne rouge et une ligne que l'humanité à ce moment officiellement, officiellement, n'a jamais franchie. Par contre, je pense que si nous n'accélérons pas en fait la génération d'un droit international humanitaire, elle sera franchie allègrement sans discernement. Et c'est ça en fait le danger. Et donc on gagnerait nous collectivement à être promoteur justement de ce que la France a déjà par le passé et durant des décennies proposé, c'est justement d'améliorer le droit international humanitaire. Merci en tout cas pour votre contribution.
Charlotte Parmentier-Lecocq
Merci Monsieur le Président.
Monsieur le rapporteur, mes chers collègues, le groupe Horizons et indépendants partage pleinement la préoccupation qui anime cette proposition de résolution. L'émergence possible de systèmes d'armes létaux pleinement autonomes, capables de sélectionner et d'engager une cible sans intervention humaine, soulève des questions éthiques, juridiques et humanitaires que nul ne peut ignorer. La perspective que le discernement humain puisse être exclu d'une décision de vie ou de mort est inacceptable. Le maintien d'un contrôle humain effectif sur l'usage de la force létale constitue pour notre groupe une ligne rouge. Cette préoccupation, la France la porte depuis longtemps.
C'est à son initiative que la question des systèmes d'armes létaux autonomes a été inscrite à l'ordre du jour des Nations Unies dès 2013, dans le cadre de la convention sur certaines armes classiques. Cette convention constitue aujourd'hui le principal cadre multilatéral de négociation sur le sujet. Parce qu'elle réunit les États qui développent ou sont susceptibles de développer ces technologies, elle est l'enceinte la plus pertinente pour élaborer les règles universelles et juridiquement contraignantes. Nous devons également éviter toute confusion. Une chose est de proscrire les systèmes pleinement autonomes hors de tout contrôle humain, une autre serait d'interdire indistinctement toute arme intégrant une part d'autonomie.
Les fonctions d'autonomie partielle, lorsqu'elles demeurent sous contrôle humain, apportent des avantages opérationnels essentiels, notamment pour la protection de nos militaires et l'efficacité de nos armées.
C'est pourquoi nous serons particulièrement attachés à préserver l'équilibre trouvé par le texte, défendre un cadre juridique exigeant pour les systèmes pleinement autonomes, tout en préservant les capacités d'innovation et notre autonomie stratégique. Sous cette réserve, le groupe Horizons et Indépendants votera en faveur de cette proposition de résolution européenne.
Pierre Pribetich
Chers collègues, merci pour ce soutien, même si je connais votre position puisqu'elle a déjà été évoquée, une position que vous qualifiez d'équilibre entre les SALIA et les SALA, enfin on va dire les choses assez clairement. Là où je pense nous convergeons, c'est sur la maîtrise du contrôle humain et la ligne rouge que vous avez bien rappelée, que vous ne souhaitez pas franchir.
Je pense que personne ici ne souhaite franchir cette ligne rouge. Après, naturellement, ce sont des règles contraignantes, c'est du droit international, c'est de la diplomatie internationale et il convient notamment d'avoir une position mesurée, maîtrisée, mais qui indique aussi un chemin. Donc nous allons, je pense, converger vers une situation qui correspondra à l'entièreté ou la quasi-entièreté de ce que vous souhaitez.
Alain David
Merci Monsieur le rapporteur. Pour LIOT, pour le groupe LIOT, Laurent Mazury.
Laurent Mazaury
Merci Monsieur le Président, Monsieur le rapporteur, chers collègues. Aujourd'hui nous ne débattons pas d'une simple avancée technologique, nous débattons en réalité de l'avenir de l'humanité. La proposition de résolution européenne qui nous est soumise n'est pas un texte parmi d'autres. À notre sens, c'est un cri d'alarme, un cri contre la folie d'un monde où des machines pourraient décider de la vie ou de la mort.
Un cri pour l'Europe, pour la France et en fait pour nos valeurs. Alors oui, je voterai à nouveau pour cette PPRE et je le fais avec la fermeté de celui qui refuse de voir l'humanité s'effacer devant l'algorithme. Comment oserions-nous accepter que des robots tueurs remplacent le jugement humain ? Que des lignes de code décident du sort des vies humaines ? Les SALA, ce ne sont pas des armes comme les autres, ce sont des armes qui nient l'humanité elle-même.
Le droit international humanitaire exige un contrôle humain sur l'usage de la force, point final. La responsabilité morale ne peut être diluée dans des circuits électroniques, la dignité humaine ne se négocie pas. Accepter les SALA, c'est accepter l'impunité, c'est ouvrir la porte à un monde où personne ne répondrait plus de rien, c'est absolument inacceptable. Et je le dis, je le redis avec force, la France ne sera pas, et nous ferons tout pour qu'elle ne soit pas complice de cette dérive.
Certains nous diront : à quoi bon nous interdire ces armes si d'autres ne le font pas ? Je leur réponds : à quoi bon exister si ce n'est pas pour défendre ce en quoi nous croyons ? L'histoire le prouve, les traités internationaux changent les règles du jeu. Regardez les mines antipersonnel, les armes chimiques. L'Europe a le pouvoir de fixer des standards, la France, membre permanent du Conseil de sécurité, a un devoir : porter cette voix avec fermeté et détermination.
Notre force, ce n'est pas la course à l'armement, c'est la course à la normativité. Nous ne sommes pas condamnés à subir la loi du plus fort, nous sommes condamnés à être les plus intelligents, les plus humains, les plus déterminés. Le temps presse. Le mandat du groupe d'experts gouvernementaux expire en novembre 2026. Nous avons une base, le texte évolutif du 12 mai 2025, nous avons une légitimité, la France et l'Europe ont toujours été en première ligne pour la paix et le droit, nous avons une urgence, ne pas laisser le vide juridique s'installer.
L'Europe doit donc parler d'une seule voix, une voix forte, claire, intransigeante. Le contrôle humain sur les armes létales n'est pas négociable. Non, la France ne transigera pas. Non à la délégation de la décision de vie ou de mort à une machine. Non à la dilution de la responsabilité.
Non à la guerre sans âme. Les SALA ne sont pas une fatalité, elles sont le résultat de choix politiques et aujourd'hui notre choix est clair, nous disons stop. Et j'appelle donc chacun d'entre vous à en faire autant parce que l'histoire ne retient pas les indécis, elle retient ceux qui ont le courage de dire assez. L'Europe sera donc le rempart de l'humanité et ce rempart nous le bâtissons tous ensemble aujourd'hui. Je vous remercie.
Pierre Pribetich
Chers collègues, merci pour votre plaidoyer, pour la force des mots que vous utilisez. Et je le dis aux uns et aux autres, je leur conseille aussi d'aller au cinéma voir un film sur de Gaulle qui dans des temps aussi relativement incertains avec des décisions à prendre, qu'on soit d'accord ou pas après avec la politique qu'il a menée en étant président de la République ou dans d'autres périodes, à ce moment-là il a fait preuve de détermination et il a refusé en fait ce qui était entre guillemets posé comme une évidence.
Or, lorsque vous écoutez les uns et les autres, il serait d'une évidence d'intégrer en fait l'autonomie dans les armes. Non. Je suis comme vous, chers collègues, je pense qu'il faut en effet pousser un cri d'alarme, pousser un cri d'alarme pour nos valeurs. Et c'est tout à l'honneur de la France que de défendre en fait des règles qui permettent justement en fait d'être ce qu'elle est à des moments importants. C'est un moment de bascule.
L'IA, je le répète, et la levée de fonds concernant donc les 1,6 milliard d'Helsing de cette start-up doivent nous alerter en fait sur la nécessité d'agir pour éviter en fait justement d'être dans l'indécision, d'être dans une situation qui permettrait d'avoir un accord au rabais. Non, faut pas un accord au rabais. Soit nous intégrons l'autonomie, soit nous l'intégrons pas. En tout cas, je vous remercie pour votre plaidoyer.
Alain David
Merci, Monsieur le rapporteur. La discussion générale donc est close.
J'ai pas d'autres demandes d'intervention. Nous allons donc nous en venons à présent donc à l'examen des amendements déposés sur le texte de la proposition de résolution. Je rappelle que le texte adopté par notre commission sera soit appelé à être débattu en séance publique, soit réputé définitivement adopté à défaut d'une demande d'inscription à l'ordre du jour de l'Assemblée nationale exprimée à la conférence des présidents.
Une telle demande doit normalement être formulée dans un délai de 15 jours francs à compter de la publication du texte adopté aujourd'hui. Avant... je parle ainsi mais je... on parlera du vote avant. Et je vais donc tout de suite parce qu'il y a un certain nombre donc d'amendements commencer par l'amendement présenté par Monsieur Saintoul AE1.
Aurélien Saintoul
Merci Monsieur le Président. Il s'agit d'un amendement qui pré... qui propose d'ajouter un visa parce que l'évocation de la position du comité d'éthique de la défense est toujours rapportée à la première expression du comité et pas à la seconde, la deuxième délibération de février 2025.
Or elle marque une inflexion, et une inflexion qui est plutôt problématique puisque au lieu de s'en tenir à la position initiale qui excluait l'autonomisation, elle introduit la distinction de l'automatisation et elle préconise une flexibilité dans l'automatisation des systèmes et la possibilité de moduler le degré d'automatisation selon les circonstances. Elle ouvre donc la voie à ce que les ingénieurs de l'armement peuvent appeler parfois des contrats d'autonomie et qui posent en réalité des problèmes très proches de ceux des SALA. Et je crois que c'est l'objet de ce texte d'apporter des réponses à l'ambiguïté qui a pu être introduite aussi par cette nouvelle délibération. Merci.
Monsieur le rapporteur.
Pierre Pribetich
Oui, chers collègues.
Donc par votre amendement, vous souhaitez faire mention des recommandations du comité d'éthique de la défense sur l'usage des technologies d'intelligence artificielle par les forces armées. En effet, le 14 janvier 2025, ce comité d'éthique de la défense a rendu un avis sur l'usage des technologies d'intelligence artificielle pour les forces armées. Vous l'avez aussi rappelé, s'il ne concerne pas spécifiquement les ce qu'on appelle les systèmes d'armes autonomes, cet avis comporte des recommandations transversales sur la manière d'intégrer l'IA dans les systèmes militaires sans compromettre les valeurs fondamentales de responsabilité et de contrôle humain.
Parmi les six principes directeurs qu'il a dégagés, le comité rappelle que les technologies d'IA utilisées dans ou pour les opérations militaires sont régies par les règles du droit international humanitaire. Il s'inscrit en ce sens dans la continuité de son précédent avis de 2021 sur l'intégration de l'autonomie dans les systèmes d'armes létales, et je dis bien systèmes d'armes létales parce qu'en prof d'université, c'est pas les systèmes qui sont létaux, ce sont les armes, sur lesquels le gouvernement français s'est fondé pour élaborer sa doctrine en matière de robot tueur dit SALA. Il me semble donc pertinent de le mentionner dans les visas de la proposition de résolution européenne, j'émets donc un avis favorable.
Bah ?
T'as pas voté ?
Non, j'ai pas voté, mais je peux voter.
Très bien. Mais quatre voix contre trois.
Alain David
Voilà, on y va. Allez, tout le monde lève distinctement la main. Qui peut voter ? Alors, Monsieur Saintoul, vous pouvez pas voter. Qui est pour ?
Quatre. Qui est contre ? Mais c'est le pour, il est accepté. Non, il est rejeté. Moi j'ai voté.
Mais tu peux pas voter. Mais il vote, le président. Oui oui, j'ai voté, bien sûr. Je comprends pas trop, mais c'est pas grave. Donc il est accepté, on est bien d'accord.
Il est accepté. Bon. Suivant. Alors suivant, c'est toujours Monsieur Saintoul.
Aurélien Saintoul
Merci, Monsieur le Président. J'avoue que je suis très perplexe sur la décision de vote de certains de nos collègues puisqu'il s'agissait d'un simple visa mentionnant que nous prenions acte d'une décision ou en tout cas d'une délibération qui existait sur ce sujet. Et je vois le degré de sectarisme qui a pu les motiver à refuser un amendement déposé par un membre de la France insoumise. Alors je me pourlèche déjà les babines à les voir refuser ce visa qui propose de prendre acte de la déclaration de Paris sur le maintien du contrôle humain dans les systèmes d'armes dotés d'intelligence artificielle qui a été signée ou rendue publique à l'issue d'un sommet organisé par le Président de la République sur l'intelligence artificielle.
J'ai hâte de voir avec quelle cohérence ils vont pouvoir défendre leur position.
Ok, Monsieur le rapporteur.
Pierre Pribetich
L'objet de cet amendement, en effet, vous souhaitez faire mention de la déclaration de Paris de 2025 sur le maintien d'un contrôle humain dans les systèmes d'armes dotés d'intelligence artificielle. Pour rappel, la déclaration de Paris sur le maintien d'un contrôle humain dans les systèmes d'armes dotés d'intelligence artificielle a été signalée, signée pardon, et signalée aussi le 11 février 2025 par 27 États dans le cadre du sommet de Paris pour l'action sur l'intelligence artificielle, en effet, dont le président de la République est le promoteur.
À travers cette déclaration, ces États ont rappelé leur engagement à ne pas utiliser les systèmes d'armes létales fonctionnant en dehors de tout contrôle humain et d'une chaîne de commandement responsable. Ce texte, je le rappelle, réaffirme un principe simple : la responsabilité et la redevabilité humaine ne peuvent jamais être transférées à des machines. La déclaration de Paris, importante, constitue une base de consensus sur laquelle pourront s'appuyer les futurs travaux en faveur d'un traité international juridiquement contraignant. Je suis donc favorable à ce qu'il figure dans les visas de la proposition de résolution européenne.
Alain David
Bien, je le mets aux voix. Qui est pour ? Qui est contre ? Il est adopté.
Alors ensuite, nous avons des amendements qui sont déposés par Monsieur Lecoq. Mais Monsieur Lecoq est le seul signataire et il est absent. Donc ils ne sont pas soutenus. Pas soutenus. Suivant, pas soutenu.
Pas soutenu. Alors on en vient au 21 du rapporteur.
Pierre Pribetich
Alors attendez. Lecoq, Lecoq. Oui, je propose en effet d'harmoniser l'ensemble de la formulation, d'être cohérent. Excusez-moi de ma formation à l'université de Lille 1, monsieur l'ancien maire de Roncq, député du Nord.
Donc là, ce sont les armes qui sont létales, pas les systèmes.
Frédéric Petit
Oui, je suis pour. Je pense que c'est pas rédactionnel. C'est fondamental. Ce sont les armes qui sont létales et ce ne sont pas les systèmes.
Alain David
On met aux voix. Alors, qui est pour ? Qui est contre ? Abstention ? Il est accepté.
Alors, nous passons au 18, c'est ça ?
AE3 du rapporteur. Non, de Monsieur Saintoul.
Aurélien Saintoul
Merci Monsieur le Président. Il s'agit d'ajouter un considérant rédigé ainsi : considérant que la régulation des systèmes d'armes létaux autonomes pourrait ouvrir la voie à des négociations sur l'encadrement des technologies d'automatisation de tous les systèmes d'armes. Il me semble que c'était opportun de montrer que cette régulation des SALA pourrait être le premier pas vers des négociations plus larges, notamment dans le domaine de la maîtrise des armes nucléaires, parce que ce serait, à mon sens, un point de convergence possible entre les États dotés, étant donné que chacun, en réalité, aujourd'hui, est en mesure de comprendre la gravité d'une éventuelle automatisation de ces systèmes qui nous ferait sinon régresser vers les heures les plus incertaines de la Guerre froide.
Monsieur le rapporteur.
Pierre Pribetich
Je suis favorable par rapport aux arguments qui ont été posés par notre collègue.
Je mets aux voix.
Speaker 19
Qui est pour ? Qui est contre ? Il est accepté. Nous passons au suivant, le AE4 de Monsieur Saintoul.
Aurélien Saintoul
Merci Monsieur le Président. Un considérant supplémentaire qui évoque le fait que les algorithmes aujourd'hui contribuent eux-mêmes à produire de nouveaux algorithmes et donc à rendre le contrôle effectif par l'humain de plus en plus hypothétique, ce qui évidemment renforce davantage la nécessité d'un contrôle dans la chaîne de décision et précise la nature de ce contrôle.
Monsieur le rapporteur.
Pierre Pribetich
On n'a encore rien vu sur les capacités de calcul. Si on fait des ordinateurs quantiques avec de la mise en parallèle des ordinateurs, c'est quasiment l'équivalent en fait actuellement de ce que nous possédons par rapport à ce qui était mis sur Apollo 11 en termes de calcul. Donc favorable.
Donc le suivant est...
Il tombe.
C'est le 14.
Non mais le 14 c'était Le Coq.
C'est moi-même.
C'est ça. Vas-y.
Pierre Pribetich
Donc je suis en effet favorable à mon amendement, ça ne surprendra aucun collègue. C'est un problème de cohérence, mais je rejoins aussi monsieur notre collègue Frédéric Petit. C'est un problème général d'insérer de lecture, d'insérer donc un alignement derrière l'alinéa pardon, considérant que le développement d'une autonomie stratégique européenne au renforcement de capacités de défense constituent des objectifs essentiels pour la sécurité du continent, qu'ils doivent s'accompagner d'une réflexion commune sur l'intégration de l'intelligence artificielle dans les systèmes de défense dans le respect des responsabilités souveraines des États membres.
C'est pour le replacer en fait.
Speaker 19
Ok. Je le mets aux voix. Qui est pour ? Qui est contre ? Accepté.
Alors le suivant il n'est pas soutenu et nous passons donc au 18.
Pierre Pribetich
C'est simplement de d'actualiser la chose par rapport à la dernière version du ce qu'on appelle du texte du rolling text du 5 juin 2026.
Speaker 19
Ok. Je le mets aux voix. Qui est pour ?
Qui est contre ? Accepté. Alors AE5 de Monsieur Santoul. Ok. Monsieur le rédacteur.
Pierre Pribetich
Favorable. Amendement suivant c'est toujours dans la même veine pour le AE22 donc je suis naturellement favorable.
Speaker 19
Ok. Je le mets aux voix. Qui est pour ? Qui est contre ? Accepté.
Alors après il y a une série qui sont pas présentés.
Il y a deux amendements identiques.
Alain David
Ah bon. Bon, je vais mettre aux voix l'article unique. Alors, qui est pour ? L'article unique.
Qui est contre ? Accepté. Alors maintenant nous repassons aux amendements AE16.
Oui, avant...
Pierre Pribetich
Je vais me permettre avant de... j'avais préparé une intervention concernant un des amendements de notre collègue Glocock, mais il est tombé parce qu'il n'est pas présent. Parce qu'il y a des notions qui ont besoin d'être précisées. En effet, il fait référence à une notion qui dans la conception s'intitule de la manière suivante en langue anglaise : "appropriate human oversight", c'est-à-dire le contrôle humain approprié. Or, j'émets un avis défavorable. Je précise pourquoi.
J'ai employé l'expression "contrôle humain effectif".
Ce qui signifie qu'un être humain exerce un contrôle réel, concret sur un système ou une décision et non un contrôle simplement symbolique ou formel. Dans le contexte de l'intelligence artificielle, un contrôle humain est considéré comme effectif lorsque la personne comprend suffisamment le fonctionnement et les limites du système et peut surveiller ses résultats, détecter ses erreurs et dispose, et ça c'est un élément important, du temps nécessaire et des moyens nécessaires pour intervenir et en outre possède le pouvoir de modifier, d'ignorer ou d'arrêter les décisions ou actions du système. Pourquoi je fais référence à cela, c'est parce que dans la conception, c'est un élément essentiel.
Le règlement européen sur l'IA, AI Act, exige que certains systèmes d'IA à haut risque soient conçus de manière à permettre leur supervision humaine effective. Cela signifie que ce règlement prévoit déjà la séparation entre ce que l'on appelle appropriate human oversight et le contrôle effectif. C'est pour ça que je pense que le débat concernant les robots tueurs, nous devons retenir le contrôle humain effectif et non approprié, c'est-à-dire qui permet réellement d'avoir une effectivité de la décision de commande électronique. Et donc sur l'amendement concernant le titre, je propose ainsi que nos collègues la même chose puisque je ne sais pourquoi le terme létal a disparu du titre. Bon, je m'explique pas, on a essayé de savoir pourquoi.
Donc là, on est vraiment dans une précision qui permet justement de bien cibler et de ne pas embrasser trop large car comme le dit le proverbe, qui trop embrasse mal étreint.
Alain David
Alors je vais donner la parole à Monsieur Guiniot pour amendement identique AE17.
Michel Guiniot
Oui, merci Monsieur le Président, Monsieur le Rapporteur. Mais oui, cet amendement essentiellement rédactionnel mais qui revêt une importance me semble-t-il extrêmement intéressante, vise à préciser l'objet de la proposition de résolution en circonscrivant le champ du traité international appelé de ses vœux aux seuls systèmes d'armes létaux autonomes, d'où le titre SALA, conformément à la terminologie retenue dans les enceintes internationales.
Le fait d'inclure le terme létal dans le titre permettra de limiter l'application du traité en excluant les équipements militaires qui sont destinés à un usage de soutien, par exemple, et qui peuvent disposer d'une autonomie dans la collecte des données ou dans les actions d'appui qui peuvent être menées en territoire hostile, en zone blanche ou en soutien d'unités infiltrées coupant tout lien technique avec le commandement. De fait, ce simple mot permettra de soutenir notre effort diplomatique et industriel d'ailleurs, tout en insistant pour que l'homme, et seulement lui, soit en capacité d'ordonner une action létale de la part d'une machine. Nous avons encore à découvrir et à développer pour soutenir nos troupes engagées et notre crédibilité opérationnelle, et nos ingénieurs sont tout à fait capables de nous surprendre.
Nous nous positionnons clairement de leur côté par cette modification. Le rapporteur présentera ou a présenté d'ailleurs un amendement identique dans cet instant. Et je suis évidemment convaincu que nos deux amendements sont complémentaires et nous voterons bien sûr pour cet amendement identique. Merci Monsieur le rapporteur. Merci Monsieur le président.
Alain David
Bon, je vais mettre aux voix ces deux amendements identiques AE20 et AE17. Qui est pour ? Qui est contre ? Accepté. Ok, nous arrivons donc au terme de l'examen pour avis de la proposition de résolution européenne numéro 2939.
Je vais à présent interroger la commission sur l'ensemble du texte modifié par les amendements adoptés par notre commission. Qui est pour ? Qui est contre ?
Qui s'abstient ? La commission... une abstention. Vous vous abstenez ? Vous vous abstenez ? Oui, oui.
Oui, pour Renaissance européenne. Il l'a dit. Bon. La commission a adopté cette proposition de résolution ainsi modifiée. Je remercie notre rapporteur pour son travail.
Avant de clore notre réunion, je crois que nos collègues membres du conseil d'administration de l'Agence française de développement souhaitent nous apporter quelques éléments d'information sur la dernière réunion de celle-ci, consécutive à l'audition du directeur général de l'agence par notre commission la semaine passée. Alors, avant de donner la parole à Frédéric Petit, je vais laisser la parole à notre collègue Pierre Pribetich.
Pierre Pribetich
Mes chers collègues, je vous remercie pour cette adoption à l'unanimité des exprimés, sauf les abstentions. J'espère que nous avons fait œuvre utile et que le débat pourra prospérer dans l'hémicycle. En tout cas, c'est un dossier et c'est une réflexion nécessaire, utile pour notre collectif et surtout pour la société. Merci beaucoup en tout cas.
Alain David
Bien. Merci pour cette unanimité. Donc, je donne la parole à Frédéric Petit.
Frédéric Petit
Merci Monsieur le Président. Mes chers collègues je suis très heureux de de recevoir cette parole puisque vous savez que ça fait huit ans que j'essaie que cette représentation de l'Assemblée nationale au sein des conseils d'administration de nos opérateurs soit beaucoup plus efficace et j'estime logique nous avons un conseil d'administration tous les mois qui fait plusieurs heures parfois une matinée plus trois séminaires par an. Donc voilà il y a eu un conseil d'administration la semaine dernière je vous en fais rapport très rapidement on m'a donné cinq minutes donc je ne les dépasserai pas.
Nous avons beaucoup discuté du COM et nous nous sommes félicités, nous avons félicité le directeur général que pour une fois nous ayons un COM qui arrive, un contrat d'objectifs et de moyens qui arrive en temps utile puisque je vous rappelle que nous sommes appelés, nous avons reçu dans cette commission le contrat d'objectifs et de moyens et nous devons le travailler maintenant. Il repassera devant le conseil d'administration quand nous l'aurons nous travaillé et il ne démarrera qu'au 1er janvier. Donc nous sommes dans des échéances qui sont logiques et démocratiques. Voilà, il a été appelé sur le contrat d'objectifs et de moyens, il y a des choses qui ont été appelées, en particulier il y a eu un débat très intéressant sur la régionalisation, c'est-à-dire le fait que nous avons besoin d'avoir des stratégies...
Frédéric Petit
Oui. Merci. Nous avons besoin d'avoir des stratégies régionalisées, nous l'appelons des plans pays ou des plans régionaux, nous l'appelons depuis de longues années dans cette commission et nous souhaitons que ça soit inscrit dans le COM, que cette amorce soit inscrite dans le COM.
Et puis je vais vous dire tous les projets que nous avons validés. Vous savez, on dit toujours il y a des gens qui disent que ces projets ils sont pas sous le contrôle du peuple français. Eh bien je vous dis les projets que nous avons validés la semaine dernière. Donc nous avons validé un projet au Liban. Je vais essayer de vous donner les montants également.
Voilà, un projet au Liban qui est une assistance humanitaire d'urgence de 75 millions. Un projet au Maroc, le programme d'aide à la stratégie des forêts du Maroc qui est un montant de 100 millions. Une aide à la Polynésie française. Vous savez que l'Agence française de développement a aussi un travail, sert, relaye la politique de l'État et la politique de prêt pour nos DOM-TOM.
Donc la Polynésie française de 9 millions, c'est un réaménagement du centre-ville de Pirae. Nous avons approuvé un programme en Colombie avec un débat qui a été, pas un débat, mais un projet intéressant sur le financement d'infrastructures bas carbone et résilientes en Colombie pour 173 millions. Dans les Philippines, un projet, un prêt budgétaire. Donc là, c'est un prêt que nous, nous aidons le gouvernement avec un prêt budgétaire. Donc ça nous fait aussi un petit revenu après, de 100 millions.
Nous avons aidé l'Arménie. Nous avons un programme de gestion durable des finances publiques et de la mobilisation des ressources humaines. C'est-à-dire, c'est plus que du prêt au gouvernement, c'est du prêt au gouvernement contre, avec un suivi de la réorganisation du gouvernement, 250 millions.
Et au Pakistan, la résilience du système de santé et des populations. Nous avons un montant de 54 millions. Voilà, à signaler que les projets de Polynésie française et de Maroc ont été remontés en débat, c'est-à-dire que nous avons, ils étaient, nous avons eu tous les documents et nous avons décidé de les remonter en débat et nous avons discuté avec les équipes pendant un quart d'heure, 20 minutes à chaque fois et ces projets ont tous été adoptés. Si il y a des questions, je suis prêt à y répondre. Je crois que c'était important que la commission prenne bien conscience que tous les projets qui passent, qui sont financés par l'Agence française de développement sont sous notre contrôle.
Alain David
Merci Frédéric Petit.
Je vais passer maintenant à la nomination des rapporteurs pour avis sur le COM 2027-2029 de l'AFD. Chers collègues, avant de clore cette réunion, nous devons procéder à la formalisation de la désignation de deux rapporteurs d'information dont le principe a été acté par le bureau. Dans la perspective du dépôt prochain par le gouvernement du contrat d'objectifs et de moyens de l'AFD pour les années 2027-2029, nous devons nommer deux rapporteurs d'information pour avis sur ce COM. Suite à l'attribution de ce rapport aux groupes EPR et Écologistes par le bureau de la semaine dernière, je suis saisi des candidatures de Liliana Tanguy et de Sabrina Sebaihi.
Et donc je consulte la commission à cet effet. Y a-t-il des objectifs, des objections à leur nomination ? Non ? Eh bien il en est ainsi décidé, elles seront toutes deux rapporteures pour avis. Je les félicite.
Et donc il s'agissait de la dernière réunion lors de cette session extraordinaire. Je profite donc de l'occasion pour vous souhaiter à tous et à toutes de belles vacances reposantes avant une nouvelle année parlementaire qui s'annonce très dense. La séance est levée.
Ask anything about this video — I analyse its transcript to answer.