ANNEXE 7 : COMPTE RENDU DE L'AUDITION PUBLIQUE DU 19 JANVIER 201776 ( * )
I. INTRODUCTION
1. M. Bruno Sido, sénateur, premier vice-président de l'OPECST
Monsieur le président, mesdames, messieurs les députés, mesdames, messieurs les sénateurs, mesdames, messieurs les professeurs, en ma qualité de sénateur et de premier vice-président de l'Office parlementaire d'évaluation des choix scientifiques et technologiques, j'ai le plaisir de vous accueillir ce matin au Palais du Luxembourg pour une journée d'auditions publiques sur l'intelligence artificielle (IA).
Le président de l'OPECST, M. Jean-Yves Le Déaut, député, vous présentera en détail l'originalité de cette délégation parlementaire bicamérale. Je me contenterai de saluer le travail entrepris depuis quelques mois, et à un rythme soutenu, par la sénatrice Dominique Gillot et le député Claude de Ganay, les deux rapporteurs désignés par l'Office pour répondre à la saisine émanant de la commission des affaires économiques du Sénat sur l'intelligence artificielle.
D'ailleurs, il est à noter que Mme Dominique Gillot espérait depuis plusieurs années travailler sur ce thème. C'est dire que l'Office ne découvre pas aujourd'hui le sujet de l'intelligence artificielle, d'autant que cette audition publique a été précédée de plusieurs autres études ou auditions publiques abordant déjà ce thème, sous un angle ou un autre. Je pense, par exemple, à la récente audition publique sur les robots et la loi, mais aussi à celle sur le numérique au service de la santé ou encore à celle sur l'agriculture et le traitement des données massives.
En outre, j'ai eu l'honneur d'être co-rapporteur de l'étude relative à la sécurité numérique, qui pourrait être beaucoup mieux garantie si les recommandations préconisées par l'Office étaient suivies, notamment celles qui constituent son vade-mecum pour la sécurité numérique des entreprises.
L'intelligence artificielle a donc déjà piqué la curiosité des membres de l'Office, qui ne manqueront pas de regarder avec intérêt la vidéo de la présente audition sur le site du Sénat.
Quant à la publicité ultérieure des travaux de ce jour et de leurs retombées positives dans l'étude à paraître, il faut savoir que chaque étude de l'Office, incluant les contributions des intervenants sous forme de comptes rendus, donne lieu à la présentation de ses conclusions devant la commission qui l'a saisi puis, devant le Sénat, à l'occasion d'un débat en séance plénière auquel participe le ministre compétent : Mme Axelle Lemaire, secrétaire d'État chargée du numérique et de l'innovation, nous fera d'ailleurs l'honneur d'être parmi nous cet après-midi.
Avant de céder la parole au président de l'Office, je souhaiterais également souligner que l'OPECST ne se contente pas de travailler le plus en amont possible du sujet qu'il traite, mais qu'il essaie également de bien orienter sa réflexion vers les aspects les moins bien explorés.
En l'occurrence, il ne s'agit pas, pour nous, de dresser un panorama de l'historique des différentes vagues d'intérêt suscitées depuis un demi-siècle par l'intelligence artificielle. Elles sont présentées, à chaque occasion, comme une révolution décisive devant tout emporter sur son passage, ce qui a été largement démenti à plusieurs reprises.
Cette fois-ci, il semblerait que divers éléments se conjuguent pour que la prochaine vague soit plus puissante que les précédentes et induise un changement de société qui pourrait dépasser nos perspectives actuelles d'imagination.
Dans ce contexte, il me semble que les rapporteurs de l'Office ont fort opportunément choisi de dresser une cartographie mettant plus particulièrement en valeur un aspect original, à savoir l'approche éthique des problèmes posés par l'émergence accélérée de l'intelligence artificielle, sans oublier les interconnexions ultérieures qui ne manqueront pas de se nouer avec des domaines inattendus. Mais je n'en dirai pas plus pour laisser à la fois au président et aux deux rapporteurs le plaisir et l'honneur de vous présenter l'Office et de vous exposer leur démarche.
Je vous remercie de nouveau de vous être déplacés et d'avoir mobilisé toutes vos capacités cognitives pour rendre notre intelligence du sujet la moins artificielle possible.
2. M. Jean-Yves Le Déaut, député, président de l'OPECST
Mesdames, messieurs, je vous remercie également d'être venus ce matin. Le sujet que nous allons aborder est en prise directe avec une actualité brûlante. L'impact du développement de l'intelligence artificielle sur nos sociétés est au coeur des discussions du forum de Davos ; ce thème récurrent est évoqué depuis plusieurs années. Mme Mady Delvaux, que nous recevrons cet après-midi, a publié, au titre d'un groupe de travail de la commission des affaires juridiques du Parlement européen, un rapport sur les règles de droit civil concernant la robotique et l'intelligence artificielle, dont les conclusions donnent lieu à discussion dans la mesure où est, notamment, posée la question de la responsabilité des robots.
Moi-même, en tant que rapporteur général des Sciences et des technologies de l'Assemblée parlementaire du Conseil de l'Europe, je prépare un rapport sur les convergences technologiques, l'intelligence artificielle et les droits de l'homme, en le ciblant plus particulièrement sur les problèmes que pose l'intelligence artificielle au regard des droits de l'homme. Plusieurs rapports vont être publiés sur le sujet. Aussi, il est opportun que l'Office s'en soit saisi, en chargeant Dominique Gillot et Claude de Ganay de réaliser cette étude.
Notre manière de travailler est originale - elle a de plus en plus cours à l'Assemblée nationale et au Sénat - en ce qu'elle consiste à organiser des auditions publiques collectives contradictoires où interviennent des parlementaires et des représentants de la société civile, qu'il s'agisse d'universitaires, de chercheurs ou de responsables d'associations. Ces discussions, au cours desquelles des avis différents s'expriment, nous permettent d'envisager des évolutions législatives. L'Office travaille en amont de la législation. Sur des sujets complexes, tels que celui de l'intelligence artificielle, il est évident que les parlementaires ne sont pas armés de la même manière pour les décortiquer. Or légiférer exige de bien comprendre les sujets.
De manière très simpliste, certains déplorent l'absence de parlementaires dans les hémicycles, mais, pour débattre d'un sujet et légiférer, il faut se l'être approprié. Or c'est compliqué. Tel est le rôle de l'Office. D'ailleurs, de plus en plus de collègues nous posent des questions simples. On nous a récemment interrogés sur le compteur Linky par exemple ; on nous a aussi demandé pourquoi on ne développe pas des vignes résistantes au mildiou ou à l'oïdium. On examine ces questions et on essaie de trouver des solutions.
L'intelligence artificielle est un sujet majeur, et il sera très difficile de régler la question de la législation à l'échelon national - une proposition va nous être transmise à l'échelon européen. Il convient à l'évidence de traiter nombre de ces sujets à l'échelle internationale. Dès lors que le robot devient intelligent, que la frontière entre l'homme et la machine va s'estomper ou, plutôt, que l'homme et la machine vont continuer à travailler ensemble, qui sera responsable ? Le problème de la responsabilité et de la réparation des dommages se pose. On parle souvent de robots automatisés dans le domaine de la guerre, mais ce ne sont pas les seuls - heureusement ! L'audition publique sur les robots et la loi, que nous avons organisée en décembre 2015 et qui était préparatoire à celle d'aujourd'hui, a prouvé la pertinence d'aménager les règles du droit pour tenir compte de nouvelles formes de responsabilité, avec le déploiement des robots induits, plutôt que de créer un statut et des régimes de responsabilité spécifiques avec une personnalité juridique pour les robots, une solution à laquelle je n'adhère pas personnellement. Mes collègues rapporteurs en parleront.
Dans le domaine de la médecine notamment, la frontière s'estompe entre l'homme et la machine : on est passé de l'homme soigné à l'homme réparé, mais va-t-on passer à l'homme augmenté ? Certains en parlent. Cette seule question pose des problèmes éthiques. La loi doit permettre de résister à des pressions ou à des contraintes, qui imposeraient à des individus, par exemple, de se soumettre à des technologies de nature à améliorer leurs performances ; je pense aux domaines du sport, du jeu, voire à celui du travail. Toutes ces questions doivent donc être posées.
Ces nouvelles technologies induisent déjà des changements de grande ampleur. La frontière entre le médical et le non médical s'atténue également, et il en est de même pour le naturel et l'artificiel. Avec la biologie de synthèse, on recrée le vivant à partir de molécules recomposées. Pour travailler actuellement à l'élaboration d'un rapport sur le genome editing , je puis vous dire que l'on voit aujourd'hui les grands progrès réalisés en matière de modification ciblée du génome, avec un abaissement des coûts. Cela pose aussi un certain nombre de problèmes.
La question de l'équilibre entre les innovations, qui sont nécessaires, et les droits de l'homme est donc posée. D'autres problèmes se posent, tels que les fractures numériques ou l'accès inégal à Internet ; des fractures mondiales assez criantes sont également à noter. Le professeur Jan Helge Solbakk du Centre d'éthique médicale à la faculté de médecine de l'Université d'Oslo résume bien les choses : le progrès n'est pas synonyme d'accessibilité universelle. L'Office en est d'accord, même s'il faut continuer à employer le mot « progrès », pour lequel nous nous battons, il doit être maîtrisé et partagé. C'est l'un des points sur lesquels vous allez vous exprimer.
En conclusion, j'observe que, au travers de l'intelligence artificielle et de la convergence des technologies NBIC, les nanotechnologies, biotechnologies, informatique et sciences cognitives - la fameuse convergence entre le neuro, le bio, l'info et le cogno -, l'homme va pouvoir augmenter ses capacités grâce aux machines. Toutefois, comme je l'ai souligné précédemment, l'homme augmenté risque de succéder à l'homme soigné : on sait aujourd'hui fabriquer des interfaces fonctionnelles entre le cerveau et l'ordinateur.
Toutes ces questions méritent une réflexion prospective, que nos deux collègues ont souhaité mener. Restons modestes dans un premier temps : ne pensons pas résoudre cette question en pleine évolution et en pleine mutation. Mais les échanges avec des spécialistes et des parlementaires participent d'une bonne méthode de travail. Aussi, je suis très heureux que l'OPECST puisse apporter sa contribution, en vue d'adapter peut-être le cadre législatif français. Les recommandations de nos deux rapporteurs seront débattues au mois de mars prochain ; il s'agira d'ailleurs du dernier rapport de l'Office pendant cette législature. Au titre de nos travaux, nous débattrons, la semaine précédente, du rapport relatif au genome editing et de l'évaluation de la stratégie nationale de recherche en février. Par ailleurs, une audition publique sur le compteur Linky nous a été demandée par nos collègues.
* 76 Ces auditions ont constitué un record d'audience pour le Sénat selon les données disponibles à la fin du mois de janvier 2017 : sur Facebook, la vidéo a été regardée en direct par 97 182 personnes, puis en différé par 8 600 personnes. Sur le site Internet du Sénat, le nombre de consultations de la vidéo s'élève à 1 839.
La chaîne Public Sénat en a conçu une émission spéciale, consultable sur : https://www.publicsenat.fr/emission/les-matins-du-senat/table-ronde-intelligence-artificielle-51796