Femmes et IA : briser les codes

Temps d'échanges

Elyes Jouini. - J'aimerais rebondir sur certains points évoqués. Dans le cadre de la chaire Femmes et Sciences, nous avons mené une étude sur deux millions de brevets déposés dans 130 pays. Nous avons examiné le 1 % des brevets les plus cités, qui sont donc les plus efficaces. Si les femmes ne représentent que 7 % des personnes ayant déposé des brevets dans l'OCDE, elles sont 15 % dans ce top 1 %, ce qui prouve qu'elles sont économiquement plus efficaces. Elles ne se dispersent pas à déposer des brevets qui ne serviront à rien.

En conduisant notre analyse, nous nous sommes aperçus que si les femmes représentaient 15 % des brevets les plus efficaces au sein de l'OCDE, elles représentaient 45 % du total dans les pays de l'ex-sphère d'influence soviétique. Nous pourrions en déduire que dans les pays de type soviétique, l'homme et la femme sont traités à égalité, que l'accent est porté sur la force de travail et que chacun est affecté au poste de travail sur lequel il sera le plus efficace. Nous nous sommes aussi aperçus que le taux d'efficacité des brevets déposés par des femmes était plus élevé dans les pays où les infrastructures d'accueil de la petite enfance sont les plus développées. Ce constat est frappant. Il est lié à la question de temps dont on dispose, ou dont on peut disposer, qui peut conduire à une désertion du secteur, ou à des stratégies d'évitement en ne rentrant pas chez soi pour pouvoir travailler.

Enfin, il est vrai qu'il ne faudrait pas lancer sur le marché des produits qui n'ont pas été testés, testés et re-testés. Pour autant, des producteurs de logiciels ne choisissent-ils pas la solution de facilité en faisant tester leur produit par les utilisateurs avant de l'améliorer avec la version 5.8, 12.4, etc. ?

Sasha Rubel. - Dans le cadre de l'EU AI Act, on parle beaucoup de cette idée de regulatory sandboxes, des bacs à sable réglementaires. Des échanges portent sur leur éventuelle mise en place dans le cadre de la mise en marché du produit. La France travaille sur le sujet en tant que leader de la réflexion sur le code de conduite au G7, et de la third party evaluation, ou l'évaluation d'une troisième partie dans la mise à disposition sur le marché de ces outils.

Permettez-moi une comparaison avec le milieu médical. On ne lancera jamais sur le marché un médicament sans avoir fait le nécessaire pour s'assurer qu'il n'aura pas de conséquences nocives. Nous avons pris cet engagement volontaire avec La Maison-Blanche, à l'époque, mais aussi dans le cadre du G7.

Le red teaming vise justement à nous assurer que d'éventuels risques ou menaces seront pris en compte avant la mise en marché pour le public. AWS est une entreprise B2B, mais je pense que cet élément est absolument essentiel, en particulier pour tout ce qui concerne le B2C.

Christine Lavarde, présidente de la Délégation sénatoriale à la prospective. - À l'occasion de travaux antérieurs de la Délégation à la prospective, nous avons pu observer, notamment lors de la crise sanitaire, que l'usage des données par l'État fait l'objet d'une réticence très forte des citoyens, alors même qu'ils sont capables de communiquer leurs données à Amazon, à Facebook, aux Gafam, sans aucune difficulté.

Madame Lucchesi, vous avez été à la tête d'Etalab pendant un certain nombre d'années. Avez-vous le sentiment que la situation va évoluer positivement ? Avez-vous réfléchi à la manière d'introduire une sorte de confiance entre les citoyens et l'État ? Ce problème n'est pas uniquement lié au Covid et aux Gafam, puisque si nous remontons plus loin dans l'histoire, nous retrouvons des situations dans lesquelles les citoyens avaient le sentiment d'être fichés par l'État.

Comment améliorer ce point qui constitue, à mon sens, l'une des difficultés pour l'appropriation de l'intelligence artificielle et son développement, surtout si on est attaché aux questions d'éthique ?

Laure Lucchesi. - Ce point est très juste. Je pense que la réponse réside dans une action publique plus ouverte sur l'extérieur, plus transparente, qui accepte de montrer comment elle travaille. L'élaboration des services publics ou des politiques publiques doit se faire avec une gouvernance plus ouverte. Le sujet de l'exploitation des données constitue un bon exemple en la matière.

L'ouverture et le partage des données publiques visaient à répondre à ces défiances sur l'action de l'État. Nous avons diffusé proactivement des données dont dispose l'administration, ce qui permettait également de stimuler l'innovation et de créer des usages extérieurs.

La défiance par rapport à l'action de l'État est réelle. Il est intéressant, dans ce cadre, de rappeler que Guillaume Rozier récupérait, au début de la pandémie de Covid, des données du ministère de la santé relatives à la diffusion de l'épidémie. Le fait qu'un tiers extérieur à l'administration analyse ces données a pris une voix prépondérante dans la façon dont on communiquait sur la propagation de l'épidémie, alors même que, par ailleurs, le ministère de la santé et le gouvernement disposaient des tableaux de bord.

Nous ressentons des craintes quant à l'utilisation que pourrait avoir l'administration de nos données, et à leur échange avec d'autres acteurs. Nous pouvons apporter beaucoup d'améliorations au service public en partageant des données entre deux acteurs publics. Là aussi, il nous faut rendre compte à l'usager de l'utilisation de ses données et de la façon dont elles circulent d'une administration à l'autre. Cette possibilité est désormais intégrée à France Connect.

Ainsi, nous devons rendre compte au maximum des usages qui sont faits. C'est vrai dans le domaine de l'intelligence artificielle comme dans le scoring, comme l'illustrait l'exemple de la Cnaf. Les risques et angoisses sont réels. Il nous faut introduire des sécurités dans la construction des services publics et dans la production de l'action publique. Nous avons besoin d'instances de dialogue avec la société civile, les comités de citoyens, les entreprises et la recherche. Elles contribueront à restituer la confiance, bien que des réticences puissent persister vis-à-vis de l'État qui, ailleurs, peut envoyer des signaux contraires et devenir plus totalitaire.

Sigrid Trendel. - Je suis membre du Cercle InterElles, qui promeut la place des femmes dans les entreprises. Je dirige également une société venant en aide aux femmes dans leurs négociations commerciales, pour prendre le pouvoir sur leur avenir financier et économique.

Les discussions de ce matin, extrêmement instructives, m'ont amenée à m'interroger sur le schisme qui existe entre ce que les écoles d'ingénieurs mettent en place pour attirer les jeunes filles et le cadre législatif applicable aux entreprises. Permettez-moi de vous livrer mon témoignage. Ma fille voulait rejoindre une école d'ingénieur. Je l'ai donc accompagnée à moult journées portes ouvertes. Aucune de ces écoles n'a parlé de la place des jeunes filles. Je les ai donc interrogées : quelle est leur politique face à ce public spécifique ? Qu'ont-elles changé dans leur gouvernance par rapport aux événements des écoles du plateau de Saclay ? Que font-elles pour attirer les jeunes filles ? La réponse la plus surprenante a été celle d'un homme qui m'a dit que son école accueillait maintenant 11 % de filles, contre 7 % par le passé. Elle avait également nommé une responsable égalité hommes-femmes, personne que j'ai trouvée et qui n'a pas su quoi me dire. Enfin, cet homme m'a dit : « Que voulez-vous que l'on fasse ? Les jeunes filles ne veulent pas venir, on ne va quand même pas leur filer des points en plus pour qu'elles viennent. » J'en suis restée sans voix.

Je suis étonnée d'avoir constaté, dans les nombreuses écoles rencontrées, que le sujet n'était pas pris à bras le corps. Aline Aubertin fait partie du Cercle InterElles. Elle est très active dans son école. Elle est d'ailleurs l'une des rares femmes à présider une école d'ingénieurs.

Dans le même temps, les entreprises sont de plus en plus poussées par les lois à intégrer des femmes dans leur gouvernance. La loi Rixain, qui est formidable, va les contraindre à augmenter leur taux de féminisation. Comment trouver un équilibre entre ces deux aspects ?

J'ai eu des discussions très intéressantes avec ma fille. Je lui disais que les femmes n'étaient pas nombreuses dans les écoles d'ingénieurs, lui demandant si cela pourrait lui poser un problème. Elle m'a répondu par la négative, indiquant qu'après ses études, elle vaudrait de l'or. J'ai été très surprise, parce que je n'avais jamais eu ce discours avec elle, mais elle a raison. Nous devons montrer aux filles que ce secteur est applicatif.

Lorsqu'elle était petite, ma fille voulait travailler avec les enfants. Je lui ai montré la vidéo d'un jeune enfant déballant une prothèse après avoir eu la main coupée, lui disant qu'elle pourrait aussi s'en occuper de cette manière. Je ne sais pas si son choix d'orientation y est lié, mais elle est aujourd'hui passionnée par la mécanique. C'est dans ce domaine qu'elle veut se diriger. Ainsi, nous devons faire comprendre aux filles que les sciences peuvent être très appliquées, très concrètes. En outre, si elles suivent cette voie, elles seront bankable, auront un poste, pourront faire des tas de choses. Je suis optimiste, même si la situation et le comportement des écoles d'ingénieurs m'ont laissée sans voix.

Dominique Vérien, présidente de la Délégation aux droits des femmes et à l'égalité des chances entre les hommes et les femmes. - Cette intervention me permet de conclure.

Quand la loi Rixain a été votée, dix ans après la loi Copé-Zimmermann, j'ai été invitée par Syntec à l'occasion de son assemblée générale. Elle portait sur les moyens d'attirer des femmes dans le secteur. C'était très intéressant. Pour autant, le président m'a présenté comme « Madame la Sénateur » et a indiqué peiner à trouver des « directeurs femmes ». Je lui ai expliqué que le jour où il chercherait des directrices, il trouverait probablement plus facilement des femmes. Cet exemple illustre bien le fait que certains blocages sont psychologiques. Tant qu'on cherche des hommes, on a du mal à trouver des femmes, ce qui est assez logique. Nous devons faire évoluer ces mentalités.

En effet, Madame Trendel, votre fille vaudra de l'or. Je constate que nous étions aujourd'hui plusieurs sénatrices ingénieures dans cette salle, bien que nous ayons quitté le métier. Nous pouvons donc porter la parole des ingénieures dans cet hémicycle. J'ai rencontré des jeunes filles, à qui j'ai indiqué qu'elles gagneraient mieux leur vie en faisant du dessin industriel qu'en travaillant dans une crèche, bien que nous ayons également besoin de ces professionnelles. Nous avons aussi besoin de dessinatrices industrielles et, objectivement, une femme sait très bien dessiner, comme un homme.

Hélène Deckx van Ruys. - Je précise que notre ministre de l'industrie, Roland Lescure, a créé un réseau industriel visant la reféminisation de l'industrie française. Tout est lié.

Dominique Vérien, présidente de la Délégation aux droits des femmes et à l'égalité des chances entre les hommes et les femmes. - C'est un sujet global. Nous l'avons abordé sous l'angle de l'intelligence artificielle, mais ce n'est qu'une facette à traiter.

C'est de façon positive que je clos ce colloque. J'ai beaucoup appris, je pense que je ne suis pas la seule. Un grand chantier nous attend. Nous serons à vos côtés pour faire évoluer ce sujet dans un cadre politique et législatif. Je vous remercie.

De gauche à droite : Pierre Henriet, député de la Vendée, premier vice-président de l'Opecst, Stéphane Piednoir, sénateur de Maine-et-Loire, président de l'Opecst, Sasha Rubel, Jessica Hoffmann, Tanya Perelmuter, Dominique Vérien, sénatrice de l'Yonne, présidente de la Délégation aux droits des femmes du Sénat, Laure Lucchesi, Hélène Deckx van Ruys, Laure Darcos, sénatrice de l'Essonne, vice-présidente de la Délégation aux droits des femmes du Sénat, Marine Rabeyrin, Sarah Cohen-Boulakia, Elyes Jouini, Christine Lavarde, sénateur des Hauts-de-Seine, présidente de la Délégation sénatoriale à la prospective.