Retrouvez cet article de Fabrice Lorvo, avocat et administrateur de Synopia, publié dans La Revue Parlementaire, via ce lien.
C’est dorénavant un truisme que de parler de révolution numérique. Il ne s’agit plus d’être « pour » ou « contre » car cette révolution est déjà en marche et elle est inexorable, disruptive et protéiforme. La question est uniquement de savoir comment l’accompagner. L’intelligence artificielle (IA) est une des facettes de cette révolution. Elle consiste à créer des processus cognitifs comparables à ceux de l’être humain. L’IA permet d’acquérir des connaissances en analysant avec des algorithmes des quantités très importantes de données (big data)
Récemment, le pouvoir exécutif s’est engagé à faire monter la France dans le train de l’IA. Le rapport Villani (1) fixe comme objectif que notre pays avec l’Europe en devienne un des leaders mondiaux. Pour ce faire, l’État français s’est engagé à consacrer à « l’écosystème de l’IA » 1,5 milliard d’euros de crédits publics sur l’ensemble du quinquennat. On ne peut que se féliciter de ces engagements mais ils sont incomplets. En effet, un tel investissement n’a de sens que si, parallèlement, on investit des sommes équivalentes ou supérieures dans notre système éducatif. Or, aucun engagement de cette nature n’a été pris à ce jour.
L’IA représente manifestement un progrès mais ce progrès, pour qu’il tienne ses promesses, doit être accompagné par une vision à long terme. L’évolution technologique n’est pas un dogme absolu et il ne faut pas oublier la relativité du progrès, lequel peut apporter une amélioration immédiate puis être ensuite porteur à plus long terme d’effets extrêmement néfastes sur les humains. L’amiante en est un exemple topique. Vanté au début du XIXème siècle pour ses vertus techniques, utilisé à outrance notamment pour la reconstruction d’après-guerre, il est apparu postérieurement que ses effets à long terme étaient létaux pour l’homme.
De plus, le progrès que l’IA va nous apporter, plus que tout autre phénomène numérique, est intrinsèquement ambivalent, c’est-à-dire qu’il sera porteur et amplificateur à la fois des effets positifs comme des effets négatifs, et qu’il est difficile de tenter de corriger les effets négatifs sans impacter les effets positifs. Nous savons déjà qu’un développement maîtrisé de l’IA supposera d’abord que l’on puisse comprendre le mode de fonctionnement interne des algorithmes et ainsi mettre fin au syndrome de la boîte noire. Il supposera ensuite un contrôle externe permanent desdits algorithmes pour s’assurer de leur fiabilité et de leur caractère éthique. Il supposera enfin de pouvoir vérifier la pertinence et l’intégrité des datas qui sont utilisées. La formation en la matière est donc un premier impératif.
Cependant financer la formation des futurs spécialistes de l’IA est insuffisant si on ne s’occupe pas aussi, « en même temps » des destinataires de ces nouvelles connaissances, c’est-à-dire des citoyens. On attribue au général De Gaulle le jugement selon lequel les Français seraient des veaux en matière politique. Il ne faudrait pas que l’on puisse dire de même en matière numérique.
Le premier risque de l’IA, dans la décennie à venir, est de créer une fracture au sein de notre société entre les citoyens ayant une intelligence conceptuelle développée et les autres. Même si les outils à base d’IA seront à la disposition du plus grand nombre, tout le monde ne sera pas capable de pouvoir s’en servir ou de pouvoir critiquer ses résultats. Développer l’IA sans parallèlement investir massivement dans l’éducation pour augmenter le niveau de formation des citoyens, c’est prendre le risque de créer aujourd’hui de nouvelles idoles numériques devant lesquelles, demain, le plus grand nombre n’aura qu’à se prosterner, faute de compréhension. Gardons-nous de laisser s’installer, dans les faits, une nouvelle forme d’apartheid intellectuel ou de soumission à l’autorité numérique car c’est à terme la pérennité de notre démocratie qui est en jeu.
Le second risque de l’IA est relatif à la nature des connaissances qu’elle nous apportera. Il faut garder à l’esprit que les capacités de l’IA sont probablement infinies et que nous ne mesurons pas aujourd’hui les conséquences de ce qu’elle nous apprendra. Il existe déjà des algorithmes prédictifs de nos goûts, de nos amours, de nos maladies, de nos comportements. Quel va être l’impact de ce nouveau type de connaissances dans notre société ? Appliqué au domaine médical, que ferons-nous lorsque l’IA nous démontrera que telle personne n’a finalement aucune chance d’être guérie ? Allons-nous continuer à la soigner ? Appliqué au domaine judiciaire, que ferons-nous lorsque l’IA nous démontrera que tel délinquant ne pourra finalement jamais se réinsérer ? Allons-nous indexer le comportement de la société vis-à-vis des individus uniquement à l’aune de l’efficacité ou de la finalité déterminée par l’IA ? Et ce, quitte à renoncer, tout doucement, sans nous en rendre compte, aux valeurs ou aux acquis de la République comme par exemple, la mutualisation ou la cohésion sociale ?
Le troisième risque que nous apportera l’IA, avec ses probables bienfaits, sera une perturbation profonde du marché de l’emploi, tel que nous le connaissons à ce jour. L’IA dans les prochaines décennies deviendra probablement le concurrent essentiel des enfants d’aujourd’hui lorsqu’ils arriveront sur le marché du travail. L’IA va rendre de fait obsolète toute une série de postes, de métiers et de professions à faible valeur ajoutée. Si beaucoup d’emplois d’aujourd’hui sont appelés prochainement à disparaître, ne devons-nous pas nous demander quels métiers vont exercer ceux qui seront demain les prochains travailleurs ? Le revenu universel a été, il y a peu, une réponse immédiate à cette question, mais plutôt que de payer les gens à ne rien faire, ne serait-il pas préférable d’investir massivement dans l’Education nationale ou dans la formation continue pour élever le niveau d’éducation des futurs actifs, afin qu’ils puissent se réaliser dans les emplois à plus forte valeur ajoutée qui seront probablement créés par l’IA ? Si on ne veut pas la subir, l’IA nous oblige à devenir encore plus intelligents.
Le monde nouveau de l’IA que l’on nous promet ne sera un progrès durable pour notre société que s’il s’intègre à nos structures actuelles, pas s’il les balaye. Pour ne pas jeter la proie pour l’ombre, il nous faut des citoyens de plus en plus éduqués. Dans ces conditions, on ne peut investir à long terme dans l’IA sans investir parallèlement et massivement dans l’intelligence des citoyens de demain, et ce, en donnant dès à présent à l’École les moyens financiers qu’elle mérite. Soyons les leaders de l’IA, mais soyons aussi les leaders dans l’Education nationale.
La révolution numérique n’a pas fini de modifier profondément notre société, mais de manière assez paradoxale, « il n’y a rien de nouveau sous le soleil ». Il nous faut revenir plus que jamais notamment à Rabelais et à son « science sans conscience n’est que ruine de l’âme ». Cette conscience, il faut la prendre au niveau de la technique de l’IA mais il faut surtout qu’elle concerne les futurs usagers de cette IA.
Que ce soit pour relativiser les connaissances que nous apportera l’IA (à supposer qu’elles soient exactes) comme pour lutter contre les fake news de notre monde numérique, seul l’esprit critique du citoyen constitue un antidote efficace et ledit esprit ne s’acquiert, jusqu’à plus ample informé, que sur les bancs de l’école et dès le plus jeune âge.
Dès lors que l’IA va accompagner nos vies en permanence, il faut peut-être encore plus qu’hier, que la République consacre dès à présent les moyens financiers nécessaires à l’éducation de ses enfants, et ce pour que l’IA reste un outil au service de l’humanité et pas l’inverse. À défaut, dans quelques décennies, notre société ne sera plus composée que de citoyens artificiels et l’IA n’aura été finalement qu’un cheval de Troie numérique que nous aurons introduit dans notre démocratie et qui causera sa perte.
