LA TRANSITION NUMERIQUE : IMPACTS ET DEPENDANCES

Pourquoi cette étude ?

Si le terme « transition numérique » est synonyme d’accroissement significatif de l’équipement numérique, l’Intelligence artificielle (IA) élargit et approfondit aujourd’hui son impact sur toutes les sphères de la vie.

La transition numérique est un processus historique de passage à Internet qui a démarré à la fin du 20ᵉ siècle. Aujourd’hui, le numérique se retrouve à toutes les échelles de notre vie quotidienne et professionnelle. La transition numérique désigne le chemin vers la digitalisation ou la numérisation des systèmes d’informations. En d’autres mots, c’est l’intégration des technologies digitales dans le fonctionnement de la société. Cette véritable révolution numérique implique des impératifs comme la transformation des pratiques, la dématérialisation et le besoin de repenser l’organisation ainsi que la culture de nos sociétés.

Avec l’arrivée de l’IA se pose un nouveau défi de la transition numérique. En effet, l’IA découle de la transition numérique dans la mesure où cette technologie ouvre des perspectives inimaginables il y a encore une dizaine d’années. L’IA permet une gouvernance des données par la mise en place de processus d’automatisation des analyses. Notamment par la création des systèmes autonomes comme le machine learning. Ainsi, ce rapport a pour ambition de réfléchir sur les impacts et les dépendances qui découlent de la transition numérique mais également de la transition vers l’IA.

Quelles sont les dépendances et les impacts sociétaux qui vont découler de la transition numérique et de la transition vers l’IA ?

Une question essentielle porte sur les impacts sociétaux et les dépendances qui vont en découler. C’est l’objet du présent rapport. Certains impacts et dépendances sont connus, par exemple dans les champs financiers et écologiques, et seront simplement rappelés, d’autres moins évidents, en matière sociale, éthique, politique et géopolitique, démocratique et de souveraineté, donneront lieu à développements.

Sur la base de nombreuses analyses nationales et internationales et avec l’apport d’experts, les questions auxquelles le rapport répond sont les suivantes.

• Quelle est la place des aspects humains, sociaux et de souveraineté dans le paradigme de la transition numérique et de la transition vers l’Intelligence artificielle ?
• Comment se comporter face à ces changements ?
• Quelles solutions peuvent être proposées ?

Ces solutions reposent sur l’éducation, le développement de l’esprit critique et du rapport à la vérité, l’ethics by design et une réflexion sur la mise en place d’une régulation mondiale.

Les recommandations

• Pour les organisations, prendre pleinement conscience des notions d’obsolescence et de concurrence permanente des composants technologiques ainsi que des applications et intégrer le recensement et le contrôle des durées de vie dans des plans de continuité.

• Concevoir des algorithmes plus axés sur la sobriété dès le départ. Nos sociétés sont confrontées à un paradoxe, quand elles prônent simultanément l’adhésion à la transition numérique et la sobriété énergétique. « On peut vivre avec moins d’IA mais pas nécessairement avec moins d’eau ».

• Accompagner la profonde mutation structurelle du marché du travail en donnant les clés pour comprendre l’IA dès le plus jeune âge et en cours de formation professionnelle par des politiques publiques adaptées. Cela est à concevoir en lien étroit avec le système éducatif, pour qu’élèves et enseignants soient formés tant du point de vue technique que de celui des bonnes pratiques. Compte tenu de la rapidité de l’évolution des outils mis à disposition, ces formations nécessiteront des mises à jour régulières, et ne pourront être tenues pour acquises.

• La fragilisation et la précarisation des métiers est une réalité de la transition vers le numérique et vers l’IA. Des experts ont alerté sur la situation des « travailleurs de la donnée », en particulier ceux situés dans des pays à bas coût de main d’œuvre et à faible niveau de réglementation. En outre, de nouvelles manières de travailler ont émergé avec l’apparition des plateformes numériques qui font le lien entre l’offre et la demande de biens ou de services. Qu’il s’agisse des « travailleurs de la donnée» ou des plateformes, il est clair que le risque de précarisation du marché du travail existe et que dans les pays attachés à un droit du travail, il est impérativement à traiter.

• Faire évoluer le cadre juridique de la propriété intellectuelle, peut-être sur le modèle de la régulation dans l’usage de copies de livres ou d’articles. L’innovation de l’IA réside dans sa capacité à créer un contenu nouveau à partir d’une exploitation informatique de données déjà existantes. A qui appartient du contenu généré par l’IA ? Comment garantir la propriété intellectuelle avec l’IA ? Est-ce qu’une « création » par l’IA pourrait relever du plagiat ? Nous posons le constat de l’existence d’un vide juridique à ce sujet.

• Eviter une logique de dogme du numérique en l’utilisant lorsqu’il apporte une plus-value à l’humain. Face à la numérisation de tous les aspects de la vie humaine il faut impérativement garantir une complémentarité, ne pas se soumettre à un unique paradigme du numérique et de l’IA et savoir identifier les situations dans lesquelles l’esprit humain est irremplaçable. L’évitement du tout numérique peut commencer par des mesures simples : par exemple, la limitation de l’usage des smartphones par l’installation de brouilleurs dans les salles de classe. Cela éviterait de prohiber l’objet, tout en rendant impossible l’usage dans l’enceinte scolaire.

• Travailler à l’apprentissage de la distinction du vrai, du vraisemblable et du relatif. Il s’agit d’apprendre à qualifier l’information en développant l’esprit critique des citoyens. Ce n’est surtout pas la remise en cause sans fondement. Le doute méthodique, scientifique ou cartésien doit être enseigné aux citoyens dès le plus jeune âge, plutôt que d’éprouver l’irrépressible besoin de les «protéger » d’une défaillance de celui-ci. Il existe des méthodes adaptables à tout âge. Également, face à l’influence de l’IA sur les méthodes de communication du numérique et au risque d’uniformisation intellectuelle, il serait intéressant de mettre en place des algorithmes présentant une part de résultats aléatoires pour préserver la curiosité intellectuelle et l’innovation. Enfin, pour éviter d’altérer le rapport à la vérité, il pourrait être envisagé de systématiquement faire figurer une mention explicitant que du contenu a été généré par IA. Cette pratique existe déjà mais il faut la généraliser à toutes les plateformes, particulièrement en période d’élection pour lutter contre la désinformation, mais pas seulement.

• Mettre en place l’ethics by design en amont au moment de la création des algorithmes par ceux qui les écrivent. En d’autres termes, intégrer des bonnes pratiques dès leur création. Les créateurs d’algorithmes doivent se poser les questions suivantes : Qui écrit les algorithmes ? Où sont situés les ingénieurs qui rédigent les algorithmes ? Quels standards généraux mettre en place ? Quelles considérations morales, humaines ou éthiques adopter ?

• Limiter au maximum notre dépendance à des services numériques sous législation étrangère. En termes de souveraineté, l’Europe a manqué le passage à Internet, elle a laissé la direction de cette révolution technologique aux multinationales américaines et chinoises. Pour garantir une souveraineté numérique européenne, une stratégie de la commande publique nationale et européenne est à mettre en place, qu’il s’agisse de services ou de la mise en place d’un cloud français et/ou européen.

• Redonner envie aux professionnels nationaux du numérique de faire carrière en France. La bataille pour la souveraineté de l’IA en France et en Europe passe aussi par l’attractivité interne et la limitation de la fuite des cerveaux. Il s’agit entre autres de mieux rémunérer les chercheurs, mais aussi de faciliter la mise en œuvre de leurs projets, leur financement, le portage vers la création et le développement d’entreprises, la réduction de la lourdeur administrative à tous les étages des entreprises et des administrations.

• Poser les bases d’une convention internationale non coercitive installant des principes de gouvernance du numérique et plus particulièrement de l’IA. Une gouvernance internationale du numérique et de l’IA présente des risques évidents compte tenu des différents modèles politiques existants. C’est pourquoi elle pourrait être envisagée comme une coopération sur des principes (le plus petit dénominateur commun), sur la base des textes déjà élaborés par diverses organisations internationales et serait peu à peu assortie de recommandations et de standards techniques non obligatoires.

• Développer un principe de subsidiarité pour éviter une dépendance, en prévoyant systématiquement une alternative en termes de fonctionnement et de préservation des compétences. Deux aspects sont principalement concernés : la préservation de la mémoire des documents et l’anticipation des crises. Les systèmes numériques et d’IA ne sont pas à l’abri d’imprévus qui pourraient altérer leur fonctionnement, d’où la nécessité de « Plans B » non numériques. Ce mode de résilience doit être pensé en même temps que la technologie dont il est destiné à pallier l’éventuelle défaillance.

Lire le rapport:

Lire le résumé exécutif: