Impossible d’ouvrir votre fil d’actualité sans voir fourmiller des breaking news sur la dernière IA générative en vogue.
Même votre oncle réfractaire au numérique semble conquis “C’est fou tout ce qu’on peut faire avec l’IA !”.
Montages humoristiques pour certains, nouvelles idées de business pour d’autres…
Tout le monde semble avoir adopté les IA génératives dans le cadre privé comme professionnel.
Mais ces merveilleux outils apportent avec eux leur lot d’enjeux juridiques, voire moraux.
C’est pour tenter de répondre à ces questions que l’UE a récemment déployé une nouveau bouclier légal : l’AI ACT.
Qu’est-ce que l’AI Act ?
Explication rapide
L’AI Act (“Artificial Intelligence Act” ou “Loi sur l’Intelligence Artificielle”) est un texte de loi qui assure le respect des droits fondamentaux de l’UE par l’usage de l’Intelligence Artificielle au sein de l’Europe des 27.
Très concrètement, il s’agit d’assurer :
- La qualité des données utilisées par les IA génératives : Comment s’assurer que ces dernières s’appuient sur des bases de données correctes et fiables pour produire des assets (calculs, textes, visuels, vidéos, sons…)
- Le respect de la législation sur les droits d’auteurs : À qui appartient un asset créé par un outil non humain ?
L’AI Act exige notamment des développeurs de s’assurer que les assets produits par les IA génératives sont bien des produits artificiels, et non pas des copies de productions humaines.
Si le sujet paraît plus actuel que jamais, il n’est pas si nouveau : les premières négociations sur l’AI Act ont débuté en avril 2021.
Elles ont cependant été bouleversées par l’apparition de ChatGPT, et ces progrès fulgurants ces derniers mois.
Détails sur le contenu technique
Les règles de l’AI Act pour faire respecter les droits européens
L’AI Act contient 6 mesures d’interdictions sur des applications à risque.
Extrait :
- Interdiction de catégorisation biométrique utilisant des caractéristiques sensibles (notamment les opinions religieuses, l’orientation sexuelle, etc)
- Extraction non ciblée d’images faciale sur internet ou par vidéo surveillance pour créer des bases de données de reconnaissance faciale
- Reconnaissance des émotions sur le lieu de travail et les établissements d’enseignement
- La notation sociale basée sur le comportement social ou les caractéristiques personnelles
- Les systèmes d’IA qui manipulent le comportement humain pour contourner le libre arbitre
- L’IA utilisée pour exploiter les vulnérabilités des personnes (en raison de leur âge, de leur handicap, de leur situation sociale ou économique)
Il existe toutefois des exceptions à ces règles (qui demeurent limitées, rassurons-nous).
Les systèmes d’identification biométrique pourront être utilisés dans le cadre de la recherche d’un “individu condamné ou soupçonné d’avoir commis un crime grave”.
Très concrètement, en cas d’enlèvement, ou d’acte terroriste, les systèmes d’IA pourront être utilisés pour retrouver les victimes et auteurs présumés.
2 autres points sont évoqués dans le compte rendu de l’AI Act sur le site du Parlement Européen :
- Des obligations pour les systèmes à haut risque : les députés ont exigé d’obtenir des analyses d’impact au sujet des IA qui peuvent notamment entraver la santé, la sécurité, l’environnement ou la démocratie. Les citoyens de l’UE auront d’ailleurs le droit de déposer plainte concernant les systèmes d’IA (reste à savoir contre qui exactement ! Les éditeurs, utilisateurs, fournisseurs de prompts… ?)
- Des contrôles réguliers pour les IA générales : Les IA à usage général présentant un “risque systémique” devront régulière effectuer des tests, et rendre des compte à la Commission en cas d’erreurs ou incidents graves
Voilà pour le volet protectionniste.
Cependant, le 2nd objectif de la loi sur l’Intelligence Artificielle, c’est aussi de promouvoir l’innovation au sein de l’UE !
Les règles de l’AI Act pour promouvoir l’innovation
La section du communiqué dédiée à la promotion de l’innovation est étonnamment beaucoup plus succincte…
Toujours est-il que le besoin d’innovation est bien reconnu, et a le mérite de figurer sur ce document officiel du Parlement Européen.
Il est notamment spécifié :
Les députés voulaient veiller à ce que les entreprises, en particulier les PME, puissent développer des solutions d’IA sans pression excessive de la part des géants de l’industrie qui contrôlent la chaîne de valeur.
Le compte rendu nous apprend que 2 mesures pour développer et tester de nouveaux systèmes IA avant leur mise en marché :
- La création de “bacs à sable règlementaires”
- La mise en place “d’environnement réels”
Le texte n’en dit malheureusement pas plus à ce sujet, si ce n’est que ces 2 points sont à la charge des autorités nationales.
Ratification et entrée en vigueur de l’AI Act
Un premier accord des 27 a été annoncé par Thierry Breton l’a annoncé le 8 décembre dernier sur le réseau social X (ex Twitter) :
Le texte a été approuvé par les 27 membres de l’UE le 8 décembre 2023.
Le 2 février dernier, le Conseil de l’Union européenne a validé l’AI Act à l’unanimité.
Il doit donc désormais être adopté par le Parlement Européen.
C’est uniquement après cette double validation que le texte pourra être intégré à la législation Européenne.
L’AI Act devrait finalement entrer en vigueur en 2025 au plus tôt (2 ans après sa ratification, selon le site du Conseil Européen).
Que risquent les entreprises qui ne respectent pas l’AI Act ?
Si les mesures évoquées précédemment semblent parfois un peu floues, les sanctions, elles, sont on ne peut plus concrètes.
En cas de non-respect de l’AI Act, une entreprise risque :
- Une amende allant de 7,5 millions à 35 millions d’euros
OU
- Une amende de 1,5% à 7% du chiffre d’affaires mondial
En fonction de la taille de l’entreprise et de l’infraction réalisée.
On vous tient informé.es des prochaines étapes.
En conclusion / TL;DR
Si l’essor de l’IA semble récent, l’UE planche depuis plusieurs années déjà sur un projet de loi pour encadrer son utilisation.
Après un accord des 27 le 8 décembre dernier, la Commission Européenne vient de valider l’AI Act ou Loi sur l’Intelligence Artificielle, le 1er du genre au Monde.
Ce qu’il contient :
- 6 mesures restrictives pour assurer la qualité des données employées, le respect des droits Européens, et prévenir les dérives
- Quelques exemptions (pour coincer les voyous !)
- Des propositions pour promouvoir l’innovation au sein de l’UE (mais à la charge des autorités nationales !)
Si l’AI Act semble franchir les étapes de validation à la vitesse de l’éclair, rassurons-nous : son entrée en vigueur ne devrait pas arriver avant 2025.
De quoi nous y préparer en douceur !
Update : où en est l’AI Act ?
- 8 décembre 2023 : ça y est, les 27 se sont accordés sur la création d’un règlement commun pour l’UE.
- 2 février 2024 : ça y est, le Conseil de l’Union européenne a validé l’AI Act à l’unanimité.
- 13 mars 2024 : ça y est, le Parlement vient d’approuver la législation.
Pour aller plus loin
Si le sujet vous passionne (et on vous comprend), voici quelques ressources utiles pour creuser le sujet :
- Le compte rendu du Parlement Européen au sujet de l’AI Act publié le 9 décembre 2023, au lendemain de l’accord des 27
- Le communiqué de presse du Conseil Européen en date du 9 décembre sur le site officielle de l’institution
- L’excellent papier de Usbek & Rica, qui détaille avec précision le contenu de l’AI Act
- Le compte X de Thierry Breton, Commissaire Européen dont vous devez souvent entendre parler si vous suivez nos articles sur le DMA et le DSA 😉
- Fun Fact : si le projet semble récent, le site officiel dédié à l’AI Act est apparu la 1ère fois sur le web en 2021 ! Quand on vous dit que les discussions datent d’un moment…
Bonus : quelques questions philosophiques que l’on devrait tous se poser
- Peut-on tomber amoureux d’une intelligence artificielle ?
- Si les IA produisent un travail comparable aux humains, doivent-elles payer des taxes ?
- Est-ce que seuls les humains peuvent créer des chefs d’œuvres ?
- L’Homme est-il capable d’empathie pour le genre non-humain ?
- N’est-il pas cruel d’exploiter une Intelligence, aussi artificielle fut-elle ?
- Nous protégeons l’homme de l’IA, mais ne faudrait-il pas protéger l’IA de l’homme ?
- Pourquoi a-t-on systématiquement peur quand une nouvelle technologie apparaît ?