Le rythme d’annonces des nouveautés dans le domaine de l’IA ne semble pas faiblir. Face à ces avancées rapides, les responsables juridiques et les décideurs informatiques doivent gérer une double contrainte : favoriser l’innovation tout en intégrant des règles juridiques encore mouvantes et parfois imprécises. Comment tirer parti de l’IA tout en maîtrisant les risques liés à une réglementation en constante évolution ?

Comprendre les niveaux de risque de l’IA selon le règlement européen

Le règlement européen sur l’IA propose une classification basée sur le niveau de risque des systèmes IA, répartis en quatre catégories :

• Risque inacceptable : Certains usages de l’IA, tels que la manipulation subliminale ou la surveillance biométrique en temps réel sans exceptions appropriées, sont interdits car ils menacent la sécurité ou les droits fondamentaux.
• Risque élevé : Des applications comme les outils de recrutement automatisés ou les systèmes évaluant l’éligibilité aux prestations sociales doivent répondre à des exigences strictes pour préserver les droits individuels.
• Risque limité : Pour des technologies comme les chatbots, une obligation de transparence informe les utilisateurs qu’ils interagissent avec une IA, leur permettant de prendre des décisions averties.
• Risque minimal : Les applications jugées sûres, telles que les filtres anti-spam ou les jeux vidéo améliorés par l’IA, peuvent être utilisées librement.

Sécuriser et développer les projets IA en entreprise : faire cohabiter la grille des risques et la grille stratégique.

En face des risques réglementaires définis par le règlement européen sur l’IA, il y a vos propres enjeux stratégiques. La vraie complexité est là : faire cohabiter la grille de lecture juridique (niveau de risque défini par la loi) avec votre grille stratégique (part de chiffre d’affaires générée par l’outil IA, compétitivité sur le marché, etc.).

Si la moitié du CA de votre entreprise dépend d’une solution IA (que vous soyez développeur ou entreprise utilisatrice), votre gestion du risque ne sera pas la même que si l’outil est secondaire. La grille stratégique croise nécessairement la grille juridique.

L’approche du risque intègre donc plusieurs dimensions par exemple :

• Enjeu commercial (impact) : Si un litige survient, une interdiction temporaire ou définitive de l’outil IA pourrait avoir des conséquences financières majeures, avec une perte directe d’une part substantielle du CA.

• Probabilité du risque (occurrence) : Quelle est la probabilité réelle qu’un litige survienne ? Cette évaluation peut se baser sur l’état actuel de la réglementation, les pratiques de vos concurrents…

• Mesures préventives et gestion du risque (action) : Avoir anticipé et documenté un certain nombre de mesures préventives (formation interne, audit régulier des biais de l’outil, documentation claire des processus) participe à vous protéger lorsqu’un litige survient.

Nos avocats sont à vos côtés pour vous guider à travers les défis juridiques liés à vos projets IA et informatiques.