L’intégration de l’intelligence artificielle dans les outils informatiques soulève de nouveaux défis juridiques, à la fois pour les entreprises utilisatrices et les éditeurs. Que ce soit pour des systèmes d’assistance, des outils de génération de contenu ou des solutions d’analyse, les contrats informatiques doivent répondre à ces nouveaux défis.

Nous présentons ici quelques-uns de ces défis.

Mémoire contextuelle et fiabilité des réponses
L’IA ne fonctionne pas comme une base de données classique. Sa « mémoire » est limitée à une fenêtre contextuelle (context window), et surtout elle retraite les échanges avec l’utilisateur, par exemple en compressant certaines informations au fur et à mesure. Cela signifie qu’elle peut oublier ou modifier la façon dont elle interprète une partie de la conversation en cours d’échange.

Prévisibilité et mises à jour
Un logiciel classique évolue par versions prédictibles, avec des notes de mise à jour et une roadmap claire. Une IA, en revanche, peut changer son comportement à la suite d’une simple mise à jour de modèle, sans que ses utilisateurs ne soient toujours prévenus. L’outil que vous utilisiez hier pourrait répondre différemment demain.

Compréhension des instructions : L’IA joue aux dés à chaque requête.
Contrairement à un programme qui exécute des commandes précises, une IA interprète les instructions avec un degré de subjectivité. Alors que dans un tableur, 2+2 donnera toujours 4, deux requêtes identiques formulés à une IA avec un même contexte vont donner des résultats différents.

Fiabilité et hallucinations
Une IA peut, dans certaines conditions, donner une réponse erronée tout en paraissant convaincante. Ces « hallucinations » sont un phénomène propre aux modèles d’IA générative, qui tentent de prédire la meilleure réponse possible sans toujours vérifier sa véracité.

Apprentissage et adaptation à chaque utilisateur
Certaines IA conservent un historique des conversations pour affiner leurs réponses. Deux personnes utilisant la même IA peuvent obtenir des résultats différents sans comprendre pourquoi.

Accès aux sources et justification des réponses
Quand un programme vous donne une information, on peut en général retrouver la source dans une base de données ou un algorithme déterministe. Une IA, en revanche, génère ses réponses sur la base de milliards de paramètres internes, rendant parfois difficile l’explication des étapes intermédiaires de son « raisonnement ».

L’intégration de l’IA dans les outils informatiques ne se limite pas à une simple mise à niveau technologique : elle impose une révision des attentes et des garanties que l’on peut obtenir d’un système informatique. Que vous soyez entreprise utilisatrice ou éditeur de logiciel incluant des IA, nous pouvons vous accompagner dans la relecture de vos contrats pour les adapter aux nouveaux défis de l’IA.