Le terme « Shadow GenAI » commence à émerger, fusion de deux notions :

1. Shadow IT : C’est un terme utilisé pour décrire les systèmes, les solutions et les technologies déployés par les départements ou les individus au sein d’une organisation sans l’approbation officielle du service informatique.
2. GenAI : Intelligence Artificielle Générative, comme chatGPT par exemple.

Le shadow GenAI est donc le fait que des employés envoient des données confidentielles de l’entreprise aux IA génératives, comme des documents juridiques, des données RH ou des codes sources des logiciels de l’entreprise.

Un nouveau défi à relever pour les entreprises, et notamment les DSI !

Les risques sont principalement de trois ordres :

• Ouverture de brèches dans la sécurité des données : Introduction de vulnérabilités ou de dysfonctionnements dans les systèmes d’information de l’organisation.
• Problématiques de conformité : Risque de non-conformité aux réglementations sur la protection des données (comme le RGPD).
• Risque de Management : En fermant trop l’usage des IA, l’entreprise pourrait perdre en agilité, ou faire fuir ses employés les plus innovants.

Quelques pistes pour relever ces défis :

• Proposer des alternatives d’IA fermées (locales), à utiliser en remplacement des IA ouvertes, lorsque les documents sont confidentiels.
• Former les employés sur ces nouveaux risques
• Vérifier que les contrats d’assurance intègrent ces risques
• Intégrer ces notions dans les plans de gestion des risques et les PCA.
• Mettre à jour la charte informatique de l’entreprise – et le faire savoir aux employés.
• Au vu de l’effervescence des nouvelles IA génératives, prévoir des points de révision plus réguliers de ces différents sujets

Notre équipe est à vos côtés pour évoquer ces sujets avec vous.