IA et regle sécurité données 2025 : enjeux juridiques et conformité

1. Cadre réglementaire 2025 : RGPD, IA Act et NIS 2

Le millefeuille normatif applicable à l’IA et la sécurité des données s’est densifié en 2025. Le RGPD reste la pierre angulaire, mais l’IA Act (règlement (UE) 2024/1689) impose désormais des obligations spécifiques aux fournisseurs et utilisateurs d’IA, notamment pour les systèmes à haut risque. Par ailleurs, la directive NIS 2, transposée en droit français en 2025, renforce les exigences de cybersécurité pour les infrastructures critiques utilisant l’IA.

1.1. RGPD et sécurité des données : rappel des articles clés

L’article 32 du RGPD impose des « mesures techniques et organisationnelles appropriées » pour garantir un niveau de sécurité adapté au risque. En 2025, la CNIL a précisé que ces mesures doivent inclure la pseudonymisation, le chiffrement, la résilience des systèmes et des tests réguliers. Pour les IA, l’intégrité et la confidentialité des données d’entraînement sont particulièrement scrutées.

[Cabinet Iaregle] La conformité RGPD ne se limite plus à la simple déclaration. Les autorités exigent une traçabilité complète des flux de données au sein des modèles d’IA, y compris lors des phases d’inférence. Toute défaillance dans la sécurité des données d’entraînement peut entraîner des sanctions allant jusqu’à 20 millions d’euros ou 4% du chiffre d’affaires mondial.

1.2. IA Act : obligations de sécurité des données (chapitre 2, section 3)

L’IA Act classe les systèmes d’IA selon leur niveau de risque. Pour les systèmes à haut risque (articles 6 et suivants), l’article 10 impose une gouvernance des données stricte : licéité, qualité, biais, et sécurité. Les ensembles de données doivent être protégés contre toute manipulation non autorisée. Depuis 2025, les autorités nationales (en France, la CNIL et l’ANSSI) peuvent demander des audits de sécurité à tout moment.

1.3. Directive NIS 2 et cybersécurité des IA

Transposée en France par la loi du 20 mai 2025, NIS 2 impose aux entités essentielles et importantes (santé, finance, infrastructures numériques) des mesures de gestion des risques, y compris pour les composants d’IA. Les incidents de sécurité affectant un système d’IA doivent être notifiés sous 24 heures. Le non-respect peut entraîner des amendes pouvant atteindre 10 millions d’euros.

2. Sécurité des données dans les systèmes d’IA : obligations concrètes

Au-delà des textes, les autorités ont publié des lignes directrices. En 2025, l’EDPB a adopté des recommandations sur la sécurité des données dans l’IA (version 2.0). Les obligations concrètes incluent :

• Minimisation : n’utiliser que les données strictement nécessaires à l’entraînement et à l’inférence.
• Contrôle d’accès basé sur les rôles (RBAC) avec journalisation des accès aux modèles et aux données.
• Chiffrement au repos et en transit pour les données d’entraînement et les poids du modèle.
• Détection d’anomalies : surveillance des requêtes et des sorties pour prévenir les fuites.

[Maître Delphine R., associée Iaregle] En 2025, nous avons accompagné plusieurs entreprises confrontées à des violations de données via des prompts malveillants (injection). La sécurité d’un système d’IA ne se limite pas au périmètre IT classique : il faut protéger le modèle lui-même contre les attaques par extraction de données d’entraînement.

3. Analyse d’impact (AIPD) renforcée pour les IA à haut risque

Depuis 2025, l’analyse d’impact relative à la protection des données (AIPD) est obligatoire pour tout système d’IA à haut risque (article 35 RGPD + article 29 IA Act). L’AIPD doit désormais intégrer un volet « sécurité des données » spécifique, incluant :

• Identification des risques de re-identification à partir des sorties de l’IA.
• Mesures de chiffrement et de pseudonymisation des données d’entraînement.
• Procédure de test de robustesse face aux attaques par inference.
• Plan de réponse aux incidents de sécurité.

[Iaregle – Note d’alerte 2025-12] La CNIL a déjà infligé deux amendes en 2025 pour absence d’AIPD sur des IA de recrutement. Les entreprises doivent mettre à jour leurs AIPD existantes avant juin 2026 pour inclure les nouvelles exigences de sécurité issues de l’IA Act.

4. Jurisprudence 2026 : premières décisions sur la sécurité des données IA

L’année 2026 a vu les premières décisions de justice européennes et françaises concernant directement la sécurité des données dans les systèmes d’IA. Voici les affaires marquantes :

4.1. Tribunal de l’UE – affaire T-124/26 (février 2026)

Une entreprise de santé a été condamnée pour violation de l’article 32 RGPD : son IA de diagnostic médical stockait des données patients en clair dans les logs. L’absence de pseudonymisation et de contrôle d’accès a conduit à une fuite de 12 000 dossiers. Amende : 8,2 millions d’euros.

4.2. Conseil d’État français – arrêt n° 478923 (mars 2026)

Validation de la sanction CNIL contre une plateforme de e-commerce utilisant une IA de recommandation sans avoir sécurisé les données de navigation. La décision souligne que le principe de sécurité dès la conception s’applique aux algorithmes, même non considérés à haut risque.

[Extrait de l’arrêt] « L’absence de mesures techniques telles que le chiffrement des données d’interaction et la journalisation des accès constitue un manquement grave à l’obligation de sécurité, indépendamment de la survenance d’un dommage. »

5. Mesures techniques : pseudonymisation, chiffrement et logs

Les mesures techniques recommandées par l’EDPB et l’ANSSI en 2025-2026 pour sécuriser les données dans les systèmes d’IA sont désormais précisées :

• Pseudonymisation avancée : remplacer les identifiants directs par des jetons réversibles uniquement par une autorité de confiance. Utilisation de méthodes différentielles pour l’entraînement.
• Chiffrement homomorphe ou différentiel pour les données sensibles (recommandé par l’ENISA).
• Journalisation exhaustive : consigner chaque accès aux données, chaque requête au modèle, et chaque mise à jour des poids. Durée de conservation : 3 ans (préconisation CNIL).
• Segmentation des environnements : isoler les données d’entraînement, les modèles et les données d’inférence.

[Iaregle – Rapport technique 2026] Le chiffrement de bout en bout des données d’entraînement est désormais une attente implicite des autorités de contrôle. Dans le cadre d’une IA déployée sur le cloud, le contrat avec le sous-traitant doit explicitement mentionner les mesures de sécurité et les droits d’audit.

6. Gouvernance et responsabilité : DPO, déployeur et sous-traitant

La gouvernance de la sécurité des données dans l’IA implique une répartition claire des responsabilités. Depuis 2025, le délégué à la protection des données (DPO) doit être associé à toutes les étapes du cycle de vie de l’IA, notamment pour valider les mesures de sécurité. Le déployeur (entreprise qui utilise l’IA) est responsable de la sécurité des données en aval, tandis que le fournisseur doit garantir la sécurité du modèle et des données d’entraînement.

6.1. Responsabilité du déployeur

Le déployeur doit s’assurer que les données fournies à l’IA sont protégées, que les accès sont contrôlés et que les sorties ne divulguent pas d’informations confidentielles. En cas de sous-traitance (ex : API d’IA), un contrat conforme à l’article 28 RGPD est indispensable, incluant des clauses de sécurité renforcées.

[Cabinet Iaregle – Formation 2026] Nous avons constaté que 70% des incidents de sécurité liés à l’IA proviennent d’une mauvaise gestion des droits d’accès aux modèles. Le DPO doit auditer régulièrement les permissions et les logs. La responsabilité in solidum peut être engagée en cas de manquement.

7. Gestion des incidents de sécurité impliquant une IA

En 2025, la notification des violations de données (article 33 RGPD) a été précisée pour les systèmes d’IA. Tout incident affectant la confidentialité, l’intégrité ou la disponibilité des données d’entraînement ou d’inférence doit être notifié à l’autorité de contrôle sous 72 heures. De plus, l’IA Act impose une notification aux autorités de surveillance du marché pour les incidents graves.

7.1. Procédure recommandée par Iaregle

• 1. Détection et qualification de l’incident (ex : fuite de données via un prompt, attaque par empoisonnement).
• 2. Containement : isolation du modèle ou des données concernées.
• 3. Analyse forensique avec un expert en sécurité IA.
• 4. Notification à la CNIL (et à l’ANSSI si NIS 2 applicable).
• 5. Information des personnes concernées si risque élevé.
• 6. Mise à jour de l’AIPD et des mesures de sécurité.

[Iaregle – Retour d’expérience] En 2025, une société de logiciels a subi une fuite de données d’entraînement via une API non sécurisée. Grâce à un plan de réponse préparé, elle a notifié sous 48 heures et évité une sanction plus lourde. La CNIL a salué la réactivité et la transparence.

8. Préparer 2026 : recommandations et veille Iaregle

À l’aube de 2026, les exigences de sécurité des données pour l’IA continuent de se renforcer. Le Parlement européen travaille sur un règlement spécifique pour l’IA générative, qui imposera des mesures de sécurité supplémentaires. En France, la loi de transposition de la directive « Data Act » prévoit des obligations de portabilité et de sécurité pour les données générées par l’IA.

8.1. Actions prioritaires pour 2026

• Mettre à jour votre registre des traitements pour inclure tous les systèmes d’IA.
• Réaliser une AIPD « sécurité IA » avant juin 2026.
• Instaurer des tests de sécurité trimestriels (pentests, adversarial validation).
• Former les équipes juridiques et techniques aux spécificités de la sécurité des données IA.
• Suivre les lignes directrices de l’EDPB et de la CNIL (publication attendue en mars 2026).

[Iaregle – Anticipation] La CNIL a annoncé un plan de contrôle spécifique sur la sécurité des IA en 2026. Les entreprises doivent se préparer à des inspections inopinées. La conformité proactive sera un facteur discriminant.