7 défis liés à l’AI et à la sécurité des données, et conseils pour renforcer la résilience

L’AI est à la fois une épée et un bouclier dans la cybersécurité moderne. Il passe au crible d’énormes ensembles de données en quelques secondes, signale les anomalies plus tôt et laisse aux défenseurs le temps d’agir. Selon une nouvelle étude menée par le Ponemon Institute, 47 % des organisations américaines utilisent déjà l’AI pour protéger leurs ressources les plus précieuses : leurs données.

Pour comprendre comment les équipes renforcent la résilience des données stockées, le Ponemon Institute a interrogé 610 praticiens de l’informatique et de la sécurité dans le cadre de l’étude « The State of Cyber Resilience », parrainée par Pure Storage. Les résultats montrent que 45 % des praticiens s’attendent à ce que les technologies de sécurité basées sur l’AI renforcent le stockage de sécurité des données de leur organisation. Plus de la moitié (53 %) estiment que l’AI simplifie la protection en gérant les tâches précédemment gérées par les équipes humaines de manière plus efficace et économique.

Cependant, l’AI introduit également de nouveaux risques pour la sécurité des données. La moitié des praticiens interrogés par le Ponemon Institute citent l’empoisonnement des données comme la principale menace de stockage pilotée par l’AI. D’autres ont indiqué une mauvaise configuration du système et des mauvaises configurations dues à une dépendance excessive à l’AI pour la gestion des cyberrisques. 

Les principaux enseignements tirés de ces résultats : Bien que les outils d’AI puissent vous aider à identifier les problèmes plus tôt, la véritable cyberrésilience dépend de la capacité à protéger et à restaurer les données. Dans cette optique, examinons sept défis liés à l’AI et à la sécurité des données, ainsi que des exemples de moyens pratiques d’améliorer la résilience.

1. L’AI n’éliminera pas l’élément humain dans la cybersécurité

L’AI peut repérer les schémas et accélérer le tri, mais le jugement reste à la charge des personnes : ce qu’il faut enquêter, quand faire remonter le problème et comment contenir les menaces. Les attaquants utilisant l’AI générative pour créer des attraits plus convaincants, le risque le plus important pour la sécurité des données n’est pas de « remplacer les humains par l’AI », mais les équipes confient l’automatisation sans la formation nécessaire, les structures de décision et les manuels d’incident.

Conseils pour renforcer la résilience

• Garder les gens en charge des résultats. Utilisez la surveillance par l’AI pour signaler les activités inhabituelles, comme les suppressions inattendues ou les mouvements de données atypiques, mais exigez un examen humain avant de déclencher des étapes de confinement ou des réponses majeures.
• Entraînez-vous à l’escalade. Assurez-vous que le personnel sait quand faire remonter les alertes, comment interpréter et utiliser les informations basées sur l’AI, et qui a l’autorité finale pendant un incident.
• Répétez la réponse aux incidents. Exécutez des exercices de table qui combinent les alertes d’AI et les décisions humaines, afin que les équipes s’entraînent au confinement et à la communication dans des conditions réelles.

2. Même avec l’AI, il n’y a pas d’excellence en matière de sécurité

L’AI est précieuse pour les alertes précoces, comme le signalement de lectures, de suppressions et de transferts inhabituels, mais elle ne protège pas les données et ne vous ramène pas à un état stable par elle-même. De solides contrôles de sécurité des données réduisent la probabilité de perte, et des pratiques de cyber-résilience disciplinées vous permettent de récupérer rapidement en cas d’incident. 

Conseils pour renforcer la résilience

• Renforcez la couche de données. La cybersécurité moderne repose sur des couches. Appliquez les autorisations les moins privilégiées, sécurisez les coffres-forts de clés et verrouillez les consoles de stockage pour éviter toute utilisation abusive ou altération.

• Conservez des copies propres, inviolables et indélébiles. Conservez des copies protégées des ensembles de données et des configurations critiques, et répétez les restaurations pour vous assurer que vous pouvez atteindre en toute fiabilité les objectifs de Recovery Point Objective (RPO) et de Temps de récupération (RTO). Cela vous aidera à mieux vous défendre contre la falsification des Ransomware chiffrement des ransomwares et les suppressions accidentelles ou internes.
• Contenir les dommages dès la conception. Segmentez les réseaux et appliquez une séparation stricte des tâches pour éviter qu’une seule violation ne se propage dans l’ensemble de votre environnement.

Découvrez comment la résilience multicouche protège l’intégrité des données et facilite une reprise rapide à n’importe quelle échelle.

3. L’AI reste plus réactive que préventive

L’AI est puissante pour faire face aux risques liés au stockage de données, tels que les lectures, les suppressions ou les mouvements inhabituels des données. Cependant, elle n’empêche pas les causes profondes, comme le clic d’hameçonnage initial ou un jeton volé. La bonne nouvelle, c’est que, selon l’étude « State of Cyber Resilience », l’AI contribue à réduire les charges de travail manuelles pour les équipes de sécurité. Cela signifie que les praticiens disposent de plus de bande passante pour investir dans des mesures préventives, comme des configurations plus strictes, la formation des employés et le durcissement systématique du système.

Conseils pour renforcer la résilience

• Fermer facilement les portes. Gardez les systèmes corrigés, supprimez les comptes obsolètes et fermez les chemins d’accès inutilisés pour éviter que de simples attaques ne prennent de l’ampleur. Associez cela à une formation de sensibilisation à la sécurité qui apprend aux employés à reconnaître le phishing, les liens malveillants et d’autres astuces d’ingénierie sociale, faisant des utilisateurs des défenseurs de première ligne.
• Faites face aux changements risqués. Ajoutez une brève pause et un examen rapide des actions susceptibles d’effacer les données ou d’affaiblir les protections, comme la suppression des sauvegardes ou la modification de la conservation/des clés. Des étiquettes claires et une courte liste de contrôle aident les gens à savoir qu’ils se trouvent sur un territoire risqué.
• Récupérer sur pilote automatique, après un « go » humain. Avant de mettre en œuvre des mises à jour majeures ou des modifications de politiques, prenez des snapshots indélébiles, gérez un plan de restauration d’une page et effectuez des exercices de restauration rapide sur des échantillons de données pour vous assurer que tout le monde comprend comment revenir à un état sûr.

4. Les modèles d’AI doivent évoluer, ou risquer de mauvais appels

L’AI n’aide que si elle tire des enseignements de données propres et actuelles. Sans vérification, les modèles d’AI peuvent dériver, invoquant une activité normale suspecte ou manquante de nouveaux schémas. Et, comme nous le savons dans l’étude du Ponemon Institute, les professionnels de l’informatique et de la sécurité considèrent l’empoisonnement délibéré des données, la corruption des données ou des étiquettes d’entraînement, comme le risque de stockage piloté par l’AI le plus important.

Conseils pour renforcer la résilience

• Actualisez vos modèles avec des données fiables. Réentraîner régulièrement les modèles à l’aide d’ensembles de données représentatifs et vérifiés, et noter la source des données. Oubliez tout ce que vous ne pouvez pas supporter.
• Regardez les signaux. Surveillez les fausses alarmes et les erreurs. Si le bruit augmente, affinez les alertes ou réentraînez-vous, et gardez toujours un modèle de secours à portée de main en cas de changement de feu.
• Protégez le pipeline. Limitez les personnes qui peuvent modifier les données d’entraînement, les étiquettes ou les règles de détection. Pour les mises à jour en masse, il faut un examen rapide par les pairs et tenir un journal des modifications simple.

5. La surveillance est essentielle pour éviter « l’automatisation sans surveillance »

AI peut générer ou ajuster des règles de sécurité en temps réel. Sans barrières de sécurité, elle peut être sursécurisée (bloquant l’accès critique) ou sous-sécurisée (menaces réelles manquantes). Selon l’étude du Ponemon Institute sur Pure Storage, les systèmes mal configurés représentent le deuxième risque de stockage piloté par l’AI, soulignant le danger de l’automatisation sans surveillance appropriée.

Conseils pour renforcer la résilience

• Définissez d’abord les limites. Explique ce que l’AI peut régler seule (par exemple, les seuils d’alerte), ce qu’une personne doit confirmer et ce qui est interdit (par exemple, les politiques de suppression).
• Essai avant confiance. Laissez d’abord les modifications proposées par l’AI s’exécuter en mode ombre (recommandation/alerte uniquement). De plus, utilisez des modifications limitées dans le temps qui expirent à moins qu’un humain ne confirme qu’il doit continuer, ce qui permet de s’assurer que les règles non vérifiées ne persistent pas.
• Déployez-le en toute sécurité, puis passez-le en revue. Mettez à jour un petit groupe d’utilisateurs, récupérez automatiquement si les erreurs augmentent et effectuez un examen hebdomadaire rapide des modifications apportées ou ajustées par l’AI pour décider des ajustements.

6. Besoins de détection efficace des anomalies (très) Contexte général

Pour repérer les attaques de type « aiguille dans une pile de foin », l’AI a besoin d’un contexte entre les utilisateurs, les systèmes et les magasins de données. En d’autres termes, elle a besoin de quantités massives de données provenant de diverses sources. Mais l’évolutivité réduit les deux aspects : Sans les garde-fous appropriés, le tuyau de protection des données peut facilement surcharger les outils et les personnes.

Conseils pour renforcer la résilience

• Surveillez ce qui compte. Suivez une courte liste de signaux d’alerte, comme les suppressions inhabituelles et les transferts importants. Assurez-vous que chaque système et chaque ensemble de données sont désignés pour accélérer les décisions.
• Gérez vos données. Dupliquer à mesure que les données arrivent, conserver des enregistrements détaillés pendant une courte période et des résumés plus longtemps, et maintenir une ligne de base claire de l’activité normale.
• Rendez les alertes utiles. Corrélez les événements associés, définissez des seuils raisonnables et envoyez uniquement des alertes hautement prioritaires aux personnes, en particulier lorsque des modifications pourraient potentiellement détruire ou exposer des données.

Découvrez comment Pure Storage fournit les informations CVE exploitables dont les clients ont besoin pour comprendre et atténuer les vulnérabilités. 

7. La faim de données de l’AI augmente les risques en matière de confidentialité et de conformité

Les systèmes d’AI générative ont souvent besoin d’accéder à des données sensibles pour obtenir des résultats pertinents. Cela augmente les risques d’exposition accidentelle et d’erreurs de conformité, en particulier en vertu du Règlement général sur la protection des données (RGPD), de la loi California Consumer Privacy Act (CCPA) et des règles émergentes de responsabilité en matière d’AI. L’objectif est de favoriser l’AI sans élargir votre surface d’attaque de confidentialité.

Conseils pour renforcer la résilience

• Limitez ce que l’AI peut voir. Étiqueter les données sensibles et fournir aux modèles uniquement les informations nécessaires. Par défaut, masquez ou supprimez les données personnelles et, si possible, testez avec des échantillons de données factices ou plus petits.
• Renforcez la confidentialité du stockage. Utilisez des contrôles d’accès stricts, des autorisations limitées dans le temps et des copies verrouillées et immuables (immuables/verrouillées à la conservation) afin que les données sensibles ne puissent pas être modifiées ou exposées. De plus, assurez-vous que les données sont chiffrées au REST et en transit.
• Définissez des garde-fous pour l’utilisation et le partage. Décidez de l’emplacement des invites, des résultats et des journaux, de qui y accéder et de la durée pendant laquelle vous les conserverez. Suivez une approche moins privilégiée afin que seuls les utilisateurs ou systèmes autorisés puissent afficher des résultats sensibles. Conservez une piste d’audit et désactivez toute fonctionnalité qui enregistre des invites ou des résultats, sauf si vous en avez réellement besoin.

La résilience est la voie à suivre pour l’AI et la sécurité des données

L’AI simplifie déjà la sécurité des données en automatisant les tâches répétitives, en réduisant les coûts et en laissant aux équipes un temps précieux. Mais cela introduit également de nouveaux risques. La voie à suivre en matière d’AI consiste à prioriser la résilience à chaque instant, en intégrant la sécurité à votre fondation grâce à des défenses multicouches, des données immuables et une infrastructure à plusieurs niveaux prête pour la reprise. Pure Storage aide les organisations à atteindre cette résilience en simplifiant les opérations au niveau de la couche de données et en permettant une reprise rapide et prévisible au moment le plus important.

Bien que les défis liés à l’AI et à la sécurité des données décrits ci-dessus persistent toute l’année, le mois de sensibilisation à la cybersécurité vous rappelle en temps opportun d’évaluer votre posture de sécurité, de revoir vos stratégies de reprise et de vous assurer que vos ambitions en matière d’AI reposent sur une plateforme de données sécurisée, conforme et résiliente comme Pure Storage. En 2026 et au-delà, ces défis ne feront que s’intensifier, ce qui rend le moment de se préparer.

The State of Cyber Resilience

Learn how 620 US-based IT security practitioners are approaching data storage security in the age of AI.

Read the Report