7 desafíos con AI y seguridad de datos, y consejos para desarrollar resiliencia

La AI es tanto una espada como un escudo en la ciberseguridad moderna. Tamiza conjuntos de datos masivos en segundos, marca las anomalías de forma temprana y les compra tiempo a los defensores para actuar. Y según una nueva investigación del Instituto Ponemon, el 47 % de las organizaciones estadounidenses ya utilizan la AI para ayudar a proteger su activo más valioso: sus datos.

Para comprender cómo los equipos están desarrollando la resiliencia para los datos en el almacenamiento, el Instituto Ponemon encuestó a 610 profesionales de TI y seguridad para el estudio “El estado de la resiliencia cibernética”, patrocinado por Pure Storage. Los hallazgos muestran que el 45 % de los profesionales esperan que las tecnologías de seguridad basadas en AI fortalezcan el almacenamiento de seguridad de datos de su organización. Más de la mitad (53 %) dice que la AI simplifica la protección al manejar tareas previamente administradas por equipos humanos de manera más eficiente y rentable.

Sin embargo, la AI también presenta nuevos riesgos de seguridad de datos. La mitad de los profesionales encuestados por Ponemon Institute citaron la intoxicación por datos como la principal amenaza de almacenamiento impulsada por AI. Otros señalaron la configuración deficiente del sistema y las configuraciones incorrectas que surgen de la dependencia excesiva de la AI para la administración de riesgos cibernéticos. 

La conclusión clave de estos hallazgos: Si bien las herramientas de AI pueden ayudarlo a detectar problemas antes, lograr una verdadera resiliencia cibernética depende de qué tan bien pueda proteger y recuperar los datos. Con esto en mente, examinemos siete desafíos de AI y seguridad de datos, junto con ejemplos de formas prácticas de mejorar la resiliencia.

1. AI no eliminará el elemento humano en la seguridad cibernética

AI puede detectar patrones y acelerar el triaje, pero el criterio sigue siendo de las personas: qué investigar, cuándo escalar y cómo contener las amenazas. Dado que los atacantes usan la AI generativa para crear celos más convincentes, el mayor riesgo para la seguridad de los datos no es “la AI reemplaza a los humanos”, sino que los equipos confían en exceso en la automatización sin la capacitación necesaria, los marcos de decisiones y los manuales de estrategias de incidentes.

Consejos para desarrollar resiliencia

• Mantenga a las personas a cargo de los resultados. Use el monitoreo de AI para señalar actividades inusuales, como eliminaciones inesperadas o movimientos de datos atípicos, pero requiera una revisión humana antes de activar pasos de contención o respuestas importantes.
• Capacite para escalar. Asegúrese de que el personal sepa cuándo escalar las alertas, cómo interpretar y usar los resultados impulsados por AI y quién tiene la autoridad final durante un incidente.
• Ensaye la respuesta a incidentes. Ejecute ejercicios prácticos que combinen alertas de AI con decisiones humanas, para que los equipos practiquen la contención y la comunicación en condiciones del mundo real.

2. Incluso con la AI, no hay ninguna viñeta de plata en la seguridad

La AI es valiosa para las advertencias tempranas, como marcar lecturas, eliminaciones y transferencias inusuales, pero no mantiene los datos seguros ni lo lleva de nuevo a un estado estable por sí solo. Los controles de seguridad de datos sólidos reducen la probabilidad de pérdida, y las prácticas de resiliencia cibernética disciplinadas garantizan que pueda recuperarse rápidamente cuando ocurre un incidente. 

Consejos para desarrollar resiliencia

• Fortalezca la capa de datos. La ciberseguridad moderna se trata de capas. Aplique permisos de privilegios mínimos, asegure las bóvedas de claves y bloquee las consolas de almacenamiento para evitar el uso indebido o la manipulación.

• Mantenga copias limpias, resistentes a la manipulación e indelebles. Mantenga copias protegidas de configuraciones y conjuntos de datos críticos, y ensaye las restauraciones para garantizar que pueda cumplir de manera confiable con los objetivos de punto de recuperación (RPO) y los objetivos de tiempo de recuperación (RTO). Eso lo ayudará a defenderse mejor contra la manipulación de copias de seguridad, el cifrado de ransomware y las eliminaciones accidentales o internas.
• Contenga los daños por diseño. Segmente las redes y haga cumplir la estricta separación de funciones para evitar que una sola violación se propague en todo su entorno.

Descubra cómo la resistencia en capas protege la integridad de los datos y facilita la recuperación rápida a cualquier escala.

3. La AI es aún más reactiva que preventiva

La AI es potente para superar los riesgos del almacenamiento de datos, como lecturas inusuales, eliminaciones o movimientos de datos. Sin embargo, no evita las causas principales, como el clic inicial de phishing o un token robado. La buena noticia es que, de acuerdo con el estudio “Estado de resiliencia cibernética”, la AI ayuda a reducir las cargas de trabajo manuales para los equipos de seguridad. Eso significa que los profesionales tienen más ancho de banda para invertir en medidas preventivas, como configuraciones más sólidas, capacitación de empleados y fortalecimiento de sistemas de rutina.

Consejos para desarrollar resiliencia

• Cierre las puertas fácilmente. Mantenga los sistemas reparados, elimine las cuentas obsoletas y cierre las rutas de acceso no utilizadas para evitar que los ataques simples adquieran impulso. Combine esto con una capacitación de concientización sobre seguridad que enseña a los empleados a reconocer el phishing, los enlaces maliciosos y otros trucos de ingeniería social, lo que convierte a los usuarios en defensores de primera línea.
• Ponga un obstáculo de velocidad frente a los cambios riesgosos. Agregue una breve pausa y una revisión rápida de las acciones que podrían borrar datos o debilitar las protecciones, como eliminar copias de seguridad o cambiar la retención/las claves. Las etiquetas claras y una breve lista de verificación ayudan a las personas a saber que están en un territorio riesgoso.
• Recupérese en el piloto automático, después de un “fuera” humano. Antes de implementar actualizaciones importantes o cambios en la política, tome snapshots indelebles, mantenga un plan de restauración de una página y realice simulacros de restauración rápidos sobre los datos de muestra para asegurarse de que todos comprendan cómo volver a un estado seguro.

4. Los modelos de AI deben evolucionar o arriesgarse a malas llamadas

AI solo ayuda si aprende de datos limpios y actuales. Si no se controlan, los modelos de AI pueden desviarse, lo que marca la actividad normal como sospechosa o falta de nuevos patrones. Y, como sabemos a partir del estudio de Ponemon Institute, los profesionales de TI y seguridad consideran que la intoxicación deliberada de datos, que corrompe los datos de capacitación o las etiquetas, es el riesgo de almacenamiento impulsado por AI más significativo.

Consejos para desarrollar resiliencia

• Actualice los modelos con datos confiables. Vuelva a capacitar a los modelos regularmente usando conjuntos de datos examinados y representativos, y anote la fuente de los datos. Deje de lado todo lo que no pueda respaldar.
• Mire las señales. Supervise las falsas alarmas y los errores. Si el ruido aumenta, ajuste las alertas o vuelva a entrenar, y siempre mantenga un modelo alternativo listo en caso de que cambie la falla de sincronización de la ignición.
• Proteja el proceso. Limite quién puede cambiar los datos de capacitación, las etiquetas o las reglas de detección. Para las actualizaciones masivas, requiere una revisión rápida por pares y mantiene un registro de cambios simple.

5. La supervisión es esencial para evitar la “automatización sin supervisión”

AI puede generar o ajustar reglas de seguridad en tiempo real. Sin barreras de seguridad, puede sobreasegurar (bloquear el acceso crítico para el negocio) o subasegurar (perder amenazas reales). Según la investigación de Ponemon Institute para Pure Storage, los sistemas mal configurados son el segundo riesgo de almacenamiento impulsado por AI líder, lo que destaca el peligro de la automatización sin la supervisión adecuada.

Consejos para desarrollar resiliencia

• Establezca primero los límites. Deletree lo que la AI puede sintonizar por sí sola (p. ej., umbrales de alerta), lo que una persona necesita confirmar y lo que está fuera de los límites (p. ej., políticas de eliminación).
• Pruebe antes de confiar. Permita que los cambios propuestos por AI se ejecuten primero en modo sombra (recomendado/solo alerta). Además, utilice cambios con límite de tiempo que venzan a menos que un humano confirme que deben continuar; esto ayuda a garantizar que las reglas no verificadas no persistan.
• Despliegue de manera segura y luego revise. Etape las actualizaciones a un pequeño grupo de usuarios, revierta automáticamente si los errores aumentan y realice una revisión semanal rápida de los cambios realizados o ajustados por AI para decidir sobre los ajustes.

6. Contexto amplio sobre las necesidades de detección de anomalías efectivas (muy)

Para detectar ataques de “agujas en un pajar”, la AI necesita contexto entre usuarios, sistemas y almacenamiento de datos. En otras palabras, necesita grandes cantidades de datos de diversas fuentes. Pero la escalabilidad reduce de ambas maneras: Sin las barandas adecuadas, la manguera de datos puede abrumar fácilmente a las herramientas y a las personas.

Consejos para desarrollar resiliencia

• Supervise lo que importa. Realice un seguimiento de una breve lista de señales de alerta, como eliminaciones inusuales y transferencias grandes. Asegúrese de que haya un propietario designado de cada sistema y conjunto de datos para ayudar a acelerar las decisiones.
• Mantenga los datos manejables. Duplique a medida que lleguen los datos, mantenga registros detallados durante un período breve y resúmenes durante más tiempo, y mantenga una línea base clara de la actividad normal.
• Haga que las alertas sean útiles. Correlacione eventos relacionados, establezca umbrales sensatos y envíe solo alertas de alta prioridad a las personas, especialmente cuando los cambios podrían destruir o exponer datos.

Descubra cómo Pure Storage ofrece la información de CVE procesable que los clientes necesitan para comprender y mitigar las vulnerabilidades. 

7. El hambre de datos de AI aumenta el riesgo de privacidad y cumplimiento

Los sistemas de AI generativos a menudo necesitan acceso a datos sensibles para ofrecer resultados relevantes. Esto aumenta las probabilidades de que haya errores accidentales de exposición y cumplimiento, especialmente en virtud del Reglamento General de Protección de Datos (GDPR), la Ley de Privacidad del Consumidor de California (CCPA) y las reglas emergentes de responsabilidad de AI. El objetivo es habilitar la AI sin ampliar la superficie de ataque a la privacidad.

Consejos para desarrollar resiliencia

• Limite lo que la AI puede ver. Etiquete los datos confidenciales y proporcione a los modelos solo la información necesaria. De forma predeterminada, enmascare o elimine información personal y, cuando sea posible, pruebe con datos de muestra falsos o más pequeños.
• Desarrolle la privacidad en el almacenamiento. Use controles de acceso sólidos, permisos con límite de tiempo y copias bloqueadas e inalterables (inmutables/bloqueadas por retención) para que los datos confidenciales no puedan alterarse ni exponerse. Además, asegúrese de que los datos estén cifrados tanto en reposo como en tránsito.
• Establezca barandillas para usar y compartir. Decida dónde vivirán las indicaciones, los resultados y los registros, quién puede acceder a ellos y durante cuánto tiempo los conservará. Siga un enfoque de privilegios mínimos para que solo los usuarios o sistemas autorizados puedan ver las salidas confidenciales. Mantenga un registro de auditoría y desactive cualquier función que guarde indicaciones o resultados, a menos que realmente lo necesite.

La resiliencia es el camino hacia la AI y la seguridad de datos

La AI ya está simplificando la seguridad de los datos mediante la automatización de tareas repetitivas, la reducción de costos y la devolución de tiempo valioso a los equipos. Pero también presenta nuevos riesgos. El camino sensato hacia el futuro con la AI es priorizar la resiliencia en cada rincón, creando seguridad en sus cimientos con defensas en capas, datos inmutables e infraestructura escalonada lista para la recuperación. Pure Storage ayuda a las organizaciones a lograr esta resistencia al simplificar las operaciones en la capa de datos y permitir una recuperación rápida y predecible cuando más importa.

Si bien los desafíos de AI y seguridad de datos descritos anteriormente persisten durante todo el año, el Mes de la Concientización sobre la Seguridad Cibernética sirve como recordatorio oportuno para evaluar su postura de seguridad, revisar sus estrategias de recuperación y garantizar que sus ambiciones de AI se desarrollen en una plataforma de datos segura, compatible y resistente como Pure Storage. Mirando hacia el 2026 y más allá, estos desafíos solo se intensificarán, lo que hace que ahora sea el momento de prepararse.

The State of Cyber Resilience

Learn how 620 US-based IT security practitioners are approaching data storage security in the age of AI.

Read the Report