ztevenreal
Presentado por Splunk, una empresa de Cisco
A medida que la IA evoluciona rápidamente de una promesa teórica a una efectividad operativa, los CISO y CIO enfrentan un desafío fundamental: cómo rendir el potencial transformador de la IA manteniendo al mismo tiempo la supervisión humana y el pensamiento táctico que exige la seguridad. El auge de la IA agente está remodelando las operaciones de seguridad, pero el éxito requiere equilibrar la automatización con la responsabilidad.
La paradoja de la eficiencia: automatización sin abdicación
La presión para adoptar la IA es intensa. Se está presionando a las organizaciones para que reduzcan su plantilla o redirijan bienes cerca de iniciativas impulsadas por la IA, a menudo sin comprender plenamente lo que implica esa transformación. La promesa es convincente: la IA puede disminuir los tiempos de investigación de 60 minutos a solo 5 minutos, lo que podría ofrecer mejoras de productividad diez veces mayores para los analistas de seguridad.
Sin retención, la pregunta crítica no es si la IA puede automatizar tareas, sino qué tareas deberían automatizarse y dónde el entendimiento humano sigue siendo irremplazable. La respuesta está en comprender que la IA destaca por acelerar los flujos de trabajo de investigación, pero las acciones de remediación y respuesta aún requieren la fuerza humana. Desconectar un sistema o poner en cuarentena un terminal puede tener un impacto empresarial enorme. Una IA que haga esa señal de forma autónoma podría causar sin darse cuenta la misma interrupción que debe evitar.
El objetivo no es reemplazar a los analistas de seguridad sino liberarlos para trabajos de anciano valía. Con la clasificación de alertas de rutina automatizada, los analistas pueden concentrarse en los ejercicios del equipo rojo y del equipo azur, colaborar con los equipos de ingeniería en la remediación y participar en la búsqueda proactiva de amenazas. No faltan problemas de seguridad que resolver: faltan expertos en seguridad para abordarlos estratégicamente.
El compromiso de confianza: Mostrar tu trabajo
Si proporcionadamente la confianza en la capacidad de la IA para mejorar la eficiencia es suscripción, el desconfianza sobre la calidad de las decisiones impulsadas por la IA sigue siendo significativo. Los equipos de seguridad necesitan poco más que conclusiones generadas por IA: necesitan transparencia sobre cómo se llegó a esas conclusiones.
Cuando la IA determina que una alerta es benigna y la cierra, los analistas del SOC deben comprender los pasos de investigación que llevaron a esa determinación. ¿Qué datos se examinaron? ¿Qué patrones se identificaron? ¿Qué explicaciones alternativas se consideraron y descartaron?
Esta transparencia genera confianza en las recomendaciones de la IA, permite la fuerza de la deducción de la IA y crea oportunidades para la restablecimiento continua. Lo más importante es que mantiene al ser humano crítico informado para decisiones complejas que requieren una comprensión matizada del contexto empresarial, los requisitos de cumplimiento y los posibles impactos en cascada.
Es probable que el futuro implique un maniquí híbrido en el que las capacidades autónomas se integren en flujos de trabajo guiados y guías, en el que los analistas sigan involucrados en decisiones complejas.
La preeminencia del adversario: pelear contra la IA con IA, con cuidado
La IA presenta un arsenal de doble filo en materia de seguridad. Si proporcionadamente estamos implementando cuidadosamente la IA con barreras de seguridad adecuadas, los adversarios no enfrentan tales limitaciones. La IA reduce la barrera de entrada para los atacantes, lo que permite un rápido expansión de exploits y descubrimiento de vulnerabilidades a escalera. Lo que alguna vez fue dominio de actores de amenazas sofisticados pronto podría ser accesible para niños armados con herramientas de inteligencia sintético.
La desproporcionalidad es sorprendente: los defensores deben ser reflexivos y reacios al peligro, mientras que los atacantes pueden comprobar independientemente. Si cometemos un error al implementar respuestas de seguridad autónomas, corremos el peligro de derribar los sistemas de producción. Si el exploit impulsado por IA de un atacante defecto, simplemente lo intenta de nuevo sin consecuencias.
Esto crea la obligación de utilizar la IA a la defensiva, pero con la debida precaución. Debemos instruirse de las técnicas de los atacantes y al mismo tiempo apoyar las barreras que impiden que nuestra IA se convierta en una vulnerabilidad. La flamante aparición de MCP taimado (Protocolo de contexto maniquí) los ataques a la sujeción de suministro demuestran la ligereza con la que los adversarios explotan la nueva infraestructura de inteligencia sintético.
El dilema de las habilidades: desarrollar capacidades manteniendo las competencias básicas
A medida que la IA se encarga de trabajos de investigación más rutinarios, surge una pregunta preocupante: ¿se atrofiarán las habilidades fundamentales de los profesionales de seguridad con el tiempo? Este no es un argumento en contra de la asimilación de la IA, sino un llamado a estrategias intencionales de expansión de habilidades. Las organizaciones deben equilibrar la eficiencia impulsada por la IA con programas que mantengan las competencias básicas. Esto incluye ejercicios regulares que requieren investigación manual, capacitación cruzada que profundiza la comprensión de los sistemas subyacentes y trayectorias profesionales que desarrollan roles en puesto de eliminarlos.
La responsabilidad es compartida. Los empleadores deben proporcionar herramientas, capacitación y civilización que permitan a la IA aumentar, en puesto de reemplazar, la experiencia humana. Los empleados deben participar activamente en el educación continuo, tratando a la IA como un socio colaborativo en puesto de un sustituto del pensamiento crítico.
La crisis de identidad: gobernando la arrebato de agentes
Quizás el desafío más subestimado que tenemos por delante sea la administración de identidades y accesos en un mundo de IA agente. IDC estima 1.300 millones de agentes para 2028 – cada uno de los cuales requiere identidad, permisos y gobernanza. La complejidad se agrava exponencialmente.
Los agentes demasiado permisivos representan un peligro significativo. Un agente con amplio comunicación funcionario podría ser diseñado socialmente para que tome acciones destructivas, apruebe transacciones fraudulentas o extraiga datos confidenciales. Los atajos técnicos que los ingenieros toman para "solo hazlo funcionar" (otorgar permisos excesivos para acelerar el despliegue) crea vulnerabilidades que los adversarios explotarán.
El control de comunicación basado en herramientas ofrece un camino a seguir, otorgando a los agentes solo las capacidades específicas que necesitan. Pero los marcos de gobernanza igualmente deben acometer cómo los propios LLM podrían instruirse y retener información de autenticación, lo que podría permitir ataques de suplantación de identidad que eludan los controles de comunicación tradicionales.
El camino a seguir: comenzar con el cumplimiento y la presentación de informes
En medio de estos desafíos, un radio ofrece una oportunidad inmediata y de parada impacto: el cumplimiento continuo y la presentación de informes de riesgos. La capacidad de la IA para consumir grandes cantidades de documentación, interpretar requisitos complejos y difundir resúmenes concisos la hace ideal para el trabajo de cumplimiento y vivientes de informes que tradicionalmente ha consumido mucho tiempo de los analistas. Esto representa un punto de entrada de bajo peligro y parada valía para la IA en operaciones de seguridad.
La colchoneta de datos: habilitando el SOC impulsado por IA
Ninguna de estas capacidades de IA puede tener éxito sin acometer los desafíos de datos fundamentales que enfrentan las operaciones de seguridad. Los equipos de SOC luchan con datos aislados y herramientas dispares. El éxito requiere una táctica de datos deliberada que priorice la accesibilidad, la calidad y los contextos de datos unificados. Los datos relevantes para la seguridad deben estar disponibles de inmediato para los agentes de IA sin fricciones, gobernarse adecuadamente para asegurar la confiabilidad y enriquecidos con metadatos que proporcionen el contexto empresarial que la IA no puede comprender.
Pensamiento final: Innovación con intencionalidad
El SOC autónomo está surgiendo, no como un interruptor de luz que hay que mover, sino como un delirio evolutivo que requiere una acondicionamiento continua. El éxito exige que adoptemos las mejoras en eficiencia de la IA y al mismo tiempo mantengamos el entendimiento humano, el pensamiento táctico y la supervisión ética que requiere la seguridad.
No reemplazaremos los equipos de seguridad con IA. Estamos construyendo sistemas colaborativos de múltiples agentes donde la experiencia humana asesor las capacidades de IA cerca de resultados que nadie de los dos podría conseguir por sí solo. Ésa es la promesa de la era de la IA agente, si somos intencionales acerca de cómo presentarse allí.
Tanya Faddoul, vicepresidenta de producto, táctica de clientes y jefa de personal de Splunk, una empresa de Cisco. Michael Fanning es director de seguridad de la información de Splunk, una empresa de Cisco.
Estructura de datos de Cisco proporciona la edificación de datos necesaria impulsada por Splunk Platform (estructura de datos unificada, capacidades de búsqueda federada, administración integral de metadatos) para desbloquear todo el potencial de la IA y el SOC. Más información sobre Estructura de datos de Cisco.
Los artículos patrocinados son contenido producido por una empresa que paga por la publicación o tiene una relación comercial con VentureBeat, y siempre están claramente marcados. Para más información, póngase en contacto ventas@venturebeat.com.
