El avance acelerado de la inteligencia artificial (IA) trae consigo tanto oportunidades como riesgos en el ámbito de la ciberseguridad. A pesar de que un 66% de las instituciones anticipa un impacto significativo de la IA en su seguridad, solo un 37% ha implementado procesos para evaluar la seguridad de estas herramientas, según el último informe de Global Cybersecurity Outlook del Foro Económico Mundial. Esta situación resalta la desconexión entre la rápida adopción y las medidas precautorias necesarias.

Desafíos en la Preparación de la Infraestructura

El informe State of IT de Salesforce señala que el 48% de los líderes de seguridad a nivel global se sienten inseguros respecto a la preparación de sus bases de datos para utilizar IA eficazmente. Además, el 55% carece de confianza en sus actuales medidas de seguridad.

Un Panorama Cada Vez Más Complejo

La problemática se complica en un entorno donde la intoxicación de datos —es decir, cuando actores maliciosos alteran los datos de entrenamiento de los modelos de IA— se convierte en una preocupación prominente para los responsables de IT.

El Futuro de la IA en Ciberseguridad

Los agentes autónomos de IA pueden mejorar la detección de amenazas y acelerar la respuesta a incidentes, permitiendo a los equipos centrarse en asuntos más complejos. Sin embargo, la infraestructura insuficiente y una mala gestión de datos limitan su capacidad para proteger la información y cumplir con las normativas.

Construyendo un Marco Sólido para la Gobernanza de Datos

En muchas empresas, los datos se encuentran dispersos en múltiples plataformas y documentos, complicando el acceso unificado necesario para las herramientas de IA. Las políticas de gobernanza tradicionales son inadecuadas para afrontar estos retos, y Gartner estima que el 60% de los proyectos de IA son abandonados por falta de una base de datos confiable.

Estableciendo Salvaguardas y Control

Más allá de la gobernanza, es crucial implementar robustas medidas de seguridad. Crear entornos de prueba seguros permite validar el comportamiento de los agentes de IA sin comprometer los datos. El uso de sandbox favorece el desarrollo y prueba segura, asegurando que los agentes operen según lo planeado.

Colaboración entre Humanos y Agentes de IA

Una estrategia efectiva consiste en fomentar una sinergia entre humanos y agentes de IA. Esta asociación es fundamental para manejar situaciones complejas de manera eficiente. Para construir confianza, es esencial asegurar un acceso unificado a datos y aplicar medidas de seguridad integrales.

La efectividad de la IA en el ámbito de la ciberseguridad se medirá en su capacidad para crear agentes confiables que aporten valor real y mejoren la experiencia del cliente.

*Por Marisol Pacchioni, Directora Senior de Ingeniería de Soluciones en Salesforce – Marketing Cloud