La seguridad de la IA abarca todos los recursos utilizados para proteger el desarrollo de aplicaciones de IA, regular el uso de la IA por parte de los empleados y salvaguardar las aplicaciones y los modelos impulsados por IA.
Después de leer este artículo podrás:
Copiar el enlace del artículo
La seguridad de la inteligencia artificial (IA) es el conjunto de controles que, por un lado, evitan los ciberataques contra los despliegues de IA y, por otro, garantizan el comportamiento seguro de la IA. Así como la ciberseguridad en general protege los sistemas de TI y los datos digitales, la seguridad de la IA protege el ciclo de vida de la IA: desde la creación de modelos, el entrenamiento de datos y el desarrollo de interfaces hasta la implementación de aplicaciones posteriores. Las tecnologías, procesos y prácticas de seguridad de la IA hacen lo siguiente:
Asumir IA como código requiere seguridad IA. La IA se adoptó rápidamente: según McKinsey, el uso de la IA generativa en las organizaciones aumentó del 33 % en 2023 al 71 % en 2024. Para 2025, hasta el 78 % de las organizaciones informaron usar IA en al menos una función empresarial.
Para muchas organizaciones, el aumento acelerado en la adopción de la IA ha superado ampliamente las capacidades de la seguridad tradicional. La IA ha vuelto mucho más compleja la superficie de ataque de las organizaciones. Los sistemas de IA comprenden múltiples capas interconectadas: canalizaciones de datos, entrenamiento de modelos, alojamiento de modelos, protocolos, API, interfaces de usuario, complementos, agentes, todas ellas deben estar protegidas.
Por ejemplo, un bot de soporte al cliente — si es manipulado por inyección de prompts o por otro ataque específico de IA — podría filtrar datos confidenciales de empleados o secretos comerciales. Un atacante podría vulnerar un modelo sobrecargándolo con solicitudes, lo que provocaría un consumo excesivo de recursos de IA o una denegación de servicio. Comprender los principales riesgos de la seguridad de la IA y las prácticas recomendadas, así como los enfoques de seguridad adaptados a la IA generativa y agéntica, puede ayudar a las organizaciones a prevenir este tipo de ataques.
Shadow AI es la integración de modelos y herramientas de IA sin supervisión del equipo de informática o de seguridad. Hay dos tipos de Shadow AI:
Una encuesta reveló que el 85 % de los responsables de la toma de decisiones del sector de informática informan que los empleados están adoptando herramientas de IA más rápido de lo que sus equipos informáticos pueden evaluarlas. Esa misma encuesta reveló que el 93 % de los empleados ingresa información en herramientas de IA sin aprobación. Sin una visión integral de las herramientas que utiliza el personal, los datos confidenciales de la empresa, como el código propietario o la información de identificación personal (PII), pueden cargarse en servicios de IA que no cumplen con los umbrales de seguridad requeridos.
Los modelos de lenguaje de gran tamaño (LLMs) son objetivos atractivos para los cibercriminales porque se utilizan mucho y, en algunos casos, están integrados en la infraestructura organizativa. La lista de los 10 principales riesgos de OWASP para LLMs incluye ataques como:
Consulta la lista completa de los principales riesgos de LLM.
La adopción de la IA a escala también plantea desafíos de cumplimiento normativo y legales. Las organizaciones de sectores muy regulados (las finanzas y la atención médica, entre otros) se enfrentan a duras sanciones por no cumplir con las normas de privacidad de datos, como la Ley de Portabilidad y Responsabilidad de los Seguros Médicos (HIPAA) en los Estados Unidos y el Reglamento General de Protección de Datos (GDPR) en la Unión Europea. La IA puede plantear riesgos para la información privada de un par de formas principales:
La postura de seguridad es la preparación de un sistema para mitigar ataques. Una gestión eficaz implica adoptar un enfoque proactivo y holístico para identificar, evaluar y actuar frente a amenazas y vulnerabilidades.
La administración de la postura de seguridad es inherentemente compleja, y la IA incrementa esa complejidad. Dado que los sistemas de IA abarcan datos, modelos, interfaces, API y, en general, agentes asíncronos, la gestión de la postura de seguridad de la IA (AI-SPM) puede ser un desafío multidimensional. Las organizaciones deben garantizar la coherencia, supervisar las desviaciones, detectar anomalías e integrar el riesgo de la IA en los marcos de gestión de riesgos empresariales. Necesitan herramientas que ayuden a facilitar la adopción de la IA y mantener la seguridad y la privacidad de las redes y los datos empresariales.
Los responsables de informática pueden reducir la complejidad de proteger la IA buscando soluciones que admitan algunas prácticas básicas.
Proteger el uso de la IA generativa, incluidos los LLM y las herramientas de chat, requiere una estrategia de múltiples capas. Las organizaciones deben identificar las herramientas de IA generativa que están en uso, cómo los usuarios interactúan con esas herramientas y qué sucede con los resultados de esas interacciones.
Algunas de las prácticas recomendadas incluyen:
| Riesgos de la IA generativa | Prácticas recomendadas de seguridad |
|---|---|
| Shadow AI | Detección de la Shadow AI |
| Inyección de instrucciones | Medidas de seguridad de modelos |
| Envenenamiento de datos de entrenamiento | Control de acceso, cifrado |
| Filtración de PII | Prevención contra la pérdida de datos (DLP) |
Los agentes de IA son programas impulsados por la IA que pueden tomar decisiones de forma autónoma, llamar a herramientas externas y encadenar tareas. Los agentes de IA introducen sus propios riesgos. Los agentes pueden ser manipulados durante las sesiones y secuestrados para ejecutar acciones no deseadas.
Entre los principales riesgos de la IA agéntica se incluyen:
Seguir estos principios básicos puede ayudar a proteger a los agentes de la IA:
La seguridad del Protocolo de Contexto Modelo (MCP) es esencial para la seguridad de la IA agéntica. Los agentes de IA dependen de los servidores MCP para acceder a bases de datos y herramientas externas, al igual que las aplicaciones clásicas dependen de las API externas. Más información sobre los MCP y la seguridad del MCP.
La seguridad de la IA implica la implementación de controles que bloquean los ciberataques y mantienen la integridad de los sistemas de IA. Su objetivo consiste en proteger el ciclo de vida completo de la IA, abarcando desde el desarrollo inicial de modelos y el entrenamiento de datos hasta la implementación final de las aplicaciones y las interfaces.
La Shadow AI se produce cuando los empleados utilizan herramientas de IA o los desarrolladores integran modelos sin la supervisión oficial de los equipos de seguridad o de informática. Esto crea una brecha en la visibilidad en la que los datos confidenciales de la empresa o el código propietario podrían cargarse en servicios no aprobados que no cumplen los estándares de seguridad.
Los atacantes utilizan varios métodos para poner en peligro los LLM, como la inyección de prompts para anular las instrucciones integradas o el envenenamiento de datos para corromper los conjuntos de entrenamiento y distorsionar el comportamiento del modelo. También pueden intentar robar modelos propietarios mediante consultas a la API o lanzar ataques de denegación de servicio para agotar los recursos informáticos.
Las organizaciones deberían aplicar una estrategia de múltiples capas que incluya la identificación de todo el tráfico generado por la IA para detectar herramientas no autorizadas. Los pasos clave incluyen el uso de la prevención de pérdida de datos para detener las cargas de información confidencial, la aplicación del principio de privilegio mínimo para acceder y el uso de protecciones para bloquear los prompts dañinos o inadecuados.
AI Security for Apps de Cloudflare ayuda a defender las aplicaciones públicas contra las principales amenazas, como el robo de modelos y la inyección de prompts. Además, estos servicios controlan las interacciones de los usuarios para evitar la exposición accidental de datos privados en los prompts o en los resultados del modelo.