Cómo evaluar los riesgos de la inteligencia artificial en su empresa

¿Por qué evaluar los riesgos de la IA ahora?

Porque es muy probable que su gente ya use IA, con permiso o sin él.

• Según el Data Breach Investigations Report (DBIR) de Verizon, 2026, el 45% de los empleados ya usa IA con regularidad en los equipos de la empresa, autorizada o no. El año anterior era el 15%.
• Según el mismo informe, el 67% de los usuarios entra a servicios de IA desde los equipos de la empresa con cuentas que no son de la empresa.
• Entre los datos enviados a herramientas de IA externas que detectaron los controles de prevención de fuga de datos (DLP) analizados por Verizon, lo más común fue código fuente, seguido de imágenes y otros datos estructurados.

Y pocas empresas lo han revisado. En la encuesta de ciberseguridad en América Latina de RSM, 2026 (265 participantes de 18 países), solo el 18% dijo haber hecho evaluaciones de riesgos centradas en la IA. El 28% dijo que su organización no tiene prácticas de gobierno de la IA.

El objetivo no es prohibir la IA. Es usarla sabiendo qué riesgos acepta su empresa y quién responde por ellos.

¿Qué riesgos trae la IA a una empresa?

El Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) describe 12 riesgos que la IA generativa crea o agrava. La IA generativa es la que redacta textos, crea imágenes o escribe código. Para una empresa mediana, estos son los que más pesan:

• Datos que salen. Información de clientes, contratos o código que alguien pega en una herramienta externa y queda en manos de un tercero.
• Respuestas falsas dichas con seguridad. El NIST las llama confabulaciones; se conocen como «alucinaciones». El riesgo crece cuando nadie revisa antes de enviar o decidir.
• Confianza excesiva. Personas que aceptan lo que dice la herramienta sin verificarlo.
• Instrucciones escondidas. Si un asistente lee correos, documentos o páginas web, un atacante puede esconder órdenes en ese contenido. Es la inyección indirecta de instrucciones (prompt injection). Según el NIST, investigadores de seguridad ya demostraron que sirve para robar datos o para ejecutar código malicioso en un equipo a distancia.
• Secretos y propiedad intelectual. Secretos de la empresa expuestos, o contenido ajeno usado sin autorización.
• Proveedores y componentes. Modelos, datos y servicios de terceros que se integran sin saber bien de dónde vienen ni quién responde.

Y uno legal: los datos personales. Según la SIC, la ley de protección de datos se aplica igual cuando los datos se tratan con IA.

¿Cómo se evalúan los riesgos de la IA? Seis pasos

Los pasos siguen el orden que sugiere el marco de gestión de riesgos de IA del NIST: una vez definido quién decide, primero se entiende el contexto, luego se mide y al final se gestiona.

1. Haga el inventario de usos

Liste cada herramienta de IA que se usa en la empresa, quién la usa y para qué. Incluya tres grupos:

• las que la empresa contrató;
• las que la gente usa por su cuenta;
• las funciones de IA que ya trae el software que paga: correo, ofimática, el sistema de gestión de clientes (CRM) o la mesa de ayuda.

Pregúntele a cada área: no basta con lo que ve el equipo de tecnología. Anote también si la IA solo sugiere o si además actúa: envía correos, cambia registros o aprueba algo.

2. Revise qué datos salen

Para cada herramienta, anote qué le entrega la gente: información pública, interna, confidencial o datos personales. La pregunta clave es sencilla: ¿qué pasaría si esto lo leyera un tercero?

Defina qué nunca se pega en una herramienta externa. Por ejemplo: contraseñas y llaves de acceso, datos de clientes, nómina, información de salud o código propio sin autorización.

3. Evalúe a cada proveedor

Hágale estas preguntas, y pida las respuestas por escrito:

• ¿Usa lo que le entregamos para entrenar sus modelos? ¿Se puede apagar?
• ¿Dónde procesa y guarda los datos, y por cuánto tiempo?
• ¿Tiene una versión empresarial, con contrato, administración de cuentas y registros de uso?
• ¿Qué certificaciones o informes de seguridad puede mostrar?
• ¿Cómo nos avisa si tiene un incidente?

Si los datos personales salen de Colombia, la Ley 1581 de 2012 tiene reglas para enviarlos a otros países (artículo 26). La parte legal la lleva su abogado.

4. Revise conexiones y permisos

El riesgo cambia cuando la IA deja de responder preguntas y empieza a actuar: leer el correo, consultar documentos, crear tareas o enviar mensajes. Para cada conexión, revise a qué sistemas entra, con qué cuenta y con qué permisos.

• Dele a cada herramienta solo los permisos que necesita.
• Pida la aprobación de una persona antes de que la IA envíe, pague, borre o cambie algo importante.
• Recuerde las instrucciones escondidas: un correo o un documento puede traer órdenes para el asistente.

5. Califique cada riesgo y decida

Para cada uso, estime qué tan probable es que algo salga mal y qué tan grave sería para sus clientes, su operación, su reputación y sus obligaciones legales. Con eso, decida: se permite, se permite con controles o no se permite.

Si su empresa va a diseñar o desarrollar un sistema de IA con datos personales, y es probable que traiga un alto riesgo para las personas, la SIC pide hacer y documentar antes un estudio de impacto de privacidad. Como mínimo debe tener:

• la descripción de las operaciones con datos personales;
• la evaluación de los riesgos para los derechos de las personas;
• las medidas previstas para evitar que esos riesgos ocurran.

6. Ponga controles y revise con frecuencia

• Una política corta de uso: qué herramientas están aprobadas, qué datos no se usan y quién aprueba una herramienta nueva.
• Cuentas de la empresa, administradas por ella, en lugar de cuentas personales.
• Capacitación práctica: qué no pegar y cómo reconocer una respuesta inventada.
• Revisión humana de lo que produce la IA antes de enviarlo a un cliente o de usarlo en una decisión.
• Registros de uso y un canal para reportar problemas.
• Una nueva revisión del inventario y de los riesgos al menos una vez al año, y cada vez que entre una herramienta nueva.

¿Cuándo aplica el Reglamento de IA de la Unión Europea?

El Reglamento entró en vigor el 1 de agosto de 2024 y se aplica por etapas. En julio de 2026, la Unión Europea lo modificó con el Reglamento (UE) 2026/1744, que aplazó las obligaciones de los sistemas de alto riesgo. Según la Comisión Europea y el texto de esa modificación, las fechas quedan así:

• 2 de febrero de 2025: prácticas prohibidas y alfabetización en IA del personal.
• 2 de agosto de 2025: obligaciones para los modelos de IA de uso general y reglas de gobernanza.
• 2 de agosto de 2026: aplicación general, con las reglas de transparencia: avisar a las personas cuando hablan con una máquina y marcar el contenido generado, como los videos y audios falsos (deepfakes).
• 2 de diciembre de 2026: una prohibición nueva, sobre imágenes íntimas generadas sin consentimiento y material de abuso sexual infantil. También es el plazo para que los sistemas que generan contenido y ya estaban en el mercado antes del 2 de agosto de 2026 lo marquen.
• 2 de diciembre de 2027: obligaciones para los sistemas de alto riesgo del anexo III, como los de contratación, educación o acceso a servicios esenciales.
• 2 de agosto de 2028: obligaciones para la IA de alto riesgo integrada en productos que ya regula la Unión Europea (anexo I).

El aplazamiento mueve las fechas; no elimina las obligaciones. Si su empresa vende software con IA a clientes en Europa, revise con su abogado en qué categoría queda.

¿Por dónde empieza una empresa mediana?

No necesita un comité ni una certificación para empezar. Con estas cinco cosas ya sabe dónde está parada:

• una lista de las herramientas de IA en uso, cada una con su responsable;
• tres reglas escritas: qué herramientas están aprobadas, qué datos nunca se pegan y quién aprueba una herramienta nueva;
• cuentas de la empresa para las herramientas aprobadas;
• una revisión de las herramientas conectadas al correo, a los documentos o a los sistemas de la empresa;
• si diseña o desarrolla un sistema de IA con datos personales y el riesgo para las personas es alto, el estudio de impacto de privacidad que pide la SIC.

Si su empresa ya tiene un sistema de gestión de seguridad de la información (SGSI) con ISO 27001, apóyese en él: la IA entra en su análisis de riesgos, su inventario de activos y su gestión de proveedores.

Si en su empresa nadie dirige la seguridad y este tema se va aplazando, para eso existe el acompañamiento continuo. El CISO externo, la persona que dirige su seguridad sin ser de planta, lleva los riesgos, las políticas y el cumplimiento. Cada mes le mostramos qué se hizo y qué falta.

Pralogy es una empresa colombiana de ciberseguridad que atiende a empresas y organizaciones. Pralogy existe desde 2019.