¿Usas IA generativa en tu empresa? Cómo ISO/IEC 27001 ayuda a controlar los riesgos
Los asistentes de IA ahorran tiempo, pero también pueden filtrar contratos, datos de clientes y código. Un sistema de gestión de seguridad de la información te da reglas que se sostienen en una auditoría.
Las herramientas de IA generativa pasaron de curiosidad a hábito diario en muy poco tiempo. En muchas empresas ya se usan para redactar correos, resumir contratos, escribir código o analizar hojas de cálculo, a menudo con cuentas personales y sin que nadie haya decidido qué información se puede ingresar.
ISO/IEC 27001 no menciona ninguna herramienta de IA por su nombre, y no lo necesita. Su método, basado en evaluar riesgos y elegir controles, se aplica a la IA igual que al correo, la nube o una memoria USB.
En resumen
Trata las herramientas de IA como servicios que procesan información: evalúa el riesgo antes de usarlas.
Decide qué información se puede y qué no se puede ingresar en cada herramienta.
Evalúa a los proveedores de IA como a cualquier proveedor que maneja tus datos.
Capacita al personal y conserva el registro.
Los riesgos reales
Fuga de datos. La información confidencial escrita en una herramienta puede quedar almacenada o ser usada por el proveedor, según el servicio y su configuración.
Datos personales. Los datos de clientes y colaboradores que se ingresan en una herramienta de IA siguen siendo datos personales según la Ley 81 de 2019 de Panamá.
Respuestas equivocadas. El resultado de la IA puede ser inexacto, y las decisiones basadas en él necesitan revisión humana.
IA en la sombra. Herramientas adoptadas por el personal sin aprobación, fuera de todo control.
Los controles de ISO/IEC 27001 que aplican
Varios controles del Anexo A de ISO/IEC 27001:2022 tratan estos riesgos directamente:
5.10 Uso aceptable de la información y otros activos asociados: qué puede y qué no puede ingresar el personal en herramientas de IA.
5.19 a 5.23, relaciones con proveedores y servicios en la nube: evaluar a los proveedores de IA, sus condiciones y dónde se procesan los datos.
5.34 Privacidad y protección de datos personales: mantener los datos personales fuera de herramientas no aprobadas para ello.
6.3 Concienciación, educación y formación: enseñar las reglas con ejemplos reales.
8.12 Prevención de fuga de datos: medidas técnicas cuando el riesgo lo justifica.
Una política de IA en cinco pasos
Haz una lista de las herramientas de IA que el personal ya usa, incluidas las gratuitas.
Clasifica tu información y decide qué tipo puede usarse con cada herramienta.
Aprueba una lista corta de herramientas, de preferencia versiones empresariales con condiciones claras sobre los datos.
Escribe una regla de uso aceptable de una página y capacita a todos.
Revisa los incidentes y las herramientas aprobadas en la revisión por la dirección.
¿Y la ISO/IEC 42001?
ISO/IEC 42001, publicada en 2023, es una norma de sistema de gestión específica para la inteligencia artificial. Es más relevante para organizaciones que desarrollan u ofrecen productos y servicios basados en IA. Para la mayoría de las empresas que solo usan herramientas de IA, un sistema ISO/IEC 27001 bien implementado es el punto de partida práctico.
Cómo puede ayudarte ICS
Podemos incluir el uso de la IA en el alcance de un análisis de brechas o una pre-auditoría de tu sistema de seguridad de la información, y certificar tu sistema ISO/IEC 27001 cuando esté listo.
La nueva edición de ISO 9001 ya está publicada. No es una norma nueva, pero trae cambios que su sistema tendrá que reflejar durante el período de transición.
La nueva edición de ISO 14001 ya está publicada. Pide mirar con más detalle el clima, la biodiversidad y la cadena de suministro. Esto es lo que cambia.