✕
📝
Su opinión vale dinero:
¡hasta S/ 25 por encuesta!
Más de 26 millones de usuarios ganan dinero simplemente respondiendo encuestas en línea. ¿Y usted?
Empezar a Ganar

Inteligencia artificial y ciberseguridad: responsabilidad legal de las empresas ante filtraciones

Inteligencia artificial · Ciberseguridad · Derecho empresarial

La inteligencia artificial puede ayudar a detectar amenazas, automatizar controles y analizar grandes volúmenes de información, pero también introduce nuevos riesgos de ciberseguridad. ¿Qué ocurre cuando una empresa utiliza IA y posteriormente se produce una filtración de datos personales? ¿Quién responde por el incidente? ¿Qué obligaciones existen en Perú?

¿Qué relación existe entre inteligencia artificial y ciberseguridad?

La inteligencia artificial se utiliza cada vez más para analizar información, detectar comportamientos anómalos, automatizar procesos, identificar amenazas y asistir a trabajadores en la toma de decisiones. Sin embargo, los sistemas de IA también pueden convertirse en un nuevo punto de riesgo para la seguridad de una organización.

Por ejemplo, una empresa puede utilizar una herramienta de IA conectada con sus bases de datos, sistemas internos, documentos corporativos o información de clientes. Si esa herramienta presenta una vulnerabilidad, es configurada incorrectamente o es utilizada sin controles adecuados, puede producir una exposición de información.

La pregunta jurídica no es solamente quién realizó el ataque.

También debe analizarse qué medidas de seguridad tenía implementadas la empresa, qué información fue tratada, quién tenía acceso, qué proveedores participaron, cuándo se detectó el incidente y qué medidas se adoptaron después de conocerlo.

¿Qué es una filtración de datos?

Una filtración de datos ocurre cuando información que debía mantenerse protegida queda expuesta, es accedida por personas no autorizadas, es modificada indebidamente, se pierde o queda disponible para terceros sin autorización.

El incidente puede producirse como consecuencia de un ataque informático, una vulnerabilidad de software, un error humano, una mala configuración, el robo de credenciales o incluso el uso inadecuado de una herramienta de inteligencia artificial.

Ataque externo Un tercero obtiene acceso no autorizado a los sistemas de la empresa.
Error interno Un trabajador comparte información sensible utilizando una herramienta de IA sin autorización.
Proveedor tecnológico Un servicio externo utilizado por la empresa sufre un incidente de seguridad.

¿Puede una empresa ser responsable por una filtración causada por IA?

La responsabilidad debe analizarse según las circunstancias concretas del incidente y las obligaciones jurídicas aplicables. El simple hecho de que una empresa utilice inteligencia artificial no significa que sea automáticamente responsable de cualquier ataque informático.

Sin embargo, cuando la empresa determina cómo se utiliza una herramienta, qué información se introduce, qué accesos tiene y qué controles de seguridad se implementan, esas decisiones pueden ser relevantes para determinar si cumplió con sus obligaciones.

En otras palabras, la automatización no elimina la responsabilidad empresarial sobre la gestión de los riesgos.

Protección de datos personales: una de las principales obligaciones

En Perú, la protección de datos personales está regulada principalmente por la Ley N.° 29733, Ley de Protección de Datos Personales, cuyo nuevo Reglamento fue aprobado mediante el Decreto Supremo N.° 016-2024-JUS.

El nuevo Reglamento establece obligaciones específicas frente a incidentes de seguridad que involucren datos personales. Entre ellas se encuentra la notificación a la Autoridad Nacional de Protección de Datos Personales en determinados supuestos de gravedad o impacto.

La regulación contempla, entre otros casos, incidentes que impliquen grandes volúmenes de datos, datos sensibles, un gran número de personas afectadas o un perjuicio evidente a otros derechos o libertades. En esos supuestos, la notificación a la autoridad debe realizarse como máximo dentro de las 48 horas desde que el responsable toma conocimiento o constancia del incidente.

Cuando corresponda comunicar el incidente al titular de los datos porque se han afectado otros de sus derechos, el Reglamento también contempla un plazo de 48 horas, sin dilación indebida.

Importante:

Una empresa no debería esperar a tener absolutamente todos los detalles técnicos de una filtración para comenzar a evaluar sus obligaciones de notificación. El Reglamento exige actuar desde que se toma conocimiento o constancia del incidente en los supuestos previstos.

¿Qué pasa si la filtración ocurre mediante una herramienta de IA?

Imaginemos que una empresa utiliza una plataforma de inteligencia artificial para analizar contratos, currículums, historiales de clientes o documentos internos.

Un trabajador copia accidentalmente una base de datos que contiene nombres, teléfonos, correos electrónicos y otra información personal dentro de una herramienta de IA no autorizada.

Aunque no exista un ataque informático tradicional, puede existir un problema de seguridad y de protección de datos que la empresa debe investigar.

Ejemplo práctico

Una empresa permite que sus empleados utilicen herramientas de IA generativa para mejorar textos. No existe una política interna que prohíba introducir información confidencial.

Un trabajador copia una hoja de cálculo con datos de clientes y la introduce en una herramienta de IA para solicitar un análisis.

¿Qué debería analizar la empresa?

  • Qué datos personales fueron introducidos.
  • Si existía autorización para utilizar la herramienta.
  • Qué proveedor recibió la información.
  • Dónde fueron procesados los datos.
  • Qué medidas de seguridad aplicaba el proveedor.
  • Si se produjo una transferencia o comunicación de datos.
  • Si existe obligación de notificar el incidente.
  • Qué medidas deben adoptarse para evitar una repetición.

Responsabilidad por errores humanos al utilizar IA

Una de las principales amenazas para las empresas no necesariamente está en el algoritmo, sino en la forma en que los trabajadores utilizan las herramientas.

Un empleado puede compartir accidentalmente información confidencial, credenciales, contratos, bases de clientes o documentos internos con un sistema de IA que no fue aprobado por la organización.

Por esta razón, las empresas deberían establecer reglas claras sobre qué información puede introducirse en sistemas de inteligencia artificial y qué herramientas están autorizadas.

¿Qué información no debería introducirse libremente en una IA?

Datos personales DNI, teléfonos, direcciones, correos y otra información identificable deben tratarse conforme a las reglas aplicables.
Información financiera Estados de cuenta, números de tarjetas, credenciales o información bancaria requieren controles especialmente estrictos.
Secretos empresariales Información estratégica, contratos, código fuente, fórmulas, planes comerciales o documentación confidencial no deberían compartirse sin autorización.

¿Qué dice el Reglamento de IA sobre privacidad y seguridad?

El Reglamento de la Ley N.° 31814 establece que durante todo el ciclo de vida de un sistema basado en inteligencia artificial el implementador debe adoptar medidas proporcionales y adecuadas para proteger la privacidad y los datos personales, de acuerdo con lo establecido por la autoridad competente.

Además, el Reglamento establece un marco orientado al desarrollo y uso de IA de manera segura, responsable, ética, transparente e inclusiva.

Esto resulta especialmente importante para las empresas que incorporan IA en procesos que manejan información personal, confidencial o estratégicamente relevante.

¿La empresa responde si el proveedor de IA sufre un hackeo?

No existe una respuesta automática aplicable a todos los casos. La situación debe analizarse considerando la relación contractual, las funciones de cada parte, el tipo de tratamiento realizado y las obligaciones legales aplicables.

El Reglamento de Protección de Datos Personales establece obligaciones para encargados y terceros subcontratados. Por ejemplo, el encargado del tratamiento debe informar inmediatamente al responsable cuando tenga conocimiento de un incidente de seguridad de datos personales.

Por ello, los contratos con proveedores tecnológicos deberían establecer claramente aspectos como seguridad, confidencialidad, tratamiento de datos, gestión de incidentes, cooperación y responsabilidades.

¿Qué debe hacer una empresa después de una filtración?

Detectar y contener el incidente

La prioridad inicial es limitar el acceso no autorizado y evitar que el incidente continúe.

Determinar qué ocurrió

Debe investigarse qué sistemas fueron afectados, cuándo ocurrió el incidente y cómo se produjo.

Identificar los datos comprometidos

Es necesario determinar qué información fue expuesta, perdida, modificada o accesible para terceros.

Evaluar las obligaciones legales

La empresa debe determinar si corresponde realizar notificaciones a autoridades, titulares de datos u otros actores.

Documentar el incidente

El Reglamento de Protección de Datos exige documentar los incidentes de seguridad, incluyendo los hechos, sus efectos y las medidas adoptadas.

Corregir la vulnerabilidad

Finalmente, deben implementarse medidas para reducir la posibilidad de que el incidente vuelva a ocurrir.

¿Qué debe contener un plan empresarial de respuesta ante incidentes de IA?

Elemento Objetivo
Equipo responsable Determinar quién coordina la respuesta ante el incidente.
Canal de reporte Permitir que trabajadores informen rápidamente sobre incidentes.
Inventario de sistemas IA Conocer qué herramientas procesan información de la empresa.
Clasificación de datos Distinguir información pública, interna, confidencial y personal.
Procedimiento técnico Contener, investigar y recuperar los sistemas afectados.
Procedimiento legal Evaluar notificaciones y demás obligaciones jurídicas.
Comunicación Definir cómo informar a las personas afectadas cuando corresponda.
Registro Documentar el incidente, sus consecuencias y las medidas correctivas.

¿Qué ocurre si la filtración incluye datos sensibles?

Los incidentes que involucran datos sensibles requieren especial atención. El Reglamento de Protección de Datos Personales considera expresamente los incidentes relacionados con datos sensibles entre los supuestos que pueden activar la obligación de notificar a la Autoridad Nacional de Protección de Datos Personales dentro de las 48 horas.

Por eso, una empresa debería tener identificadas previamente las categorías de información que almacena y procesa, en lugar de intentar clasificarlas por primera vez durante una crisis.

¿También debe notificarse al Centro Nacional de Seguridad Digital?

Cuando el incidente de seguridad de datos personales se desarrolla en y/o mediante el entorno digital, el Reglamento contempla que la notificación se realice, además de ante la Autoridad Nacional de Protección de Datos Personales, al Centro Nacional de Seguridad Digital (CNSD), para su incorporación al Registro Nacional de Incidentes de Seguridad Digital, conforme al marco aplicable.

El CNSD cuenta además con un formulario virtual para el registro de incidentes de seguridad de la información, que permite indicar si el incidente involucra datos personales.

¿Cómo prevenir filtraciones relacionadas con inteligencia artificial?

1. Crear una política interna de uso de IA

La empresa debería establecer qué herramientas están autorizadas y qué información puede procesarse mediante ellas.

2. Clasificar la información

No toda la información corporativa debe recibir el mismo nivel de protección. La clasificación permite determinar qué datos pueden utilizarse en herramientas externas y cuáles requieren controles adicionales.

3. Aplicar controles de acceso

Los trabajadores deberían acceder solamente a la información y herramientas que necesitan para realizar sus funciones.

4. Revisar a los proveedores

Antes de contratar una plataforma de IA, conviene revisar sus condiciones de seguridad, tratamiento de datos, almacenamiento, subcontratación y gestión de incidentes.

5. Capacitar a los trabajadores

Una política de seguridad pierde eficacia si los trabajadores desconocen qué información pueden compartir con una herramienta de inteligencia artificial.

6. Mantener registros

La organización debería saber qué sistemas de IA utiliza, quién los administra, qué información procesan y qué proveedores participan.

Checklist: ¿está preparada tu empresa para una filtración relacionada con IA?

Comprueba algunos controles básicos

Selecciona las opciones para obtener una evaluación orientativa.

Ejemplo: filtración de datos de clientes mediante una IA

Situación

Una compañía utiliza una herramienta de IA para analizar consultas de sus clientes. Para facilitar el proceso, conecta la herramienta con una base de datos que contiene nombres, teléfonos, correos electrónicos e información de compras.

Incidente

Una vulnerabilidad permite que un tercero acceda a parte de la información procesada por el sistema. La empresa descubre el incidente varios días después.

Preguntas que deberían plantearse

  • ¿Qué datos fueron comprometidos?
  • ¿Cuántas personas podrían estar afectadas?
  • ¿Se incluyeron datos sensibles?
  • ¿Cuándo tomó conocimiento la empresa?
  • ¿Quién es el responsable del tratamiento?
  • ¿Qué proveedor tecnológico intervino?
  • ¿Qué medidas de seguridad estaban implementadas?
  • ¿Corresponde notificar a la autoridad?
  • ¿Corresponde comunicar el incidente a los titulares afectados?
  • ¿Debe reportarse al Centro Nacional de Seguridad Digital?

Responsabilidad del proveedor frente a responsabilidad de la empresa

En ecosistemas de inteligencia artificial es frecuente que participen múltiples proveedores: plataforma de IA, proveedor de almacenamiento, empresa de ciberseguridad, desarrollador del software, proveedor cloud y otros subcontratistas.

Esta cadena tecnológica hace especialmente importante determinar las funciones de cada participante. El contrato debería definir quién trata los datos, bajo qué instrucciones, qué medidas de seguridad debe mantener, cómo se comunica un incidente y qué información debe proporcionar durante una investigación.

Sin embargo, la existencia de varios proveedores no significa que la empresa pueda desentenderse de la gestión de los riesgos asociados al tratamiento que ha decidido realizar.

¿Qué riesgos legales puede enfrentar una empresa después de una filtración?

Protección de datos Posibles actuaciones de la autoridad competente cuando se incumplen obligaciones de protección de datos personales.
Relaciones contractuales Una filtración puede generar conflictos con clientes, proveedores o socios comerciales.
Responsabilidad civil Dependiendo del caso, las personas afectadas pueden plantear reclamaciones relacionadas con los daños ocasionados.

¿La inteligencia artificial también puede mejorar la ciberseguridad?

Sí. La relación entre IA y ciberseguridad no es exclusivamente negativa. Los sistemas de inteligencia artificial también pueden utilizarse para detectar comportamientos anómalos, identificar patrones, priorizar alertas y apoyar investigaciones de incidentes.

El problema aparece cuando la organización implementa estas tecnologías sin una adecuada evaluación de riesgos, sin controles de acceso o sin establecer claramente quién supervisa sus resultados.

La IA puede ser parte de la defensa.

Una estrategia empresarial adecuada puede utilizar inteligencia artificial para fortalecer la detección de amenazas, pero debe acompañarse de controles de seguridad, gestión de accesos, capacitación, monitoreo y procedimientos de respuesta ante incidentes.

Preguntas frecuentes

No necesariamente de la misma manera en todos los casos. La responsabilidad depende de las circunstancias, el tipo de información involucrada, las obligaciones aplicables, las medidas de seguridad implementadas y las consecuencias del incidente.

El Reglamento de la Ley 29733 establece un plazo máximo de 48 horas desde que el responsable toma conocimiento o constancia de determinados incidentes de seguridad que involucren datos personales, como aquellos que impliquen grandes volúmenes, datos sensibles, gran número de afectados o perjuicio evidente a otros derechos o libertades.

La empresa debería investigar qué información fue compartida, qué sistema recibió los datos y si se produjo un incidente de seguridad o un tratamiento no autorizado. También debería revisar sus controles internos y políticas de uso de IA.

Para una adecuada gestión de riesgos, resulta recomendable mantener un inventario de herramientas autorizadas y establecer reglas sobre el tratamiento de información mediante servicios de inteligencia artificial.

Sí. El Reglamento de Protección de Datos Personales establece la obligación de documentar los incidentes de seguridad, incluyendo los hechos relacionados, sus efectos y las medidas adoptadas.

No. La utilización de inteligencia artificial no sustituye las obligaciones derivadas de la legislación sobre protección de datos personales ni las medidas de seguridad que correspondan.

Conclusión

La inteligencia artificial está transformando la ciberseguridad empresarial, pero también crea nuevos escenarios de riesgo. Una empresa puede utilizar IA para procesar información de clientes, trabajadores y proveedores, lo que hace necesario establecer controles sobre los datos que entran al sistema y sobre los proveedores que participan en su procesamiento.

En Perú, el marco de protección de datos personales establece obligaciones específicas frente a incidentes de seguridad, incluida la documentación de los incidentes y, en determinados supuestos, la notificación a la autoridad y a las personas afectadas dentro de los plazos establecidos.

A su vez, el Reglamento de la Ley N.° 31814 incorpora obligaciones relacionadas con privacidad y protección de datos durante el ciclo de vida de los sistemas de inteligencia artificial.

Por ello, la estrategia empresarial no debería limitarse a instalar herramientas de ciberseguridad. También debe contemplar políticas internas de IA, clasificación de información, evaluación de proveedores, capacitación de trabajadores, control de accesos, monitoreo y un plan de respuesta ante incidentes.

Aviso: Este artículo tiene finalidad informativa y no constituye asesoría legal. Las obligaciones concretas ante una filtración dependen de los datos involucrados, la actividad de la empresa, el sistema utilizado y las circunstancias específicas del incidente.