Ciberseguridad · 7 minutos de lectura

Regulación y cumplimiento en la seguridad de la IA: lo que debes saber

Regulación y cumplimiento en la seguridad de la IA: lo que debes saber
Imagen: NicoElNino (Shutterstock).

Las empresas están adoptando rápidamente la inteligencia artificial en sus procesos, a una velocidad que, de hecho, no les permite mantener formada a la plantilla en las bases sobre las que se construyen estos sistemas. A pesar de los riesgos, sus beneficios resultan notables para las empresas que se lanzan a su uso, y la regulación a menudo viene años después de lanzados algunos productos.

  1. ¿Qué es la inteligencia artificial?
  2. ¿Qué beneficios presenta la IA para las empresas?
  3. ¿Es verdad que la inteligencia artificial puede dejarnos sin trabajo?
  4. ¿A qué retos se enfrenta la IA en términos de seguridad?
  5. Por qué la inteligencia artificial requiere de una mayor seguridad
  6. ¿Cómo mejorar la seguridad en las empresas en la era de la IA?

¿Qué es la inteligencia artificial?

El término inteligencia artificial (IA) agrupa todos aquellos algoritmos y sistemas informáticos capaces de imitar la inteligencia humana con cierto grado de éxito, generalmente en disciplinas y tareas específicas.

En palabras de la Comisión Europea en su Plan de Coordinación sobre la Inteligencia Artificial, «el término ‘inteligencia artificial’ (IA) se aplica a los sistemas que manifiestan un comportamiento inteligente, pues son capaces de analizar su entorno y pasar a la acción —con cierto grado de autonomía— con el fin de alcanzar objetivos específicos».

Con este término de moda, tan importante es definir lo que es la IA como dejar claro qué no es inteligencia artificial. Entre otros, caben destacar:

  • La ‘inteligencia’ de la inteligencia artificial ha de entenderse como capacidad de predicción.
  • La IA carece de mente o consciencia. Es ‘solo’ un sistema extraordinariamente complejo capaz de hacer algo concreto muy bien.
  • La actual IA es formalmente IA débil y no tiene nada que ver con la IA fuerte similar a la humana. Ni siquiera estamos seguros de que eso sea una posibilidad futura.
  • Buena parte de la IA es no-demostrable o de caja negra: funciona, aunque no se conoce el proceso de cómputo que realiza la máquina.

¿Qué beneficios presenta la IA para las empresas?

La inteligencia artificial es, por tanto, un sistema que realiza tareas concretas bastante bien y excepcionalmente bien, cuando se trata de tareas repetitivas de las que hay muchos datos y que están basadas en información. En este escenario, los beneficios que la IA aporta a las empresas son notables:

  1. Automatización de tareas, complejas o no. Si la tarea en cuestión se basa en información y siempre sigue ciertos pasos, es posible automatizarla.
  2. Reducción de errores humanos, siempre y cuando la IA se haya programado de forma adecuada.
  3. Producción de información e incluso conocimiento, dado que la IA es capaz de detectar patrones que los humanos no somos capaces de ver o en los que ni siquiera hemos pensado.
Usos y aplicaciones de la inteligencia artificial en tu negocio

¿Es verdad que la inteligencia artificial puede dejarnos sin trabajo?

Si bien es cierto que es imposible que una IA sustituya a un ser humano en su puesto laboral, sí es posible que cierto conjunto de IAs sustituyan unas pocas funciones de muchos trabajadores, dando lugar como resultado un excedente de estos. Ejemplo: en una plantilla de 20 trabajadores la IA automatiza el 5% del trabajo de cada uno de ellos.

Sin embargo, no queda claro si este quedará cubierto con los nuevos trabajos creados gracias a la inteligencia artificial. Según el informe Uso de inteligencia artificial y big data en las empresas españolas de Ontsi, en los últimos años ha habido un aumento notable de especialistas en tecnología IA.

Al menos durante las próximas décadas, cabe esperar que haya un balance positivo entre creación de trabajos IA y destrucción de trabajos convencionales debido a ella, aunque en este escenario el reciclaje laboral es un elemento crítico y, a largo plazo (hablamos de décadas), el balance podría resultar negativo.

¿A qué retos se enfrenta la IA en términos de seguridad?

Como si de una escalada bélica se tratase, a medida que los sistemas de inteligencia artificial avanzan, también emergen sistemas o métodos capaces de suprimirlas, anularlas, confundirlas e incluso invertir su funcionamiento haciéndolas peligrosas.

Pensemos en lo reciente del sistema pre-entrenado ChatGPT, un novedoso sistema que ya cuenta con múltiples formas de romperlo, desde ataques de inyección de prompt (una forma de engañar al sistema usando texto como vector de ataque), envenenamiento de datos (un elemento disuasorio contra el robo que consiste en introducir errores en la base de datos), por no contar con algunas propias como las alucinaciones (generación de información falsa, imposible de eliminar en estos sistemas) o el filtrado de información al no estar securizado.

Entre los retos más acuciantes de la inteligencia artificial se encuentran el ser capaces de trazar la información y el proceso de lógica interno, el no usar la IA para cometer delitos, el entrenar modelos con tan pocos sesgos como sea posible, el no dejar que las IA carezcan de supervisión humana o el formar a los programadores en ética, entre otros.

Son desafíos enormes si tenemos en cuenta que estos sistemas con frecuencia parten de datos sesgados o erróneos que son injustos de base o no representan información veraz: no existe una única ética global a la que tender. Seguimos sin comprender el cerebro humano o no somos capaces de predecir los resultados no éticos de un sistema que sí lo parece.

Los desafíos de seguridad en la era de la inteligencia artificial 

Por qué la inteligencia artificial requiere de una mayor seguridad

Cuando observamos al robot de una fábrica, entendemos de forma instantánea que los humanos necesitamos protección física contra sus rápidos movimientos, de modo que construimos una jaula que nos impide meter los dedos o acercarnos si se mueve. Al mismo tiempo, entendemos que hay que formar al personal que interactuará con el robot y que necesitamos algún botón de apagado rápido o el diseño de protocolos de seguridad.

La inteligencia artificial necesita de todas estas herramientas y alguna más, pero ni siquiera se consideran actualmente. No solo hace falta más seguridad en inteligencia artificial derivada de formación de empleados o la construcción de jaulas digitales que impidan penetrar y alterar el código, también hace falta construir sistemas físicos que rechacen infiltraciones y formar a las personas que la usarán.

Insertar inteligencia artificial dentro de empresas es cada vez más sencillo. Tanto, que a menudo se está adoptando sin las salvaguardias básicas: el 12,6% de las empresas españolas con diez empleados o más ya usa algún tipo de IA (20% de las PYMES), pero solo el 2,3% contrata a especialistas. Es como dejar entrar a la obra sin casco o conducir vehículos de gran tonelaje sin formación.

¿Cómo mejorar la seguridad en las empresas en la era de la IA?

La formación en inteligencia artificial de los empleados es la tarea más crítica pendiente. No solo formar en cómo se usan estas herramientas, sino también cuándo arrojan información inútil, comprender e interiorizar las bases sobre las que se construyen las IA, entender los problemas derivados de bases de datos sesgadas, saber cuándo no usar estas herramientas e incluso entender cuándo es necesario dejarlas de lado en pro de otras.

Tu opinión cuenta
¿Te ha resultado útil este contenido?
Lo más visto
Fraude de dispositivo no reconocible
Los desafíos de seguridad en la era de la inteligencia artificial 
Regulación y cumplimiento en la seguridad de la IA: lo que debes saber
Seguridad internet: ¿qué es y por qué es vital en la empresa?
Credential stuffing: qué es y cómo funciona este ataque

También te interesará…

6 min
18 octubre 2023
De un tiempo a esta parte, la inteligencia artificial se ha convertido en uno más en nuestra sociedad. Son infinitas la aplicaciones y funciones que se le están otorgando a...
  6 min
10 min
3 noviembre 2023
Ya no se trata de una predicción a futuro sino de una realidad presente. La inteligencia artificial está transformando la forma en la que vivimos y, por supuesto, la forma...
  10 min
6 min
21 octubre 2021
A menudo, cuando en una empresa se habla de digitalización, pensamos en mejorar determinados procesos internos que suponen hacer lo mismo varias veces. Esto implica una pérdida de tiempo que...
  6 min
Lo más visto
Fraude de dispositivo no reconocible
Los desafíos de seguridad en la era de la inteligencia artificial 
Regulación y cumplimiento en la seguridad de la IA: lo que debes saber
Seguridad internet: ¿qué es y por qué es vital en la empresa?
Credential stuffing: qué es y cómo funciona este ataque
LinkedIn Twitter Facebook Whatsapp Email