Netskope advierte usos maliciosos de IA

Sin ánimo de aguar la fiesta global sobre las posibilidades de la Inteligencia Artificial, Netskope precisa cómo es usada en contra de las empresas.

Su informe de amenazas resalta el incremento de aplicaciones de IA corporativas maliciosas.

Todavía es temprano para ver todas las aristas del comportamiento de los ciberataques en el año 2024. Pero el “Informe Anual de Netskope sobre Nube y Amenazas, 2024” deja muy en claro que la Inteligencia Artificial es usada, activamente, en contra de las organizaciones.

De hecho, el informe destaca la adopción acelerada de aplicaciones de Inteligencia Artificial generativa (GenIA), en general. Si igualmente, indica los riesgos de seguridad emergentes más frecuentes que se derivan de esta adopción.

Hay que destacar que Netskope proyecta que la mayoría de las amenazas que se experimentaron en 2023 se mantendrán activas en este año.

Además, la empresa anticipa cómo seguirá evolucionando:

La adopción de la nube
La superficie de ataque resultante
Así como predicciones sobre cuáles serán los blancos más probables en este año

Pero, además, los riesgos asociados a una débil cultura de ciberseguridad se ven agravados con esta adopción ingenua de GenIA.

“Con el creciente uso de apps de IA, es mucho más probable que los empleados expongan datos sensibles tales como credenciales, información personal o propiedad intelectual.”, explicó el Director de Investigación de Amenazas de Netskope Threat Labs, Ray Canzanese.

Las dos caras de la GenIA

El lider de Investigación de Amenazas de Netskope destacó que, para una habilitación segura de las aplicaciones de IA, las organizaciones deben implementar controles razonables y capacidades avanzadas de seguridad de datos. Esto mientras se centran en cómo los empleados pueden usar la IA de forma productiva.

Por otro lado, en Netskope se espera que el número total de usuarios corporativos que acceden a aplicaciones de IA seguirá aumentando moderadamente en 2024.

No obstante, existe una población emergente de usuarios avanzados que están incrementando constantemente su uso de aplicaciones de GenIA.

En este sentido, parte de los hallazgos del Informe de amenazas de Netskope señalan que:

10% de los empleados de las empresas acceden al menos a una aplicación de inteligencia artificial (IA) generativa cada mes
En comparación con sólo el 2% de los usuarios corporativos que lo hacían el año anterior
7% de los empleados, al cierro de 2023, utilizaban activamente ChatGPT que cerró como la aplicación de IA generativa más popular
También se espera que el 25% de los usuarios más avanzados incremente significativamente la actividad de la GenIA generativa en 2024

Según el informe, esto ocurrirá en la medida que dicho grupo encuentre nuevas formas de integrar la tecnología en su vida diaria.

Nube en alza

Otro de los hallazgos fundamentales es que, en general, la adopción de aplicaciones en la nube ha seguido aumentando a lo largo del pasado año.

“Para una habilitación segura de las aplicaciones de IA, las organizaciones deben implementar controles razonables y capacidades avanzadas de seguridad de datos mientras se centran en cómo los empleados pueden usar la IA de forma productiva“, explicó Ray Canzanese, el Director de Investigación de Amenazas de Netskope Threat Labs.

El informe destaca que los usuarios empresariales han estado probando, constantemente, nuevas aplicaciones y aumentando el uso de las más populares:

El número de aplicaciones en la nube a las que accedieron las empresas aumentó una media del 19% anual.
Los usuarios pasaron de 14 a 20 aplicaciones diferentes en solo dos años.
La mitad de los usuarios de empresa interactúan con entre 11 y 33 aplicaciones en la nube al mes. El 1% de ellos utiliza más de 96 aplicaciones al mes.
Las interacciones con estas aplicaciones en la nube están aumentando a un ritmo aún más rápido: de las poco más de 1.000 actividades al mes hace dos años, a casi 2.000 actividades al mes en la actualidad.
La mayoría de los usuarios empresariales generan entre 600 y 5.000 actividades al mes.
Mientras que, entre los más activos, el 1% de usuarios genera más de 50.000 actividades al mes.