HPE entre los líderes de almacenamiento de Gartner
Las ventajas del uso de la Inteligencia Artificial generativa compiten contra las reservas que genera esta tecnología en materias como privacidad, seguridad y derechos de autor.
Las empresas deben mirar en detalle las condiciones de uso y políticas que están detrás de las herramientas de GenIA que están usando, tanto ellas como sus colaboradores.
¿Sabe usted como van a usuar la información que recopile todos esos proveedores de servicios que le dicen que sus soluciones incorporan Inteligencia Artificial generativa o GenIA?
El mundo, en general y América Latina, en particular es poco consecuente en la revisión de los términos que damos como vistos, leídos y aceptados, en cuanto a tecnologia se refiere.
Entre otras cosas porque estas condiciones suelen ser contratos de adhesión que parecen decir: “acepta y punto”.
No hay advertencias sobre los efectos secundarios, como pasa con los medicamentos.
En general, los temas de derecho de autor o filtraciones suele importarnos sólo en caso de demandas y la privacidad no interesa en lo que se refiere a nuestros clientes.
Al menos hasta que los datos particulares de nuestra empresa aparecen en la darknet. Es, en ese momento, en que tratamos de identificar qué pudimos hacer para obtener un resultado diferente. Então nces, nos volvemos a nuestra herramientas de GenIA.
“La violación de la privacidad y los derechos de autor son uno de los principales riesgos que puede acarrear el uso de esta tecnología”, comentó al respecto el jefe del Laboratorio de Investigación de ESET Latinoamérica, Camilo Gutiérrez Amaya.
De uso frecuente
Lo cierto es que ya un hecho que las grandes plataformas tecnológicas modifican y actualizan sus políticas de privacidad, con la incorporación de nuevas funcionalidades con esta tecnología.
ESET, compañía espeecializada en la detección proactiva de amenazas, advierte que hay casos en los que no está claro el tratamiento que la IA dará a los datos recopilados.
Esto a pesar de que algunas empresas advierten, directsmeeqnteeq, que los mismos serán usados para mejorar el modelo de entrenamiento, con el fin de mejorar sus productos o servicios.
Por ello, específicamente, la empresa analizó los ejemplos de Windows Recall y las nuevas políticas de uso de Adobe, sobre cómo están gestionando:
- La privacidad de los datos
- Los riesgos que estos cambios implican
- Y la importancia de una comunicación clara y transparente para mantener la confianza de los usuarios
- Así como asegurar el cumplimiento legal
Veamos lo que la empresa ha encontrado al respecto.
Windows Recall
Los equipos con PC Copilot+ tendrán una función llamada Recall que permitiría encontrar y recordar todo lo visto y hecho en la PC como si se tratara de una línea del tiempo del contenido a la que puede accederse cuando se necesite. Esto incluye:
- Lo que se hace en las aplicaciones
- Las comunicaciones y reuniones
- Recuerda todas las páginas web que se hayan visitado
- Así como todos los libros o artículos leídos
También toma capturas de pantallas para poder identificar más fácil el contenido del que se quiere disponer.
En la documentación oficial de Microsoft se indica que el “Almacenamiento de instantáneas: el contenido permanece local”.
No obstante, ESET identificó que, al habilitar nuevas características a un sistema operativo que involucren la privacidad del usuario y faciliten su acceso, esto trae consigo nuevas puertas que pueden ser aprovechadas por los ciberdelincuentes.
“Un ciberdelincuente podría obtener una enorme cantidad de información valiosa sobre su víctima, incluyendo sus correos electrónicos, conversaciones personales y cualquier información capturada por Recall”, aseguró Camilo Gutiérrez Amaya, jefe del Laboratorio de Investigación de ESET Latinoamérica.
Adobe y su nueva política de uso
Por su parte, Adobe ha tenido una evolución y gran adopción por parte de los sectores públicos y privados.
La empresa introdujo en febrero de 2024 una nueva política de uso que planteaba que, para poder seguir utilizando sus productos, los usuarios estaban obligados a darle aceptación, a sus políticas de privacidad. Esto causó inconformidad y preocupación.
Frente a esta situación, el director del producto Substance 3D salió a explicar que no se accedería o leería ningún proyecto de sus usuarios, añadiendo que no tendría sentido hacerlo ya que todas las empresas de la industria los abandonarían inmediatamente si fuera el caso y Adobe indicó que está sujeto al Reglamento General de Protección de Datos (RGPD) del Parlamento Europeo.
No obstante, antes del 18 de junio en que esto cambió, Adobe Creative Cloud requería de un acceso al contenido del usuario para poder analizarlo y entrenar sus algoritmos de machine learning (Firefly Gen AI), con el fin de mejorar sus servicios.
Al darse cuenta de estos hechos, la tuvo que actualizar e incorporar resúmenes con información que fuera más detallada, así como el motivo para cuál se accederían a los datos.
Cabe destacar que, para la sección de “Privacidad” en la sección 2.2 “Nuestro acceso a su contenido” por parte de Adobe se deja más claro que el usuario es el propietario de su contenido.
Pero que se necesita acceder a este según sea necesario para el correcto funcionamiento de sus aplicaciones y los servicios.
Lo que recomienda ESET
Ambos casos muestran que el diablo vive en las letras pequeños de unos acuerdos que pocos se toman el trabajo de revisar concienzudamente.
Para ESET, las funciones siempre les darán un valor agregado a los fabricantes o desarrolladores pero deben de venir con términos de uso y políticas que utilicen un lenguaje claro, en lugar de ambiguo o legalista.
“Cuando las nuevas funciones o características se explican de manera sencilla, los usuarios pueden adoptar y utilizarlas de manera más efectiva”, insistió Camilo Gutiérrez Amaya, jefe del Laboratorio de Investigación de ESET Latinoamérica.
La empresa estima que, actuando con transparencia, se pueden asegurar:
- Accesibilidad y comprensión: Un lenguaje claro y directo permite que una mayor audiencia comprenda fácilmente las condiciones y las nuevas funciones, lo que aumenta la transparencia y la accesibilidad de la información.
- Confianza del usuario: La claridad en la comunicación reduce la percepción de qué fabricantes o desarrolladores están tratando de ocultar algo o de complicar innecesariamente los términos.
- Reducción de conflictos: Términos y condiciones claros ayudan a prevenir malentendidos. Si los usuarios comprenden completamente lo que están aceptando, es menos probable que surjan conflictos legales y se reduce la necesidad de intervenciones legales.
