ChatGPT aprende a olvidar: OpenAI coloca controles de privacidad

La presión y las dudas legislativas dejan huella en ChatGPT.

El nuevo modo “historial desactivado” está disponible ahora, mientras que el más reciente artículo busto modelo de suscripción Business llegará en los próximos meses.

Por: Jon Gold | Original de IDGN

 

OpenAI, la firma respaldada por Microsoft detrás del innovador sistema de inteligencia artificial generativa ChatGPT, anunció esta semana que permitiría a los usuarios desactivar la función de historial de chat. 

Tal medida tomada sobre su chatbot insignia se considera una respuesta parcial a los críticos.

La función “historial deshabilitado” significa que las conversaciones marcadas como tales no se utilizarán para entrenar los modelos subyacentes de OpenAI y no se mostrarán en el historial.

Todavía se almacenarán en los servidores de la compañía, pero sólo se revisarán según sea necesario para detectar abusos. Más importante: se eliminarán después de 30 días.

“Esperamos que esto proporcione una manera más fácil de administrar sus datos que nuestro proceso de exclusión existente”, señaló la compañía en una publicación oficial del blog.

OpenAI también dijo que la compañía está trabajando en un nuevo modelo de suscripción comercial, dirigido a usuarios organizacionales que pueden necesitar un control más directo sobre sus datos. 

OpenAI en la mira de reguladores antes de versión paga

ChatGPT Business se adherirá a las políticas de uso de datos API de la compañía, lo que significa que los datos del usuario no se utilizarán – de forma predeterminada – para el entrenamiento de modelos. 

OpenAI dijo que espera presentar est versión de suscripción “en los próximos meses”.

La noticia llega a raíz de un movimiento a principios de este mes de la Junta Europea de Protección de Datos para investigar ChatGPT. 

El proceso se inició luego de las quejas de los organismos de control de la privacidad de que el chatbot no cumplía con el Reglamento General de Protección de Datos de la UE.  

En marzo, Italia prohibió temporalmente el uso de ChatGPT debido a supuestas violaciones de la privacidad del usuario.  

El garante de protección de datos de ese país exigió que el servicio demostrase el cumplimiento de las leyes de privacidad aplicables, además de proporcionar una mayor transparencia sobre cómo el sistema maneja los datos de los usuarios.

La información y el aprendizaje en ChatGPT

Para el vicepresidente y analista de Gartner, Nader Henein, está claro que la privacidad y el gobierno de datos no fueron lo más importante al principio para OpenAI. 

El ejecutivo señaló que tal práctica no constituye nada nuevo para una startup enfocada en sacar un producto viable al mercado.

“Continúan construyendo el avión en pleno vuelo. Me imagino que la mayor parte del desarrollo en curso en Microsoft en Copilot se centra en envolver ese gobierno y soporte empresarial en torno al modelo OpenAI [gran lenguaje]”, dijo. 

Las medidas son un paso en la dirección correcta, agregó Henein.

No obstante, reflejan que las decisiones de diseño subyacentes a gran parte de ChatGPT pueden haber tratado la privacidad como una ocurrencia tardía y no como un componente central.

“No tengo ninguna duda de que el equipo de OpenAI está trabajando febrilmente para adaptar la gobernanza a su arquitectura”, agregó. 

La cuestión esta, más bien, de cuánto se puede hacer después de lo ya hecho. 

“La analogía que hemos visto utilizada – una y otra vez – es la de hornear un pastel y tratar de agregar azúcar o polvo de hornear después de haberlo sacado del horno”.