HPE entre los líderes de almacenamiento de Gartner
Los avances en las ciencias de la computación han producido algoritmos tan poderosos que sus creadores los han presentado como herramientas para ayudar a tomar decisiones en una forma más eficiente e imparcial. Ello es cierto, pero la idea que los algoritmos son imparciales es una fantasía.
Por: Laszlo Beke, presidente y fundador de BekeSantos.
Los ejemplos de riesgos que puedan tener asociados existen: la solicitud de empleo completada por una mujer es rechazada por cuanto el algoritmo favorece los CV de hombres o un joven se suicida después que imágenes gráficas de un daño auto-infligido son llevadas a su perfil por algoritmos de medios sociales. En la medida que aumenta la presencia y el uso de los algoritmos es importante encontrar mecanismos que permitan indicarles lo que puedan hacer y aquello que no deban hacer.
Muchos opinan que se necesitaría tener algo equivalente a una Declaración de Derechos Algorítmicos para proteger a las personas y las empresas de los riesgos que Inteligencia Artificial está introduciendo en nuestras vidas, simultáneamente con los diferentes y enormes beneficios.
Un grupo de 10 expertos, reconocidos en la vanguardia de la investigación de la penetración de IA en los aspectos más mundanos de la vida, particularmente en campos críticos como inmigración, medicina y justicia criminal han analizado el tema y a través de Crowdsourcing se ha generado la propuesta de una Declaración de Derechos Algorítmicos:
Transparencia
El derecho a saber cuándo un algoritmo está tomando una decisión por uno, cuales son los factores que siendo considerados por el algoritmo y como dichos factores están siendo ponderados. En situaciones en las cuales nuestra existencia, nuestra libertad o nuestra vida financiera están a riesgo, deberíamos conocer los atributos que están siendo utilizados y como los resultados dependieron de los valores de los atributos.
Explicación
El derecho a recibir las explicaciones sobre como los algoritmos nos pueden afectar en una situación específica, y que además dichas explicaciones sean lo suficientemente simples para que la persona promedio pueda entenderlas. Todos los sistemas algorítmicos deberían tener algo similar a una etiqueta nutricional identificando lo que contienen y hacen y además en los diferentes idiomas de uso.
Autorización
El derecho autorizar o desautorizar cualquier aplicación de IA que tenga impacto material en nuestras vidas o que utilice data sensitiva, como la biométrica.
Libertad del prejuicio
El derecho a la evidencia que demuestre que los algoritmos han sido probados con respecto al sesgo referido a raza, género, religión o cualquier característica protegida – antes de ser implementados. Los algoritmos deben cumplir con los estándares de equidad y discriminación y asegurar resultados acordes. La parcialidad algorítmica puede ser el resultado de data inicial insuficientemente diversa o puede reflejar las decisiones sesgadas que autoridades hicieron en el pasado.
Mecanismo de retroalimentación
El derecho a ejercer algún control sobre cómo funcionan los algoritmos. Siempre debemos poder comunicarnos con un sistema algorítmico que toma decisiones por nosotros. Puede ser algo tan simple como un “flag” en Facebook o tan dramático o significativo como permitir la intervención de un pasajero cuando no está satisfecho con las opciones que está seleccionando un vehículo auto-tripulado.
Portabilidad
El derecho a transferir data fácilmente desde un proveedor a otro. Sin la portabilidad se corre el riesgo a quedar bloqueados dentro de un proveedor mayor, con las incrementales consecuencias negativas en la medida en que la data adquiera más importancia.
Compensación
El derecho a compensación si creemos que un algoritmo nos ha dañado o perjudicado injustamente. Las leyes del secreto corporativo pueden ser una barrera al debido proceso legal.
Alfabetización algorítmica
El derecho a recursos educativos sobre sistemas algorítmicos en forma gratuita. Cada ciudadano debe tener la oportunidad para aprender que son los algoritmos, como funcionan y que riesgos presentan. Los organismos públicos deben ofrecer esta educación, ya que no todos tienen el tiempo y las condiciones económicas necesarias para aprender sobre ellos.
Control independiente
El derecho a que se nombre un cuerpo de control para realizar revisiones retrospectivas de las fallas de sistemas algorítmicos. Los resultados de dichas investigaciones deben ser públicos y así poder asegurar que los algoritmos son examinados para identificar defectos no intencionales después que son utilizados.
Gobernanza nacional y global
El derecho a una gobernanza nacional robusta, similar a un Banco Central. Los sistema algorítmicos no conocen fronteras nacionales y además están siendo utilizados con frecuencia cada vez mayor para decidir quiénes pueden cruzar las fronteras internacionales y por ello es necesaria la gobernanza internacional. Hay quienes opinan que debería existe una mezcla entre regulación gubernamental y auto-regulación de parte de las empresas de tecnología.
Esta es una obra en proceso, ya que IA está evolucionando tan velozmente que seguramente aparecerán otras protecciones para riesgos que ni siquiera hemos imaginado.
Se hace referencia a “10 things we should all demand from Big Tech right now” http://bit.ly/2XioIhI. También aparece en mi blog http://bit.ly/2F0Veh3.
