Gamers ahora disponen en Latam de SSD más fría
En un mundo cada vez más influenciado por la inteligencia artificial (IA) generativa, las preocupaciones sobre las posibles consecuencias de modelos sesgados en perjuicio de grupos minoritarios necesitan ser abordadas de manera seria.
Helen Kelisky, es Directora Ejecutiva de Google Cloud para el Reino Unido e Irlanda, y en una muy interesante entrevista con Computerworld, reafirmó la importancia de la implementación de la diversidad en los equipos creadores de aplicaciones basadas en la inteligencia artificial (IA) y su impacto en la sociedad.
La discriminación, un problema mucho más inmediato y quizás más real que la amenaza existencial a la humanidad por los avances de la IA generativa, está cobrando protagonismo.
Aunque los actores principales en el mercado de la IA han afirmado su compromiso con la diversidad y la inclusión en sus lugares de trabajo, las mujeres y las personas de color aún se encuentran menos representadas en la industria tecnológica. Existe un temor de que el entrenamiento de los modelos de IA incorpore inherentemente sesgos de género y razas.
Este miedo es compartido tanto por profesionales de la industria como por autoridades políticas.
Tal y como se destaca en el citado artículo de Computerworld, en junio de este año, la Comisaria Europea de Competencia, Margrethe Vestager, argumentó que la discriminación impulsada por la IA representa un riesgo mayor para la sociedad que la perspectiva de la extinción humana.
En el Reino Unido, la Comisión de Igualdad y Derechos Humanos (EHRC, por sus siglas en inglés) expresó preocupación por la falta de regulación adecuada para proteger los derechos humanos en relación con la IA en el país.
“Una herramienta de IA que no sea capaz de reconocer el rostro, el acento o el idioma de grupos demográficos que tradicionalmente han enfrentado discriminación solo contribuye a aumentar esa discriminación”, afirma Kelisky.
Kelisky sostiene que atraer y retener una fuerza laboral diversa es clave para abordar este desafío. Argumenta que tener equipos conformados por talento de diversos orígenes y perspectivas es vital para el entrenamiento de estos sistemas y para evitar problemas como la replicación de sesgos sociales.
¿Por qué es tan importante que las empresas de IA garanticen la diversidad?
Kelisky enfatiza que, si bien es optimista sobre el potencial de la IA, es necesario desarrollarla de manera responsable. Para que las tecnologías de IA sean verdaderamente exitosas, no pueden dejar atrás a ciertos grupos ni perpetuar sesgos existentes.
La ejecutiva señala que un sistema de IA solo puede ser tan bueno como los datos en los que se entrena, y al tener seres humanos controlando los datos y criterios detrás de cada solución mejorada por IA, una mayor diversidad en la entrada humana conlleva a mejores resultados.
Los resultados de cualquier sistema de IA están limitados a la composición demográfica de sus creadores, lo que los hace susceptibles a los sesgos involuntarios que este equipo pueda tener.
Por ejemplo, si un equipo técnico está compuesto predominantemente por hombres blancos, los sistemas de reconocimiento facial podrían ser inadvertidamente entrenados para reconocer con más facilidad a este grupo demográfico en comparación con otros.
La representación sólida conlleva a productos más sólidos. Los algoritmos y conjuntos de datos de la IA tienen el poder de reflejar y reforzar sesgos injustos relacionados con características como la raza, la etnia, el género y la capacidad, entre otras.
La ejecutiva de Google Cloid afirma que ya estamos viendo este refuerzo de sesgos en el mundo real, con software de reconocimiento de imágenes que identifica a personas asiáticas parpadeando en fotografías, y estudios que demuestran que las personas negras encuentran casi el doble de errores que las personas blancas al usar tecnologías de reconocimiento de voz automatizado en los Estados Unidos.
Un sistema de IA que no puede reconocer la cara, el acento o el idioma de grupos demográficos que tradicionalmente han enfrentado discriminación solo contribuye a esta discriminación. Puede aumentar las barreras a la diversidad, equidad e inclusión en áreas donde la IA debería implementarse para el bien, como la contratación, la atención médica y la seguridad.
Google Cloud como precursor de la diversidad
Kelisky destaca que en Google Cloud, la diversidad también se aplica a su enfoque en el desarrollo de IA. A través del Programa de Ética de Principios de IA, Google capacita a un grupo diverso de empleados de 17 oficinas globales en IA responsable. Además, han adaptado este programa para directivos y líderes, incorporando los principios de IA de Google en áreas como la nube.
La empresa también tiene varios programas de desarrollo profesional y promoción, habiendo cumplido su objetivo de aumentar la representación de líderes negros, latinos y nativos americanos en un 30%. También están orgullosos de tener la mayor representación de mujeres en roles tecnológicos y de liderazgo a nivel mundial.
Kelisky enfatiza que mitigar la discriminación es una causa que impacta todos los niveles de una organización, pero comienza con el proceso de contratación y la priorización de formas de abordar el sesgo inconsciente en ese proceso para atraer talento diverso. Ella destaca que no hay nada más peligroso que tener un equipo de liderazgo homogéneo o incluso un equipo de desarrollo de IA homogéneo.
La lucha contra la discriminación no se detiene en el momento de la contratación. Kelisky sostiene que es una batalla continua que debe ser un enfoque para todos los empleados, todo el tiempo. En Google, se aseguran de que sus gerentes estén educados y tengan conocimiento sobre la diversidad para que puedan brindar un mejor apoyo a todos los miembros de sus equipos.
