¿De dónde nace la necesidad de un auditor de algoritmos?
En el campo de la IA, un algoritmo es un conjunto de reglas y procesos usados por una maquina para aprender sin intervención humana. Ese proceso se denomina aprendizaje automático o machine learning. A partir de enormes conjuntos de datos, la máquina aprende a reconocer patrones y realizar predicciones, de la misma forma que hace el cerebro humano. Sin embargo, a partir del tipo de datos que se proporciona a la IA para su aprendizaje, esta puede desarrollar todo tipo de sesgos y errores. Aquí es donde interviene el auditor de algoritmos.
Su cometido es identificar ese tipo de sesgos, elaborar informes y proporcionar orientación sobre la forma de eliminarnos.
Especialmente importante es su papel en el campo de los Recursos Humanos, dado que las aplicaciones basadas en IA son cada vez más usadas en los procesos de reclutamiento. Algunas empresas reciben verdaderas avalanchas de currículums cuando publican una oferta, y procesarlos de la forma tradicional puede llevar demasiado tiempo.
Pero una IA que ha adquirido sesgos racistas o de género en su proceso de aprendizaje los aplicará en sus criterios de selección de personal. Eliminar candidatos por características como su color de piel es ante todo antiético, pero también es una forma muy tonta de perder talento valioso.
Por eso, cada vez más empresas usan de los servicios de un auditor de algoritmos. Los beneficios asociados son grandes: desde la defensa de la libertades públicas hasta las garantías de confianza en la IA, así como el cumplimiento normativo en IA y la rendición de cuentas de esta.
¿Qué debo estudiar si quiero ser auditor de algoritmos?
Dado que estamos hablando de una profesión de muy reciente creación, no hay aún un currículum académico definido, y los conocimientos y habilidades necesarios están en constante revisión.
Sin embargo, sí que se van perfilando una serie de campos en la auditoría de logaritmos en los que te convendrá formarte, y adquirir experiencia si estás pensando en que esta sea tu profesión para el futuro.
- Deberás tener conocimientos profundos en Inteligencia Artificial, incluyendo obviamente los algoritmos de aprendizaje automático, pero también PNL (Procesamiento del Lenguaje Natural) y estar familiarizado con el desarrollo de software.
- Conocimientos de ética de la inteligencia artificial. De aquí es de donde parte realmente la necesidad de la profesión.
- Habilidad y experiencia en identificar los sesgos y evaluación de riesgos algorítmicos.
Debido a su demanda por parte del mercado laboral, algunas universidades ya están ofertando masters en auditoría de algoritmos, y también existen cada vez más cursos online sobre el tema.
De cualquier forma, deberás tener en cuenta que se trata de una profesión naciente y en constante evolución. Si la eliges, deberás estar atento a las novedades y comprometerte en una formación continuada para mantenerte al día.
Síguenos en nuestras RRSS
Te puede interesar
Contenido relacionado