Crean la primera guía para diseñar algoritmos justos que no discriminen
Eticas Consulting, compañía de auditoría de algoritmos, ha elaborado la primera Guía de Auditoría Algorítmica. Este ‘manual de instrucciones’, dirigido a empresas, entidades públicas y a la ciudadanía, ofrece una metodología general y replicable para la realización de auditorías de aquellos productos y servicios enmarcados en el ámbito de la inteligencia artificial (IA) que incluyan el uso de algoritmos y que, en alguna etapa del proceso, recopilen o traten datos de carácter personal.
De esta forma, se podrá comprobar que los algoritmos son diseñados, desarrollados y utilizados de acuerdo a la Ley, de forma socialmente justa y responsable para evitar que discriminen.
Esta guía quiere disipar las preocupaciones acerca del impacto ético, social, jurídico y empresarial del uso irresponsable de algoritmos y de datos que hacen.
Y nace con tres objetivos, salvaguardar derechos fundamentales, aportar claridad al marco normativo y ofrecer una metodología replicable al alcance de todos. Porque, explican, “las consecuencias ya están presentes en nuestros día a día, con decisiones discriminatorias en proceses de selección laboral, concesión de ayudas sociales, créditos o seguros, procesos migratorios… Los algoritmos pueden discriminar y conllevar importantes riesgos para las compañías o los estados que los usan, en la mayoría de las ocasiones, sin saber que no se ajustan a derecho o al contexto socioeconómico”.
Gemma Galdon, directora de Eticas Consulting, ha asegurado que “es imprescindible que la ciudadanía sepa que cuenta con herramientas para exigir a compañías y estados que desarrollen algoritmos que cumplan unos estándares de justicia y responsabilidad social. Aunque –destaca–, tras varios casos que han llegado a los tribunales, gobiernos y compañías de todo el mundo empiezan a comprender la importancia de estos controles externos como si se tratase de auditorías financieras”.
Un proceso de auditoría algorítmica implica analizar, además de los algoritmos, el contexto social, económico y cultural del que forman parte y de acuerdo con la perspectiva de las personas a las que este afecta, directa o indirectamente.
En definitiva, se trata de hacer que esta tecnología sea más explicable, transparente, predecible y controlable por la ciudadanía, las instituciones públicas y también las empresas, ya sea antes del desarrollo del sistema, durante su desarrollo o a posteriori.
La metodología para auditar algoritmos, sin embargo, no es sencilla ni está completamente definida todavía. Lo que sumado al desconocimiento de gran parte de la sociedad y la opacidad de muchos de estos sistemas, hace imprescindible aportar claridad a las leyes aplicables a los sistemas algorítmicos y acercarlos a la ciudadanía. Por eso, en esta guía se incluyen desde las definiciones de los términos básicos y las consideraciones previas necesarias para su comprensión, hasta un contenido más especializado centrado en los principios rectores de la auditoría algorítmica, las fases y las recomendaciones para la mejora de los sistemas tras realizar la auditoría.
