Los retos éticos y de género de la cuarta revolución industrial, a debate en 4IRE

Más de 60 conferenciantes, en su gran mayoría mujeres, expusieron y debatieron sus ideas en diferentes ponencias y mesas de debate sobre cuáles son los retos y oportunidades que surgen de la utilización de la tecnología tanto presente como futura, con una especial preocupación por el enfoque de género.

El congreso generó un marco de reflexión con responsables políticos y líderes empresariales para crear un futuro inclusivo y humanizar las tecnologías, basándose en tres pilares principales como son los impactos éticos de la cuarta revolución industrial (insistiendo en la menor visibilidad de las mujeres en el desarrollo de la tecnología), las empresas y start-ups, y la educación.

El rol de la mujer en la 4IR debe cambiar

Durante todo el evento quedó patente la exigencia de que las mujeres tengan una mayor presencia en carreras técnicas y un mayor poder de decisión en empresas, instituciones y proyectos relacionados con la tecnología.

Tal y como puso de manifiesto Gina Rippon, profesora de Neuroimagen Cognitiva en el Aston Brain Center de la Universidad de Aston en Birmingham, las mínimas diferencias en el cerebro del hombre y la mujer no justifican de ninguna manera que cada género esté más predispuesto a interesarse por ciertos ámbitos o temas. Por tanto, es paradójico que si no existe esa justificación, exista tanto sesgo de género en los estudios y profesiones científicas.

Para Rippon, realmente es la sociedad la que influencia, y un mundo con sesgo genera cerebros con sesgo. La pertenencia social hace que cambie la percepción de cada uno, lo que piensa y cómo lo hace.

En esa misma línea, Rocío Rodríguez, directora del Instituto de la Mujer y para la Igualdad de Oportunidades (IMIO), señaló que ninguna tecnología es neutral ya que están marcadas todas todavía por un carácter androcéntrico, y resaltó la brecha de género en el ámbito de la formación en ciencia y tecnología.

A todo esto hay que sumar otro ámbito en el que las mujeres están también en desventaja y que es su menor acceso a internet. Cheryl Miller, CEO y fundadora del Digital Leadership Institute, puso de relieve que en Europa es menos probable que una mujer tenga acceso a la red y que tenga iguales habilidades digitales que un hombre y, por tanto, sea más probable que se quede atrás en un momento de disrupción digital como el que vivimos.

El trato igualitario sin sesgos es otra asignatura pendiente

El sesgo de género que tiene la tecnología y su necesaria eliminación fue un tema recurrente en muchas de las ponencias.

Por ejemplo, Belén Romana, presidenta de la Junta de la Digital Future Society, expuso el sesgo de género en las contestaciones que dan los diferentes asistentes de voz de teléfonos y otros dispositivos a una misma pregunta, o las diferencias de sueldo de los conductores de Uber según si son hombres o mujeres.

Otro de los problemas asociados mayoritariamente al género femenino por el uso de tecnologías es la llamada sextorsión y que fue tratada por Nancy Hendry, asesora sénior de la International Association of Women Judges.

La sextorsión es una forma de extorsión en la que un perpetrador abusa de alguien obteniendo un favor sexual a través de cierta autoridad o la amenaza de algo más que la fuerza física.

Es este un problema que ya existía pero al que hasta hace poco no se le había puesto nombre. Aunque tiene diferentes formas, la vertiente tecnológica de esta extorsión está en gran crecimiento, a través principalmente de la amenaza de la divulgación en redes de información o fotos sensibles si no se accede a los deseos de quien extorsiona.

Cristina Aranda, desarrolladora de Negocio para Europa de Tiger y fundadora de MujeresTech, también mencionó la posibilidad que existe de ejercer control sobre la mujer mediante aplicaciones y servicios de Internet por parte de terceras personas y la necesidad de que exista una protección de datos desde una perspectiva feminista.

Las nuevas tecnologías y su correspondiente legislación

La vertiente jurídica de la cuarta revolución industrial y sus impactos no podía dejar de estar presente tratándose de un evento organizado por una asociación de mujeres dedicadas a la abogacía.

En este sentido se desarrolló la ponencia de Jacob Turner, abogado en Fountain Court Chambers y autor del libro Robot rule, que abordó cuestiones como quién será responsable de accidentes o daños causados por la inteligencia artificial (IA), si esta podría llegar a tener personalidad legal y derechos, y otros dilemas derivados del instrumentalismo que se le pueda dar a esa inteligencia (por ejemplo, los llamados robots sexuales) o el transhumanismo, (esto es la mejora de los humanos a través de IA o de dispositivos tecnológicos, enlaces neuronales, emulación del cerebro humano).

Verica Trstenjak, doctora eslovena en Derecho, consideró que ante la cuarta revolución industrial y la IA no se necesitan nuevos derechos digitales puesto que ya están incluidos en los existentes.

En un campo aún incipientemente explorado, uno se puede encontrar con nuevas prácticas que se adelanten a una legislación a la que someterse, que la ley se adelante en algunos casos a esas prácticas, o que realmente un juez decida sobre la legalidad de una práctica la primera vez que el problema sea llevado a un tribunal (incluso si no hay una base legal específica para ello).

La posibilidad de que en un futuro los jueces sean reemplazados por algoritmos también fue mencionada por Trstenjak, quien lo puso en duda puesto que difícilmente un algoritmo puede actuar de manera justa como es requerido por los instrumentos jurídicos internacionales.

En cuanto a la explicación de los delitos que se sirven de nuevas tecnologías para llevarse a cabo, o para esconder el dinero de los delincuentes, estuvo en el congreso la fiscal de Estonia Mairi Heinsalu, quien expuso cómo persiguen en su país los fraudes realizados en criptomonedas y las dificultades a las que se enfrentan.

Investigación e innovación: necesarias, pero bajo control

Otro de los temas tratados en los dos días del evento fue el relativo a la formación, la innovación y la investigación.

Teresa Riesgo, directora general de Investigación, Desarrollo e Innovación del Gobierno de España, explicó la Agenda Estratégica Española de Ciencia y Tecnología y de Innovación 2013-2020 y las problemáticas actuales existentes en el país.

Por ejemplo, España tiene el puesto 10 en el ranking de países que presentan papers científicos. pero se encuentra más allá del puesto 30 en innovación, una situación que en palabras de Riesgo “debe cambiar y que además se agudiza en el caso de las mujeres”.

Hay poco presupuesto, tanto privado como público, para estas actividades, y además la normativa es muy dura y tiene muchos obstáculos administrativos.

Isidoros Karatzas, jefe de Ética e Integridad de la Investigación de la Comisión Europea, habhonradez e ue debe nvestigación de la a la formaci controlnadas con ello. el congrespo rvicios de internet por parte de tercerasló sobre la necesaria honradez e integridad que debe darse en los proyectos de investigación, y alertó de que se publican tantos proyectos que es casi imposible comprobar exhaustivamente la veracidad de sus contenidos.

Unas malas conductas generalmente provocadas por la presión por publicar y/o para obtener fondos, y que generalmente se realizan en áreas en las cuales es complicado reproducir los resultados y, por tanto, que estos sean reales.

Un horizonte lleno de retos

Tal y como mencionó Mª Eugània Gay, presidenta del Barcelona BAR, hay que ser conscientes del gran poder que da el big data a gobiernos y organizaciones de todo tipo, y el uso de ese poder podría convertirse en algo todavía más serio si, como señaló Katrin-Cécile Ziegler, economista digital, en un futuro la tecnología pueda llegar a conocer los pensamientos de las personas.

También es necesario crear unos pilares básicos sobre los que desarrollar la IA. Karmen Turk, miembro externo del Grupo de expertos de alto nivel sobre IA, mencionaba en su ponencia la posibilidad de que los algoritmos creen, negocien, concluyan o ejecuten acuerdos, o tomen decisiones legales y éticas, con todas las consecuencias que ello puede tener.

Además, el impacto de la IA en los trabajos tal y como se conocen actualmente traerá cambios y todavía no están claras qué consecuencias tendrán. (Vid: ¿Cómo será el futuro del trabajo?)

Ángeles Heras, Secretaria de Estado de Universidades, Investigación, Desarrollo e Innovación, mencionaba las tres corrientes de pensamiento existentes sobre lo anterior. La más pesimista cree que la automatización de tareas conllevaría una gran destrucción de puestos de trabajo, la más optimista que los trabajos destruidos se equilibrarían con otros creados en otros nuevos oficios, y la tercera corriente se basa en una solución intermedia. (Vid. ¿Se quedará un robot con tu trabajo?).

Independientemente de lo que suceda, se constató de manera clara en el congreso que el uso de la IA se debe basar en la ética, la transparencia, la seguridad, y la eliminación de sesgos y prejuicios en su programación, y debe ir acompañada de un aumento de las habilidades digitales y la alfabetización digital de todas las personas para poder afrontar con garantías esta época que se ha comenzado ya a vivir.