{"id":3063,"date":"2020-10-27T08:18:02","date_gmt":"2020-10-27T06:18:02","guid":{"rendered":"https:\/\/inlab.fib.upc.edu\/?p=3063"},"modified":"2020-10-27T08:18:02","modified_gmt":"2020-10-27T06:18:02","slug":"la-importancia-de-crear-una-ia-bajo-un-prisma-de-igualdad","status":"publish","type":"post","link":"https:\/\/inlab.fib.upc.edu\/es\/uncategorized-ca-en\/la-importancia-de-crear-una-ia-bajo-un-prisma-de-igualdad","title":{"rendered":"La importancia de crear una IA bajo un prisma de igualdad"},"content":{"rendered":"

Autores externos al inLab FIB: <\/strong>Sara Garc\u00eda Arias, crimin\u00f3loga y especialista en g\u00e9nero e igualdad<\/em><\/p>\n

Cada vez est\u00e1 m\u00e1s presente la inteligencia artificial (IA) en la toma de decisiones de muchos aspectos de nuestras vidas: desde algoritmos de recomendaci\u00f3n de compras hasta la selecci\u00f3n de candidaturas en entrevistas de trabajo. Debido a la importancia de los sistemas de IA en nuestra sociedad, es necesario preguntarse si en el momento de crear estos algoritmos no s\u00f3lo se siguen par\u00e1metros \u00e9ticos, sino tambi\u00e9n, y m\u00e1s concretamente, si se aplica la perspectiva de g\u00e9nero.<\/p>\n

\nIA y los sesgos: desigualdades de g\u00e9nero<\/h2>\n
Las diferencias de g\u00e9nero y los estereotipos sexistas impregnan la sociedad en la que vivimos, un hecho que invariablemente lleva a que la IA se alimente de sesgos, basados en prejuicios, y se conformen traductores autom\u00e1ticos<\/a> o buscadores de im\u00e1genes<\/a> sexistas. No obstante, estos son ejemplos de conjunto de datos sesgados m\u00e1s evidentes y en los que ya se est\u00e1n intentando aplicar soluciones: Google Translate<\/a>, por ejemplo, traduce a la vez al femenino y al masculino una palabra sin diferencia de g\u00e9nero en el ingl\u00e9s.<\/div>\n
 <\/div>\n
\u00bfQu\u00e9 pasar\u00eda si nos encontramos con un conjunto de datos representativo de la realidad, sin un sexismo expl\u00edcito, sin sesgos cognitivos, y no aplicamos un enfoque de g\u00e9nero? Seguramente nos topar\u00edamos ante una situaci\u00f3n parecida a la de Amazon<\/a>, que se vio obligado a cancelar un proyecto en el que una IA experta en reclutamiento discriminaba los CV que inclu\u00edan la palabra \u201cmujer\u201d entre su texto. Este algoritmo se alimentaba de un conjunto de datos donde la mayor\u00eda de candidaturas eran masculinas, por ende, aprendi\u00f3 a priorizar a los hombres por encima de las mujeres.
\n <\/div>\n
Es por este motivo por el que, a pesar de tener un conjunto de datos representativo de la realidad a nivel mostral y aparentemente no sesgado, es fundamental la perspectiva de g\u00e9nero desde el primer momento en el que se dise\u00f1a un algoritmo.<\/div>\n
 <\/div>\n

\u00bfQu\u00e9 es el enfoque de g\u00e9nero?<\/h2>\n
Cuando se habla de perspectiva o enfoque de g\u00e9nero, nos referimos a un an\u00e1lisis e identificaci\u00f3n de la existencia de construcciones sociales y culturales propias entre mujeres y hombres con un trasfondo de desigualdad y discriminaci\u00f3n hacia las mujeres. El objetivo de la aplicaci\u00f3n del enfoque de g\u00e9nero no es \u00fanicamente ser conscientes de estas diferencias sino de crear y poner en marcha soluciones para evitar que se sigan reproduciendo.<\/div>\n
\nUno de los conceptos que explican estas desigualdades es la socializaci\u00f3n diferencial de g\u00e9nero: mujeres y hombres aprenden y reproducen los roles y estereotipos de cada g\u00e9nero. Por tanto, el tiempo y los espacios est\u00e1n distribuidos de manera diferente seg\u00fan seas socializado como mujer o como hombre.<\/div>\n
\nEsto implica, por ejemplo, que las mujeres se ocupen m\u00e1s de la esfera privada, es decir, del cuidado y la familia, mientras que los hombres se desarrollan m\u00e1s en una esfera p\u00fablica (seg\u00fan el Institut Catal\u00e0 de la Dona<\/a> (2020), las mujeres solicitan el 91,1% de las excedencias para el cuidado de las hijas, hijos y\/o familiares, mientras que los hombres lo piden el 9,8% de los casos).<\/div>\n
 <\/div>\n

Los problemas de la IA sin enfoque de g\u00e9nero<\/h2>\n

\u00bfC\u00f3mo afecta esto a la configuraci\u00f3n de una IA? Pues, por ejemplo, esta diferenciaci\u00f3n de g\u00e9nero provoca que un porcentaje importante de las mujeres trabajen a tiempo parcial (Institut Catal\u00e0 de la Dona<\/a>, 2020). Por tanto, si quisi\u00e9ramos conformar una IA con el objetivo de buscar una candidatura \u00f3ptima para cubrir un puesto de trabajo a jornada completa, con el conjunto de datos con el que se entrenar\u00e1, la IA acabar\u00e1 descartando a las mujeres. A pesar de tener unos datos representativos de la realidad, si no han sido tratados con perspectiva de g\u00e9nero, la IA tomar\u00e1 decisiones discriminatorias.<\/p>\n

 <\/p>\n

Integraci\u00f3n de la perspectiva de g\u00e9nero en el mundo STEM<\/h2>\n

Para evitar perpetuar estas diferencias de g\u00e9nero en el momento de crear un algoritmo de IA es necesario tener en cuenta todas estas variables con un enfoque de g\u00e9nero. \u00bfC\u00f3mo hacerlo?<\/p>\n

A corto plazo, en primer lugar, crear equipos multidisciplinares entre ingenier\u00edas y ciencias sociales con el objetivo de fusionar y complementar conocimientos, de modo que se identifiquen posibles desigualdades entre el conjunto de datos y se puedan crear algoritmos \u00e9ticos e igualitarios. En segundo lugar, crear algoritmos no discriminatorios y hacer auditor\u00edas y monitoreo de los mismos, de tal manera que se podr\u00e1 detectar cualquier sesgo en el resultado. Por \u00faltimo, abogar por la transparencia y divulgaci\u00f3n de los algoritmos para que la sociedad los pueda entender y cuestionar.<\/p>\n

A largo plazo, por un lado incidir en la formaci\u00f3n y sensibilizaci\u00f3n en perspectiva de g\u00e9nero de manera transversal en las ingenier\u00edas que sirva para realizar un an\u00e1lisis y tratamiento de los datos dirigido a evitar desigualdades y, por otro lado, amplificar y diversificar el conjunto de profesionales de ingenier\u00edas fomentando en concreto el acceso de las mujeres en las ciencias.<\/p>\n

Cada uno de estos temas supone una \u00e1rea de investigaci\u00f3n por s\u00ed misma e invitamos al mundo STEM (Ciencia, Tecnolog\u00eda, Ingenier\u00eda y Matem\u00e1ticas) a adentrarse sin miedo en la aplicaci\u00f3n del enfoque de g\u00e9nero y en materias de igualdad en general.<\/p>\n

Tenemos claro que este cambio no se producir\u00e1 de un d\u00eda para otro, pero es nuestro deber crear tecnolog\u00eda que sea efectiva y justa para todas las personas y el mundo. Tomar conciencia nos permitir\u00e1 formar parte de la soluci\u00f3n y no seguir perpetuando modelos discriminatorios que conforman la realidad en la que vivimos pero no el mundo que queremos construir.<\/p>\n

 <\/p>\n

BIBLIOGRAFIA \/ REFERENCIAS<\/strong> <\/p>\n

Institut Catal\u00e0 de la Dona, 2020. Dossier Dones i Treball<\/p>\n

http:\/\/dones.gencat.cat\/web\/.content\/03_ambits\/Observatori\/03_dossiers_estadistics\/2020-Dossier-Dones-i-Treball.pdf<\/a><\/p>\n

Kuczmarski, J. (2018). Reducing gender bias in Google Translate<\/p>\n

https:\/\/www.blog.google\/products\/translate\/reducing-gender-bias-google-translate\/<\/a><\/p>\n

Otterbacher, J., Bates, J. & Clough, P. (2017) Competent Men and Warm Women: Gender Stereotypes and Backlash in Image Search Results<\/em>. In: Proceedings of the 2017 CHI Conference on Human Factors in Computing Systems. 2017 CHI Conference on Human Factors in Computing Systems, 6-11 May 2017, Colorado Convention Center, Denver, CO. Association for Computing Machinery , pp. 6620-6631. http:\/\/eprints.whiterose.ac.uk\/111419\/7\/Exploring_bias_FINAL_6_toshare.pdf<\/a><\/p>\n

Zhou, P., Shi, W., Zhao, J., Huang, K., Chen, M., Cotterell, R. & Chang, K. (2019). Examining gender bias in languages with grammatical gender<\/em>. In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP), pages 5276\u20135284, Hong Kong, China. Association for Computational Linguistics. https:\/\/arxiv.org\/pdf\/1909.02224.pdf<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Autores externos al inLab FIB: Sara Garc\u00eda Arias, crimin\u00f3loga y especialista en g\u00e9nero e igualdad Cada vez est\u00e1 m\u00e1s presente la inteligencia artificial (IA) en la toma de decisiones de muchos aspectos de nuestras vidas: desde algoritmos de recomendaci\u00f3n de compras hasta la selecci\u00f3n de candidaturas en entrevistas de trabajo. Debido a la importancia de los […]<\/p>\n","protected":false},"author":594,"featured_media":3059,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[590],"tags":[],"experteses":[8],"class_list":["post-3063","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized-ca-en","experteses-datascienceandbigdata-en"],"acf":[],"_links":{"self":[{"href":"https:\/\/inlab.fib.upc.edu\/es\/wp-json\/wp\/v2\/posts\/3063","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/inlab.fib.upc.edu\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/inlab.fib.upc.edu\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/inlab.fib.upc.edu\/es\/wp-json\/wp\/v2\/users\/594"}],"replies":[{"embeddable":true,"href":"https:\/\/inlab.fib.upc.edu\/es\/wp-json\/wp\/v2\/comments?post=3063"}],"version-history":[{"count":0,"href":"https:\/\/inlab.fib.upc.edu\/es\/wp-json\/wp\/v2\/posts\/3063\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/inlab.fib.upc.edu\/es\/wp-json\/wp\/v2\/media\/3059"}],"wp:attachment":[{"href":"https:\/\/inlab.fib.upc.edu\/es\/wp-json\/wp\/v2\/media?parent=3063"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/inlab.fib.upc.edu\/es\/wp-json\/wp\/v2\/categories?post=3063"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/inlab.fib.upc.edu\/es\/wp-json\/wp\/v2\/tags?post=3063"},{"taxonomy":"experteses","embeddable":true,"href":"https:\/\/inlab.fib.upc.edu\/es\/wp-json\/wp\/v2\/experteses?post=3063"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}