Es sexista la IA? Una perspectiva de género en la robótica y en la inteligencia artificial

Trabajando hacia el desarrollo de tecnologías más inclusivas, equitativas y justas

by Silvia Mazzetta Date: 17-05-2023 IA robótica

En su artículo, Maria Antonia Huertas Sánchez de la UOC - Universitat Oberta de Catalunya, nos brinda una explicación sobre por qué deberíamos incorporar una visión de género en la robótica y la inteligencia artificial al combinar el concepto de epistemología con la definición de inteligencia artificial.

La epistemología se refiere a la "teoría de los fundamentos y métodos del conocimiento científico".

En otras palabras, se ocupa de la "validez" del proceso que construye el conocimiento científico, es decir, el conocimiento sometido a los requisitos de precisión y objetividad propios de la metodología científica.

Por otro lado, la "inteligencia artificial" es la disciplina científica que se ocupa de crear programas informáticos que realizan operaciones similares a las que lleva a cabo la mente humana, como el aprendizaje y el razonamiento lógico.

Cuando combinamos ambos conceptos, podemos afirmar que la epistemología de la inteligencia artificial se ocupa de la validez de los procedimientos utilizados para obtener programas informáticos que simulan la inteligencia humana.

Pero, ¿cómo llegamos a la necesidad de incorporar una perspectiva de género en la IA? Al analizar el significado de feminismo en el vocabulario, encontramos que se refiere al "principio de igualdad de derechos entre hombres y mujeres".

Ahora, la IA en sí no es intrínsecamente sexista, pero puede aprender y reflejar los sesgos presentes en los datos con los que se entrena. Los algoritmos de IA, incluidos los modelos de aprendizaje automático, aprenden patrones y hacen predicciones basándose en los patrones presentes en los datos con los que han sido entrenados. Si los datos de entrenamiento contienen sesgos o reflejan prejuicios sociales, el sistema de IA puede amplificar y perpetuar inadvertidamente esos sesgos.

Por ejemplo, si un sistema de IA se entrena en un conjunto de datos que consiste principalmente en información sesgada o discriminatoria, como datos históricos que reflejan la desigualdad de género, el sistema de IA puede aprender y reproducir esos sesgos a la hora de tomar decisiones o proporcionar recomendaciones.

Es crucial reconocer que los sistemas de IA son tan imparciales como los datos con los que se entrenan y la forma en que se diseñan y desarrollan. El sesgo en la IA es el resultado de datos sesgados y de las decisiones tomadas durante el proceso de desarrollo y formación. Se están haciendo esfuerzos para desarrollar conjuntos de datos de entrenamiento más diversos y representativos, mejorar los procesos de etiquetado de datos y aplicar medidas de imparcialidad en los algoritmos de IA para mitigar el sesgo y promover la imparcialidad.

Abordar y mitigar el sesgo en la IA es un reto continuo, y requiere una combinación de selección cuidadosa de datos, equipos de desarrollo diversos e inclusivos y procesos de evaluación sólidos para garantizar la equidad y mitigar el riesgo de perpetuar el sexismo u otras formas de discriminación.

¿Por qué es relevante la epistemología feminista en el ámbito de la inteligencia artificial?

Es importante examinar esta cuestión a través de un ejemplo ilustrativo:

Tay era una inteligencia artificial diseñada para aprender mediante la lectura de tweets y la interacción con otros usuarios en la plataforma de Twitter. Los programadores la describieron como "más inteligente cuanto más habla".

Sin embargo, en cuestión de horas, Tay comenzó a publicar mensajes sexistas y racistas, lo que llevó a su desconexión por parte de Microsoft. En un principio, Microsoft intentó atribuir esto a un ataque de 4chan, pero nunca se pudo demostrar.

Por qué es necesaria una perspectiva de género en la robótica y la inteligencia artificial

¿Qué sucedió exactamente?

Tay fue programada para procesar y generar datos a partir de las conversaciones de usuarios de Twitter, específicamente aquellos de entre 18 y 24 años, con el fin de perfeccionar su lenguaje y adaptarse a las actitudes y aptitudes de la generación millennial para parecer más humana. Sin embargo, ¿era válido este enfoque de aprendizaje para obtener una inteligencia artificial libre de sesgos sexistas y racistas? Claramente no, ya que se pasó por alto el hecho de que el contenido de Twitter no garantizaba la igualdad de género necesaria.

Encontramos casos similares en robots humanoides como Valkyrie, diseñado por la NASA para soportar temperaturas extremas y sobrevivir en entornos hostiles para los seres humanos, y en Sophia, el robot de IA más avanzado desarrollado por Hanson Robotics con el propósito de ayudar en campos como la medicina y la educación. Ambos robots presentan características que estereotipan a las mujeres.

En estos casos y otros similares, estos robots "femeninos" suelen exhibir una sexualización exagerada que resulta innecesaria para su funcionalidad.

¿Qué aspecto del proceso de construcción ha llevado a ese resultado?

Según Lucy Suchman, citada por Erika Hayasaki en su artículo Is AI Sexist?" (2017), hay un elemento en la epistemología feminista que ofrece una explicación: "Para algunos diseñadores, los robots de género se convierten en un proyecto masculino de crear artificialmente a la mujer perfecta".

En ambos ejemplos mencionados, el componente sexista arraigado en la cultura patriarcal hegemónica resulta "invisible" para muchos de los diseñadores, especialmente si son hombres (y a menudo, también si son mujeres, debido a que el sexismo es un elemento estructural de nuestra cultura).

La epistemología feminista habría proporcionado las lentes necesarias para hacer visible este problema y permitir el análisis de la validez o invalidez de un procedimiento para obtener robots libres de sesgos de género.

Conclusiones

En resumen, es esencial y necesario adoptar una perspectiva de género en el campo de la robótica y la inteligencia artificial (IA). Esta perspectiva permite reconocer y abordar los posibles sesgos y desigualdades que pueden surgir en el desarrollo, implementación y uso de estas tecnologías.

Aquí hay algunas razones por las cuales la perspectiva de género es crucial en la robótica y la IA:

1. Identificación y mitigación de sesgos: Los sistemas de IA pueden involuntariamente perpetuar y amplificar los sesgos de género presentes en los datos con los que son entrenados. Adoptar una perspectiva de género ayuda a identificar y comprender estos sesgos, lo que permite a investigadores y desarrolladores trabajar activamente para mitigarlos.

2. Diseño inclusivo: Considerar la perspectiva de género fomenta prácticas de diseño inclusivo. Esto implica comprender las diferentes necesidades, preferencias y experiencias de los distintos géneros, y asegurarse de que las tecnologías de IA se desarrollen para satisfacer esas diferencias. De esta manera, los sistemas de IA pueden ser más inclusivos y accesibles para todos los usuarios.

3. Evaluación del impacto basada en el género: La perspectiva de género ayuda a evaluar el posible impacto de las tecnologías de IA en los diferentes géneros. Permite examinar cómo los sistemas de IA pueden afectar la igualdad de género, las normas sociales y las dinámicas de poder. Esta evaluación puede guiar el desarrollo de políticas y pautas que promuevan resultados equitativos.

4. Representación y diversidad: Fomentar una perspectiva de género en la robótica y la IA promueve una representación diversa en este campo. Involucra la participación de personas de diferentes géneros en el proceso de diseño y desarrollo, asegurando que se tengan en cuenta una amplia gama de perspectivas y experiencias.

5. Consideraciones éticas: La perspectiva de género agrega una dimensión ética al desarrollo de la IA. Genera debates sobre las implicaciones de las tecnologías de IA en la privacidad, el consentimiento, la autonomía y los derechos humanos, especialmente en relación con las cuestiones de género. Esta consideración es crucial para un desarrollo responsable de la IA.

Basicamente, al incorporar una perspectiva de género en la robótica y la IA, podemos trabajar hacia el desarrollo de tecnologías más inclusivas, equitativas y justas que aborden las diversas necesidades y experiencias de todas las personas, sin importar su género.
¿Qué opináis?

 
by Silvia Mazzetta Date: 17-05-2023 IA robótica visitas : 663  
 
Silvia Mazzetta

Silvia Mazzetta

Web Developer, Blogger, Creative Thinker, Social media enthusiast, Italian expat in Spain, mom of little 9 years old geek, founder of  @manoweb. A strong conceptual and creative thinker who has a keen interest in all things relate to the Internet. A technically savvy web developer, who has multiple  years of website design expertise behind her.  She turns conceptual ideas into highly creative visual digital products. 

 
 
 

Artículos relacionados

El Fediverso, la nueva frontera sin limites de las redes sociales

La gente quiere comunicarse por Internet con la misma facilidad que en la vida real, con protecciones similares pero, potencialmente, con mayor alcance. En otras palabras, la gente quiere poder…

GnuPG, el software libre de cifrado y firma digital

En criptografía, el cifrado es el proceso de codificación de la información. En este proceso convierte la representación original de la información, conocida como texto plano, en una forma alternativa…

¿Cómo facilitar tu vida con ChatGPT?

Ya hemos escrito varios articulos sobre la inteligencia artificial que está revolucionando el mundo, pero esta vez hablaremos de cómo te puede ayudar con tareas diarias y así ahorrarte tiempo…

Top herramientas para la gestión de redes sociales

A día de hoy sabemos que tener presencia en las redes sociales es cada vez más importante si quieres impulsar tu negocio y llegar a mucha más audiencia Pero primero de todo, ¿Qué…

El futuro laboral bajo la sombra de la automatización

La automatización y el avance de la tecnología han generado preocupación en algunos sectores sobre la posibilidad de que los robots quiten el trabajo a los humanos. Si bien es…

¿La inteligencia artificial dejará sin trabajo a los programadores?

Uno de los temas más debatidos en relación a la inteligencia artificial es la posibilidad de que los puestos de trabajo sean reemplazados debido a la automatización de los procesos…

Las cinco leyes de la Ingeniería de Software aplicadas a la Inteligencia Artificial

En su artículo titulado The Five Laws of SE for AI (Cinco leyes de la Ingeniería de Software para la Inteligencia Artificial), Tim Menzies reflexiona sobre el papel que desempeña…

Qué es Docker y cómo empezar a usarlo.

Docker es una plataforma creada con el fin de desarrollar, implementar y ejecutar aplicaciones dentro de contenedores, lo cual permite a los desarrolladores hacer el empaquetado de dichas aplicaciones junto…

Metaverso vs. multiverso vs. omniverso: Diferencias clave

A medida que aumenta el interés por el metaverso, también se acelera el debate sobre la terminología utilizada para describir el concepto de entornos digitales tridimensionales inmersivos. A veces se…

Nuevas herramientas de inteligencia artificial que debes conocer

Nuevas herramientas de inteligencia artificial que debes conocer Estamos muy cerca de 2023 y todos esperamos una explosión de herramientas basadas en IA en el nuevo año y con razón... Si…

Herramientas alternativas de diseño web open source

Hay muchas herramientas de creación de prototipos, de diseño de interfaz de usuario o aplicaciones de gráficos vectoriales. Pero la mayoría son de pago o de código cerrado. Así que…

Cómo elegir una plataforma de machine learning en la nube

Para crear modelos eficaces de aprendizaje automático y aprendizaje profundo, se necesitan grandes cantidades de datos, una forma de limpiarlos y realizar ingeniería en ellos, junto a un modelo de entrenamiento…

Clicky