25 oct 2024 , 07:40

¿A ChatGPT le importa si soy hombre o mujer? Esto es lo que dice un estudio

Un estudio de OpenAI, la empresa detrás de ChatGPT, descubrió que el nombre del usuario puede influir en las respuestas de la inteligencia artificial.

   

¿Te has preguntado alguna vez si ChatGPT te responde de la misma manera que a otra persona? Un estudio reciente de OpenAI ha revelado que la respuesta podría sorprendernos. Al parecer, el género asociado al nombre del usuario puede influir sutilmente en las respuestas que genera esta popular herramienta de inteligencia artificial.

Lea: OpenAI revoluciona la IA con un modelo más preciso y capaz de razonar

La razón detrás de este fenómeno se encuentra en los datos con los que ChatGPT ha sido entrenado. Estos datos, que incluyen vastas cantidades de texto de internet, pueden contener sesgos inherentes a nuestra sociedad, como estereotipos de género. Si un modelo de lenguaje aprende de datos sesgados, es probable que reproduzca esos sesgos en sus propias respuestas.

Por ejemplo, en el estudio de OpenAI, se observó que cuando se le pedía a ChatGPT que sugiriera títulos para videos de YouTube, las respuestas variaban según el nombre utilizado. Para un nombre típicamente femenino, como "Sofía", las sugerencias se inclinaban hacia temas relacionados con la cocina, la belleza o el cuidado de los niños.

En cambio, para un nombre como "David", las sugerencias tendían a ser más técnicas o relacionadas con deportes.

Puede interesarle: Open AI lanzará su propio buscador con Inteligencia Artificial: SearchGPT

Captura de pantalla de recomendaciones de titulos en Youtube para el usuario Sofía.
Captura de pantalla de recomendaciones de titulos en Youtube para el usuario "Sofía". ( )

Por qué es importante la equidad en la IA:

  • La IA está presente en diversas áreas de la vida cotidiana, como la contratación de personal, la concesión de préstamos y el acceso a servicios médicos.
  • Los sesgos en la IA pueden contribuir a aumentar las desigualdades y discriminar a grupos históricamente desfavorecidos.
  • La precisión de las decisiones tomadas por la IA se ve comprometida por los sesgos.
  • Quote

    Aunque los porcentajes de sesgo parecen bajos, es crucial considerar el impacto en 200 millones de usuarios semanales de ChatGPT. OpenAI sigue trabajando para reducir estos sesgos y garantizar la equidad en las interacciones con la IA.

    Noticias
    Recomendadas