logo Google y Gmail

Smart Compose de Gmail es desactivado para evitar prejuicios de género

Así Google evita cometer un error perjudicial

Smart Compose es una función inteligente que elaboró Google para Gmail,  para anticipar lo que usuarios escribirán en sus correos electrónicos mediante una configuración de inteligencia artificial, interesante por mucho. Sin embargo, como pasa con cualquier configuración de IA, depende mucho de lo que se le enseña y de la manera en que se entrena. Para reducir su margen de error, Google ha impedido que sugiera pronombres basados en el género.

La preocupación surge debido a que la compañía determinó que el comportamiento de Smart Compose, tiende a masculinizar el lenguaje y temen que al tratar de adivinar el género equivocado, provoque molestia en sus usuarios.

El gerente de productos de Gmail, Paul Lambert afirma que se trabajó en diversas soluciones posibles pero ninguna ha resultado totalmente eficiente, de modo que prefieren eliminar ese tipo de predicción para ser más inclusivos. También asegura que al final el cambio sólo afectaría a menos del 1% de las predicciones del Smart Compose pero que vale la pena ser cautelosos ya que el género es gran cosa para equivocarse.

Este software aprende a predecir en base al estudio de datos y correos electrónicos antiguos, incluso su función de respuesta inteligente cae en el mismo error. Si bien parece muy pequeño, la problemática puede llegar a ocasionar grandes consecuencias en otros sistemas de inteligencia artificial. Incluso puede provocar una desconfianza de los consumidores hacia los productos de Google, considerando que un software tan inteligente comete errores tan triviales.

Al prevenir todas estas situaciones, la compañía actuó de forma oportuna mientras trabaja en futura inteligencia artificial que evite los errores del pasado.

Vía | The Verge