Google prohíbe el uso de pronombres de género a Smart Compose

Ciudad de México, 29-11-2018 |

Para prevenir ofensas referentes al género o identidad de un usuario, Gmail dejará de predecir pronombres

Alphabet Inc.introdujo en mayo de 2018 una característica para Gmailque consiste en una herramienta llamada "Smart Compose" dedicada a complementar de forma automática y predictiva los enunciados que los usuarios escriben. Por ejemplo, si un usuario escribía "me gusta", esta herramienta podía escribir "tú o eso" y otras respuestas predictivas respecto al tipo de mensajes.

Esta tecnología no sugerirá, de ahora en adelante, pronombres basados en el género de una persona debido al riesgo de que la modalidad conocida como "Smart Compose" pueda predecir el sexo o identidad de género de un usuario incorrectamente y estos puedan ofenderse.

Paul Lambert, gerente de productos de Gmail, dijo que uno de los científicos investigadores de la compañía descubrió este problema cuando escribió "Me reuniré con un inversionista la próxima semana" y la herramienta Smart Compose sugirió una posible pregunta para continuar la cadena de mensajes, ¿Deseas conocerlo? En lugar de escribir conocerla.

A pesar de que los consumidores están acostumbrados a penosos errores de escritura por usar el autocorrector en un smartphone, Google se negó a arriesgarse y enfrentar un problema de género en un momento crítico de fuertes luchas de género en donde lasociedad y la política se han enfocado en cambiar esta problemática e incluso cuando críticos y expertos se encuentran analizando y realizando experimentos de los riesgos de Inteligencia Artificial (IA)más que nunca.

De acuerdo a esto, Paul Lambert comentó, "no todos los errores son iguales", meterse en el tema de género implicaba una "cosa grande" para equivocarse. También dijo que conseguir una composición predictiva "inteligente" podría ser bueno en el negocio y para demostrar que Google,como compañía, comprende las implicaciones de utilizarIA más avanzado en comparación a sus competidores. Destacando este factor como una estrategia de posicionamiento de marca y de atracción de clientes gracias a la calidad de sus herramientas de computación, publicidad yhardware impulsados también por Inteligencia Artificial.

La cantidad de usuarios deGmailasciende a 1.500 millones de personas; la herramienta Smart Compose asiste al 11 por ciento de los mensajes que se envían a través de Gmail.com,plataforma en donde se lanzó por primera vez esta función. Smart Compose es un ejemplo denominado por los desarrolladores como generación de lenguaje natural (NLG por sus siglas en inglés) y consiste en que las computadoras aprenden a escribir oraciones al analizar los patrones y relación de las palabras gracias a la literatura,correos electrónicosy páginas web.

Smart Compose cuenta con un equipo de 15 ingenieros y diseñadores y prueban soluciones para los posibles errores de género, pero ningun error valió la pena el riesgo, así que decidieron la mejor solución sería limitar la herramienta y prohibir los pronombres de género. Lambert aseguró que la decisión de Google de no apostar a cometer un error en cuanto al género, responde a algunos eventos penosos de alto perfil cometidos en el pasado por culpa de las tecnologías predictivas de la compañía.

Google eliminó también los insultos raciales de las herramientas de predicción, así como las menciones de sus rivales de negocios o eventos trágicos. La compañía utiliza pruebas desarrolladas por su equipo de ética de Inteligencia Artificial para descubrir nuevos sesgos respecto al país en donde se implantan herramientas como Smart Compose, aunque Paul Lambertfue puntual al decir que la supervisión humana siempre deberá ir de la mano con elementos deIA.