Panelistas durante una sesión de la Regata Women in Tech en Seattle el miércoles. De izquierda a derecha están las moderadoras Sarah Studer de la Universidad de Washington, Maria Martin de Nordstrom, Nandita Krishnan de Adobe y Anya Edelstein de Highspot. (Foto de la regata WiT)
Las mujeres han sido excluidas durante mucho tiempo de los conjuntos de datos y de las decisiones que determinan todo, desde la seguridad del automóvil hasta los diagnósticos médicos. Los líderes de la industria advierten que un enfoque apresurado hacia la inteligencia artificial corre el riesgo de repetir estos patrones.
Ese fue el mensaje central en la Regata Mujeres en Tecnología de esta semana en Seattle, donde los oradores pidieron una participación más temprana y más amplia en el desarrollo de la IA a medida que se acelera la adopción.
“Con el tiempo, la excepción empeora y se vuelve mucho más difícil de detectar”, dijo Anya Edelstein, gerente de capacitación de Highspot, con sede en Seattle, durante un panel sobre liderazgo en IA el miércoles. “Si no se tiene en cuenta su punto de vista cuando se toman decisiones inicialmente, será más difícil hacer cambios más adelante”.
En los últimos años, los investigadores han tratado de mitigar las deficiencias de los modelos de aprendizaje automático entrenados en conjuntos de datos sesgados o sesgados, incluido el diagnóstico erróneo de insuficiencia renal en mujeres. Mientras tanto, las mujeres de todo el mundo tienen aproximadamente un 20% menos de probabilidades que los hombres de utilizar herramientas de inteligencia artificial, lo que exacerba aún más las desigualdades en el aprendizaje.
Al menos en tecnología, la brecha de género en la IA parece estar cerrándose. Es un cambio notable a medida que las empresas buscan automatizar a escala y las preocupaciones sobre la desinformación y la seguridad de los datos giran en torno a la salida a bolsa de Anthropic y OpenAI.
Las mujeres lideran la estrategia de IA, con precaución
Según una encuesta de más de 1.700 líderes de la industria publicada a principios de este mes por Chief, una red de liderazgo centrada en mujeres, la mayoría de las mujeres en posiciones de liderazgo (80%) están implementando una estrategia de IA en el lugar de trabajo, donde priorizan la implementación responsable sobre la velocidad.
“Esto a menudo contrasta con la presión de las empresas para que adopten herramientas y estrategias de inteligencia artificial más rápidamente”, dijo Maria Martin, directora de gestión de productos de Nordstrom.
“Hay menos tiempo entre tomar una decisión y escalarla”, dijo Martin en un panel el miércoles. “Es importante avanzar e involucrarse lo antes posible”.
En el grupo de ejecutivas encuestadas, el 71% fueron las primeras en notar los riesgos asociados a la IA en sus empresas.
“Si no intervenimos intencionalmente en cada paso del camino”, dijo Edelstein, “pueden aparecer prejuicios”.
Trae mujeres a la habitación
El desafío de atraer mujeres calificadas para roles de liderazgo en IA y toma de decisiones puede comenzar con la contratación. Al menos dos tercios de los reclutadores utilizan IA para seleccionar candidatos. Se ha descubierto que este proceso reproduce prejuicios raciales y de género, a menudo de manera interseccional.
Los participantes se reunieron el miércoles en la Regata Women in Tech en Seattle. (Cortesía de WiT Regatta)
En 2024, investigadores de la Universidad de Washington descubrieron que los currículos de detección de IA preferían los nombres masculinos a los femeninos el 89% de las veces, y los nombres asociados con blancos a los nombres asociados con negros el 85% de las veces. Un año después, la Universidad de Washington descubrió que los gerentes de contratación reflejaban sesgos en su modelo de IA.
Las mujeres y las personas de color enfrentan presiones para asimilarse y cambiar de código (como usar un nombre neutral en cuanto a raza y género en un currículum) incluso antes de poner un pie en una oficina. “Una vez contratados, se trata de encontrar a las personas adecuadas que los apoyen”, dijo Cynthia Tee, ejecutiva de ingeniería e informática desde hace mucho tiempo.
Tee sugiere que más líderes de la industria podrían implementar un modelo de patrocinio que requiera más intención, riesgo percibido y costo que las típicas alianzas en el lugar de trabajo.
“Seguir presionando para que se realicen ascensos para las personas que los merecen”, dijo Tee durante una discusión sobre la dinámica en el lugar de trabajo. “Continúe atrayendo personas más diversas a través de sus canales de reclutamiento. Continúe atrayendo personas cuyas voces no se escuchan”.
La conversación sobre inteligencia artificial es para todos
Puede existir una barrera de confianza para comprender y utilizar la IA, en parte debido al diseño de “caja negra” de la industria. Nandita Krishnan, científica de datos de Adobe que también trabaja como desarrolladora de aplicaciones, sugiere reservar tiempo cada semana para leer las últimas noticias y experimentar con la automatización de las tareas cotidianas.
“Si estás programando Vibe, hazlo de manera que mantenga el software seguro”, dijo en un panel con Edelstein y Martin. “Cuando creas sistemas de inteligencia artificial, son muy propensos a sufrir alucinaciones. Añade algo para fundamentar el LLM y dale a tu agente ese hecho o base de datos para asegurarte de que no se pierda”.
La participación de la IA en la toma de decisiones no se limita al conocimiento técnico. Edelstein sugiere establecer valores en torno a la IA, incluida la educación, la atención médica y el medio ambiente, y encontrar líderes de la industria o empresas con quienes colaborar.
Añadió que muchos trabajadores exploran la IA por miedo a quedarse atrás, pero la curiosidad conduce a mejores resultados.
“Si podemos cambiar muchas de las percepciones sobre la IA”, dijo, “ése será el primer paso para involucrar a más personas en la conversación”.
