Los chatbots de IA están bajo escrutinio por los riesgos para la salud mental que representan para los usuarios que desarrollan relaciones con la tecnología o la utilizan como terapia o apoyo durante crisis agudas de salud mental. Mientras las empresas responden a las críticas de usuarios y expertos, una de las nuevas ejecutivas de OpenAI dice que el tema está en el centro de su trabajo.
En mayo de este año, Fiji Simo, un ex alumno de Meta, fue contratado como Gerente General de Aplicaciones de OpenAI. Con la tarea de administrar todo más allá de la infraestructura informática y de investigación del CEO Sam Altman para los modelos de inteligencia artificial de la compañía, detalló el marcado contraste entre trabajar en la compañía de tecnología dirigida por Mark Zuckerberg y Altman en una entrevista con Wired publicada el lunes.
“Yo diría que creo que en Meta no nos ha ido bien en anticipar los riesgos que nuestros productos podrían crear en la sociedad”, dijo Simo a Wired. “En OpenAI, estos riesgos son muy reales”.
Meta no respondió de inmediato a la solicitud de comentarios de Fortune.
Simo trabajó en Meta durante diez años cuando todavía se llamaba Facebook, desde 2011 hasta julio de 2021. Ha estado al frente de la aplicación de Facebook durante los últimos dos años y medio.
En agosto de 2021, Simo se convirtió en director ejecutivo del servicio de entrega de comestibles Instacart. Dirigió la empresa durante cuatro años y en agosto se unió a una de las startups más valiosas del mundo como codirectora ejecutiva.
Una de las primeras iniciativas de Simo en OpenAI fue la salud mental, dijo a Wired el hombre de 40 años. Otra iniciativa que se le encomendó fue lanzar el programa de certificación de inteligencia artificial de la empresa para ayudar a mejorar las habilidades de IA de los trabajadores en un mercado laboral competitivo y tratar de mitigar las interrupciones en el uso de la inteligencia artificial dentro de la empresa.
“Así que es una gran responsabilidad, pero siento que tenemos tanto la cultura como las prioridades para abordarlo desde el principio”, dijo Simo.
Al unirse al gigante tecnológico, Simo dijo que con solo mirar el panorama, inmediatamente supo que necesitaba abordar la salud mental.
Un número cada vez mayor de personas está cayendo presa de lo que a veces se llama psicosis por IA. A los expertos les preocupa que los chatbots como ChatGPT puedan alimentar la confusión y la paranoia de los usuarios, lo que lleva a la hospitalización, el divorcio o la muerte.
Una auditoría de OpenAI realizada por la revista médica BMJ, revisada por pares, publicada en octubre, encontró que cientos de miles de usuarios de ChatGPT cada semana muestran signos de psicosis, manía o ideación suicida.
Un estudio reciente de la Universidad de Brown también encontró que a medida que más personas recurren a ChatGPT y otros modelos de lenguaje importantes para obtener asesoramiento sobre salud mental, están violando sistemáticamente los estándares éticos de salud mental establecidos por organizaciones como la Asociación Estadounidense de Psicología.
Simo dijo que tendría que tomar caminos “inexplorados” para abordar estos problemas de salud mental, y agregó que existía un riesgo inherente ya que OpenAI implementaba continuamente diferentes funciones.
“Cada semana hay nuevos comportamientos con funciones que lanzamos y decimos: ‘Oh, ese es otro problema de seguridad que debe resolverse'”, dijo Simo a Wired.
Sin embargo, Simo observó la reciente introducción por parte de la compañía de controles parentales para cuentas de adolescentes ChatGPT y agregó que OpenAI está trabajando en “predicción de edad para proteger a los adolescentes”. Meta también ha tomado medidas para introducir controles parentales a principios del próximo año.
Sin embargo, hacer lo correcto siempre es extremadamente difícil”, dijo Simo, debido a la gran cantidad de usuarios (800 millones por semana). Por eso tratamos de identificar tantos comportamientos como sea posible que no son ideales y luego mejoramos continuamente nuestros modelos”.
