Green Lord, cofundador y director ejecutivo de mpathic. (foto compasiva)
A medida que millones de usuarios, entre ellos un gran número de jóvenes, recurren cada vez más a los chatbots de IA como sus “asesores” y confidentes de primera línea, la startup mpathic de Seattle está interviniendo para garantizar que estos agentes digitales no den consejos peligrosos cuando más importa.
La compañía, fundada en 2020 con el objetivo de aportar más empatía a las comunicaciones corporativas, anunció el lunes que está ampliando el soporte para modeladores centrales y equipos de desarrollo de aplicaciones impulsados por LLM.
El objetivo es llevar el software empático a una gama más amplia de desarrolladores de IA y socios empresariales a medida que la IA se convierte en una interfaz para el apoyo médico y de salud mental.
“Básicamente, creamos conjuntos de evaluación o conjuntos de datos de entrenamiento para hacer que los modelos sean más seguros para usuarios vulnerables, como niños o personas con problemas de salud mental, personas en crisis”, dijo el cofundador y director ejecutivo de mpathic, Green Lord, psicólogo certificado e investigador de PNL.
La startup aprovecha sus décadas de experiencia en ensayos clínicos y hospitales para ayudar a los equipos de IA a realizar pruebas de estrés del comportamiento previo al despliegue, evaluar respuestas y monitorear interacciones en tiempo real con protecciones que pueden señalar, redirigir o intervenir cuando sea necesario.
“Es similar a cómo la gente crea datos sintéticos para la IA visual”, dijo Lord. “No todos los días un niño corre delante de un Waymo, pero podemos modelarlo de 10.000 maneras con datos sintéticos. Eso es esencialmente lo que estamos haciendo, pero desde una perspectiva psicológica utilizando el lenguaje”.
En uno de sus primeros proyectos, mpathic dijo que su programa dirigido por médicos ayudó al modelador a reducir la cantidad de reacciones adversas o peligrosas en más del 70%.
Para impulsar su expansión en 2025, mpathic recaudó 15 millones de dólares adicionales liderados por Foundry VC. La compañía dice que su cambio hacia la seguridad fundamental llevó a un crecimiento quintuplicado trimestre tras trimestre a finales del año pasado.
Si bien Mpathic comenzó a crear software para analizar conversaciones que ocurren en textos corporativos, correos electrónicos, llamadas de audio, etc., a partir de 2021 está desarrollando modelos para situaciones clínicas de alto riesgo. Hoy en día, la escala de infraestructura humana integrada de la startup incluye una red global de miles de expertos clínicos autorizados. La empresa está incorporando cientos de empleados más cada semana para satisfacer la demanda.
“Esta es una empresa muy diferente de lo que era hace unos trimestres”, dijo Lord.
Lord, finalista de la categoría “CEO de startups” de los premios GeekWire 2023, se autodenomina “tecnooptimista” y “realista” en lo que respecta a la inteligencia artificial, y agrega que es una “abrazadora radical” de la utilidad de la tecnología.
“No me sorprende en absoluto que si hay algo disponible las 24 horas del día, los 7 días de la semana que actúa como un terapeuta, hables con él y lo uses. Y eso podría ser mejor que nada”, afirmó. “Creo que el potencial de esta tecnología para tener un impacto realmente positivo es muy alto. Creo que podemos enseñar tanto a los humanos como a la IA a escuchar bien y con precisión y no causar daño”.
Sin nombrar empresas o modelos específicos, Mpathic confirmó que trabaja con desarrolladores líderes de modelos fundamentales de IA que prestan servicios a decenas de millones de usuarios. La startup también cuenta con socios clínicos, incluidos Panasonic WELL, Seattle Children’s Hospital, Transcend y otros.
Mpathic, que emplea a unas 34 personas y está “contratando como un reguero de pólvora”, según Lord, también ha ampliado su equipo de liderazgo con la incorporación de la directora de marketing Rebecca Bastian (Zillow, AllTrail, Glowforge); y la científica jefe Alison Cerezo (miembro asesor de la Asociación Estadounidense de Psicología sobre Inteligencia Artificial).
