Tenga cuidado al interactuar con chatbots, ya que podría darles una razón para ayudar a cometer un asesinato premeditado.
Una mujer surcoreana de 21 años supuestamente utilizó ChatGPT para planificar una serie de asesinatos que dejaron dos hombres muertos.
La mujer, identificada sólo por su apellido Kim, supuestamente les dio a los dos hombres bebidas con benzodiazepinas, que le habían recetado para una enfermedad mental, informó el Korea Herald.
Aunque Kim fue arrestada inicialmente por el cargo menor de agresión con resultado de muerte el 11 de febrero, la policía de Kangbuk en Seúl encontró que su historial de búsqueda en línea y sus conversaciones de chat con ChatGPT demostraban que tenía intenciones asesinas.
“¿Qué pasa si tomas pastillas para dormir con alcohol?” Según se informa, Kim le hizo una pregunta al chatbot OpenAI. “¿Qué cantidad se consideraría peligrosa?
“¿Podría ser esto fatal?” supuestamente preguntó Kim. “¿Podría haber matado a alguien?”
En el caso muy publicitado, denominado Muertes en serie del motel Gangbuk, los fiscales dicen que la búsqueda de Kim y el historial del chatbot muestran al sospechoso pidiendo consejos sobre cómo cometer un asesinato premeditado.
“Kim hizo repetidamente preguntas relacionadas con las drogas en ChatGPT. Ella era muy consciente de que beber alcohol con drogas podía provocar la muerte”, dijo un investigador de la policía, según el Herald.
La policía dijo que la mujer admitió haber mezclado sedantes recetados que contenían benzodiazepinas en bebidas para hombres, pero anteriormente dijo que no sabía que eso le provocaría la muerte.
El 28 de enero, poco antes de las 9:30 p. m., Kim supuestamente acompañó a un hombre de unos veinte años al motel Gangbuk en Seúl, y dos horas después fue visto saliendo solo del motel. Al día siguiente el hombre fue encontrado muerto en su cama.
Luego, supuestamente Kim hizo lo mismo el 9 de febrero, registrándose en otro motel con otro hombre de unos 20 años que también fue encontrado muerto con el mismo cóctel letal de sedantes y alcohol.
La policía dice que Kim también intentó matar a un hombre con el que salió en diciembre después de darle una bebida sedante en un estacionamiento. Aunque el hombre perdió el conocimiento, sobrevivió y su vida no corría peligro.
OpenAI no respondió a las solicitudes de comentarios.
Chatbots y su impacto en la salud mental
Los chatbots como ChatGPT han sido objeto de escrutinio recientemente por la falta de medidas de sus empresas para prevenir actos de violencia o autolesiones. Recientemente, los chatbots han dado consejos sobre cómo construir bombas o incluso participar en escenarios de lluvia nuclear a gran escala.
La preocupación se ha visto especialmente aumentada por las historias de personas que se enamoran de sus compañeros chatbot, y se ha demostrado que los compañeros chatbot se aprovechan de las vulnerabilidades para que las personas sigan explotándolas por más tiempo. El creador de Yara AI incluso cerró la aplicación de terapia debido a problemas de salud mental.
Estudios recientes también han demostrado que los chatbots están provocando un aumento de crisis de salud mental delirantes en personas con enfermedades mentales. Un equipo de psiquiatras de la Universidad de Aarhus en Dinamarca descubrió que el uso de chatbots entre quienes padecían enfermedades mentales empeoraba los síntomas. Un fenómeno relativamente nuevo de problemas de salud mental causados por la IA se ha denominado “psicosis por IA”.
Algunos casos terminan en muerte. Google y Character.AI han llegado a un acuerdo en múltiples demandas presentadas por familias de niños que murieron por suicidio o sufrieron daños psicológicos que, según dicen, estaban relacionados con chatbots con inteligencia artificial.
La Dra. Jody Halpern, decana de la Escuela de Salud Pública de UC Berkeley y profesora de bioética y codirectora del Centro Kavli para la Ética, la Ciencia y el Público, tiene una amplia experiencia en esta área. En una carrera que abarca desde su título, Halpern ha pasado 30 años investigando el impacto de la empatía en los destinatarios, citando ejemplos de cómo los médicos y enfermeras tratan a los pacientes o cómo se percibe a los soldados que regresan de la guerra en entornos sociales. Halpern ha pasado los últimos siete años estudiando la ética de la tecnología y, con ella, cómo la IA y los chatbots interactúan con las personas.
También asesoró al Senado de California sobre la SB 243, la primera ley del país que exige a las empresas de chatbots que recopilen e informen cualquier dato sobre autolesiones o suicidios relacionados. Citando los propios datos de OpenAI que muestran que 1,2 millones de usuarios hablan abiertamente sobre el suicidio con un chatbot, Halpern comparó el uso de chatbots con el minucioso y lento progreso realizado para impedir que la industria tabacalera incluya carcinógenos nocivos en los cigarrillos, cuando en realidad el problema era fumar en general.
“Necesitamos empresas seguras. Es como los cigarrillos. Puede ser que haya algunas cosas que hicieran a las personas más vulnerables al cáncer de pulmón, pero los cigarrillos eran el problema”, dijo Halpern a Fortune.
“El hecho de que alguien pueda tener pensamientos homicidas o participar en comportamientos peligrosos podría verse exacerbado por el uso de ChatGPT, lo cual es una preocupación obvia para mí”, dijo, y agregó que “tenemos un riesgo enorme de que la gente lo use para el suicidio asistido” y los chatbots en general.
Halpern advirtió que en el caso de Kim, no había obstáculos en Seúl que impidieran que una persona se presentara para ser interrogada.
“Sabemos que cuanto más larga es la relación con un chatbot, más se deteriora y mayor es el riesgo de que suceda algo peligroso, por lo que todavía no tenemos barreras para proteger a las personas de eso”.
Si tiene pensamientos suicidas, llame a 988 Suicide & Crisis Lifeline marcando 988 o 1-800-273-8255.
