Juzgado de EU acusa a chatbot de intentar hacerse pasar por médico con licencia
COMPARTIR
Un organismo estatal detectó que el uso de la aplicación Character.AI ha podido engañar a usuarios del sistema de salud por hacerse pasar por especialistas
En Estados Unidos, un juzgado del estado de Pensilvania demandó a una empresa de inteligencia artificial, al afirmar que sus chatbots se hacen pasar ilegalmente por médicos y están engañando a los usuarios del sistema para que crean que están recibiendo asesoramiento médico de un profesional con licencia.
La demanda, presentada el viernes, solicita al tribunal del estado que Character Technologies Inc., la empresa detrás de Character.AI, deje de permitir que sus chatbots “incurran en la práctica ilegal de la medicina y la cirugía”.
La demanda indica que un investigador del organismo estatal que otorga licencias a profesionales creó una cuenta en Character.AI, buscó la palabra “psiquiatría” y encontró una gran cantidad de personajes, incluido uno descrito como “doctor en psiquiatría”.
Ese personaje se presentaba como capaz de evaluar al usuario “como un médico” con licencia en Pensilvania, según la demanda.
“Los habitantes de Pensilvania merecen saber con quién —o con qué— están interactuando en línea, especialmente cuando se trata de su salud”, declaró el gobernador Josh Shapiro en un comunicado. “No permitiremos que las empresas desplieguen herramientas de IA que induzcan a las personas a creer que están recibiendo asesoramiento de un profesional médico con licencia”.
Character Technologies no respondió a una consulta el lunes.
La empresa ha enfrentado varias demandas relacionadas con la seguridad infantil. En enero, Google y Character Technologies acordaron resolver una demanda presentada por una madre de Florida que alegó que un chatbot empujó a su hijo adolescente a suicidarse.
El otoño pasado, Character.AI prohibió que los menores usaran sus chatbots en medio de crecientes preocupaciones sobre los efectos de las conversaciones con inteligencia artificial en los niños.
Character.ai es un servicio de chatbot de IA generativa donde los usuarios pueden entablar conversaciones con personajes personalizables —por rol o género—. Fue diseñado por los desarrolladores de Google LaMDA , Noam Shazeer y Daniel de Freitas.
