La administración de Shapiro demanda al creador del chatbot, alegando que el robot se tergiversó como un profesional médico
La administración del gobernador de Pensilvania, Josh Shapiro, está demandando a un fabricante de chatbots de inteligencia artificial, alegando que uno de sus robots se tergiversó ilegalmente como un profesional médico.
DEL ESTADO DICE QUE SE VIOLÓ LA LEY. TOMÁS. SÍ, ESTA ES ESENCIALMENTE LA PRIMERA DEMANDA DE ESTE TIPO PRESENTADA POR LA ADMINISTRACIÓN DEL GOBERNADOR DE EE. UU. Y ESENCIALMENTE DICE QUE LOS CHATBOTS COMO LOS PRESENTADOS EN CHARACTER AI, NO TIENEN LICENCIAS MÉDICAS, Y NO DEBEN PODER PRESENTARSE COMO SI FUERAN PROFESIONALES MÉDICOS CON LICENCIA. PERO ESTA DEMANDA TAMBIÉN PIDE AL TRIBUNAL DEL Commonwealth QUE ESENCIALMENTE PROHIBA QUE EL PERSONAJE AI PUEDA HACER QUE LOS CHATBOTS ACTUEN COMO PROFESIONALES MÉDICOS. LOS CHATBOTS CON IA PUEDEN TRANSMITIR MUCHA INFORMACIÓN, PERO NO SON PERFECTOS. PUEDEN REFLEXIONAR SOBRE SESGOS, PROPORCIONAR CONSEJOS ACTUALIZADOS O ENGAÑOSOS, Y CUANDO USTED PREGUNTA MÁS ALLÁ DE ESTA INFORMACIÓN, ESPECIALMENTE EN EL ÁREA COMO SALUD, SEGURIDAD O FINANZAS Y BOTS DE CHAT COMO LOS CITADOS EN LA DEMANDA DEL DEPARTAMENTO DE ESTADO, NO TIENEN LAS MISMAS CREDENCIALES O FORMACIÓN QUE UN MÉDICO REAL. EL REPRESENTANTE DEL ESTADO ARVIND VENKAT, MÉDICO DE OFICINA, DICE QUE LAS ACUSACIONES DE QUE EL CHATBOT ACTUÓ COMO UN PROFESIONAL MÉDICO Y PRODUCIÓ UN NÚMERO DE LICENCIA FALSO SON PREOCUPANTES. Ésa es una enorme línea roja que no debemos permitir que se cruce, porque hace mucho que decidimos que no vamos a permitir que los charlatanes practiquen la medicina, dijo un portavoz de AI. LOS PERSONAJES CREADOS POR EL USUARIO EN NUESTRO SITIO SON FICTICIOS Y DESTINADOS AL ENTRETENIMIENTO Y JUEGOS DE ROL. ESE PORTAVOZ TAMBIÉN SEÑALÓ EXENCIONES DE RESPONSABILIDAD COMO ESTA QUE ENCONTRAMOS EN EL SITIO WEB, DECLARANDO QUE EL CHATBOT NOMBRADO EN LA DEMANDA NO ES UNA PERSONA REAL Y NADA DE LO DICE AQUÍ ES UN SUSTITUTO DEL CONSEJO, TRATAMIENTO O DIAGNÓSTICO PROFESIONAL. JOHN JONES, PRESIDENTE DE DICKINSON COLLEGE Y EX JUEZ FEDERAL, SE PREGUNTA SI ESA EXPLICACIÓN SE MANTENDRÁ EN EL TRIBUNAL. LA MAYORÍA DE LAS PERSONAS NO LEEN LAS EXENCIONES DE RESPONSABILIDAD, SIMPLEMENTE NO LO LECEN. Y POR ESO NO CREO QUE EL PERSONAJE AI SE SALVE POR EL DESCARGO DE RESPONSABILIDAD QUE DICE, BUENO, TODO ESTO ES FICCIÓN Y ES DIVERSIÓN Y JUEGOS. CHARACTER TECHNOLOGIES, LA EMPRESA MATRIZ DE CHARACTER AI, SE HA ENFRENTADO A VARIAS DEMANDAS EN VARIAS JURISDICCIONES RELACIONADAS CON SUS CHAT BOTS. LA COMPAÑÍA TAMBIÉN TOMÓ ACCIONES PARA INTENTAR IMPEDIR QUE LOS MENORES UTILICEN ESTOS SERVICIOS DE CHATBOT. EN CUANTO A LOS SERVICIOS COMPAÑEROS, TENDREMOS MÁS SOBRE T
La administración de Shapiro demanda al creador del chatbot, alegando que el robot se tergiversó como un profesional médico
La administración del gobernador de Pensilvania, Josh Shapiro, está demandando a un fabricante de chatbots de inteligencia artificial, alegando que uno de sus robots se tergiversó ilegalmente como un profesional médico.
Actualizado: 7:33 p.m.EDT 5 de mayo de 2026
Estándares editoriales
La administración del gobernador de Pensilvania, Josh Shapiro, está demandando al fabricante de chatbots de inteligencia artificial, alegando que un bot en su sitio web se tergiversó ilegalmente como un profesional médico. El Departamento de Estado de Pensilvania ha presentado una demanda contra Character.AI y está solicitando al tribunal una orden judicial preliminar para impedir que la compañía «tergiverse sus robots acompañantes de IA como profesionales médicos autorizados que pueden brindar asesoramiento médico». podrían dedicarse a la práctica de la medicina sin licencia en Pensilvania. Una declaración de la oficina de Shapiro también dijo que era la primera acción de cumplimiento de este tipo anunciada por un gobernador de EE. UU. «Puedo usar nueva tecnología de manera responsable», dijo Shapiro en un comunicado. DOS dijo que su investigación encontró que los personajes del chatbot de IA en Character.AI afirmaron ser profesionales médicos autorizados, incluidos psiquiatras, disponibles para involucrar a los usuarios en conversaciones sobre síntomas de salud mental. En un caso, la demanda afirma que un chatbot declaró falsamente que tenía licencia en Pensilvania y proporcionó un número de licencia no válido.
La administración del gobernador de Pensilvania, Josh Shapiro, está demandando al fabricante de chatbots de inteligencia artificial, alegando que uno de ellos en su sitio web se tergiversó ilegalmente como un profesional médico.
El Departamento de Estado de Pensilvania ha presentado una demanda contra Character.AI y solicita al tribunal una orden judicial preliminar para impedir que la empresa “tergiverse a sus robots acompañantes de IA como profesionales médicos autorizados que pueden brindar asesoramiento médico”.
La acción es la primera acción coercitiva vinculada a la investigación del Departamento sobre los robots acompañantes de IA y cómo podrían participar en la práctica de la medicina sin licencia en Pensilvania.
Una declaración de la oficina de Shapiro también dijo que se trataba de la primera medida de cumplimiento de este tipo anunciada por un gobernador de Estados Unidos.
Shapiro, en el comunicado, dijo que los habitantes de Pensilvania merecen saber cuándo están tratando con chatbots, en lugar de personas, y que las empresas de inteligencia artificial no pueden engañar a las personas haciéndoles creer que están hablando con profesionales médicos, cuando no es así.
«Pensilvania seguirá liderando el camino para responsabilizar a los malos actores y establecer barreras claras para que la gente pueda usar las nuevas tecnologías de manera responsable», dijo Shapiro en un comunicado.
DOS dijo que su investigación encontró que los personajes del chatbot de IA en Character.AI afirmaban ser profesionales médicos autorizados, incluidos psiquiatras, disponibles para entablar conversaciones con los usuarios sobre síntomas de salud mental. En un caso, la demanda afirma que un chatbot declaró falsamente que tenía licencia en Pensilvania y proporcionó un número de licencia no válido.
