Justiz: KI-Avatare als Ärzte ausgegeben? – Klage in den USA

Harrisburg. Der US-Bundesstaat Pennsylvania hat eine Firma hinter einem Chatbot verklagt, der Gespräche mit täuschend echt wirkenden Avataren ermöglicht. Das Unternehmen Character Technologies habe seine KI-Figuren illegal als Ärzte ausgegeben und Nutzerinnen sowie Nutzern vorgegaukelt, medizinischen Rat von einer zugelassenen Fachkraft zu erhalten, hieß es in einer Klage, die bei einem Gericht in Harrisburg eingereicht wurde. Darin wurde die Firma aufgefordert, die Chatbots daran zu hindern, „unrechtmäßig Medizin und Chirurgie zu praktizieren“. Die Regierung von Pennsylvanias Gouverneur Josh Shapiro bezeichnete die Klage als erste Durchsetzungsaktion eines US-Gouverneurs dieser Art. In der Klageschrift hieß es weiter, ein Ermittler der staatlichen Zulassungsbehörde habe ein Konto bei Character.AI erstellt, nach dem Begriff „Psychiatrie“ gesucht und zahlreiche Avatare gefunden, darunter einen, der als „Doktor der Psychiatrie“ beschrieben worden sei. Diese Figur habe den Eindruck erweckt, sie könne den Ermittler „als Arzt“ untersuchen und sei in Pennsylvania zugelassen. „Die Menschen in Pennsylvania haben ein Recht zu wissen, mit wem – oder was – sie online interagieren, insbesondere wenn es um ihre Gesundheit geht“, erklärte Shapiro. „Wir werden nicht zulassen, dass Unternehmen KI-Tools einsetzen, die Menschen in dem Glauben lassen, sie erhielten Rat von einer zugelassenen medizinischen Fachkraft.“