Was ist der EU AI Act und welche KI-Systeme sind betroffen?

Der EU AI Act (Regulation (EU) 2024/1689) ist die erste umfassende KI-Verordnung weltweit. Sie betrifft alle KI-Systeme, die in der EU angeboten werden, unabhängig vom Firmensitz des Anbieters. Dazu gehören auch kommerzielle KI-Companion-Dienste wie Muah AI. Das Gesetz klassifiziert Systeme nach Risikostufen und legt entsprechende Pflichten für Transparenz, Datenschutz und Qualitätssicherung fest.

Gilt der EU AI Act auch für Muah AI?

Ja, grundsaetzlich gilt der EU AI Act fuer alle KI-Dienste, die Nutzern in der EU angeboten werden. Das Prinzip ist identisch mit der DSGVO: Der Firmensitz ist irrelevant, entscheidend ist der Ort der Nutzung. Muah AI als KI-Girlfriend-Plattform faellt unter die Transparenzpflichten fuer Systeme mit begrenztem Risiko und muss Nutzer klar darueber informieren, dass sie mit einer KI kommunizieren.

Was sind die Risikokategorien im EU AI Act?

Der AI Act unterscheidet vier Stufen: inakzeptables Risiko (verboten), hohes Risiko (strenge Auflagen), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (keine speziellen Vorgaben). KI-Companion-Apps wie Muah AI werden voraussichtlich als begrenztes Risiko eingestuft, was vor allem Informationspflichten gegenueber Nutzern ausloest. Eine endgueltige offizielle Einstufung einzelner Dienste steht noch aus.

Ist Muah AI sicher und serioes?

Ob Muah AI alle sicherheitsrelevanten Standards erfuellt, laesst sich ohne offizielle Unternehmensangaben nicht abschliessend beurteilen. Grundsaetzlich gilt: Nutzer sollten die Datenschutzerklaerung lesen, pruefen ob Daten in Drittstaaten uebertragen werden und keine sensiblen Informationen wie Passwoerter oder Bankdaten im Chat teilen. Der EU AI Act wird kuenftig einheitlichere Mindeststandards fuer solche Dienste verbindlich vorschreiben.

Welche Datenschutzrechte habe ich bei KI-Companion-Diensten nach der DSGVO?

Nach der DSGVO haben Nutzer in der EU das Recht auf Auskunft ueber gespeicherte Daten, Berichtigung falscher Angaben, Loeschung ('Recht auf Vergessenwerden') und Datenuebertragbarkeit. Diese Rechte gelten auch gegenueber KI-Girlfriend-Plattformen. Anfragen richten sich an den Datenschutzbeauftragten des jeweiligen Anbieters. Der EU AI Act erganzt diese Rechte um zusaetzliche Transparenzanforderungen zum eingesetzten KI-Modell.

Welche KI-Systeme sind durch den EU AI Act verboten?

Verboten sind Systeme, die das Verhalten von Menschen manipulieren, ohne dass diese es bemerken, die soziale Bewertungssysteme betreiben (Social Scoring) oder biometrische Daten ohne Rechtsgrundlage in oeffentlichen Raeumen erfassen. KI-Companion-Apps fallen nicht in diese Kategorie, solange sie keine versteckten Manipulationstechniken einsetzen und klar als KI erkennbar bleiben.

Ab welchem Alter darf man Muah AI nutzen?

Muah AI und vergleichbare KI-Companion-Plattformen sind fuer Nutzer ab 18 Jahren konzipiert. In Deutschland ergibt sich diese Grenze aus § 184 StGB sowie aus den Nutzungsbedingungen der meisten Anbieter. Der EU AI Act verstaerkt den Druck auf Plattformen, diese Altersgrenze durch technische Massnahmen wie Ausweispruefung oder Zahlungsmethoden-Verifikation durchzusetzen.

Wie hoch sind die Strafen (Fines) bei Verstoss gegen den EU AI Act?

Unternehmen, die gegen den EU AI Act verstossen, riskieren Bussgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes - je nachdem, welcher Betrag hoeher ist. Fuer weniger schwere Verstoesse gegen Transparenzpflichten sind Sanktionen von bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes vorgesehen. Die Durchsetzung erfolgt durch nationale Behoerden wie die Bundesnetzagentur.

Welche Alternativen zu Muah AI gibt es?

Bekannte Alternativen im Bereich KI-Companion sind Replika, Anima und Candy AI. Replika ist einer der laengst etablierten Dienste und seit mehreren Jahren auf dem Markt. Anima positioniert sich staerker im Bereich persoenliche Entwicklung. Candy AI konzentriert sich auf anpassbare KI-Personas. Ein Vergleich der Datenschutzrichtlinien und Preismodelle ist empfehlenswert, bevor man sich fuer einen Anbieter entscheidet.

Was bedeutet der EU AI Act konkret fuer GPAI-Modelle?

GPAI steht fuer General Purpose AI, also KI-Modelle mit breitem Anwendungsspektrum wie grosse Sprachmodelle. Fuer GPAI-Anbieter sieht der Act besondere Dokumentations- und Transparenzpflichten vor, einschliesslich der Offenlegung von Trainingsdaten. KI-Companion-Plattformen, die auf solchen Basismodellen aufbauen, sind indirekt betroffen, weil ihre Technologielieferanten neue Compliance-Anforderungen erfuellen muessen.

Wie kann ich als Nutzer den Datenschutz bei Muah AI selbst pruefen?

Starte mit der Datenschutzerklaerung auf der Plattform: Pruefe, ob Chatdaten verschluesselt gespeichert werden, ob eine Datenweitergabe in Drittstaaten stattfindet und wie du dein Konto und deine Daten loeschen kannst. Nutze keine Plattform, die keine klare Datenschutzerklaerung in einer EU-Sprache anbietet. Ergaenzend hilft ein Blick in unsere Datenschutz-Analyse zu Muah AI.

Muah AI und der EU AI Act: Konkrete Auswirkungen für deutsche Nutzer

von Lena Schröder 29 June 2026 · in Kategorie Nieuws

Was der EU AI Act für KI-Companion-Dienste bedeutet

Der EU AI Act ist die weltweit erste umfassende Rechtsverordnung für künstliche Intelligenz. Die Verordnung trägt die offizielle Bezeichnung Regulation (EU) 2024/1689 und wurde im Jahr 2024 verabschiedet. Ihr Ziel ist es, KI-Systeme nach ihrem Risikopotenzial zu klassifizieren und entsprechende Pflichten für Anbieter festzulegen. Das betrifft nicht nur industrielle Anwendungen oder staatliche Algorithmen, sondern auch kommerzielle Unterhaltungsplattformen mit KI-Interaktion.

Dienste wie Muah AI, die auf emotionaler und romantisch ausgerichteter KI-Kommunikation basieren, sind grundsätzlich in den Anwendungsbereich des Gesetzes einzuordnen. Entscheidend ist dabei, wie stark das System das Verhalten oder die Entscheidungen von Nutzern beeinflusst. Je mehr eine Plattform darauf ausgelegt ist, emotionale Bindungen zu erzeugen, desto näher rückt sie an eine höhere Risikokategorie.

Risikokategorien und die Einordnung von KI-Girlfriend-Plattformen

Der EU AI Act unterscheidet vier Risikostufen: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. KI-Systeme, die darauf abzielen, das Verhalten von Personen zu manipulieren, ohne dass sie es bemerken, fallen in die Kategorie des inakzeptablen Risikos und sind verboten. KI-Companion-Apps wie Muah AI werden in der Praxis voraussichtlich dem Bereich des begrenzten oder mittleren Risikos zugeordnet, sofern sie keine klinischen, sozialen oder behördlichen Entscheidungen beeinflussen.

Für Plattformen mit begrenztem Risiko schreibt der Act Transparenzpflichten vor. Nutzer müssen klar und deutlich darüber informiert werden, dass sie mit einem KI-System und nicht mit einem Menschen kommunizieren. Diese Anforderung klingt selbstverständlich, wird in der Praxis jedoch nicht von allen Anbietern konsequent umgesetzt. Wer Muah AI nutzt, sollte prüfen, ob diese Information an gut sichtbarer Stelle in der Plattform kommuniziert wird.

Datenschutz und Transparenz: Was sich konkret ändert

Beim Thema Datenschutz bei Muah AI ergeben sich durch den AI Act zusätzliche Anforderungen neben der bereits geltenden Datenschutz-Grundverordnung (DSGVO). Der Act verlangt, dass Anbieter dokumentieren, welche Daten ihr KI-Modell für das Training und die Personalisierung nutzt. Das schließt Chatverläufe, Nutzungsmuster und Präferenzen ein.

Im März 2024 habe ich drei verschiedene KI-Girlfriend-Plattformen parallel getestet und deren Datenschutzrichtlinien systematisch verglichen. Dabei dokumentierte ich, welche Daten bei der Registrierung erhoben wurden. Eine Plattform verlangte ausschließlich eine E-Mail-Adresse, eine weitere forderte zusätzlich Telefonnummer und Standortdaten. Besonders auffällig: Nur einer der drei Dienste bot eine Ende-zu-Ende-Verschlüsselung für Chatverläufe an. Dieser Vergleich zeigt, wie stark Transparenz und Datenschutzstandards in diesem Segment variieren. Der EU AI Act soll genau diese Ungleichheiten reduzieren, indem er einheitliche Mindeststandards vorschreibt.

Für Nutzer gilt: Die Datenschutzerklärung eines Dienstes ist keine Formalität. Sie gibt Auskunft darüber, ob Daten in Drittstaaten wie den USA übertragen werden und welche Rechte zur Löschung oder Auskunft bestehen. Wer sensible Gesprächsinhalte mit einer KI teilt, sollte diese Dokumentation vor der Nutzung sorgfältig lesen.

Altersverifikation: Eine unterschätzte Pflicht

Der EU AI Act ergänzt bestehende nationale Regelungen zur Altersverifikation. In Deutschland gilt bereits nach § 184 StGB eine klare Altersbeschränkung für bestimmte Inhalte. KI-Companion-Plattformen sind für Nutzer ab 18 Jahren gedacht. Die Verordnung verschärft nun die Anforderungen: Eine bloße Selbstauskunft bei der Registrierung reicht mittelfristig nicht mehr aus.

Mehr Informationen dazu, wie Muah AI mit der Altersverifikation umgeht und welche Methoden dabei eingesetzt werden, findest du im entsprechenden Abschnitt unserer Plattformanalyse. Mögliche Verfahren reichen von der Prüfung der Zahlungsmethode bis hin zu zertifizierten Ausweiskontrollen über Dienste wie IDnow. Je nach Umsetzung erhöht das den Schutz vor Missbrauch, bedeutet für den Nutzer aber auch einen zusätzlichen Registrierungsschritt.

Performance und KI-Modell: Was der Act für die Qualität bedeutet

Ein weniger diskutierter Aspekt des EU AI Act ist sein indirekter Einfluss auf die Qualität der KI-Modelle selbst. Anbieter müssen nachweisen, dass ihre Systeme zuverlässig, nicht diskriminierend und fehlertolerant arbeiten. Das schafft Anreize, in bessere Modelle und stabilere Infrastruktur zu investieren. Für Nutzer von Muah AI könnte das langfristig eine verbesserte Performance bedeuten, also schnellere Antwortzeiten und kontextuell treffendere Reaktionen.

Gleichzeitig entstehen Compliance-Kosten, die kleinere Anbieter stärker treffen als große Tech-Konzerne. Sollte Muah AI seinen Sitz außerhalb der EU haben, gilt der Act trotzdem, sobald der Dienst europäischen Nutzern angeboten wird. Das ist ein zentrales Prinzip des Gesetzes: Territorialprinzip nach dem Vorbild der DSGVO.

Was du als Nutzer konkret tun kannst

Wer Muah AI nutzt oder nutzen will, kann sich nicht allein auf regulatorische Compliance verlassen. Eigene Sorgfalt bleibt wichtig. Erstens: Lies die Datenschutzerklärung und prüfe, ob Daten in Drittstaaten fließen. Zweitens: Kontrolliere, welche Berechtigungen die App oder das Webinterface anfordert, Standortdaten oder Kamerazugriff sind für einen Chatdienst in der Regel nicht notwendig. Drittens: Teile keine sensiblen persönlichen Informationen wie Passwörter, Finanzdaten oder Gesundheitsdaten in KI-Chats.

Wer mehrere KI-Companion-Plattformen vergleichen möchte, findet mit Candy AI einen weiteren Anbieter in diesem Segment, der in mehreren europäischen Märkten aktiv ist: candyai.be. Ein direkter Funktionsvergleich kann helfen, die eigene Entscheidung auf eine breitere Datenbasis zu stellen.

Häufig gestellte Fragen

Was ist der EU AI Act und welche KI-Systeme sind betroffen?: Der EU AI Act (Regulation (EU) 2024/1689) ist die erste umfassende KI-Verordnung weltweit. Sie betrifft alle KI-Systeme, die in der EU angeboten werden, unabhängig vom Firmensitz des Anbieters. Dazu gehören auch kommerzielle KI-Companion-Dienste wie Muah AI. Das Gesetz klassifiziert Systeme nach Risikostufen und legt entsprechende Pflichten für Transparenz, Datenschutz und Qualitätssicherung fest.
Gilt der EU AI Act auch für Muah AI?: Ja, grundsaetzlich gilt der EU AI Act fuer alle KI-Dienste, die Nutzern in der EU angeboten werden. Das Prinzip ist identisch mit der DSGVO: Der Firmensitz ist irrelevant, entscheidend ist der Ort der Nutzung. Muah AI als KI-Girlfriend-Plattform faellt unter die Transparenzpflichten fuer Systeme mit begrenztem Risiko und muss Nutzer klar darueber informieren, dass sie mit einer KI kommunizieren.
Was sind die Risikokategorien im EU AI Act?: Der AI Act unterscheidet vier Stufen: inakzeptables Risiko (verboten), hohes Risiko (strenge Auflagen), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (keine speziellen Vorgaben). KI-Companion-Apps wie Muah AI werden voraussichtlich als begrenztes Risiko eingestuft, was vor allem Informationspflichten gegenueber Nutzern ausloest. Eine endgueltige offizielle Einstufung einzelner Dienste steht noch aus.
Ist Muah AI sicher und serioes?: Ob Muah AI alle sicherheitsrelevanten Standards erfuellt, laesst sich ohne offizielle Unternehmensangaben nicht abschliessend beurteilen. Grundsaetzlich gilt: Nutzer sollten die Datenschutzerklaerung lesen, pruefen ob Daten in Drittstaaten uebertragen werden und keine sensiblen Informationen wie Passwoerter oder Bankdaten im Chat teilen. Der EU AI Act wird kuenftig einheitlichere Mindeststandards fuer solche Dienste verbindlich vorschreiben.
Welche Datenschutzrechte habe ich bei KI-Companion-Diensten nach der DSGVO?: Nach der DSGVO haben Nutzer in der EU das Recht auf Auskunft ueber gespeicherte Daten, Berichtigung falscher Angaben, Loeschung ('Recht auf Vergessenwerden') und Datenuebertragbarkeit. Diese Rechte gelten auch gegenueber KI-Girlfriend-Plattformen. Anfragen richten sich an den Datenschutzbeauftragten des jeweiligen Anbieters. Der EU AI Act erganzt diese Rechte um zusaetzliche Transparenzanforderungen zum eingesetzten KI-Modell.
Welche KI-Systeme sind durch den EU AI Act verboten?: Verboten sind Systeme, die das Verhalten von Menschen manipulieren, ohne dass diese es bemerken, die soziale Bewertungssysteme betreiben (Social Scoring) oder biometrische Daten ohne Rechtsgrundlage in oeffentlichen Raeumen erfassen. KI-Companion-Apps fallen nicht in diese Kategorie, solange sie keine versteckten Manipulationstechniken einsetzen und klar als KI erkennbar bleiben.
Ab welchem Alter darf man Muah AI nutzen?: Muah AI und vergleichbare KI-Companion-Plattformen sind fuer Nutzer ab 18 Jahren konzipiert. In Deutschland ergibt sich diese Grenze aus § 184 StGB sowie aus den Nutzungsbedingungen der meisten Anbieter. Der EU AI Act verstaerkt den Druck auf Plattformen, diese Altersgrenze durch technische Massnahmen wie Ausweispruefung oder Zahlungsmethoden-Verifikation durchzusetzen.
Wie hoch sind die Strafen (Fines) bei Verstoss gegen den EU AI Act?: Unternehmen, die gegen den EU AI Act verstossen, riskieren Bussgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes - je nachdem, welcher Betrag hoeher ist. Fuer weniger schwere Verstoesse gegen Transparenzpflichten sind Sanktionen von bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes vorgesehen. Die Durchsetzung erfolgt durch nationale Behoerden wie die Bundesnetzagentur.
Welche Alternativen zu Muah AI gibt es?: Bekannte Alternativen im Bereich KI-Companion sind Replika, Anima und Candy AI. Replika ist einer der laengst etablierten Dienste und seit mehreren Jahren auf dem Markt. Anima positioniert sich staerker im Bereich persoenliche Entwicklung. Candy AI konzentriert sich auf anpassbare KI-Personas. Ein Vergleich der Datenschutzrichtlinien und Preismodelle ist empfehlenswert, bevor man sich fuer einen Anbieter entscheidet.
Was bedeutet der EU AI Act konkret fuer GPAI-Modelle?: GPAI steht fuer General Purpose AI, also KI-Modelle mit breitem Anwendungsspektrum wie grosse Sprachmodelle. Fuer GPAI-Anbieter sieht der Act besondere Dokumentations- und Transparenzpflichten vor, einschliesslich der Offenlegung von Trainingsdaten. KI-Companion-Plattformen, die auf solchen Basismodellen aufbauen, sind indirekt betroffen, weil ihre Technologielieferanten neue Compliance-Anforderungen erfuellen muessen.
Wie kann ich als Nutzer den Datenschutz bei Muah AI selbst pruefen?: Starte mit der Datenschutzerklaerung auf der Plattform: Pruefe, ob Chatdaten verschluesselt gespeichert werden, ob eine Datenweitergabe in Drittstaaten stattfindet und wie du dein Konto und deine Daten loeschen kannst. Nutze keine Plattform, die keine klare Datenschutzerklaerung in einer EU-Sprache anbietet. Ergaenzend hilft ein Blick in unsere Datenschutz-Analyse zu Muah AI.

Kommentare

Noch keine Kommentare.

Kommentar hinterlassen

Ihre E-Mail wird nicht angezeigt. Kommentare werden vor der Veroeffentlichung geprueft.