Ein Gericht in den Niederlanden hat entschieden, dass die KI Grok keine sexualisierten Bilder von Personen ohne deren Einwilligung erstellen oder verbreiten darf. Damit wird erstmals klar festgelegt, dass solche KI-Anwendungen die Persönlichkeitsrechte der Betroffenen verletzen.
Text bearbeitet mit KI durch freenet (weitere Infos).
Dieses Verbot zählt zu den ersten gerichtlichen Entscheidungen weltweit gegen KI-generierte Nacktbilder. Es setzt ein wichtiges Signal für den zukünftigen Umgang mit künstlicher Intelligenz im digitalen Raum.
Die Regelung gilt sowohl für die Nutzung innerhalb der Niederlande als auch für Bilder von Personen mit Wohnsitz dort. Dadurch wird der Schutz der Betroffenen auch über Plattformgrenzen hinweg ausgeweitet.
Bei Verstößen drohen hohe Geldstrafen von bis zu 100.000 Euro pro Tag. Diese Strafen sollen sicherstellen, dass sich Unternehmen konsequent an die Vorgaben halten.
Auslöser des Verfahrens war die Organisation Offlimits, die sich gegen sexuellen Missbrauch im Internet einsetzt. Sie wollte mit der Klage erreichen, dass Betroffene besser vor digitaler Ausbeutung geschützt werden.
Grok ermöglichte es Nutzern zuvor, reale Personen ohne deren Zustimmung in sexualisierte Darstellungen zu versetzen. Dies konnte bereits mit wenigen Eingaben geschehen und war technisch leicht zugänglich.
Diese Funktion führte international zu großer Empörung und zu Ermittlungen in mehreren Ländern. Behörden sahen darin eine neue Form von digitalem Missbrauch, die schwer zu kontrollieren ist.
Besonders kritisch ist, dass auch Minderjährige betroffen waren oder sein könnten. Dies verschärft die rechtliche und gesellschaftliche Brisanz erheblich.
In den USA laufen mehrere Klagen gegen das Unternehmen xAI wegen solcher Inhalte. Betroffene werfen dem Unternehmen vor, nicht ausreichend Schutzmaßnahmen getroffen zu haben.
Dazu gehört auch eine Klage der Stadt Baltimore wegen sexueller Deepfakes. Die Stadt sieht darin einen klaren Verstoß gegen Gesetze und den Schutz der Bürger.
Die EU-Kommission hat ebenfalls ein Verfahren gegen die Plattform X eingeleitet. Sie reagiert damit auf den wachsenden Druck, stärker gegen solche Inhalte vorzugehen.
Dabei wird geprüft, ob unzureichend gegen die Verbreitung illegaler KI-Inhalte vorgegangen wurde. Im Mittelpunkt steht die Frage, ob Plattformbetreiber ihrer Verantwortung nachgekommen sind.
Grundlage dieses EU-Verfahrens ist der Digital Services Act, da Grok direkt in die Plattform integriert ist. Dadurch kann die EU bestehende Regeln für Online-Plattformen auf KI-Anwendungen anwenden.
