Mit dem endgültigen Shutdown der berüchtigten Plattform Mr. Deepfakes geht eine Ära der unkontrollierten Verbreitung von KI-generierten Deepfake-Pornografien zumindest offiziell zu Ende. Doch die Nachwirkungen sind noch lange nicht ausgestanden, denn einer der aktivsten Ersteller hinter dieser Seite steht vor einer der höchsten Strafzahlungen, die jemals im Zusammenhang mit Deepfake-Technologie gefordert wurden. Die australische Online-Sicherheitsbehörde eSafety-Kommissarin Julie Inman Grant hat eine Geldstrafe zwischen 400.000 und 450.
000 US-Dollar gegen den 53-jährigen Anthony Rotondo beantragt. Diese Forderung soll nicht nur den individuellen Täter bestrafen, sondern auch als abschreckendes Signal für andere potentielle Wiederholungstäter dienen. Rotondo war eines der ersten bekannten Gesichter hinter Mr. Deepfakes und machte weltweit Schlagzeilen, weil er trotz einer gerichtlichen Anordnung weiterhin sexualisierte, KI-generierte Bilder prominenter australischer Frauen teilte. Seine Aktivitäten erstreckten sich sowohl auf Australien als auch die Philippinen, da er zwischen beiden Ländern pendelte.
Rotondo wurde bereits im Dezember 2023 mit einer Geldstrafe von 25.000 Dollar belegt, nachdem er die gerichtliche Aufforderung, die Bilder zu entfernen, ignorierte und stattdessen sogar neue Opfer ins Visier nahm. Besonders besorgniserregend sind Berichte, dass manche der betroffenen Personen minderjährig waren – Schüler einer privaten australischen Schule gehörten ebenfalls zu den Opfern. Ein weiterer gravierender Fehler Rotondos war das Weiterleiten der gerichtlichen Anordnung per E-Mail an 49 Adressen, darunter auch Medien, wodurch die Identitäten einiger Opfer öffentlich wurden. Darin befand sich zudem ein weiteres Deepfake-Bild als Anhang.
Dieses Verhalten offenbarte nicht nur eine Missachtung der Justiz sondern schürte zusätzliches Leid bei den Opfern. Aufgrund seines rücksichts- und skrupellosen Handelns hat Australien seine Gesetzgebung neu ausgerichtet, um die Strafverfolgung bei der Erstellung und Verbreitung von Deepfake-Pornos zu verschärfen. Rotondo wurde daraufhin per Anklage mit mehreren Verstößen konfrontiert, einschließlich expliziter Pornoveröffentlichungen und einer Anklage, die den Missbrauch von Bildern Minderjähriger einschließt. Trotz der Schwere der Vorwürfe zeigte Rotondo keinerlei Reue. Vor Gericht argumentierte er frech, dass er aufgrund seines Wohnsitzes auf den Philippinen der australischen Gerichtsbarkeit entzogen sei.
Zudem behauptete er, die gerichtliche Verfügung weder gelesen noch deren Inhalte verstanden zu haben, was angesichts des umfangreichen Dokuments einige Zweifel an seiner Glaubwürdigkeit aufkommen lässt. Letztlich kooperierte er mit der Polizei, indem er die Passwörter für die Löschung der Inhalte auf Mr. Deepfakes rausrückte, doch deutliche Indizien sprechen dafür, dass er einer der hartnäckigsten Verbreiter dieser Form von Missbrauch ist. Die Motivation vieler Täter in diesem Bereich sind finanzielle Gewinne, denn Berichte sprechen von bis zu 1.500 US-Dollar für die Herstellung besonders überzeugender Deepfake-Pornos von öffentlichen Persönlichkeiten.
Dies verdeutlicht die dunkle Seite der Monetarisierung künstlicher Intelligenz im Internet. Die britische Tageszeitung The Guardian und weitere Medien haben die Fallzahlen und die Auswirkungen von nicht einvernehmlichen Deepfake-Pornos umfassend dokumentiert. Die Plattform Mr. Deepfakes wurde ebenfalls von internationalen Behörden untersucht: Kurz vor ihrem Aus versuchte beispielsweise Dänemark, einen weiteren Hauptverdächtigen, den kanadischen Apotheker David Do, auszuliefern. Ihm drohen unter anderem Haftstrafen wegen Verleumdung.
Auf globaler Ebene versetzen diese Fälle Gesetzgeber und Strafverfolger in Alarmbereitschaft. In den USA wurde jüngst das sogenannte Take It Down Act verabschiedet, das Plattformen mit empfindlichen Geldstrafen – etwa 50.000 US-Dollar pro Verstoß – und Gefängnisstrafen belegt, wenn sie schädliche Deepfake-Inhalte nach Meldung nicht innerhalb von 48 Stunden entfernen. Die internationale Gemeinschaft versucht, auf unterschiedliche Art und Weise eine bessere Kontrolle über solche KI-generierten Inhalte zu etablieren. Die australische eSafety-Kommission mahnt einen umfassenden Schutz vor „unermesslicher Verwüstung“ an, die vor allem Frauen als Ziel von Deepfake-Pornos ereilen.
Die Nutzung zahlreicher kostenloser Open-Source-AI-Programme macht die Erstellung solcher Inhalte erschreckend einfach und billig. Es herrscht ein dringender Bedarf an technischen Lösungen zusammen mit scharfen Gesetzen, um Betroffene zu schützen und die Täter zur Rechenschaft zu ziehen. Mr. Deepfakes zeigt dabei exemplarisch, wie schnell sich diese problematischen Inhalte viral verbreiten können. Die Plattform zog laut Schätzungen mehr als 1,5 Milliarden Aufrufe an, was das Ausmaß der Reichweite verdeutlicht.
Mit dem endgültigen Abschalten der Seite wurde zwar ein wichtiger Schritt vollzogen, doch die weiterhin existierenden Netzwerke, auf denen ähnliche Inhalte geteilt werden, bleiben eine Herausforderung. Experten fordern verstärkte internationale Kooperationen, verbesserte Aufklärungskampagnen und technologische Innovationen wie Deepfake-Erkennungsalgorithmen. Nur so kann der gesellschaftliche Schaden eingegrenzt werden. Die strafrechtliche Verfolgung von Anthony Rotondo soll einerseits Vergeltung für die Opfer sicherstellen, andererseits einen Präzedenzfall schaffen. Die hohe Geldstrafe unterstreicht, dass die Behörden kein Entgegenkommen gegenüber solchen Straftaten zeigen.
Da diese Entscheidungen und neuen Gesetze weltweit verfolgt werden, könnten sie bald weitere Strafverfolgungen inspirieren, auch in anderen Ländern. Zusammenfassend lässt sich sagen, dass die Deepfake-Technologie trotz positiver Anwendungen im Bereich Multimedia, Marketing oder Film eine gefährliche Schattenseite birgt. Illegale, nicht einvernehmliche Verwendung stellt eine massive Verletzung von Persönlichkeitsrechten, Würde und Privatsphäre dar. Der Fall Mr. Deepfakes und der bevorstehende Strafprozess gegen einen seiner Hauptakteure markieren einen wichtigen Wendepunkt in der digitalen Rechtsdurchsetzung.
Die Gesellschaft steht vor der Herausforderung, ein Gleichgewicht zu finden zwischen innovativer Technologie und deren verantwortungsvoller Nutzung – verbunden mit konsequenter Ahndung von Missbrauch. Nur mit vereinten Kräften von Politik, Justiz, Technikbranche und Öffentlichkeit lässt sich der zunehmenden Flut schädlicher Deepfake-Pornografien wirksam begegnen.
