Deepfake-Regulierung: Ein weites Feld mit vielen Fragezeichen
Die EU-KI-Verordnung (AI Act) definiert Deepfakes denkbar weit: Erfasst sind alle KI-erzeugten Bilder, Töne oder Videos, die realen Personen, Orten oder Ereignissen ähneln und echt wirken könnten – unabhängig davon, ob ein Schaden entsteht. Diese Definition sorgt für Diskussionen, denn sie umfasst nahezu jeden synthetischen Inhalt, selbst harmlose Katzenbilder. Für Unternehmen bedeutet das: Jede KI-generierte Marketingkampagne, jeder Avatar im Kundenservice und jedes synthetische Schulungsvideo fällt potenziell unter die Transparenzpflichten der Verordnung. Wer hier keine klaren Prozesse hat, riskiert nicht nur Bußgelder, sondern auch Reputationsschäden.
DSGVO und Einwilligung: Ohne Zustimmung geht fast nichts
Für KI-Nachbildungen erkennbarer Personen gilt zusätzlich die DSGVO. Ohne eine wirksame Einwilligung der betroffenen Person gibt es in der Regel keine Rechtsgrundlage für die Erstellung oder Verwendung solcher Deepfakes. Das betrifft nicht nur offensichtliche Fälle wie sexualisierte Darstellungen, sondern auch scheinbar harmlose Anwendungen wie virtuelle Influencer, die auf realen Personen basieren, oder personalisierte Werbung mit KI-generierten Gesichtern. Unternehmen müssen daher sicherstellen, dass sie über ein belastbares Einwilligungsmanagement verfügen – inklusive Dokumentation, Widerrufsmöglichkeiten und Zweckbindung.
Die DSGVO verlangt zudem, dass Einwilligungen freiwillig, informiert und eindeutig sind. Bei KI-generierten Inhalten ist oft unklar, welche Daten in welcher Form verarbeitet werden. Hier hilft ein KI-Readiness-Check, der Ihre aktuellen Prozesse auf Herz und Nieren prüft und konkrete Handlungsempfehlungen liefert.
Nationale Strafgesetze: Neue Verbote und ihre Tücken
Auch auf nationaler Ebene tut sich etwas: Das Bundesjustizministerium plant, die Herstellung verfälschter sexualisierter Bilder unter Strafe zu stellen. Zudem soll die Verbreitung täuschend echter Inhalte, die dem Ansehen einer Person erheblich schaden, strafbar sein. Ein bayerischer Vorschlag über den Bundesrat sieht sogar bis zu fünf Jahre Haft vor. Kritiker warnen jedoch vor einer Kriminalisierung gewöhnlicher KI-Nutzer durch fehlerhafte Filter. Für Unternehmen ist wichtig: Nicht nur die Erstellung, sondern auch die Verbreitung solcher Inhalte kann strafbar sein. Klare Freigabeprozesse und Schulungen sind daher unerlässlich.
Ab Dezember 2026: Bestimmte KI-Systeme werden verboten
Die EU wird ab Dezember 2026 bestimmte KI-Systeme verbieten, die sexualisierte Darstellungen realer Personen erzeugen. Dies ist eine Reaktion auf Skandale wie den Grok-Vorfall. Gewaltdarstellungen sind jedoch nicht erfasst, und eine Kunstausnahme fehlt. Unternehmen, die generative KI-Tools einsetzen, müssen jetzt prüfen, ob ihre Anwendungen unter diese Verbote fallen könnten. Eine KI-Potenzialanalyse kann helfen, Risiken zu identifizieren und Chancen zu nutzen.
KI-Governance: Von der Pflicht zur Kür
Die zunehmende Regulierung macht deutlich: KI-Governance ist keine Kür, sondern Haftungsvermeidung. Unternehmen benötigen klare KI-Richtlinien, die den Umgang mit generativen Tools regeln, sowie Einwilligungsprozesse für die Nachbildung realer Personen. Dazu gehören auch technische und organisatorische Maßnahmen wie Wasserzeichen, Content-Filter und regelmäßige Audits. Ein Vulnerability & Penetration Testing kann zusätzlich Sicherheitslücken in KI-Systemen aufdecken.
Wer jetzt keine Governance aufsetzt, riskiert nicht nur Bußgelder, sondern auch das Vertrauen von Kunden und Partnern. Der KI-Readiness-Check von cybereiche bietet eine schnelle Standortbestimmung und zeigt, wo Handlungsbedarf besteht. Ergänzend beraten wir Sie gerne in einem Erstgespräch zu maßgeschneiderten Lösungen.
Fazit: Handeln Sie jetzt
Die Regulierung von Deepfakes ist komplex und entwickelt sich rasant. Unternehmen müssen proactive KI-Governance betreiben, um rechtliche Risiken zu minimieren und ethische Standards zu wahren. Nutzen Sie unsere Expertise, um Ihre Prozesse zukunftssicher aufzustellen.