KI-Verordnung 2025: Pflichten, Strafen und Auswirkungen

Die KI-Verordnung der Europäischen Union legt erstmals klare Regeln für den Einsatz von Künstlicher Intelligenz fest. Sie soll Risiken minimieren, aber gleichzeitig die Innovationskraft nicht bremsen. Aber es gilt: Unternehmen, die KI-Systeme entwickeln oder nutzen, müssen ab sofort neue Vorschriften zu Transparenz, Sicherheit und Datenschutz einhalten. Besonders betroffen sind Hochrisiko-KI-Systeme, die in sensiblen Bereichen wie Medizin, Personalmanagement oder Finanzwesen eingesetzt werden.

Inhalt:

• Was regelt die KI-Verordnung?
• Wann ist die KI-Verordnung in Kraft getreten?
• Welche Pflichten und Vorschriften birgt die KI-Verordnung?
• Einstufung von KI-Systemen nach Risiko
• Was bedeutet die Anwendbarkeit seit dem 02.02.2025?
• Warum gilt die KI-Verordnung auch für Unternehmen außerhalb der EU?
• Welche Branchen sind besonders betroffen?
• Worauf Online-Marketer jetzt unbedingt achten müssen
• Strafen bei Verstößen gegen die KI-Verordnung
• Wie geht es weiter? Zukunft der KI-Verordnung und nächste Schritte für Unternehmen
• Warum Unternehmen jetzt handeln müssen

Was regelt die KI-Verordnung?

Der EU AI-Act ist das weltweit erste umfassende Gesetz zur Regulierung von Artificial Intelligence. Dieses KI-Gesetz wird auch als KI-Verordnung bezeichnet und sorgt für einen einheitlichen Rechtsrahmen innerhalb der EU. Es schafft verbindliche Regeln für die Entwicklung, Nutzung und Vermarktung von KI-Systemen.

Kernpunkte der KI-VO:

• Kennzeichnungspflicht: KI-generierte Inhalte müssen erkennbar sein.
• Sicherheit & Transparenz: KI muss zuverlässig, nachvollziehbar und kontrollierbar sein.
• Grundrechtsschutz: KI darf nicht diskriminieren oder Datenschutzgesetze verletzen.
• Risikoeinstufung: Höheres Risiko bedeutet strengere Vorgaben.
• Verbotene KI: Social Scoring und Emotionserkennung am Arbeitsplatz sind untersagt.

Wann ist die KI-Verordnung in Kraft getreten?

Es war ein langer Weg bis zur KI-Verordnung – schließlich betrifft sie fast alle Wirtschaftszweige. Bei der Ausarbeitung lag der Fokus nicht nur einseitig auf einer ausreichenden Regulierung. Es wurde auch streng darauf geachtet, den technologischen Anschluss an die Mitbewerber außerhalb der EU nicht zu verlieren.

Die bedeutsamsten Meilensteine:

• April 2021: EU-Kommission legt ersten Entwurf vor.
• Dezember 2023: AI-Act wird verabschiedet.
• 1. August 2024: Verordnung tritt in Kraft.
• 2. Februar 2025: Erste Pflichten greifen.

Die KI-Verordnung ist ein Meilenstein, aber nicht das einzige Regulierungsprojekt. Der Europarat arbeitet an einer KI-Konvention für globale Standards. Auch außerhalb der EU könnte der AI-Act als Vorbild für künftige Regelungen dienen.

Welche Pflichten und Vorschriften birgt die KI-Verordnung?

Die KI-Verordnung bringt zahlreiche neue Pflichten für Unternehmen, die KI-Systeme anwenden oder entwickeln. Dabei unterscheidet sie klar zwischen KI-Nutzern und KI-Anbietern, wobei letztere deutlich strengeren Vorgaben unterliegen.

Pflichten für KI-Nutzer

Unternehmen müssen sich an bestimmte Regeln halten, wenn sie KI-Systeme nutzen. Besonders wichtig ist die Kennzeichnungspflicht: Wenn KI-Inhalte erstellt werden – etwa Texte, Bilder oder Videos – muss das klar erkennbar sein. Das gilt vor allem für Inhalte, die die Öffentlichkeit oder wichtige Geschäftsbereiche betreffen.

Außerdem müssen Unternehmen die Risiken ihrer KI-Anwendungen bewerten. Falls eine Hochrisiko-KI genutzt wird, gelten strengere Vorschriften. Dann sind unter anderem eine lückenlose Dokumentation, menschliche Kontrolle und Datenschutzmaßnahmen vorgeschrieben.

Zudem sind KI-Nutzer verpflichtet, ihre Mitarbeiter im Umgang mit KI zu schulen. Das soll sicherstellen, dass KI-Systeme verantwortungsvoll und sicher genutzt werden.

Pflichten für KI-Anbieter

Entwickler, Hersteller oder Händler von KI-Systemen müssen sicherstellen, dass ihre KI-Produkte sicher, nachvollziehbar und nicht diskriminierend sind. Dazu gehören umfangreiche Dokumentations- und Transparenzpflichten, um sicherzustellen, dass die Entscheidungsprozesse der KI überprüfbar sind.

Für Hochrisiko-KI-Systeme gelten besonders strenge Vorschriften. Anbieter müssen:

• Eine Qualitätssicherung nachweisen, um sicherzustellen, dass die KI zuverlässig arbeitet.
• Hochwertige Trainingsdaten verwenden, um Verzerrungen zu vermeiden.
• Ein Risikomanagement einführen, das mögliche Gefahren frühzeitig identifiziert.
• Ihre KI in einer EU-Datenbank registrieren und eine Konformitätsprüfung durchlaufen.

Besonders reguliert werden KI-Systeme mit allgemeinem Verwendungszweck, wie ChatGPT, Midjourney oder DALL-E. Denn diese Modelle können für verschiedenste Anwendungen genutzt werden. So steigt das Risiko für Fehlinformationen, Urheberrechtsverletzungen sowie Manipulationen.

Einstufung von KI-Systemen nach Risiko

Nicht jede KI bringt die gleichen Risiken mit sich. Daher teilt die KI-Verordnung KI-Systeme in vier Kategorien ein, je nach ihrem potenziellen Einfluss auf Sicherheit, Grundrechte und Datenschutz.

1. Minimales Risiko: Unkritische Anwendungen wie Spam-Filter oder KI-gestützte Spiele – keine Einschränkungen.
2. Begrenztes Risiko: Chatbots und KI-generierte Inhalte unterliegen Transparenzpflichten – Nutzer müssen informiert werden.
3. Hohes Risiko: KI in Recruiting, Kreditvergabe oder Medizin muss strenge Datenschutz-, Transparenz- und Sicherheitsanforderungen erfüllen.
4. Verbotene KI: Social Scoring, manipulative KI und Emotionserkennung am Arbeitsplatz sind untersagt.

Für Unternehmen gilt es, zu prüfen, in welche Kategorie ihr KI-System fällt. Je nach Antwort müssen unterschiedliche Maßnahmen getroffen werden.

Was bedeutet die Anwendbarkeit seit dem 02.02.2025?

Die KI-Verordnung wird schrittweise eingeführt, damit sich Unternehmen, Behörden und Entwickler ausreichend auf die neuen Anforderungen vorbereiten können. Seit dem 2. Februar 2025 gelten die ersten verpflichtenden Regelungen der EU KI-Verordnung. Dazu gehören:

• Schulungen für Mitarbeiter zur KI-Kompetenz
• Einstellung verbotener KI-Praktiken
• Inkrafttreten erster Transparenzpflichten

Schulungen für Mitarbeiter zur KI-Kompetenz

Unternehmen müssen sicherstellen, dass ihre Mitarbeitenden über ausreichende KI-Kenntnisse verfügen. Dies betrifft insbesondere Personen, die KI-Systeme entwickeln, trainieren oder in Arbeitsprozesse integrieren. Die Schulungen sollen Fehlanwendungen und rechtliche Verstöße verhindern und die sichere Nutzung von KI-Systemen gewährleisten.

Verbotene KI-Praktiken müssen eingestellt werden

Bestimmte KI-Anwendungen können ein inakzeptables Risiko darstellen. Sie sind seit Februar 2025 verboten.

Dazu gehören:

• Social Scoring: Bewertung von Personen basierend auf ihrem Verhalten oder sozialen Status
• Emotionserkennung am Arbeitsplatz: Analyse von Mimik, Sprache oder Verhalten zur Bewertung von Gefühlszuständen
• Automatisierte Manipulation: KI-Systeme, die das Verhalten von Menschen auf eine Weise beeinflussen, die ihre Entscheidungsfreiheit erheblich einschränkt

Erste Transparenzpflichten gelten

KI-generierte Inhalte müssen in bestimmten Fällen klar gekennzeichnet werden. Das Ziel dieser Maßnahme ist es, Irreführung und Desinformation zu verhindern. Die Nutzer sollen in die Lage versetzt werden, KI-generierte Inhalte als solche zu erkennen.

Dazu gehören insbesondere:

• Deep Fakes oder synthetische Medien, die Menschen täuschen könnten.
• KI-erstellte Texte oder Bilder, wenn sie öffentliche oder politische Angelegenheiten betreffen.

Warum gilt die KI-Verordnung auch für Unternehmen außerhalb der EU?

Der AI-Act gilt nicht nur für Unternehmen innerhalb der EU, sondern entfaltet auch extraterritoriale Wirkung.

Das bedeutet, dass sich auch Firmen außerhalb der EU unter Umständen an die Vorschriften halten müssen. Dies ist der Fall, wenn sie KI-Systeme in der EU bereitstellen oder wenn die Ergebnisse ihrer KI in der EU genutzt werden.

Betroffen sind überwiegend US-amerikanische oder asiatische Anbieter von KI-Software, die auf dem europäischen Markt aktiv sind. Ziel dieser Regelung ist es, ein einheitliches Schutzniveau für europäische Bürger und Unternehmen zu schaffen – unabhängig davon, wo die jeweilige KI entwickelt oder betrieben wird.

Welche Branchen sind besonders betroffen?

Die KI-Verordnung wirkt sich auf zahlreiche Branchen aus, insbesondere den digitalen Handel.  Besonders relevant ist sie für:

• E-Commerce: Werbe-Algorithmen, personalisierte Empfehlungen und KI-gestützte Chatbots unterliegen Transparenzpflichten. KI-generierte Inhalte müssen klar gekennzeichnet werden.
• Recruiting & Personalmanagement: Bewerber-KI, die automatisch Lebensläufe analysiert oder Kandidaten auswählt, gilt als Hochrisiko-KI und erfordert strenge Kontrolle.
• Finanzsektor: Kreditvergabe- und Scoring-Algorithmen stehen unter besonderer Beobachtung, um Diskriminierung und unfaire Bewertungen zu vermeiden.
• Medizin & Gesundheitswesen: Diagnosetools und KI in der Patientenversorgung gelten als Hochrisiko-KI und müssen strenge Qualitäts- und Sicherheitsstandards erfüllen.
• Handel & Einzelhandel: KI-gestützte Preisoptimierung und Empfehlungssysteme müssen transparent gestaltet sein, um irreführende oder unfaire Preisstrategien zu verhindern.

Worauf Online-Marketer jetzt unbedingt achten müssen

KI ist fester Bestandteil des digitalen Marketings – von personalisierten Werbeanzeigen bis hin zu Chatbots. Doch mit der KI-Verordnung steigen die Anforderungen an Transparenz und Datenschutz.

So müssen Werbe-Algorithmen nun nachvollziehbar sein. Außerdem ist es wichtig, dass KI-generierte Inhalte wie Texte oder Bilder unter bestimmten Bedingungen gekennzeichnet werden. Zudem sind manipulative KI-Technologien, die psychologische Mechanismen zur Kaufbeeinflussung nutzen, verboten.

Gleichzeitig wird beim Blick auf die E-Commerce-Trends 2025 klar, dass die Individualisierung im digitalen Handel stark voranschreitet. Unternehmen sind verpflichtet, ihre Marketingstrategien so anzupassen, dass sie personalisierte Erlebnisse ermöglichen, ohne gegen neue Vorschriften zu verstoßen. Die KI-Verordnung gilt als Ergänzung der DSGVO, sodass personenbezogene Daten weiterhin rechtskonform verarbeitet werden müssen.

Strafen bei Verstößen gegen die KI-Verordnung

Unternehmen, die gegen die Vorgaben der KI-Verordnung verstoßen, können empfindlich bestraft werden. Die Höhe der Bußgelder hängt von der Art des Verstoßes ab:

• Bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes für Verstöße gegen verbotene KI-Praktiken.
• Bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes für Verstöße gegen Pflichten, die sich aus der KI-VO ergeben.
• Bis zu 7,5 Millionen Euro oder 1 % des weltweiten Jahresumsatzes für die Bereitstellung falscher oder unvollständiger Informationen.

Die KI-Verordnung berücksichtigt obendrein die Unternehmensgröße bei der Höhe der Bußgelder. Für Start-ups und kleine Unternehmen gelten erleichterte Bedingungen, sodass die Strafen für sie verhältnismäßig niedriger ausfallen.

Wie geht es weiter? Zukunft der KI-Verordnung und nächste Schritte für Unternehmen

Die KI-Verordnung ist nicht in Stein gemeißelt. In den kommenden Jahren wird sie regelmäßig überprüft und an technologische Entwicklungen angepasst. Unternehmen müssen sich darauf einstellen, dass sich die Anforderungen weiter verschärfen könnten – besonders in den Bereichen Datenschutz, Social Media und generative KI.

Während die EU mit dem AI-Act einen Vorreiter in der KI-Regulierung erschaffen hat, gibt es auch internationale Bestrebungen, wie:

• USA: Setzen stärker auf freiwillige Leitlinien und Unternehmensverantwortung.
• China: Reguliert KI bereits sehr strikt, insbesondere in Bezug auf Social Scoring und Gesichtserkennung.

KI wird das Leben und Arbeiten zukünftig immer mehr dominieren, deshalb ist es notwendig, ausreichend Schutzmaßnahmen zu treffen.

Warum Unternehmen jetzt handeln müssen

Die KI-Verordnung betrifft viele Branchen und Unternehmen. Wer jetzt Maßnahmen ergreift, kann nicht nur Strafen vermeiden, sondern auch KI verantwortungsvoll und rechtssicher nutzen.

Erste Schritte für Unternehmen:

• Überblick verschaffen: Welche KI-Systeme werden bereits genutzt oder sind geplant?
• Risikobewertung vornehmen: Welche Vorschriften gelten für die verwendete KI?
• Interne Prozesse anpassen: Datenschutzkonformität sicherstellen und Transparenzpflichten erfüllen.
• Schulungen einführen: Mitarbeiter müssen ausreichend KI-Kenntnisse erwerben.
• Strategische Beratung einholen: Frühzeitig Experten hinzuziehen, um Fallstricke zu vermeiden.

Richten Sie Ihre KI-Strategie auf die neuen Anforderungen aus. Bei rechtlichen Themen können wir Ihnen zwar nicht zur Seite stehen, aber als Online-Marketing-Profis stehen wir Ihnen in Sachen Online-Marketing und E-Commerce zur Seite sowie dem sinnvollen Einsatz von KI dabei.

Nehmen Sie ganz unverbindlich Kontakt mit uns auf!

Anne Pehlke

pehlke@ecommerce-werkstatt.de

Ihr Name*

Ihr Unternehmen

E-Mail Adresse*

Telefon

Nachricht*

Ich habe die Datenschutzerklärung gelesen und stimme zu, dass die von mir eingegebenen Daten elektronisch erfasst und gespeichert werden.