Unternehmen, die KI einsetzen oder anbieten, müssen je nach Risikoklasse Transparenz, Dokumentation und Kontrollen sicherstellen.
Was regelt der EU AI Act konkret?
Der EU AI Act, offiziell Verordnung (EU) 2024/1689, ist am 1. August 2024 in Kraft getreten und das erste umfassende KI-Gesetz weltweit. Er ordnet KI-Systeme vier Risikoklassen zu: verbotene Praktiken mit unannehmbarem Risiko, etwa Social Scoring oder heimliche Emotionserkennung am Arbeitsplatz, Hochrisiko-Systeme, etwa in kritischer Infrastruktur, Bildung, Personalauswahl oder bei der Kreditwürdigkeitsprüfung, Systeme mit Transparenzpflichten, etwa Chatbots oder Deepfakes, die als KI erkennbar sein müssen, und Systeme mit minimalem Risiko, für die keine gesetzlichen Pflichten gelten.
Je höher die Risikoklasse, desto mehr Dokumentation, menschliche Aufsicht und Kontrolle verlangt der Gesetzgeber von Anbietern und Betreibern.
Seit wann gilt was? Die Anwendungs-Zeitleiste
Der AI Act gilt gestaffelt, nicht auf einen Schlag. Verbotene Praktiken (Art. 5) und die Pflicht zur KI-Kompetenz der Mitarbeitenden (Art. 4, „AI literacy“) gelten bereits seit dem 2. Februar 2025. Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck gelten seit dem 2. August 2025; das betrifft insbesondere Modelle, die als „systemisches Risiko“ eingestuft werden, weil ihr Trainingsaufwand die Schwelle von 10^25 Rechenoperationen (FLOP) überschreitet.
Der Grossteil der übrigen Pflichten, insbesondere für Hochrisiko-Systeme, wird ab dem 2. August 2026 anwendbar; für bestimmte bereits im Einsatz befindliche Hochrisiko-Systeme gelten verlängerte Übergangsfristen bis Ende 2027 beziehungsweise 2028.
Für wen ist das relevant (KMU DE/CH)?
Der AI Act gilt für Anbieter und Betreiber von KI-Systemen mit Wirkung auf den EU-Markt, unabhängig vom Sitz des Unternehmens. Ein Schweizer KMU, das KI-gestützte Software an Kunden in der EU liefert oder mit EU-Personendaten arbeitet, kann daher direkt betroffen sein.
Für die meisten KMU in DE und CH ist die Frage weniger, ob sie KI überhaupt einsetzen dürfen, sondern welche Risikoklasse ihre konkreten Anwendungen haben und welche Pflichten daraus folgen: von einer einfachen Kennzeichnungspflicht bis zu einem vollständigen Risikomanagement.
Was müssen Sie konkret tun?
Der erste Schritt ist immer ein Überblick über die eingesetzten Anwendungen, nicht die Frage, ob „KI erlaubt ist“.
- KI-Inventar aller eingesetzten Anwendungen erstellen
- Jede Anwendung einer Risikoklasse zuordnen
- Bei Hochrisiko-Systemen Risikomanagement, Dokumentation und menschliche Aufsicht aufbauen
- Mitarbeitende im Umgang mit KI schulen (Art. 4, AI literacy)
- KI-generierte Inhalte bei generativer KI kennzeichnen
Typische Fehler
- KI-Einsatz ohne Risikoklassifizierung, weil „wir nutzen ja nur ChatGPT“
- Annahme, der AI Act betreffe nur grosse Tech-Konzerne
- Keine Dokumentation von Zweck und Datenherkunft je Anwendung
- Die Schulungspflicht nach Art. 4 wird übersehen, weil sie unabhängig von der Risikoklasse gilt
Aufwand und Kostentreiber
Der Aufwand hängt von der Anzahl und Risikoklasse Ihrer KI-Anwendungen ab, davon, ob Sie KI nur nutzen oder selbst entwickeln, ob sensible Daten betroffen sind, und ob bereits ein Datenschutz- oder Informationssicherheitsmanagementsystem besteht, an das sich die KI-Governance anlehnen lässt, statt ein drittes, unabhängiges System aufzubauen.
| Risikoklasse | Beispiele | Wesentliche Pflicht |
|---|---|---|
| Unannehmbares Risiko (verboten) | Social Scoring, heimliche Emotionserkennung am Arbeitsplatz, manipulative Systeme | Einsatz verboten seit 2. Februar 2025 |
| Hochrisiko | Kritische Infrastruktur, Bildung, Personalauswahl, Kreditwürdigkeitsprüfung, Strafverfolgung | Risikomanagement, Dokumentation, menschliche Aufsicht |
| Transparenzpflicht (begrenztes Risiko) | Chatbots, Deepfakes, KI-generierte Inhalte | Kennzeichnungspflicht, KI-Einsatz muss erkennbar sein |
| Minimales Risiko | Spamfilter, einfache Empfehlungssysteme, Videospiele | Keine gesetzlichen Pflichten |
Häufige Fragen
Betrifft uns der AI Act, wenn wir nur ChatGPT oder Copilot nutzen?
Ja, potenziell. Sie gelten als Betreiber einer KI, und schon die Pflicht zur KI-Kompetenz Ihrer Mitarbeitenden gilt seit dem 2. Februar 2025, unabhängig von der Risikoklasse.
Ab wann drohen Konsequenzen bei Verstössen?
Verbotene Praktiken und die AI-literacy-Pflicht werden seit dem 2. Februar 2025 angewendet. Die Pflichten für Hochrisiko-Systeme und der Grossteil der übrigen Regelungen greifen ab dem 2. August 2026.
Was bedeutet „systemisches Risiko“ bei Sprachmodellen?
Ein KI-Modell mit allgemeinem Verwendungszweck gilt als systemisches Risiko, wenn sein Trainingsaufwand 10^25 Rechenoperationen (FLOP) überschreitet. Für dessen Anbieter gelten seit dem 2. August 2025 zusätzliche Pflichten wie Risikobewertung und Vorfallmeldung.
Gilt der AI Act auch für Schweizer Unternehmen?
Er gilt direkt für den EU-Markt, nicht für die Schweiz als Drittstaat, wirkt aber faktisch auf jedes Unternehmen, das KI-Systeme in der EU anbietet, betreibt oder mit EU-Kunden dazu arbeitet.
Brauchen wir für jede KI-Anwendung ein Risikomanagement?
Nein, nur für Hochrisiko-Systeme. Für die meisten Standardanwendungen reichen Kennzeichnung, Dokumentation und geschulte Mitarbeitende.
Was, wenn wir jetzt schon KI einsetzen, ohne klassifiziert zu haben?
Ein KI-Inventar mit Risikoklassifizierung ist der erste Schritt, unabhängig vom Zeitpunkt. Besser jetzt nachholen, als bis zur vollen Durchsetzung ab August 2026 zu warten.
Quellen
- Verordnung (EU) 2024/1689 (AI Act), EUR-Lex, Amt für Veröffentlichungen der Europäischen Union, 2024
- Regulatory framework for AI, Europäische Kommission, Shaping Europe's digital future, 2026
- General-Purpose AI Models in the AI Act: Questions and Answers, Europäische Kommission, Shaping Europe's digital future, 2025