EU AI Act für den Mittelstand in 10 Minuten

Der EU AI Act ist seit August 2024 in Kraft. Die meisten Verpflichtungen für klassifizierte Hochrisiko-Anwendungen gelten ab August 2026. Was bedeutet das konkret für einen mittelständischen Betrieb in Deutschland, der bereits KI-Tools nutzt oder einsetzen will? Vier praktische Antworten.

Hinweis: Dieser Artikel ersetzt keine Rechtsberatung. Konkrete Einordnung bitte mit IT-Anwalt und Datenschutzbeauftragten klären.

1. Was der AI Act für Sie bedeutet — in einem Satz

Der AI Act klassifiziert KI-Anwendungen in vier Risikoklassen — unzulässig, hoch, begrenzt, minimal — und verknüpft an die Klassifikation Pflichten, die Sie als Betreiber oder Anbieter erfüllen müssen. Wenn Sie KI nur in der niedrigsten Klasse einsetzen, ändert sich für Sie operativ wenig. Wenn Sie ohne es zu wissen in der Hochrisiko-Klasse landen, ändert sich für Sie viel — Konformitätsbewertung, Dokumentationspflicht, technische Schutzmaßnahmen, Meldepflichten.

Die Frage, die Sie sich heute stellen sollten, ist nicht „Was ist der AI Act?", sondern: „In welche Risikoklasse fallen meine bestehenden und geplanten KI-Anwendungen?" Wer das nicht prüft, riskiert im schlimmsten Fall Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes — gestaffelt nach Verstoß.

2. Hochrisiko-Anwendungen — wann das für den Mittelstand relevant wird

Die Vorstellung, Hochrisiko-KI sei nur etwas für Banken und kritische Infrastruktur, ist falsch. Der AI Act benennt eine Liste konkreter Anwendungsfälle in Anhang III, die explizit als Hochrisiko klassifiziert sind. Mehrere davon treffen den klassischen B2B-Mittelstand direkt.

Beschäftigung und Personalmanagement. KI in der Bewerber-Vorauswahl, in der Leistungsbewertung, in der Beförderungs-Entscheidung — alles Hochrisiko. Wenn Sie ein HR-Tool einsetzen, das KI-gestützt Lebensläufe filtert, sind Sie betroffen. Das gilt auch für Tools, bei denen die KI-Komponente nicht im Vordergrund beworben wird.

Wesentliche private und öffentliche Dienstleistungen. Kreditwürdigkeitsprüfung, Risiko-Pricing in Versicherungen, Notrufdisposition. Klassisch für Finanzdienstleister, betrifft aber zunehmend auch Mietverwaltungen, Versorger, Telekommunikation.

Biometrische Identifikation und Kategorisierung. Einsatz von Gesichtserkennung am Eingang, Mitarbeiter-Authentifizierung über biometrische Merkmale, Kunden-Identifikation in Filialen — Hochrisiko, wenn die KI-Komponente klassifizierend wirkt.

Wenn Ihr Anwendungsfall in eine dieser Kategorien fällt, müssen Sie als Betreiber bestimmte Pflichten erfüllen, unabhängig davon, ob die KI selbst entwickelt oder zugekauft wurde.

3. Die drei Pflichten, die fast jeden treffen

Auch wenn Sie nicht in der Hochrisiko-Klasse sind, gelten ab Februar 2025 bereits Anforderungen — und es ist deutlich klüger, sie heute aufzubauen, als rückwirkend nachzuziehen.

Pflicht 1: KI-Kompetenz im Team. Artikel 4 verlangt, dass Sie als Betreiber sicherstellen, dass Personen, die KI-Systeme einsetzen, über ausreichende KI-Kompetenz verfügen — angemessen zu Kontext und Anwendung. Das ist keine Pflicht zu Volkshochschul-Kursen. Es ist eine Pflicht, intern dokumentieren zu können, dass die Nutzer der eingesetzten KI verstehen, was das System tut, wo seine Grenzen liegen und wann manuelle Prüfung notwendig ist.

In der Praxis heißt das: ein Onboarding-Modul für jeden Mitarbeiter, der mit dem System arbeitet, dokumentiert, datiert, mit Nachweis der Teilnahme. Wir bauen das bei Mandaten als ein 30-minütiges internes Format pro System, mit kurzer Lernkontrolle. Kostet wenig, schützt viel.

Pflicht 2: Transparenz gegenüber Endkunden. Wenn Ihr Kunde mit einem KI-System interagiert — Chatbot, Sprachassistent, automatisch generierter Text — muss er darüber informiert werden. Konkret heißt das: Ihr Chatbot beginnt das Gespräch mit einer Information darüber, dass er KI-basiert ist. Auto-generierte E-Mails enthalten einen Hinweis, sofern Inhalte ohne menschliche Prüfung versandt werden. Synthetische Audio- oder Video-Inhalte müssen entsprechend gekennzeichnet sein.

Diese Transparenz-Pflicht gilt unabhängig von der Risikoklasse. Ihre bestehenden Tools — Intercom-Bots, Sales-Outreach-Tools mit AI-Personalisierung, Customer-Service-Automatisierung — sollten Sie prüfen lassen.

Pflicht 3: Keine Nutzung verbotener Praktiken. Artikel 5 listet KI-Anwendungen, die schlicht verboten sind — Social Scoring, manipulative Beeinflussung über unterschwellige Techniken, bestimmte Formen biometrischer Echtzeit-Identifikation. Klingt weit entfernt vom Mittelstand. Wir sehen aber in Mandanten-Audits regelmäßig grenzwertige Praktiken — zum Beispiel Customer-Scoring-Modelle, die in die Kategorie „Manipulation" hineinreichen können, je nachdem, wie sie eingesetzt werden. Ein Audit klärt das.

4. Was wir konkret in jeder Architektur einbauen

Wenn wir bei einem Mandanten ein KI-System konzipieren, beinhaltet das Konzept von Anfang an sechs Compliance-Elemente. Sie sind nicht aufwendig, sie sind nur konsequent.

Erstens: Risikoklassifikation auf einer Seite. Jeder Anwendungsfall bekommt eine schriftliche Klassifikation nach AI-Act-Kategorien, mit Begründung. Eine Seite, datiert, gegengezeichnet vom Datenschutzbeauftragten.

Zweitens: Datenschutz-Folgenabschätzung (DSFA), wenn relevant. Für viele KI-Anwendungen verlangt nicht nur der AI Act, sondern die DSGVO eine DSFA. Diese wird vor der Implementierung erstellt, nicht nachgereicht.

Drittens: Audit-Log auf jeder Entscheidung. Jede Aktion eines KI-Agenten — Klassifikation, Generierung, Eskalation — wird mit Zeitstempel, Modell-Version, Input-Daten-Referenz und Output-Daten-Referenz protokolliert. Wir betreiben es bei uns selbst mit BRIN-Index in PostgreSQL — das skaliert auf Millionen Einträge ohne Performance-Verlust.

Viertens: Mensch-in-der-Schleife für kritische Entscheidungen. Hochrisiko-Anwendungen erfordern eine wirksame menschliche Aufsicht. Wir definieren konkret, welche Entscheidungstypen die KI alleine treffen darf, welche eine Bestätigung benötigen, und wie der Bestätigungs-Workflow aussieht. Eine Bestätigung muss real sein — nicht ein One-Click-Approve, der niemand prüft.

Fünftens: Recht auf Löschung (RTBF) im System verankert. Wenn ein Kunde Löschung seiner Daten verlangt, muss das System nicht nur die Daten löschen, sondern auch sicherstellen, dass von dieser Person abgeleitete Erkenntnisse nicht mehr verwendet werden. Das bauen wir in die Wissensbasis ein, nicht in einen Cleanup-Skript am Wochenende.

Sechstens: Keine Übermittlung an Trainingsdatenbestände. Die Verträge mit Modellanbietern (Anthropic, OpenAI) regeln explizit, dass Mandanten-Daten nicht in das Training fließen. Bei strengen Anforderungen betreiben wir Modelle vollständig lokal.

Diese sechs Elemente sind keine Bürokratie. Sie sind die Voraussetzung dafür, dass Sie in zwei Jahren immer noch operativ mit Ihrem KI-System arbeiten können, wenn die nationale Aufsichtsbehörde Konformität prüft.

Checklist: bin ich vorbereitet?

Sieben Fragen für eine schnelle Selbsteinschätzung:

1. Habe ich eine schriftliche Liste aller im Unternehmen eingesetzten KI-Systeme — inklusive Tools, in denen KI eine versteckte Komponente ist (zum Beispiel HR-Filter, CRM-Scoring)?
2. Ist für jedes dieser Systeme die AI-Act-Risikoklasse dokumentiert?
3. Haben die Nutzer der Systeme nachweisbar eine Einweisung erhalten, die Artikel 4 erfüllt?
4. Werden Endkunden, die mit KI-Systemen interagieren, darüber informiert?
5. Existiert für jede KI-Entscheidung mit Außenwirkung ein Audit-Log?
6. Gibt es eine dokumentierte Datenschutz-Folgenabschätzung pro System, wo erforderlich?
7. Ist die Geschäftsführung über Risikoklassifikation, Verantwortlichkeiten und Eskalationspfade informiert?

Wenn Sie weniger als fünf dieser Fragen mit einem klaren „Ja, dokumentiert" beantworten können, haben Sie Handlungsbedarf — und sollten ihn schließen, bevor August 2026 kommt.

Sie wollen prüfen, wo Sie stehen?Erstgespräch buchen — 30 Minuten, kostenfrei. Wir gehen die sieben Fragen gemeinsam durch und Sie haben am Ende eine klare Sicht, welche Lücken Priorität haben.