Recht, Steuern und Finanzen

Der KI-Ethik-Beauftragte: Mehr Ethik bei KI im Unternehmen installieren

Während 37 Prozent der deutschen Unternehmen bereits KI einsetzen, haben nur wenige formale Ethik-Strukturen etabliert. DAX-Konzerne wie SAP, Siemens und Allianz zeigen konkrete Umsetzungsansätze. Für KMU liegen die Implementierungskosten zwischen 15.000 und 250.000 Euro – eine Investition mit nachweisbarem ROI, die ab 2026 durch die EU-KI-Verordnung zwingend wird. Mit phasenweiser Implementierung und dezentraler Verantwortungsverteilung können auch kleinere Unternehmen ethische KI-Governance etablieren.

28. Oktober 20257 Minuten zu lesen Teilen

Inhaltsverzeichnis

Der EU AI Act macht KI-Ethik-Strukturen ab 2026 zur Pflicht. Wir zeigen, wie DAX-Konzerne ethische KI umsetzen, was es für KMU kostet und wie der Einstieg mit einem 3-Phasen-Plan in jedem Unternehmen gelingen kann.

Die gute Nachricht zuerst: Deutsche Unternehmen haben beim Thema KI endlich den Turbo gezündet. Rund 37 Prozent setzen bereits KI-Technologien ein – in den Führungsetagen wird in Deutschland intensiver über KI diskutiert als irgendwo sonst weltweit. Doch bei genauerer Betrachtung zeigt sich eine gefährliche Lücke: Während Vorstände KI-Strategien debattieren und Schulungen besuchen, fehlen formale Ethik-Strukturen. Das Problem ist nicht mangelndes Interesse, sondern fehlende Umsetzung. Viele Unternehmen tendieren zu informellen Ansätzen – externe Berater hier, gelegentliche Workshops dort – statt systematische Governance aufzubauen.

Die Konsequenz: Viele Arbeitnehmer nutzen KI, aber tatsächlich oft ohne klare Unternehmensrichtlinien. Diese „Schatten-KI“ birgt erhebliche Risiken – von Datenschutzverstößen bis zu diskriminierenden Algorithmen in HR. Genau hier setzen KI-Ethik-Beauftragte an: Sie schaffen die systematischen Strukturen, die zwischen KI-Begeisterung und verantwortungsvoller Nutzung vermitteln.

Was tun KI-Ethik-Beauftragte konkret?

KI-Ethik-Beauftragte entwickeln ethische Richtlinien, die als Kompass für alle KI-Aktivitäten dienen. Sie arbeiten eng mit Produktteams zusammen und stellen sicher, dass ethische Prinzipien bereits früh in der KI-Strategie und Umsetzung berücksichtigt werden – ein Ansatz namens „Ethics by Design“.

Ihre drei Kernaufgaben:

1. Richtlinienentwicklung: Erstellung umfassender Ethik-Guidelines mit Prinzipien wie Fairness, Transparenz und Datenschutz
2. Mitarbeiterschulungen: Sensibilisierung auf allen Ebenen – besonders wichtig, da viele Mitarbeiter bereits KI nutzen, oft ohne Unternehmensrichtlinien
3. Regelmäßige Audits: Systematische Überprüfung bestehender KI-Systeme auf Verzerrungen, Diskriminierung und Compliance-Verstöße

Wie setzen DAX-Unternehmen KI-Ethik um – und was können KMUs davon adaptieren?

SAP: UNESCO-Standard als Vorbild

SAP orientiert sich an UNESCO-Empfehlungen mit zehn Leitprinzipien und einer dreistufigen Governance: externes Advisory Panel, interner Ethikrat und praktisches Handbuch für alle Mitarbeiter. Der Ansatz kombiniert UNESCO-Prinzipien mit OECD AI Principles für internationale Kompatibilität.

Für KMU adaptierbar: Vereinfachte Version ohne externes Panel, dafür branchenspezifische Arbeitsgruppen.

Siemens: Proaktive EU AI Act-Vorbereitung

Siemens stellte 2024 eine Taskforce zusammen, entwickelte „Responsible AI Principles“ und startete Schulungen bereits vor Inkrafttreten der Pflicht. Bestehende KI-Systeme wurden auf Compliance geprüft.

Für KMU adaptierbar: Frühzeitige Vorbereitung senkt Compliance-Kosten erheblich.

Allianz: Menschenzentrierte Governance

Privacy and Ethics Impact Assessment (PEIA) stellt sicher, dass menschliche Aufsicht dem Risikoniveau entspricht. Chief Privacy Officer Philipp Räther: „Der Mensch wird immer die letzte Entscheidungsinstanz sein.“

Für KMU: Der PEIA-Prozess lässt sich als einfache Checkliste umsetzen – zwei Seiten Formular genügen für die Basis-Ethikprüfung.

Welche Standards und Frameworks gibt es für KI-Ethik?

EU AI Act: Der weltweit erste umfassende Rechtsrahmen kategorisiert KI nach Risikostufen und wird ab August 2026 vollständig durchgesetzt. Besonders relevant für KMU: Die meisten Anwendungen fallen in minimales oder begrenztes Risiko.

OECD AI Principles: Die 2019 verabschiedeten Prinzipien bilden die internationale Grundlage vieler nationaler Regulierungen. Sie definieren fünf wertebasierte Prinzipien – inklusives Wachstum, Menschenrechte, Transparenz, Robustheit, Rechenschaftspflicht – und fünf Empfehlungen für die Politik: Investitionen in KI-Forschung und -Entwicklung, Förderung eines inklusiven KI-Ökosystems, Gestaltung eines förderlichen Umfelds für KI, Ausbau menschlicher Kapazitäten und Vorbereitung auf den Arbeitsmarktwechsel und die internationale Zusammenarbeit für vertrauenswürdige KI.

BVDW-Prinzipien: Der Bundesverband Digitale Wirtschaft definiert sechs praktische Prinzipien: Fairness, Transparenz, Erklärbarkeit, Datenschutz, Sicherheit und Robustheit. Eva Werle, BVDW-Vizepräsidentin: „Die Potenziale der KI mit ethischen Erwartungen zu vereinen, darf kein optionaler Zusatz sein.“

IEEE Standards: Das Institute of Electrical and Electronics Engineers entwickelt technische Standards wie IEEE 7000 (ethisches Design) und IEEE 7010 (Bias-Management), die besonders für Entwickler relevant sind.

Was kostet EU AI Act-Compliance für KMU nach Risikostufe?

Glücklicherweise fallen die meisten KMU-Anwendungen in minimales oder begrenztes Risiko. Und: Für Unternehmen mit ordnungsgemäßer KI-Governance ist es 27 Prozent wahrscheinlicher, höhere Umsätze zu erzielen. Sie können mit folgenden Kosten rechnen:

• Minimales Risiko (Spam-Filter, einfache Chatbots): 5.000-15.000 €/Jahr
  • Basisdokumentation, Transparenzkennzeichnung, 1-Tages-Schulung
• Begrenztes Risiko (Emotionserkennung, Personalisierung): 15.000-40.000 €/Jahr
  • Erweiterte Dokumentation, regelmäßige Reviews, 2-3 Schulungstage
• Hochrisiko (HR-Software, Kreditprüfung): 50.000-200.000 €/Jahr
  • CE-Kennzeichnung (einmalig 193.000-330.000 €)
  • Vollständiges Qualitätsmanagementsystem
  • Laufende Audits

Wie können KMU KI-Ethik-Governance aufbauen?

Die DAX-Beispiele zeigen: KI-Ethik funktioniert mit dedizierten Beauftragten. Doch was, wenn das Budget keine neue Vollzeitstelle erlaubt? Es geht auch anders: Ethische KI-Governance lässt sich auch durch intelligente Verteilung der Verantwortung auf bestehende Rollen aufbauen – mit deutlich geringerem Budget. Entscheidend ist nicht die Job-Bezeichnung, sondern dass die Aufgaben systematisch erledigt werden.

Phase 1: Grundlagen (Monate 1-6) – Budget: 15.000-40.000 €

• KI-Inventar erstellen (Excel-Liste aller Tools)
• Einfache Leitlinien entwickeln (BVDW-Prinzipien nutzen)
• KI-Verantwortlichen benennen (20-30% Arbeitszeit)
• Grundlagenschulungen (2 halbtägige Workshops)

Phase 2: Strukturen (Monate 7-18) – Budget: 40.000-100.000 €

• KI-Ethik-Arbeitsgruppe (5-7 Personen)
• Quartalsweise Reviews
• 10-Fragen-Checkliste für neue KI-Tools
• Erste Audits mit EU ALTAI-Checkliste

Phase 3: Optimierung (ab Monat 19) – Budget: 100.000-250.000 €

• Automatisierung von Compliance-Prozessen
• Externe Validierung durch Mittelstand-Digital-Zentren
• Integration in Risikomanagement

Verantwortung verteilen ohne dedizierte Rolle:

• Datenschutzbeauftragter um KI-Ethik erweitern (+5-10 h/Woche)
• IT-Sicherheit mit Ethik-Mandat
• Qualitätsmanagement um KI-Kapitel ergänzen

Zentrale Governance-Aufgaben

Maike Scholz, Group Compliance – Squad Lead Digital Ethics bei der Deutschen Telekom, benennt im BVDW-Whitepaper die zentralen Governance-Aufgaben für KI-Ethik-Verantwortliche:

„Der gemeinsame Konsens in Deutschland sollte lauten: ‚Entwickle, gestalte und nutze Algorithmen und KI-Systeme so, dass sie die Grundrechte der Menschen wahren und ihnen ein freies und selbstbestimmtes Leben ermöglichen.'“

Konkret bedeutet das:

• Ist im Unternehmen festgelegt, wer für die Implementierung und Einhaltung ethischer Standards zuständig ist?
• Gibt es eine klare Ethik-Richtlinie, die den Umgang mit KI regelt?
• Sind die Verantwortlichkeiten für Entwicklung und Einsatz von KI-Systemen klar definiert?

Warum ist „Schatten-KI“ ein massives Problem?

Viele Arbeitnehmer nutzen KI am Arbeitsplatz, während Unternehmen kaum Richtlinien haben. Diese informelle Nutzung birgt Datenschutzverstöße, Compliance-Probleme und Haftungsrisiken.

Lösungen:

• Transparente Kommunikation statt Verbote (82 Prozent wollen einbezogen werden)
• Enterprise-Tools mit guter UX bereitstellen
• Betriebsräte früh einbinden (Mitbestimmungspflicht bei KI in HR, Leistungskontrolle)

Zeitplan und Bußgelder

Meilensteine:

• Februar 2025: Schulungspflicht greift
• August 2025: Bundesnetzagentur wird Aufsichtsbehörde
• August 2026: Vollständige Hochrisiko-Anforderungen

Bußgelder bei Verstößen:

• Bis zu 35 Millionen € oder 7% des weltweiten Jahresumsatzes bei verbotenen KI-Praktiken
• Bis zu 15 Millionen € oder 3% bei Hochrisiko-Verstößen

Fazit: Jetzt handeln, Wettbewerbsvorteil sichern

Deutsche Unternehmen diskutieren intensiv über KI, haben aber erhebliche Implementierungslücken bei ethischer Governance. Die Vorbereitungszeit bis August 2026 bietet die Chance, regulatorische Pflicht in strategischen Vorteil zu verwandeln.

KMU-Investitionen von 15.000-250.000 € zahlen sich aus: 27 Prozent höhere Umsatzchancen, bessere Projekt-Erfolgsraten, vermiedene Bußgelder. Klein anfangen ist besser als gar nicht – mit kostenlosen Tools und bestehenden Rollen.

Die Zukunft gehört nicht den Unternehmen mit der leistungsfähigsten KI, sondern denen mit der vertrauenswürdigsten.

Weitere interessante Artikel

• KI im Finanzwesen: eine erfolgversprechende Story
• Die KI-(R)Evolution im Mittelstand: Warum jetzt der richtige Zeitpunkt ist
• KI als Game Changer: Neue Kompetenzen für die digitale Transformation
• KI in der Datenanalyse: Welche Rolle spielt der Mensch?
• AI Agents: Die digitalen Helfer, die nie Pause machen