EU-Verordnung zur KI: Worauf müssen KMUs sich einstellen?

KI soll die Produktivität in vielen Branchen und Unternehmen deutlich erhöhen sowie viel Innovation beflügeln. Die Marktforscher von McKinsey bescheinigen KI mehr Wachstumspotenzial als seinerzeit der Dampfmaschine, Industrierobotern und der IT- / Kommunikationstechnologie. Nach den Prognosen kann KI das globale Bruttoinlandsprodukt (BIP) bis 2030 zusätzlich um durchschnittlich 1,2 Prozentpunkte pro Jahr steigern. Inmitten der rasanten Entwicklung ist die Europäische Union (EU) dabei, eine neue Verordnung für KI zu entwerfen, die weitreichende Konsequenzen für Nutzer und KMU haben könnten.

Gemeinsame Sicherheitsprotokolle für KI gefordert

Trotz aller positiven Prognosen warnen Skeptiker schon länger vor den Gefahren, wie kürzlich mehrere Tech-Leader in einem offenen Brief. Selbst Tesla Gründer Elon Musk, der das Unternehmen OpenAI, Erfinder von ChatGPT, mitgegründet hat, forderte bei der Veröffentlichung des jüngsten Chatbots GPT-4 eine Pause für die rasante KI-Entwicklung. Diese Pause würde Zeit bieten, um „gemeinsame Sicherheitsprotokolle“ für KI-Systeme einzuführen, so Musk. „Wenn eine solche Pause nicht schnell umgesetzt werden kann, sollten die Regierungen eingreifen und ein Moratorium verhängen“, fügte er hinzu. In einem Interview verglich Musk den aktuellen Zustand mit demjenigen kurz nach Einführung des Automobils. Damals gab es noch keine Verkehrsregeln, was schlimme Unfälle zur Folge hatte. So bräuchte KI ein klares Regelwerk, um ein „großes Risiko für die Gesellschaft und die Menschheit“ zu verringern.

Der KI Chatbot von OpenAI führt eindrucksvoll die beiden Seiten der Medaille vor Augen: Er kann in kürzester Zeit Inhalte generieren – aber auch Falschinformationen oder tendenziöse Inhalte erzeugen. Ohne Faktencheck kann großer Schaden entstehen. Deswegen ist ein korrekter Einsatz von KI in Unternehmen wichtig, der Prinzipien wie Datenschutz und Ethik berücksichtigt, wie auch KI-Expertin Kathy Baxter von Salesforce in unserem Interview betonte.

Welche Rechte und Pflichten soll die Verordnung der EU für KI mit sich bringen?

In der Europäischen Union sollen bald strikte Regeln für den Gebrauch von künstlicher Intelligenz gelten. Das EU-Parlament hat einen Entwurf für eine Verordnung zu KI gebilligt, der in den nächsten Monaten in Gesprächen mit den EU-Ländern und der EU-Kommission weiter ausgeformt werden soll. Laut EU-Parlament wäre dieses europaweite Regelwerk für KI das Erste seiner Art weltweit. Auch wenn die finalen Details noch offen sind, ist schon eine erste Einordnung anhand der Pressemitteilungen des EU-Parlaments möglich. 

3 zukünftige Pflichten für Anbieter von KI: 

1. Risikoabschätzung: KI-Anbieter sollen künftig Risiken abschätzen – etwa für Gesundheit, Sicherheit und die Grundrechte von Personen, die Umwelt, Demokratie oder Rechtsstaat. Diese müssen sie mindern und ihre Modelle dann in einer EU-Datenbank registrieren, bevor sie auf den EU-Markt kommen.

2. Transparenz: Generative KI-Systeme, die auf Transformer-Modellen beruhen, wie etwa ChatGPT, dürfen künftig keine Blackbox mehr sein, sondern müssen die Forderung nach mehr Transparenz erfüllen. Sie müssen zum Beispiel offenlegen, dass die Inhalte KI-generiert sind. Das soll erleichtern, sogenannte Deepfake-Fotos von echten Fotos zu unterscheiden – und so abgebildete Personen schützen.

3. Klärung von Rechten: Zusätzlich müssen KI-Anbieter dafür sorgen, dass keine rechtswidrigen Inhalte erzeugt werden. Außerdem müssen sie detaillierte Zusammenfassungen der urheberrechtlich geschützten Daten veröffentlichen, die sie zu Trainingszwecken verwendet haben. Bei Fragen zum Trainingsmaterial haben sich die Entwickler von ChatGPT, OpenAI, bisher eher bedeckt und vage verhalten.

3 zukünftige Regelungen für Nutzer von KI:

1. Mensch-zentrierte Überwachung: KI-Systeme sollen sicher, transparent, nicht diskriminierend und umweltfreundlich gestaltet sein und stets von Menschen überwacht werden. Das bedeutet für Nutzer, dass sie stets die Kontrolle behalten und klare Transparenz darüber haben, wie KI-Systeme arbeiten und welche Daten sie verwenden.

2. Beschränkungen für riskante KI-Praktiken: Nutzer müssen sich der Risiken bestimmter KI-Systeme bewusst sein. Systeme, die als inakzeptabel riskant eingestuft werden – wie solche, die manipulative Techniken nutzen – könnten in der EU verboten werden.

3. Transparenz und Rechte der Bürger: Nutzer haben das Recht, sich über KI-Systeme zu beschweren und Erklärungen zu Entscheidungen zu erhalten, die aufgrund von KI getroffen wurden.

Pionierleistung der EU-Kommission

Die Europäische Union nimmt eine Pionierrolle bei der Gestaltung eines Rechtsrahmens für Künstliche Intelligenz ein. Die vorgeschlagenen Regelungen wollen einen Spagat schaffen: Den rasanten technologischen Fortschritt nicht behindern, aber die Technologie mit den grundlegenden Werten und Rechten der EU-Bürger in Einklang bringen.

Die EU-Verordnung zur KI könnte auch als Vorbild für andere Regionen dienen, die eigene Regelungen anstreben. Die Tatsache, dass die EU den ersten Schritt in diese Richtung macht, könnte ihr einen strategischen Vorteil in der Gestaltung globaler KI-Normen verschaffen.

Viele der vorgeschlagenen Regelungen könnten bestehende KI-Anwendungen beeinflussen, insbesondere wenn sie als riskant oder nicht konform mit den neuen Standards eingestuft werden. Besonders betroffen könnten Anwendungen sein, die biometrische Überwachung oder Emotionserkennung nutzen. Unternehmen, die solche Technologien bereits implementiert haben, müssen ihre Systeme möglicherweise überarbeiten oder ganz aufgeben.

Fazit: Wird die EU mit ihrer Verordnung zur KI zum Ethik-Vorreiter?

Das zu erwartende Gesetz dürfte in der KI-Community gemischte Reaktionen hervorrufen. Während viele die Haltung der EU und das Streben nach ethischer KI begrüßen, werden andere befürchten, dass zu strenge Regelungen die Innovation hemmen und die EU im globalen KI-Rennen zum Schlusslicht machen. Schon jetzt müssen EU-Bürger oft aufgrund der schärferen DSGVO-Regeln länger auf die Einführung von KI-Angeboten warten – etwa kürzlich bei Googles ChatGPT-Alternative Bard, oder aktuell noch beim Chatbot Claude.ai.

Wie das endgültige Gesetz aussehen und welche langfristigen Auswirkungen es haben wird, bleibt abzuwarten. Es ist jedoch klar, dass es bedeutende Impulse sowohl für die KI-Industrie als auch für die Gesellschaft insgesamt setzen wird. Aktuell kann man davon ausgehen, dass die neuen Regelungen frühestens 2026 in Kraft treten werden. Zuvor sollen allerdings schon freiwillige Verpflichtungen von der EU angeregt werden.

Sicher interessieren Sie auch diese Artikel zur künstlichen Intelligenz

Sie interessieren sich für alles rund um künstliche Intelligenz? Dann lesen Sie doch auch diese Artikel, die Sie sicherlich bei Ihrer Arbeit unterstützen:

KI in der Datenanalyse: Welche Rolle spielt der Mensch?

Wie funktioniert ein ethischer Umgang mit KI?

KI und HR

5 Gründe, warum KI die Personalverwaltung revolutionieren kann

Conversational AI: Next Level im Kundenservice

Chatbot ChatGPT: Outsourcing von HR an KI – ein Angriff auf die Menschlichkeit?