{"id":18754,"date":"2023-10-12T07:45:00","date_gmt":"2023-10-12T05:45:00","guid":{"rendered":"https:\/\/www.sage.com\/de-de\/blog\/?p=18754"},"modified":"2025-05-07T15:59:28","modified_gmt":"2025-05-07T13:59:28","slug":"explainable-ai-schlussel-zu-transparenz-und-vertrauen","status":"publish","type":"post","link":"https:\/\/www.sage.com\/de-de\/blog\/explainable-ai-schlussel-zu-transparenz-und-vertrauen\/","title":{"rendered":"Explainable AI: Schl\u00fcssel zu Transparenz und Vertrauen"},"content":{"rendered":"
\n\t
\n\t\t
\n\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\tDigitale Transformation<\/a>\t\t\t\t\t\t<\/div>\n\t\t\t\t\n\t\t\t\t
\n\t\t\t\t\t

\n\t\t\t\t\t\tExplainable AI: Schl\u00fcssel zu Transparenz und Vertrauen\t\t\t\t\t<\/h1>\n\t\t\t\t<\/div>\n\n\t\t\t\t\t\t\t\t\t

\n\t\t\t\t\t\t\t\t\t\t\t<\/p>\n\t\t\t\t\n\t\t\t\t\n\t\t\t\t\n\t\t\t<\/div>\n\n\t\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t<\/div>\n\t

\n\t\t
\n\t\t\t
\n\t
\n\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t\n\t\t
\n\t\t\t\n\t\t\t\t\"Stefan\t\t\t\tStefan von Gagern<\/span>\n\t\t\t<\/a>\n\n\t\t\t\t\t<\/div>\n\n\t\t\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t<\/div>\n<\/div>\n\n\n\n

Studien zu KI \u00fcberschlagen sich immer wieder mit Effizienz-Prognosen. Die Marktforscher von McKinsey bescheinigen allein im Bereich Generativer KI (englisch \u201eGen AI\u201c) einen j\u00e4hrlichen Produktivit\u00e4tszuwachs<\/a> f\u00fcr Unternehmen von 2,6 bis 4,4 Billionen US-Dollar. Aber trotz aller Vorteile kommt KI in vielen Branchen und Anwendungsf\u00e4llen nicht zum Einsatz, weil Bedenken zu Datenschutz und fehlender Transparenz bestehen. So ermittelte der Branchenverband Bitkom, dass zwar zwei Drittel der Firmen in Deutschland KI als wichtigste Zukunftstechnologie einordnen, aber gleichzeitig knapp 60 Prozent<\/a> noch einsteigerfreundliche Tools wie ChatGPT links liegen lassen. \u201eZwar setzt nur jedes f\u00fcnfte Unternehmen, das KI als wichtigste Zukunftstechnologie sieht, selbst auch KI ein. Aber die deutsche Wirtschaft dr\u00fcckt beim Thema K\u00fcnstliche Intelligenz seit diesem Jahr st\u00e4rker aufs Tempo. An der Diskrepanz zwischen Wissen und Handeln m\u00fcssen wir dauerhaft arbeiten\u201c, sagt Bitkom-Pr\u00e4sident Ralf Wintergerst.<\/p>\n\n\n\n

Ein Problem, das ebenfalls f\u00fcr Bedenken sorgen k\u00f6nnte, ist die fehlende Transparenz, wie die Tools arbeiten. ChatGPT nutzt ein so genanntes LLM (Large Language Model), um aus Eingaben (genannt Prompts) Texte zu generieren, die menschliche Sprache simulieren. Wie das geschieht, welche Quellen darin einflie\u00dfen und mit welchen Daten das Modell GPT-4 trainiert wurde, bleibt unklar \u2013 bzw. unscharf. Es ist lediglich bekannt, dass GPT gro\u00dfe Teile der Texte des Internets, Fachb\u00fccher und Wikipedia-Eintr\u00e4ge \u201egelesen\u201c hat.<\/p>\n\n\n\n

Explainable AI \u2013 <\/strong>Entscheidungen werden nachvollziehbar<\/h2>\n\n\n\n

In diesem Zusammenhang wird der Ansatz “Explainable Artificial Intelligence” (XAI) immer spannender. Explainable AI bezieht sich auf Techniken und Methoden in der KI, die es erm\u00f6glichen, dass die Entscheidungen und Aktionen der K\u00fcnstlichen Intelligenz erkl\u00e4rbar und verst\u00e4ndlich f\u00fcr menschliche Benutzer sind.<\/p>\n\n\n\n

Es geht darum, die oft als “Blackbox” bezeichneten Algorithmen offen und deren Funktionsweise transparent zu machen. Im Gegensatz zu Algorithmen wie dem Large Language Model (z.B. ChatGPT), bei dem es oft schwierig ist, die genaue Entstehung einer Entscheidung nachzuvollziehen, legt XAI den Fokus auf Transparenz. Somit w\u00e4ren auch die Entscheidungen einer KI nachvollziehbar.<\/p>\n\n\n\n

Transparenz schafft Vertrauen und Sicherheit<\/h2>\n\n\n\n

In vielen sensiblen Bereichen wie dem Gesundheitswesen, den Finanzen und dem Rechtswesen ist das Verst\u00e4ndnis und das Vertrauen in Technologie von entscheidender Bedeutung. Wenn etwa ein KI-System in einem Krankenhaus verwendet wird, um Diagnosen und Empfehlungen wie eine Krebsbehandlung oder Operation zu stellen, m\u00f6chten \u00c4rzte und Patienten wissen, wie das System zu seinen Schlussfolgerungen kommt. XAI k\u00f6nnte hier die Daten und den Entscheidungsprozess offenlegen.<\/p>\n\n\n\n

Ebenso ist in der Finanzwelt, wo Millionen von Euros auf dem Spiel stehen k\u00f6nnen, die Transparenz in Entscheidungsprozessen unerl\u00e4sslich.<\/p>\n\n\n\n

3 Vorteile von Explainable AI:<\/h2>\n\n\n\n