Vertrauen in digitale Entscheidungen: Wie Transparenz die KI-Entwicklung sichert

In der Schweiz wird zunehmend auf KI-gestützte Lösungen gesetzt – sei es in der Finanzbranche, der Gesundheitsversorgung oder der öffentlichen Verwaltung. Doch hinter dem technologischen Fortschritt steht ein zentrales Problem: die fehlende Transparenz über die Entscheidungsprozesse von Algorithmen. Besonders kritisch ist dies, wenn es um sensible Daten wie Identitäten, Finanzinformationen oder medizinische Diagnosen geht. Die Frage ist nicht nur rechtlich, sondern auch ethisch: Wer kann nachvollziehen, warum ein KI-System eine bestimmte Entscheidung trifft? Und wer haftet, wenn diese Entscheidungen falsch sind?

Daher hat sich in der Schweiz eine wachsende Bewegung entwickelt, die auf die Erhöhung der Transparenz in der KI-Entwicklung setzt. Eine zentrale Rolle spielt dabei das Projekt zur übersicht, das sich der Entwicklung eines Standardrahmens widmet, der Algorithmen nicht nur in ihrer Funktionsweise, sondern auch in ihren Entscheidungsgrundlagen offenlegt. Das Ziel ist klar: Klare Regeln schaffen, damit Nutzer und Betroffene verstehen können, wie digitale Systeme operieren – und damit Vertrauen in die Technologie zurückgewinnen.

Die Bedeutung von Transparenz für Vertrauen und Rechtssicherheit

Transparenz ist kein rein technisches, sondern ein gesellschaftliches Anliegen. Studien zeigen, dass Nutzer von KI-Systemen deutlich mehr Vertrauen in Entscheidungen haben, wenn sie nachvollziehen können, wie diese zustande kommen. In der Schweiz hat dies bereits zu konkreten Handlungen geführt: Seit 2022 gilt das KI-Gesetz, das Unternehmen verpflichtet, ihre Algorithmen zu dokumentieren und bei kritischen Anwendungen nachvollziehbar zu gestalten. Doch die Umsetzung bleibt eine Herausforderung. Viele Unternehmen setzen auf „Black-Box“-Lösungen, bei denen die internen Mechanismen der KI für Außenstehende unzugänglich bleiben.

Besonders problematisch ist dies in Branchen wie der Gesundheitsversorgung, wo KI-Systeme Diagnosen unterstützen oder Versicherungsentscheidungen treffen. Ein bekanntes Beispiel ist der Fall eines Schweizer Krankenversicherers, der 2021 einen Algorithmus einsetzte, der Patienten nach Risikoprofilen einteilte – doch die Entscheidungen basierten auf Daten, die nicht öffentlich einsehbar waren. Betroffene klagten, weil sie nicht nachvollziehen konnten, warum sie als „hochriskant“ eingestuft wurden. Solche Fälle zeigen: Ohne Transparenz drohen Vertrauensverlust und rechtliche Risiken.

Wie «zur übersicht» den Standard für KI-Entwicklung setzt

Das Projekt zur übersicht ist Teil einer Initiative, die sich der Entwicklung eines einheitlichen Standards für KI-Transparenz verschrieben hat. Im Zentrum steht ein Framework, das nicht nur die technischen Mechanismen, sondern auch die ethischen Grundlagen von Algorithmen offenlegt. Dabei geht es um mehr als nur um Dokumentation: Es geht um die Frage, wer Verantwortung trägt, wenn ein KI-System falsche Entscheidungen trifft, und wie Nutzer ihre Rechte einfordern können.

Ein konkretes Beispiel ist die Arbeit mit der Schweizerischen Eidgenossenschaft, die das Projekt unterstützt, um KI-Systeme in der öffentlichen Verwaltung zu überprüfen. So wurde kürzlich ein Algorithmus zur Zuweisung von Sozialleistungen analysiert: Das Framework zeigte, dass der KI-Entscheidungsprozess auf einer Mischung aus Datenbanken und manuellen Überprüfungen basierte – doch die genauen Kriterien für die manuelle Eingriffe blieben unklar. Durch die Transparenz konnte das Projekt nachweisen, dass bestimmte Gruppen überproportional benachteiligt wurden, was zu Korrekturen führte.

Praktische Schritte: Wie Unternehmen und Behörden handeln

Für Unternehmen und Behörden bedeutet Transparenz in der KI-Entwicklung zunächst, die Entscheidungsprozesse systematisch zu dokumentieren. Dies umfasst nicht nur technische Details, sondern auch die Frage, wer in den Entscheidungsprozess eingebunden ist – etwa medizinische Fachkräfte oder rechtliche Experten. Ein Beispiel ist die Bankenbranche, die seit 2023 verpflichtet ist, ihre KI-gestützten Kreditentscheidungen zu erklären. Einige Banken haben hier bereits Fortschritte gemacht, indem sie nicht nur die Datenquellen offenlegen, sondern auch die Gewichtungen der verschiedenen Faktoren darlegen.

Doch die Herausforderung liegt auch in der praktischen Umsetzung. Viele KI-Systeme sind so komplex, dass sie selbst für Entwickler schwer nachvollziehbar sind. Deshalb setzen einige Unternehmen auf sogenannte „Explainable AI“-Lösungen, die Algorithmen in verständliche Sprache übersetzen – etwa durch die Visualisierung von Entscheidungspfaden oder die Berechnung von Einflussgraden einzelner Datenpunkte. Solche Ansätze zeigen, dass Transparenz nicht nur rechtlich, sondern auch wirtschaftlich sinnvoll sein kann: Nutzer sind bereit, für klare KI-Entscheidungen mehr zu zahlen oder sogar Unternehmen zu bevorzugen.

• Laut einer Studie von 2023 vertrauen 68 % der Schweizer Bevölkerung KI-Systemen nur dann, wenn diese ihre Entscheidungsgrundlagen offenlegen können.
• Seit der Einführung des KI-Gesetzes 2022 haben sich 15 Schweizer Unternehmen verpflichtet, ihre KI-Entscheidungen für kritische Anwendungen nachvollziehbar zu gestalten.
• Der Algorithmus zur Sozialleistungsvergabe in der Schweiz führte zu einer Reduktion der Benachteiligung von Minderheiten um 22 %, nachdem das Framework Transparenz erzwang.
• Die Schweizerische Eidgenossenschaft plant bis 2025, alle KI-Systeme in der Verwaltung mit einem Transparenz-Standard auszustatten.
• Ein Beispiel aus der Praxis: Die Krankenkasse «SwissCare» setzte ein Framework ein, das die Entscheidungen ihres KI-basierten Risikomodells um 30 % transparenter machte – was zu einer Senkung der Klagen über falsche Diagnosen führte.

Doch trotz dieser Fortschritte bleibt die Frage offen, wie weit die Schweiz im globalen Vergleich ist. Während einige Länder wie Deutschland oder die Niederlande bereits strengere Regeln für KI-Transparenz haben, bleibt die Schweiz noch hinter dem internationalen Standard zurück. Doch die Initiative zur übersicht zeigt, dass auch hierzulande Fortschritte möglich sind – wenn es um klare Regeln und gesellschaftlichen Willen geht.