Schweizer Hochschulen wollen ihre Forschung zur vertrauenswürdigen künstlichen Intelligenz stärker vernetzen. Im Mittelpunkt stehen Verfahren, die nicht nur leistungsfähig, sondern auch nachvollziehbar, sicher und mit den Grundsätzen des Datenschutzes vereinbar sind. Das Forschungsnetzwerk bringt unterschiedliche Fachrichtungen zusammen und soll den Austausch zwischen Wissenschaft, öffentlicher Hand und Wirtschaft erleichtern.
Der Ansatz kommt zu einem Zeitpunkt, an dem KI-Systeme in immer mehr Bereichen eingesetzt werden. Sie unterstützen etwa die Auswertung grosser Datenmengen, automatisieren wiederkehrende Aufgaben und helfen bei Prognosen. Gleichzeitig können fehlerhafte oder verzerrte Ergebnisse erhebliche Folgen haben. Vertrauen lässt sich deshalb nicht allein durch technische Leistungswerte schaffen.
Technik, Recht und Gesellschaft gemeinsam denken
Zu den beteiligten Fachrichtungen gehören unter anderem Informatik, Statistik, Datenwissenschaft, Rechtswissenschaft, Ethik, Sozialwissenschaften und Wirtschaft. Diese Verbindung ist entscheidend, weil vertrauenswürdige KI mehrere Fragen gleichzeitig beantworten muss: Wie zuverlässig arbeitet ein Modell? Welche Daten werden verwendet? Können Betroffene eine Entscheidung nachvollziehen oder anfechten? Und wer trägt die Verantwortung, wenn ein automatisiertes System versagt?
- Nachvollziehbarkeit: Ergebnisse sollen soweit möglich erklärbar und überprüfbar sein.
- Fairness: Systeme müssen auf mögliche Verzerrungen geprüft werden und dürfen benachteiligende Muster nicht unkritisch verstärken.
- Datenschutz: Die Verarbeitung personenbezogener Informationen soll auf einen klaren Zweck begrenzt und angemessen geschützt werden.
- Sicherheit: Modelle müssen auch gegen Fehlbedienung, Manipulation und missbräuchliche Nutzung widerstandsfähig sein.
- Verantwortung: Es muss feststehen, welche Personen oder Organisationen Entscheidungen kontrollieren und für Folgen einstehen.
Nutzen für Forschung, Behörden und Unternehmen
Eine engere Zusammenarbeit kann Forschungsergebnisse schneller in die Praxis bringen. Gemeinsame Prüfverfahren, offene Diskussionen über Risiken und besser vergleichbare Methoden helfen dabei, die Qualität von KI-Anwendungen zu beurteilen. Hochschulen können zudem unabhängiges Wissen bereitstellen, wenn Behörden oder Unternehmen neue Systeme einsetzen wollen.
Für die Wirtschaft kann ein verlässlicher Entwicklungsrahmen die Einführung neuer Anwendungen erleichtern. Unternehmen erhalten Orientierung bei der Auswahl von Daten, bei der Dokumentation von Modellen und bei der laufenden Kontrolle ihrer Systeme. Besonders wichtig ist dabei, dass Innovation nicht mit einem Verzicht auf Sicherheits- und Sorgfaltsanforderungen verwechselt wird.
Grenzen der Zusammenarbeit
Auch ein breit abgestütztes Forschungsnetzwerk kann nicht jede Unsicherheit beseitigen. KI-Systeme hängen von ihren Trainingsdaten, ihren Einsatzbedingungen und den Vorgaben ihrer Betreiber ab. Ein Modell, das in einer kontrollierten Umgebung zuverlässig arbeitet, kann in der Praxis andere Ergebnisse liefern. Tests vor der Einführung ersetzen deshalb keine laufende Überwachung.
Hinzu kommt, dass nicht jede Entscheidung automatisiert werden sollte. In sensiblen Bereichen müssen menschliche Fachpersonen ausreichend Zeit, Wissen und Befugnisse behalten, um Ergebnisse zu prüfen. Eine formale Möglichkeit zur Kontrolle reicht nicht aus, wenn Betroffene die Entscheidung weder verstehen noch wirksam anfechten können.
Offene ethische Fragen
Die Forschung muss auch klären, welche Werte in technischen Systemen berücksichtigt werden sollen und wer darüber entscheidet. Transparenz kann mit dem Schutz von Geschäftsgeheimnissen oder personenbezogenen Daten kollidieren. Mehr Genauigkeit ist nicht automatisch fairer, wenn die zugrunde liegenden Daten bestimmte Gruppen unzureichend abbilden. Ebenso bleibt die Frage offen, wie viel menschliche Kontrolle in unterschiedlichen Anwendungsfeldern erforderlich ist.
Vertrauenswürdige KI entsteht nicht durch ein einzelnes Prüfzeichen, sondern durch nachvollziehbare Regeln, belastbare Tests und verantwortliche Entscheidungen über den gesamten Lebenszyklus eines Systems.
Entscheidend ist der praktische Nachweis
Der Erfolg des Forschungsnetzwerks wird sich daran messen lassen, ob aus dem Austausch überprüfbare Verfahren und verständliche Empfehlungen entstehen. Dazu gehören klare Angaben über Datenquellen, dokumentierte Grenzen eines Modells, unabhängige Evaluierungen und leicht zugängliche Beschwerdewege. Ebenso wichtig ist die Ausbildung von Fachkräften, die technische, rechtliche und gesellschaftliche Auswirkungen gemeinsam beurteilen können.
Die Bündelung der Kompetenzen schafft dafür eine wichtige Grundlage. Sie ist jedoch kein Beleg dafür, dass KI künftig automatisch sicher oder gerecht eingesetzt wird. Vertrauen muss für jede Anwendung neu begründet werden – durch Transparenz, Kontrolle und die Bereitschaft, ein System bei nicht vertretbaren Risiken auch nicht einzusetzen.