Navigation auf uzh.ch
Navigation auf uzh.ch
Publikationen
Projektlaufzeit: 1. Juli 2021 bis 30. Juni 2024
Fördermittelgeber: Stiftung Mercator Schweiz
Projektteam:
• Prof. Dr. Florent Thouvenin, Professor für Informations- und Kommunikationsrecht, Vorsitzender des Lenkungsausschusses des ITSL und Direktor der Digital Society Initiative (DSI) der Universität Zürich. Florent Thouvenin befasst sich in seiner umfassenden Forschung mit Herausforderungen der Digitalisierung für das Recht. In jüngerer Zeit liegt der Fokus auf dem Datenschutzrecht und auf der rechtlichen Erfassung von KI-Systemen.
• Prof. Dr. Nadja Braun Binder, MBA, Professorin für öffentliches Recht an der Universität Basel. Nadja Braun Binder befasst sich seit knapp 20 Jahren mit Rechtsfragen zur Digitalisierung in Staat und Verwaltung. Seit mehreren Jahren liegt ein besonderer Fokus auf dem KI-Einsatz in der öffentlichen Verwaltung und rechtlichen Fragen im Zusammenhang mit digitaler Demokratie sowie mit dem Einfluss sozialer Medien auf die politische Meinungsbildung.
• Dr. Stephanie Volz, wissenschaftliche Geschäftsführerin des ITSL und Dozentin an der Rechtwissenschaftlichen Fakultät der Universität Zürich. Sie ist seit vielen Jahren mit Fragen rund um die Digitalisierung beschäftigt, zuerst in der Forschung, dann in der Praxis und nun wieder in der Forschung. Thematische Schwerpunkte in diesem Bereich waren und sind Medien-, Datenschutz- und Wettbewerbsrecht.
• Liliane Obrecht, derzeit Studentin in Assistenzfunktion bei Nadja Braun Binder; ist Mit-Autorin einer Studie zu KI in der öffentlichen Verwaltung im Auftrag des Kantons Zürich, hat ihre Masterarbeit zum Thema Datenschutz und Digitalisierung im Rahmen der COVID-19-Pandemie verfasst und beginnt demnächst ihr Doktoratsstudium an der juristischen Fakultät der Universität Basel.
Projektbeschrieb
Ziele
Bei der Regulierung von Künstlicher Intelligenz (KI) stellen sich vielfältige und komplexe Fragen. Zentrale Hausforderungen umfassen: die fehlende Transparenz und Nachvollziehbarkeit der Entscheidungen von KI-Systemen, die Risiken für den Schutz der Privatsphäre, die Gefahr von Diskriminierung und die Gefahr von Manipulation. Unklarheiten bestehen auch bei der Haftung für Schäden, die von KI-Systemen verursacht werden.
Besondere gesellschaftliche Relevanz hat der Einsatz von KI in der Verwaltung und im Bereich der Medien und Informations-Intermediäre: Im Rahmen der Verwaltung tritt der Staat seinen Bürger:innen regelmässig hoheitlich gegenüber. Zudem sind alle Bürger:innen von Verwaltungshandeln betroffen. Dabei handelt es sich oft um besonders sensible Bereiche, etwa den der Sozialversicherungen. Die klassischen Medien und die neuen Informations-Intermediäre (Social Media, Suchmaschinen, Micro-Blogging-Dienste, Foto- und Videoplattformen) haben durch die Selektion und Präsentation von Inhalten einen grossen Einfluss auf die öffentliche Meinungsbildung. Das zeigt sich gerade im Vorfeld von Abstimmungen und Wahlen als besonders relevant. Da Informations-Intermediäre nicht nur die öffentliche Meinungsbildung im Allgemeinen beeinflussen, sondern auch auf Ebene der individuellen Bürger:innen und Konsument:innen die Wahrnehmung von Inhalten steuern, ist das zunehmend problematisch. Die einzelnen Personen werden so in ihrem Denken und Handeln beeinflusst.
Hauptziel dieses Forschungsprojekts ist es, einen umfassenden Rechtsrahmen für den Einsatz von KI in der Schweiz zu schaffen. Hierfür werden allgemein-gültige gesetzliche Bestimmungen ebenso wie ausgewählte sektorspezifische Regelungen für die öffentliche Verwaltung und den Bereich der Medien (publizistische Medien und Informations-Intermediäre) entwickelt bzw. angewendet. Diese Rechtsnormen sollen die zentralen Herausforderungen von KI-Systemen erfassen und den Eintritt von konkreten Nachteilen für die Bürger:innen verhindern. Die Ergebnisse werden zum einen im Rahmen von White Papers erläutert, zum anderen den Entscheidungsträger:innen in Politik und Verwaltung sowie einer interessierten Öffentlichkeit zugänglich gemacht. Das Projekt enthält zudem eine Reihe von Massnahmen zur Förderung des Eingangs der erarbeiteten Rechtsnormen in den Gesetzgebungsprozess.
Gewisse Herausforderungen lassen sich nicht nur durch den Erlass neuer, sondern auch durch eine geeignete Auslegung bestehender Rechtsnormen bewältigen. Neben der Entwicklung von Normen werden deshalb auch neue Möglichkeiten zur Auslegung und Anwendung des geltenden Rechts erarbeitet, die in wissenschaftlichen Publikationen erläutert werden. Diese Publikationen richten sich primär an die Fachöffentlichkeit wie Wissenschaftler:innen, Richter:innen und Mitarbeitende der Verwaltung, aber auch an interessierte Mitglieder der Zivilgesellschaft.
Die neuen Rechtsnormen und die White Papers werden zusammen mit den wissenschaftlichen Publikationen zur Auslegung und Anwendung der bestehenden Rechtsnormen einen umfassenden Rechtsrahmen bilden. Mit diesem lassen sich die zentralen Herausforderungen bewältigen, die durch den Einsatz von KI-Systemen entstehen.
Fokusbereiche
Neben der Erarbeitung eines allgemeingültigen Rechtsrahmens für KI in der Schweiz, analysiert das Projekt zudem zwei Bereiche vertieft: Ein erster Fokus liegt auf der Verwendung von KI-Systemen in der öffentlichen Verwaltung. Diese ist besonderen Regeln unterworfen, etwa dem verfassungsrechtlichen Diskriminierungsverbot und den Verfahrensgrundrechten. Mit Blick auf KI-Anwendungen ergeben z.B. der Anspruch auf vorgängige Äusserung der Bürger:innen, ihre Mitwirkung in Verwaltungsverfahren und das Recht auf eine Begründung staatlicher Entscheidungen spezifische Fragen. Die Verhinderung von Diskriminierung und die Herstellung von Transparenz sind in diesem Zusammenhang besonders wichtig. Die rechtliche Regelung muss dabei diese Punkte adäquat adressieren, ohne die Digitalisierung der Verwaltung und den Einsatz von KI zu behindern.
Ein zweiter Fokus liegt auf dem Bereich der Medien und Informations-Intermediäre, die in Demokratien die wichtigsten Informationsquellen bilden und besonderes Wirkungspotenzial auf die Meinungs- und Willensbildung haben. Das trifft vor allem im Zusammenhang mit Wahlen und Abstimmungen zu. Um den neuen Mediennutzungsgewohnheiten Rechnung zu tragen, werden im Rahmen des Projekts nicht nur Normen für publizistische Medien wie Zeitungen, Radio oder TV-Nachrichten erarbeitet, sondern auch für Informations-Intermediäre. Unter Informations-Intermediären werden dabei Onlineangebote verstanden, die den Nutzenden Inhalte Dritter, meist in strukturierter und recherchierbarer Form, zur Verfügung stellen. Dazu zählen insb. soziale Medien wie Twitter und Facebook, aber auch Suchmaschinen sowie Micro-Blogging-Dienste, Foto- und Videoplattformen. Diese vermitteln nicht nur Inhalte ihrer Nutzer:innen («user generated content»), sondern auch Beiträge publizistischer Medien. Letztere wiederum greifen in ihrer Berichterstattung zunehmend auch Diskussionen auf, die in den sozialen Medien geführt werden. Mit Blick auf dieses komplexe Zusammenwirken von publizistischen Medien und Informations-Intermediären bei der Meinungsbildung wird im Rahmen des Projekts zum einen untersucht, ob (auch) das Schweizer Recht besondere Bestimmungen zur Verwendung von KI-Systemen durch Medien und Informations-Intermediäre bedarf. Zum anderen wird, sofern bejaht, erforscht wie diese aussehen müssten.
Vorgehensweise
Der rechtliche Rahmen für die Erfassung solch vielfältiger Fragen zu KI kann nicht von Rechtswissenschaftler:innen allein gebildet werden. Das Projekt verfolgt deshalb einen interdisziplinären und kollaborativen Ansatz. Zwei interdisziplinäre Workshops, an denen Kolleg:innen aus der Informatik, Ethik, Soziologie, Psychologie sowie den Kommunikations- und Medienwissenschaften teilnehmen werden. Ein solcher Austausch stellt sicher, dass die Entwicklung der Rechtsnormen auf dem neusten Stand wissenschaftlicher Kenntnisse beruht.
Überzeugende Lösungen, die Umsetzung durch das Parlament finden, können nur unter Einbezug der relevanten Stakeholder entwickelt werden. Dies umfassen primär Vertreter:innen der Zivilgesellschaft, Entwickler:innen von KI-Systemen sowie deren Anwender:innen (Unternehmen und Behörden). Mit Blick auf die Fokusbereiche werden zudem Personen aus der öffentlichen Verwaltung ebenso wie Vertreter:innen der Medien und Informations-Intermediäre beigezogen. Die genannten Stakeholdergruppen werden bereits in frühen Projektphasen im Rahmen von Multi-Stakeholder-Dialogen konsultiert. Dieses Vorgehen stellt sicher, dass ihre Bedürfnisse und Erfahrungen angemessen in die Entwicklung der Rechtsnormen und White Papers einfliessen können.
