Logo myzuri.ch

Regional

In der öffentlichen Verwaltung werden in den kommenden Jahren vermehrt Technologien Einzug halten, die auf Künstlicher Intellige...

2021-04-21 09:05:36
newsbot by content-proivder.ch GmbH
Quelle: Kanton Zürich

In der öffentlichen Verwaltung werden in den kommenden Jahren vermehrt Technologien Einzug halten, die auf Künstlicher Intelligenz (KI) beruhen, wie der Kanton Zürich meldet.

Noch seien aber viele rechtliche und ethische Fragen offen, die ihr Einsatz aufwirft. Was es bei der Nutzung von KI im öffentlichen Sektor zu beachten gilt, zeigt eine Studie im Auftrag des Kantons Zürich.

Behörden erhoffen sich vom KI-Einsatz verschiedene Vorteile: KI solle helfen, Prozesse zu automatisieren, die Effizienz zu steigern und die Servicequalität zu verbessern. So setzen bereits heute mehrere Kantone Chatbots ein, die Anfragen beantworten und Kundinnen und Kunden mit Informationen versorgen.Die Einsatzmöglichkeiten im öffentlichen Sektor reichen aber weit darüber hinaus.

KI-Technologien würden sich besonders zur Analyse von grossen Datenmengen eignen, wie sie in der Verwaltung anfallen – darunter auch in sensiblen Bereichen wie der Sozialhilfe oder im Steuerwesen, wo KI zum Beispiel eine Rolle in der Betrugsbekämpfung spielen könnte. Deshalb sei es zentral, sich bereits in einer frühen Phase über die Herausforderungen und mögliche Lösungsansätze Klarheit zu verschaffen.

In der Schweiz fehlt es bisher an einer vertieften rechtlichen und ethischen Auseinandersetzung mit der Frage, welche Chancen und Risiken der Einsatz von KI in der Verwaltung mit sich bringt und welche Handlungsempfehlungen sich daraus ableiten lassen. Diese Lücke schliesst nun eine Studie im Auftrag des Kantons Zürich.

Sie beschreibt das Potenzial des KI-Einsatzes in der Verwaltung, beleuchtet die Gefahren und stellt Projekte und Anwendungen vor, die in der Schweiz im Einsatz sind. Beispielhaft verweist die Studie auf Erfahrungen im Ausland.

Durchgeführt habe die Studie ein Team um Professor Doktor Nadja Braun Binder, Professorin für Öffentliches Recht an der Universität Basel, in Zusammenarbeit mit der gemeinnützigen Organisation AlgorithmWatch, die für die ethischen Erwägungen zuständig war. Die Studie nennt die rechtlichen Herausforderungen, die der Kanton Zürich zu berücksichtigen hat, wenn er KI-Systeme einsetzen möchte.

Sie liefert zudem Vorschläge, wie diese Herausforderungen aus rechtlicher Sicht angegangen werden können. Zu den wichtigsten Aspekten zählen, rechtsstaatliche Verfahrensgarantien sicher zu stellen, Diskriminierung zu verhindern, Datenschutz zu gewährleisten und Transparenz herzustellen.

Algorithmen erscheinen auf den ersten Blick objektiver als Menschen. Doch zum einen enthalten sie immer bereits die Wertungen derjenigen, die sie entwickeln.

Zum anderen stecken in den Daten, in denen KI-Technologien mit Methoden des maschinellen Lernens eigenständig Muster erkennen, um aus ihnen Regeln abzuleiten, bereits Diskriminierungsmuster. Hier besteht die Gefahr, dass auch der Algorithmus sie lernt und dann reproduziert, wenn er neue Daten verarbeitet.

«Daten können fehlerhaft oder unvollständig sein und so alte Diskriminierungsmuster reproduzieren oder gar neue etablieren», hält Braun Binder fest. Hier könnten Kontrollen Abhilfe schaffen – sei es durch Verwaltungsmitarbeitende, Drittorganisationen oder Kontrollalgorithmen.

Als problematisch erachten die Autorinnen und Autoren der Studie auch die fehlende Nachvollziehbarkeit: Teilweise sei es fast unmöglich, zu verstehen, wie lernende Algorithmen zu ihren Ergebnissen kommen. «Der Begründung staatlicher Entscheidungen kommt vor diesem Hintergrund zentrale Bedeutung zu», so Braun Binder.

Aus verschiedenen Richtlinien zur KI-Ethik leitet die Studie zentrale Grundsätze für den Einsatz durch Behörden ab: Die verwendeten KI-Systeme sollten so konzipiert sein, dass sie Menschen nicht schaden und die Autonomie des Menschen schützen. Weitere Grundsätze bilden Fairness, Gemeinwohlorientierung, Kontrolle, Transparenz und eine Rechenschaftspflicht, die klärt, wer für Ergebnisse und das Verhalten von KI-Anwendungen verantwortlich ist.

Die Studie kombiniert die Auslegeordnung des Einsatzes von KI-Systemen in der Verwaltung mit der Analyse und Einordnung rechtlicher und ethischer Implikationen. Damit trägt sie dazu bei, die Chancen des KI-Einsatzes durch Behörden im Kanton Zürich zu nutzen und zugleich den Risiken effektiv zu begegnen.

Die Studie sei Teil des Projekts «Einsatz Künstlicher Intelligenz (KI) in der Verwaltung» im Rahmen des Impulsprogramms der kantonalen Strategie Digitale Verwaltung. Der Schlussbericht sei auf der Projektseite verfügbar..

Suche nach Stichworten:

Rolle öffentlichen Verwaltung Technologien halten, Künstlicher Intellige...



Top News


» Polizeieinsatz rund um das Fussballderby GC-FCZ


» Velofahrer nach Sturz schwer verletzt - Zeugenaufruf


» Mann nach Auseinandersetzung verletzt


» Dübendorf: Veranstaltung von Autoposern aufgelöst


» Mann nach Polizeieinsatz im Kreis 7 festgenommen

Newsletter

Jeden Tag um 14.00 Uhr die neusten Meldungen aus Stadt und Katnon Zürich in Ihrem elektronischen Postfach.


Mit myzuri.ch verbinden