Künstliche Intelligenz in der Verwaltung birgt Chancen und Risiken

In der öffentlichen Verwaltung dürften in Zukunft vermehrt Anwendungen Einzug halten, die auf Künstlicher Intelligenz (KI) beruhen. Dem Regierungsrat sind die damit verbundenen Chancen, aber auch Gefahren bewusst, betont er in seiner Antwort auf einen Vorstoss. Der Einsatz von KI muss sorgfältig abgewogen und auf eine rechtliche Basis gestellt werden.

Künstliche Intelligenz – abgekürzt KI – ist auf dem Vormarsch und wird zunehmend in verschiedensten Anwendungsbereichen eingesetzt. Kurz erklärt, handelt es sich bei KI um die Fähigkeit einer Maschine, menschliche Attribute wie logisches Denken, Lernen, Planen und Kreativität zu imitieren und intelligentes Verhalten zu automatisieren. In einer Interpellation wollen Landrat Christof Gerig, Oberdorf, und Mitunterzeichnende wissen, wie der Regierungsrat zu Chancen und Risiken von KI in der öffentlichen Verwaltung und insbesondere im Bildungsbereich steht.

Dem Regierungsrat ist bewusst, dass auch in Teilen der Verwaltung Potenzial für den Einsatz von Künstlicher Intelligenz vorhanden ist. «KI wird uns in Zukunft helfen, Prozesse zu automatisieren, die Effizienz zu steigern und die Servicequalität für Bürgerinnen und Bürger zu verbessern», ist Finanzdirektorin Michèle Blöchliger überzeugt. In welchen weiteren Ämtern konkret KI-basierte Systeme zum Einsatz gelangen können, muss erst noch eruiert werden. Prädestiniert dafür dürften Verfahren in der Sozialversicherung, die Polizeiarbeit oder auch der Justizvollzug sein. Hierfür müssten zunächst aber gesetzliche Grundlagen geschaffen werden, was eine Herausforderung darstellt. So ist die Verantwortung für die Rechtsfindung durch eine staatliche Instanz zwingend immer von Menschen zu übernehmen. Auch muss für Personen und Unternehmen jederzeit ersichtlich sein, dass KI-Komponenten bei der Ausarbeitung von Entscheiden verwendet wurden. «Es geht auch um ethische Fragen und den Datenschutz. Nidwalden wird sich an den schweizerischen Ansatz für die Regulierung von KI anlehnen und entsprechende Massnahmen umsetzen», blickt Michèle Blöchliger voraus.

KI weist Lernenden geeignete Aufgaben zu
Im Schul- und Unterrichtswesen wird seit jeher die Entwicklung medialer Innovationen beobachtet und in den Schulalltag integriert. In «Medien und Informatik» wenden Lernende Informations- und Kommunikationstechnologien in allen Fachbereichen an. Dabei wird ihnen mit auf den Weg gegeben, wie sie Informationsquellen auf Verlässlichkeit prüfen können und wie die mediale Aufbereitung von Inhalten sorgfältig und gleichzeitig rechtskonform gestaltet werden kann. Die Grundlagen für den Umgang mit KI werden also bereits im Lehrplan 21 erarbeitet. Aber auch für Lehrpersonen hält KI zahlreiche Chancen bereit, wie etwa ein effektiverer Einsatz ihrer Ressourcen, indem Künstliche Intelligenz den Schülerinnen und Schülern geeignete Aufgaben und Übungen zuweist und stufengerecht Feedback gibt.

Allerdings sind mit der Verwendung von KI im Bildungsbereich auch grosse Risiken verbunden, so vor allem die Gefahr einer Wahrheitsverzerrung: Wenn KI auf inkorrekte oder unvollständige Datensätze trainiert ist, kann sie falsche Informationen oder Halbwahrheiten generieren, die Lernenden vermittelt würden. Ausserdem verleitet KI dazu, die eigene Kreativität hintenanzustellen. Wenn sich Lernende zu stark auf automatisierte Lösungen abstützen, wird ihre Fähigkeit, eigene Ideen und Lösungen zu entwickeln, beeinträchtigt. Nicht ausser Acht zu lassen ist zudem die Gefahr, dass durch den gehäuften KI-Einsatz die eigene Verantwortung fürs Lernen zunehmend der Technologie übertragen wird und Lehrpersonen die Kontrolle über den Lehrprozess entgleiten kann.