Grundlagen von KI
Die Grundlagen sind für eine konstruktive Herangehensweise elementar. Dazu gehören Begriffsklärungen, rechtliche Aspekte sowie aktuelle Entwicklungen. Diese legen den Boden für Diskussionen und das weitere Handeln.
Wie intelligent ist denn jetzt diese künstliche Intelligenz wirklich?
Künstliche Intelligenz (KI)
Künstliche Intelligenz (KI), oder in Englisch Artificial Intelligence (AI), beschreibt die Fähigkeit eines Computersystems in Form einer Software, Aufgaben zu übernehmen und Probleme zu lösen, welche normalerweise menschliche Intelligenz erfordern (2022, Europäische Kommission).
Eine abschliessende Begriffsdefinition gibt es nicht. Zudem verändert sich die beschriebene Fähigkeit zeitlich rasch und führt oft zu unerwünschten Assoziationen, weshalb der Begriff mit Vorsicht eingesetzt oder gar vermieden werden sollte (2024, Döbeli). Deshalb empfehlen wir im Schulkontext die spezifischen Begriffe zu verwenden, beispielsweise entlang der Abgrenzung von drei Formen der KI (2024, Winder), welche aktuell häufig anzutreffen sind:
Computersystem, das aus (Trainings-) Daten Muster erkennt und diese auf neue Daten anwendet und so Lösungen entwickelt.
Beispiele
aufgeschaltete Werbung im Internet aufgrund der Aktivitäten im Netz und auf den Social-Media-Kanälen, Gesichts- und Spracherkennung, Spamfilter in E-Mail-Programmen, Routenberechnungen im Navigationssystem, Filmvorschläge auf Videoportalen, Quizlet
Dies ist eine Spezialform des maschinellen Lernens und unterscheidet sich darin, dass die Algorithmen nach dem menschlichen Gehirn modelliert sind. Aus den Mustern in Daten, welche vom Menschen eingespeist werden, können Vorhersagen getroffen und Entscheidungen gefällt werden.
Beispiele
Wettervorhersagen oder medizinische Diagnosen, Lernlupe/Lernpass plus, Erkennung von Zeichnungen (https://quickdraw.withgoogle.com/)
Wenn heutzutage von KI gesprochen wird, ist meistens diese Form gemeint, die viele der aktuellen Diskussionen auslöst. Sie besteht aus einem vielschichtigen neuronalen Netzwerk, welches dem computerbasierten Programm ermöglicht, eine sehr grosse Datenmenge zu verarbeiten und daraus neue Inhalte zu generieren. Die generative KI basiert darauf.
Generative KI
Generative KI beschreibt eine Technologie, die neue Texte, Bilder, Video- oder Audioinhalte erzeugen kann. Das System greift auf vorhandene Trainingsdaten zurück und nutzt den Ansatz des Deep Learnings als vertiefte Form des maschinellen Lernens. (vgl. klicksafe.de)
Beispiele
text-, bild-, video- oder tongenerierende Systeme, ChatGPT, Übersetzungsprogramme, Midjourney, Dall-e, Firefly, Gemini von Google
Schwache und starke Intelligenz
Alle diese Formen gehören zur schwachen KI. Eine starke Intelligenz, die von der menschlichen Intelligenz nicht mehr zu unterscheiden wäre oder diese sogar übertreffen könnte und neben einer kognitiven auch eine emotionale Intelligenz besässe, gibt es noch nicht. Die Frage, ob, wann und in welchen Bereichen KI eine starke Intelligenz erreichen wird, kann aktuell nicht beantwortet werden und die Meinungen unter den Fachleuten gehen weit auseinander. Intelligenz ist ein vielschichtiges Konstrukt, das viele verschiedene Fähigkeiten umfasst, und es ist bis zum jetzigen Zeitpunkt unklar, ob eine KI all diese Aspekte nachahmen oder übertreffen könnte. (2023, Schuster)
Weiterbildung
Im Bereich Weiterbildung nimmt das kantonale Kursprogramm des Kantons St.Gallen die Thematik der KI im Kursangebot auf. Zudem bietet die Pädagogischen Hochschule St.Gallen (PHSG) auf der Weiterbildungsplattform aprendo diverse Kurse an, lädt auf der Vernetzungsplattform zITBOx zur Community AI & Schule ein und bietet schulinterne Weiterbildungen und Beratungen an.
Kann unser Datenschutz der IT auch für KI angewendet werden?
Datenschutz und Urheberrecht im Umgang mit KI
Die Schule muss auch beim Einsatz von KI-Systemen einen datenschutzkonformen Umgang pflegen. Es ist unabdingbar, Schülerinnen und Schüler für die Nutzung digitaler Geräte und Aktivitäten im Internet zu sensibilisieren, damit sie sich bewusst darüber werden, welche Spuren sie hinterlassen und wie diese in Form von gespeicherten Daten verfolgt werden können.
Für den rechtskonformen Umgang ist weiterhin das kantonale Datenschutzgesetz massgebend. Entlang dieser gesetzlichen Grundlage bietet die kantonale Handreichung zu Datenschutz und Informationssicherheit für Schulen Orientierung.
Grundsätzlich ist immer die Regel zu beachten, dass die Eingabe von persönlichen, vertraulichen oder (besonders) schützenswerte Inhalten untersagt ist.
Merksatz bei der Verwendung von generativer KI
Keine personenbezogenen Daten eingegeben, die man auch sonst nirgendwo im Internet hochladen oder verbreiten darf. Vor dem Einsatz sind die Nutzungsbedingungen und Datenschutzerklärung der einzelnen Systeme durchzulesen.
Educa entwickelte entlang eines Anwendungsfalls in einer Schule des Kanton Zürichs einen Leitfaden zu Künstliche Intelligenz in der Bildung – Rechtliche Best Practices, der bezüglich Datenschutz ebenfalls aufschlussreiche Erkenntnisse bieten kann. Mit der Weiterentwicklung der KI-Systeme wird auf politischer Ebene diskutiert, ob gesetzliche Rahmenbedingungen benötigt werden, ohne dass es bisher zu spezifischen gesetzlichen Regelungen gekommen ist.
Auf Unterrichtsebene ist es somit unabdingbar, mit den Schülerinnen und Schülern den obgenannten Merksatz und die risikofreie Nutzung zu thematisieren. Gemeinsam und als separierte Aufgabenstellung sollen Kinder lernen, gute Prompts zu formulieren.
Für schulspezifische Fragen beginnt das Bildungsdepartement des Kantons St.Gallen einen FAQ-Katalog zu KI aufzubauen, der auf der kantonalen Webseite «Datenschutz in der Schule» abrufbar ist.
Gerne nimmt das Amt für Volksschule rechtliche Fragen zu KI in der Schule unter avs@sg.ch entgegen.
Muss ich denn jetzt KI in der Schule einsetzen?
Verortung im Lehrplan
Digitale Medien, darunter auch KI-Systeme, gehören zur Lebenswelt und späteren Berufswelt der Schülerinnen und Schüler und sollten nicht nur im Fachbereich Medien und Informatik thematisiert und eingesetzt werden. Übergeordnetes Ziel ist nach dem Dagstuhl-Dreieck (2024, Döbeli & Salzmann), dass die Schülerinnen und Schüler ein Grundverständnis zur Funktionsweise entwickeln, das Medium aus gesellschaftlicher und anwendungsorientierter Perspektive beleuchten und Chancen und Gefahren kennen.
Die Schulen sind aufgefordert, im Rahmen der Förderung und Erweiterung der überfachlichen Kompetenzen in der Auseinandersetzung mit Fachinhalten zur KI an den personalen und sozialen Kompetenzen zu arbeiten (z.B. kritisches Denken etc.). Das Erlernen methodischer Kompetenzen wie der Sprachfähigkeit, des Umgangs mit Informationen und der Strategie zur Aufgaben- und Problemlösung werden durch die Anwendung ebenfalls fächerübergreifend gefördert.
Die gesetzlichen Grundlagen der Bildung werden im Lehrplan Volksschule beschrieben. Der Bildungsauftrag an die obligatorische Schule ist in Art. 3 der Interkantonalen Vereinbarung zur Harmonisierung der obligatorischen Schule (HarmoS-Konkordat) verankert. Abs. 3 der Bestimmung hält fest:
3 Die Schülerinnen und Schüler werden in ihrer Entwicklung zu eigenständigen Persönlichkeiten, beim Erwerb sozialer Kompetenzen sowie auf dem Weg zu verantwortungsvollem Handeln gegenüber Mitmenschen und Umwelt unterstützt.
Darunter finden auch die Thematisierung und der Einsatz von KI im Unterricht ihre Legitimation. Zudem hält der Bund in seinen Leitlinien «Künstliche Intelligenz» unter anderem den Bildungsbereich für bedeutungsvoll und betont die Wichtigkeit der Kompetenzvermittlung zur Thematik. In den an der Jahresversammlung Ende 2023 gemeinsam aktualisierten bildungspolitischen Zielen für den Bildungsraum Schweiz haben der Bund und die Erziehungsdirektorenkonferenz (EDK) diese Absicht formuliert (2023, Medienmitteilung der EDK).
Einen konkreten Lehrplanbezug stellt auch SRF school auf und verbindet die Auseinandersetzung mit folgenden Kompetenzen:
Bezug zum Lehrplan Volksschule
Die Schülerinnen und Schüler ...
- NMG.5.3 können Bedeutung und Folgen technischer Entwicklungen für Mensch und Umwelt einschätzen.
- NMG.11.3 können Werte und Normen erläutern, prüfen und vertreten.
- NMG.11.4 können Situationen und Handlungen hinterfragen, ethisch beurteilen und Standpunkte begründet vertreten.
