KI Policy

• Künstliche Intelligenz an Pädagogischen Hochschulen
• Begriffsdefinitionen
• Die Position der Pädagogischen Hochschule Niederösterreich
• Allgemeine Empfehlungen für die Nutzung von KI-gestützten Tools
• Leitlinie für Lehrende
• Leitlinie für Studierende

Dieser Überblick stellt einen Auszug aus der Policy zum Umgang mit generativer künstlicher Intelligenz der Pädagogischen Hochschule Niederösterreich dar. Der vollständige Text ist im verlinkten Dokument zu finden. 

Der Begriff künstliche Intelligenz wurde 1956 von John McCarthy auf der Dartmouth Conference geprägt (McCarthy et al., 2006). Er verwendete den Begriff, um den Zweig der Informatik zu beschreiben, der sich mit dem Bau intelligenter Maschinen befasst, die Aufgaben ausführen können, die typischerweise menschliche Intelligenz erfordern (Manaware, 2020). Das europäische Parlament definiert künstliche Intelligenz folgendermaßen: „Künstliche Intelligenz ist die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren“ (Europäisches Parlament, 2020). KI bezieht sich dabei auf Systeme, die intelligentes Verhalten zeigen und Probleme lösen, indem sie die Umwelt wahrnehmen, Folgen früherer Aktionen analysieren und Entscheidungen treffen, um bestimmte Ziele zu erreichen. KI-basierte Systeme können einerseits rein softwarebasiert sein und in der virtuellen Welt agieren (z. B. Sprachassistenten, Bildanalysesoftware, Suchmaschinen, Sprach- und Gesichtserkennungssysteme), andererseits kann KI in Hardware eingebettet sein, wie z. B. fortschrittliche Roboter, autonome Autos, Drohnen oder Anwendungen des Internets der Dinge (Europäisches Parlament, 2020). Auch das Bundesministerium für Bildung, Wissenschaft und Forschung greift diese Definition auf und legt sie den Empfehlungen zur Auseinandersetzung mit künstlicher Intelligenz im Bildungssystem zugrunde (BMBWF, 2023).

Machine Learning (ML) ist ein Teilbereich der KI, der sich auf Algorithmen konzentriert, die aus Daten lernen und sich ohne explizite Programmierung verbessern. Deep Learning ist wiederum ein spezialisierter Bereich des Machine Learning, der neuronale Netze mit vielen Schichten verwendet, um komplexe Muster in großen Datenmengen zu erkennen. Large Language Models (LLMs) sind ein spezifischer Anwendungsfall des Deep Learning, die darauf trainiert sind, menschliche Sprache zu verstehen und zu generieren, indem sie auf riesigen Textdatensätzen trainiert werden. Generative KI wiederum ist ein Teilbereich der KI, der auf die Erzeugung neuer Inhalte abzielt, wie Texte, Bilder, Musik oder Videos, wobei Technologien wie LLMs und andere generative Modelle verwendet werden, um kreative oder datenbasierte Inhalte zu erstellen. Die Beziehung ist also hierarchisch: KI umfasst ML, ML umfasst Deep Learning, und generative KI ist ein spezialisiertes Feld, das oft auf Deep Learning basiert.

Als KI-gestützte Tools werden in diesem Leitfaden Applikationen bezeichnet mit denen, unter Einsatz von künstlicher Intelligenz, Medienprodukte – unabhängig von deren Format (z.B.: Texte, Bilder, Audio- oder Videoformate, 3D-Modelle) – erstellt und/oder bearbeitet werden können. Prominente Beispiele dafür sind ChatGPT, Copilot, ClaudeAI, Gemini, Midjourney, DallE, Quillbot, Grammarly, Canva oder DeepL. Diese Policy widmet sich ausschließlich Applikationen zu generativer KI.

Die Pädagogische Hochschule Niederösterreich beschäftigt sich mit den Bedingungen der Bildung im Zeichen der Digitalität. Die Thematisierung von und Auseinandersetzung mit generativer künstlicher Intelligenz in Forschung, Studium und Lehre ist uns ein Anliegen, insbesondere um die Potentiale und Herausforderungen für den Bildungsbereich im Allgemeinen und für die schulische Bildung im Speziellen zu erkennen, zu erkunden und sinnvoll und effizient nutzen zu können. Gleichzeitig wird aber auf die Notwendigkeit des kritischen und reflektierten Umgangs, speziell hinsichtlich ökologischer, rechtlicher und ethischer Aspekte, hingewiesen.

Die Pädagogische Hochschule Niederösterreich versteht sich als Akteur im Sinne des digitalen Humanismus, der die Chancen der Digitalisierung mit ethischen Grundwerten verbindet und somit die Würde und das Wohlergehen der Menschen in den Mittelpunkt der technologischen Entwicklungen stellt (Werthner et al., 2019). Menschenrechte, demokratische Werte und Inklusion werden dabei als unverzichtbare Grundpfeiler verstanden. Die Förderung einer digitalen Mündigkeit ist essenziell, um das kritische Denken und die Selbstbestimmung der Menschen zu stärken und sie zu befähigen, in einer zunehmend digital geprägten Welt bewusste Entscheidungen zu treffen und Technologie als Werkzeug für ihre persönliche Entwicklung zu nutzen.

Darüber hinaus bekennt sich die Pädagogische Hochschule Niederösterreich klar zu dem Prinzip der Freiheit der Lehre. Demnach obliegt es den Lehrenden, ob und in welchem Rahmen die Nutzung von KI-gestützten Tools in Lehrveranstaltungen gestattet und gefordert wird. Essenziell ist hierbei eine transparente Kommunikation hinsichtlich der Nutzungsmöglichkeiten und -grenzen als auch der Nutzung an sich.

Wird generative künstliche Intelligenz in Forschung, Studium und Lehre genutzt, so erfordert das einen transparenten Umgang. Lehrende sind angehalten, Studierende über die erlaubten Nutzungsmöglichkeiten im Rahmen von Lehrveranstaltungen nachweislich in Kenntnis zu setzen (siehe Abschnitt 5.1 der KI-Policy). Personen, die Medienprodukte KI-gestützt erstellen, bearbeiten und/oder verändern, sind zur Kennzeichnung verpflichtet (siehe Abschnitt 4.4 der KI-Policy).

In diesem Zusammenhang ist zu beachten, dass es bereits eine Herausforderung darstellt, den Einsatz von künstlicher Intelligenz in Applikationen zu erkennen, da diese in zahlreichen gängigen Anwendungen integriert ist. Beispiele hierfür sind die Diktierfunktion oder die Rechtschreib- und Grammatiküberprüfung in Microsoft 365-Anwendungen, in denen teilweise künstliche Intelligenz zum Einsatz kommt.

Werden KI-gestützte Tools in Forschung, Studium und Lehre eingesetzt, so gilt es folgende grundlegende Empfehlungen zu beachten:

Datenqualität: Die Qualität des Outputs von generativer KI ist sowohl von zugrundeliegenden Algorithmen als auch von der Qualität der Daten, die für das Training herangezogen werden, abhängig. Unvollständige oder fehlerhafte Daten führen zu fehlerhaftem Output (Halluzination).

Datenschutz und Urheberrecht: Inwiefern Daten, die bei der Interaktion mit KI-gestützten Chatbots gespeichert, weiterverarbeitet und auch zum Trainieren der Modelle genutzt werden, ist nicht immer transparent. Daher ist bei der Bereitstellung von Daten zur KI-gestützten Verarbeitung insbesondere der Schutz von personenbezogenen Daten sowie das Urheberrecht auf Werke, insbesondere wenn diese durch Dritte erstellt wurden, zu beachten. Diese Thematik ist vor allem bei der Formulierung von Prompts zu beachten.

Bias: Die Ergebnisse generativer KI basieren auf den Daten, mit denen diese trainiert wurde. Diese sind in der Regel von Menschen geschaffen und übernehmen daher auch Haltungen, Meinungen und Einstellungen. Sind Trainingsdaten mit ideologischen Verzerrungen und Vorurteilen gegenüber bestimmten Menschen(gruppen) behaftet, so wird dies auch im KI-generiertem Output sichtbar.

Ressourcennutzung und -verbrauch: KI-gestützte Anwendungen erfordern sowohl im Training als auch im laufenden Betrieb eine enorme Rechenleistung. Dies führt zu einem hohen Energieverbrauch, was es sowohl finanziell als auch ökologisch zu bedenken gilt.

Die Pädagogische Hochschule Niederösterreich empfiehlt daher ...

• KI-generierten Output auf seine inhaltliche Richtigkeit zu überprüfen,
• bei der Interaktion mit KI-gestützten Tools die rechtlichen Bestimmungen, insbesondere hinsichtlich Datenschutzes und Urheberrechts, einzuhalten,
• KI-generierten Output darauf zu kontrollieren, ob dieser mit Bias behaftet ist,
• KI-gestützte Tools reflektiert zu nutzen.

Um die digitalen Kompetenzen von Studierenden zu fördern, empfiehlt die Pädagogische Hochschule Niederösterreich generative KI aktiv in Lehre und Studium einzusetzen. In diesem Zusammenhang wird aber auch explizit darauf hingewiesen, dass es Learning Outcomes gibt, die nur dann erzielt werden können, wenn KI-gestützte Tools nicht eingesetzt werden (dürfen).

Mit der zunehmenden Nutzung von KI-gestützten Tools ist es jedenfalls unerlässlich, den Nutzungsrahmen präzise festzulegen. Es wird empfohlen, diesen in der Lehrveranstaltungsbeschreibung den Studierenden nachweislich zur Kenntnis zu bringen. Die im Anhang angeführten Textbausteine (siehe Abschnitt 8.2 der KI-Policy) können direkt in die Lehrveranstaltungsbeschreibung übernommen werden. An der Pädagogischen Hochschule Niederösterreich werden folgende fünf Ansätze definiert:

Verpflichtende Nutzung von generativer KI: Hat eine Lehrveranstaltung den Erwerb bzw. die Vertiefung digitaler Kompetenzen von Studierenden zum Ziel, so können diese zur Nutzung von generativen KI-Tools im Rahmen der Lehrveranstaltung verpflichtet werden.

Dabei können Studierende zur uneingeschränkten oder zur selektiven Nutzung von KI-gestützten Tools im Rahmen der Lehrveranstaltung verpflichtet werden. Zwei verschiedene Textbausteine (vgl. Textbaustein 1a und 1b) sind im Anhang der KI-Policy angeführt.

Uneingeschränkte Nutzung von generativer KI: Wie bereits in der Einleitung festgestellt, handelt es sich bei generativer KI um Technologien, die auch Bildungsprozesse transformieren und nachhaltig beeinflussen werden. Um dieser gesellschaftlichen Wirklichkeit gerecht zu werden, kann Studierenden die uneingeschränkte Nutzung – vorbehaltlich einer Kennzeichnungspflicht und der Anforderung, die überwiegende Leistung selbst zu erbringen – erlaubt werden. Basierend auf dieser Vorgabe erhalten die Studierenden nicht nur die Flexibilität, neue Technologien zielgerichtet einzusetzen, sondern erlernen parallel dazu Fähigkeiten des kritischen Denkens, um mit den Herausforderungen einer komplexen Welt umzugehen.

Studierende übernehmen bei der uneingeschränkten Nutzung von generativer KI die Verantwortung für die inhaltliche Richtigkeit und wissenschaftliche Integrität ihrer Leistungen entsprechend den Leitlinien guter wissenschaftlicher Praxis (vgl. Textbaustein 2 im Anhang der KI-Policy).

Selektive Nutzung von generativer KI: In einer Welt, die durch die stetigen und unvorhersehbaren Entwicklungen im Bereich der KI geprägt ist, übernimmt der Bildungsbereich die Rolle eines geschützten Raumes, in dem Studierenden die kontrollierte und kritische Auseinandersetzung mit KI-Applikationen ermöglicht werden soll. Lehr- und Lernprozesse, aber auch didaktische Methoden müssen in diesem Zusammenhang adaptiert, und erprobte Tools zur Verfügung gestellt werden (vgl. Textbaustein 3 im Anhang der KI-Policy).

Gezielte Nutzung von generativer KI: Alternativ zur selektiven Auswahl bestimmter Werkzeuge können Lehrende den wissenschaftlichen Rahmen zum Einsatz von künstlicher Intelligenz definieren und so den Studierenden Flexibilität ermöglichen, ohne die Regeln guter wissenschaftlicher Praxis zu bedrohen. Mit diesem Ansatz können Ressourcen nachhaltiger eingesetzt und zu Prozessen der Kreativität, des kritischen Denkens, der Kollaboration und der Kommunikation verlagert werden. Konkrete Anwendungsbereiche sind Szenarien, in denen Studierende KI zur Unterstützung bei der ersten Ideenfindung, Textüberarbeitung und Datenanalyse nutzen dürfen. Die Interpretation der Daten, die Entwicklung innovativer Lösungsansätze und bestimmte Textabschnitte müssen jedoch eigenständig erarbeitet werden (vgl. Textbaustein 4 im Anhang der KI-Policy).

Keine Nutzung von generativer KI: Hat eine Lehrveranstaltung den Erwerb oder die Förderung von Basiskompetenzen zum Ziel, kann es sinnvoll sein, den Einsatz und die Nutzung von KI-gestützten Tools zu untersagen. Studierende dürfen im Rahmen solcher Lehrveranstaltungen keine Ausprägungen generativer KI anwenden (vgl. Textbaustein 5 im Anhang der KI-Policy).

Ob und in welchem Umfang KI-gestützte Tools im Rahmen einer Lehrveranstaltung genutzt werden dürfen, kann der Lehrveranstaltungsbeschreibung entnommen werden.

Zu beachten sind jedoch jedenfalls die geltenden Rechtsvorschriften, insbesondere hinsichtlich Urheberrechts und Datenschutzes sowie die Kennzeichnungspflicht von Medienprodukten, die KI-gestützt generiert wurden (siehe Abschnitt 4 sowie Abschnitt 8.1 der KI-Policy).

Aufgrund ihrer Konzeption als oft nicht wiederherstellbare Quellen ist die Dokumentation der eingesetzten Ergebnisse generativer KI unerlässlich. In Hinblick auf Plausibilitätsgespräche durch Lehrende empfiehlt sich das Absichern des gesamten Chatverlaufs (Prompts und generierte Ergebnisse) außerhalb der jeweiligen Plattform.

Zusätzlich wird Studierenden nahegelegt, während des Arbeitsprozesses eine Dokumentationstabelle zu erstellen, in der jeglicher Einsatz von KI-Tools protokolliert wird. Neben dem Namen und dem Anbieter des Hilfsmittels sollten dazu auch der konkrete Einsatz, betroffene Teile der Arbeit und mögliche Bemerkungen dokumentiert werden. Ein Beispiel für eine klar nachvollziehbare Dokumentation befindet sich im Anhang der KI-Policy (siehe Abschnitt 8.1.3).

Eine Vorgehensweise zum Zitieren von KI-generierten Text(-passagen) und Bildern im APA-Stil ist im Anhang der KI-Policy (siehe Abschnitt 8.1) angeführt.