Generative KI – Systeme, auf die fast jeder zugreifen kann, um Inhalte zu erstellen, zu überprüfen und zu überarbeiten –, entwickeln sich rasch weiter und führen zu einem Generationssprung in einer Vielzahl von Branchen und Disziplinen. Auch im Bildungswesen spielen sie eine immer größere Rolle.

Allerdings sind auch dem potenziellen Missbrauch von KI im Bildungsbereich Tür und Tor geöffnet, und dieses sensible Thema muss mit Sorgfalt behandelt werden, wenn die Technologie erfolgreich eingesetzt werden soll. KI bietet ein enormes Potenzial für den Einsatz im Bildungsbereich, birgt aber auch große Risiken. Barrett & Pack (2023) fanden im Rahmen einer Studie heraus, dass es Bedenken hinsichtlich der potenziellen akademischen Anwendungen von GenAI gibt, wobei unter Pädagogen und Wissenschaftlern Uneinigkeit darüber herrscht, was als akzeptable Nutzung eingestuft wird. Sie unterstreicht den Bedarf an evidenzbasierten Leitlinien für die Integration von GenAI in den Bildungskontext, wenn die Einführung erfolgreich sein soll, damit Schüler und Pädagogen auf derselben Seite stehen.

Dieser Artikel soll als Leitfaden dafür dienen, auf welche Weise KI in realen Szenarien missbraucht werden kann. Er soll Pädagogen, Schulleitern und politischen Entscheidungsträgern zu einem besseren Verständnis darüber verhelfen, was als Missbrauch zu betrachten ist, und Schülern helfen, die Folgen einer falschen Verwendung generativer KI zu erkennen.

Wir haben sechs allgemeine Missbrauchsmöglichkeiten für KI im Bildungsbereich identifiziert sowie sieben praktische Anwendungen von KI, die als unethisch gelten würden. Denn KI ist durchaus etwas, das in der Bildung eingesetzt und in Aufgaben und Arbeiten integriert werden kann – vorausgesetzt, dies geschieht auf faire und angemessene Weise.

 

Definition von KI-Missbrauch im Bildungswesen

Es ist wichtig, zunächst einmal einen Schritt zurückzutreten und die verschiedenen Möglichkeiten zu betrachten, wie KI im Bildungswesen missbraucht werden könnte. Auch wenn viele sofort zu einer Definition tendieren, gibt es mehrere Möglichkeiten, wie KI mehr Schaden als Nutzen anrichten kann, wenn sie nicht richtig umgesetzt und reguliert wird.

Es ist verständlich, dass Plagiate eines der häufigsten Probleme im Zusammenhang mit generativer KI sind. Die Möglichkeit, dass Studierende KI-Systeme nutzen, um Aufsätze und Arbeiten zu erstellen, die sie nicht selbst verfasst haben, und dabei bestehende Arbeiten plagiieren oder KI-generierte Inhalte als ihre eigenen ausgeben, steht zu Recht im Vordergrund der Überlegungen, wie KI im Bildungskontext richtig eingesetzt werden kann.

Pädagogen müssen jedoch aufpassen, dass sie nicht in die Falle tappen, sich nur mit diesem einen Problem zu befassen, denn jedes dieser alternativen Probleme könnte dem Studierenden oder dem Ruf der Einrichtung gleichermaßen schaden. Neben Plagiaten bringt die Frage des KI-Missbrauchs auch andere Herausforderungen für Pädagogen mit sich, wie zum Beispiel:

  • Chancengleichheit
  • Bedenken hinsichtlich des Datenschutzes
  • Diskriminierung durch Algorithmen
  • Effizienz
  • Urheberschaft
  • Angemessene Nutzung

Chancengleichheit

Generative KI ist zwar weit verbreitet, aber nicht überall verfügbar, zumal viele der fortschrittlichsten Systeme (oder zumindest die fortschrittlichsten Modelle eines Systems) kostenpflichtig sind. Studierende aus benachteiligten Verhältnissen haben daher möglicherweise nicht den gleichen Zugang zu KI-Tools, wodurch sich die Kluft zwischen privilegierten und benachteiligten Studierenden noch vergrößern könnte. Auch KI-Tools lernen ständig dazu und passen ihre Systeme an. Wenn Algorithmen auf der Grundlage einseitiger Daten trainiert werden, können sie bestehende soziale Ungerechtigkeiten nicht nur fortführen, sondern sogar noch verstärken.

 

Bedenken hinsichtlich des Datenschutzes

Pädagogen können KI auf verschiedene Weise zum Nutzen der Studierenden einsetzen, indem sie die Lehrplanressourcen auf deren Bedürfnisse zuschneiden und entsprechend anpassen. Dazu benötigen die KI-Systeme jedoch Daten über die Studierenden, die eine Reihe von demografischen Informationen enthalten können. Ein Bericht des Office of Educational Technology unterstreicht dies: Pädagogen müssen sich Gedanken darüber machen, was mit den von der KI gesammelten Daten geschieht und ob sie den geltenden strengen Datenschutzgesetzen entsprechen. Wenn KI bei Entscheidungen eingesetzt werden soll, die den Bedürfnissen der Studierenden bestmöglich entsprechen, muss dabei trotzdem auf die Wahrung der Privatsphäre des jeweiligen Studierenden geachtet werden.

 

Diskriminierung durch Algorithmen

In Verbindung mit dem vorherigen Punkt muss jedes KI-System, das Daten von Studierenden sammelt, stark reguliert werden, nicht nur aus Datenschutzgründen, sondern auch wegen der Gefahr einer Diskriminierung durch Algorithmen. Es ist äußerst wichtig, dass alle KI-Systeme von Menschen überwacht werden, um Verzerrungen in den Daten aufgrund von Faktoren wie Rasse, Geschlecht oder sozioökonomischem Status zu vermeiden. Ohne eine derartige Überwachung können Verzerrungen unentdeckt bleiben und zu ungerechten Datenergebnissen führen, was das Problem der Chancengleichheit weiter verschärft.

 

Effizienz

Auf breiter Ebene gibt es Bedenken hinsichtlich der Effizienz von generativen KI-Systemen, auch wenn sie immer ausgefeilter werden. Der unkontrollierte Einsatz von KI im Bildungsbereich könnte dem Ruf einer Einrichtung ernsthaft schaden, wenn das System nicht in der Lage ist, präzise und effektive Arbeit zu leisten. Daher ist eine kontinuierliche kritische Bewertung jedes eingesetzten KI-Systems erforderlich. Darüber hinaus ist es von entscheidender Bedeutung, dass KI-Systeme in Verbindung mit anderen Methoden eingesetzt werden – sich ausschließlich auf KI-Tools zu verlassen, ohne die damit verbundenen Einschränkungen zu berücksichtigen, kann kontraproduktiv sein.

 

Urheberschaft

Im Zusammenhang mit der Plagiatsproblematik wirft der Einsatz von generativer KI im Bildungsbereich Fragen zur Urheberschaft und zum rechtmäßigen Eigentum an KI-generierten Werken auf. Studierende und Pädagogen müssen sich darüber im Klaren sein, wie Inhalte, die mithilfe von KI erstellt wurden, richtig zitiert werden, um sicherzustellen, dass die Arbeit nicht fälschlicherweise zugeschrieben wird. Wenn Institutionen sich darüber nicht im Klaren sind, ist ihre Reputation gefährdet, falls sich veröffentlichte Arbeiten oder Forschungsprojekte auf nicht gekennzeichneter KI basieren.

 

Angemessene Nutzung

Letztlich sind Pädagogen und politische Entscheidungsträger dafür verantwortlich, Richtlinien und ethische Rahmenbedingungen für KI-Technologien festzulegen, die in ihren jeweiligen Einrichtungen angewendet werden können. Indem sie klarstellen, was als angemessene Nutzung von KI angesehen wird, können Pädagogen ihrer Bereitschaft Ausdruck verleihen, dass sie den Einsatz von KI in einer Weise akzeptieren, die die Erfahrung der Studierenden und ihre Entwicklung verbessert, anstatt sie zu behindern oder unfaire Wettbewerbsbedingungen zu schaffen. Diese Leitlinien können Studierenden dabei helfen, KI verantwortungsvoll zu nutzen und Innovation voranzutreiben, anstatt sie als schnelle Hilfe zu nutzen. So lässt sich sicherstellen, dass KI bestehende Probleme im Zusammenhang mit Chancengleichheit nicht noch verschärft.

 

Praktische Beispiele für AI-Missbrauch im Bildungswesen

Wenn wir über die allgemeinen Missbrauchsmöglichkeiten von KI hinausgehen, können wir praktische Beispiele dafür finden, wie KI-Tools im Bildungswesen in einer Weise eingesetzt werden können, die sicherlich als unethisch oder unangemessen angesehen würde.

Der Artificial Intelligence Index Report 2023 der Stanford University hebt hervor, dass die unethische Nutzung von KI rapide zunimmt, was sowohl auf den verstärkten Einsatz von KI-Technologien als auch auf das Bewusstsein für die Möglichkeiten ihres Missbrauchs zurückzuführen ist.

Im Bildungsbereich gibt die generative KI vielen Pädagogen bereits Anlass zur Sorge, da die Technologie auf vielfältige schädliche Weise eingesetzt werden kann:

  1. Plagiate von schriftlichen Inhalten
  2. Künstliche Kunstwerke
  3. Computergestützte KI
  4. Übersetzung
  5. Umgehung von Plagiatssoftware
  6. Verwendung bei unbeaufsichtigten Prüfungen
  7. Programmierung

 

1. Plagiate von schriftlichen Inhalten

Der wahrscheinlich offensichtlichste und am weitesten verbreitete praktische Missbrauch von KI im Bildungswesen besteht darin, dass es bei der Verwendung von KI als Rechercheinstrument extrem einfach ist, bestehende Arbeiten ohne Quellenangabe zu kopieren oder zu paraphrasieren. Studierende, die eine KI damit beauftragen, einen Aufsatz oder eine Hausarbeit ganz oder teilweise zu schreiben, begehen wahrscheinlich ein Plagiat, denn selbst wenn die Arbeit nicht direkt kopiert und eingefügt wird, handelt es sich um eine umgeschriebene Version eines bestehenden Inhalts ohne ordnungsgemäße Verweise.

2. Künstliche Kunstwerke

Die KI ist bereits sehr leistungsfähig bei der Erstellung von Bildern und entwickelt ihre Fähigkeit, gefälschte Videoinhalte zu erzeugen, rasch weiter. Kreative Studierende können KI nutzen, um Arbeiten zu erstellen, anstatt sie selbst anzufertigen, was sie daran hindert, ihre Kreativität angemessen zu präsentieren und eigene kreative Denkfähigkeiten zu entwickeln.

3. Computergestützte KI

KI kann zum Lösen komplexer mathematischer Berechnungen eingesetzt werden. Studierende, die sich darauf verlassen, dass KI diese Arbeit für sie erledigt, verstehen jedoch entweder den Problemlösungsprozess nicht richtig oder sie werden selbstgefällig und könnten aus der Übung kommen, so dass sie vergessen, wie sie die Formeln selbst anwenden können.

4. Übersetzung

Die künstliche Übersetzung wird immer besser, aber sie ist noch lange nicht fehlerfrei. Studierende, die einen Text mit Hilfe von KI übersetzen, könnten ungenaue Angaben verwenden, während Studierende, die sich aktiv mit Übersetzungen beschäftigen, ihr Sprachverständnis nicht richtig entwickeln.

5. Umgehung von Plagiatsoftware

Es gibt Software zur Erkennung von Plagiaten, und die Studierenden sind sich dessen bewusst. Deshalb versuchen sie möglicherweise, ihren eigenen Diebstahl von Inhalten mit Hilfe von KI zu verschleiern, indem sie das Tool bitten, die Texte für sie umzuschreiben.

6. Verwendung bei unbeaufsichtigten Prüfungen

Studierende können während einer unbeaufsichtigten Prüfung die herausfordernde Aufgabe bekommen, ein Projekt selbstständig durchzuführen – ohne eine entsprechende Beaufsichtigung könnten die Studierenden KI nutzen, um einen Teil der Aufgabe für sie zu erledigen und Fragen in ihrem Namen zu beantworten.

7. Programmierung

Bestimmte KI-Tools sind in der Lage, Programmiercodes zu generieren, und obwohl die Ergebnisse beeindruckend sind (und KI sicherlich eine Zukunft in der IT-Entwicklungsbranche hat), könnte dies die Fähigkeit der Studierenden beeinträchtigen, zu lernen und ihre eigenen Codierlösungen zu entwickeln.

 

Ausnahmen und Beispiele für den nützlichen Einsatz von KI im Bildungswesen

Es gibt jedoch potenzielle Ausnahmen, die zeigen, wie KI in einer Weise eingesetzt werden kann, die für die Studierenden von Vorteil ist. Der Bildungssektor befindet sich noch in einem frühen Stadium der weiteren Erforschung dieser Möglichkeiten, aber es haben sich bereits einige praktische Anwendungsmöglichkeiten ergeben:

  • Korrektur
  • Unterstützung bei Strukturierung und Forschungsarbeit
  • KI-Eingabeaufforderungen

 

Korrektur

Auch wenn es wichtig ist, dass Studierende in der Lage sind, Texte von hohem Niveau zu verfassen und ihre eigenen Arbeiten korrekturzulesen, könnte der Einsatz von KI als Selbstkorrekturwerkzeug gefördert werden, um Effizienz und Genauigkeit zu verbessern, vorausgesetzt, dass der Studierende nicht speziell in einer sprachbasierten Rolle ausgebildet wird und dass die Bearbeitung nicht transformativ ist, sodass die Arbeit dem Original ähnlich bleibt und nicht zu KI-generiertem Inhalt wird.

 

Unterstützung bei Strukturierung und Forschungsarbeit

Students can use AI as a platform to kick-start a project, getting help identifying potential research topics and putting a structure in place for their essay or paper. Provided students are given appropriate guidelines on what is appropriate and where the limits should be drawn, and they then use this framework to carry out the work themselves, the use of AI in this instance could enhance a student’s own work quality and make time savings for them, without giving them an additional unfair advantage.

 

KI-Eingabeaufforderungen

Möglicherweise wird KI aufgrund ihrer weiten Verbreitung in bestimmten akademischen Bereichen stärker akzeptiert, und es gibt möglicherweise Bildungsaufgaben, die die Entwicklung von KI-Eingabeaufforderungen beinhalten. Es wäre also durchaus angebracht, wenn ein Studierender KI nutzen würde, um zu verstehen, wie man sie besser trainieren kann, um die gewünschten Ergebnisse zu erzielen.

 

Auswirkungen von KI auf das Lernverhalten von Studierenden

KI hat zwar eine Reihe von potenziellen Vorteilen, aber wenn sie missbraucht wird, kann sie für die Studierenden schädlich sein und sich negativ auf ihr Lernverhalten und ihre Entwicklung auswirken. Studierende, die sich auf diese Beispiele des KI-Missbrauchs verlassen, könnten das Gefühl haben, kurzfristig davon zu profitieren, ohne die möglichen langfristigen Auswirkungen zu erkennen.

Ohne den Einsatz von KI entwickeln die Studierenden eine Reihe von Kernkompetenzen, darunter kritisches Denken und Problemlösung. Wenn die Studierenden bei der Ausführung dieser Aufgaben künstliche Intelligenz nutzen, können sie diese Kreativität nicht entwickeln. KI basiert auf einem Algorithmus und kann zwar „lernen“, aber nicht dieselben innovativen Problemlösungsansätze entwickeln wie das menschliche Gehirn, wenn es richtig trainiert wird. Dies schränkt nicht nur das Potenzial der Studierenden ein, sondern auch ihr Potenzial, in ihrer Branche Veränderungen herbeizuführen.

Die Studierenden könnten auch andere wichtige Fähigkeiten und Instrumente verlieren, die sie für ihren eigenen akademischen Erfolg benötigen. Wenn sie sich auf die Abkürzungsmethoden der KI verlassen, kann es zu einer Verkürzung ihrer Aufmerksamkeitsspanne und einer Beeinträchtigung ihrer Konzentration kommen, da sie sich an die sofortigen und einfachen Antworten gewöhnt haben, die KI oft liefern kann. Die Gedächtnisbildung könnte auch dadurch beeinflusst werden, dass sich die Studierenden weniger unter Druck gesetzt fühlen, komplexe Themen in ihrem eigenen Gedächtnis zu speichern, anstatt sich zu sehr auf ihre KI-Tools zu verlassen, um alle benötigten Informationen zu speichern und abzurufen.

 

Verhinderung des Missbrauchs von KI im Bildungswesen

Pädagogen müssen dafür sorgen, dass die Studierenden neben den Vorteilen auch die negativen Auswirkungen des Einsatzes von KI verstehen. Die Aufklärung der Studierenden darüber, wie KI ihre geistige Entwicklung beeinträchtigen könnte, ist die beste Möglichkeit, um sie zu ermutigen, sich innerhalb der festgelegten Richtlinien ethisch und verantwortungsbewusst mit KI auseinanderzusetzen.

Daher muss unbedingt unterstrichen werden, wie wichtig die Originalität der Arbeiten von Studierenden ist, und es gibt verschiedene Möglichkeiten, wie Pädagogen dies fördern können:

  • Mündliche Präsentationen
  • Projektbasierte Lernbewertungen
  • Plagiatserkennung und KI-Erkennungstools

 

Mündliche Präsentationen

Asking students to give oral presentations on their work, either standalone or alongside a written submission, to ensure they can demonstrate understanding of the work, they’ve developed their memory skills to learn it, and as a sideline, also developing their presentation skills which may be essential in their career.

 

Projektbasierte Lernbewertungen

Einsatz von projektbasierten Lernbewertungen, die eine Mischung aus verschiedenen Fähigkeiten erfordern und sicherstellen, dass die Studierenden nicht auf einfache KI-Tools zum Schreiben von Aufsätzen angewiesen sind.

 

Tools zur Plagiatserkennung und KI-Erkennung

Es können Tools zur Plagiatserkennung und KI-Erkennung eingesetzt werden, um die Arbeiten der Studierenden zu überprüfen. Dabei ist es wichtig, den Unterschied zwischen Ähnlichkeitsindizes (die nur einfache numerische Vergleiche zwischen ähnlichen Texten liefern) und Plagiaten zu verstehen, die andere Formen annehmen können, wie z. B. umgeschriebene oder übersetzte Arbeiten.

 

 

Dieser letzte Punkt ist entscheidend. Es ist von entscheidender Bedeutung, über die traditionellen KI-Detektoren zur Bewertung der Originalität hinauszugehen und ein Tool zu verwenden, das einen ganzheitlicheren Ansatz verfolgt und alle Formen von Plagiaten erfassen kann.

Der beste Weg, um die Entwicklung der akademischen Kernkompetenzen zu gewährleisten, besteht darin, abwechslungsreichere Arbeitsprojekte festzulegen, bei denen die Studierenden ihr Verständnis für ein bestimmtes Thema unter Beweis stellen müssen. Dann ist der Einsatz von KI-Software zur Erkennung von Autorenschaft und Plagiaten wie Inspera Originality die beste Möglichkeit, um die akademische Integrität zu wahren, so dass die Originalität aller veröffentlichten Papiere oder Arbeiten gewährleistet ist.

 

Einsatz von KI für akademische Integrität: Nicht jedes Übel verursacht einen Schaden

Es stimmt, dass KI viele Risiken für die akademische Integrität mit sich bringt, aber es besteht auch enormes Potenzial, dass KI dazu beitragen kann, die akademische Integrität zu bewahren und zu erhalten, während sie gleichzeitig Fairness und Inklusion im Bildungssektor fördert.

Wir stehen noch ganz am Anfang, was das Verständnis aller potenziellen Anwendungen von KI anbelangt, aber einige Vorteile sind schon jetzt erkennbar. KI kann dazu beitragen, dass Studierende aus benachteiligten Verhältnissen, die vielleicht keinen persönlichen Zugang zu vielen traditionellen Lernressourcen haben, gleiche Bedingungen vorfinden – vorausgesetzt, sie sind sich darüber im Klaren, wie sich diese Art von Recherche auf akzeptable Art und Weise nutzen lässt. Es ist wichtig, klare Grenzen für den Einsatz von KI bei Prüfungen im Bildungsbereich und für das, was erlaubt ist, zu setzen.

Dabei kann es von Vorteil sein, den Umfang der Recherchen durch eine mehrsprachige Textanalyse zu erweitern, so dass die Studierenden Zugang zu noch mehr Informationen aus einer Fülle von verschiedenen Publikationssprachen erhalten.

KI-Proctoring ist ebenfalls ein sich entwickelnder Bereich, in dem Online-Prüfungen besser reguliert werden könnten, um die Fairness und Integrität aller Prüfungsergebnisse zu gewährleisten.

 

Abschließende Überlegungen

Unter der Voraussetzung, dass die Anwendung sorgfältig erfolgt und klare sowie transparente Richtlinien festgelegt werden, hat die KI sicherlich eine große Zukunft, wenn es darum geht, Pädagogen und Studierende dabei zu unterstützen, innovativ zu sein und die Grenzen in ihren jeweiligen Fachgebieten zu erweitern, ohne dabei Kompromisse bei der Qualität einzugehen.

Es gibt eindeutige Beispiele dafür, wie KI missbraucht werden könnte, einschließlich allgemeiner Formen des Missbrauchs und konkreterer Beispiele aus der Praxis.

Die Herausforderung für Pädagogen besteht darin, sich dessen bewusst zu sein und Regeln aufzustellen, die die Studierenden verstehen und denen sie zustimmen.

Ein völliges Verbot von ChatGPT und anderer generativer KI-Tools ist der falsche Ansatz. Wenn Studierende künstliche Intelligenz nutzen, um ihre Aufgaben auf die richtige, ethisch vertretbare Art und Weise zu erledigen, dann kann sie ein transformatives Werkzeug sein, das künftige Innovationen noch leichter möglich macht.