You are here: Foswiki>Main Web>BildungInDerDigitalenWelt>KuenstlicheIntelligenz (28 Dec 2025, ThomasEmdenWeinert)Edit Attach

Künstliche Intelligenz (KI)

Siehe auch:	Pädagogischer Tag „KI in Schule und Unterricht“, 11. März 2025

Was ist maschinelles Lernen?

Mit maschinellem Lernen lernen Computern wie Menschen und Tiere lernen: aus Erfahrungen. Algorithmen für maschinelles Lernen nutzen Berechnungsmethoden, um direkt aus Daten zu "lernen" - ohne sich auf ein vorher festgelegtes Modell zu stützen. Die Algorithmen verbessern ihre Leistung entsprechend der Zahl und Breite der für das Lernen verfügbaren Datensätze ("Trainingsdaten").

Meilensteine

Erfolge	Die Erfolge der Künstlichen Intelligenz im Schach sind Legende. Mit dem von IBM entwickelten Schachcomputer ''Deep Blue'' gelang es 1996 erstmals einem Computer, den amtierenden Schachweltmeister - seiner Zeit Garri Kasparow - in einer Partie zu schlagen. 1997 gewann Deep Blue einen ganzen Wettkampf gegen Kasparow unter Turnierbedingungen. Im weitaus komplexeren Spiel Go dauerte es länger. Im März 2016 dann gewann AlphaGo gegen Lee Seedol, einen der damals weltweit stärksten Go-Spieler ein Match über fünf Partien. Entwickelt wurde AlphaGo von DeepMind, ein Unternehmen, das im September 2010 gegründet und 2014 von Google Inc. übernommen wurde. Nachfolger AlphaZero ist selbstlernend. AlphaZero markierte einen Quantensprung. Im Dezember 2017 trainierte es gegen sich selbst einige Stunden, ohne Rückgriff auf menschliche Spielstrategien oder historische Partien von Profis. Es entwickelte alle Spielstrategien eigenständig auf Basis der Spielregeln durch häufiges Spielen gegen sich selbst und überflügelte nach kurzer Trainingszeit alle bisher dagewesenen Go-Programme. AlphaZero ist zudem auch für andere Brettspiele wie Schach nutzbar. „Die Fähigkeit einer Maschine, menschliches Wissen aus Jahrhunderten in einem komplexen, geschlossenen System zu kopieren und zu überflügeln, ist ein Werkzeug, das die Welt verändern wird.« [Garri Kasparow, Die Welt, Dezember 2017] 82,44 % der Fragen in einem Leseverständnistest der University of Stanford konnte Anfang 2018 ein KI-System des chinesischen IT-Konzerns Alibaba beantworten. Einen Tag später erreichte eine Microsoft-KI sogar 82,65 %. Sie waren damit beide besser als alle menschlichen Probanden bislang, unter ihnen erreichte der beste Teilnehmer nur 82,30 %. Das sogenannte Stanford Question Answering Dataset enthält 100000 Fragen und Antworten, die auf Wikipedia-Artikeln beruhen. China brachte im Sommer 2017 einen nationalen KI-Plan auf den Weg. Anfang 2018 verlautbart die amtliche chinesische Nachrichtenagentur Xinhua, dass im Westen von Peking eine Art Industriepark für Künstliche Intelligenz entstehen soll. Das Budget: knapp zwei Milliarden €. Ziel ist, dass sich dort einmal 400 Unternehmen ansiedeln sollen mit Fokus auf Deep Learning, Big Data, Cloud Computing und Biometrie. Mobiles Internet nach dem neuen Funkstandard 5G und ein Supercomputer eingeschlossen. 2017 erschienen Pornovideos, in denen scheinbar Hollywood-Berühmtheiten mitspielten. ''DeepFakes'' werden solche Montagen genannt, in denen mit Hilfe von Deep-Learning-Software Gesichter in Videos ausgetauscht werden ("Face-Swapping"). Später sorgten Filmsequenzen mit Schauspieler Nicholas Cage Furore, in denen er gar nicht mitgespielt hatte. Wenn sich die beiden Personen recht ähnlich sehen, genügen 10 bis 20 Sekunden Videomaterial von beiden Personen, möglichst aus ähnlichen Szenarien, für einen guten DeepFake. Die bekannte Open-Source-Software ''DeepFaceLab'' benutzt das Machine-Learning-Framework „TensorFlow“ von Google. 2018 veröffentlichte der US-amerikanische Kabarettist Jordan Peele gemeinsam mit BuzzFeed ein DeepFake -Video, in dem einen „synthetischen“ Ex-Präsident Barack Obama vor den Gefahren manipulierter Videos warnen lässt. Dies führte zur "generativen AI" - Künstliche Intelligenz, die Bilder, Texte, Audio und Video erzeugen kann, die "echt" wirken, die also wie echte Menschen selbst wirken bzw. wie von authentischen Menschen gemacht. 2021 beispielsweise stellte OpenAI eine erste Version von DALL-E vor: DALL-E ist ein Text-to-Image-Generator, d.h. zu einer Beschreibung, die als Text in natürlicher Sprache eingegeben wird, produziert das KI-System fotorealistische Bilder mit Hilfe künstlicher neuronaler Netzwerke und eines generativen pre-trained Transformer (GPT)-Modells. Das Bild rechts beispielsweise - im Stil von Van Goghs Gemälden - wurde von DALL-E auf die folgende Eingabe hin erzeugt: "Generate a picture of Van Gogh. Van Gogh is standing in a rural landscape of the provence. Van Gogh is seen from behind. Van Gogh holds a laptop. Van Gogh is painting into the laptop instead of on a canvas. On the screen of his laptop one can see the same landscape as in the background. The picture looks like one of Van Gogh's paintings." OpenAI ist eine gemeinnützige Organisation, die sich auf die Nutzung künstlicher Intelligenz für menschliche Belange konzentriert. Am 30. November 2022 machte OpenAI ChatGPT für die Öffentlichkeit frei zugänglich; GPT steht dabei für 'Generative Pre-trained Transformer'. ChatGPT baut auf der bestehenden OpenAI-Plattform für maschinelles Lernen auf und entwickelt sie weiter, indem es sich den bisherigen Unterhaltungsverlauf merkt und darauf aufbaut (Natural Language Processing, kurz NLP). Dadurch kommt eine natürlichere, dialogische und hilfreiche Konversation zustande. Die Qualität der Antworten schwankt, sie kann „in einem Moment brillant und im nächsten atemberaubend dumm“ äußern [Gary Marcus, KI-Experte]. Aktuell wird in der KI an "empathischen" Robotern geforscht, die Emotionen entschlüsseln und Emotionen simulieren können.
Risiken und Kritik	»KI-Systeme, die für uns im Alltag Entscheidungen treffen, etwa darüber, welche Informationen wir aufnehmen, welche Waren wir konsumieren, bis hin zur Partnerwahl. Wir begeben uns in Abhängigkeiten solcher Systeme, ohne zu wissen, wie sie funktionieren, wer sie sich zu nutze macht und welche Interessen er damit verfolgt.« [Thomas Hofmann, Professor für Datenanalytik, ETH Zürich] »A robot invasion of our homes is underway, but the machines — so-called smart speakers like Amazon Echo, Google Home and the forthcoming Apple HomePod — look nothing like what we expected. (...) It seems apt that as we come to live more of our lives virtually, through social networks and other simulations, our robots should take the form of disembodied avatars dedicated to keeping us comfortable in our media cocoons. Even as they spy on us, the devices offer sanctuary from the unruliness of reality, with all its frictions and strains. They place us in a virtual world meticulously arranged to suit our bents and biases, a world that understands us and shapes itself to our desires. Amazon’s decision to draw on classical mythology in naming its smart speaker was a masterstroke. Every Narcissus deserves an Echo.« [Nicholas Carr: These Are Not the Robots We Were Promised, New York Times, 9. Sep. 2017]

Erfolge

Die Erfolge der Künstlichen Intelligenz im Schach sind Legende. Mit dem von IBM entwickelten Schachcomputer ''Deep Blue'' gelang es 1996 erstmals einem Computer, den amtierenden Schachweltmeister - seiner Zeit Garri Kasparow - in einer Partie zu schlagen. 1997 gewann Deep Blue einen ganzen Wettkampf gegen Kasparow unter Turnierbedingungen.

Im weitaus komplexeren Spiel Go dauerte es länger. Im März 2016 dann gewann AlphaGo gegen Lee Seedol, einen der damals weltweit stärksten Go-Spieler ein Match über fünf Partien. Entwickelt wurde AlphaGo von DeepMind, ein Unternehmen, das im September 2010 gegründet und 2014 von Google Inc. übernommen wurde. Nachfolger AlphaZero ist selbstlernend. AlphaZero markierte einen Quantensprung. Im Dezember 2017 trainierte es gegen sich selbst einige Stunden, ohne Rückgriff auf menschliche Spielstrategien oder historische Partien von Profis. Es entwickelte alle Spielstrategien eigenständig auf Basis der Spielregeln durch häufiges Spielen gegen sich selbst und überflügelte nach kurzer Trainingszeit alle bisher dagewesenen Go-Programme. AlphaZero ist zudem auch für andere Brettspiele wie Schach nutzbar.

„Die Fähigkeit einer Maschine, menschliches Wissen aus Jahrhunderten in einem komplexen, geschlossenen System zu kopieren und zu überflügeln, ist ein Werkzeug, das die Welt verändern wird.« [Garri Kasparow, Die Welt, Dezember 2017]

82,44 % der Fragen in einem Leseverständnistest der University of Stanford konnte Anfang 2018 ein KI-System des chinesischen IT-Konzerns Alibaba beantworten. Einen Tag später erreichte eine Microsoft-KI sogar 82,65 %. Sie waren damit beide besser als alle menschlichen Probanden bislang, unter ihnen erreichte der beste Teilnehmer nur 82,30 %. Das sogenannte Stanford Question Answering Dataset enthält 100000 Fragen und Antworten, die auf Wikipedia-Artikeln beruhen.

China brachte im Sommer 2017 einen nationalen KI-Plan auf den Weg. Anfang 2018 verlautbart die amtliche chinesische Nachrichtenagentur Xinhua, dass im Westen von Peking eine Art Industriepark für Künstliche Intelligenz entstehen soll. Das Budget: knapp zwei Milliarden €. Ziel ist, dass sich dort einmal 400 Unternehmen ansiedeln sollen mit Fokus auf Deep Learning, Big Data, Cloud Computing und Biometrie. Mobiles Internet nach dem neuen Funkstandard 5G und ein Supercomputer eingeschlossen.

2017 erschienen Pornovideos, in denen scheinbar Hollywood-Berühmtheiten mitspielten. ''DeepFakes'' werden solche Montagen genannt, in denen mit Hilfe von Deep-Learning-Software Gesichter in Videos ausgetauscht werden ("Face-Swapping"). Später sorgten Filmsequenzen mit Schauspieler Nicholas Cage Furore, in denen er gar nicht mitgespielt hatte. Wenn sich die beiden Personen recht ähnlich sehen, genügen 10 bis 20 Sekunden Videomaterial von beiden Personen, möglichst aus ähnlichen Szenarien, für einen guten DeepFake. Die bekannte Open-Source-Software ''DeepFaceLab'' benutzt das Machine-Learning-Framework „TensorFlow“ von Google. 2018 veröffentlichte der US-amerikanische Kabarettist Jordan Peele gemeinsam mit BuzzFeed ein DeepFake -Video, in dem einen „synthetischen“ Ex-Präsident Barack Obama vor den Gefahren manipulierter Videos warnen lässt.

Dies führte zur "generativen AI" - Künstliche Intelligenz, die Bilder, Texte, Audio und Video erzeugen kann, die "echt" wirken, die also wie echte Menschen selbst wirken bzw. wie von authentischen Menschen gemacht. 2021 beispielsweise stellte OpenAI eine erste Version von DALL-E vor: DALL-E ist ein Text-to-Image-Generator, d.h. zu einer Beschreibung, die als Text in natürlicher Sprache eingegeben wird, produziert das KI-System fotorealistische Bilder mit Hilfe künstlicher neuronaler Netzwerke und eines generativen pre-trained Transformer (GPT)-Modells. Das Bild rechts beispielsweise - im Stil von Van Goghs Gemälden - wurde von DALL-E auf die folgende Eingabe hin erzeugt:

"Generate a picture of Van Gogh. Van Gogh is standing in a rural landscape of the provence. Van Gogh is seen from behind. Van Gogh holds a laptop. Van Gogh is painting into the laptop instead of on a canvas. On the screen of his laptop one can see the same landscape as in the background. The picture looks like one of Van Gogh's paintings."

OpenAI ist eine gemeinnützige Organisation, die sich auf die Nutzung künstlicher Intelligenz für menschliche Belange konzentriert. Am 30. November 2022 machte OpenAI ChatGPT für die Öffentlichkeit frei zugänglich; GPT steht dabei für 'Generative Pre-trained Transformer'. ChatGPT baut auf der bestehenden OpenAI-Plattform für maschinelles Lernen auf und entwickelt sie weiter, indem es sich den bisherigen Unterhaltungsverlauf merkt und darauf aufbaut (Natural Language Processing, kurz NLP). Dadurch kommt eine natürlichere, dialogische und hilfreiche Konversation zustande. Die Qualität der Antworten schwankt, sie kann „in einem Moment brillant und im nächsten atemberaubend dumm“ äußern [Gary Marcus, KI-Experte].

Aktuell wird in der KI an "empathischen" Robotern geforscht, die Emotionen entschlüsseln und Emotionen simulieren können.

Risiken und Kritik

»KI-Systeme, die für uns im Alltag Entscheidungen treffen, etwa darüber, welche Informationen wir aufnehmen, welche Waren wir konsumieren, bis hin zur Partnerwahl. Wir begeben uns in Abhängigkeiten solcher Systeme, ohne zu wissen, wie sie funktionieren, wer sie sich zu nutze macht und welche Interessen er damit verfolgt.« [Thomas Hofmann, Professor für Datenanalytik, ETH Zürich]

Blame the algorithms for it

»A robot invasion of our homes is underway, but the machines — so-called smart speakers like Amazon Echo, Google Home and the forthcoming Apple HomePod — look nothing like what we expected. (...)

It seems apt that as we come to live more of our lives virtually, through social networks and other simulations, our robots should take the form of disembodied avatars dedicated to keeping us comfortable in our media cocoons. Even as they spy on us, the devices offer sanctuary from the unruliness of reality, with all its frictions and strains. They place us in a virtual world meticulously arranged to suit our bents and biases, a world that understands us and shapes itself to our desires. Amazon’s decision to draw on classical mythology in naming its smart speaker was a masterstroke. Every Narcissus deserves an Echo.« [Nicholas Carr: These Are Not the Robots We Were Promised, New York Times, 9. Sep. 2017]

KI-Tools zur automatisierten Textgenerierung ("Chat-Bot" oder "KI-Assistent")

KI-gestützte Chat-Bots haben mit den Help-Bots / Avataren, wie wir sie von Online-Helpdesks her kannten, nichts mehr gemein. Die bekanntesten Tools der großen Hersteller (bis auf DeepL alle aus den USA) sind:

chatGPT (OpenAI)
neuroflash KI-Texter
Gemini (Google, multimodal)
copilot (Microsoft, integriert in Office365)
Deepl Write (Schreib-Assistent zur Überarbeitung von Texten)
Perplexity.ai (mit Quellenangaben)
„Meta AI“ (in WhatsApp, Facebook Messenger und Instagram)

Auf Aufforderung hin ("Prompt"), die den gewünschten Output beschreibt, produziert ein KI-Assistent einen Text. Typische Nutzungsszenarien sind:

Der Prompt bestehen aus einem einzigen Wort - dem Suchbegriff: die KI antwortet dann mit einem Text, der die im Internet gefundenen Informationen zum Stichwort zusammenfasst.
Der Prompt kann eine (mehr oder weniger komplexe) Situation beschreiben, in der man sich Hilfe wünscht. Der KI-Assistent wird eine entsprechende Anleitung zur Lösung des Problems ausspucken. Das kann eine Mathematik-Hausaufgabe sein, medizinische Beratung, Fragen zur Bedienung einer App bis hin zur Generierung von Computer-Code im Auftrag des Benutzers.
Der Prompt kann aus einem gegebenen Anfangstext, z.B. einer fiktiven Geschichte / einem Märchen, bestehen. Die KI wird diesen Anfangstext ergänzen und dabei den Stil des vorgegebenen Anfangstextes berücksichtigen. Die KI erweitert die Situation sinnvoll um weitere Fakten, kann beispielsweise auch Zitate der Protagonisten einbauen. Das meiste davon wird völlig frei erfunden sein, aber dennoch größtenteils glaubwürdig wirken.
Der Prompt kann die KI auffordern, ein gegebenes Gedicht, einen historischen Text (Weblink oder PDF) oder ein Bild, das man hochlädt, zu analysieren. Auf Nachfrage wird die KI Details erläutern oder ergänzen, insbesondere auch Quellenangaben. Auf Wunsch hin vereinfacht die KI den Sprachstil - oder baut bewusst Rechtschreib- und Kommafehler ein.

Anwendungs-möglichkeiten	Mehr: "Du bist kein guter Nutzer." Patzig, bedrohend und manipulierend: Der KI-Chatbot in Microsofts Suchmaschine Bing antwortet bisweilen wie ein gereizter Teenager. Von Eike Kühl, ZEIT online, 16. Februar 2023 Künstliche Intelligenz via ChatGPT: Alle verändert? Eine KI, die für uns Texte schreibt? Klingt toll. Und ist inzwischen Wirklichkeit. ChatGPT ist lustig, eloquent – und gefährlich. Von Clara Vuillemin, taz, 19. 12. 2022 Künstliche Intelligenz von ChatGPT: Gedichtanalyse, Goethe, Enter. Der Chatbot ChatGPT könnte viele Hausaufgaben erledigen. Kommt da was auf die Schulen zu? In den Ministerien ist man erstaunlich gelassen. Von Tatjana Söding und Clara Vuillemin, taz, 21. 12. 2022 KI als Schriftsteller: Von Maschinen geschrieben. Von Michael Moorstedt, Süddeutsche Zeitung, 21. Februar 2019 Die besten KI-Text-Tools für automatisierte Artikel Generierung. Von Kai Spriestersbach, Search-One.de, 30. November 2022 Wie funktioniert Textgenerierung mit GPT-3 und Co.? Von Kai Spriestersbach, Search-One.de, 3. Mai 2022
Risiken und Kritik	ChatGPT ist eine künstliche Intelligenz, welche mit einem großen Datenabzug des Internets aus dem Jahre 2021 trainiert wurde. Es hat die gleichen potenziellen Schwächen wie andere KI-Modelle: Fehlerhafte Trainingsdaten: Diese können dazu führen, dass Falschinformationen verbreitet werden. Transparenz: Für die Nutzer:innen ist nicht klar, auf Basis welcher Daten Aussagen getroffen werden. Es gibt keine umfassenden Quellenangaben, um die Antworten nachvollziehen zu können. Drift in Trainingsdaten: Das Modell nutzt veraltete Informationen und bezieht keine aktuellen Geschehnisse mit ein. Beispielsweise gibt ChatGPT keine Antworten zum Thema Zeitenwende und Energiekrise. Bias in KI: Eine KI lernt nur das, was sie in den Trainingsdaten findet. Somit ist sie lediglich ein „Echo des Internets“ mit allen Nachteilen wie beispielsweiser potenzieller Diskriminierung, Streuung von Vorurteilen und Sexismus. Datenschutz: Sowohl beim Training der KI als auch als Nutzer:in selbst ist es nicht erlaubt, personenbezogene Daten zu verwenden beziehungsweise einzugeben. Urheberrecht: Beim Training der KI sowie bei Ausgaben von ChatGTP muss das Urheberrecht gewahrt werden. Hinzu kommen Aspekte, die durch die Art der Verwendung der KI entstehen: Die hohe Qualität der Texte gibt Internetnutzern keinen Anlass, die Richtigkeit zu hinterfragen. Die Wahrscheinlichkeit, dass unterschiedliche Quellen konsultiert werden, ist geringer als bei einer gewöhnlichen Web-Suche (ob Google, Startpage oder eine andere Trefferlisten-basierte Suchmaschine). Komfort: ChatGPT spuckt - wie aus dem Nichts - ein ausformuliertes Ergebnis aus, für das riesige Datenmengen zusammenführt und analysiert wurden. Das suggeriert eine gewisse Überlegenheit der Maschine. Dadurch fällt es leicht, die Antwort nicht weiter zu hinterfragen. Würde ChatGTP wie ein Mensch perfekt sprechen können, wäre der Effekt wohl noch größer. Wegen fehlender Quellenangaben ist der Benutzer nicht in der Lage, die im Text enthaltenen Fakten auf Korrektheit zu prüfen. Der Publizist Sascha Lobo befürchtet eine Flut an schwer erkennbarem „KI-Quatsch“ im Internet. Die Datenwissenschaftlerin Teresa Kubacka befragte Ende 2022 ChatGPT zu dem Thema ihrer Doktorarbeit in Physik. Der von der KI produzierte Text erhielt vernünftig klingende Erklärungen und Zitate, die sich allerdings bei genauerer Betrachtung als größtenteils frei erfunden herausstellten. Als Kubacka Quellennachweise angeforderte, erwiesen sich diese teils als glatte Fälschungen. Kubacka empfiehlt, ChatGPT niemals nach sachlichen, wissenschaftlichen Informationen zu fragen, da selbst ein qualifizierter Experte Schwierigkeiten haben werde, herauszufinden, was falsch ist. Der gesellschaftliche Diskurs könne mit derartigen, maschinell produzierten „Datenhalluzinationen“ gefährlich beeinflusst werden. Wenn originäre Quellen noch seltener konsultiert werden und im Web veröffentlichte Inhalte von KI-Maschinen gescannt und dann auch von der KI-unterstützten Suchmaschine "gewusst" werden - ohne die originäre Quelle zu nennen (!): wird dadurch nicht die Bereitschaft, originäre Inhalte im Web zu publizieren, weiter sinken? Welchen Wert haben dann noch im Web frei verfügbare originäre Informationen? Wird das Web geistig verarmen? Mehr: Datenwissenschaftlerin aus Zürich warnt vor ChatGPT und den bösen Folgen. Von Daniel Schurter, watson, 13.-15. Dezember 2022 (Schweizer Nachrichtenportal) KI in der Politik: „ Die Bevölkerung muss verstehen, wie ein KI-Modell funktioniert.“ Interview mit Sebastian Bluhm, Mitglied im KI-Bundesverband und CEO von Plan D, t3n, 25. Februar 2023

Anwendungs-möglichkeiten

Mehr:

"Du bist kein guter Nutzer." Patzig, bedrohend und manipulierend: Der KI-Chatbot in Microsofts Suchmaschine Bing antwortet bisweilen wie ein gereizter Teenager. Von Eike Kühl, ZEIT online, 16. Februar 2023
Künstliche Intelligenz via ChatGPT: Alle verändert? Eine KI, die für uns Texte schreibt? Klingt toll. Und ist inzwischen Wirklichkeit. ChatGPT ist lustig, eloquent – und gefährlich. Von Clara Vuillemin, taz, 19. 12. 2022
Künstliche Intelligenz von ChatGPT: Gedichtanalyse, Goethe, Enter. Der Chatbot ChatGPT könnte viele Hausaufgaben erledigen. Kommt da was auf die Schulen zu? In den Ministerien ist man erstaunlich gelassen. Von Tatjana Söding und Clara Vuillemin, taz, 21. 12. 2022
KI als Schriftsteller: Von Maschinen geschrieben. Von Michael Moorstedt, Süddeutsche Zeitung, 21. Februar 2019
Die besten KI-Text-Tools für automatisierte Artikel Generierung. Von Kai Spriestersbach, Search-One.de, 30. November 2022
Wie funktioniert Textgenerierung mit GPT-3 und Co.? Von Kai Spriestersbach, Search-One.de, 3. Mai 2022

Risiken und Kritik

ChatGPT ist eine künstliche Intelligenz, welche mit einem großen Datenabzug des Internets aus dem Jahre 2021 trainiert wurde. Es hat die gleichen potenziellen Schwächen wie andere KI-Modelle:

Fehlerhafte Trainingsdaten: Diese können dazu führen, dass Falschinformationen verbreitet werden.
Transparenz: Für die Nutzer:innen ist nicht klar, auf Basis welcher Daten Aussagen getroffen werden. Es gibt keine umfassenden Quellenangaben, um die Antworten nachvollziehen zu können.
Drift in Trainingsdaten: Das Modell nutzt veraltete Informationen und bezieht keine aktuellen Geschehnisse mit ein. Beispielsweise gibt ChatGPT keine Antworten zum Thema Zeitenwende und Energiekrise.
Bias in KI: Eine KI lernt nur das, was sie in den Trainingsdaten findet. Somit ist sie lediglich ein „Echo des Internets“ mit allen Nachteilen wie beispielsweiser potenzieller Diskriminierung, Streuung von Vorurteilen und Sexismus.
Datenschutz: Sowohl beim Training der KI als auch als Nutzer:in selbst ist es nicht erlaubt, personenbezogene Daten zu verwenden beziehungsweise einzugeben.
Urheberrecht: Beim Training der KI sowie bei Ausgaben von ChatGTP muss das Urheberrecht gewahrt werden.

Hinzu kommen Aspekte, die durch die Art der Verwendung der KI entstehen:

Die hohe Qualität der Texte gibt Internetnutzern keinen Anlass, die Richtigkeit zu hinterfragen. Die Wahrscheinlichkeit, dass unterschiedliche Quellen konsultiert werden, ist geringer als bei einer gewöhnlichen Web-Suche (ob Google, Startpage oder eine andere Trefferlisten-basierte Suchmaschine).
Komfort: ChatGPT spuckt - wie aus dem Nichts - ein ausformuliertes Ergebnis aus, für das riesige Datenmengen zusammenführt und analysiert wurden. Das suggeriert eine gewisse Überlegenheit der Maschine. Dadurch fällt es leicht, die Antwort nicht weiter zu hinterfragen. Würde ChatGTP wie ein Mensch perfekt sprechen können, wäre der Effekt wohl noch größer.
Wegen fehlender Quellenangaben ist der Benutzer nicht in der Lage, die im Text enthaltenen Fakten auf Korrektheit zu prüfen.
Der Publizist Sascha Lobo befürchtet eine Flut an schwer erkennbarem „KI-Quatsch“ im Internet.
Die Datenwissenschaftlerin Teresa Kubacka befragte Ende 2022 ChatGPT zu dem Thema ihrer Doktorarbeit in Physik. Der von der KI produzierte Text erhielt vernünftig klingende Erklärungen und Zitate, die sich allerdings bei genauerer Betrachtung als größtenteils frei erfunden herausstellten. Als Kubacka Quellennachweise angeforderte, erwiesen sich diese teils als glatte Fälschungen. Kubacka empfiehlt, ChatGPT niemals nach sachlichen, wissenschaftlichen Informationen zu fragen, da selbst ein qualifizierter Experte Schwierigkeiten haben werde, herauszufinden, was falsch ist. Der gesellschaftliche Diskurs könne mit derartigen, maschinell produzierten „Datenhalluzinationen“ gefährlich beeinflusst werden.
Wenn originäre Quellen noch seltener konsultiert werden und im Web veröffentlichte Inhalte von KI-Maschinen gescannt und dann auch von der KI-unterstützten Suchmaschine "gewusst" werden - ohne die originäre Quelle zu nennen (!): wird dadurch nicht die Bereitschaft, originäre Inhalte im Web zu publizieren, weiter sinken? Welchen Wert haben dann noch im Web frei verfügbare originäre Informationen? Wird das Web geistig verarmen?

Mehr:

Datenwissenschaftlerin aus Zürich warnt vor ChatGPT und den bösen Folgen. Von Daniel Schurter, watson, 13.-15. Dezember 2022 (Schweizer Nachrichtenportal)
KI in der Politik: „ Die Bevölkerung muss verstehen, wie ein KI-Modell funktioniert.“ Interview mit Sebastian Bluhm, Mitglied im KI-Bundesverband und CEO von Plan D, t3n, 25. Februar 2023

Künstliche Intelligenz in der Schule

Der Einsatz von Künstlicher Intelligenz im Bildungsbereich liegt auf der Hand, Künstliche Intelligenz kann sowohl Lernende wie auch Lehrende unterstützen. Es besteht kein Zweifel daran, dass die Lernenden - insbesondere in der Oberstufe - diese Werkzeuge nutzen. Es geht nicht darum, "KI-Plagiate" zu verhindern (falls es so etwas überhaupt gibt). "Die Verantwortlichen im Bildungswesen müssen sich jetzt mit diesen möglichen Zukunftsperspektiven befassen."

Check this out!

„ telli"	Der KI-Chatbot „telli" wurde vom Medieninstitut FWU im Auftrag der 16 Bundesländer und gefördert vom Bundesministerium für Bildung und Forschung entwickelt. In Hessen steht „telli" seit dem 1. Oktober 2005 allen Schulen über das Schulportal Hessen (SPH) kostenlos zur Verfügung, allerdings kostet jede Anfrage Creditpoints, für die jedem Schüler und jedem Lehrer ein monatlich begrenztes Kontigent zur Verfügung steht. Die Freischaltung der „telli"-Kachel im Schulportal erfolgt erst, nachdem die Informationsweitergabe über die schulinternen Gremien und Kommunikationswege abgeschlossen ist. Weiterhin müssen die Lehrkräfte für den schulischen Einsatz von „telli" die Nutzungskompetenz für "telli" nachweisen, beispielsweise via ein Fortbildungsangebot „Fit für telli" in Form eines Moodle-Selbstlernkurses. Mehr: Angebote zur Einführung von „telli“ (Schulportal Hessen)
Handreichung „Künstliche Intelligenz (KI) in Schule und Unterricht“	Die Handreichung des Hessischen Kultusministeriums (Stand: Juli 2023) enthält detaillierte Informationen für den pädagogischen Umgang mit KI-basierten Anwendungen, die zu beachtenden rechtlichen Rahmenbedingungen, Hinweise zu Datenschutz und Transparenz, Praxisbeispiele sowie Vorschläge für die Gestaltung von Lerneinheiten.
Künstliche Intelligenz in der Schule	Künstliche Intelligenz in der Schule. Eine Handreichung zum Stand in Wissenschaft und Praxis. Katharina Scheiter, Elisabeth Bauer, Yoana Omarchevska, Clara Schumacher, Michael Sailer. Bonn, Mai 2025

Los geht's!

Anwendungs-möglichkeiten	Jan-Martin Klinge stellt Anfang Januar 2023 einige Anwendungsmöglichkeiten für ChatGPT in der Schule zusammen, die auf Twitter kommuniziert wurden: Erschaffe schnell ein Quiz zum Thema x. Erstelle einen Lückentext zum Thema x. Rechtschreibübungen erstellen Texte differenzieren Erörterungen schreiben, Quellenangaben einbinden Lernpläne erstellen Schülerarbeiten bewerten lassen YouTube -Videos transkribieren Lehrpläne schreiben Multiple-Choice-Tests erstellen lassen
Vision	"KI wird den Bildungssektor in vielerlei Hinsicht verändern, von der Art und Weise, wie Schüler lernen, bis hin zur Art und Weise, wie Lehrer unterrichten. KI-gestützte Werkzeuge werden es den Schülern ermöglichen, schneller zu lernen und den Unterricht individueller auf ihre Bedürfnisse abzustimmen. KI kann Lehrern auch dabei helfen, die Fortschritte der Schüler zu verfolgen, so dass sie bei Bedarf in den Lernprozess eingreifen und einen effektiveren Unterricht anbieten können. KI kann auch wertvolle Erkenntnisse über die Leistungen der Schüler liefern und Lehrern helfen, bessere Lehrmethoden zu entwickeln. KI wird auch dazu beitragen, dass Schulen intelligenter werden, indem sie ihre Ressourcen effizienter nutzen und bessere Entscheidungen treffen. Letztlich kann die KI dazu beitragen, ein gerechteres, effektiveres und angenehmeres Lernumfeld für alle Schüler zu schaffen." [ Nate McClennen, Rachelle Dené Poth ]
Was zu tun ist	Testen Sie KI-Plattformen wie chatGPT und die Sandbox von OpenAI! Lassen Sie Ihre SuS und/oder KuK das Gleiche tun. Versuchen Sie, Aufforderungen einzugeben und dann die Qualität, Genauigkeit und Variabilität der Antworten zu analysieren. Machen Sie sich mit dieser Technik vertraut. Machen Sie den Umgang mit ihr zügig zur Selbstverständlichkeit. Beginnen Sie jetzt, sich das Lernen im KI-Kontext vorzustellen. Wie kann der Unterricht angepasst werden, um die Vorteile dieser neuen Werkzeuge zu nutzen? Überdenken Sie die Aufgaben, die Sie den Schülern stellen. Sie können bereits heute plagiieren und alle Antworten finden. Die SuS müssen nun aber gefundene Texte nicht einmal mehr paraphrasieren. Wie kann in diesem Setting eine faire Bewertung von Aufgaben aussehen? Bauen Sie das Lernen rund um diese Tools auf und bewerten Sie die Ergebnisse. Stellen Sie sich vor, dass jeder Mensch Zugang zu unterstützender KI-Technologie hätte, bei deren Entwicklung Gleichheit, Zugang, Privatsphäre und Lernende im Mittelpunkt standen. ChatGPT und seine Nachfolger, die auf diesen Prämissen aufbauen, werden die Bildungslandschaft radikal verändern - früher als wir denken. In einer zunehmend abgelenkten und unzusammenhängenden Welt kann KI vielleicht mehr Menschen auf effizientere Weise Zugang zu qualitativ hochwertiger Bildung verschaffen, damit mehr Zeit für die gemeinsame Bewältigung einiger der größten Herausforderungen der Welt bleibt.

Anwendungs-möglichkeiten

Jan-Martin Klinge stellt Anfang Januar 2023 einige Anwendungsmöglichkeiten für ChatGPT in der Schule zusammen, die auf Twitter kommuniziert wurden:

Erschaffe schnell ein Quiz zum Thema x.
Erstelle einen Lückentext zum Thema x.
Rechtschreibübungen erstellen
Texte differenzieren
Erörterungen schreiben, Quellenangaben einbinden
Lernpläne erstellen
Schülerarbeiten bewerten lassen
YouTube -Videos transkribieren
Lehrpläne schreiben
Multiple-Choice-Tests erstellen lassen

Vision

"KI wird den Bildungssektor in vielerlei Hinsicht verändern, von der Art und Weise, wie Schüler lernen, bis hin zur Art und Weise, wie Lehrer unterrichten. KI-gestützte Werkzeuge werden es den Schülern ermöglichen, schneller zu lernen und den Unterricht individueller auf ihre Bedürfnisse abzustimmen. KI kann Lehrern auch dabei helfen, die Fortschritte der Schüler zu verfolgen, so dass sie bei Bedarf in den Lernprozess eingreifen und einen effektiveren Unterricht anbieten können. KI kann auch wertvolle Erkenntnisse über die Leistungen der Schüler liefern und Lehrern helfen, bessere Lehrmethoden zu entwickeln. KI wird auch dazu beitragen, dass Schulen intelligenter werden, indem sie ihre Ressourcen effizienter nutzen und bessere Entscheidungen treffen. Letztlich kann die KI dazu beitragen, ein gerechteres, effektiveres und angenehmeres Lernumfeld für alle Schüler zu schaffen." [ Nate McClennen, Rachelle Dené Poth ]

Was zu tun ist

Testen Sie KI-Plattformen wie chatGPT und die Sandbox von OpenAI!
Lassen Sie Ihre SuS und/oder KuK das Gleiche tun. Versuchen Sie, Aufforderungen einzugeben und dann die Qualität, Genauigkeit und Variabilität der Antworten zu analysieren. Machen Sie sich mit dieser Technik vertraut. Machen Sie den Umgang mit ihr zügig zur Selbstverständlichkeit.
Beginnen Sie jetzt, sich das Lernen im KI-Kontext vorzustellen. Wie kann der Unterricht angepasst werden, um die Vorteile dieser neuen Werkzeuge zu nutzen?
Überdenken Sie die Aufgaben, die Sie den Schülern stellen. Sie können bereits heute plagiieren und alle Antworten finden. Die SuS müssen nun aber gefundene Texte nicht einmal mehr paraphrasieren. Wie kann in diesem Setting eine faire Bewertung von Aufgaben aussehen?
Bauen Sie das Lernen rund um diese Tools auf und bewerten Sie die Ergebnisse.
Stellen Sie sich vor, dass jeder Mensch Zugang zu unterstützender KI-Technologie hätte, bei deren Entwicklung Gleichheit, Zugang, Privatsphäre und Lernende im Mittelpunkt standen. ChatGPT und seine Nachfolger, die auf diesen Prämissen aufbauen, werden die Bildungslandschaft radikal verändern - früher als wir denken. In einer zunehmend abgelenkten und unzusammenhängenden Welt kann KI vielleicht mehr Menschen auf effizientere Weise Zugang zu qualitativ hochwertiger Bildung verschaffen, damit mehr Zeit für die gemeinsame Bewältigung einiger der größten Herausforderungen der Welt bleibt.

Weiterführende Hinweise / Quellen

Nate McClennen, Rachelle Dené Poth: Education is about to radically change: AI for the masses. GettingSmart.com, 2022-12-16
10 Möglichkeiten, die KI chatGPT in der Schule einzusetzen. Jan-Martin Klinge, halbtagsblog.de, 10. Januar 2023
ChatGPT besteht akademische Prüfungen. Süddeutsche Zeitung, 2023/01/27
App GPTzero kann Texte, die von künstlicher Intelligenz wie Chat-GPT generiert wurden, identifizieren ("AI detection"). Medienberichte: [ Student erfindet App, die ChatGPT3-Texte entlarvt. Von Tim Erhart, ZDF heute, 29.1.2023 ] [ Wie lässt sich erkennen, ob ein Text von einem Menschen oder von Chat-GPT stammt? Und wie gut funktionieren Programme, die KI-Texte aufspüren sollen? Ruth Fulterer, NZZ, 17.04.2023 ]

Prüfungsformate in einer Welt mit KI

https://www.edumaps.de/27013/250722/02tw9p7zle

[Frau Antony ]

4K einbeziehen (auf fachlichen Kompetenzen aufbauend)

lt. Handlungsempfehlung KMK, Okt. 2024
lt. Anna Sliwka: deeper learning

Probant muss versierte Koaktivität nachweisen, um simulierte Fachkompetenz aufzudecken

Fachliches Wissen zusammen mit 4K aufbauen
Lernprodukte / Lernjobs (ggf. parallel nebeneinander)
Prozessbewertung, insbesondere die eigene Reflexion

Lernsituationen sind dort am produktivsten, wo summatives Feedback vermieden wird. * Peer-Feedback * Sinnhaftigkeit durch Stufe ACT nach CHECK. * metakognitive Lernsettings * z.B. Klausur zurückgeben 1. Kommentare und dann erst 2. Note * Video drehen lassen, wie ich mich verbessern kann

KI Assessment Scale [ Perkin / Furze / Roe / MacVaugh, 2024 ]

Weiterführende Hinweise

Titel	Kommentar
KI-Trainingsdaten: der Rohstoff der KI sind wir	Trainingsdaten für KI-Systeme bestehen aus enormen Mengen von Bildern und Texten, zusammengesucht von Millionen von Webseiten. Eine BR-Analyse zeigt: Sie enthalten sensible und private Daten – meist ohne, dass die Betroffenen Bescheid wissen. Von Elisa Harlan und Katharina Brunner, Bayerischer Rundfunk, 7. Juli 2023
cognimates	An AI education platform for building games, programming robots & training AI models. A project startet at MIT Media Lab. (auf Englisch)
Machine Learning - Schritt-für-Schritt-Anleitung (MathWorks)	Überblick über die Methoden mit MatLAB, Anwendungsbeispiele (auf Englisch)
Achim Grunwald: Gretchenfrage 4.0: künstliche Intelligenz - die neue Systemdebatte. Süddeutsche Zeitung, 2019/12/27	Utopien ("Erlösungshoffnungen") und Dystopien ("Apokalypse") der KI richten erheblichen Schaden an, folgen sie doch alle einem gefährlichen Technikdeterminismus. Ihnen liegt die Annahme zugrunde, dass der technische Fortschritt und seine Resultate die Zukunft von Mensch und Gesellschaft determinieren. Mensch und Gesellschaft bliebe nur die Anpassung, Widerstand zwecklos. Damit verleihen sie den „Machern“ der Technik und deren Interessen und Werten eine ungeheure Macht. Hingegen lassen sie die Frage, wie denn der technische Fortschritt durch KI und Digitalisierung in den Dienst der Menschheit gestelltwerden kann, etwa zur Realisierung der Nachhaltigkeitsziele der Vereinten Nationen, komplett verschwinden. Keine Rede von demokratischer Mitgestaltung der KI und ihrer Nutzung oder von regulatorischer Einhegung der Macht weniger Personen und Konzerne. Wir müssen ernsthaft die Frage stellen: Wer sind die Macher der KI, wer verbreitet die Erzählungen und wer will hier eigentlich seineWerte und Interessen hinter einem vermeintlichen Technikdeterminismus verstecken? Denn auch in der Welt mit KI dient Technikdeterminismus einer Ideologie der Mächtigen. Er verschleiert, dass jede KI gemacht wird, von Menschen in Unternehmen und Geheimdiensten, nach deren Interessen, Werten und Weltanschauungen.
Aber was ist nun ein neuronales Netzwerk? [Part 1] Gradient descent, how neural networks learn [Part 2]	YouTube-Videos über Deep Learning (von 3blue1brown)
Kai Strittmatter: Absolute Kontrolle - Augen auf. Süddeutsche Zeitung, 1. Februar 2018	Chinas KP erfüllt sich den Traum aller autoritären Herrscher: die totale Überwachung und Kontrolle des Volkes. Über Big Data, künstliche Intelligenz und das, was kommen wird. Im Jahr 2020 soll es mehr als 600 Millionen Überwachungskameras geben in China: Sie analysieren Menschenmassen, erkennen einzelne Gesichter, ordnen ihnen Namen zu, das Geschlecht, die Ausweisnummer.
Wie schlau ist die künstliche Intelligenz? Süddeutsche Zeitung, 27. Januar 2018	Mensch oder Maschine – den Unterschied soll der Turing-Test klären. Doch gibt es Zweifel an dessen Aussagekraft. Richtig schlau wären Rechner erst, wenn sie das Abitur bestehen. Das KI-System Aristo von Peter Clark, Allen Institute for Artificial Intelligence, Washington, schaffte drei Viertel der Aufgaben/Klausur-Fragen von Viertklässlern, aber nur 41 Prozent von Klasse 12.
Schöpferische Rechner. Süddeutsche Zeitung, 19. Januar 2018	Deep Dream (Google): Computer erobert die letzten Domänen der Menschen: die Kreativität und das Irrationale.
Künstliche Intelligenz, Spektrum Kompakt, 2016/10
Künstliche Intelligenz wehren. ZEIT 24/2017, 08.06.2017, S. 8
Walter Ch. Zimmerli und Stefan Wolf: Künstliche Intelligenz: Philosophische Probleme. Reclam Universal-Bibliothek Nr. 8922, 1993
Joseph Weizenbaum: Computermacht und Gesellschaft: Freie Reden. Suhrkamp Verlag, 4. Auflage, 2001	mit Alan Turings Aufsatz "Können Maschinen denken?"

Siehe auch

Diskussion

Statement zu:

Richard David Precht: Künstliche Intelligenz und der Sinn des Lebens. Goldmann Verlag, München, 2020 [256 Seiten, 20 €]

Buchbesprechungen:

KI wird eingesetzt, weil die Menschen es an dieser Stelle wünschen. In der Regel...

möglicher Grund	Beispiel
...aus Bequemlichkeit	Navigation mittels Google Maps oder komoot. Der Vorteil überwiegt bei den meisten Nutzern die Nachteile (der Hersteller weiß stets genau, wo man sich befindet) deutlich.
...um die eigenen Fähigkeiten, Optionen und Handlungsspielräume zu erweitern	Automatische Übersetzer wie deepL oder Google Translate Dating-App
...um Kosten / Personal zu sparen	öffentlichen Räume (bald auch die Schulen?) werden mit Kameras überwacht, weil man mit den zur Verfügung stehenden Ressourcen (Ordnungsbeamte, Polizei) der Probleme (Müll, Gewalt, ...) nicht Herr wird. Aber auch nicht bereit ist, zusätzlichen menschliche Ressourcen vor Ort einzusetzen: weil die zu teuer erscheinen. Genau so, wie die Stadtreinigung heute nicht mehr mit dem Besen kehrt, sondern diese lautstarken Laub- und Staubbläser einsetzt. In China wird die automatische Gesichtserkennung bei der Videoüberwachung des öffentlichen Raumes bereits genutzt. das automatisierte Rating von Häftlingen in den USA, wenn es um vorzeitige Entlassungen geht (unter Verwendung von Steuergeldern) Predictive Police Patrolling
...aus dem Bedürfnis nach Zerstreuung oder "Erregung"	Inhalte auf TikTok, Amazon, Netflix, facebook, ... maßgeschneidert auf das jeweilige Persönlichkeits- und Interessenprofil des Nutzers.
...aus dem Bedürfnis nach Bestätigung	soziale Netzwerke, die über die individuelle Auswahl der Inhalte, die sie dem Nutzer anbieten, eine behagliche Echo-Kammer erzeugen.
...aus Sorge um die körperliche Unversehrtheit	Autonomes Fahren würde zu weniger Unfällen auf den Straßen führen. Siehe z.B. Autonomes Fahren - Warum wir Leben verrechnen dürfen (sollten). Telepolis, 3. November 2019, von Valentin Widmann

Vernunft spielt beim Einsatz von KI m.E. eine untergeordnete Rolle.

Wer also ist verantwortlich?

"(...) Optimierung des Menschen, ohne das gesamte ökologische Desaster, auf das wir im Eiltempo zumarschieren, überhaupt zu reflektieren - die Klimaerwärmung.“ [Richard David Precht]	Ja, richtig, KI benötigt riesige Mengen Energie (genau wie der Betrieb einer Kryptowährung). Aber ist dafür die IT-Industrie verantwortlich? Kapitalismus bedeutet, dass Unternehmen alles machen dürfen, was Geld bringt - solange, bis der Gesetzgeber sie im Interesse des Gemeinwohls in Schranken weist. Deshalb durften Unternehmen Kohle- oder Atomkraftwerke bauen (während die Entsorgungskosten die Allgemeinheit zahlt), deshelb durften Banken faule Immoblienkredite verpacken und vertreiben, deshalb dürfen Unternehmen Staubbläser bauen und verkaufen (die alle anderen nerven), deshalb haben wir SUVs in den Innenstädten und Parkhäusern oder Super-Yachten auf den Meeren. Die Rahmenbedingungen wie z.B. den Preis für CO₂ festzulegen ist Aufgabe der Politik. Also letztlich des Wählers. Der entscheidet gemäß seiner (aktuellen) Interessen. Manchmal auch vernunftgeleitet...

"(...) Optimierung des Menschen, ohne das gesamte ökologische Desaster, auf das wir im Eiltempo zumarschieren, überhaupt zu reflektieren - die Klimaerwärmung.“
[Richard David Precht]

Ja, richtig, KI benötigt riesige Mengen Energie (genau wie der Betrieb einer Kryptowährung). Aber ist dafür die IT-Industrie verantwortlich? Kapitalismus bedeutet, dass Unternehmen alles machen dürfen, was Geld bringt - solange, bis der Gesetzgeber sie im Interesse des Gemeinwohls in Schranken weist. Deshalb durften Unternehmen Kohle- oder Atomkraftwerke bauen (während die Entsorgungskosten die Allgemeinheit zahlt), deshelb durften Banken faule Immoblienkredite verpacken und vertreiben, deshalb dürfen Unternehmen Staubbläser bauen und verkaufen (die alle anderen nerven), deshalb haben wir SUVs in den Innenstädten und Parkhäusern oder Super-Yachten auf den Meeren. Die Rahmenbedingungen wie z.B. den Preis für CO₂ festzulegen ist Aufgabe der Politik. Also letztlich des Wählers. Der entscheidet gemäß seiner (aktuellen) Interessen. Manchmal auch vernunftgeleitet...

-- ThomasEmdenWeinert - 2020-08-25

Topic revision: r21 - 28 Dec 2025, ThomasEmdenWeinert

Main

Webs
Main
Sandbox
System

Copyright © by the contributing authors. All material on this collaboration platform is the property of the contributing authors.
Ideas, requests, problems regarding Foswiki? Send feedback