Soekia - What is an LLM

SoekiaGPT is a text generator specifically designed for education. With SoekiaGPT, you can look behind the scenes and learn about some basic principles of text generators like ChatGPT.

Text-based language models typically use a vast collection of documents, such as texts from Wikipedia, books and journals, news articles, social media platforms, and much more. The document collection serves as training data, and the language model calculates, based on mathematical-statistical analysis, which character or word is most likely to come next in a text, thereby continuously completing a text.

Functionality of Language Model Simplified functionality of a statistical language model

Note: Text generators like ChatGPT are complex computer systems and tools for everyday use. SoekiaGPT is a learning environment and therefore makes a whole range of didactic simplifications. For these reasons, SoekiaGPT is not suitable as a tool for everyday text generation. However, with SoekiaGPT, you can explore individual steps of a language model yourself and adjust various parameters.

SoekiaGPT - Das didaktische Sprachmodell

Deutsch

SoekiaGPT ist ein Textgenerator speziell für den Unterricht. Mit SoekiaGPT kannst Du hinter die Kulissen schauen und damit einige Grundprinzipien von Textgeneratoren wie ChatGPT kennenlernen.

Textbasierte Sprachmodelle nutzen typischerweise eine riesige Dokumentenkollektion, z.B. Texte aus der Wikipedia, aus Büchern und Zeitschriften, aus News-Artikeln, aus Social Media Plattformen und vieles mehr. Die Dokumentenkollektion dient als Trainingsdaten und das Sprachmodell berechnet basierend aufgrund der mathematisch-statistischen Analyse zum Beispiel, welches Zeichen oder welches Wort in einem Text mit grosser Wahrscheinlichkeit als nächstes kommt und ergänzt so einen Text fortlaufend.

Vereinfachte Funktionsweise eines statistischen Sprachmodells

Hinweis: Textgeneratoren wie ChatGPT sind komplexe Informatiksysteme und Werkzeuge für den Einsatz im Alltag. SoekiaGPT ist eine Lernumgebung und nimmt deshalb eine ganze Reihe von didaktischen Vereinfachungen vor. Aus diesen Gründen eignet sich SoekiaGPT nicht als Werkzeug zur Textgenerierung im Alltag. Mit SoekiaGPT kannst du aber einzelne Schritte eines Sprachmodells selbst durchspielen und verschiedene Parameter einstellen.