Sechs Sorten, nicht eine
„Lokale KI" heißt fast immer „lokales Sprachmodell". Dabei sind zwei der anderen Sorten reifer, genügsamer und im Alltag oft nützlicher.
Wer „KI lokal installieren" sagt, meint in neun von zehn Fällen ein Sprachmodell: Text hinein, Text heraus. Das ist der Gegenstand dieses Kurses — und es ist ausgerechnet die Sorte, bei der der Abstand zwischen Erwartung und Wirklichkeit am größten ist.
Die zwei, die man übersehen sollte — und dann bereut
Sprache → Text: Diktat und Protokoll
Ein Modell, das gesprochene Sprache in Text verwandelt, belegt oft weniger als ein Gigabyte und läuft auf jedem halbwegs neuen Notebook schneller als in Echtzeit. Die Ergebnisse sind bei ordentlicher Aufnahme sehr gut. Und der Anwendungsfall ist ungewöhnlich sauber: Eine Besprechungsaufnahme ist genau die Sorte Unterlage, die nicht hinausgehen soll.
Text → Sprache: Vertonung
Dasselbe in die andere Richtung: Ansagen, Hörfassungen, Untertitel. Genügsam, ausgereift, und der Nutzen ist unmittelbar. Dafür gibt es einen eigenen Kurs (vertonung) — hier steht nur, dass es die Sorte gibt.
Das Einbettungsmodell — klein, unauffällig, Voraussetzung für vieles
Ein Einbettungsmodell macht aus Text eine Zahlenreihe, mit der sich Ähnlichkeit berechnen lässt. Es antwortet auf nichts; es ist die Grundlage für eine Suche über eigene Unterlagen. Es ist klein (oft unter einem Gigabyte), schnell — und es lohnt sich, es gleich mit zu holen, wenn Sie später den Kurs wissen durcharbeiten wollen.
bash aufsetzen.sh --ohne-einbettung. Was man damit anfängt, steht vollständig im Kurs wissen und nicht hier.