Dieser Artikel soll ein kleines Experiment werden. Ich versuche mit einem Tool den Text einzusprechen, mit Speech to Text. Das Tool hat den Namen Speed of Sound und ist auf FlatHub verfügbar. Der Link befindet sich in der Linkliste.
Weitere Themen sind der Projekt Bluefin Blog, das Projekt Hummingbird und das Projekt Lightspeed von Red Hat Enterprise Linux. Auch dazu findet ihr Links in der Linkliste. Es gibt noch einen weiteren Link, Linux App Summit. Eine Konferenz, die sich damit beschäftigt, wie Entwicklung von KDE und GNOME stattfindet bzw. von Flatpaks oder Distributionen bzw. distroless.
linkliste:
https://docs.projectbluefin.io/blog/bluefin-spring-2026/
https://fedoramagazine.org/find-out-how-your-fedora-system-really-feels-with-the-linux-mcp-server/
https://github.com/rhel-lightspeed/linux-mcp-server
https://fedoramagazine.org/fedora-hummingbird-linux-taking-the-hummingbird-model-to-the-full-os/
https://flathub.org/en/apps/io.speedofsound.SpeedOfSound
https://conf.linuxappsummit.org/event/9/timetable/#20260516
Mein Setup für Locali KI besteht aus LM Studio und Goose. Als Large Language Model benutze ich qwen3.5 in der 9B Variante. Die beiden habe ich verknüpft. Ich habe mit homebrew noch den Linux MCP Server installiert vom Projekt Lightspeed.
Ziel des MCP Servers ist es, bei der Administration zu unterstützen, unter anderem Hardware-Informationen zu sammeln, Übersicht über Dienste zu geben, CPU-Auslastung und weitere Daten. Ein paar Screenshots habe ich angefügt.
Hier endet der Versuch mit Speech to text. Dafür muss ich mich nächste Mal noch etwas besser vorbereiten, dann könnte das mit etwas Übung hilfreich sein. was auch hilfreich für mich ist: lokale llm. ja ok, auch speedofsound läuft mit lokaler ki :) zusätzlich noch: einfache bash oder python scripte generieren, analyse von kontoauszügen. sowas würde ich nie an mistral geben und schon 2x nicht an gpt usw. davon abgesehen habe ich kein problem damit über finanzen zu sprechen, ganz im gegenteil, ich finde es sogar wichtig, hilft gegen neid und bringt menschen meist auch in anderen punkten weiter. aber zurück zum linux-mcp-server, lm-studio und goose. dafür dass das projekt erst wenige monate existiert macht es seinen job schon ganz gut. mit dem nächsten besseren lokalen llm geht dann vermutlich auch nochmal ein stück mehr. gefühlt kann qwen besser mit diesem mcp umgehen als z.b. gemma4
noch ein kurzer kommentar zum linux app summit 2026: ich finde die entwicklung von flatpak spannend, ansonsten bin ich schon so etwas wie ein fanboy von blueos/bazzite und @jorge@hachyderm.io der talk beim las2026 war unterhaltsam und macht bock auf mehr :) mir persönlich liefert bazzite genau das was ich will: ein stabiles system das zu 99,9999% aus medienkonsum besteht (gaming, twitch, youtube, blogs, musik,...) und der rest ist “arbeit” aka mal einen Brief schreiben, bisschen finanzkram usw. ich will mich bei updates nicht mit abhängigkeiten beschäftigen und mir ist es egal ob flatpaks etwas mehr ram oder platz auf der hdd brauchen. das spielt im vergleich zu games die 20, 70 oder 200gb auf der platte belegen schlicht keine rolle mehr. ok die aktuellen preise lassen einen etwas am ram zweifeln, aber das problem löst sich hoffentlich mit der zeit von selbst.
und was ist eigentlich mit ki auf dem homeserver?
ramalama serve —runtime-args=“—cache-ram 0 —ctx-size 1024” hf.co/unsloth/Qwen3.5-4B-GGUF:Q4KS —port 8120
ramalama hat eine ctx-size von 4096 als standard, das führt bei 16gb ram und einem 4B-modell zu arbeitsspeicherproblemen. es wird mehr benutzt als vorhanden ist. mit —ctx-size 1024 entspricht der ram-verbrauch ca der größe vom modell-download.
ich wollte die geschwindigkeit testen, war erwartungsgemäß langsam, aber als hilfe zur systemanalyse sollte es ausreichend sein. wollte erstmal nur eine grundlage für rhel-lightspeed legen, alles weitere erfolgt schritt für schritt. muss mich noch etwas einlesen und vorher am desktop weiter testen. mit ramalama und podman bin ich auch noch nicht so sicher im umgang, damit müsste ich auch mal noch mehr machen. meine opencloud und searxng laufen schon weit über einem jahr in podman, alles gut automatisiert und ich musste nur einmal ein cert in opencloud fixen. es sind neue projekte zum üben und testen notwendig :)
#wiulinuslog #rhellightspeed #rhelhummingbird #localai #bluefin #bazzite #gooseai #lmstudio #las2026