Ja, der Drive ist etwas raus, weil wir eh schon alle Linux installiert haben, aber hey: Was habt ihr diesen Monat gemacht, um von den Techkonzernen weg zu kommen?
Ich persönlich war etwas paradox unterwegs. Hab mir ein Claude Code-Abo geklickt und bastle gerade fleißig am wirklichen “Personal Computer”. Sprich: Ich schau mir an, welche Apps und Programme ich so nutze und baue mir mit Claude Code private und lokale Alternativen. Ich bau mir z.B. gerade ein auf meine Bedürfnisse zugeschnittenes Lerntool für Französisch, mit dem dann Duolingo verschwinden wird.
Ich würde das mit einem lokalen LLM gerne mal probieren. Ich habe mir das HA Video von Simon42 angesehen und durch die C’t3003 Videos ist mit klar, dass man schnellen Speicher und potente Hardware braucht damit das brauchbar funktionieet. Aber nur um das zu probieren, kann man das auch auf schwacher Hardware laufen lassen? Dass man dann ewig auf ne Antwort wartet wäre dann rein aus Neugierde erstmal egal, oder ist das von Beginn an ne Schnapsidee.
Also ich rede hier von 2019er Hardware. Radeon RX550 6GB Speicher und nem AMD A6 sowie 8GB RAM.
Probier’s einfach aus. In der Praxis ist das nämlich extrem einfach: Installier LM Studio oder Ollama und zieh dir ein paar Modelle. “Lokale KI auf dem eigenen Rechner einrichten” klingt erstmal total kompliziert, aber z.B. bei LM Studio installierst du einfach diese Software, lädst dann direkt in der GUI Modelle runter. Der empfiehlt dir sogar welche. Und dann startest du die mit einem Klick. Bei Ollama hast du in zwei oder drei Terminalbefehlen ein Modell laufen und kannst damit rumspielen. Das ist wirklich banal simpel.