An die Softwareentwicklung mit KI habe ich mich inzwischen ziemlich gewöhnt, entsprechend nutze ich das auch gerne für meine privaten Projekte. Aufgrund der Abo-Kosten und Anfragen-Limitierungen in der Cloud habe ich versucht auf eigener Hardware ein ähnliches Setup aufzubauen. Es funktioniert allerdings nicht, für sinnvolle Programmierfähigkeiten braucht es deutlich größere Modelle als meine (oder bezahlbare) Hardware hergeben kann. Ein Erfahrungsbericht mit eingestreutem Hintergrundwissen.