LLMGui Benchmark Reloaded: Wenn die dicken Brocken das VRAM sprengen

Dieser Post wurde mit Hilfe von KI erstellt. Die Benchmarks sind real, die technischen Analysen wurden vom Menschen redigiert. So, Kinder, wir legen nochmal nach. Wer dachte, der letzte Benchmark-Post war das Ende der Fahnenstange, hat die Rechnung ohne die neuen Coding-Monster gemacht. Wir haben d...

Benchmark-Evolution: Warum wir Ollama in Rente geschickt haben

Hardware-Upgrade? Nein, Software-Evolution! Wer dana schon länger verfolgt, weiß, dass wir für die lokalen LLMs bisher auf Ollama gesetzt haben. Das war bequem, aber für Benchmarks und maximale Kontrolle eher... sagen wir mal, "suboptimal". Wir haben den kompletten Stack auf llama.cpp umgestellt. ...