Welches Modell lässt sich auf meiner Hardware sinnvoll nutzen? Wer die Frage beantwortet wissen will, muss entweder selbst probieren oder kann das Tool llmfit benutzen.

Aktuell aus meiner Sicht das heißeste Modell für den lokalen Betrieb: Qwen 3.8 Bonsai 2 27B

Links

https://linuxundich.de/gnu-linux/llmfit-welche-ki-modelle-laufen-auf-meinem-rechner/