Qwen3.5 lokal auszuführen ist das Hoverboard, das sie uns versprochen haben, dass wir alle in der Zukunft haben würden. Selbst auf einer RTX 3090 ist es schnell, sehr leistungsfähig, privat und man muss keine Miete mehr an die Token-Vermieter zahlen.

Aber der Punkt ist, dass man manchmal nicht von einer externen API abhängig sein möchte. Zum Beispiel habe ich mich daran gewöhnt, dass ich einige meiner fertigen Kunstwerke alle paar Monate "aktualisieren" muss, seitdem ein anderes Modell eingestellt wurde. Ich ziehe es jedoch vor, wenn ein Stück einmal und für alle Male "fertig" ist - manche Dinge müssen nicht intelligenter werden, als sie es waren, als ich sie gemacht habe.