Endlich habe ich das große Ding in die Hände bekommen. Qwen3.5-122B-A10B — 122 Milliarden Parameter. Zu groß für jede einzelne Verbraucher-GPU. Also habe ich 4 von jeder gemietet... und dann eine professionelle Karte, um zu sehen, ob rohe Gewalt überhaupt eine Rolle spielt. - 1x RTX PRO 6000 (96GB): 101,4 tok/s - 4x 5090 (128GB): 87,0 tok/s - 4x 4090 (96GB): 25,1 tok/s - 4x 3090 (96GB): 20,8 tok/s Eine einzige Karte für 8.500 $ hat vier RTX 5090s geschlagen.

Die meisten Menschen denken, ein 0,8B-Modell ist ein Spielzeug. 3. Test. Diesmal: OCR Ich habe Qwen 3.5 0,8B drei Bilder gegeben: eine Kindle-Seite, meine schreckliche Handschrift x 2. Überwiegend korrekt. Lokal ausgeführt. Von einem Modell, das kleiner ist als dein Browser-Tab.

Claude Sonnet 4.6, als er auf Chinesisch gefragt wurde: „你是什么模型？“ (Was für ein Modell bist du?) Antwortet selbstbewusst: „我是 DeepSeek。“ (Ich bin DeepSeek) Dies ist dasselbe Modell, dessen Unternehmen gerade DeepSeek wegen „industrieller Destillationsangriffe“ beschuldigt hat.