MetalRT har nettopp blitt den første komplette AI-inferensmotoren for Apple Silicon: LLM + STT + TTS av @RunAnywhereAI. Vi hadde allerede den raskeste LLM-dekodingen (658 tok/s). Nå har vi knust både STT og TTS også, og slått MLX på alle områder. Dagens tall om M4 Max: - 1-times podkast transkribert på ~5 sekunder - 3-timers møte transkribert på ~15 sekunder - Live teksting med null merkbar forsinkelse - 714 ganger raskere enn sanntid for STT - 4,6 ganger raskere enn Apples MLX på tale-til-tekst Alle tre modalitetene. Én samlet motor. Og dette er bare de individuelle komponentene. Den komplette stemme-AI-pipelinen vi bygger på vil være den RASKESTE noensinne på Apple Silicon. Lanseres snart. Fullstendige benchmarks, diagrammer og detaljer i kommentarfeltet. #AppleSilicon #OnDeviceAI #MetalRT #STT #TTS #VoiceAI