MetalRT właśnie stał się pierwszym kompletnym silnikiem inferencji AI dla Apple Silicon: LLM + STT + TTS od @RunAnywhereAI. Już mieliśmy najszybsze dekodowanie LLM (658 tok/s). Teraz zdominowaliśmy również STT i TTS, pokonując MLX w każdej kategorii. Dzisiejsze wyniki na M4 Max: - 1-godzinny podcast transkrybowany w ~5 sekund - 3-godzinne spotkanie transkrybowane w ~15 sekund - Napisy na żywo bez zauważalnego opóźnienia - 714x szybsze niż rzeczywisty czas dla STT - 4.6x szybsze niż MLX Apple w przetwarzaniu mowy na tekst Wszystkie trzy tryby. Jeden zintegrowany silnik. A to tylko poszczególne komponenty. Cała pipeline AI głosowego, którą budujemy, będzie NAJSZYBSZA w historii na Apple Silicon. Wkrótce wprowadzenie. Pełne benchmarki, wykresy i szczegóły w komentarzach. #AppleSilicon #OnDeviceAI #MetalRT #STT #TTS #VoiceAI