Trend Olan Konular
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Sanchit monga
hayatı uçurumda yaşamak @runanywhereai (YC W26)
MetalRT, Apple Silicon için ilk tam yapay zeka çıkarım motoru oldu: LLM + STT + TTS @RunAnywhereAI.
Zaten en hızlı LLM kod çözmeye sahiptik (658 tok/s).
Şimdi STT ve TTS'yi de ezdik, MLX'i her yerde geride bıraktık.
M4 Max hakkında bugünkü rakamlar:
- 1 saatlik podcast ~5 saniyede transkribe edildi
- 3 saatlik toplantı ~15 saniyede transkribe edildi
- Sıfır algılanabilir gecikme ile canlı altyazı
- STT için gerçek zamandan 714 kat daha hızlı
- Konuşmadan metne geçişte Apple'ın MLX'inden 4,6 kat daha hızlıdır
Üç yöntem de bu. Tek bir birleşik motor.
Ve bu sadece bireysel bileşenler. Üzerinde inşa ettiğimiz tam sesli yapay zeka boru hattı, Apple Silicon'da şimdiye kadarki en SÜRTÜSÜ olacak. Yakında fırlanacak.
Tam kıyaslamalar, grafikler ve detaylar yorumlarda paylaşabilirsiniz.
#AppleSilicon #OnDeviceAI #MetalRT #STT #TTS #VoiceAI
5 Mar 11:58
@RunAnywhereAI'de sadece 48 saatte MetalRT'yi kurduk: @Apple'yi kendi oyunlarında yenerek şu anda Apple Silicon için piyasadaki EN SÜRTÜĞİ LLM çıkarım motorunu sunduk.
- 570 tok/s kod çözme @liquidai LFM 2.5-1.2B 4-bit
- 658 tok/s kod çözme @Alibaba_Qwen Qwen3-0.6B, 4-bit
- 6.6 ms Zaman-ilk-token-Komut
- 1.19× Apple'ın kendi MLX'inden daha hızlı (aynı model dosyaları)
- 1,67× ortalama llama.cpp'den daha hızlı
Apple MLX, llama.cpp, uzu (TryMirai tarafından) ve Ollama'yı dört farklı 4-bit modelde, cihaz içi optimize edilmiş LFM2.5-1.2B dahil olmak üzere, tek bir M4 Max'te ezdik.
Bu sefer için heyecanlıyım!
#ycombinator #runanywhere #ondeviceai #applesilicon #mlx
14
Mac'inizde sesli yapay zekanın geleceğini inşa ettik. RCLI @RunAnywhereAI burada!
Optimize edilmiş uçtan uca ses + RAG hattımız: konuşma → anında kontrol + belge cevapları, ~131ms gecikme,
- hepsi YEREL
- Hepsi AÇIK KAYNAKLI
- HEPSİ ÜCRETSIZ.
43 eylem, bulut yok, verileriniz sonsuza dek özel kalıyor.
Siri: "Bunu düşüneyim..."
RCLI: 131 ms sesli hareket. Bitti. Sıradaki.
Deneyimleyin—makinenizi kur ve komut verin:
curl -fsSL | Bash
Bir sonraki seviye: MetalRT desteği (en hızlı Apple Silicon çıkarımı 658 tok/s çözme, harika ASR ve TTS).
Mac'in warp hızına ulaşmak üzere!
#OnDevice #MetalRT #YCW26 #NoMoreWaiting
8 Mar 04:42
Bu girişim Siri ☠️ için ciddi bir tehdit
Adı @RunAnywhereAI ve RCLI'yi yeni piyasaya sürdü: hız ve gizlilik açısından zaten onu geride bırakan %100 yerel bir sesli asistan. 131 ms uçtan uca (sesli → sesli yanıt)
⭐️43 yerel macOS eylemini kontrol edin (Spotify, Windows, FaceTime, hatırlatıcılar...).
⭐️PDF'lerinize ve belgelerinize anında RAG alın.
⭐️Tamamen çevrimdışı, bulut yok, API anahtarı yok.
Hepsi bu değil.
Sırada ne var... Anne.
Kurucu, MetalRT'yi (Metal ile yapılan yeni TTS motoru ve videoda gördüğünüz gibi) yeni bir şekilde tanıttı; bu motor 5 kelime için 291 ms hız ve gerçek zamandan 8,4 kat daha hızlı oluyor.
O güncelleme çıktığında... Siri ağlayacak.
Bu arada, REPOOO 👇
166
MetalRT, Apple Silicon'da en hızlı TTS çıkarımını sunuyor.
M3 Max ile ilgili önemli sonuçlar:
- 5 kelime için 291 ms gecikme, 8.4x RTF, mlx'ten 2.8x daha hızlı
- Kaydedilen en düşük gecikme: 291 ms
- Zirve RTF: Daha uzun girişlerde 8.8x
Bu, cihazda anında metinden sesle konuşmaya geçişi mümkün kılar.
Apple silikon üzerinde EN SÜRTÜSÜ sesli yapay zeka hattı yakında @RunAnywhereAI tarafından desteklenecek
#AppleSilicon #TTS #MetalRT #OnDeviceAI #runanywhere
220
En İyiler
Sıralama
Takip Listesi