المواضيع الرائجة
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Sanchit monga
يعيش الحياة على حافة @runanywhereai (YC W26)
أصبح MetalRT مؤخرا أول محرك استدلالات ذكاء اصطناعي كامل لسيليكون آبل: LLM + STT + TTS بحلول عام @RunAnywhereAI.
كان لدينا بالفعل أسرع فك تشفير لنماذج اللغة الكبيرة (658 توك/ثانية).
الآن سحقنا STT وTTS أيضا، متغلبين على MLX بشكل عام.
أرقام اليوم على M4 Max:
- بودكاست مدته ساعة واحدة تم نسخها في ~5 ثوان
- اجتماع مدته 3 ساعات تم نسخه في ~15 ثانية
- الترجمة المباشرة بدون أي تأخير ملحوظ
- 714 مرة أسرع من الوقت الحقيقي ل STT
- أسرع بمقدار 4.6 مرة من MLX من آبل في تحويل الكلام إلى نص
جميع الأساليب الثلاث. محرك موحد واحد.
وهذا فقط المكونات الفردية. خط أنابيب الذكاء الاصطناعي الصوتي الكامل الذي نبنيه سيكون الأسرع على الإطلاق على Apple Silicon. سيتم الإطلاق قريبا.
الاختبارات المرجعية الكاملة والمخططات والتفاصيل في التعليقات.
#AppleSilicon #OnDeviceAI #MetalRT #STT #TTS #VoiceAI
5 مارس، 11:58
في غضون 48 ساعة فقط في عام @RunAnywhereAI بنينا MetalRT: متغلبين على @Apple في لعبتهم الخاصة وتقديم أسرع محرك استدلال لنماذج اللغة الكبيرة في السوق حاليا لسيليكون آبل.
- فك تشفير 570 توك/ثانية @liquidai LFM 2.5-1.2B 4-بت
- فك تشفير 658 توك/ث @Alibaba_Qwen Qwen3-0.6B، 4-بت
- 6.6 مللي ثانية من الوقت للوصول إلى أول رمز
- 1.19× أسرع من MLX الخاصة بآبل (ملفات نماذج متطابقة)
- 1.67× أسرع من llama.cpp في المتوسط
لقد سحقنا Apple MLX و llama.cpp وuzu (من TryMirai) وOllama عبر أربعة نماذج مختلفة من 4-بت، بما في ذلك LFM2.5-1.2B المحسنة على الجهاز على جهاز M4 Max واحد.
متحمس لهذه اللعبة!
#ycombinator #runanywhere #ondeviceai #applesilicon #mlx
12
لقد بنينا مستقبل الذكاء الاصطناعي الصوتي على جهاز الماك الخاص بك. RCLI هنا @RunAnywhereAI!
خط أنابيب الصوت من البداية إلى الطرف + RAG المحسن: التحدث → التحكم الفوري + إجابات المستندات، ~131 مللي ثانية تأخير،
- جميعها محلية
- كلها مفتوحة المصدر
- كل شيء مجاني.
43 إجراء، لا سحابة، بياناتك خاصة إلى الأبد.
سيري: "دعني أفكر في ذلك..."
RCLI: 131 مللي ثانية من الصوت إلى الفعل. تم. التالي.
اختبرها—قم بتثبيت وأمر جهازك:
التجعيد -fsSL | باش
المستوى التالي القادم: دعم MetalRT (أسرع فك تشفير لاستدلال السيليكون من Apple 658 tok/s، ASR وTTS القوي).
جهازك الماك على وشك أن يصل إلى سرعة الانتقال!
#OnDevice #MetalRT #YCW26 #NoMoreWaiting
8 مارس، 04:42
هذه الشركة الناشئة تشكل تهديدا خطيرا لسيري ☠️
اسمها @RunAnywhereAI وقد أصدرت للتو RCLI: مساعد صوتي محلي 100٪ يتفوق عليه بالفعل في السرعة والخصوصية. 131 مللي ثانية من البداية إلى النهاية (صوت → استجابة منطوقة)
⭐️تحكم في 43 إجراء في macOS الأصلي (سبوتيفاي، ويندوز، فيس تايم، تذكيرات...).
⭐️مراجعة فورية على ملفات PDF ومستنداتك.
⭐️كل شيء غير متصلة بالإنترنت، لا سحابة، ولا مفاتيح API.
هذا ليس كل شيء.
ما التالي... ماما.
المؤسس كشف للتو عن MetalRT (محركه الجديد TTS المصنوع من المعدن وما تراه في الفيديو) الذي يحقق 291 مللي ثانية لخمس كلمات وأسرع بمقدار 8.4 مرة من الوقت الحقيقي.
عندما يصدر هذا التحديث... سيري ستبكي.
وفي الوقت نفسه، REPOOO 👇
158
يقدم MetalRT أسرع استدلال TTS على Apple Silicon.
النتائج الرئيسية على M3 Max:
- زمن استجابة 291 مللي ثانية لخمس كلمات، 8.4x RTF، أسرع بمقدار 2.8 مرة من MLX
- أقل زمن استجابة مسجل: 291 مللي ثانية
- ذروة RTF: 8.8x على المدخلات الأطول
يتيح ذلك تحويل النص إلى كلام فوري مباشرة على الجهاز.
أسرع خط إنتاج للذكاء الاصطناعي الصوتي على سيليكون آبل قادم قريبا مدعوما @RunAnywhereAI
#AppleSilicon #TTS #MetalRT #OnDeviceAI #runanywhere
218
الأفضل
المُتصدِّرة
التطبيقات المفضلة