Trendaavat aiheet
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Sanchit monga
elää reunalla @runanywhereai (YC W26)
MetalRT:stä tuli juuri ensimmäinen täydellinen tekoälypäättelymoottori Apple Siliconille: LLM + STT + TTS @RunAnywhereAI.
Meillä oli jo nopein LLM-dekoodaus (658 tok/s).
Nyt olemme murskanneet myös STT:n ja TTS:n, päihittäen MLX:n kautta linjan.
Tämän päivän luvut M4 Maxista:
- 1 tunnin podcast litteroituna ~5 sekunnissa
- 3 tunnin kokous litteroituna ~15 sekunnissa
- Live-tekstitys ilman havaittavaa viivettä
- 714x nopeampi kuin reaaliaikainen STT:lle
- 4,6x nopeampi kuin Applen MLX puheesta tekstiksi -järjestelmässä
Kaikki kolme menetelmää. Yksi yhtenäinen moottori.
Ja nämä ovat vain yksittäisiä osia. Täysi äänitekoälyputki, jonka päälle rakennamme, tulee olemaan NOPEIN koskaan Apple Siliconilla. Käynnistyy pian.
Täydelliset vertailutulokset, kaaviot ja yksityiskohdat kommenteissa.
#AppleSilicon #OnDeviceAI #MetalRT #STT #TTS #VoiceAI
5.3. klo 11.58
Vain 48 tunnissa @RunAnywhereAI:ssa rakensimme MetalRT:n: voittaen @Apple heidän omassa pelissään ja toimittaen NOPEIMMAN LLM-päättelymoottorin markkinoilla Apple Silicon -laitteille juuri nyt.
- 570 tok/s dekoodaus @liquidai LFM 2.5-1.2B 4-bittinen
- 658 tok/s dekoodaus @Alibaba_Qwen Qwen3-0.6B, 4-bittinen
- 6.6 ms aika ensimmäiseksi tokeniksi
- 1.19× nopeampi kuin Applen oma MLX (identtiset mallitiedostot)
- 1,67× keskimäärin nopeampi kuin llama.cpp
Murskasimme Apple MLX:n, llama.cpp:n, Uzun (TryMirai) ja Ollaman neljässä eri 4-bittisessä mallissa, mukaan lukien laitteessa optimoitu LFM2.5-1.2B yhdellä M4 Maxilla.
Odotan innolla tätä!
#ycombinator #runanywhere #ondeviceai #applesilicon #mlx
20
Rakensimme äänitekoälyn tulevaisuuden Macillesi. RCLI on täällä @RunAnywhereAI!
Optimoitu kokonaisvaltainen ääni + RAG-putkisto: keskustelu → välitön ohjaus + dokumenttivastaukset, ~131 ms viive,
- kaikki PAIKALLISET
- kaikki AVOIN LÄHDEKOODI
- KAIKKI ILMAISTA.
43 toimintoa, ei pilveä, tietosi pysyvät ikuisesti yksityisinä.
Siri: "Anna minun miettiä sitä..."
RCLI: 131 ms ääni-toiminta. Valmista. Seuraava.
Koe se—asenna ja komenna koneesi:
curl -fsSL | Bash
Seuraava taso tulossa: MetalRT-tuki (nopein Apple Silicon -päättely 658 tok/s dekoodaus, loistava ASR ja TTS).
Macisi on kohta saavuttamassa warp-nopeuden!
#OnDevice #MetalRT #YCW26 #NoMoreWaiting
8.3. klo 04.42
Tämä startup on vakava uhka Sirille ☠️
Sen nimi on @RunAnywhereAI ja se on juuri julkaissut RCLI:n: 100 % paikallisen ääniavustajan, joka jo ylittää sen nopeudessa ja yksityisyydessä. 131 ms päästä päähän (ääni → puhuttu vastaus)
⭐️Ohjaa 43 natiivia macOS-toimintoa (Spotify, Windows, FaceTime, muistutukset...).
⭐️Välitön RAG PDF-tiedostoihin ja asiakirjoihin.
⭐️Kaikki offline-tilassa, ei pilveä, ei API-avaimia.
Eikä siinä kaikki.
Mitä seuraavaksi... Äiti.
Perustaja on juuri paljastanut MetalRT:n (hänen uusi TTS-moottorinsa, joka on tehty Metalilla ja videolla näkyvä), joka saavuttaa 291 ms viidellä sanalla ja 8,4 kertaa nopeammin kuin reaaliaika.
Kun päivitys julkaistaan... Siri tulee itkemään.
Sillä välin REPOOO 👇
176
MetalRT antaa nopeimman TTS-arvion Apple Siliconista.
Keskeiset tulokset M3 Maxista:
- 291 ms viive viidelle sanalle, 8,4x RTF, 2,8x nopeampi kuin mlx
- Pienin viive mitattu: 291 ms
- Huippu RTF: 8,8x pidemmillä tuloilla
Tämä mahdollistaa välittömän tunteen tekstistä puheeksi -yhteyden suoraan laitteella.
NOPEIN puhe-AI-putki Apple-sirulla tulossa pian @RunAnywhereAI
#AppleSilicon #TTS #MetalRT #OnDeviceAI #runanywhere
226
Johtavat
Rankkaus
Suosikit