Reface 與 Prisma 共同創辦人聯手打造 Mirai，致力優化裝置端 AI 模型推論

Techcrunch

9 天前

AI 生成摘要

Mirai 籌集了 1000 萬美元的種子輪資金，用於改進 AI 模型在智慧型手機和筆記型電腦等裝置上的運行方式。

Reface 與 Prisma 聯合創辦人攜手合作，透過 Mirai 提升裝置端模型推理效能 | TechCrunch

主題

Reface 與 Prisma 聯合創辦人攜手合作，透過 Mirai 提升裝置端模型推理效能

當今關於 AI 的討論大多集中在建立雲端容量和運行模型的大型數據中心。Apple 和 Qualcomm 等公司正處於讓裝置端 AI 變得更有用的早期階段。在這種背景下，總部位於倫敦、擁有 14 人技術團隊的 Mirai 正致力於改進模型在手機和筆記型電腦上的運行方式。

Mirai 由 Dima Shvets 和 Alexey Moiseenkov 於去年創立，並獲得了由 Uncork Capital 領投的 1,000 萬美元種子輪融資。兩位創辦人在打造可擴展的消費級應用程式方面都有豐富經驗。Shvets 曾共同創立了由 a16z 支持的換臉應用 Reface，後來他也成為該風險投資公司的球探（scout）。Moiseenkov 則是上個十年風靡一時的 AI 濾鏡應用 Prisma 的執行長兼聯合創辦人。

Shvets 表示，作為消費端開發者，早在生成式 AI 流行之前，他們兩人就一直在思考裝置上的 AI 和機器學習。

「當我們在倫敦見面時，我們開始聊起技術，並意識到在生成式 AI 的熱潮和更多 AI 應用的趨勢下，每個人都在談論雲端、伺服器和 AGI 的到來。但缺失的一環是針對消費級硬體的裝置端 [AI]，」他告訴 TechCrunch。

Shvets 和 Moiseenkov 希望利用 AI 建立一個流程，讓他們能夠在手機上執行複雜任務，這促使他們創立了 Mirai。當他們詢問其他開發消費級應用的開發者時，聽到的反饋是許多人也希望在每個 Token 的使用成本和利潤率上得到更好的優化。

如今，Mirai 正在為模型開發一個框架，使其在裝置上表現更好。該公司為 Apple Silicon 打造了一個推理引擎，可優化裝置端的吞吐量。該公司表示，透過即將推出的 SDK，開發者只需幾行程式碼即可在應用程式中整合該運行環境。

「我們創立這家公司的願景之一，是希望給予開發者像 Stripe 那樣只需八行程式碼 [整合] 的體驗……你基本上只需進入我們的平台，整合金鑰，就可以開始處理摘要、分類或任何你的使用場景，」Shvets 說。

這家新創公司使用 Rust 語言開發了這個引擎，他們聲稱這可以將模型的生成速度提升高達 37%。該公司表示，在為特定平台調整模型時，他們不會更動模型權重，以確保輸出品質不會受損。

Mirai 的技術棧目前專注於提升平台上的文字和語音模態，並計劃在未來支援視覺模態。團隊已開始與領先的模型供應商合作，針對邊緣端使用調整其模型，並正與不同的晶片製造商進行洽談。隨後，他們也計劃將該引擎引入 Android 系統。

此外，Mirai 旨在發布裝置端基準測試（benchmarks），以便模型製作者測試裝置端的效能。不過，Shvets 也承認並非所有的 AI 工作都能在裝置上完成。為了實現混合運作模式，團隊正在構建一個編排層（orchestration layer），將無法在裝置上完成的請求發送到雲端。

雖然這家新創公司目前尚未直接與應用程式合作，但據了解，其引擎可以為裝置端助手、轉錄工具、翻譯工具和聊天應用提供動力。

Uncork Capital 的管理合夥人 Andy McLoughlin 指出，他在上個十年曾投資過一家邊緣機器學習公司。他說那家公司當時太過超前，最終將業務賣給了 Spotify。他認為在當今世界，情況已經不同了。

「考慮到雲端推理的成本，情況必須有所改變……目前，創投公司仍樂於繼續資助那些在雲端推理上花費巨額資金的火箭級公司。但這不會持久——在某個時點，人們會開始關注這些業務的底層經濟效益，並意識到必須做出改變，」他說。「感覺每個模型製作者都會希望將部分推理工作負載運行在邊緣端，而 Mirai 看起來在捕捉這一需求方面處於非常有利的位置。」

Mirai 的種子輪融資還有多位個人投資者參與，包括 Dreamer 執行長 David Singleton、YC 合夥人 Francois Chaubard、Snowflake 聯合創辦人 Marcin Żukowski、ElevenLabs 聯合創辦人 Mati Staniszewski、前 Google AdSense 產品經理及 Coinbase 董事會成員 Gokul Rajaram、Groq 投資人 Scooter Braun、Turing.com 技術長 Vijay Krishnan、Theory Forge Ventures 的 Ben Parr 和 Matt Schlicht，以及前 Netflix 技術負責人 Aditya Jami。

主題

Ivan 在 TechCrunch 報導全球消費科技發展。他常駐印度，此前曾任職於 Huffington Post 和 The Next Web 等出版物。

您可以透過電子郵件 [email protected] 或透過 Signal 加密訊息 ivan.42 聯繫或核實 Ivan 的聯絡。

門票現正以年度最低價格發售。立即購買通行證，最高可節省 680 美元。會見投資者。發現您的下一個投資組合公司。聆聽 250 多位科技領袖的演講，深入參與 200 多場會議，並探索 300 多家正在打造未來的新創公司。不要錯過這些一次性的優惠。

Reface 與 Prisma 共同創辦人聯手打造 Mirai，致力優化裝置端 AI 模型推論

Reface 與 Prisma 聯合創辦人攜手合作，透過 Mirai 提升裝置端模型推理效能 | TechCrunch

主題

更多來自 TechCrunch

Reface 與 Prisma 聯合創辦人攜手合作，透過 Mirai 提升裝置端模型推理效能

最受歡迎內容

Meta 的研究發現家長監護對於遏制青少年強迫性使用社群媒體並無太大幫助

Ricursive Intelligence 如何在 4 個月內以 40 億美元估值籌集 3.35 億美元

在熱潮過後，部分 AI 專家認為 OpenClaw 並沒有那麼令人興奮

OpenClaw 創作者 Peter Steinberger 加入 OpenAI

好萊塢對新款 Seedance 2.0 影片生成器感到不滿

電腦科學大逃亡（以及學生們轉向了何處）

一名史丹佛研究生開發了一種演算法來幫助同學尋找真愛；現在，Date Drop 成了他新創公司的基礎

Co-founders of Reface and Prisma Team Up to Enhance On-device AI Inference with Mirai

Reface 與 Prisma 聯合創辦人攜手合作，透過 Mirai 提升裝置端模型推理效能 | TechCrunch

主題

更多來自 TechCrunch

Reface 與 Prisma 聯合創辦人攜手合作，透過 Mirai 提升裝置端模型推理效能

最受歡迎內容

Meta 的研究發現家長監護對於遏制青少年強迫性使用社群媒體並無太大幫助

Ricursive Intelligence 如何在 4 個月內以 40 億美元估值籌集 3.35 億美元

在熱潮過後，部分 AI 專家認為 OpenClaw 並沒有那麼令人興奮

OpenClaw 創作者 Peter Steinberger 加入 OpenAI

好萊塢對新款 Seedance 2.0 影片生成器感到不滿

電腦科學大逃亡（以及學生們轉向了何處）

一名史丹佛研究生開發了一種演算法來幫助同學尋找真愛；現在，Date Drop 成了他新創公司的基礎