開源音樂模型 YuE2 跑在 Apple Silicon 上 | 沒有 NVIDIA 顯示卡,沒有雲端服務 | 2026-09-20 實測
結論:跑得動,而且門檻比官方寫的低很多。官方 README 寫「Linux · Python 3.12 · NVIDIA GPU 24GB VRAM」,但原始碼裡 device="auto" 會選 MPS,關鍵運算都有 Apple Silicon 分支。一台 24GB 統一記憶體的 M4 Pro 實際產出了完整的歌,尖峰只吃 8.5GB。
封面插畫〈Soft Light〉的角色是顧湘晴(Gu Xiangqing),原創角色,非真人,由生圖模型依角色設定檔繪製。影片內建繁體中文字幕,播放器右下角可以開。
[Verse]
Neon fades along the lane
霓虹沿著巷口慢慢淡去
Footsteps keep the time of rain
腳步替這場雨數著拍子
Fold the night and leave it here
把夜摺好,留在這裡
Morning has a sky to clear
早晨還有一整片天要放晴
[Chorus]
Let the day come into view
讓白日慢慢走進眼前
Every road begins with you
每一條路都從你這裡開始
Hold a little room for light
為光留一點空隙
We will sing beyond the night
我們會一路唱過整個夜晚
英文歌詞是模型附帶的範例,中文為人工翻譯校潤。
模型載入另外約 16 秒,只有第一次要等。PyTorch 2.14.0,運算裝置 mps,輸出 48kHz 立體聲 FLAC,無截斷。
| 項目 | 規格 |
|---|---|
| 機型 | Mac mini(2024,Mac16,11) |
| 晶片 | Apple M4 Pro(12 核 CPU:8 效能+4 節能;16 核 GPU) |
| 記憶體 | 24GB 統一記憶體 |
| 系統 | macOS 26.5.2 |
| 模型佔用空間 | 約 7.3GB(YuE2-3B + 解碼器) |
跑的時候系統可用記憶體從 79% 掉到 49%,swap 由 570MB 長到 3.5GB。 單獨生成沒問題,要連續批次跑的話,這台同時在做別的事就會有感。
同一套環境換成中文歌詞再跑一次,一樣產出 69.9 秒的完整成品,沒有截斷, GPU 尖峰 8.48 GB 幾乎一樣。生成耗時 306.2 秒(4.38 倍), 比英文那首慢,但那一趟機器同時在做別的事,不是對等比較。
中文詞是為了測試自己寫的,不是模型範例。
可以。style 欄明寫 instrumental、no vocals、no singing,加上樂器編制,
歌詞檔只放一行 [Instrumental],就會出一首沒有人唱的曲子。
下面這首是 Bill Evans 取向的鋼琴三重奏,2 分 11 秒,生成花了約 9 分鐘,GPU 尖峰 9.48 GB。
檢查有沒有人聲不能只憑聽感,也不能只跑一次語音辨識—— whisper 是語音轉文字,不是人聲偵測,面對純音樂它一定會吐點什麼出來。 做法是同一組參數同時跑一份已知有人聲的舊產物當對照:那份吐出完整歌詞, 這份兩段各 40 秒都只吐得出一句與任何歌詞無關的短句,兩相對照才算數。
射程只到這個樂種。爵士鋼琴三重奏本來就偏純器樂, EDM、流行、R&B 這類人聲先驗強得多的樂種,下同樣的指令仍可能生出吟唱,換樂種要重新驗一次。
音檔本身是 FLAC 48 kHz/24 bit 立體聲,平均碼率 1331 kbps。 24 位元是真的不是假升——低 8 位元有完整的 256 種值分布、全為零的樣本只佔 0.41%; 拿同一段音訊人工降成 16 位元再升回 24 位元當對照,那份的低 8 位元 100% 是零, 所以這把尺分得出真假。網頁上播的是轉成 AAC 192k 的版本,無損原檔留在本機。
同一台機器換成 22 句歌詞的 city pop,產出 2 分 30 秒,生成花了 7 分 25 秒。 值得注意的是記憶體幾乎沒有跟著漲——音樂長度翻了一倍多,GPU 尖峰只從 8.47 GB 變成 9.48 GB。 瓶頸是時間不是記憶體,24GB 這台要做五六分鐘的曲子仍然有餘裕,只是要等更久。
| 歌詞規模 | 產出長度 | 生成耗時 | 倍率 | GPU 尖峰 |
|---|---|---|---|---|
| 1 主歌+1 副歌(8 句) | 70 秒 | 3 分 02 秒 | 2.6× | 8.47 GB |
| 2 主歌+3 副歌+橋段(22 句) | 2 分 30 秒 | 7 分 25 秒 | 3.0× | 9.48 GB |
| 同上結構的日文詞(24 句) | 3 分 35 秒 | 12 分 23 秒 | 3.5× | 9.55 GB |
這首是 1980 年代日系 city pop 的指定風格,英文詞。換算起來大約每句歌詞 7 秒,要做滿三分鐘就寫 25 到 26 句。封面插畫的角色是芙蕾雅・米勒(Freya Miller),原創角色,非真人,古金配丹寧藍的雙色網點印刷風。中文字幕在播放器右下角可以開。
[Verse]
Headlights on the harbour road
車燈落在港邊那條路上
Radio keeps the window glow
收音機讓車窗一直亮著
Summer leaves a taste of salt
夏天留下一點鹹味
Nothing here is anyone's fault
這裡沒有誰對不起誰
[Chorus]
Drive me through the midnight blue
載我穿過這一整片午夜的藍
Every neon knows your name
每一盞霓虹都認得你的名字
City holds its breath for you
整座城市為你屏住呼吸
Nothing ever stays the same
沒有什麼會一直停在原地
[Verse]
Coffee cooling on the dash
咖啡在儀表板上涼掉
Telephone wires cut the flash
電線把閃過的光切成一段一段
We were younger by an hour
一小時前的我們還年輕一點
Somewhere past the water tower
在水塔過去的某個地方
[Chorus]
Drive me through the midnight blue
載我穿過這一整片午夜的藍
Every neon knows your name
每一盞霓虹都認得你的名字
City holds its breath for you
整座城市為你屏住呼吸
Nothing ever stays the same
沒有什麼會一直停在原地
[Bridge]
Turn the corner slow
慢慢轉過那個彎
Let the summer go
讓夏天就這樣過去
All the lights below
底下那些燈火
Burning soft and low
燒得又輕又低
[Chorus]
Drive me through the midnight blue
載我穿過這一整片午夜的藍
Every neon knows your name
每一盞霓虹都認得你的名字
City holds its breath for you
整座城市為你屏住呼吸
Nothing ever stays the same
沒有什麼會一直停在原地
前奏 18 秒、尾奏 22 秒都是純演奏,整首唱完在 01:27。第二句「window glow」有一趟 ASR 聽成「window closed」,兩種讀法各一次,這裡照原稿寫。下載 .srt 字幕檔。
同一套環境、同一台機器,把歌詞換成 24 句日文再跑一次,產出 3 分 35 秒的完整成品。 生成花了 12 分 23 秒(3.5 倍),MPS 配置尖峰 9.55 GB——音樂長度比第一首多了三倍,記憶體只多了 1 GB。 日文發音沒有走樣,副歌三次的旋律線也咬得住,模型不是只會英文。
封面插畫的角色是水野美咲,原創角色,非真人,孔雀藍綠配炭墨的雙色網點印刷風。 中文字幕在播放器右下角可以開,時間軸是用 whisper 在真實音軌上逐句聽出來的,不是按字數平均分—— 模型唱出來的詞跟送進去的詞不保證一樣,所以一定要回頭聽。
scaled_dot_product_attention(is_causal=True),在半精度(FP16/BF16)時
把因果遮罩以四個 query 為一塊套用,query 因此看得到最多三個未來的 key。
不報錯、不警告、不出 NaN,只是生成品質被汙染——這是最難抓的那種錯。
PyTorch 2.13.0 修好了,但 YuE2 的 pyproject.toml 釘死 torch==2.10.0,
照官方步驟裝就會中。安裝時要把 torch 覆寫成 >=2.13.0。
出處:YuE 專案 issue #176。| 系統 | SongBench 平均 | 音樂性 |
|---|---|---|
| YuE2(best-of-8) | 6.96 | 6.27 |
| Suno v5 | 6.87 | 5.99 |
| YuE2(單次生成) | 6.73 | 5.91 |
| Suno v6 | 6.56 | 5.66 |
| MiniMax Music 3 | 6.28 | 5.35 |
| ACE-Step 1.5 | 6.01 | 5.16 |
資料來自 YuE2 官方發布的 WildSongBench 成績(192 題)。這是開發方自評不是第三方盲測, 看的時候要打折。放在這裡是為了給一個量級感:它跟商用服務是同一個檔次的東西,不是玩具。
模型權重採 CC BY-NC 4.0,另加開發方的許可條款。個人與內容創作者把產出拿去營利 不收費、不抽成;公司行號的商業使用,官方要求另外聯絡他們談授權。 要當成商用素材之前,這一條得先確認自己算哪一種。
專案:multimodal-art-projection/YuE(YuE2-3B)