Error PyTorch di Mac memuat satu angka yang sering dicari orang. Ini berasal dari Mac 16 GB (AudioLDM2 #20):
RuntimeError: MPS backend out of memory (MPS allocated: 18.02 GB, other allocations: 107.10 MB, max allowed: 18.13 GB). Tried to allocate 4.50 MB on private pool.Dalam catatan saya sebelumnya, saya mengukur asalnya di Mac 48 GB saya. max allowed adalah PYTORCH_MPS_HIGH_WATERMARK_RATIO, nilai bawaannya 1.7, dikalikan set kerja GPU yang direkomendasikan macOS, yang dikembalikan oleh torch.mps.recommended_max_memory(). Satu mesin tidak bisa memberi tahu angka itu di mesin lain, jadi saya membacanya dari error orang lain.
Dari mana angka-angka ini berasal
Pada 24 Oktober saya mencari issue GitHub yang mengutip error dengan nilai max allowed. Saya menemukan 250 issue dan pull request, 167 di antaranya berisi angka dalam teks. Sebagian besar nilai masuk ke beberapa kelompok, dan jika pelapor menyebut memori Mac mereka, kelompok itu sesuai dengan ukurannya. Dibagi 1.7, setiap nilai menghasilkan set kerja yang diberikan macOS kepada GPU di mesin tersebut.
| memori Mac | max allowed, GiB | set kerja GPU, GiB | porsi memori | laporan | terlihat |
|---|---|---|---|---|---|
| 8 GB | 9.07 | 5.33 | 67 % | 27 | 2023 – 2026 |
| 16 GB | 18.13 | 10.67 | 67 % | 18 | 2023 – 2026 |
| 24 GB | 27.20 | 16.00 | 67 % | 9 | Jan 2025 – Jan 2026 |
| 24 GB | 30.19 | 17.76 | 74 % | 3 | Des 2025 – Sep 2026 |
| 32 GB | 36.27 | 21.33 | 67 % | 6 | 2024 – 2025 |
| 36 GB | 45.90 | 27.00 | 75 % | 3 | 2024 – 2026 |
| 48 GB | 63.65 | 37.44 | 78 % | 4, ditambah milik saya | Sep – Okt 2026 |
| 64 GB | 81.60 | 48.00 | 75 % | 7 | Des 2023 – Apr 2025 |
| 64 GB | 88.13 | 51.84 | 81 % | 6 | Mar – Okt 2026 |
| 128 GB | 163.20 | 96.00 | 75 % | 4 | 2024 – 2025 |
| 128 GB | 182.78 | 107.52 | 84 % | 2 | Des 2025 – Jan 2026 |
Versi PyTorch lama memberi label angka-angka ini sebagai GB, dan versi baru sebagai GiB. Keduanya adalah satuan biner: 1.7 × dua pertiga × 16 GiB tepat menjadi 18.13.
Apa yang berubah
Sampai akhir 2025, polanya tampak sederhana. macOS memberi GPU dua pertiga memori pada Mac hingga 32 GB dan tiga perempat pada ukuran di atasnya. Laporan sejak akhir 2025 menunjukkan porsi yang lebih besar pada Mac 24 GB, 64 GB, dan 128 GB. Ketiga laporan 64 GB yang menyebut sistemnya semuanya memakai macOS 26. Nilai 8 dan 16 GB tidak berubah. Mac 48 GB saya sendiri menjalankan macOS 26.5.2 dan mengembalikan 37.44 GiB, 78 %.
Ada dua batasan pada temuan ini: setiap baris baru hanya didukung dua hingga enam laporan, dan dari sana saya tidak bisa mengetahui apakah perbedaannya dibuat oleh macOS atau chip.
Artinya saat Anda melihat error ini
Pada rasio bawaan, batasnya melampaui memori fisik pada setiap baris tabel: 1.7 × dua pertiga adalah 113 % memori, dan 1.7 × 84 % adalah 143 %. Saat sebuah job mencapai max allowed, job itu sudah melakukan swap selama beberapa waktu. Ini sesuai dengan pengukuran saya: di Mac saya, swap mulai terjadi antara 33.5 dan 36 GB footprint, jauh di bawah batas 63.65 GiB. Saran di akhir error, rasio 0.0, menghapus batasnya, sehingga job dapat melakukan swap lebih jauh.
Jika Anda lebih memilih error yang bersih daripada Mac yang melakukan swap, atur batas di bawah memori Anda, misalnya rasio 1.0, yang merupakan set kerja itu sendiri. Atur juga rasio low: pada PyTorch 2.14, rasio high di bawah 1.4 yang diatur sendiri akan gagal dengan "invalid low watermark ratio 1.4".
PYTORCH_MPS_HIGH_WATERMARK_RATIO=1.0 PYTORCH_MPS_LOW_WATERMARK_RATIO=0.8 python your_script.pyUntuk melihat set kerja Mac Anda sendiri:
import torch
print(torch.mps.recommended_max_memory() / 2**30, "GiB")Angka yang tidak sesuai
Sekitar sepertiga laporan menunjukkan batas lain, seperti 1.70 GiB, 3.40 GiB, 6.77 GiB, atau 3.00 GiB. Itu bukan nilai bawaan Mac. Aplikasi atau pengguna menetapkan rasio atau batasnya sendiri: satu alat video membatasi MPS pada 3 GiB bahkan di Mac 128 GB. Sebanyak 20 laporan lain berada di 7.93, dan saya tidak dapat mengaitkan nilai itu dengan satu ukuran Mac. Jika angka Anda jauh di bawah tabel, periksa pengaturan alat tersebut sebelum menyalahkan Mac.
Sumber
Dua laporan untuk setiap baris. Daftar lengkap berisi 167 ada di file data.
- 8 GB, 9.07: noScribe #84, pytorch #105839
- 16 GB, 18.13: pinokio #941, AudioLDM2 #20
- 24 GB, 27.20: pytorch #145374, qwen3-optimizer-study #13
- 24 GB, 30.19: ml-bokeh #3, ComfyUI #17264 (rasio 1.0, jadi 17.76)
- 32 GB, 36.27: ComfyUI-LivePortraitKJ #82, instructlab #2568
- 36 GB, 45.90: ACE-Step-1.5 #282
- 48 GB, 63.65: trellis2-mlx #1, ask-physics #24
- 64 GB, 81.60: bobo-fun #8, ComfyUI-CogVideoXWrapper #312
- 64 GB, 88.13: EtherReel-releases #7, ComfyUI #17309
- 128 GB, 163.20: ComfyUI #9308, lm-evaluation-harness #1835
- 128 GB, 182.78: ComfyUI #11584, ComfyUI-WanVideoWrapper #1856