Selama beberapa dekad, seluruh industri pengkomputeran berkisar pada paradigma mudah: logik adalah raja.CPU dan GPU adalah nadi sistem;memori hanyalah komponen sokongan, bertanggungjawab untuk menyimpan data sementara sementara pemproses melakukan kerja sebenar.Tetapi hari ini, revolusi asas sedang dijalankan: era pengkomputeran berteraskan logik akan berakhir, dan pengkomputeran berpusatkan memori telah tiba.

Peralihan ini bukan incremental—ia berstruktur.Didorong oleh AI, model bahasa besar, pengkomputeran awan dan pengkomputeran berprestasi tinggi, keseimbangan kuasa antara logik dan memori telah diterbalikkan sepenuhnya.Memori bukan lagi komponen persisian;ia telah menjadi kesesakan teras, pengehad prestasi utama dan pusat nilai sebenar sistem pengkomputeran moden.

Punca Punca: Dinding Memori

Selama bertahun-tahun, prestasi pemproses bertambah baik pada kadar yang jauh lebih tinggi daripada lebar jalur memori dan kependaman.Jurang yang semakin meningkat ini dikenali sebagai dinding ingatan.Dalam sistem tradisional:

• Pemproses menunggu data pada kebanyakan masa
• Pergerakan data menggunakan lebih banyak tenaga daripada pengiraan
• Lebar jalur tidak dapat mengikuti pertumbuhan saiz model
• Latensi secara langsung menentukan kelajuan inferens dunia sebenar

Apabila model AI berkembang daripada berbilion-bilion kepada trilion parameter, dinding memori telah menjadi maut.Sistem tidak lagi mampu untuk memindahkan sejumlah besar data ke sana ke mari antara logik dan ingatan.Satu-satunya penyelesaian: membina semula keseluruhan seni bina di sekitar memori.

Logic-Centric vs Memory-Centric: Perbezaan Paradigma

Senibina Logik-Berpusatkan
- CPU/GPU sebagai teras
- Memori sebagai storan luaran
- Data bergerak ke pengiraan
- Prestasi bergantung pada kelajuan arahan
- PC yang didominasi dan pengkomputeran awan awal

Seni Bina Berpusatkan Memori
- Memori sebagai teras sistem
- Pengiraan bergerak ke data
- Lebar jalur dan kependaman menentukan prestasi
- Kecekapan tenaga tertumpu pada pergerakan data
- Mentakrifkan AI dan pengkomputeran generasi akan datang

Perbezaannya bukanlah perincian teknikal—ia adalah pembalikan lengkap falsafah reka bentuk sistem.

Tiga Laluan Inovasi Berpusatkan Memori

1. Pengkomputeran Memori Dekat (NMC)
Letakkan enjin pengkomputeran dekat dengan memori, meminimumkan pergerakan data.Mengurangkan kependaman dan kuasa secara mendadak.Diguna pakai secara meluas dalam pemecut AI dan infrastruktur DPU.

2. Pengkomputeran Dalam Memori (IMC)
Lakukan pengiraan terus di dalam sel memori, menghapuskan pemindahan data sepenuhnya.Ideal untuk inferens AI, peranti tepi dan sistem kuasa rendah.Dilihat sebagai seni bina muktamad jangka panjang.

3. Menyusun Memori-Logik 3D
Tumpukan memori terus di atas pemproses menggunakan ikatan hibrid dan TSV.Mencipta lebar jalur ultra tinggi antara pengiraan dan memori.Susunan HBM, HBM3E dan 3D adalah asas kepada cip AI moden.

Mengapa AI Menjadikan Memori-Centric Tidak Dapat Dielakkan

Model bahasa besar dan AI generatif mempunyai ciri unik:

• Set parameter besar-besaran memerlukan kapasiti memori yang besar
• Inferens adalah terikat memori, bukan terikat pengiraan
• Lebar jalur menentukan daya tampung dan pengalaman pengguna
• Penggunaan kuasa dikuasai oleh pergerakan data

Dalam sistem AI, pemproses sering melahu menunggu data.Prestasi tidak dihadkan oleh seberapa pantas cip boleh mengira—tetapi oleh seberapa cepat ia boleh mengakses memori.

Penstrukturan Semula Industri: Nilai Bergerak ke Ingatan

Peralihan seni bina ini sedang menulis semula kuasa industri:

• Pembuat ingatan mendapat kuasa penetapan harga strategik
• Reka bentuk sistem mengutamakan topologi memori
• Pembungkusan menjadi kritikal untuk sambungan memori
• Gergasi baru muncul dalam ingatan dan kesalinghubungan

Siapa yang mengawal seni bina memori mengawal masa depan pengkomputeran.

Kesimpulan: Masa Depan Didorong Memori

Zaman pengkomputeran yang dikuasai logik sudah berakhir.Kita telah memasuki era baru di mana memori mentakrifkan prestasi, penskalaan had memori, dan memori menentukan nilai sistem.

Peralihan daripada seni bina berpaksikan logik kepada berpaksikan ingatan bukan sekadar trend teknikal—ia merupakan transformasi paling asas dalam pengkomputeran dalam setengah abad.Untuk dekad yang akan datang, ingatan akan menjadi pusat alam semesta.