我們已經生活在一個由AI驅動的美光世界里——面部識別、實時翻譯,科技以及無所不在的低電虛擬助手,都已不再是壓V域新奇事物,而是創新用戶對產品習以為常的期待。AI正在改變我們的美光日常生活,尤其是科技在移動領域。人們對更高程度自動化的低電追求,在這一領域只會愈發強烈。壓V域到2028年,創新AI智能手機的美光出貨量預計將達到9.12億部1,而2023年這一數據僅為5,科技050萬部,在此期間的低電復合年增長率 (CAGR) 達到78.4%2。到2028年,壓V域支持生成式AI的創新智能手機預計將占智能手機出貨總量的54%以上,全球在用數量將超過10億部。1
越來越多的消費者希望端側設備更加自動化和智能化,這一需求推動了AI智能手機的采用,使端側AI成為下一代移動體驗的關鍵驅動因素。在端側設備上本地運行AI,可減少對持續穩定互聯網連接的需求,或者減少對云端等集中式服務器的依賴,從而縮短響應時間,并實現更安全的數據處理。然而,盡管人們對AI的期望越來越高,但目前的硬件功能難以跟上AI發展的步伐。
AI正在推動數據處理效率的提升
在以AI為核心的經濟體中,數據是最基本的要素——每一項洞察、每一個預測、每一次決策,都源于對數據的處理。數據的質量、數量和可訪問性,與功能強大的先進算法和大模型同樣重要。
大語言模型 (LLM) 依賴于大量復雜的數據輸入,需要大量的計算資源進行處理。直接在端側設備上運行這些模型(稱為“設備端AI”)需要能夠處理密集型工作負載的高性能硬件。為滿足用戶對快速響應、無縫應用切換、更短加載時間和更長續航時間的期望,移動設備必須支持本地實時AI處理,而無需依賴云端。這種情況下,內存變得至關重要:內存是數據和計算之間的橋梁,只有借助高速內存,處理器才能立即訪問和操作大型數據集。系統的響應能力,取決于內存的性能可否匹配處理器的處理能力。然而,AI處理和高分辨率視頻捕獲等任務需要消耗大量電量。每一項的性能提升都必須考慮相應的代價,在這一領域也不例外,更高水平的響應能力是以電池電量的快速消耗為代價的。因此,為了在提供AI所需速度的同時保持電池續航時間,節能型內存或者低功耗DRAM(LPDRAM)至關重要。
以較低電壓實現高性能
在近幾代LPDDR(低功耗雙倍數據率)內存中,業界一直致力于突破電壓調節的限制。由于功率是電壓與電流的乘積,因此降低供電電壓水平會直接減少功耗。在功耗較大的高速內存系統中,即使適度降低供電電壓,也能節省大量能源。
作為新一代移動DRAM,LPDDR5X具有更高的帶寬和電源效率,為降低供電電壓,新規范將曾經整合為一體的VDD2軌重新設計為兩個不同的域:VDD2H(VDD2的高壓域)和VDD2L(VDD2的低壓域)。這種設計允許廠商根據不同的性能需求,進行更精確的電壓調節。
為充分利用這一架構,DVSC(動態電壓和頻率切換控制)和eDVFSC(增強型DVFSC)等技術至關重要。它們可根據工作負載需求動態調整電壓和頻率,使VDD2H能在低速任務期間以較低的電壓運行,從而有助于降低功耗,延長電池續航。
免責聲明:VDDQ可在0.5伏(規范范圍-1)和0.3伏(規范范圍-2)這兩種規范范圍內運行。為簡單起見,上圖使用了0.3伏電壓,但實際工作電壓可能因系統配置和運行模式而異。
內存組和核心邏輯等高性能器件繼續由VDD2H和VDD1等高壓電源軌供電,以保持速度和響應能力。同時,外圍電路和I/O功能操作由VDD2L和VDDQ等低壓電源軌供電,以在處理低負載任務時降低能耗。
美光在低VDD2H領域的創新
VDD2H和VDD2L的分離,大幅提高了供電靈活性,改善了供電效率,標志著LPDDR5X技術的長足進步。通過識別不需要原有全電壓VDD2電源軌的器件,工程師可以讓系統在低頻活動期間依靠VDD2L供電,從而能在不影響響應能力的前提下降低功耗。
但美光的創新并未止步于此。美光工程師發現,即使是由VDD2H供電的組件也能承受較低的電壓閾值。因此美光工程師引入了低電壓VDD2H (LVDD2H),這是一種經過微調的VDD2H低電壓版。通過讓VDD2H在接近其最小可運行電壓的LVDD2H模式下運行,除了從分離VDD2L中已經實現的功耗節約之外,還可節省更多功耗。
降低VDD2H的電壓(特別是在高速運行模式下)具有以下幾大關鍵優勢:
降低動態和靜態功耗,以及整體能耗
改善熱性能,因為功率越低,發熱越少
在能效至關重要的移動和嵌入式系統中延長電池續航
LVDD2H運行模式
通過大量測試與特征分析,美光工程師確定了兩種主要的LVDD2H運行模式:標稱模式和最小模式。
在標稱模式下,為與生態系統性能相匹配,在8.533–10.7 Gbps數據傳輸速率下電壓水平保持在1.05V,在低于7.5 Gbps數據傳輸速率時降低電壓水平。在最小模式下,LVDD2H在全部數據傳輸速率范圍內降低電壓水平。
通過LVDD2H節約能源
美光的內部測試展示了LVDD2H在以下兩個主流用例中的重要作用:人工智能標記語言 (AIML) 和使用天數 (DoU)3。在AIML工作負載中,將VDD2H從1.060V降低至0.98V,可平均節約高達8%的功耗4。在12個不同的AI模型上測試了電壓降低的效果,所有測試都顯示出顯著的節能效果。在所有LLM中,Llama 2-13b的節能效果最明顯,達到12%。這些節能功能可直接增強終端用戶在使用多種AI功能時的體驗,如語音助手、照片處理、自動更正和聊天機器人等。對于DoU測試場景,在8個不同的用例中,降低電壓平均獲得了5%的功耗節約。DoU用例包括用戶在白天使用移動設備經常從事的典型活動,如Facebook聊天、聽音樂、瀏覽網頁或觀看視頻。
未來展望
通過降低電壓,可直接降低功耗,延長電池續航,用戶每天都能感受到其帶來的好處。隨著技術以前所未有的速度發展,要想緊跟技術發展步伐,滿足其需求,先進的內存解決方案至關重要。美光持續不懈地通過產品設計來盡可能提高能效和性能,除了為最終用戶帶來切實效益之外,也為整個行業樹立了節能型DRAM的標桿。通過與生態系統伙伴密切合作,助力協同創新與全行業發展,美光正在塑造未來的數據處理標準。對創新和卓越的不懈追求,使美光能夠始終引領未來趨勢,不斷推出支持下一代用戶體驗的解決方案。
1Counterpoint Research. 《推動AI在智能手機中普及的生態系統》。2025年1月10日發布https://www.counterpointresearch.com/insight/post-insight-research-notes-blogs-the-ecosystem-driving-ais-democratization-in-smartphones/
2IDC。《2024-2028年全球生成式AI智能手機預測:2024年7月》。2024年7月發布。《2024–2028年全球人工智能智能手機預測:2024年7月》
3測試配置基于高通平臺,所搭載的2R-1β LPDDR5X在啟用eDVFSC后支持的帶寬為9.6 Gbps。由于本報告中所用硬件的限制,相對于LPDRAM頻率的電壓調節固定為1.06V/0.98V。
4由于測試環境的限制,報告中使用的電壓水平 (1.060V/0.98V) 與標稱設置 (1.05V/0.99V) 略有不同。
本文作者
Rui Zhou
移動業務部門
產品市場高級經理