2025年10月13日,生成式AI以及Agent的采用勢頭強(qiáng)勁，大幅帶動(dòng)了AI基礎(chǔ)設(shè)施的增長。在Agentic時(shí)代，曾經(jīng)相對(duì)線性的技術(shù)棧已經(jīng)演變?yōu)閯?dòng)態(tài)、互聯(lián)的生態(tài)系統(tǒng)。這種變化不僅擴(kuò)展了老牌企業(yè)的角色，也刺激很多企業(yè)跨界進(jìn)入到AI基礎(chǔ)設(shè)施市場。國際數(shù)據(jù)公司（IDC）在2025年第三季度研究了亞太地區(qū)不斷變化的AI基礎(chǔ)設(shè)施市場及其帶來的新挑戰(zhàn)，也重點(diǎn)調(diào)研了整個(gè)生態(tài)系統(tǒng)里的典型廠商如何適應(yīng)這些新要求，并于近日發(fā)布了《 AI原生云/新型云廠商重構(gòu)Agentic基礎(chǔ)設(shè)施》（Doc# CHC 53815525，2025年9月）報(bào)告。
2024年中國大模型平臺(tái)市場格局
在大模型的驅(qū)動(dòng)下，目前全球AI應(yīng)用公司達(dá)數(shù)千家，這些應(yīng)用既有基礎(chǔ)大模型類通用助手，也有基于模型的AI搜索、社交、音視頻生成等。IDC全球追蹤的數(shù)據(jù)顯示，預(yù)計(jì)到 2029 年底，全球使用這些生成式AI應(yīng)用的消費(fèi)者數(shù)量將超過 57 億人，遠(yuǎn)超 2024 年底的 31 億人。在預(yù)測期內(nèi)，用戶數(shù)量的復(fù)合增長率預(yù)計(jì)將達(dá)到 13.2%。整體付費(fèi)用戶預(yù)計(jì)將以 32.3% 的復(fù)合年增長率增長，而非付費(fèi)用戶的復(fù)合年增長率將為 12.0%。在亞太市場，消費(fèi)者對(duì)GenAI的采用也呈明顯且加速的趨勢。
企業(yè)級(jí)市場也在將生成式AI擴(kuò)展到各個(gè)部門。無論是消費(fèi)級(jí)的AI應(yīng)用，還是企業(yè)級(jí)的AI應(yīng)用，規(guī)模化的落地離不開各種AI應(yīng)用開發(fā)平臺(tái)、工具與生態(tài)，以及支撐AI應(yīng)用的基礎(chǔ)設(shè)施。尤其是面向不同的應(yīng)用場景訓(xùn)練、各種大模型調(diào)優(yōu)，都需要高計(jì)算效率、高可靠的基礎(chǔ)設(shè)施的保障。
專用AI基礎(chǔ)設(shè)施加速AI應(yīng)用落地
在AI基礎(chǔ)設(shè)施市場爆發(fā)式增長的當(dāng)下，越來越多的新入局者開始涌入這一市場。如下圖所示，
公有云提供商提供全球化規(guī)模的、彈性的集成化AI服務(wù)，加速企業(yè)的AI采用；邊緣和混合云提供商讓AI更接近數(shù)據(jù)源，為關(guān)鍵場景實(shí)現(xiàn)實(shí)時(shí)處理和本地化部署提供支撐；
AI原生云提供商專注于高性能GPU集群和經(jīng)濟(jì)高效的基礎(chǔ)設(shè)施，專門滿足訓(xùn)練和推理需求；
數(shù)據(jù)中心與托管服務(wù)提供商致力于打造安全、可靠且高性能的運(yùn)行環(huán)境；
AI硬件和平臺(tái)提供商正在推進(jìn)專用芯片和系統(tǒng)的發(fā)展，為下一代AI性能提供動(dòng)力。
此外，越來越多的電信公司正在進(jìn)入這一領(lǐng)域，利用其廣泛的網(wǎng)絡(luò)基礎(chǔ)設(shè)施支持邊緣AI部署，增強(qiáng)AI工作負(fù)載的連接性，并跨分布式環(huán)境提供集成的AI驅(qū)動(dòng)型服務(wù)。
IDC給AI 基礎(chǔ)設(shè)施買家的建議
隨著GenAI從實(shí)驗(yàn)階段轉(zhuǎn)向企業(yè)級(jí)部署，對(duì)基礎(chǔ)設(shè)施的需求現(xiàn)在已不再只是算力。安全、韌性、廠商支持和成本效益是影響能否成功落地的關(guān)鍵因素。IDC建議用戶選型時(shí)考慮如下因素：
應(yīng)優(yōu)先考慮選擇地域鄰近的專用型AI基礎(chǔ)設(shè)施：以處理對(duì)延遲敏感的工作負(fù)載和主權(quán)工作負(fù)載。尋找在該地區(qū)部署高性能計(jì)算或定制芯片的提供商，以確保低延遲AI性能、符合數(shù)據(jù)主權(quán)法律以及可擴(kuò)展的GenAI和LLM訓(xùn)練/推理能力。
謹(jǐn)慎選擇廠商：確保部署模式的靈活性，以支持混合、公有和專用專有AI環(huán)境。正在從PoC向生產(chǎn)邁進(jìn)的企業(yè)應(yīng)優(yōu)先考慮提供模塊化、可定制計(jì)算服務(wù)（例如GPU集群、按需或混合編排引擎）的合作伙伴，這些服務(wù)能夠根據(jù)業(yè)務(wù)需求和數(shù)據(jù)治理要求進(jìn)行動(dòng)態(tài)擴(kuò)展和成本控制。此外，亦應(yīng)優(yōu)先選擇供應(yīng)鏈穩(wěn)定、資源充足的廠商。
始終以強(qiáng)大的安全和合規(guī)為核心：選擇可證明擁有強(qiáng)大的企業(yè)級(jí)安全實(shí)踐、認(rèn)證資格以及相關(guān)數(shù)據(jù)保護(hù)法規(guī)合規(guī)能力的供應(yīng)商。驗(yàn)證工作負(fù)載隔離、零信任訪問和加密等功能是否符合您的行業(yè)和區(qū)域需求，以保護(hù)敏感的AI數(shù)據(jù)。
典型廠商推薦：在亞太市場，大型全棧云廠商諸如亞馬遜云科技、谷歌云等已經(jīng)贏得了眾多AI應(yīng)用企業(yè)的青睞。對(duì)于新型云廠商/AI原生云廠商，本次報(bào)告重點(diǎn)調(diào)研并推薦CoreWeave、GMI Cloud公司。
IDC中國人工智能研究總監(jiān)盧言霞表示，IDC預(yù)計(jì)，到2028年，中等以上規(guī)模的企業(yè)中將有至少上百個(gè)智能體在運(yùn)轉(zhuǎn)；消費(fèi)級(jí)智能體的個(gè)人用戶也將達(dá)到57億人。面向多智能體協(xié)同的未來，企業(yè)需要重新構(gòu)建高性能、高可靠、高效率的AI基礎(chǔ)設(shè)施。滿足企業(yè)高效規(guī)?；?xùn)練和運(yùn)行AI工作負(fù)載的專用AI基礎(chǔ)設(shè)施將推動(dòng)這一市場的高速增長。
（劉立慶 圖/文：IDC中國市場部宣）
