租賃價格低至2元/時!英偉達A800不香了?算力租賃市場格局生變
原創(chuàng)
2024-04-02 12:37 星期二
科創(chuàng)板日報記者 郭輝
①一季度部分廠商租賃價格松動;
②以租賃形式滿足算力需求,是許多中小企業(yè)及研究機構(gòu)當前的更為經(jīng)濟的選擇;
③線上AI訓練相比實機運算效率可能會有輕微降低。

《科創(chuàng)板日報》4月2日訊(記者 郭輝) 在火爆的算力行業(yè),《科創(chuàng)板日報》記者近日了解到,熱門算力卡英偉達A800的租賃價格僅需2元/時,同時在經(jīng)過去年服務(wù)器租賃價格暴漲后,今年不同規(guī)格產(chǎn)品價格出現(xiàn)一定幅度下降。

多家算力租賃行業(yè)企業(yè)人士表示,今年一季度算力租賃供需仍然緊張。另有業(yè)內(nèi)人士分析稱,算力租賃市場供需結(jié)構(gòu)正在逐步調(diào)整,對于有AI計算需求的中小企業(yè)及研究機構(gòu)來說,成本投入將得到改善。

熱門算力卡租賃價格“打骨折” 有平臺月租費僅千余元

近日,在某社交平臺用戶發(fā)帖稱,市場價格超10萬元的英偉達A800人工智能訓卡,在某平臺租賃價格僅需2元/時,引發(fā)關(guān)注。

據(jù)帖文稱,按調(diào)試訓練一個大模型平均要1個月計算,每月2元/時租賃A800訓練成本單卡僅需不到1440元,該價格僅為購買A800這款AI顯卡價格的1/69,并且無需承擔運營數(shù)據(jù)中心、電費等成本。

image

有評論表示,A800單卡線上租賃市價也就10元左右,但2塊確實是“骨折價”了。也有評論稱,這個價格“有促銷既視感,不知道跟進卷的還有哪家”。

《科創(chuàng)板日報》記者登錄帖文指向的SCNet國家超算互聯(lián)網(wǎng)官網(wǎng),看到一款服務(wù)器配備8個英偉達A800加速卡、顯存為80GB,處理器為2個Intel 8458P 44C,其價格為2元/時。

據(jù)了解,SCNet國家超算互聯(lián)網(wǎng)是一家以互聯(lián)網(wǎng)思維運營超算,并連接產(chǎn)業(yè)生態(tài)中的算力供給、應(yīng)用開發(fā)、運營服務(wù)、用戶等各方,構(gòu)建一體化超算算力網(wǎng)絡(luò)和服務(wù)平臺。該平臺于2023年4月成立工作推進組、總體專家組以及超算互聯(lián)網(wǎng)聯(lián)合體,并于去年11月啟動公測。

《科創(chuàng)板日報》記者今日(4月2日)以企業(yè)人員身份與平臺客服取得聯(lián)系,該客服表示,按照平臺規(guī)則,單張A800卡租賃價格確實是2元/時,但單人可申請卡的最大數(shù)量和單作業(yè)運行時間有一定限制,不過已基本可以滿足90%以上用戶AI計算需求。

“租賃AI卡用戶,超90%的都是對已成熟大模型進行‘微調(diào)’,13B參數(shù)量級別的大模型有一兩張A800卡幾天時間就可完成微調(diào)?!痹摽头M一步表示,如果用戶需要長時間租賃大量AI算力進行“全參數(shù)微調(diào)”,平臺也有充足國產(chǎn)AI卡支持并行計算需求,并會給到一個合適的價格。

算力卡租賃真成“白菜價”了嗎?對此,有產(chǎn)業(yè)人士提醒,線上AI訓練相比實機運算效率可能會有輕微降低, 但相比直接購買英偉達專業(yè)顯卡所需的高額成本,以租賃形式滿足算力需求,仍是許多中小企業(yè)及研究機構(gòu)當前的更為經(jīng)濟的選擇

一名業(yè)內(nèi)人士向《科創(chuàng)板日報》記者表示,“現(xiàn)階段看,購買AI算力設(shè)施企業(yè)和租賃AI企業(yè)規(guī)模其實是不一樣的。直接買A800卡的大部分都是頭部企業(yè),追求的是領(lǐng)先創(chuàng)新能力。而租賃AI卡企業(yè),則是希望在細分AI賽道取得一定進展,或是高校研究機構(gòu)進行實驗。

另一家算力租賃服務(wù)企業(yè)人士告訴《科創(chuàng)板日報》記者,一臺搭載8卡A800的服務(wù)器月均價在4.6萬元左右,A100的租賃價格會更便宜一些。對比潤六尺類似配置的A800服務(wù)器,一年期價格在88000/月/臺

“因為人工智能比較火,這個價格在行業(yè)內(nèi)相對算是很有性價比了?!鄙鲜鋈耸糠Q,“今年市場對算力租賃的需求依然很高?!?/p>

一季度部分廠商算力租賃價格松動 供需依然緊張

AI的火熱讓算力租賃在過去一年里成為一項熱門生意。與通用云計算服務(wù)相比,算力租賃具備配置靈活度高、成本低等優(yōu)勢。去年開始,多家上市企業(yè)購置專業(yè)算力顯卡布局算力租賃業(yè)務(wù),服務(wù)價格也水漲船高。

在2023年,據(jù)不完全統(tǒng)計,已有中貝通信、匯納科技、恒潤股份、鴻博股份、真視通、青云科技等多家A股公司大規(guī)模采購GPU并開展對外算力服務(wù)器租賃業(yè)務(wù)。

“目前來看,服務(wù)器租賃供需還是比較緊張?!?/strong>中貝通信證券部工作人員表示,該公司去年簽訂多份AI算力服務(wù)訂單,現(xiàn)在算力中心已經(jīng)有部分在投入使用了。“去年公司服務(wù)器有一部分在漲價,但是在根據(jù)市場供需以及客戶情況調(diào)整,報價也是一客一議”。

另一家提供算力服務(wù)的上市公司人士也向《科創(chuàng)板日報》記者表示,目前算力服務(wù)價格和價格趨勢都不便透露,但從市場供需關(guān)系來看,整個市場降價的可能性都不大。

不過隨著供需結(jié)構(gòu)逐步調(diào)整、廠商對大模型訓練成熟,仍有部分市場開始出現(xiàn)松動。

一家中等規(guī)模的算力服務(wù)公司人士向《科創(chuàng)板日報》記者表示,近期跟今年年初相比,服務(wù)器平均租賃價格確實有所下降。“去年價格漲得確實比較高了,今年我們機房集群會根據(jù)行情陸續(xù)采購,或者就現(xiàn)有規(guī)模做資源規(guī)劃,價格還是看之后的供需?!?/p>

另有產(chǎn)業(yè)界人士稱,去年AI產(chǎn)業(yè)概念持續(xù)火爆,2024年春節(jié)后AI卡租賃市場行情相比年初卻有微降。這源于兩方面,首先是擁有大量算力的平臺正不斷完善服務(wù)能力,增加算力供給,其次是伴隨眾多大模型開源,已讓不少企業(yè)選擇在成熟模型基礎(chǔ)上進行“微調(diào)”訓練,階段性降低了算力需求。

算力租賃火熱,一定程度受限于外部市場環(huán)境因素。專精特新企業(yè)高質(zhì)量發(fā)展促進工程執(zhí)行主任袁帥表示,如果市場競爭加劇,或者技術(shù)進步導致投入制造成本降低,那么專業(yè)卡的降價空間可能會進一步增大。

未來如何避免產(chǎn)業(yè)資源空耗、進一步提高投入產(chǎn)出比,國內(nèi)算力租賃需考慮向更高附加值的運營服務(wù)方向轉(zhuǎn)型。中泰證券研報認為,算力租賃基于硬件資源的按需租賃和按量付費模式,面對激烈算力租賃競爭,多元算力融合成為關(guān)鍵,算力市場將更加重視輔助運營服務(wù),從提供硬件資源逐步轉(zhuǎn)變?yōu)樘峁┧懔Ψ?wù)。

收藏
84.85W
我要評論
歡迎您發(fā)表有價值的評論,發(fā)布廣告和不和諧的評論都將會被刪除,您的賬號將禁止評論。
發(fā)表評論
要聞
股市
關(guān)聯(lián)話題
1.08W 人關(guān)注
7480 人關(guān)注
4.22W 人關(guān)注