時間:2024-01-18來源:本站
2024年的地方兩會已經拉開大幕,“增強經濟回升向好态勢”成多(duō)地政府工(gōng)作(zuò)報告的要點,人工(gōng)智能(néng)作(zuò)為(wèi)數字經濟高質(zhì)量發展的重要抓手,受到廣泛關注,AI以及大模型等成為(wèi)代表提案的高頻詞。随着數字技(jì )術和大模型等AI技(jì )術的加速發展,人工(gōng)智能(néng)的落地應用(yòng)已經步入深水區(qū),支撐計算和推理(lǐ)需求、滿足成本和節能(néng)要求的更具(jù)性價比的算力成為(wèi)用(yòng)戶的一緻訴求,第五代英特爾® 至強® 可(kě)擴展處理(lǐ)器應需而生!
為(wèi)AI加速而生,第五代英特爾® 至強® 可(kě)擴展處理(lǐ)器完美運行200億參數大模型
2023年底全新(xīn)發布的第五代英特爾® 至強® 可(kě)擴展處理(lǐ)器,核心數量增至最高64核心,配備了高達 320MB 的 L3 緩存和 128MB 的 L2 緩存,同比上代産(chǎn)品相同 TDP 下平均性能(néng)提升 21%,内存帶寬提高多(duō)達 16%,三級緩存容量更是提升 2.7 倍。
它每個内核都具(jù)備 AI 加速功能(néng),無需添加獨立加速器,就可(kě)處理(lǐ)要求嚴苛的 AI 工(gōng)作(zuò)負載,與上代相比,其訓練性能(néng)提升多(duō)達 29%,推理(lǐ)能(néng)力提升高達 42%,尤其是在運行參數量 200 億及以下的大語言模型時,能(néng)夠做到時延不超過 100 毫秒(miǎo),堪稱完美。
而且,憑借出色的軟硬件工(gōng)具(jù)和生态系統、先進的機密計算技(jì )術等,它能(néng)夠提供可(kě)添加加速器和GPU的開放标準框架、優化和開箱即用(yòng)的預訓練AI模型等,便于客戶随時進行AI部署。新(xīn)至強的AI能(néng)力也得到了京東雲雙十一、阿裏雲第八代企業級實例 g8i、火山(shān)引擎第三代彈性計算實例、華栖雲等用(yòng)戶的實證和好評。
基于第五代英特爾® 至強® 處理(lǐ)器,
寶德(dé)服務(wù)器打造更具(jù)性價比的AI算力
大模型和AIGC等AI技(jì )術風起潮湧,技(jì )術創新(xīn)應用(yòng)與算力需求之間出現了某些不和諧,其中(zhōng)不乏某些工(gōng)作(zuò)負載過度浪費GPU資源。對此,寶德(dé)計算發揮自身闆卡到整機系統的自主研發實力和AI市場經驗,基于全新(xīn)的至強處理(lǐ)器,加大在全新(xīn)一代AI服務(wù)器的技(jì )術創新(xīn)和産(chǎn)品打磨,探索更具(jù)性價比和競争力的AI算力。
首先,寶德(dé)完成了數據中(zhōng)心級AI訓練服務(wù)器、中(zhōng)心和邊緣側推理(lǐ)的AI推理(lǐ)服務(wù)器以及面向邊緣極端環境的AI邊緣服務(wù)器、AI訓推一體(tǐ)機等全線(xiàn)産(chǎn)品的測試與升級,幫助客戶快速将全新(xīn)AI算力轉化成應用(yòng),比如寶德(dé)雙路服務(wù)器PR2715E,性能(néng)強勁、安(ān)全可(kě)靠、高效節能(néng),是AI和大模型推理(lǐ)的優秀算力平台。
其次,寶德(dé)進一步升級和完善生成式AI解決方案(寶德(dé)AIGC)。該方案将采用(yòng)新(xīn)一代至強處理(lǐ)器平台和Intel GPU,支持集群部署和單機部署多(duō)種形式,能(néng)充分(fēn)發揮和讓客戶受益于新(xīn)平台強大的AI計算、推理(lǐ)性能(néng)和卓越的經濟效益,可(kě)廣泛應用(yòng)于行業大模型、智能(néng)語音助手、網絡直播、線(xiàn)上教育和培訓以及多(duō)行業的客服與支持,并且支持按需定制。
而且,寶德(dé)注重加強産(chǎn)品能(néng)效的提升,多(duō)措并舉降低客戶的總體(tǐ)擁有(yǒu)成本。一方面,新(xīn)一代寶德(dé)服務(wù)器在性能(néng)大幅提升的同時,能(néng)夠兼容上一代産(chǎn)品的軟件和平台,大大縮減用(yòng)戶新(xīn)系統和新(xīn)應用(yòng)部署所需的測試和驗證工(gōng)作(zuò)。另一方面,充分(fēn)發揮新(xīn)至強處理(lǐ)器内置加速器低功耗高能(néng)效的優勢,并且通過智能(néng)管理(lǐ)軟件、智能(néng)散熱系統、部件或整機液冷散熱等節能(néng)方案的靈活配置和按需定制,進一步降低整機能(néng)耗,為(wèi)用(yòng)戶提供技(jì )術先進、智能(néng)高效、綠色節能(néng)的AI算力方案!