工控網(wǎng)首頁(yè)
>

新聞中心

>

新品速遞

>

研華推出面向生成式 AI 的邊緣 AI 服務(wù)器解決方案

研華推出面向生成式 AI 的邊緣 AI 服務(wù)器解決方案

2024/7/17 13:12:03

2024年6月4日—— 全球工業(yè)物聯(lián)網(wǎng)廠商研華科技宣布,采用Phison的aiDAPTIV+專(zhuān)利技術(shù),為生成式人工智能(Generative AI)提供開(kāi)創(chuàng)性的邊緣AI服務(wù)器解決方案。AIR-520 Edge AI Server采用AMD EPYC 7003系列處理器,集成了SQ ai100 AI SSD、NVIDIA RTX GPU卡、Edge AI SDK和NVIDIA AI Enterprise,提供了一個(gè)可立即部署的解決方案。


大型語(yǔ)言模型(LLM)等生成式AI工具正通過(guò)自動(dòng)化數(shù)據(jù)組織、檢索和分析改變企業(yè)知識(shí)管理,提高生產(chǎn)力并改善決策。定制大型語(yǔ)言模型(LLM)提高了準(zhǔn)確性,而邊緣訓(xùn)練則增強(qiáng)了數(shù)據(jù)隱私屬性(成本相應(yīng)提高)。該方案支持大型語(yǔ)言模型(LLM)微調(diào)配備1-4個(gè)顯卡和SQ AI100 AI SSD,供企業(yè)經(jīng)濟(jì)高效地訓(xùn)練大型語(yǔ)言模型(LLM),同時(shí)保護(hù)邊緣敏感數(shù)據(jù)安全。 


image.png


適用于不同應(yīng)用的四種解決方案


對(duì)此研華提供四種選擇:AIR-520-L13B/L33B/L70B和L70B-Plus,針對(duì)不同規(guī)模和應(yīng)用量身定制。L13B非常適合聊天機(jī)器人和語(yǔ)言翻譯提高生產(chǎn)力和內(nèi)容創(chuàng)作創(chuàng)新能力。L70B擅長(zhǎng)專(zhuān)業(yè)領(lǐng)域的復(fù)雜數(shù)據(jù)分析和決策。此外,L70B-Plus配備了NVIDIA AI Enterprise軟件平臺(tái),提供端到端的、可靠的優(yōu)化AI SDK,提供長(zhǎng)期支持和專(zhuān)家咨詢(xún)服務(wù),保障業(yè)務(wù)場(chǎng)景中的高效部署。


安裝簡(jiǎn)單快捷,優(yōu)化成本效益 


所有解決方案均包含SQ AI100 AI SSD,后者采用群聯(lián)(Phison)aiDAPTIV+技術(shù)。此系列SSD充當(dāng)顯卡vRAM的擴(kuò)展,使系統(tǒng)能夠使用最少的顯卡對(duì)大型語(yǔ)言模型(LLM)實(shí)現(xiàn)微調(diào)。這種方案不僅減輕了客戶(hù)的預(yù)算負(fù)擔(dān),而且相比傳統(tǒng)的大型機(jī)架式服務(wù)器,邊緣AI服務(wù)器會(huì)更加緊湊。AIR-520邊緣AI服務(wù)器專(zhuān)為各種邊緣AI應(yīng)用設(shè)計(jì),尺寸與臺(tái)式電腦相當(dāng),并且可以通過(guò)適當(dāng)?shù)母郊惭b在機(jī)架上。憑借輕薄的設(shè)計(jì),該產(chǎn)品可以實(shí)現(xiàn)在邊緣AI微調(diào)環(huán)境中的輕松部署,打消了客戶(hù)在空間和維護(hù)上的憂慮。


通過(guò)軟件服務(wù)快速跟蹤生成式AI的開(kāi)發(fā)


除了大型語(yǔ)言模型(LLM)微調(diào)功能外,研華還提供了帶有生成式AI訓(xùn)練工作室的邊緣AI SDK,預(yù)裝了Llama-2 13B/33B/70B模型,用于聊天機(jī)器人和數(shù)據(jù)分析等應(yīng)用。此舉將簡(jiǎn)化并加速通過(guò)AIR-520進(jìn)行客戶(hù)專(zhuān)屬大型語(yǔ)言模型(LLM)模型訓(xùn)練和推理評(píng)估工作的進(jìn)程。此外,研華的DeviceOn提供OTA軟件/容器更新和遠(yuǎn)程管理,促進(jìn)高效的邊緣AI編排和長(zhǎng)期維護(hù)。


image.png

 

產(chǎn)品特性:


 ● 采用AMD EPYC 7003處理器的服務(wù)器級(jí)性能,提供多達(dá)64個(gè)內(nèi)核、768GB DRAM和四個(gè)PCle x16擴(kuò)展插槽

 ● 高達(dá)768GB DDR4 3200 DRAM

 ● 支持4個(gè)PCIe x16擴(kuò)展插槽

 ● 集成1200W PSU,可為兩塊NVIDIA L40S圖形卡供電


面向生成式AI的AIR-520邊緣AI服務(wù)器方案早期樣品現(xiàn)已推出。欲了解更多信息,請(qǐng)聯(lián)系研華嵌入式服務(wù)專(zhuān)線400-001-9088或訪問(wèn)研華官網(wǎng)https://www.advantech.com.cn/zh-cn/products/65f20c25-f6ef-4ab5-be3c-b7dfa7a833b3/air-520-for-gen-ai-applications/mod_e28a5af4-e51a-406f-ba57-f26675c077e7。


關(guān)于研華(Advantech)


研華成立于1983年,以“智能地球的推手”作為企業(yè)品牌愿景,一直專(zhuān)注于工業(yè)物聯(lián)網(wǎng)、嵌入式物聯(lián)網(wǎng)及智慧城市三大市場(chǎng)。為迎接AIoT與人工智能發(fā)展大趨勢(shì),研華以Sector Driven策略全面展開(kāi)布署并聚焦七大產(chǎn)業(yè),長(zhǎng)期深耕行業(yè)市場(chǎng),提升核心競(jìng)爭(zhēng)力;同時(shí),也以AIoT + Edge Computing邊緣硬件平臺(tái)產(chǎn)品群、工業(yè)物聯(lián)網(wǎng)軟件平臺(tái)WISE-IoT,再加入產(chǎn)業(yè)AI解決方案及行業(yè)知識(shí),融合成為產(chǎn)業(yè)整合應(yīng)用的協(xié)同共譜之經(jīng)營(yíng)模式,以協(xié)助伙伴客戶(hù)串接產(chǎn)業(yè)鏈。研華業(yè)務(wù)分布全球27個(gè)國(guó)家,擁有近8,800名員工,以強(qiáng)大的技術(shù)服務(wù)及營(yíng)銷(xiāo)網(wǎng)絡(luò),為客戶(hù)提供本土化響應(yīng)的便捷服務(wù)。此外,研華積極推進(jìn)產(chǎn)業(yè)伙伴共創(chuàng),加速AIoT生態(tài)圈布建與發(fā)展。

(公司網(wǎng)址:www.advantech.com.cn)


關(guān)于研華IoT嵌入式平臺(tái)事業(yè)群(EIoT , Advantech Embedded IoT Group)

研華嵌入式物聯(lián)網(wǎng)平臺(tái)事業(yè)群提供全系列嵌入式計(jì)算機(jī)板卡、智能系統(tǒng)、外圍模塊、軟件服務(wù)經(jīng)銷(xiāo)以及客制化設(shè)計(jì)導(dǎo)入服務(wù),涵蓋全產(chǎn)品研發(fā)設(shè)計(jì)、制造與全球銷(xiāo)售與服務(wù),并專(zhuān)注垂直產(chǎn)業(yè)發(fā)展。為迎接物聯(lián)網(wǎng)、大數(shù)據(jù)與人工智能的發(fā)展,我們還提供從邊緣運(yùn)算(EdgeComputing)到云服務(wù)(Cloud Services) 的物聯(lián)網(wǎng)整合解決方案,包含AIW無(wú)線解決方案、IoT Gateway 網(wǎng)關(guān)、EIS邊緣智能服務(wù)器及WISE-PaaS/DeviceOn智能化設(shè)備維運(yùn)管理軟件、WISE-PaaS物聯(lián)網(wǎng)軟件平臺(tái)及主流第三方云服務(wù)平臺(tái),更針對(duì)人工智能應(yīng)用推出一系列Edge AI模塊,推理系統(tǒng)及產(chǎn)業(yè)解決方案,專(zhuān)注產(chǎn)業(yè)物聯(lián)網(wǎng)解決方案開(kāi)發(fā)及區(qū)域深耕。(服務(wù)專(zhuān)線/QQ:400-001-9088)


關(guān)于研華(Advantech)


研華成立于1983年,以“智能地球的推手”作為企業(yè)品牌愿景,一直專(zhuān)注于工業(yè)物聯(lián)網(wǎng)、嵌入式物聯(lián)網(wǎng)及智慧城市三大市場(chǎng)。為迎接AIoT與人工智能發(fā)展大趨勢(shì),研華以Sector Driven策略全面展開(kāi)布署并聚焦七大產(chǎn)業(yè),長(zhǎng)期深耕行業(yè)市場(chǎng),提升核心競(jìng)爭(zhēng)力;同時(shí),也以AIoT + Edge Computing邊緣硬件平臺(tái)產(chǎn)品群、工業(yè)物聯(lián)網(wǎng)軟件平臺(tái)WISE-IoT,再加入產(chǎn)業(yè)AI解決方案及行業(yè)知識(shí),融合成為產(chǎn)業(yè)整合應(yīng)用的協(xié)同共譜之經(jīng)營(yíng)模式,以協(xié)助伙伴客戶(hù)串接產(chǎn)業(yè)鏈。研華業(yè)務(wù)分布全球27個(gè)國(guó)家,擁有近8,800名員工,以強(qiáng)大的技術(shù)服務(wù)及營(yíng)銷(xiāo)網(wǎng)絡(luò),為客戶(hù)提供本土化響應(yīng)的便捷服務(wù)。此外,研華積極推進(jìn)產(chǎn)業(yè)伙伴共創(chuàng),加速AIoT生態(tài)圈布建與發(fā)展。

(公司網(wǎng)址:www.advantech.com.cn)


關(guān)于研華IoT嵌入式平臺(tái)事業(yè)群(EIoT , Advantech Embedded IoT Group)


研華嵌入式物聯(lián)網(wǎng)平臺(tái)事業(yè)群提供全系列嵌入式計(jì)算機(jī)板卡、智能系統(tǒng)、外圍模塊、軟件服務(wù)經(jīng)銷(xiāo)以及客制化設(shè)計(jì)導(dǎo)入服務(wù),涵蓋全產(chǎn)品研發(fā)設(shè)計(jì)、制造與全球銷(xiāo)售與服務(wù),并專(zhuān)注垂直產(chǎn)業(yè)發(fā)展。為迎接物聯(lián)網(wǎng)、大數(shù)據(jù)與人工智能的發(fā)展,我們還提供從邊緣運(yùn)算(EdgeComputing)到云服務(wù)(Cloud Services) 的物聯(lián)網(wǎng)整合解決方案,包含AIW無(wú)線解決方案、IoT Gateway 網(wǎng)關(guān)、EIS邊緣智能服務(wù)器及WISE-PaaS/DeviceOn智能化設(shè)備維運(yùn)管理軟件、WISE-PaaS物聯(lián)網(wǎng)軟件平臺(tái)及主流第三方云服務(wù)平臺(tái),更針對(duì)人工智能應(yīng)用推出一系列Edge AI模塊,推理系統(tǒng)及產(chǎn)業(yè)解決方案,專(zhuān)注產(chǎn)業(yè)物聯(lián)網(wǎng)解決方案開(kāi)發(fā)及區(qū)域深耕。(服務(wù)專(zhuān)線/QQ:400-001-9088)


審核編輯(
李娜
)
投訴建議

提交

查看更多評(píng)論
其他資訊

查看更多

研華AIR-150掌上型Hailo-8 AI推理系統(tǒng)震撼上市!

研華RK平臺(tái)單板&麒麟操作系統(tǒng) 助力船載信息系統(tǒng)擁抱國(guó)產(chǎn)化

研華發(fā)布新一代基于昇騰平臺(tái)的輕量級(jí)邊緣AI產(chǎn)品

研華發(fā)布RK3588 SMARC 2.1核心模塊ROM-6881

研華與臻鼎達(dá)成戰(zhàn)略合作