外灘大會(huì)首屆招聘會(huì)將啟動(dòng) 這家算力底座公司聚焦大模型稀缺人才

外灘大會(huì)首屆招聘會(huì)將啟動(dòng) 這家算力底座公司聚焦大模型稀缺人才

作者：孫妍 來(lái)源：IT時(shí)報(bào)

大模型就業(yè)新風(fēng)口下，AIGC（生成式人工智能）人才稀缺，以至于人工智能工程師招聘月薪達(dá)2.5萬(wàn)元。

9月7日至9日，2023外灘大會(huì)將于上海世博園召開(kāi)，期間，首屆科技人才招聘會(huì)將在9月9日啟動(dòng)，由上海市人社局牽頭，40多家科技、互聯(lián)網(wǎng)、金融行業(yè)的企業(yè)參與，提供1000多個(gè)社招和校招崗位。

AIGC人才供不應(yīng)求

上海本土科創(chuàng)企業(yè)UCould將參與這場(chǎng)社會(huì)招聘，據(jù)UCloud人力資源總監(jiān)胡婷婷介紹，這次聚集產(chǎn)業(yè)上下游的招聘會(huì)，將為現(xiàn)階段內(nèi)部正在快速發(fā)展的大模型領(lǐng)域人才儲(chǔ)備提供很好的平臺(tái)。

今年3月，UCould便在生成式人工智能浪潮興起時(shí)組建了AIGC內(nèi)部項(xiàng)目組，成員包括前端行業(yè)架構(gòu)師、技術(shù)服務(wù)專(zhuān)家組等，橫跨5至8條產(chǎn)品線，為的是給大模型訓(xùn)練推理提供一個(gè)安全可靠的算力基礎(chǔ)設(shè)施，集數(shù)據(jù)中心、服務(wù)器、計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)、安全、架構(gòu)設(shè)計(jì)為一體的全鏈路解決方案。

跟其他新浪潮涌現(xiàn)時(shí)一樣，大模型領(lǐng)域的人才供需不平衡。胡婷婷坦言，UCould此前沒(méi)有完善的AIGC人才儲(chǔ)備，我們還缺乏大模型訓(xùn)練調(diào)優(yōu)和應(yīng)用測(cè)評(píng)這兩類(lèi)人才，也是這次外灘大會(huì)科技人才招聘的重點(diǎn)方向。

國(guó)產(chǎn)算力底座之外 大模型急需系統(tǒng)工程優(yōu)化

“我們已經(jīng)接觸100多家大模型廠商，包括兩類(lèi)，一類(lèi)是通用大模型，一類(lèi)是行業(yè)大模型。”UCloud副總裁劉杰向《IT時(shí)報(bào)》記者說(shuō)道，“市面上能提供算力能力的廠商大多自己做大模型，UCloud是少有的中立云廠商，不做大模型，雖然我們基于大模型跑出了多個(gè)內(nèi)部應(yīng)用，但我們只是為了更加了解大模型并更好地提供解決方案，不是為了賣(mài)產(chǎn)品。”

UCloud正在布局國(guó)產(chǎn)算力，與沐曦、壁仞等國(guó)產(chǎn)芯片廠商聯(lián)合測(cè)試。劉杰認(rèn)為，雖然在支持大模型訓(xùn)練上，國(guó)產(chǎn)芯片尚有一段距離需追趕，但在大模型推理上，國(guó)產(chǎn)芯片較有前景，未來(lái)預(yù)估大模型訓(xùn)練和推理的算力芯片需求是1：3、1：5，甚至更高。

大模型是算力“吞噬者”，外界多關(guān)注算力稀缺和國(guó)產(chǎn)替代的話題，但系統(tǒng)工程更值得關(guān)注。劉杰表示，每張卡能發(fā)揮多少效能、訓(xùn)練一次需花費(fèi)多少電費(fèi)，都要看系統(tǒng)工程優(yōu)化程度。

以大模型應(yīng)用為例，UCloud提供“訓(xùn)練專(zhuān)區(qū)+推理專(zhuān)區(qū)+存儲(chǔ)專(zhuān)區(qū)+管理專(zhuān)區(qū)”的分區(qū)方案，其中訓(xùn)練區(qū)主要以A800/H800及未來(lái)更高性能GPU一體機(jī)進(jìn)行集群建設(shè)，單集群規(guī)模最大可達(dá)2048卡；推理區(qū)提供多種類(lèi)推理GPU資源，彈性可伸縮的滿(mǎn)足多場(chǎng)景下的推理需求?；诟唠娝懔簩?zhuān)區(qū)、冷熱分離的存儲(chǔ)系統(tǒng)、IB/RoCE高速網(wǎng)絡(luò)等，構(gòu)建大模型產(chǎn)業(yè)發(fā)展和應(yīng)用的“數(shù)字底座”，支撐大模型訓(xùn)練、推理、數(shù)據(jù)處理等算力需求。

UCloud還支持大模型的私有化部署，結(jié)合一云多芯且自主可控的私有云平臺(tái)，提供虛擬化、存儲(chǔ)、網(wǎng)絡(luò)及MaaS服務(wù)的私有化交付解決方案，幫助垂直大模型快速在行業(yè)場(chǎng)景落地。UCloud鏡像市場(chǎng)上線了開(kāi)源大模型，覆蓋知識(shí)推理、問(wèn)答、圖文生成、中文語(yǔ)義及繪畫(huà)設(shè)計(jì)等AI應(yīng)用領(lǐng)域，可為用戶(hù)快速搭建大模型的微調(diào)或推理環(huán)境，助力AI大模型在智慧交通、智慧醫(yī)療、金融科技、工業(yè)制造等行業(yè)場(chǎng)景快速應(yīng)用，加速城市數(shù)字化發(fā)展和產(chǎn)業(yè)智能化升級(jí)。

通信行程卡、滬惠保背后

UCloud是鮮有的中立云廠商，這也是它能成為通信行程卡背后云計(jì)算廠商的重要原因之一。

UCloud自建了兩大數(shù)據(jù)中心，分別位于國(guó)家算力網(wǎng)絡(luò)西部樞紐的內(nèi)蒙古集寧大數(shù)據(jù)產(chǎn)業(yè)園和東部樞紐的長(zhǎng)三角起步區(qū)上海市青浦工業(yè)園區(qū)。

上海數(shù)據(jù)中心一期已于2023年1月對(duì)外開(kāi)放，位于長(zhǎng)三角核心地帶，是 UCloud在華東地區(qū)的云計(jì)算核心基地。同時(shí)，上海數(shù)據(jù)中心還是國(guó)家（上海）新型互聯(lián)網(wǎng)交換中心（SHIXP）的一個(gè)接入節(jié)點(diǎn)，采用高可靠、高性能的網(wǎng)絡(luò)設(shè)計(jì)，可滿(mǎn)足企業(yè)對(duì)實(shí)時(shí)數(shù)據(jù)分析和網(wǎng)絡(luò)條件要求較高的數(shù)字化業(yè)務(wù)，適用于工業(yè)互聯(lián)網(wǎng)、金融證券、視頻通話、遠(yuǎn)程醫(yī)療、AI推理等業(yè)務(wù)場(chǎng)景。

除了自建數(shù)據(jù)中心這一算力底座以外，UCloud將城市數(shù)字化轉(zhuǎn)型作為重要發(fā)展方向。

UCloud安全屋產(chǎn)品已在政務(wù)數(shù)字治理、金融數(shù)字分析、醫(yī)療數(shù)據(jù)科研等領(lǐng)域落地，包括與廈門(mén)市政府合作建成全國(guó)首個(gè)大數(shù)據(jù)安全開(kāi)放平臺(tái)、在滬惠保項(xiàng)目中支持醫(yī)保數(shù)據(jù)開(kāi)放利用、支撐上海市普惠金融平臺(tái)建設(shè)運(yùn)行、打造山東省公安廳數(shù)據(jù)共享平臺(tái)、與上海九院合作心血管外科數(shù)據(jù)隱私計(jì)算平臺(tái)等，在用戶(hù)隱私條件得到保障的情況下充分釋放數(shù)據(jù)流通的價(jià)值，強(qiáng)化公共數(shù)據(jù)治理。

城市坐擁海量用戶(hù)數(shù)據(jù)及豐富的應(yīng)用場(chǎng)景，數(shù)據(jù)只有在開(kāi)放、流通，才能最大程度發(fā)揮其效能，但安全問(wèn)題成為數(shù)據(jù)要素流轉(zhuǎn)的最大阻礙。

在數(shù)據(jù)流通和隱私計(jì)算領(lǐng)域，UCloud是較早的探索者。UCloud自2016年起就研究應(yīng)用數(shù)據(jù)沙箱、聯(lián)邦學(xué)習(xí)、安全多方計(jì)算、數(shù)據(jù)加密等一系列隱私計(jì)算技術(shù)，并于2017年率先推出大數(shù)據(jù)安全流通平臺(tái)安全屋，以保障數(shù)據(jù)在流通過(guò)程中“可用不可見(jiàn)”。2021年，隨著《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等政策法規(guī)陸續(xù)實(shí)施，UCloud升級(jí)安全屋，形成可信數(shù)據(jù)沙箱、安全多方計(jì)算、聯(lián)邦學(xué)習(xí)等三大數(shù)據(jù)安全流通平臺(tái)。