講座主題：基于邊云協(xié)同的AI大模型輕量化部署
主要內(nèi)容：隨著深度學(xué)習(xí)，尤其是AI大語(yǔ)言模型的廣泛應(yīng)用，如何在資源受限的物聯(lián)網(wǎng)設(shè)備上高效部署這些計(jì)算密集型模型成為一大挑戰(zhàn)。由于大模型的參數(shù)量達(dá)到數(shù)十億甚至數(shù)千億級(jí)別，其在物聯(lián)網(wǎng)設(shè)備上的部署不僅計(jì)算成本高昂，而且推理時(shí)間長(zhǎng)。本次報(bào)告聚焦于基于邊云協(xié)同的輕量化部署方案，通過(guò)將深度學(xué)習(xí)模型按計(jì)算任務(wù)進(jìn)行分割，較大的模型卸載到云服務(wù)器，較小的部分則交由邊緣服務(wù)器處理。通過(guò)結(jié)合云端訓(xùn)練與本地推理的方法，既能滿足物聯(lián)網(wǎng)設(shè)備對(duì)高能效和低延遲的要求，又能有效減少模型體積和推理計(jì)算量，從而顯著提升推理效率。該方案為物聯(lián)網(wǎng)環(huán)境中的AI大模型部署提供了一種新的高效路徑。
主講人簡(jiǎn)介：吳華明，男，天津大學(xué)應(yīng)用數(shù)學(xué)中心教授、博士研究生導(dǎo)師。主要研究方向?yàn)橐苿?dòng)云計(jì)算、物聯(lián)網(wǎng)、移動(dòng)邊緣計(jì)算、深度學(xué)習(xí)等。研究成果主要發(fā)表在NCS、TPDS、TMC、TSC、TCYB、Globecom、ICC等知名國(guó)際期刊與會(huì)議上。曾主持國(guó)家自然科學(xué)基金項(xiàng)目、天津市自然科學(xué)基金項(xiàng)目、華為創(chuàng)新研究計(jì)劃、阿里活水計(jì)劃課題項(xiàng)目等若干項(xiàng)。曾獲得斯坦福大學(xué)評(píng)選的2020-2024年全球前2%科學(xué)家；Elsevier JSA、VEHCOM和COMCOM頂級(jí)同行審稿人；IEEE網(wǎng)絡(luò)科學(xué)與工程學(xué)報(bào)(TNSE)優(yōu)秀審稿人；IEEE通信學(xué)報(bào)(TCOM)模范審稿人等榮譽(yù)。
講座時(shí)間：2025年6月11日14:00-16:00
講座地點(diǎn)：理學(xué)院1-806會(huì)議室
辦事大廳