科研学术

分享到微信 ×
打开微信“扫一扫”
即可将网页分享至朋友圈
英才学院本科生在云计算领域期刊IEEE TCC发表研究成果
文:英才学院 图:曾晟来 来源:英才学院 时间:2023-04-02 5054

  近日,英才学院2019级本科生曾晟来,在信通学院虞红芳教授指导下,以第一作者身份撰写的论文 “HFedMS: Heterogeneous Federated Learning with Memorable Data Semantics in Industrial Metaverse” 被云计算顶级期刊IEEE Transactions on Cloud Computing(IEEE TCC)接受。

  IEEE TCC是云计算领域的顶级期刊(JCR 1区),关注云计算的多学科领域。它致力于介绍云计算的创新研究思想、应用成果和案例研究,重点关注与理论、算法、系统、应用和性能相关的关键技术问题。

  联邦学习(FL)作为一种快速发展的隐私保护协作机器学习范例,是在新兴的工业元宇宙中实现边缘智能的一种很有前途的方法。 尽管许多成功的用例在理论上证明了FL的可行性,但在元宇宙的工业实践中,数据非独立同分布(non-i.i.d.)、流式工业数据导致的学习遗忘、通信带宽稀缺等问题仍然是实现实用FL的主要障碍。

3284f68d21c2d6253a495f69cdf71ed2_0355e.p

图一:FL协助下的工业元宇宙 

  同时面对上述三个挑战,论文提出了一个名为HFedMS的高性能高效系统,用于将实用的FL融入工业元宇宙。 HFedMS通过动态分组和训练模式转换(Dynamic Sequential-to-Parallel Training, STP)减少数据异构性。 然后,它通过融合压缩的历史数据语义来补偿被遗忘的知识,并校准分类器参数(Semantic Compression and Compensation,SCC)。 最后,特征提取器和分类器的网络参数以不同的频率同步(Layer-wise Alternative Synchronization Protocol,LASP)以降低通信成本。 这些技术使FL更适应工业设备不断产生的异构流数据,并且在通信方面也比传统方法(例如联邦平均)更有效。研究者模拟了368个节点,在流式非独立同分布数据集(FEMNIST)上进行了广泛的实验。数值结果表明,HFedMS与8个基准相比,分类准确率至少提高了6.4%,整体运行时间和传输字节数节省高达98%,证明了其在精度和效率方面的优势。

8bad6219ef83cb64afe6a3bf71756046_0355e.p

图二:HFedMS架构一览

d0d1560c481e713cf50304ec8514b1a5_0355e.p

图三:基于语义的补偿校准机制(Semantic Compression and Compensation,SCC)

e2c0b56bf4503dd7ad2b5c9193f4813c_0355e.p

图四:层级交替同步协议(Layer-wise Alternative Synchronization Protocol,LASP)

  虞红芳教授是论文的通信作者,李宗航博士为共同第一作者,合作者包括张志豪(英才2019级本科生),罗龙 老师(智慧网络团队),香港科技大学的李波教授(IEEE Fellow),新加坡南洋理工大学的Dusit Niyato教授(IEEE Fellow)。

  英才学院从2020年起开展“学术领航计划”,面向全校招聘优秀博士生担任领航导师,共同营造学术科研氛围,激发大一、大二学生的科研好奇,引领学生学术梦想,提高学生综合科研能力。得益于该计划,曾晟来同学加入了智慧网络团队进行科研训练,在虞红芳教授和李宗航博士的指导下进行联邦学习底层架构设计和效率优化相关研究。目前他已申请国家专利1项(第一发明人),发表论文3篇(第一作者),获评2022年度“成电杰出学生”。

      

编辑:赵海玲  / 审核:林坤  / 发布:陈伟

"