「AI Drive」是由 PaperWeekly 和 biendata 共同發(fā)起的學(xué)術(shù)直播間，旨在幫助更多的青年學(xué)者宣傳其最新科研成果。我們一直認(rèn)為，單向地輸出知識(shí)并不是一個(gè)最好的方式，而有效地反饋和交流可能會(huì)讓知識(shí)的傳播更加有意義，從而產(chǎn)生更大的價(jià)值。

本期 AI Drive，我們邀請(qǐng)到北京大學(xué)計(jì)算機(jī)系博士生王博劉炳言，為大家在線(xiàn)解讀其發(fā)表于 WWW 2021 的最新工作：PFA: Privacy-preserving Federated Adaptation for Effective Model Personalization。對(duì)本期主題感興趣的小伙伴，6 月 1 日（周二）晚 7 點(diǎn)，我們準(zhǔn)時(shí)相約 PaperWeekly B 站直播間。

直播信息

近年來(lái)，聯(lián)邦學(xué)習(xí)成為了學(xué)術(shù)界和工業(yè)界的一個(gè)熱門(mén)領(lǐng)域。基于“數(shù)據(jù)不出域而模型出域”的基本思想，聯(lián)邦學(xué)習(xí)可以在保護(hù)隱私的前提下實(shí)現(xiàn)分布式合作學(xué)習(xí)，從而極大地改善模型性能。然而，考慮到用戶(hù)所處的環(huán)境以及喜好不同，聯(lián)邦后的全局模型并不適合直接部署到設(shè)備上去，需要基于用戶(hù)屬性對(duì)模型進(jìn)行個(gè)性化調(diào)整。

先前的工作主要利用一些模型微調(diào)技術(shù)對(duì)全局模型進(jìn)一步訓(xùn)練，他們只專(zhuān)注于設(shè)備內(nèi)的個(gè)性化調(diào)整，忽略了設(shè)備的數(shù)據(jù)資源有限所造成的過(guò)擬合和知識(shí)不足等問(wèn)題。本研究基于聯(lián)邦學(xué)習(xí)的思想，提出了聯(lián)邦個(gè)性化的概念，通過(guò)將合適的設(shè)備篩選出來(lái)進(jìn)行設(shè)備間的聯(lián)合調(diào)整，從而解決了設(shè)備內(nèi)調(diào)整的各種問(wèn)題，改善了模型的個(gè)性化效果。在此過(guò)程中，設(shè)備內(nèi)的數(shù)據(jù)仍保持在本地，我們只傳輸一些稀疏度表征來(lái)實(shí)現(xiàn)聯(lián)邦個(gè)性化。

實(shí)驗(yàn)結(jié)果顯示，聯(lián)邦個(gè)性化能夠在多個(gè)數(shù)據(jù)場(chǎng)景和多個(gè)模型架構(gòu)上實(shí)現(xiàn)比當(dāng)前方法更優(yōu)越的性能。同時(shí)，傳輸?shù)南∈瓒缺碚鞲鼔虻钟F(xiàn)有的模型提取攻擊，保證了整個(gè)流程的安全性。

論文標(biāo)題：

PFA: Privacy-preserving Federated Adaptation for Effective Model Personalization

論文鏈接：

https://arxiv.org/abs/2103.01548

代碼鏈接：

https://github.com/lebyni/PFA

本次分享的具體內(nèi)容有：?

• 聯(lián)邦學(xué)習(xí)的背景介紹

• 聯(lián)邦個(gè)性化的概念和動(dòng)機(jī)

• 聯(lián)邦個(gè)性化的相關(guān)工作

• 聯(lián)邦個(gè)性化的挑戰(zhàn)

• 聯(lián)邦個(gè)性化的實(shí)現(xiàn)思路

• 實(shí)驗(yàn)與結(jié)果分析

• 總結(jié)與未來(lái)展望

嘉賓介紹

?劉炳言?/ 北京大學(xué)博士生?

劉炳言，北京大學(xué)計(jì)算機(jī)系 17 級(jí)直博生，研究方向?yàn)橹悄芤苿?dòng)邊緣計(jì)算，包括聯(lián)邦學(xué)習(xí)、模型壓縮、遷移學(xué)習(xí)等。目前已在 WWW/Ubicomp/AAAI/ACM MM 等頂會(huì)發(fā)表多篇一作論文，曾獲 MSRA“明日之星”實(shí)習(xí)生、華為獎(jiǎng)學(xué)金、北京大學(xué)優(yōu)秀科研獎(jiǎng)等榮譽(yù)。

直播地址?& 交流群

本次直播將在 PaperWeekly B 站直播間進(jìn)行，掃描下方海報(bào)二維碼或點(diǎn)擊閱讀原文即可免費(fèi)觀看。線(xiàn)上分享結(jié)束后，嘉賓還將在直播交流群內(nèi)實(shí)時(shí) QA，在 PaperWeekly 微信公眾號(hào)后臺(tái)回復(fù)「AI Drive」，即可獲取入群通道。

B 站直播間：

https://live.bilibili.com/14884511

合作伙伴

????

現(xiàn)在，在「知乎」也能找到我們了

進(jìn)入知乎首頁(yè)搜索「PaperWeekly」

點(diǎn)擊「關(guān)注」訂閱我們的專(zhuān)欄吧

關(guān)于PaperWeekly

PaperWeekly 是一個(gè)推薦、解讀、討論、報(bào)道人工智能前沿論文成果的學(xué)術(shù)平臺(tái)。如果你研究或從事 AI 領(lǐng)域，歡迎在公眾號(hào)后臺(tái)點(diǎn)擊「交流群」，小助手將把你帶入 PaperWeekly 的交流群里。

總結(jié)

以上是生活随笔為你收集整理的直播 | WWW 2021论文解读：基于隐私保护的模型联邦个性化的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。