一種聚焦于提示的大語言模型隱私評估和混淆方法

摘要： 雖然大語言模型在語義理解方面表現(xiàn)優(yōu)異,但頻繁的用戶交互帶來了諸多隱私風險。文章通過部分回憶攻擊和模擬推理游戲對現(xiàn)有的大語言模型進行隱私評估,證明了常見的大語言模型仍存在兩類棘手的隱私風險,即數(shù)據(jù)脫敏處理可能影響模型響應質量以及通過推理仍能獲取潛在的隱私信息。為了應對這些挑戰(zhàn),文章提出了一種聚焦于提示的大語言模型隱私評估和混淆方法。該方法以結構化進程展開,包括初始描述分解、偽造描... （共13頁）