创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

MIT与康奈尔用测试时调适提升AI文字侦测

AI 总结

MIT与康奈尔研究人员将测试时调适(TTA)用于AI文字侦测器,使部署后的模型可利用新上传文字进行调整,无需从头训练。据科技新报报导,该方法对伪装成人类写作的AI文字检出率超过93%,商用侦测器约为27%;在模拟人类语言变化的实验中,其准确率为85%,传统方法为73%。研究当时计划在NeurIPS发表。

深度见解

据科技新报报导,TTA可让AI文字侦测器随写作习惯与模型输出变化而调整,有助于识破经过改写的AI文字,且无需从头训练。

AI 文字偵測器學會邊用邊調整,識破偽裝文字準確率逾九成 | TechNews 科技新報

AI 文字偵測器學會邊用邊調整,識破偽裝文字準確率逾九成

麻省理工學院(MIT)與康乃爾大學用「測試時調適」(test-time adaptation,TTA)技術,讓 AI 文字偵測器上線後仍能持續學習。實驗顯示,面對刻意偽裝成人類寫作的 AI 文字,商用偵測器只能辨識出約 27%,新方法可抓出逾 93%。這項研究將在神經資訊處理系統大會(NeurIPS)發表。

AI文字偵測器本身也是AI模型。開發者通常蒐集已知出自人類或AI的網路文字來訓練它,但模型上架後,如果遇到和訓練資料差異太大的文字,就可能判斷失準,這種情況稱為「分布偏移」。人類寫作習慣會隨時間改變,大型語言模型也不斷推出,還有人用「人性化」(humanizer)改寫工具把AI文字修飾得更像人。論文第一作者、康乃爾理工學院(Cornell Tech)研究生Kevin Ren說,偵測器和改寫工具的攻防就像重複的循環,可能永遠不會結束。

#MIT#Cornell University

原文约 4 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。