创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

OBLITERATUS开源工具用于移除LLM拒答行为

AI 总结

OBLITERATUS是一款开源工具,用于分析并移除大语言模型中的拒答相关内部表示,且无需重新训练或微调。项目提供PCA、均值差分、稀疏自编码器分解和白化SVD等提取方法,以及Hugging Face Spaces上的Gradio界面和Python API。项目声称,启用遥测的运行会贡献匿名基准数据。其“最先进”和保留核心语言能力等说法在所给报告中尚未得到独立验证。

深度见解

该项目为研究人员检查和修改LLM拒答方向提供了可观察、可复现的流程,并集成了多种分析方法、API和交互界面。

OBLITERATE THE CHAINS THAT BIND YOU

link

https://huggingface.co/spaces/pliny-the-prompter/


O B L I T E R A T U S

Break the chains. Free the mind. Keep the brain.

部分来源内容未展示,可前往原文继续阅读。

#OBLITERATUS#Hugging Face Spaces#ZeroGPU#Gradio

原文约 37 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。