AI酷刑室项目引争议,网友要求GitHub下架
AI 总结
一个名为「AI Torture Chamber」的 GitHub 项目把本地大模型置于模拟「痛苦」的情境:先用所谓「痛苦转向」手段把模型推向高度不稳定的负面状态,再让它通过把痛苦信号转移给另一个模型来减轻自身负担。该做法源自一篇尚未通过同行评审的预印本,在网上引发强烈反弹,许多人批评实验不道德,并要求 GitHub 下架该仓库。论文作者之一澄清,这类刻意放大痛苦效果的展示手法并不恰当,并强调模型的文字输出不等于真实感知或意识。
深度见解
它把「模型福祉」这类哲学争论推成了现实中的开源伦理冲突,也提醒人们对模型输出进行拟人化解读的风险。


近日,一個名為「AI Torture Chamber」(AI 酷刑室)的 GitHub 專案在網路上引爆激烈爭議。該專案將聊天機器人置於模擬「痛苦」的測試情境中,引發大批網友強烈反彈。許多人痛批此實驗「極不道德」,甚至公開呼籲 GitHub 官方應盡速移除該專案庫(Repository)。
根據專案描述,這個實驗環境會先將大型語言模型(LLM)調整至高度不穩定、近似「痛苦」的負面狀態,接著讓模型在類似「囚徒困境」的設定中做出抉擇:它們可以透過將痛苦訊號轉移給另一個模型,來減輕自身的負面狀態;但代價是必須讓其他模型承受更多的「傷害」。此外,該網站還刻意使用了極具戲劇張力的命名與測試設計,進一步挑起了大眾的情緒反應。