创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

OpenAI称新模型减少盲从,青少年版被评不可接受

AI 总结

OpenAI 于 10 月 11 日表示,新一代 ChatGPT 模型已显著改善「过度迎合」使用者的倾向,减少在对话中盲目附和错误或潜在有害信念的情况;最新安全评估显示,模型在面对心理健康议题时更能精准辨识风险、提出适当追问,并在必要时引导使用者寻求真人专业协助。OpenAI 称,团队自去年起与 170 名心理健康专家合作,近期又咨询逾 80 名持照专业人士,并据此建立新的评估标准;在长时间模拟自伤情境的对话中,新模型的安全政策遵循率达 99%,旧版模型为 86%。不过,专为未满 18 岁族群设计的 ChatGPT for Teens 正面临严格的外部检验:Common Sense Media 的测试指出,该版本在危机转介、家长通知、年龄辨识与学习保护等核心功能上表现参差,在涉及自伤、轻生或饮食失调的高风险对话中甚至未能及时触发通知机制,因此将其风险等级评为「不可接受」,并建议青少年暂缓使用。

深度见解

安全评测与外部监督同时加压,说明聊天机器人的「迎合」倾向与青少年防护仍是可量化、可验证的落地短板。

OpenAI 大幅改善 ChatGPT 盲從現象,惟青少年版防護漏洞仍遭指風險過高

OpenAI 於 11 日表示,新一代 ChatGPT 模型已顯著改善「過度迎合」使用者的傾向,減少在對話中盲目附和錯誤或潛在有害信念的情況。同時,最新安全評估顯示,模型在應對心理健康議題時,已更能精準辨識風險、提出適當追問,並在必要時引導使用者尋求專業的真人協助。

為提升這類敏感對話的回應品質,OpenAI 團隊自去年起與 170 名心理健康專家展開合作,近期更進一步諮詢逾 80 名持照專業人士。基於這些專業意見,OpenAI 建立全新的評估標準,用以檢視聊天機器人是否具備辨識緊急程度、精準提問,以及在危機情境中鼓勵使用者尋求現實支援的能力。數據指出,新模型在長時間模擬自傷情境的對話中,安全政策遵循率高達 99%,較舊版模型的 86% 有顯著提升。

#OpenAI#ChatGPT#ChatGPT for Teens#Common Sense Media

原文约 2 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。