OpenAI收紧ChatGPT青少年武器限制，强制中止暴力对话
AI 总结
OpenAI于10月30日宣布，将收紧ChatGPT对18岁以下用户提供的武器与保全系统实用资讯，即便提问看似无害也会限制回答。OpenAI表示，若对话反覆聚焦暴力或表达重伤他人的意图，ChatGPT可能自动结束对话，多次违规者账号可能被暂时停权，青少年账号遭暂停时将通知家长。新规同时限制重建大规模袭击事件时关于武器、取得方式与伤亡规模比较的细节，将在数周内陆续上线。
深度见解
在青少年安全争议、诉讼与Common Sense Media批评之际，此举进一步收紧了针对未成年人的平台防护机制。
OpenAI 美國時間 10 月 30 日宣布，將收緊 ChatGPT 提供青少年武器相關資訊，即使提問看似無害，系統也會限制回答。這是 OpenAI 防範 AI 工具遭濫用、引發現實暴力的連串新措施之一，數週內會陸續上線。
OpenAI表示，ChatGPT原本就禁止協助使用者從事暴力行為，也不會協助青少年取得武器。新規定更進一步：18歲以下使用者，即使對話沒有任何暴力意圖跡象，ChatGPT也會限制提供可能遭濫用暴力行為的武器與保全系統實用資訊。但青少年仍可尋求ChatGPT預防或化解衝突的協助、取得支援，或與可信任的成年人聯絡。