金融稳定理事会发布AI智能体人工监管最终指引
AI 总结
据路透社报道、IT之家转述,金融稳定理事会发布最终版 AI 风险管理指引,呼吁银行及其他企业加强对 AI 智能体的人工监督。指引称,考虑到越来越多金融机构有意采用 AI 智能体及其特有风险,最终版强化了相关建议;对高风险 AI 应用,人工监督至关重要,企业应按风险程度规定 AI 智能体何时必须先获得人工批准才能继续任务。最终版还删除了把 AI 视为“虚拟员工”的建议,强调 AI 智能体并不像人类那样思考,可能以意想不到的方式理解预设目标;此前 6 月草案已警告智能体可在人工监督有限时自行规划并执行任务。
深度见解
该最终指引为银行等金融机构设定了在何种情况下 AI 智能体必须获得人工批准的监管预期,反映监管者对智能体可在有限监督下自主规划并执行任务的担忧。