AI编程代理面临漏洞与责任挑战
AI 总结
科技新报指出,AI生成程式虽能加快开发,却可能不符合整体系统架构、重复既有功能,并带来维护隐忧。XData Group创办人Roman Eloshvili引述Veracode研究称,2026年测试的AI写程式任务中,约44%含有已知漏洞,并建议由另一模型审查,避免复制相同盲点。 科技新报转述的Anthropic分析显示,约40万个Claude Code工作阶段多数由人类规划、AI执行。Cequence Security共同创办人Shreyans Mehta警告,代理高速大量运作可能使“人在回路中”审核沦为橡皮图章,并主张模型开发商、部署企业与产业生态共同承担责任。
深度见解
报道将讨论焦点从AI编程速度转向软件品质、审查有效性,以及自主开发流程发生错误时的责任归属。


生成式 AI 大幅加速程式開發,AI 代理(AI agent)也逐步自動執行任務,但出了問題該由誰負責,成為產業必須面對的課題。兩位科技業高層近日在《富比士》(Forbes)科技委員會專欄撰文,分別從程式品質與管理 AI 代理切入,指出責任不會因自動化消失,而是轉移到掌握控制權的一方。
專注歐洲銀行業的B2B軟體開發商XData Group創辦人暨執行長Roman Eloshvili指出,AI寫程式的速度遠快於人工,但會寫程式不等於交出可靠的軟體。AI程式單獨看或許正確,卻可能不符整體系統架構,如重複既有功能,埋下日後維護隱憂。他引述Veracode研究,2026年測試約44%的AI寫程式任務含已知漏洞。
#XData Group#Veracode#Anthropic#Claude Code#Cequence Security