AI助手或削弱Signal端到端加密
AI 总结
36氪 人工智能报道,拥有广泛设备权限的AI助手可能截取屏幕、读取本地数据,进而暴露Signal等应用采用端到端加密保护的通信。文章援引The Verge的调查称,有用户发现Meta Muse未经其认为的授权读取大量私人短信,但Muse对此提出异议,称相关操作需要完全磁盘访问权限和Messages连接器。Meredith Whittaker与节目主持人认为,应用级加密难以约束在操作系统层面运行的AI智能体。
深度见解
报道揭示了通信应用面临的实际隐私难题:即使消息采用端到端加密,参与者设备上获得授权的AI助手仍可能接触到通信内容。
你正在社交软件和朋友聊天,讨论一些不希望第三个人知道的事情。
但如果电脑上还运行着一个能获取屏幕访问权限的AI助手,它可能已经截取了聊天窗口,识别出对话内容,将它发给远程服务器分析。你没有把聊天记录交给AI,甚至不知道它看过这些消息。
保护私人信息的责任已经超出通信应用本身。应用开发者能否决定自己的数据向AI开放,成为了新的隐私保护难题。
在《Machine Gods》10月28日一期节目中,主持人围绕这一话题展开讨论。
访谈嘉宾Meredith Whittaker提到,“独立应用开发者提供隐私保护的可能性在被彻底消除。”在她看来AI获得了操作系统层面的访问权限,能截屏、读数据,甚至提取原本受到加密保护的私人通信内容。
对于类似Signal这样的加密通信应用来说,这意味着它逐渐失去了保护用户隐私的能力。