(来源:瞭望)
转自:瞭望
◆ 这些手机凭借较为强大的AI功能,为用户带来了便捷的体验,如根据一个语音指令,其便能模拟人工操作,进行一系列跨应用的自动化任务处理
◆ 相关业内人士和专家提醒,在享受这些便利的同时,也要提醒消费者关注隐私、信息数据乃至资金账户等安全问题
随着人工智能技术快速发展,AI手机开始走进人们的视野。这些手机凭借较为强大的AI功能,为用户带来了便捷的体验,如根据一个语音指令,其便能模拟人工操作,进行一系列跨应用的自动化任务处理。
然而,相关业内人士和专家提醒,在享受这些便利的同时,也要提醒消费者关注隐私、信息数据乃至资金账户等安全问题。
以消费者最为关注的银行账户安全为例,AI手机助手若拥有过高的权限,就有可能突破应用程序的“沙箱”隔离机制,获取用户的银行账户信息。例如,一些恶意软件可能会利用AI手机助手的权限,模拟用户操作进行转账等交易,而用户却浑然不知。
微信聊天记录可能被截取滥用也是个值得关注的问题。微信作为人们日常交流的重要工具,包含大量个人隐私信息,如聊天记录、照片、视频等。如果AI手机助手在未经用户充分授权或没有完全意识到事情严重性的情况下,获取了访问微信的权限,就有可能截取并滥用这些聊天记录。这不仅侵犯了用户的隐私权,并可能危及用户聊天对象的隐私权,或导致个人声誉受损、人际关系破裂等严重后果。
需要提醒的是拥有INJECT_EVENTS权限(即“注入事件”权限,它允许一个应用程序模拟用户操作)的程序可能存在的风险。这种权限属于系统级全局权限,拥有该权限的程序可以直接向屏幕坐标“发射信号”,模拟用户的触摸、点击等操作,而应用根本无法区分这是真人的操作还是代码生成的信号,极难防御。想象一下,如果一个恶意黑客软件获取了这种权限,它可以在用户不知情的情况下,模拟用户输入银行密码、点击转账确认等操作,给用户带来难以挽回的经济损失。
在近日中国政法大学民商经济法学院等主办的“侵入式AI的风险与治理:法律与技术对话”研讨会上,专家们对AI代理(Agent)的风险进行了深入剖析。
对外经济贸易大学法学院教授、数字经济与法律创新研究中心主任许可介绍了美国亚马逊诉AI公司Perplexity利用用户的AI代理账号帮助用户购物违反《计算机欺诈与滥用法案》、平台规则并造成商业损失的案例。
许可分析,该案核心争议反映了AI代理三方关系(用户、Agent、第三方平台)的法律困境:Agent声称是用户权利延伸,但平台认为其行为破坏了商业生态和安全秩序。
结合中国司法实践,许可强调,用户授权不能替代平台授权,这一原则在数据爬取案件中已得到确认——例如Hehson微博诉某平台案中,法院认定大V授权不足以豁免该平台的爬取行为侵权责任。
但许可也指出,“AI代理和传统爬取是两种完全不同的技术手段,不能把传统的用于数据爬取的规制运用到Agent的使用上”,因此应区分两种Agent形态:纯粹的“代理人”(行为限定在用户授权范围)和“中介合作者”(可能存在自身利益诉求),不同形态对应不同的法律责任框架。
北京汉华飞天信安科技有限公司总经理彭根指出,无障碍权限从最初的“能力补全”升级为“能力增强”,带来了权限的无边界扩张和行为主体的模糊化两大核心风险。走出去智库总经理陆俊秀也强调,AI代理的风险具有系统性和隐蔽性,其威胁已经超出了单纯的权限滥用范畴。
为了更好地保护手机安全,用户需要采取一系列措施。相关业内人士建议,首先,要谨慎授权,只在必要时开启必要的权限,并定期检查权限使用记录。其次,要严控可见范围,在相关应用程序的“设置-隐私-授权管理”里,清理不必要的第三方授权,对助手仅授予达成任务所必需的最小权限。再次,还要关闭或限制“记忆/全局记忆”,在助手设置里关闭全局记忆或对特定APP的收藏和历史读取,减少敏感信息被自动感知与调用。此外,涉及支付、验证码、账号登录等敏感操作,务必亲自确认,避免完全托管。最后,要关注系统与平台更新,若平台更新了AI权限和自动化规则,及时按新规调整设置,确保持续合规与安全。
AI大潮之下,只有企业、用户和监管部门共同努力,才能在享受AI手机带来的便利的同时,筑牢安全防线,让AI技术更好地服务于我们的生活。
AI手机的出现或为我们的生活带来便利,但不能以牺牲信息、隐私、资金等安全为代价,安全是红线,也是底线。(文/ 廖计)