0次浏览 发布时间：2025-04-09 13:19:00
21世纪经济报道记者 孟荇 北京报道
2025年被视为AI智能体元年，伴随着智能体快速应用，数据泄露风险、无障碍权限不当利用等问题随之而来。
自2024年12月起，南财合规科技研究院、21世纪经济报道竞争秩序场课题组推出了系列报道，实测了多款AI手机智能体，发现了手机终端、第三方大模型、APP以及云服务等参与方数据安全上的责任关系不明确；用户对个人信息的知情权与自决权无法有效落地；无障碍功能的使用混乱、管理分散、授权提示不到位等问题。
为此，南财合规科技研究院接连举办了业内首个端侧AI治理的研讨会、发布AI智能体报告、发出南财倡议，呼吁加强无障碍功能权限管理，提升无障碍功能调用透明度。
这些举措旨在推进行业健康发展，也在得到陆续回应。
日前中国软件行业协会亦发布了《移动互联网服务可访问性安全要求》团体标准。针对此前南财报道中提及的问题，该团体标准提及，禁止滥用无障碍服务、保障用户权益、禁止利用系统权限优势，干扰第三方APP运行等。
AI驱动的智能体应用能够理解用户意图、自动执行任务。以“智能助手”为代表的AI智能体正在快速应用，用户通过自然语言指令即可操作第三方App、访问互联网服务，“一句话点2000杯奶茶”等AI自动化操作场景不断演化。
在终端侧，海外厂商苹果、谷歌等先后推出以AI为亮点的智能手机，以Siri为代表的海外手机智能体仍在审慎升级功能。国内厂商荣耀、华为、小米、OPPO、vivo亦运用大模型技术升级了原有的手机助手，变身为AI智能体。在应用侧，国外大模型企业OpenAI基于GPT大模型推出智能体Operator，国内如智谱也推出手机智能体AutoGLM。
以智能助手、AI识屏为代表的智能体提升了移动互联网服务的可访问性，为用户带来了便捷的使用体验。但不少智能体也带来了数据安全的问题。
自2024年12月起，南财合规科技研究院、21世纪经济报道竞争秩序场课题组推出了系列报道，实测了多款AI手机智能体，举办了业内首个端侧AI治理的研讨会。在大量前期研究以及十轮的测评中发现，目前手机智能体产品性能的迭代与合规存在差距，造成了诸多错位，技术虽为AI手机开启了崭新的篇章，但却给政策制定者和行业带来诸多亟待解答的问题。
一、我们测评中发现了无障碍服务滥用风险问题。手机智能体借助系统层级无障碍服务，以“读屏+模拟点击”的方式来实现各种自动化功能，引起了用户数据泄露风险、隐私保护缺失以及系统安全等问题。
无障碍服务是一项高度敏感的权限，本意是用于服务残障或其他需要特殊辅助的用户。用户开启无障碍服务后，手机屏幕上的所有信息将暴露无遗，包括个人身份、聊天记录、地址乃至密码框内输入的内容。加上无障碍服务的识屏、自动点击功能，对资金安全也可能造成威胁。
二、发现了数据隐私保护缺失的问题。当前智能体高度依赖云端大模型架构运行，模型的训练过程采集海量用户数据，这一过程中是否将用户数据上传云端服务器、是否充分数据脱敏、是否将敏感数据用于模型训练、数据存储的地点、用途、保存时长以及能否删除，用户无法确切获知。
三、多元主体权责不明值得重视。智能体涉及终端、第三方大模型、APP以及云服务等多方主体，在未经其他主体和用户的同意的情况下开始运行的话，难以保障用户的合法权益，一旦发生数据泄漏或消费者纠纷，各主体间权责并不明晰。
随之，南财发出加强无障碍功能权限管理、提升无障碍功能调用透明度等系列倡议，旨在推动行业健康发展。
倡议内容包括：
1、AI智能体如若调用无障碍功能，须列入无障碍功能列表
2、AI智能体首次开启无障碍功能时，应该有单独的弹窗提醒，充分告知风险，获取用户同意
3、调用无障碍功能时，在屏幕上实时显示“正在读屏和接管手机”等相关提示
4、提供随时关闭的开关，让用户能自行控制无障碍功能使用
5、如若用户高频关闭无障碍功能，需尊重用户意愿，自动关闭无障碍功能
6、探索建设智能终端与模型/Agent负责任交互的协议、接口和使用规范
日前，中国软件行业协会《移动互联网服务可访问性安全要求》团体标准发布。该标准适用于所有访问移动互联网服务的技术和产品，以及提供相关技术、产品和服务的各类主体。
团体标准要求：一、禁止滥用无障碍服务。应谨慎为智能体等AI技术开通无障碍服务，开通无障碍服务必须经过用户明确授权。为用户提供便捷的服务撤销选项，允许用户随时查看、开通和关闭无障碍服务权限。应在隐私政策中声明无障碍权限的使用目的、使用场景和数据处理方式，仅在声明的目的范围内使用无障碍服务，不得将无障碍服务用于其他目的。
二、“保障用户权益”。智能体进行用户意图识别、通过第三方App执行各类任务时，不得侵害用户及其他主体的数据权益。应向用户明确告知收集的数据将如何处理，不得未经授权收集和处理数据，涉及向第三方共享数据、将用户个人信息上传云端处理的需额外说明。
三、“双重授权”。智能体等AI技术进行用户意图识别、通过第三方App自动执行任务，应遵循“双重授权”原则，即先通过第三方App授权，并在获得用户授权后执行。
四、“禁止利用系统权限优势，干扰第三方APP运行”。操作系统不得利用系统权限优势，在第三方App授权前获取第三方App数据、调用第三方App功能，干扰第三方App正常运行。
更多内容请下载21财经APP