365平台·(中国)APP下载

欢迎来到阀门科技有限公司,我们竭诚为您服务!

365平台·(中国)APP下载 > 365新闻中心 > 行业资讯

中国软件行业协会发布标准:禁止智能助手滥用无障碍服务365在线平台

时间:2025-04-11 12:38 来源:网络

  随着AI大模型技术的发展,AI智能体涉及收集大量个人信息用于训练、推理和决策,利用操作系统敏感权限自动化执行任务,也引发了一系列风险。

  中国软件行业协会日前正式发布《移动互联网服务可访问性安全要求》团体标准,针对当前利用智能体等AI技术访问移动互联网服务引发的安全风险、用户权益保护等问题作出规范。该标准自发布之日起生效。

  AI驱动的智能体应用能够理解用户意图、自动执行任务,提升了移动互联网服务可访性。以“智能助手”为代表的AI智能体正在快速应用,用户通过自然语言指令即可操作第三方App、访问互联网服务,“一句线杯奶茶”等AI自动化操作场景不断演化365在线平台。

  在终端侧,海外厂商苹果、谷歌等先后推出以AI为亮点的智能手机,以Siri为代表的海外手机智能体仍在审慎升级功能。国内很多厂商亦运用大模型技术升级了原有的手机助手,还发展出AI识屏服务,即根据当前屏幕提供总结、翻译、提取信息等。在应用侧,国外大模型企业OpenAI基于GPT大模型推出智能体Operator,国内如智谱也推出手机智能体AutoGLM。

  以智能助手、AI识屏为代表的智能体提升了移动互联网服务的可访问性,为用户带来了便捷的使用体验。但不少“智能助手”依托AI大模型技术,借助系统层级无障碍服务,以“读屏+模拟点击”的方式来实现各种自动化功能,引起了用户数据泄露风险、隐私保护缺失以及系统安全等问题。

  据多家媒体报道,有的手机智能助手需要用户授权开启无障碍服务,有的则默认为用户开启以及无法关闭无障碍服务。

  无障碍服务是一项高度敏感的权限,本意是用于服务残障或其他需要特殊辅助的用户。但由于其功能强大,此前多被黑灰产用于窃取用户信息、转移资金,如今年315晚会曝光窃取20亿条个人信息的不法软件即滥用了无障碍功能。

  用户开启无障碍服务后,手机屏幕上的所有信息将暴露无遗,包括个人身份、聊天记录、地址乃至密码框内输入的内容。再加上无障碍服务的事件监听、自动点击功能,同样对资金安全造成威胁。

  当前智能助手高度依赖云端大模型架构运行,模型的训练过程需要采集海量用户数据,这一过程中是否将用户数据上传云端服务器、是否充分数据脱敏、是否将敏感数据用于模型训练、数据存储的地点、用途、保存时长以及能否删除,用户均无法确切获知。

  智能助手涉及多元主体,在未经其他主体和用户的同意的情况下开始运行的话,一方面难以保障用户的合法权益,一旦发生数据泄漏或消费者纠纷,各主体间权责并不明晰;另一方面,智能助手利用无障碍服务或者系统底层权限优势,侵害其他主体数据权益、干扰第三方App正常运行。

  《移动互联网服务可访问性安全要求》团队标准适用于所有访问移动互联网服务的技术和产品,以及提供相关技术、产品和服务的各类主体。标准的发布,为产业相关方开展移动互联网服务可访问性安全建设,提供了指导,明确了如下原则:

  应谨慎为智能体等AI技术开通无障碍服务,开通无障碍服务必须经过用户明确授权。为用户提供便捷的服务撤销选项,允许用户随时查看、开通和关闭无障碍服务权限。

  应在隐私政策中声明无障碍权限的使用目的、使用场景和数据处理方式,仅在声明的目的范围内使用无障碍服务,不得将无障碍服务用于其他目的。

  智能体进行用户意图识别、通过第三方App执行各类任务时,不得侵害用户及其他主体的数据权益。

  应向用户明确告知收集的数据将如何处理,不得未经授权收集和处理数据,涉及向第三方共享数据、将用户个人信息上传云端处理的需额外说明。

  智能体等AI技术进行用户意图识别、通过第三方App自动执行任务,应遵循“双重授权”原则,即先通过第三方App授权,并在获得用户授权后执行。

  操作系统不得利用系统权限优势,在第三方App授权前获取第三方App数据、调用第三方App功能,干扰第三方App正常运行。

  中国软件行业协会是唯一代表中国软件产业界并具有全国性一级社团法人资格的行业组织,是首批开展团体标准编制工作试点单位。此次,团体标准T/SIA050-2025《移动互联网服务可访问性安全要求》的发布和实施365在线平台,凝聚了学术界、产业界共识,代表了行业惯例与商业伦理,为相关主体规范智能体等新技术应用、开展移动互联网服务安全建设提供重要依据,将有效保障用户等多元主体合法权益。

  【透视】美国行业领袖谈“对等关税”:等同于对美国人大规模增税,将导致美国经济衰退

  【透视】美国行业领袖谈“对等关税”:等同于对美国人大规模增税,将导致美国经济衰退365平台365平台

Copyright © 2002-2023 365平台·(中国)APP下载 版权所有 非商用版本 HTML地图 XML地图txt地图 | 湘ICP备2021006383号