作 者丨王俊
编 辑丨肖潇
图 源丨图虫
大模型搭载进入手机成为最新趋势,各个手机品牌争相推出 AI 大模型为底层支撑的 AI 手机。
新风潮牵引出新问题。主打 " 贴身服务 " 的 AI 手机,实时收集个人语音、手势、微表情、使用习惯、偏好……将握有当代人最多的秘密。
如何守住秘密?AI 手机时代的隐私保护与数据安全似乎还是一笔糊涂账。
在移动互联网时代,用户与 App 直接互动,App 是绝对的个人信息收集者,隐私保护与数据安全抓手主要在单点的 App 上;来到 AI 手机时代,手机终端、第三方大模型、App 以及云服务均涉及用户数据的处理、使用,链条复杂了,数据的流向与用途更难以追踪。
往前再探一步,行业生态正在变天。手机终端不仅握有用户数据,还把持着流量入口的开关," 一句话点餐 "" 一句话取消自动续费 ",握有调用权限。对 App 而言,想被之一时间调用,需要全面接入手机生态,这是否意味着开放数据给手机厂商,其中各方应如何履行数据保护的义务?
新业态正在徐徐展开,新秩序似乎未见轮廓。
手机厂商祭出隐私保护卖点,是否能落地?
2024 年被视为 AI 手机元年,AI 卷向手机端。根据 C *** ys 的数据,2024 年,全球 16% 的智能手机出货量为 AI 手机,这一比例在 2028 年预计将跃升至 54%,2023 年到 2028 年的 AI 手机出货复合年增长率将达到 63%。
AI 手机的卖点是成为用户的个人助理,通过人格化、记忆、感知和管理能力,为用户带来全新的人机交互体验。" 贴身服务 " 基于全面的用户数据,个性化信息、细微的表情、操作习惯等等,提供准确且定制化的服务,做到 " 越用越懂你,越用越好用 "。
" 以往手机获取的信息主要包括用户设备及应用信息、日志信息、底层权限信息等;在端侧 AI 场景以及当前主要基于读屏录屏的技术方式,除上述全面的信息权限外,终端智能体还可以获取录屏的文件本身,并进一步通过模型分析,获取其所展现的身份、位置、支付等各类敏感信息。由于录屏场景十分丰富,其所识别的信息类型也将无法提前预测,并且极有可能包含了大量其他自然人的个人信息。" 腾讯研究院曾撰文指出。
个体与手机,骨肉相连。手机厂商深知用户隐忧与监管风向,纷纷将隐私保护作为卖点。
但是,AI 手机隐私容易做到吗?
21 世纪经济报道梳理发现,无论是苹果,抑或是国内的荣耀、VIVO、OPPO ,均采取优先本地化(端侧)处理 + 加密上传云端处理的措施。本地设备优先处理用户需求,当用户请求无法在端侧模型完成时,端云模型协同响应,加密上传云端模型处理。
生态链条复杂 责任如何分配?
缜密的机制设计也无法消除风险。
尚隐公司 CEO 张仁卓指出,风险一方面来自上云,虽然机制上保证安全,但数据上云确实放大了数据隐私保护的风险。另一方面的风险来自厂商之间的配合。以苹果为例,如果把苹果 AI 的功能实现当成一个链条,PCC 大大增强了端云配合的隐私保护,但并未详细展示苹果与大模型厂商之间的隐私保护动作,端到端的用户隐私保护需要进一步补充澄清。
后者暴露出 AI 手机时代的隐私保护难题:生态参与方复杂。与此前以 App 为抓手的隐私保护不同,AI 手机行业生态涵盖:手机终端、第三方大模型、APP 以及云服务等参与方,各方在数据安全上的责任关系并不十分明确。
比如,很多手机非自研发模型,外接了其他大模型,在共同处理相关数据或者上传至第三方云端 AI 处理等情况,如何进行责任分配?
观韬中茂(上海)律师事务所合伙人吴丹君认为,终端厂商即预装应用程序的智能终端等设备生产者,在预装 App 时应通过平台规则或合同明确第三方产品和服务提供者的 *** 数据安全责任,并监督第三方加强数据安全管理。
对于大模型服务提供者,大成律师事务所高级合伙人邓志松指出,模型训练应当使用去标识化、匿名化而非能关联到具体个人的数据,当然,AI 大模型开发商也应在收集用户个人信息或其他数据前获得用户同意,且应明确告知该类数据可能被用于大模型训练,并说明将进行的去标识化、匿名化处理。
行业生态变天 终端厂商与 App 矛盾初显
在隐私保护问题背后,是行业生态变化带来的上中下游摩擦,手机终端与 App 之间的矛盾显现。
以 10 月份 vivo 在开发者大会上发布 PhoneGPT 为例,语音说出想要预订的餐厅类型、时间,和人数后,它可以自主跳转相关 APP,找到符合需求的餐厅,识别餐厅 *** 并自动进行 *** 预约。9 月 6 日,荣耀在 2024 IFA 上,面向全球推出行业首个跨应用开放生态智能体(HONOR AI Agent);同时还首次展示了 " 一句话取消自动续费 ",即一键查阅 & 取消 APP 续费订阅功能。
这也意味着,手机终端掌握了 App 的调用权,成为了流量的入口。
这带来了一个问题:调用谁不调用谁,到底是谁说了算?有业内专家指出,可能取决于用户行为数据、App 在 AI 手机中的生态接入。若接入手机生态,App 大概率需要开放数据给手机厂商。
App 接入手机终端生态的话,用户数据如何保护,各方应该履行什么义务?
倘若不接入终端厂商生态,App 如何保护数据?因为,AI 手机时代,打开 App 的可能不再是用户,而是手机终端。AI 手机利用 " 拟人化 " 操作,模拟用户在 App 中读屏理解、点击、操作,不再是移动互联网时代调用 App 背后的数据接口。这种情况下,App 无法准确知晓手机终端 AI 的识别、操作动作。这其中 App 与终端厂商之间又该如何进行权责划分?
这些似乎都没有明确答案。
发表评论