在一年多的时间里，苹果在AI领域里的发展一直较为落后，今天苹果终于宣布了自己的AI研究进程。2024年6月10日，苹果举办了WWDC24开发者大会主题演讲。演讲中，苹果宣布与OpenAI构建合作伙伴关系，整合对方的ChatGPT。作为更新的一部分，苹果Siri将可以使用OpenAI的热门聊天机器人ChatGPT。
正如苹果在全球开发者大会上宣布的那样，苹果设备将能够转录和总结录音，辅助写作，并确定哪些通知是重要的。Siri还将具备理解上下文信息等功能。很快，这些新功能以及与ChatGPT的集成，引发了关于该公司将如何处理用户数据的疑问。在WWDC的主题演讲中，苹果代表们努力向听众保证：“你们的数据将得到保护。”
然而，虽然网络安全专家一致认为苹果的方法符合最高的安全标准，但该公司可能仍需要在发布AI功能之前，解决潜在的漏洞和问题。
苹果相关发言人表示，公司会尽可能多地将用户数据在设备内进行处理，如此一来，数据就会被分散，不会受到任何集中攻击的威胁。苹果的大部分AI查询，将在用户设备上使用苹果自己的语言和扩散模型进行处理。苹果公司还将使用设备上的语义索引，该索引可以跨应用搜索信息。
然而，Cybernews 的记者Paulius Grinkevičius表示，即使苹果公司保证大部分数据都会被处理于设备内，但很多时候数据仍需被发送至云端。而这通常意味着用户数据会被发送到第三方提供商，这也是导致各种漏洞的最主要原因。
为了减轻这些风险，苹果正在采取相关的措施。苹果发言人表示，公司将只把与任务相关的信息发送到服务器，而服务器不会存储任何数据，苹果也无法访问这些数据，同时服务器的硬件将由苹果自己的芯片制成。
此外，苹果公司表示，它们将通过加密方式确保只有在经过公开检查和记录后，其设备才会与服务器通信。苹果公司还将使用独立的安全研究人员来保证用户的隐私和安全。
然而，Grinkevičius还是提出了质疑，由于苹果的Apple Intelligence并不会处理用户的所有查询，因此其中的一些查询将直接转给OpenAI的聊天机器人ChatGPT。“就像特斯拉的创始人兼CEO，同时也是OpenAI的联合创始人之一Elon Musk说的那样，这是一个不可接受的安全风险。Musk甚至威胁要禁止他的公司使用苹果设备。”
对此，业内外很多相关人士表示，Musk有时会在他不了解所有事实的情况下发表评论。X的众包社区笔记系统甚至纠正了他的帖子，称Musk的评论误解了苹果公司实际宣布的内容。
AppOmni的首席AI工程师和安全研究员Joseph Thacker表示，Musk可能没有完全理解苹果会如何在本地和其私有云中使用自己的模型。Thacker解释，苹果的AI将决定哪些查询应该从Siri转向ChatGPT，苹果不会记录信息，因此ChatGPT的集成将是可选的。
然而，Thacker还是看到了一些额外的风险。他表示：“与使用OpenAI等SaaS提供商所遭遇的风险一样，像OpenAI这样的初创公司并不具备多年的安全专业经验和庞大的安全团队，因此他们无法花时间进行正确的威胁建模，并将所有内容的保护制度提升到最高标准。”
然而，也有专业人士表示，ChatGPT与Siri的集成风险相当小，因为苹果公司已经确认，在调用ChatGPT时，他们不会将任何用户数据传递给OpenAI。研究表明，即使OpenAI违背了不记录数据的承诺，除非有人声明“我叫X，我想了解Y”，否则OpenAI也不可能知道是谁在问此问题。
研究人员将苹果的私有云计算描述为“一个非常安全、复杂且经过深思熟虑的基础设施”。Thacker对此补充道：“如果公布的架构能得到正确实施，那么要破坏苹果的私有云，就需要多个复杂的零日漏洞。可以肯定的是，苹果基于的是零信任原则，甚至他们的工程师也无法解密处理中数据所需的密钥，因此其被攻击的可能性极小。但OpenAI公司本身的安全性仍是问题。”
网络安全专家、Live Proxies的联合创始人兼首席执行官Jacob Kalvo表示，即使来源可验证，OpenAI的集成也可能增加更多的复杂性和额外的攻击途径。他认为，尽管苹果声称不会捕获任何信息，但集成过程可能会暴露新的攻击面，例如API漏洞或无意中泄露的数据等。
Kalvo说：“尽管苹果公司长期以来一直被视为是隐私和安全领域的领头羊，但AI和机器学习的本质是处理大量数据，而不良的数据管理实践可能会导致数据被黑或被泄露等问题。”
Kalvo强调了与私有云计算相关的几个潜在风险。他表示，私有云容易受到潜在的侧信道攻击，即可以通过利用设备的物理属性或利用针对硬件层的高级恶意软件来推断信息。“其他危险还包括利用零日漏洞，导致信息被未授权访问。这些攻击的成功率各有不同，因为其取决于攻击者的先进程度，以及苹果会在系统内部强化哪些安全保护措施。”
HostingAdvice的安全和技术专家Joe Warnimont表示，将数据发送到云端总是存在额外的风险。“私有云计算使用的仍然是云，这就是漏洞本身。也就是说，只要数据离开了本地设备，不良行为者就可以获取到它。这些威胁通常来自于管理公司云服务器的承包商或其内部员工。”
Warnimont提醒我们，苹果公司内部曾经发生过第三方承包商监听Siri录音等问题。这些录音通常都是加密的，除了quality control，而quality control就是承包商所操纵的漏洞。
Warnimont说：“对于AI而言，其也必然存在漏洞，比如AI模型在处理请求时需要未加密的数据。”
另一方面，国外专家在社交媒体上分享了他们对苹果私有云计算的看法。
约翰·霍普金斯大学教授密码学的Mathew Green表示，如果你给一支优秀的团队一大笔钱，让他们建造世界上最好的“私有”云，那么最终这个产物不会比苹果公司的高级多少。他在X和Threads上的一系列帖子中写道：“请记住，超级间谍并不是企业最大的敌人。对许多人来说，最大的敌人是销售你设备或软件的公司。这个PCC系统代表了苹果对‘不窥探’用户数据的真实承诺，”。
然而， Green也看到了苹果系统中可能存在的许多隐形的安全漏洞，包括硬件缺陷、密码衰减框架，以及巧妙的软件利用等问题。他表示：“对于安全研究人员来说，很难检测出这些漏洞。”
而工程师Simon Willison表示，Siri既能访问用户设备上的数据，又能根据用户的指令进行操作，这或许会使其容易受到提示注入攻击。“比如，如果有人给你发送了一条欺骗Siri将密码重置的电子邮件，当你要求Siri将此电子邮件的摘要说出时会发生什么？我很想知道苹果为了减轻这种风险做了哪些安全措施。”
那么苹果公司AI和ChatGPT集成会给我国带来哪些影响？从现实来看，时间倒回到WWDC举办之前，苹果股票始终萎靡不振，直到WWDC临近，苹果股票才一扫此前下跌的阴霾，从4月19日的164.07美元反弹了约20%。一周的时间，苹果累计上涨了2.4%，并且6月7日收盘时股价还创下2024年收盘高点：196.89美元。
然而，事与愿违，在WWDC正式举办后，苹果股价还是出现了掉头往下的趋势。据相关报道，在WWDC主题演讲开始前几个小时苹果股价就开始下跌，到6月10日收盘，苹果下跌近2%，至193.12美元。
Global X的Tejas Dessai对此表示：“投资者显然希望苹果在AI领域应该采取更全面、更雄心勃勃的战略。”
值得注意的是，苹果在WWDC上展示的各种新功能，只会在iPhone 15 Pro、iPhone 15 Pro Max，以及搭载M1及更新机型的iPad和Mac上以测试版形式提供。那么，又会有多少消费者会因为这些功能而重新换手机？华尔街的分析师对此观点不一。
在WedbushSecurities分析师DanIves看来，这是一个巨大的机遇。DanIves表示：“我们估计15%以上的苹果用户将升级到iPhone 16，因为Apple Intelligence是许多人一直在等待的杀手级应用。”
但瑞银分析师David Vogt对此表示怀疑。Vogt在一份给客户报告中表示，根据瑞银最近对美国、英国、中国、德国和日本7,500多名智能手机用户进行的调查显示，iPhone的需求仍持续疲软。
调查显示，人们对AI智能手机的兴趣“并不大”，其原因包括预期价格过高和对个人隐私的担忧等。
Forrester分析师Dipanjan Chatterjee认为：“或许，搭载Siri技术的全新升级版苹果智能设备能够止住近期设备收入的大幅下滑，但却不足以吸引一批新的追随者。”
而在笔者看来，苹果此举毋庸置疑是一种强强联合，无论是单纯的为苹果在国际市场上的份额着想，还是在数字化的背景下，为移动设备的普及战略做铺垫，其都具备了明确的目的和竞争手段，对我国的科技发展、行业目标也一定造成了不小的冲击。
一方面是当下如火如荼的AI领域，从发展趋势来看，各个领域都在想尽办法利用AI，可谓无所不用其极；另一方面是移动设备的普及化和替代化，人们的生活越来越多离不开手机，手机已从过去的通信工具演变成了如今的生活工具、办公用品。从这两方面入手，移动设备和AI的结合一定是会产生巨大影响的。
比如国内常与苹果做出对标的华为公司，又会以怎样的方式应对他国的策略？再比如我国的AI发展，又会集中在哪些科技公司，或者又会在AI之上，发展出哪些更具竞争力的领域？当然，在这所有的趋势、潮流之下，安全二字始终是科技发展绕不过去的重中之重，特别是当下三令五申的数据安全，其不但关系到企业在市场上的竞争，更是涉及到了一个国家的公民安全、社会安全和国家安全。因此，各个组织都该对此引起警惕，切不可让任何先进发展影响到大环境的安全之本。
对于“苹果公司AI和ChatGPT集成”一事，国内安全专家如此解读。
某行安全管理人员李丹表示，此事可以从以下几个方面进行分析：
（1）隐私保护：苹果公司一直强调用户隐私保护，如果集成ChatGPT，可能会采取额外的隐私保护措施，如本地化处理数据，减少数据传输到云端的需求，从而降低数据泄露的风险。
（2）安全标准：苹果可能会要求ChatGPT遵守其严格的安全标准，这可能包括数据加密、访问控制和定期的安全审计。
（1）竞争优势：集成ChatGPT可能为苹果带来在AI领域的竞争优势，尤其是在自然语言处理和智能助手领域，这可能帮助苹果在市场上与谷歌、亚马逊等竞争对手抗衡。
（2）差异化：苹果可能会通过定制化的AI功能来区分其产品和服务，吸引更多用户。
（1）技术创新：集成ChatGPT可能推动苹果在AI技术上的创新，促进更先进的算法和模型的开发。
（2）用户体验：通过集成更先进的AI技术，苹果可以提供更智能、更个性化的用户体验，如更准确的语音识别和更自然的对话交互。
（1）技术引进：苹果集成ChatGPT可能促进我国企业对AI技术的引进和学习，推动国内AI技术的发展。
（2）市场竞争：国内企业可能面临更激烈的国际竞争，需要加快技术创新和提升服务质量以保持竞争力。
（3）数据安全法规：我国可能需要进一步完善数据安全法规，确保跨国公司在我国运营时遵守我国的数据保护法律。
李丹说：“苹果公司集成ChatGPT是一个复杂的决策，涉及多方面的考量。然而无论如何，苹果都需要确保集成过程中用户的隐私安全，虽然此事能为苹果带来新的增长点，但如果只致力于盲目的发展，而忽略了根本的安全问题，最终还是会‘聪明反被聪明误’。当然，从科技发展角度来看，苹果此举无疑是推动了AI技术的进步，移动设备的AI化非常符合当下的趋势，未来在科技上会有怎样的变革，我们都可以拭目以待；而对我国而言，这既是挑战也是机遇，需要国内企业积极应对，不可在科技发展的进程中落后于他国。同时，政府也需要加强监管，确保国外技术发展与国家安全、用户隐私保护相协调。”
资深信息安全顾问钱伟峰表示，AI和大模型的集成未来可能会逐渐成为一种趋势，从市场角度来看，两者的集成对AI和大模型的拥有方都有利，可以实现双赢的效果。从数据安全角度出发需要关注集成后的数据访问权限，特别是涉及用户个人信息的访问行为，目前用户在使用企业提供的服务时都需要统一隐私政策，大部分用户对于隐私政策的内容并不太关心，同时也不清楚隐私政策中如果增加了个人信息使用授权意味着什么。从数据安全角度出发，AI与ChatGPT集成意味着在用户授权之后将有可能获得更多而数据访问权限。
“假设一个场景：原定下午的会议延期到晚上，晚上你恰好要送孩子去机场，你有可能让Siri帮你分析下，会议结束后再回家接孩子送到机场是否来得及，以后甚至可能让Siri帮你改签机票。这个时候Siri和ChatGPT的集成会极大的方便你的生活，但对应而来的是要监管户对于自身数据的被访问情况可能更难以知晓。”此外，钱伟峰表示，苹果公司也提到当手机端算力不够时会将相关指令发送到私有云上进行处理，这意味着数据在云上可能会进行短期留存。
“从国内实际情况来看，目前Apple Intelligence仅支持英语，外加ChatGPTA在大陆目前暂时无法使用，所以对普通用户而言暂时没有实质性影响。从整个市场来看，不排除国内手机厂商会参考苹果的方式，将手机端的AI与各类大模型进行集成，届时将要关注数据安全尤其是个人信息保护方面的相关控制是否有效。”Apple’s AI and ChatGPT integration: how will it handle data, and how safe is it? | Cybernews
Paulius Grinkevičius Cybernews 的记者
