社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Git

被 GitHub 上的 Stable Diffusion 坑惨了?失业、欠帐、恐慌,工程师怒喷:AI软件毁了我!

InfoQ • 1 周前 • 16 次点击  

整理 | 华卫、核子可乐

一个普通的夜晚,前迪士尼工程师 Matthew  Van Andel 因好玩下载了一款用于根据文本提示创建图像的免费 AI 工具,却在之后声称这个决定让他的生活和事业都毁于一旦。

这位曾用代码构建童话世界的工程师,被困在了由 AI 工具引发的一场噩梦里。

据悉, Van Andel 本以为这是代码共享平台 GitHub 上的一个有用工具,结果却发现它是一个恶意软件。在使用这款 AI 图像生成器的五个月时间里,他的个人计算机被侵入,直接导致其个人账户凭据和迪士尼超 1TB 的公司内部信息被公开泄露,甚至有外部攻击者借此登入迪士尼的公司系统发布敏感信息,包括客户数据、员工护照号以及收入数据。

并且,这次经历使 Van Andel 本人在经济和情感上遭受重创,不仅丢了工作、损失了约 20 万美元,声誉也受到了损害。直到现在,Andel 的个人及家人账户仍然在遭受威胁。近期,他正在试图通过律师向前公司交涉以八位数和解金来弥补其工资损失和情绪困扰的要求。

消息传出后,网上许多人都在疑惑,这种事情究竟是怎么发生的?使用公开的 AI 工具为何能带来如此严重的后果?GitHub 平台为何没有发现?牵涉其中的是哪款 AI 图像生成器?为此,我们去深入了解了整起事件。

被这款 AI 工具“坑害”的全过程

Van Andel 的悲惨命运在去年 2 月埋下种子。

当时,Van Andel 坐在家里的电脑前,无意中在 GitHub 上发现了一个文生图 AI 工具,非常适合他和两个儿子一起玩创意游戏。GitHub 受到数百万人的信任,开发人员可以在这里共享代码和工具,似乎是一个安全的选择。他点击下载了这个工具,却不知道这个简单的举动即将毁掉他的一生。

五个月来,这款免费 AI 软件静静地待在 Van Andel 家的电脑上,虽然文生图效果不错,但这款 AI 助手中却包裹着恶意软件,并像潜伏特工一样潜入他的系统。直到去年 7 月,一条令人不寒而栗的信息通过 Discord 论坛平台发送到了他的电脑上,对方称已掌握关于他本人的大量情报——包括几天前他跟迪士尼同事共进午餐的细节。Van Andel 的大脑开始飞速运转,因为他敢肯定迪士尼以外的人不可能接触得到这些情况。毕竟这个通过 Discord 论坛给他发过消息的人,没办法知晓他在 Slack 工作频道里聊过什么。

紧接着,对方又发来另一条消息:“我已经掌握了跟你个人及职业生活相关的敏感信息访问权。”到这里 Van Andel 终于可以肯定,自己是被黑客入侵了。黑客自称是俄罗斯黑客活动组织的成员,早在五个月前就已经入侵了 Van Andel 的电脑。但安全研究人员认为,这位自称 Nullbulge 的黑客很可能是头“孤狼”,而且应该是美国人。

Van Andel 马上打给了迪士尼的“救援队”,这是一支为快速应对网络威胁而设立的企业团队。他们证实 Van Andel 的 Slack 账户已遭入侵,但在他的办公笔记本电脑上没有发现任何可疑迹象,因此建议他检查一下个人设备。他之前的杀毒软件没在个人 PC 上发现任何异常,但在安装第二款杀毒程序之后,引发此番风波的罪魁祸首立刻浮出了水面。

image

在加利福尼亚州的家中,Van Andel 查看了他从黑客那里收到的一封电子邮件。

在 Van Andel 与迪士尼响应团队沟通的同时,黑客还发来了一封电子邮件,明确表示他能够登录 Van Andel 的个人邮箱账户,还抱怨自己发出的第一封邮件被 Van Andel 标记为垃圾邮件,第二封则被直接扔进垃圾箱,并警告称,他的入侵活动即将开启新的阶段。“马上回邮件,照我们说的做,否则指定没你好果子吃。”

据 Van Andel 所知,黑客只有一种办法能够访问到他的电子邮件,那就是操纵 1Password——这是一款密码管理工具,Van Andel 用它来存储密码和其他敏感信息,包括“会话 cookie”。这些数字文件持续存储在他的电脑上,帮助他快速访问包括迪士尼 Slack 频道在内的各种在线资源。他用来保护自己数字生活的密码管理软件。

Van Andel 没有向黑客提供更多信息,他重置了存储在 1Password 中的数百条凭证,选择去报警。但黑客第二天一早就兑现了威胁,这个动机不明的神秘黑客组织,一口气将 4400 多万条迪士尼内部 Slack 聊天消息、超过 18800 份电子表格和至少 13000 份 PDF 发布到了网上,并公布了 Van Andel 存储在 1Password 中的全部登录凭证。至于这些内容是怎么来的……是黑客利用 Van Andel 的登录凭证从雇主处疯狂攫取而来。黑客还在网上声称,自己在迪士尼有一个 “内线”。

而处于事件漩涡中心的这款 AI 图像生成器,被曝很可能是 Stable Diffusion。

去年 6 月,据外媒报道,以厌倦了大公司通过 AI 滥用他人的工作为由,NULLBULGE 黑客组织开始通过破坏 Github 上免费共享的扩展 ComfyUI_LLMVISION 来攻击使用 Stable Diffusion 的流行界面 ComfyUI 的用户,从而将恶意软件嵌入到目标用户的电脑中。并且,他们声称自己的行为是打击艺术品盗窃、加密推广和 AI 生成艺术品的运动的一部分,并指责用户犯下了“艺术品盗窃”罪。该组织随后还在其网站上发布了一份据称可以访问数百名用户账户的凭据列表。

至于为何 GitHub 平台没有发现这个工具已存在“问题”,有网友猜测了两种情况:一是,Github 是各种不受限制代码的存储库,其中涉及的每一段代码都是“合法的”,只是它的使用方式是坏的;二是可能是因为代码的某些部分被故意混淆了,代码中可能含有加密字符串。

这起事件的后果

此番黑客攻击促使迪士尼网络安全团队开始评估损失。据该黑客组织称,其泄露出的迪士尼内部数据超过 1TB,包括他们未发布的项目、代码、图像、登录凭据以及指向内部网站和 API 的链接。迪士尼则在去年 8 月的一份监管文件中提到正在调查这起事件,但预计不会对其运营或财务业绩产生重大影响。黑客事件发生后,迪士尼方面通知员工正考虑放弃 Slack,尝试精简办公协作工具。

与此同时,Van Andel 在这起事件发生几周之后失业了。

在对他的工作电脑进行取证分析之后,迪士尼将其解雇,并表示在他的设备上发现了访问过色情内容的记录。Van Andel 则坚决否认曾在自己的工作电脑上有过此类行为。迪士尼发言人在一份声明中指出,“Van Andel 先生声称他并未进行过导致他被解雇的不当行为,但公司在对发放给他的办公设备进行了审查,并从中发现了有力证据。他的健康保险被终止,约 20 万美元的奖金也打了水漂。”Van Andel 只能无力地辩解,“我是黑客攻击的受害者呀……”

Matthew 的兄弟姐妹 Christa Maier 和 Stephen Van Andel 对外表示,黑客通过嵌入在知名 AI 图像生成器中的恶意软件,在他不知情的情况下访问了他的个人设备。“这是他最初下载的一个工具,只是为了和孩子们一起玩。但它被某种东西污染了,直到几个月后,当他们(黑客)挖掘数据时,这一点才会变得明显。”

据了解,包括电子邮件在内的很多账户都受到双因素身份验证的保护。也就是说,除了用户名加密码的组合之外,黑客还得获取其他信息才能成功入侵。大多数人出于方便,通常会选择短信或者手机端应用来验证,而 Van Andel 的第二道防线则是——1Password。

在调查入侵事件的过程中,Van Andel 意识到他的“数字生活好管家”1Password 并没有受到双重身份验证的保护。默认情况下只需要用户名加密码就能登录,他也没有采取额外措施来启用双因素身份验证。1Password 公司发言人指出,一旦用户的计算机上被安装了键盘记录木马,“攻击者就几乎可以不受任何限制发起访问。”

这起事件也彻底颠覆了 Van Andel 的生活,黑客窃取了他的信用卡号并大肆消费,滚滚账单如雪片般飞来,甚至他的个人乃至财务账户登录信息也被泄露了出去。

他开始接到媒体的电话,还有陌生人的奇怪来电和短信。Van Andel 几乎吃不下饭也睡不着觉,时常被惊恐和焦虑的情绪吞没。攻击者还把 Van Andel 的个人信息公布到了网上,用社保号码就能顺利登录他家中安装的 Ring 摄像头,他的在线社交媒体账户被无数掌握了凭证的陌生人用于发布大量冒犯性言论。就连 Van Andel 孩子们的在线账户也受到了黑客攻击的波及。

image

Van Andel 一家人

作为两个儿子的父亲,42 岁的 Van Andel 痛苦地表示,“这种被侵犯的感觉实在难以形容。”

现在 Van Andel 正努力回归正常生活。他找了份临时工作来支撑家庭生活,他妹妹则在 GoFundMe 上发起众筹帮助他度过难关。去年 12 月 19 日,他的律师向迪士尼发出一封索赔函,要求对方就工资损失和精神折磨支付八位数的赔偿金。Van Andel 表示,时至今日,他仍会在网上看到有人尝试用 Nullbulge 公布的泄露凭证入侵他的账户。

结   语

Van Andel 的经历对于企业和个人来说都不失为一记响亮的警钟,让人们意识到自己随时可能面临黑客攻击的风险。

网络安全专家们表示,近年来窃取凭证市场经历了一波大力发展,用于窃取凭证的黑客工具也如雨后春笋般涌现。在疫情期间,企业为了支持远程办公而开放了员工从家中访问业务系统的权限,而黑客则很快意识到家用电脑已经成为通往企业环境的后门。黑客们开发出各种恶意工具,即信息窃取程序,并将其隐藏在人们从互联网上下载的各类软件当中。黑客们借此窃取凭证,之后再通过网络转售。

根据谷歌负责调查网络入侵的 Mandiant 团队所言,在去年以经济为目的的网络入侵活动中,有近 40% 使用到被盗凭证,相较于 2022 年已经增长了一倍。

参考链接

https://www.wsj.com/tech/cybersecurity/disney-employee-ai-tool-hacker-cyberattack-3700c931

https://www.dailymail.co.uk/news/article-14438343/disney-worker-ai-tool-matthew-van-andel.html

https://www.lapost.com/siblings-of-disney-engineer-named-in-alleged-hack-defend-his-innocence-he-did-nothing-wrong-and-his-entire-family-has-been-ruined

https://www.404media.co/hackers-target-ai-users-with-malicious-stable-diffusion-tool-on-github/

声明:本文为 InfoQ 整理,不代表平台观点,未经许可禁止转载。

今日好文推荐
英伟达“赚钱机器”更强了!盈利创纪录,黄仁勋:DeepSeek 为 GPU 降本,但下一代模型还离不开我
没有“包袱”的火山引擎,跑赢“DeepSeek 大考”
中文比 R1 丝滑、玩宝可梦还贼溜?全球首个混合推理模型 Claude 3.7 Sonnet 太惊艳,网友直呼“孤独求败”!
我一个人,12 个月内,创办了 12 家公司,独立开发者十三年创业风云录
 会议推荐
在AI大模型重塑软件开发的时代,我们如何把握变革?如何突破技术边界?4月10-12日,QCon全球软件开发大会· 北京站 邀你共赴3天沉浸式学习,跳出「技术茧房」,探索前沿科技的无限可能。
本次大会将汇聚顶尖技术专家、创新实践者,共同探讨多行业AI落地应用,分享一手实践经验,深度参与DeepSeek主题圆桌,洞见未来趋势。

图片

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/179597
 
16 次点击