大数据文摘出品
创业公司吹嘘技术骗取信任和融资的例子屡见不鲜, 但近日, 一家西班牙技术公司被曝惊天造假, 不仅 技术和产品 demo 视频被怀疑是造假合成 , 连团队里的工程师, 都是 GAN 合成的 "AI 造人" .
六人的工程师团队介绍中, 只有 Delgado 和 Balcells 两人确有其人.
一起看看.
自动棋盘众筹项目火爆全网, 用 AI 远程跟网友 "云" 下棋
上周, 众筹网站 Kickstarter 上的一项自动棋盘的项目被迫暂停了, 多个知名的在线国际象棋社区联合发表声明, 称 该产品是个骗局 .
被举报的这家初创公司名叫 REGIUM, 主要开发用于 在线比赛的全自动国际象棋棋盘 , 该公司设计的棋盘通过将内置的电磁铁移入其中, 从而自动操作棋盘上的棋子.
根据 REGIUM 的介绍, 这个棋盘可以和可以进行网络对战的国际象棋应用同步, 原本在 PC 画面上进行的国际象棋操作可以在物理上进行, 自称是 "划时代的项目" .
REGIUM 称, 他们的自动棋盘是高科技棋盘, 用到了 AI, 自动跟踪技术等, 用户移动棋子是快速, 无声的, 可以将棋盘状态与各种在线象棋 App 同步, 与人远程 "云" 下棋, 还能实时载入更多棋类游戏 .
REGIUM 于 2019 年 12 月公开了 demo 视频, 随后在 Kickstarter 上发起众筹, 以商品化为目标募集资金.
这一项目迅速获得了不少围棋爱好者和平台的关注, 视频迅速在 YouTube 上获得了 超过 4 万的点击量 . 在 Kickstarter 上, 从上线到项目被叫停, 不到 10 天时间就获得了 33111 美元的筹款 .
但是, 随着在 Kickstarter 上的信息公开, 用户针对 REGIUM 提出了各种各样的问题, 其中最为严重的是, 有人发现,"作为开发团队介绍的成员脸部照片是假的".
知名在线国际象棋社区 Chess.com,Chess24.com 和 Lichess.org 的撰稿人相继发文表示, REGIUM 官网上介绍的 6 名工程师中有 4 人是不存在的, 是在网站 thispersondoesnotexist 上利用 AI 生成不存在的人类面部照片. 这也导致人们进一步怀疑,"该产品本身可能就不存在".
REGIUM 官网链接:
https://www.chess.com/news/view/update-on-regium-chess
伪造工程师? 真真假假破朔迷离
personpersondoesnotexist.com 的创建人 Phil Wang 告诉 Chess.com, 这四个疑似不存在的人的 脸部照片存在部分失真 , 和机器学习算法生成的照片具有相同的特征. 这些图像也没有托管在互联网上的其他任何地方.
随后, Wang 使用 AI 技术生成了不存在的人的面孔, 将有关与 REGIUM 的相关页面链接的肖像的信息转发给 Chess.com, 并表示,"根据我的经验, 它的确来自英伟达的生成模型".
"可以从 眼镜周围的变形以及背景中的伪影 看出来, 这确实是伪造的照片."
在使用公开可用的信息与同事进行协调之后, Chess.com 还能够在公开在线论坛中验证了与该公司有关联的个人虚假陈述.
目前, Chess.com 和 Chess24.com 都终止了对 REGIUM 的投资.
不过, 在一封发送给科技媒体 Motherboard 的回应邮件中, REGIUM 否认了这些说法, 但也没有提供进一步的证据来证明其开发团队是真实存在的 .
REGIUM 在邮件写道, 这个事根本不值得一提, 一些人总是会乱说些事情, 比如首席技术官不是工程师, 他不是门萨的人, 这个团队没有成员等等. 甚至有人猜测, 这些照片的标准尺寸是 1024x1024, 以及关于董事会和团队成员的说法......
他们知道互联网上的阴谋论是如何进行发酵的, 有些人就是喜欢胡言乱语. 这些团队成员有家人, 有些也在正经公司工作, 但在这些疯狂的攻击之后, 有人担心 这将影响到他们正常的职业生涯, 于是他们决定从网上撤除他们的数据 .
除了被举报伪造工程师, 视频国际象棋网站还认为, 在 Kickstarter 上的 demo 视频中, 录像有被明显篡改的证据 . 在线象棋平台 Lichess 的开发者在博客中表示, 棋子在棋盘上自动移动的画面 很可能是使用定格动画 (stop motion) 做出来的 .
博客链接:
https://lichess.org/blog/XlE48hEAACIAQv2F/regium-extraordinary-claims-require-extraordinary-evidence
REGIUM 对此进行了回应, 称 自己根本不擅长制作宣传视频, 在拍摄被编辑掩盖的视频时还有出错 .
一些怀疑者 "要求用手机录制一段视频, 以证明这不是定格动画或 CGI".REGIUM 在一封电子邮件中表示,"我们照做了, 也把视频发送过去了. 任何人都可以看到, 在视频中定格动画或 CGI 是绝对不可能存在的".
用 GAN 生成人脸图像真的这么无懈可击吗?
Wang 所提到伪造人脸的 StyleGAN 来自英伟达, 可以说是近年火遍全网的 "造假" 神器了. 与其他生成器不同, StyleGAN 可以根据需要更改生成图像的结果, 绘制出的图片更加逼真, 不仅可以 创造假的人类肖像 , 也被疯狂应用于 其他机器学习应用项目, 例如汽车, 房间, 甚至是动漫人头 等.
REGIUM 疑似使用的就是这个利用 GAN 来生成不存在的人脸图像的网站, 点开网站之后, 每次刷新页面, 算法都会从头开始生成新的人脸图像 .
网站链接:
https://thispersondoesnotexist.com/
该网站使用的是一种称为 StyleGAN 的机器学习技术, StyleGAN 最初是由英伟达在一篇论文中《一种用于生成式对抗网络的基于生成器体系结构的方式(A Style-Based Generator Architecture for Generative Adversarial Networks))
论文下载地址:
ht t ps://ar xi v.org/PDF/1812.04948.PDF
据论文介绍, StyleGAN 是一步一步地生成人工图像的, 从非常低的分辨率开始, 一直到高分辨率 (1024*1024). 通过分别地修改网络中每个级别的输入, 它可以控制在该级别中所表示的视觉特征, 从粗糙的特征(姿势, 面部形状) 到精细的细节(头发颜色), 而不会影响其它的级别.
这种技术不仅可以更好地理解所生成的输出, 而且还可以产生最高水平的结果, 即比以前生成的图像看起来更加真实的高分辨率图像.
英伟达的代码链接:
https://github.com/NVlabs/stylegan
Philip Wang 还在一封电子邮件中表示, 绝大多数人都不知道, 将来 AI 在合成图像方面会有多么出色.
不过, 尽管非常逼真, 但是 StyleGAN 生成的图片中还是 存在一些技术缺陷 , 文摘菌之前也曾报道过, 如何区分真假图片的几个方法 , 比如, 有时候在生成的照片中, 乍一看似乎与真实照片没有什么区别, 但仔细一看, 会发现图像中有一些 奇怪的光线会漂浮在人物周围 , 或者是 局部出现奇怪的变形 . 这也是 Wang 能够一眼看出照片伪造的关键所在.
GAN 于 2014 年由计算机科学家 Ian Goodfellow 及其同事首次引入, 从那之后, GAN 变得越来越强大, 现在已经可以 以惊人的高分辨率生成高度逼真的图像 .
不仅如此, 这些程序还可以用于 生成人们跳舞的视频 , 甚至是 "将夏天的场景变成冬天的仙境" . 不过也有令人苦恼的地方, 就是这项技术也有随时被 用于以 "deepfakes" 为核心的的 假色情影片制作 中 .
Wang 的网站在租用的服务器上运行, 该服务器配有运行 Nvidia 软件的强大 GPU,Wang 透露道, 每两秒钟生成一张随机的脸, 随后以可扩展的方式展示给全世界, 这其中没什么花哨.
REGIUM 这次事件, 不管真假, 都足以再次让我们 反思技术带来的双面性 , 的确, 大规模的虚假复制将对于平台, 个人都将造成不同程度的伤害.
显然, 看似作为罪魁祸首的 GAN 技术, 仍然是一种通用的东西, 而 真正将此滥用的, 正是我们人 . 或许正是出于对现在以及未来 GAN 的逐渐 "疯魔化" 趋势, Wang 曾表示, 他想要在以后坚持真实的脸部图像,"人的脸对我们的认知最重要, 因此我决定提出该特定的预训练模型".
对此, 你又是怎么看的?
相关报道:
https://gigazine.net/news/20200309-fake-engineer-chess-board/
实习 / 全职编辑记者招聘 ing
加入我们, 亲身体验一家专业科技媒体采写的每个细节, 在最有前景的行业, 和一群遍布全球最优秀的人一起成长. 坐标北京. 清华东门, 在大数据文摘主页对话页回复 "招聘" 了解详情. 简历请直接发送至 zz@bigdatadigest.cn
点「在看」的人都变好看了哦!
来源: http://www.tuicool.com/articles/aaERF3i