明查·东西箱|AI制图难辨认?这些细节和东西可辅佐

liukang20244周前正能量吃瓜762
布景86岁的罗马教皇方济各大概不会料到,在他饱尝支气管炎困扰的那些日子里,一张机器生成的图片让他成了时尚界的“顶流”。
那件巴黎世家风格的白色羽绒服里包裹着的人似乎是他,又不是他。
一些人在交际平台上留言称,他们已无法判别何为实在、何为虚拟。
机器生成的虚伪图画:教皇穿戴巴黎世家风格羽绒服,走在城市街道上。巴勃罗·塞维尔(Pablo Xavier,化名)——一个31岁的芝加哥建筑工人,是这张抢手图片的缔造者。他在一个周五的下午吸食毒品时产生了创意,决议发明一组和“教皇”相关的著作,所以便有了那张“教皇穿戴巴黎世家/盟可睐的羽绒服,走在罗马和巴黎的街道上”的图片。与传统的艺术工作者不同,塞维尔的发明并不触及专业美术常识。他运用的东西叫Midjourney。这是一款时兴的人工智能(AI)绘画东西,即便是没有美术根底的人也能将其把握。用户需求做的只是在输入框中填入描绘性的文字,等候数分钟,便会有对应的图片产出。
Midjourney现在需求搭载Discord运用,在输入框中填入描绘性文字,会有对应的图片产出。与之相似的AI图画生成器还包括OpenAI开发的DALL-E,以及Stability AI与慕尼黑大学(LMU)协作研制的Stable Diffusion。虽然运用的练习模型略有差异,这些东西的共同点在于,它们都能将简略的文字描绘转化成图画输出。
左图来自Midjourney图例; 右图由OpenAI依据“野花,草地,秋韵,水彩”描绘进行发明。留意右下角的5个色块,这是DALL-E 2制图的标志(水印)。塞维尔告知美国聚合新闻网站BuzzFeed的记者,他觉得让教皇身穿羽绒服的图片“很完美”。他把它发到了一个名为AI Art Universe的Facebook小组里,又传到了交际论坛Reddit上。之后,这张图片就像外界所看到的那样——像病毒一般传开了。长时间重视互联网文明的美国记者布罗德里克(Ryan Broderic)在推特上表明,“巴黎世家教皇”或许是榜首个真正被大规模传达的AI虚伪信息(misinformation)事例。但相似的事例层出不穷。就在“巴黎世家教皇”被“曝光”的一起,一组宣称“美国前总统特朗普被拘捕”的图片现已在赛博空间传达开来。网络上还流传着一张显现“俄罗斯总统普京单膝跪地”的图片。只不过,这些图片无一例外是用机器生成的。
Bellingcat创始人Eliot Higgins用Midjourney发明了一组展现特朗普被捕的图片。当技能的开展含糊了实际和虚拟之间的边界,面临人工智能被兵器化的危险,人类要怎么做,才干防止被捉弄?答案或许飘扬在风中。但现阶段,相较于在实际国际顶用各类镜头拍照的相片,用AI生成的图片在仿真性上仍有一些“瑕疵”。经过探寻这些“瑕疵”,咱们在当下仍有较大或许识别出用机器生成的图片。此处,“汹涌明查”将结合详细图例,为咱们介绍一些当下仍可运用的辨别AI生成图片的办法。
东西
严格来说,塞维尔发布的图片并没有他所以为的那般“完美”。无论是图中教皇那只以古怪的姿态抓着不完整的咖啡杯的右手,仍是其身上挂着的没有显现出恰当直角的十字架的佩饰,或是其戴着的眼镜镜片边际不合理的暗影,都暗示了这不是一张在正常物理空间拍照的相片。
左:图中人物右手遭到揉捏,咖啡杯的形状和手握咖啡杯的姿态极不天然;中:配饰上的十字架图画没有呈现恰当的直角;右:眼镜镜片在人物脸部呈现不合理的暗影。在判别一张图片是否是由机器生成时,首要值得重视的是图片中是否存在一些反常的细节。《华盛顿邮报》技能专栏作家奥维德(Shira Ovide)对此提出了4点可供参考的主张:榜首,检查图中人物的双手,是否存在手指过多或其它奇怪的状况。前期的AI在生成人物手部图画时常常呈现问题,业界普遍以为这是因为练习会集人类手部图画呈现的频率往往低于脸部导致的。Midjourney从V5版别起现已对机器生成的手部作用进行了较大改善,但不意味着现已没有缝隙。
DALL-E生成的虚伪图画:骚乱中的法国总统马克龙。其手部手指的数量和姿态均非常奇怪。例如,在塞维尔发明的教皇图画中,人们可以轻易地调查到,图中人物的右手看起来被压扁了,而他手握咖啡杯的姿态也显得极不天然。第二,调查图画中人物的配件。是否存在短少或不匹配的耳环、眼镜架?只要一个轮子的自行车?假如图画中呈现了一些违反实际的物体,那么它就很有或许是用机器生成的。
相同以塞维尔发明的教皇图画为例。一些目光敏锐的人或许现已留意到,方济各脖子上佩带的传统胸饰十字架只要一条带子,这是不合理的。
方济各脖子上佩带的传统胸饰十字架(红圈内)只要一条带子。第三,调查图画中的文字。当一张图片中呈现路牌、广告牌、产品包装袋时,无妨留神一下这些物体上包括的文字内容。它是一堆乱码吗?你能看懂文字显现的信息吗?以英国哈里王子打包麦当劳食物的图画为例,这是一张用AI生成的图片。虽然图中黄色包装袋上显现的餐厅标志看起来很传神,但袋子上的文字却是胡说八道。
机器生成的虚伪图画:英国哈里王子打包麦当劳食物。包装袋上的文字是一堆乱码。第四,扫描布景。人工智能生成的图画或许会有含糊或歪曲的细节,这一点在图画布景中特别显着。例如在这张显现特朗普被捕的假图中,当咱们将目光从画面中心移开时,就不难留意到,布景中执法人员的脸早已含糊或变形。
Higgins用Midjourney生成的“特朗普被捕”的虚伪图画布景中,执法人员的脸产生了含糊或变形。除上述4点,AI生成的图画还有或许会呈现一些常见的反常细节。例如人物的脸部不对称,牙齿违背中心,配饰与身体融为一体等。这些细节之前也常常被使用于对深假图画(DeepFake,俗称AI换脸)的观测中。但随着人工智能技能的开展,这些发现AI图画的头绪或许很快就会过期。人们或许将越来越难用肉眼发现AI生成的内容。在业界,一些科学家近年来开端测验将解决问题的目光转向机器,等待“用魔法打败魔法”。例如Mayachitra的工程师在2021年建立了一个用以检测图片是否运用生成对立网络技能的GAN检测器;开源社区Hugging Face上建立有针对AI生成内容的AI图画检测器和OPENAI检测器;2020年,微软公司还曾发布过一项名为Microsoft Video Authenticator的东西,用以针对网络上用深假技能制造的虚伪视频。但出于安全的考虑,微软公司并未将这款东西敞开供人们运用。
用Hugging Face的AI图画检测器检测“巴黎世家教皇”图画,反应此图有62%的概率由机器生成。需求指出的是,现阶段,许多用于检测AI图片的东西反应的成果并不总是精确,这或许是因为它们只能针对某些运用了特定模型的AI图片进行检测。面临人工智能技能被兵器化的危险,人类现在的应对之法还存有许多限制。但这不意味着要因噎废食,阻挠新技能的开展。奥维德指出,假造图画的现象由来已久,把AI造假看作国际末日的做法是不负责任的。
现在,除了将期望寄予于技能和监管,人们更多可以做的,或许是在传达信息前,可以镇定考虑,寻觅图片的来历,阅览和图画相关的标题、布景信息,留神图片上是否存有AI生成图片的水印,并对图片的细节进行判别。
“汹涌明查”也将继续重视人工智能技能的开展前沿,探寻协助人类在享用技能便利性一起应对技能使用或许导致的虚伪信息众多之法。
(本文来自汹涌新闻,更多原创资讯请下载“汹涌新闻”APP)
告发/反应

相关文章

日本多地产生杀人事情,我使馆紧迫提示

据日本媒体报道,近期日本社会恶性治安案子呈添加趋势。2024年12月以来,福冈县北神州市、长野县长野市、岐阜县岐阜市等地产生无差别杀人事情,多名无辜市民死伤。近两周,爱知县一宫市、东京都新宿区、埼玉县...

欧盟正告候选国:别到会莫斯科红场阅兵式

据美国“政治新闻网”欧洲版14日报导,欧盟外交与安全方针高档代表卡拉斯正告计划参与欧盟的候选国,不要派出代表到会将于5月9日在莫斯科举办的成功日80周年阅兵式,并呼吁他们转而去支援乌克兰。报导征引俄罗...

成品油迎年内第五次停滞,世界油价未来走势怎么?

来历:港股那点事11月20日24时,国内制品油新一轮调价窗口将敞开。今天,国家开展变革委发布公告称,自2024年11月6日国内制品油价格调整以来,世界市场油价动摇运转,按现行国内制品油价格机制测算,1...

特朗普被爆曾授权中情局使用交际账户等分布抹黑中国政府的言辞,中方回应

【环球时报-环球网报导 记者乌元春】外交部发言人汪文斌掌管3月15日例行记者会。会上有记者发问称:据路透社报导,美国前总统特朗普曾于2019年签署一项隐秘总统令,授权美国中情局建立专门的团队,在我国国...

巴基斯坦总理谢里夫泄漏印巴空战细节:在长达1小时的空战中,咱们的飞行员把印度战机炸成了碎片渣渣!只用了几个小时,敌人就屈服了

巴基斯坦总理谢里夫泄漏印巴空战细节:在长达1小时的空战中,咱们的飞行员把印度战机炸成了碎片渣渣!只用了几个小时,敌人就屈服了

  格隆汇5月8日|5月7日,巴基斯坦总理夏巴兹·谢里夫宣布说话指出,巴军全天候坚持战备状况成功迫使印度战斗机撤离。谢里夫还表明:“在长达1小时的空战中,咱们的飞行员把敌方的战机炸成了碎片渣渣了。只用...

郭振杰|称美国经济“一片大好”的人,并不了解背面的增加逻辑

导读:本文为美国经济系列文章的第二篇。近期以来,美国经济数据看好,加之在美国货车司机年薪17万美元、美国股市兴旺、作业康复等一些热帖,好像在传递一个理念:美国经济形势一片大好,美国挣钱也很简略。当对美...

友情链接: