天博99%可靠！OpenAI开发生成图像检测工具—新闻—科学网 来源：天博企业 发表时间: 2024-04-06

检测东西AI or Not误报以色列逝世婴照片为AI天生。跟着人工智能东西可用在把持或者假造全世界事务的新闻报导，对于此类检测东西的需求只会愈来愈强。

其时时间10月17日，OpenAI首席履行官山姆 奥特曼以及该公司首席技能官米拉 穆拉蒂于《华尔街日报》Tech Live集会上。

ChatGPT的开发机构OpenAI正于构建一个东西，可以对于由其人工智能办事Dall E 3创立的图象举行高度切确的检测。

本地时间10月17日，OpenAI首席技能官米拉 穆拉蒂（Mira Murati）于美国加利福尼亚州拉古纳海滩进行的《华尔街日报》Tech Live集会上吐露了这一动静。她说，OpenAI的这个东西 99%靠得住 ，正于规划公然发布进步行内部测试，但她没有详细申明时间表。

OpenAI于本年1月发布了一个近似的东西，旨于确定文本是不是人工智能天生的，但该东西于7月被弃捐，由于它其实不靠得住。该公司其时暗示，正于起劲革新软件，并致力在开发要领来辨认音频或者图象是否也是由人工智能天生的。

OpenAI开发的Dall E是今朝最强盛的人工智能天生图象产物之一，与Midjourney以及Stable Diffusion等软件配合为互联网提供了年夜量AI图象。此中一些虚伪图片于社交收集上泛滥，出格是于庞大国际冲突发生后。

就于近来，一张关在以色列逝世婴的照片再次激发争议。10月12日，以色列总理本杰明 内塔尼亚胡的官方账户发布了一张被烧焦的尸身的图片，称该图片显示一位婴儿于10月7日的袭击中被极度构造哈马斯杀戮。于图片发布后的几个小时内，很多社交媒体账号暗示，基在名为 AI or Not 的人工智能检测东西的成果，这张照片是由人工智能天生的。然而，几位图象阐发专家和AI or Not暗地里的公司暗示，这些成果是检测东西误报，这张照片极可能是真正的。

AI or Not终极检测成果显示，这张以色列逝世婴照片极可能是真正的。

于10月14日的一条推文中，AI or Not暗地里的公司暗示，其软件可以或许误报，象征着它可以过错地患上出真实照片是由人工智能天生的结论，尤为是当相干图象品质较低时。

专门从事图象阐发的查询拜访机构Bellingcat早于2023年9月就测试了AI or Not。 于辨认被压缩的人工智能图象（尤为是真实感图象）时，AI or Not的过错率都很高，这年夜年夜降低了它对于开源研究职员的实用性。 该团队总结。

自ChatGPT发布以来，已经经有多个东西声称可以检测人工智能建造的图象或者其他内容，但它们每每都不克不及包管彻底正确。跟着人工智能东西可用在把持或者假造全世界事务的新闻报导，对于此类检测东西的需求只会愈来愈强。

17日，穆拉蒂还对于GPT-4的后续AI模子作出了表示。只管OpenAI还没有公然暗示GPT-4的后续模子可能会被称为何，但该公司7月向美国专利牌号局提交了 GPT-5 牌号申请。当被问及GPT-5模子是否会再也不扩散假话时，穆拉蒂说： 或许吧。

（原标题：99%靠得住！OpenAI开发Dall E天生图象检测东西）

出格声明：本文转载仅仅是出在流传信息的需要，其实不象征着代表本消息网不雅点或者证明其内容的真实性；如其�첩他媒体、消息网或者小我私家从本消息网转载使用，须保留本消息网注明的“来历”，并自大版权等法令义务；作者假如不但愿被转载或者者接洽转载稿费等事宜，请与咱们联系。/天博