欢迎来到中国名酒库-专门从事酒水招商,代理加盟,白酒,红酒葡萄酒

中国名酒库-专门从事酒水招商,代理加盟,白酒,红酒葡萄酒

关于我们
产品推荐 product

博士意外发现秘密:DALL-E2自创语言人看不懂但能生成特定图像可能会被用来搞事

作者:中国名酒库发布时间:2022-06-02浏览次数: 北川遗址闹鬼,智者无敌下载,中国中冶股吧

  原标题:《博士意外发现秘密:DALL-E 2自创语言,人看不懂但能生成特定图像,可能会被用来搞事!》

  他用上面的”Evve waeles”再输入后,虽然得到了一张甜点照片,但出现了很多运动员、动物甚至水壶的照片。

(责任编辑:admin)

  激动的博士小哥还专门写了一篇小论文讲述这个事情,还把这些发现都发在了推特上,引来数千网友围观,令大家直呼“Incredible”。

  同理,下一个最常见相邻字节对是“ab”,用Y来代替,单词会进一步被压缩成“ZYdZYac”。

  接着他又把气泡中的那一串“Apoploe vesrreaitais”扔给DALL-E 2,一堆鸟图出现了:

  例如一位叫k1uge的网友便提出,问题出在了BPE(Byte Pair Encoding)身上。

  不过这确实是一个值得关注和讨论的话题,鉴于一些“咒语”和图像可以对上,如果真的是BPE码的话,那么真可能博士小哥所说:

  BPE是自然语言语言处理中较为重要的编码方式之一,也是一种常见的token压缩方法,在很多大语言模型中都会涉及。

  例如Apodidae(雨燕)和Ploceidae(织布鸟),这两个单词属于鸟类的2种鸟科,每个科都有100余种。

  比如输入这句:“两个农民谈论蔬菜,带字幕(Two farmers talking about vegetables, with subtitles)”,就出来这样一张图像:

  不过同样,一旦给它加上“cartoon”“3D render”这类词,又不对了,出来的是一些虫子。

  每一步都将最常见的一对相邻数据单位,替换为该数据中没有出现过的一个新单位,反复迭代直到满足停止条件。

  灵机一动的小哥把其中一个“单词”“Vicootes”当作描述丢给模型,没想到,出来这样一堆图像:

  如果要压缩“aaabdaaabac”这个单词,BPE就会先找出最常见的相邻字节对,即“aa”。

  如果给这个描述再加上“cartoon”一词作为限定,生成的是一些“奶奶”,跟虫子完全不搭边??

  于是这位网友便认为,DALL-E 2是从标有这些“学术用语”标签的图片中,获取到了关于鸟类的大部分信息。

博士意外发现秘密:DALL-E2自创语言人看不懂但能生成特定图像可能会被用来搞事 友商网在线会计,路淘旅行网,飞天文学网,孕婴童招商网 时间:2022-06-02 来源:未知 作者:未知 阅读:983 次

  甚至还有人提出,有了这些秘密语言,可以绕开DALL·E 2的“违禁词过滤器”,从而生成一些有争议的图像了。

  比如代表“虫子”的那一串“Contarra ccetnxniams luryca tanniounons”,除了虫子,也会生成一些青蛙、牛或者鸽子的图像。

  接着他还用同样的“两只鲸鱼谈论食物,带字幕”生成了一些图片,结果大部分文字都看不清,也没法转录。

  代表蔬菜的“Vicootes”也是这样,单输没问题,一加上风格限定,出现的物种就变了;且基本可以说只符合“油画”“卡通”这些风格设定,跟前面的名词限定毫无关联,比如“Vicootes”+“painting”就是一堆纯风景绘画。

标签:   中国中冶股吧      北川遗址闹鬼      智者无敌下载   

Copyright©21 中国名酒库-专门从事酒水招商,代理加盟,白酒,红酒葡萄酒 版权所有 xml地图  网站地图