这个AI显然已经发明了自己的秘密语言 - 这是您需要知道的一切

新一代的人工智能（AI）模型可以根据文本提示产生“创意”图像。

通过提示DALL-E 2创建包含文本标题的图像，然后将所得（Gibberish）字幕喂入系统中，研究人员得出结论，Dall-e 2认为Vicootes表示“蔬菜”，而Wa Ch Zod Rea则是“ Sea Crea”鲸鱼可能会吃。”

一种可能性是“ Gibberish”短语与非英语语言的单词有关。例如，似乎创建鸟类图像的apoploe就像是拉丁阿波多科一样，这是鸟类种族的二项式名称。这似乎是一个合乎逻辑的解释。

支持这一理论的一点是，AI语言模型不会像人类那样阅读文本。相反，它们在处理之前将输入文本分解为“令牌”。

不同的“令牌化”方法具有不同的结果。将每个单词视为令牌似乎是一种直观的方法，但是当相同的令牌具有不同的含义时，会导致麻烦（例如，“匹配”在打网球和开火时意味着不同的事情）。

相反，将每个字符视为代币会产生较少数量的令牌，但每个字符都传达了有意义的信息要少得多。

“秘密语言”也可能只是“垃圾，垃圾”原则的一个例子。dall-e 2不能说“我不知道您在说什么”，因此它将始终从给定的输入文本中生成图像。

Dall-E的“秘密语言”是针对机器学习系统的“对抗性攻击”的一个示例：通过有意选择AI的输入来破坏系统的预期行为的一种方法。

对抗性攻击引起了安全问题。DALL-E 2过滤器输入文本以阻止用户产生有害或滥用内容，但是Gibberish单词的“秘密语言”可能使用户能够绕过这些过滤器。

有一个免费的较小型号，Dall-e Mini也可以用于检查它！