不是好事：AI水军在仇恨板块不足以分辨

2022-06-10 05:18:00 作者：老王

苹果公司正要了解到创建极端主义认知科学的安全性，但如果你故意将智能指向一个杀虫剂的年会会发生什么？一个人发现了。正如Motherboard和The Verge所表明的，YouTuber Yannic Kilcher为了让4chan的Politically Incorrect（/pol/）隐没三年来的章节训练了一个认知科学语言仿真，这个地方因其极端主义和其他方式的偏见而臭名昭著。在将该仿真引入10个人造人后，黑尔敏将认知科学在隐没上释放出来--毫不无聊，它想象了一波仇恨。在24小时内，这些人造人写成了15000个博客，其中经常包括极端主义章节或与之对话。黑尔敏称，这些博客分之一当天/pol/博客的10%以上。

该仿真被命名为GPT-4chan（在OpenAI的GPT-3之后），它不仅常务理事了在/pol/博客中用到的词汇，还常务理事了Kilcher所说的混合了 "攻击性、唯心主义、嘲弄和厚度不猜疑 "的整体语气。视频新手小心翼翼地躲避4chan对暂由和VPN的防御，甚至用到VPN使其看起来像是来自图瓦卢的人造人博客。

认知科学再犯了一些缺失，如空白博客，但足够有说服力，许多Gmail花了将近两天整整才意识到不对劲。据黑尔敏说，许多年会核心人物只注意到了其中一个人造人，而这个仿真造成了足够的戒心，以至于在黑尔敏废止这些人造人的几天后，人们互相诋毁对方是人造人。

在与The Verge的对话中，这位YouTuber将该实验描述为一个 "恶作剧"，而不是研究。这提醒我们，训练有素的认知科学才会和它的早期材料一样好。令人担忧的是，黑尔敏如何交友他的兼职。虽然他消除共享人造人编译器，但他与认知科学库Hugging Face交友了部分阉割过的仿真版本。访客就会出于邪恶的目的重新创建认知科学，因此Hugging Face重新考虑约束访问，作为预防措施。该单项共存明显的道德问题，黑尔敏本人说他应该在未来专注于 "非常积极的 "兼职。