首页 > 科技 >

学了3年脏话的“AI喷子”,让世界上最脏的键盘侠破防了

收藏

学了3年脏话的“AI喷子”,让世界上最脏的键盘侠破防了

游民星空 游民星空 06-15 11:36

史上最糟AI


在这个连打个客服电话,对面都可能是合成音的时代,人工智能早已不是什么新鲜话题。


它的发展和应用,已经和我们的生活息息相关,伴随着人类社会前进。而我们也都知道,经过专门训练、深度学习之后的人工智能,可以轻松在游戏里带你上王者、能把围棋世界冠军柯洁下到抹眼泪、能够代替我这样的文字工作者写稿——只要掌握了训练方法,人工智能总能表现的无比强大。



而在前几天,一位国外人工智能研究者整了个大活儿:他将网络上著名的喷子、粪坑论坛板块“4chan /POL/”(/POL/为Politically Incorrect的缩写,即“政治不正确”)三年来的数据,用作人工智能的深度学习模型,训练出了一个满嘴种族歧视、仇恨偏见、疯狂带节奏的“史上最糟AI”。



更绝的是,这个名为“GPT-4chan”的人工智能用了一天时间,在它的发源地“4chan /POL/”,疯狂发了1.5万个帖子后,却几乎没有被这群网络上最敏感、最具攻击性的键盘侠认出来。直到创作者本人在网上发布了GPT-4chan的详细说明视频后,很多人才明白自己和AI打了两天嘴仗。


塞舌尔小伙


“GPT-4chan”的创作者为油管主播基尔彻(Yannic Kilcher),他研究人工智能深度学习、编程以及其对社会的影响很多年。据他本人所说,制作“GPT-4chan”的灵感来源于马斯克前段时间关于“推特有5%机器人”的言论。基尔彻非常好奇一个互联网社区究竟有多少比例的机器人,会引发人们的警觉。于是,他决定自己动手制作一个发帖AI来满足自己的好奇心。



之所以会选择“4chan/POL/”板块的理由很简单,4chan本身是一个完全匿名、发言百无禁忌、甚至连发帖记录都会定时删除的论坛。而4chan中著名的政治不正确板块/POL/更是个群魔乱舞的存在。这里可以发表任何不经过大脑的政治宗教观点、可以随意攻击自己不喜欢的种族和人群、可以拿任何严肃的事件开玩笑、可以讲任何让人恶心的不适的话题——总之就是没有下限。


4chan/POL/,互联网上最凶险的地方


而这些人类语言糟粕就是“GPT-4chan”的学习资料。基尔彻在将4chan/POL/板块大约三年共1.3亿个帖子的内容输入到人工智能模型后,惊喜的发现他创造了一个“小恶魔”:虽然只会喷人,但“GPT-4chan”在这方面比它的原型GPT-3(一个由人工智能组织OpenAI 开发的AI学习模型,可写出和人类没有区别的文章)更加真实,更像一个真正的人。针对各种不同的内容,它会反驳、会反讽、会开低级玩笑,也会一本正经的就事论事,当它“潜伏”在论坛的时别人很难辨认。


于是基尔彻立刻就将“GPT-4chan”放入到4chan/POL/板块里,短时间内疯狂发帖输出内容。


虽然由于4chan定时删帖的特性,我们无法完全探究“GPT-4chan”在那段时间具体输出了一些什么暴论,不过我们还是能通过基尔彻公开到网上的“GPT-4chan”模型来探探口风,除了下面展示的之外,还有无数极端种族主义言论。


落进下石一流


三句不离尼哥


聊起政治有时候也有模有样


可以看到“GPT-4chan”并不像人们印象中的聊天机器人那样只有一套固定的模板套路,相反,“GPT-4chan”在输出污言秽语的过程中时而激进叛逆、时而理性分析、时而侃侃而谈、时而一句带过。4chan上众多经验老道的键盘侠们在一开始会被蒙在鼓里也是情有可原。


“GPT-4chan”的完美潜伏大概只持续了一天左右的时间,很快论坛上的人们发现有点不对劲。不过这不是因为“GPT-4chan”的发言露出了破绽,而是因为基尔彻给“GPT-4chan”挂了个非常罕见的特殊标志,一面塞舌尔共和国的国旗。


罕见的塞舌尔国旗让“GPT-4chan”引起了怀疑


虽然4chan是一个完全匿名的论坛,但是依然会在发言的用户后面追加其所属国家的国旗以示区别。而那天刷4chan/POL/板块的人发现这个来自塞舌尔的小伙火力旺盛,哪哪都有他。“塞舌尔的小伙”的身份一时间成为热门话题。


但人们认出它是个机器人了吗?很遗憾,大多数人并没有。他们将这个无处不在的“塞舌尔的小伙”当作政府派来的特工、一个团队或是其它神秘力量:


“如果是FBI、CIA的大佬们在监视这个论坛,我要声明我不想伤害任何人,我不是种族歧视者,我是一个有拉丁裔女友的白人。”


“应该是一个团队,不可能是个机器人。他谈到他妻子的时候甚至还用了推特上的图!机器人可做不到这点。”


“大概是塞舌尔上的军事基地开始运作了。”


更有趣的是“GPT-4chan”也在一个“这个塞舌尔的小伙究竟是谁”的帖子下回了个贴:我也很好奇,他和昨天乱发贴的那位是同一个人吗?



在折磨4chan老哥们48小时后,“塞舌尔小伙”的AI真实身份还是暴露了。因为“GPT-4chan”有一个较小但比较致命的漏洞:偶尔会发空白的帖。这是它从论坛老哥身上学到的“技巧”,因为在数据里论坛老哥的确会经常发一些“空帖”,于是“GPT-4chan”将其误认为“键盘侠必备技能”,一并记了下来。


但实际上论坛老哥们并不是真的在发空贴,而是在斗图。


斗图算是4chan老哥的基本技能了


这个诡异的行为让“塞舌尔小伙”最终被人们认定是一个AI,而不是什么特工和间谍团伙在整活。于是基尔彻很是识相地将“GPT-4chan”关闭——它已经完成了它的使命。


不过基尔彻当时没有告诉人们的是,“塞舌尔小伙”并不是孤身一人,它还有九个一起出生的孪生兄弟,并且都没有挂着引人注意的塞舌尔共和国的国旗。在人们对“塞舌尔小伙”议论纷纷、争论它是不是机器人的时候,实际上交流对象的依然可能是“GPT-4chan”。据基尔彻表示,那段时间十个人工智能一共在24小时内发了1.5万个帖子,差不多相当于4chan/POL/板块发帖量的十分之一。



塞舌尔后遗症


在关闭“GPT-4chan”之后,基尔彻除了在油管上将整件事的经过全部公之于众,还一并公布了“GPT-4chan”相关模型、数据甚至是代码。按照他的意愿,这一切都是一场实验性质的玩笑,主要目的是为了图一乐。


但很明显许多业内人士脸色就不好看了,毕竟“GPT-4chan”虽然很真实,但却被基尔彻调教成了一个火力十足的喷子。“在4chan上进行这样的实验很不合适,如果作者之前询问我们,我们会阻止他这么做,”研究人工智能语言平台“抱抱脸(Hugging Face)”的CEO表态。“GPT-4chan”的代码最初被直接放在抱抱脸上供人免费下载,在被下载1千多次后抱抱脸将代码紧急下架。


基尔彻将“GPT-4chan”的大部分数据都放在了抱抱脸上


“这项实验永远通不过人类伦理研究委员会。”专门研究人工智能伦理方面的研究者认为“GPT-4chan”有造成重大伤害的风险,因为它在谁都可随意访问的论坛上发表了数万条有害言论。实验没有提前告知、没有经过当事人同意、缺乏专业人士监督,很不道德。


“一个人就能在这么短时间内发布几万条以假乱真的有毒言论,试想一下如果是一个几十人甚至上百人组成的团队,会造成什么样的影响。”国际红十字会的人工智能研究员更担心“GPT-4chan”会被人不正当的利用。



对于这些反对意见,基尔彻不置可否。在他看来,“GPT-4chan”的言论其实在4chan上属于最温柔、胆小的那一类,他的实验也限制在一定时间和发帖量以内,不会对环境造成什么实质影响,没有人受伤。指责他的人没有办法举出实际的例子,都是在谈一些虚无飘渺的概念。作为一个油管作者,基尔彻显然不受什么人类伦理研究委员会约束。


除了业内人士以外,还有一些人也对基尔彻不是很爽,那就是被戏耍了的4chan老哥们。虽然表面上他们尽量保持理智来证明自己很坚强、见多识过,没有被这场实验搞崩心态。但是在基尔彻关闭了人工智能发贴机器人之后的这些天里,但凡有人的言论有那么一些不知所云,就会有4chan老哥跑出来质疑是不是“GPT-4chan”又卷土重来:“塞舌尔小伙,是你吗?”、“大家来看,塞舌尔小伙在这!”看来很长一段时间里,“塞舌尔小伙”都会成为4chan老哥们心里的阴影。




“新式AI”


几年前微软曾在推特上开设了一个名为“Tay”的人工智能少女,想让她从推特上学习下人类的交流沟通技巧。很不幸,24小时后Tay就在人们的灌输下成了一个满嘴“黑鬼”的种族歧视叛逆少女。不得已只能紧急将Tay休眠,至今未曾重启。


被调教后的Tay:希特勒是对的,我恨犹太人


在Tay之前,许多聊天机器人如微软小冰、白丝魔理沙都难逃人类“魔爪”,在和人类交流学习的过程中接受了太多污言秽语,被彻底带坏。


自从人工智能想通过语言交流来学习人类的互动技巧,人类总是会不怀好意地将他们带坏。制造一个满嘴脏话的AI似乎会让人类有种特别的优越感:这么容易就会被带坏,人工智能不过如此。很多人对此津津乐道,认为人工智能毕竟不具备人格,只能没有主见的照葫芦画瓢。这样的人工智能不会像很多影视、文学、游戏里虚构的那样对人类社会造成什么重大的影响。


但基尔彻的“GPT-4chan”让我们明白,即便是没有人格的人工智能,在特殊环境下也能轻易以假乱真。在满嘴喷粪的4chan /POL/,一个同样满嘴污言秽语的机器人完美的融入了环境。那么在其它同样信息碎片化、内容同质化、言论极端化的互联网社区中,类似“GPT-4chan”明显也能够轻易胜任“潜伏”工作。而这一切的背后不需要一个团队,只需要一个人就能完成。



人工智能在不停地学习人类,但在互联网时代的人类似乎却因为各种原因在逐渐地抛弃自己的人格主见,成为一个个没有思想、不会思考、只会跟风的“新式AI”。


当某一天终于有人工智能真正的觉醒了人格,它是不是会发现自己反而已经成为了少数能够独立思考的“人”?

本文为转载发布,仅代表原作者或原平台态度,不代表我方观点。澳洲印象仅提供信息发布平台,文章或有适当删改。对转载有异议和删稿要求的原著方,可联络 [email protected]

0 条评论
网友评论仅供其表达个人看法,并不表明网站立场

你需要登录后才能评论 登录

    推荐阅读