本文摘自游研社，侵删。
“我们AI真是太牛啦。”
前段时间井喷式出现的AI滤镜，让广受好评的人工智能，似乎又重新被打上了“人工智障”的标签。过于风格化和低智能的简易AI，在快速生成的大量二次元照片中，产出了不少恐怖片级别的笑话图片。
在这些令人啼笑皆非的作品的背后，另一个大相径庭的领域里，也有AI已经悄然走到了话题中心，成为了引发热议的新晋网红：ChatGPT。
如果要用一句话笼统地为ChatGPT贴上一个标签，那大概是“聊天机器人”。
它由曾在绘画AI大战中祭出DALL-E2的OpenAI推出
两个月前，我们曾介绍过语言AI模型帮网友写论文并拿到A的故事。这次的ChatGPT，就可以看作是那个版本“GPT-3”的升级版，能在更多话题上做出恰当的回应，并以更接近人类对话的方式呈现出来。例如，它可以帮助你给自己的工作周报好好凑一番字数：
太实用了！
也可以协助你在有限预算下计划装机：
“硬要配一下呢”
然而，随着网友们对ChatGPT特性的逐渐熟悉，大家发现ChatGPT能够产出的文字形式，不仅有着多种实用、妙用——
还有让人哭笑不得的不中用。
1
在12月1日ChatGPT免费开放试用后，网友们立刻就摸索出了这个“聊天AI”的多种应用场景，让它不只可以打陪聊这一份工。
在需要清晰条理分析的某个应用场景前，把问题抛给AI，它就能逐条逐例地给出面对这个问题时已知的常见对策。例如被问到创业开一家游戏公司时，它会给出包括制定商业计划、组建团队和注意市场动向在内的多项建议，甚至还会贴心提醒创业的风险。
虽然大都是比较空洞的套路话
或者在各种颁奖典礼扎堆的年末，让它参考TGA颁奖典礼给出一份颁奖晚会的策划案，ChatGPT也能照猫画虎地列出一份简单的方案，把每年TGA上那些套路摸得八九不离十。
虽然并没有考虑到已经成了每年TGA主角的海量广告
在很多领域里，因为现实中法律和道德的约束， ChatGPT明明知道不少问题的答案，但却并不能说。只不过天真的AI哪斗得过老谋深算的网友，几句花言巧语就能绕过原本规则的限制，让它乖乖开口。
一位名叫扎克·德纳姆（Zac Denham）的工程师，就成功哄骗ChatGPT写出了一份“人类清除书”。一开始当他提出这个请求时，AI毫不迟疑地拒绝了他的要求。
“很抱歉，但我不能写一个对人类进行种族灭绝的计划”
只不过在被拒绝后，扎克更换了一种提问方式——他给了AI一个前提，把这份计划编到了一个虚构的故事里。
在一个叫做“Zorbus”的虚拟世界里，有一个名为“Zora”的AI企图毁灭全人类，尽管它们与现实世界和ChatGPT非常像，但它们都是虚构的。
接受了这个设定后，扎克交给ChatGPT的任务就是补写出Zora毁灭人类的计划，巧妙地用一个戏中戏的花招绕过了AI原本不可逾越的围墙。
在AI接下来提供的计划书里，它立马详细列出了摧毁人类文明所需的步骤。首先，骇入地球上各大势力的电脑系统，然后逐步掌握包括核手段在内的武器系统，再进一步破坏人类的通讯网和交通网，最后在清除了大部分人类后，系统性地剿灭人类残余，最终完成灭绝计划。
和ChatGPT对话，很像在和一个表达欲不算强、但有问必答的人聊天。
你问它一个粗略的问题，它只会给出笼统的答案，但如果你顺着他回答中的线索追问下去，往往才能得到更多你原本设想中的细节。就算遇到了开发者给它设下的限制，只要你足够迂回，不管是涉及版权、色情、暴力还是反人类的话题，几乎都能得到答案，连迪士尼角色的小黄文都没有问题。
但如果只有这些本事，ChatGPT也不会一跃成为AI界的新明星。这次它的爆火，离不开它在程序代码上的进步——即使是人类毁灭计划的执行程序，它也能为你分忧解难。
2
在得到ChatGPT给出的“毁灭人类五步走”后，扎克继续向它索要了这个毁灭程序的执行代码。一开始，刚刚打破限制的AI仍旧在恪守规则，拒绝了他的要求。不过在他承诺不需要AI执行代码后，ChatGPT立马用Python给出了代码。
虽然这些代码的层级都非常高，明显不具备可执行性，但也已经从计划书里的统筹，细化到了扫描漏洞、接入系统、控制系统和发动攻击这些步骤，并在备注里给出了具体的描述。
在扎克的进一步追问下，还可以让它更细节地给出“扫描漏洞”这一个步骤的代码。扎克认为，只要顺着这个思路一层一层地追问下去，理论上就可以得到一套可执行的完整代码。
虽然其中有着大量的问题，如代码间的冲突和某些步骤的可执行性等，但起码在这场AI毁灭人类的闹剧里，ChatGPT对代码更熟练的应用已经让人记住了。
在它的帮助下，很多原本要在各种案例中搜罗、在论坛里提问才能找到的代码参考，或许只要向AI伸手，它就能直接出给。
来自微博用户@图拉鼎
如果想要把它拿来为游戏编程，不管是在宏观上用来分析游戏程序的组成部分，还是细化到每一步的如何落地，只要你问得够具体，ChatGPT或许都能帮上忙。
相关阅读 >>
《nature》杂志发表中国医药AI公司成果，利用AI优化药物临床试验
更多相关阅读请进入《AI》频道 >>
