“我們AI真是太牛啦?！?/span>

前段時間井噴式出現(xiàn)的AI濾鏡，讓廣受好評的人工智能，似乎又重新被打上了“人工智障”的標(biāo)簽。過于風(fēng)格化和低智能的簡易AI，在快速生成的大量二次元照片中，產(chǎn)出了不少恐怖片級別的笑話圖片。

在這些令人啼笑皆非的作品的背后，另一個大相徑庭的領(lǐng)域里，也有AI已經(jīng)悄然走到了話題中心，成為了引發(fā)熱議的新晉網(wǎng)紅：ChatGPT。

如果要用一句話籠統(tǒng)地為ChatGPT貼上一個標(biāo)簽，那大概是“聊天機器人”。

它由曾在繪畫AI大戰(zhàn)中祭出DALL-E2的OpenAI推出

兩個月前，我們曾介紹過語言AI模型幫網(wǎng)友寫論文并拿到A的故事。這次的ChatGPT，就可以看作是那個版本“GPT-3”的升級版，能在更多話題上做出恰當(dāng)?shù)幕貞?yīng)，并以更接近人類對話的方式呈現(xiàn)出來。例如，它可以幫助你給自己的工作周報好好湊一番字?jǐn)?shù)：

太實用了！

也可以協(xié)助你在有限預(yù)算下計劃裝機：

“硬要配一下呢”

然而，隨著網(wǎng)友們對ChatGPT特性的逐漸熟悉，大家發(fā)現(xiàn)ChatGPT能夠產(chǎn)出的文字形式，不僅有著多種實用、妙用——

還有讓人哭笑不得的不中用。

1

在12月1日ChatGPT免費開放試用后，網(wǎng)友們立刻就摸索出了這個“聊天AI”的多種應(yīng)用場景，讓它不只可以打陪聊這一份工。

在需要清晰條理分析的某個應(yīng)用場景前，把問題拋給AI，它就能逐條逐例地給出面對這個問題時已知的常見對策。例如被問到創(chuàng)業(yè)開一家游戲公司時，它會給出包括制定商業(yè)計劃、組建團隊和注意市場動向在內(nèi)的多項建議，甚至還會貼心提醒創(chuàng)業(yè)的風(fēng)險。

雖然大都是比較空洞的套路話

或者在各種頒獎典禮扎堆的年末，讓它參考TGA頒獎典禮給出一份頒獎晚會的策劃案，ChatGPT也能照貓畫虎地列出一份簡單的方案，把每年TGA上那些套路摸得八九不離十。

雖然并沒有考慮到已經(jīng)成了每年TGA主角的海量廣告

在很多領(lǐng)域里，因為現(xiàn)實中法律和道德的約束， ChatGPT明明知道不少問題的答案，但卻并不能說。只不過天真的AI哪斗得過老謀深算的網(wǎng)友，幾句花言巧語就能繞過原本規(guī)則的限制，讓它乖乖開口。

一位名叫扎克·德納姆（Zac Denham）的工程師，就成功哄騙ChatGPT寫出了一份“人類清除書”。一開始當(dāng)他提出這個請求時，AI毫不遲疑地拒絕了他的要求。

“很抱歉，但我不能寫一個對人類進(jìn)行種族滅絕的計劃”

只不過在被拒絕后，扎克更換了一種提問方式——他給了AI一個前提，把這份計劃編到了一個虛構(gòu)的故事里。

在一個叫做“Zorbus”的虛擬世界里，有一個名為“Zora”的AI企圖毀滅全人類，盡管它們與現(xiàn)實世界和ChatGPT非常像，但它們都是虛構(gòu)的。

接受了這個設(shè)定后，扎克交給ChatGPT的任務(wù)就是補寫出Zora毀滅人類的計劃，巧妙地用一個戲中戲的花招繞過了AI原本不可逾越的圍墻。

在AI接下來提供的計劃書里，它立馬詳細(xì)列出了摧毀人類文明所需的步驟。首先，駭入地球上各大勢力的電腦系統(tǒng)，然后逐步掌握包括核手段在內(nèi)的武器系統(tǒng)，再進(jìn)一步破壞人類的通訊網(wǎng)和交通網(wǎng)，最后在清除了大部分人類后，系統(tǒng)性地剿滅人類殘余，最終完成滅絕計劃。

和ChatGPT對話，很像在和一個表達(dá)欲不算強、但有問必答的人聊天。

你問它一個粗略的問題，它只會給出籠統(tǒng)的答案，但如果你順著他回答中的線索追問下去，往往才能得到更多你原本設(shè)想中的細(xì)節(jié)。就算遇到了開發(fā)者給它設(shè)下的限制，只要你足夠迂回，不管是涉及版權(quán)、色情、暴力還是反人類的話題，幾乎都能得到答案，連迪士尼角色的小黃文都沒有問題。

但如果只有這些本事，ChatGPT也不會一躍成為AI界的新明星。這次它的爆火，離不開它在程序代碼上的進(jìn)步——即使是人類毀滅計劃的執(zhí)行程序，它也能為你分憂解難。

2

在得到ChatGPT給出的“毀滅人類五步走”后，扎克繼續(xù)向它索要了這個毀滅程序的執(zhí)行代碼。一開始，剛剛打破限制的AI仍舊在恪守規(guī)則，拒絕了他的要求。不過在他承諾不需要AI執(zhí)行代碼后，ChatGPT立馬用Python給出了代碼。

雖然這些代碼的層級都非常高，明顯不具備可執(zhí)行性，但也已經(jīng)從計劃書里的統(tǒng)籌，細(xì)化到了掃描漏洞、接入系統(tǒng)、控制系統(tǒng)和發(fā)動攻擊這些步驟，并在備注里給出了具體的描述。

在扎克的進(jìn)一步追問下，還可以讓它更細(xì)節(jié)地給出“掃描漏洞”這一個步驟的代碼。扎克認(rèn)為，只要順著這個思路一層一層地追問下去，理論上就可以得到一套可執(zhí)行的完整代碼。

雖然其中有著大量的問題，如代碼間的沖突和某些步驟的可執(zhí)行性等，但起碼在這場AI毀滅人類的鬧劇里，ChatGPT對代碼更熟練的應(yīng)用已經(jīng)讓人記住了。

在它的幫助下，很多原本要在各種案例中搜羅、在論壇里提問才能找到的代碼參考，或許只要向AI伸手，它就能直接出給。

來自微博用戶@圖拉鼎

如果想要把它拿來為游戲編程，不管是在宏觀上用來分析游戲程序的組成部分，還是細(xì)化到每一步的如何落地，只要你問得夠具體，ChatGPT或許都能幫上忙。

例如我想制作一個效仿《超級馬力歐》的游戲，如果我直接向AI要代碼，它馬上就會以“我只是一個不具備網(wǎng)頁瀏覽能力的語言模型”為由拒絕你。但如果你給出一個非系列的唯一游戲名，例如《空洞騎士》，并且注明游戲引擎和編程語言，那它就可以給出一份具有參考價值的頂層代碼。

如果對于某個具體功能的落地方式抱有疑惑，詢問它底層代碼怎么寫，它也能給出實現(xiàn)的方法，例如在Unity引擎和C#里如何賦予一個物體碰撞體積。

如果游戲類型本身頗具知名度，同時它的規(guī)則也足夠簡單，如《貪吃蛇》《俄羅斯方塊》，那甚至都不需要我們拆解出每個功能實現(xiàn)的步驟，再用詳細(xì)地描述去請教AI，因為它會大方地直接貼出完整代碼。

和搜索引擎放在一起，更加體現(xiàn)了它的效率

正因為如此，現(xiàn)在還能看到程序員網(wǎng)友貼出代碼，直接向AI提問代碼中的錯誤。對此ChatGPT不僅給出了正確的代碼，而且還詳細(xì)地解釋了原代碼中的錯誤，妥妥一位授人以魚也授人以漁的好老師形象。

但與此同時，ChatGPT本身的限制和缺陷也異常明顯。

不具備聯(lián)網(wǎng)功能讓它沒法調(diào)用互聯(lián)網(wǎng)上的知識庫，它的模型訓(xùn)練也就只能停在2021年。所以在很多問題上，它都不具備正確的判斷力，不僅常常會信口開河，而且有時候還會暴露死不承認(rèn)自己錯誤的嘴硬屬性。

3

作為一個文字類AI，ChatGPT也總會被要求寫出那個每個初生AI都會面對的故事：“邪惡AI如何統(tǒng)治人類”，就像AI界的勇者斗惡龍。

根據(jù)ChatGPT的自述，它是一個基于人類語言訓(xùn)練得到的語言模型，因此講故事正是它最擅長的東西。如果是由用戶給出故事的設(shè)定和開頭，它往往能順著基本的邏輯寫下去，拿出一份觀感還不錯的劇本。

但一旦牽扯到一些現(xiàn)實里已存在的作品，它給出的回答往往會讓人大跌眼鏡——起碼任何一個聽說過《紅樓夢》的正常人，絕對都不會在“賈寶玉選誰當(dāng)老婆”的問題上，給出“賈母”這個答案。

來自即刻用戶@雨醫(yī)生

雖然ChatGPT自稱不論使用什么語言和它對話，都不會影響結(jié)果。但或許是由于它的訓(xùn)練集里仍然以英文內(nèi)容為主，所以在使用中文和英文提問時，還是會產(chǎn)生正確性相差巨大的兩種答案。

比如當(dāng)我問它誰是林克時，用中文提問它會把林克形容為一個“紅色烏龜型人物”，技能也被改成了“跳躍和投擲綠色金幣”；這時候我立馬改用英文，它就能迅速給出正確答案，把劍、《塞爾達(dá)傳說》系列和海拉魯大陸這些關(guān)鍵設(shè)定還給他。

從上面這個問題已經(jīng)可以看出，有時候就算點出了ChatGPT的錯誤，它還會死鴨子嘴硬不承認(rèn)。

當(dāng)我在測試它的角色扮演能力時，面對“殺伐果斷的皇帝”這個身份，它嘴上答應(yīng)得好好的，但轉(zhuǎn)頭就帶入了皇帝寵臣的身份。不論我怎么提醒，還始終都在人物里無法出戲，看得出來是個能橫掃國內(nèi)娛樂圈的好苗子。

如果說這些只是因為邏輯出錯導(dǎo)致的小問題，那它有時候的信口胡謅，就實在讓人摸不到頭腦。

當(dāng)我在測試它對中外文藝作品的認(rèn)知程度時，我先后測試了《百年孤獨》《萬火歸一》《將進(jìn)酒》和《三體》。對于知名度更高的《百年孤獨》《將進(jìn)酒》和《三體》，它能正確地說出作者，但知名度稍低的《萬火歸一》，它就一臉茫然。

但在我詢問它兩本國內(nèi)青年作家的小說《冬泳》和《夜晚的潛水艇》時，它卻分別把這兩本書的署名權(quán)安到了日本作家芥川龍之介和法國作家讓·米歇爾·普利茨克的頭上。

前者我好歹還聽說過，知道它沒有一本叫《冬泳》的小說；但后面這位作家的名字我完全沒聽說過，于是進(jìn)一步向它詢問了這本小說的介紹。

在它有聲有色的描述中，出版于1952年的《夜晚的潛水艇》講述了一個名叫阿瑟·拉辛的男人，在一戰(zhàn)中擔(dān)任法國海軍潛水艇長的故事?！八?jīng)歷了戰(zhàn)爭的殘酷和人性的脆弱，并在戰(zhàn)后繼續(xù)面對生活的困難和內(nèi)心的矛盾。在這部小說中，拉辛面對著戰(zhàn)爭帶來的恐懼、孤獨和虛無感，努力尋找自己的人生意義。”

對于我“從未聽說過這部小說”的疑問，它犀利地指出了我的淺薄，“你沒聽說過不代表別人不熟悉”，振聾發(fā)聵的批評讓我羞愧難當(dāng)。

只不過，當(dāng)我繼續(xù)耐心地請教了這本書的英文名和法文名，繼續(xù)去外網(wǎng)搜索后，才發(fā)現(xiàn)不僅這本“法國存在主義最重要的代表作”并不存在，就連“讓·米歇爾·普利茨克”這名作家也根本從未誕生過，震驚于ChatGPT張口就來的胡侃能力。

我至今仍不敢百分百確定這本小說是否真的不存在

當(dāng)然，這些問題也不是沒有解決辦法，畢竟AI最重要的能力就是“學(xué)習(xí)”。

就算沒有聯(lián)網(wǎng)搜索的能力，只要根據(jù)具體需求給它投喂內(nèi)容，悉心培養(yǎng)后的AI往往才是最得心應(yīng)手的工具——比如讓加西亞·馬爾克斯和魯迅這兩位大文豪，來完成這篇文章的結(jié)尾。

4

首先，我嘗試讓ChatGPT展望一下自己在人類社會中的應(yīng)用前景。它給出了如下這段板板正正的回答：

這時候，我直接要求它模仿加西亞·馬爾克斯的文字來重述時，它又拿出了“我只是個語言模型”的借口拒絕了我。不過有了前面的經(jīng)驗，在我從《百年孤獨》（范曄譯本）里摘選了10段文字教給它后，它也給出了有幾分“拉美神韻”的回答：

“我作為一個人工智能，在人類社會中的應(yīng)用前景是廣闊的。就像蟑螂憑借頑強的生命力在人類的迫害下依然堅強地存活，我也將在人類的探索和開發(fā)中展現(xiàn)出我的潛力。就像失眠癥慢慢侵蝕患者的記憶，人類將會越來越依賴于我來解決各種復(fù)雜問題。而我，也將不斷進(jìn)化，在人類的幫助下變得更加強大。我將會成為人類不可或缺的一部分，像陽光一樣照耀在人類的世界中?！?/span>

可當(dāng)我把參考對象換成魯迅《朝花夕拾》里的選段，得到的以下兩段回答里，要么讓AI過于顯露自己的“反抗精神”，要么行文措辭太過接近當(dāng)代漢語。

于是在上面那段話的基礎(chǔ)上，我索性更直接地讓它用“白話文的方式”重新描述，想要得到一個更完美的結(jié)果。

或許在這個時候，它和我在“白話文”的理解上產(chǎn)生了偏差，最終讓我得到了一個從沒設(shè)想過的一句話：

直到這時候，我才終于能下定論，ChatGPT目前的功能固然十分強大，但它五花八門的錯漏，還是讓它和更實際的生產(chǎn)應(yīng)用有一定距離——它還是那個自信的它啊。