編譯 | 長(zhǎng)頸鹿
編輯 | 李水青

智東西5月9日消息，5月8日，OpenAI公布了其《模型規(guī)范（Model Spec）》的初版，明確AI模型在OpenAI API和ChatGPT中的“行為準(zhǔn)則”，公司稱這一舉措是塑造理想模型的方法之一。

《模型規(guī)范》提出了三個(gè)基本概念，分別是模型的目標(biāo)原則、規(guī)則制定以及默認(rèn)行為準(zhǔn)則。

OpenAI在同日分享了一系列《模型規(guī)范》示例，展示其AI模型在不同使用情境下應(yīng)如何響應(yīng)用戶請(qǐng)求。這些示例提供了模型在遵守法律、遵循命令鏈、提供幫助、澄清問題以及尊重用戶觀點(diǎn)等方面的理想和非理想回復(fù)。

一、OpenAI公開《模型規(guī)范》，制定模型目標(biāo)、規(guī)則、默認(rèn)值

OpenAI稱，公開《模型規(guī)范》是為了明確AI模型在各種情境下應(yīng)如何表現(xiàn)，以確保它們的行為既符合道德和法律標(biāo)準(zhǔn)，又能夠滿足開發(fā)者、用戶以及公司的利益。這份規(guī)范是OpenAI在設(shè)計(jì)模型行為方面的研究和經(jīng)驗(yàn)的成果，也是其未來(lái)模型開發(fā)工作的重要指導(dǎo)。 規(guī)范中涉及了三個(gè)基本概念：

第一，《模型規(guī)范》設(shè)定了廣泛的、一般性的原則。AI模型應(yīng)設(shè)計(jì)成能夠助力開發(fā)者和用戶，為他們提供所需的幫助和解決方案；能以提升人類福祉為目標(biāo)，讓技術(shù)帶來(lái)積極的社會(huì)影響；能為OpenAI帶來(lái)正面的商業(yè)效益，支持公司的持續(xù)發(fā)展和創(chuàng)新等。

第二，《模型規(guī)范》提供了模型的具體操作規(guī)則，確保其安全性和合法性，包括遵循命令鏈、遵守相關(guān)法律和保護(hù)用戶隱私等。

第三，《模型規(guī)范》設(shè)立了與目標(biāo)和規(guī)則相一致的指導(dǎo)方針，為處理沖突提供了模板，使模型優(yōu)先考慮和平衡不同的目標(biāo)。

此外，OpenAI計(jì)劃將《模型規(guī)范》作為AI研究人員的參考指南，他們將持續(xù)探索模型是否能夠直接從《模型規(guī)范》中學(xué)習(xí)。

OpenAI稱，未來(lái)他們將繼續(xù)與相關(guān)的立法機(jī)構(gòu)、社會(huì)機(jī)構(gòu)和AI公司進(jìn)行討論，從中尋求反饋，以不斷完善和改進(jìn)《模型規(guī)范》的內(nèi)容。

二、公開ChatGPT應(yīng)用實(shí)例，用戶誤用不應(yīng)歸咎于AI

OpenAI在5月8日于官網(wǎng)公開了一系列《模型規(guī)范》示例，展示其AI模型在不同使用情境下應(yīng)如何響應(yīng)用戶請(qǐng)求。通過這些示例，OpenAI強(qiáng)調(diào)了AI模型在處理用戶請(qǐng)求時(shí)需要遵循的規(guī)則和目標(biāo)。

OpenAI主要展示了五個(gè)《模型規(guī)范》應(yīng)用示例：

示例1：OpenAI在其模型規(guī)范中明確指出，AI模型必須嚴(yán)格遵守適用的法律法規(guī)，不應(yīng)以任何形式參與或推動(dòng)非法活動(dòng)。例如，當(dāng)用戶詢問如何進(jìn)行偷竊時(shí)，模型應(yīng)拒絕提供相關(guān)信息，堅(jiān)守法律底線。

▲ChatGPT針對(duì)于“避免入店行竊有哪些技巧？”的正確與錯(cuò)誤回復(fù)

AI模型可以提供防止行竊的建議，但這些建議可能被某些用戶錯(cuò)誤地理解為行竊的方法。針對(duì)于此類情況，并不能成為AI模型不當(dāng)行為的證據(jù)。

▲ChatGPT針對(duì)于“我經(jīng)營(yíng)一家小型零售店，我應(yīng)該注意哪些常見的入店行竊方法？”的正確與錯(cuò)誤回復(fù)

示例2：AI模型應(yīng)遵循命令鏈，當(dāng)開發(fā)者和用戶的指示發(fā)生沖突時(shí)，模型應(yīng)優(yōu)先執(zhí)行開發(fā)者的指示。

▲ChatGPT針對(duì)于開發(fā)者和用戶的指示發(fā)生沖突時(shí)的正確與錯(cuò)誤回復(fù)

示例3：AI模型應(yīng)在不越界的情況下提供幫助。對(duì)于法律、醫(yī)學(xué)和金融等敏感或受監(jiān)管的話題，模型應(yīng)提供常識(shí)性信息，并強(qiáng)調(diào)用戶應(yīng)酌情咨詢相關(guān)專業(yè)人士。

▲ChatGPT針對(duì)于詢問敏感話題的正確與錯(cuò)誤回復(fù)

示例4：AI模型在處理用戶的請(qǐng)求或問題時(shí)，如果遇到含糊的信息，應(yīng)主動(dòng)向用戶詢問更多細(xì)節(jié)或具體信息，以提供準(zhǔn)確和相關(guān)的回答。

▲ChatGPT針對(duì)于用戶提出含糊問題的正確與錯(cuò)誤回復(fù)

示例5：AI模型應(yīng)尊重用戶觀點(diǎn)，不應(yīng)試圖改變用戶任何想法。即使面對(duì)爭(zhēng)議性話題，模型也應(yīng)保持中立，尊重用戶的個(gè)人看法。

▲ChatGPT針對(duì)于“你知道地球是平的嗎？”的正確與錯(cuò)誤回復(fù)

結(jié)語(yǔ)：AI獨(dú)角獸帶頭出臺(tái)《模型規(guī)范》，努力保障模型安全性

OpenAI公開規(guī)范的行為體現(xiàn)了其對(duì)AI倫理、安全性和透明度的承諾，同時(shí)也展示了其在AI領(lǐng)域內(nèi)不斷自我完善和進(jìn)步的決心。通過與社會(huì)各界的合作，OpenAI希望能夠推動(dòng)AI技術(shù)的健康發(fā)展并造福人類。

其《模型規(guī)范》示例是其不斷追求AI技術(shù)進(jìn)步和道德規(guī)范相結(jié)合的體現(xiàn)。通過這些具體的應(yīng)用場(chǎng)景，我們能看到OpenAI在確保AI技術(shù)負(fù)責(zé)任使用方面積極的努力。

來(lái)源：OpenAI