泄露用戶聊天記錄標(biāo)題，ChatGPT突遭禁用！關(guān)閉一天后“殘缺版”重新上線

2024-5-8 12:02| 發(fā)布者: admin| 查看: 356| 評(píng)論: 0

摘要: 6個(gè)月前，幾乎只有科研人員在關(guān)注大型語(yǔ)言模型的發(fā)展。但去年年底ChatGPT的推出，給全世界帶來(lái)了重磅炸彈：機(jī)器現(xiàn)在能夠以一種與人類幾乎沒(méi)有區(qū)別的方式進(jìn)行交流。它們能夠在幾秒鐘內(nèi)寫出文字，甚至是編寫各大領(lǐng)域的 ...

6個(gè)月前，幾乎只有科研人員在關(guān)注大型語(yǔ)言模型的發(fā)展。但去年年底ChatGPT的推出，給全世界帶來(lái)了重磅炸彈：機(jī)器現(xiàn)在能夠以一種與人類幾乎沒(méi)有區(qū)別的方式進(jìn)行交流。它們能夠在幾秒鐘內(nèi)寫出文字，甚至是編寫各大領(lǐng)域的代碼，而且質(zhì)量往往非常高。

這個(gè)月，GPT-4的推出進(jìn)一步表明，人工智能正在以流星般的速度進(jìn)步，而且可能將像其他技術(shù)一樣從根本上改變?nèi)祟惿鐣?huì)。在未來(lái)，人工智能極有可能將一系列工作任務(wù)自動(dòng)化，在白領(lǐng)群體中，這一現(xiàn)象會(huì)尤為常見(jiàn)。放在以前，這幾乎是不可能的。

但是，技術(shù)進(jìn)步的同時(shí)，無(wú)疑也給人類帶來(lái)了新的難題。如何確保個(gè)人不會(huì)濫用技術(shù)？如何保護(hù)用戶的隱私？這些問(wèn)題，都亟待解決。

↑GPT-4

泄露用戶聊天記錄標(biāo)題

ChatGPT關(guān)閉一天后“殘缺版”上線

據(jù)報(bào)道，當(dāng)?shù)貢r(shí)間周一上午，OpenAI暫時(shí)關(guān)閉ChatGPT服務(wù)，理由是公司收到了一個(gè)錯(cuò)誤報(bào)告，稱ChatGPT允許一些用戶看到其他用戶聊天記錄的標(biāo)題。

OpenAI的一位發(fā)言人告訴外媒記者，用戶聊天記錄的標(biāo)題通常出現(xiàn)在ChatGPT網(wǎng)頁(yè)左側(cè)。雖然泄露了標(biāo)題，但用戶具體的對(duì)話內(nèi)容是不可見(jiàn)的。該發(fā)言人說(shuō)，公司發(fā)現(xiàn)這一錯(cuò)誤后，ChatGPT被暫時(shí)禁用。“一個(gè)未命名開(kāi)源軟件的一個(gè)錯(cuò)誤導(dǎo)致了這個(gè)問(wèn)題。公司仍在調(diào)查確切的原因?！?br>
周一晚間，ChatGPT重新上線，但用戶的聊天記錄仍然丟失?！皻v史記錄暫時(shí)不可用。我們正在努力盡快恢復(fù)這一功能?！绷奶祉?yè)面顯示。在周一晚間的聲明中，發(fā)言人也說(shuō)，“ChatGPT現(xiàn)在已經(jīng)恢復(fù)在線，我們正在努力恢復(fù)聊天記錄?！?br>
此次意外出現(xiàn)后，許多人不禁開(kāi)始擔(dān)憂，如何防止有人對(duì)人工智能進(jìn)行惡意破壞或者入侵？一個(gè)小小的安慰是，OpenAI和其他大公司都意識(shí)到，這些人工智能可能被人利用，用于發(fā)送垃圾郵件、傳播錯(cuò)誤信息、創(chuàng)建惡意軟件、進(jìn)行有針對(duì)性的騷擾。OpenAI首席執(zhí)行官薩姆·奧特曼此前就曾警告稱，他擔(dān)心政府行動(dòng)不夠迅速，無(wú)法圍繞人工智能推出限制性政策。

實(shí)際上，ChatGPT推出后，谷歌、蘋果、Meta、百度和亞馬遜等公司也不甘落后，希望自家的人工智能可以盡快進(jìn)入市場(chǎng)，并且插入到每一個(gè)可能的應(yīng)用和設(shè)備上。例如，ChatGPT已經(jīng)插入在了Bing搜索引擎中，而且很快就會(huì)出現(xiàn)在其他地方，比如車?yán)铩⑹謾C(jī)里、電視上。也許在激烈的市場(chǎng)競(jìng)爭(zhēng)下，各大公司會(huì)將更多注意力放在制定預(yù)防性措施上。

大型語(yǔ)言模型生產(chǎn)成本越來(lái)越低

斯坦福大學(xué)不到600美元“復(fù)制”了GPT-3.5

目前看來(lái)，ChatGPT等大型語(yǔ)言模型的生產(chǎn)成本會(huì)越來(lái)越低。斯坦福大學(xué)近日的Alpaca模型就是一個(gè)很好的例子。在許多任務(wù)上，Alpaca的表現(xiàn)與ChatGPT十分相似。據(jù)悉，Alpaca建立在一個(gè)開(kāi)源的語(yǔ)言模型上，訓(xùn)練成本不到600美元。

斯坦福大學(xué)的一個(gè)研究小組從Meta的開(kāi)源LLaMA 7B語(yǔ)言模型開(kāi)始。該小組使用GPT-3.5給LLaMA 7B提供了一套關(guān)于如何完成其工作的指令。接下來(lái)，他們對(duì)產(chǎn)生的Alpaca模型進(jìn)行了測(cè)試，并且將它與ChatGPT在各種領(lǐng)域（包括電子郵件寫作、社交媒體和生產(chǎn)力工具）的表現(xiàn)進(jìn)行對(duì)比。在這些測(cè)試中，Alpaca贏得了90項(xiàng)，ChatGPT贏得了89項(xiàng)。

“鑒于模型規(guī)模小，數(shù)據(jù)量不大，我們對(duì)這一結(jié)果相當(dāng)驚訝?！痹搱F(tuán)隊(duì)寫道，“除了利用靜態(tài)評(píng)估集，我們還對(duì)Alpaca模型進(jìn)行了交互式測(cè)試，發(fā)現(xiàn)Alpaca在不同的輸入集上往往表現(xiàn)得與GPT-3.5類似。我們承認(rèn)，我們的評(píng)估在規(guī)模和多樣性方面可能是有限的?！?br>
該團(tuán)隊(duì)指出，他們還沒(méi)有對(duì)模型進(jìn)行微調(diào)，不能保證其安全無(wú)害?！叭绻覀兝^續(xù)尋求優(yōu)化的話，可能會(huì)更便宜。”

紅星新聞?dòng)浾?徐緩實(shí)習(xí)記者梁宏

編輯郭莊責(zé)任編輯魏孔明

（下載紅星新聞，報(bào)料有獎(jiǎng)?。?br>

泄露用戶聊天記錄標(biāo)題，ChatGPT突遭禁用！關(guān)閉一天后“殘缺版”重新上線