【科學(xué)的溫度】ChatGPT被指沒(méi)“人性”，可能產(chǎn)生哪些危害？

2024-5-6 14:58| 發(fā)布者: admin| 查看: 235| 評(píng)論: 0

摘要: 中新網(wǎng)2月20日電 (中新財(cái)經(jīng)記者吳濤)火爆出圈的ChatGPT持續(xù)引發(fā)關(guān)注，有人和它產(chǎn)生共鳴，工作效率更高；也有人質(zhì)疑ChatGPT沒(méi)“人性”，或帶來(lái)更大的危害；更多的人是好奇，它將如何滲透我們的生活？帶著這些問(wèn)題， ...

中新網(wǎng)2月20日電 (中新財(cái)經(jīng)記者吳濤)火爆出圈的ChatGPT持續(xù)引發(fā)關(guān)注，有人和它產(chǎn)生共鳴，工作效率更高；也有人質(zhì)疑ChatGPT沒(méi)“人性”，或帶來(lái)更大的危害；更多的人是好奇，它將如何滲透我們的生活？

帶著這些問(wèn)題，近日，記者采訪了清華大學(xué)新聞學(xué)院教授、元宇宙文化實(shí)驗(yàn)室主任沈陽(yáng)，來(lái)看看他是如何看ChatGPT的。

ChatGPT滲透多個(gè)領(lǐng)域，這些生活場(chǎng)景或率先落地

據(jù)了解，此前市面上不乏一些AI應(yīng)用，可對(duì)話、可唱歌、可寫(xiě)作，甚至還可以提供一些諸如“問(wèn)路”這樣的基礎(chǔ)服務(wù)，ChatGPT和這些人工智能有哪些不一樣呢？

資料圖。

沈陽(yáng)表示，ChatGPT和原來(lái)一些人工智能有所不同，比如它可以通過(guò)連續(xù)追問(wèn)來(lái)了解一個(gè)問(wèn)題的深度，一些探索的答案，這個(gè)是它的直接功能，“使用多了以后，你甚至?xí)l(fā)現(xiàn)ChatGPT還能在多輪的對(duì)話中有一定的邏輯關(guān)聯(lián)?！?br>
“ChatGPT現(xiàn)在一個(gè)顯著的功能是撰寫(xiě)文章或提供文章架構(gòu)，未來(lái)學(xué)生在大專或者本科畢業(yè)時(shí)要求寫(xiě)的論文，可能大量的都是用人工智能來(lái)自動(dòng)生成了?！鄙蜿?yáng)稱，目前看，ChatGPT相當(dāng)于211高校中等偏上的本科生水平。

另外，沈陽(yáng)還表示，未來(lái)，ChatGPT和虛擬人、機(jī)器人的結(jié)合將是必須的。虛擬人和機(jī)器人最重要的就是云大腦，下一步ChatGPT接入到各類虛擬人和機(jī)器人中將是全球趨勢(shì)。

“ChatGPT可以在數(shù)字藏品領(lǐng)域大展身手，從輔助設(shè)計(jì)、數(shù)字文創(chuàng)、自動(dòng)化生成等步驟都可以改進(jìn)和提升效率?！鄙蜿?yáng)稱。

沈陽(yáng)總結(jié)，人工智能潛在的服務(wù)會(huì)從比較準(zhǔn)確性的知識(shí)，逐步轉(zhuǎn)向解釋性、闡述性的知識(shí)，到最后就是創(chuàng)新性的知識(shí)，它會(huì)逐步形成這樣一個(gè)演化邏輯。

會(huì)替代哪些“飯碗”？對(duì)就業(yè)有影響嗎？

沈陽(yáng)表示，首先ChatGPT讓一些工具很容易被替代，同時(shí)一些工具被增強(qiáng)了。比如說(shuō)搜索引擎、繪圖軟件、office辦公軟件等都將增強(qiáng)。“工具的增強(qiáng)會(huì)帶來(lái)效率的提升，也就是經(jīng)常使用這類軟件的工種，可能會(huì)比較早的被替代。”

“還有就是客服，目前各類電商平臺(tái)或者是某個(gè)公司的網(wǎng)站上面，有些是真人在回答消費(fèi)者問(wèn)題，未來(lái)這些人的作用會(huì)進(jìn)一步降低，因?yàn)槟阒灰堰@個(gè)行業(yè)的知識(shí)灌輸進(jìn)去之后，在人工智能的加持下，自動(dòng)回復(fù)或者說(shuō)在線機(jī)器人它是能夠比較準(zhǔn)確的回答這些問(wèn)題的?！?br>
沈陽(yáng)舉例，還有程序員的“飯碗”也可能面臨ChatGPT的挑戰(zhàn)，你只需要描述好任務(wù)，人工智能就可以生成相對(duì)比較簡(jiǎn)單的代碼，當(dāng)然下一步這些代碼會(huì)越來(lái)越復(fù)雜，但是因?yàn)槿斯ぶ悄芤部梢匀ネㄗx網(wǎng)絡(luò)上這些所有的開(kāi)源代碼，它未來(lái)編程能力也會(huì)越來(lái)越強(qiáng)。

有網(wǎng)友在網(wǎng)絡(luò)上稱，“諷刺的是，程序員開(kāi)發(fā)出了ChatGPT，但ChatGPT卻想讓程序員失業(yè)?！?br>

【科學(xué)的溫度】ChatGPT被指沒(méi)“人性”，可能產(chǎn)生哪些危害？

資料圖。

最后，沈陽(yáng)強(qiáng)調(diào)，要兩面性的看待ChatGPT帶來(lái)的就業(yè)問(wèn)題，這是一把雙刃劍。比如文創(chuàng)行業(yè)，用ChatGPT進(jìn)行文稿撰寫(xiě)能讓一些“自媒體”失業(yè)，但同時(shí)在一定程度上也能讓某一個(gè)平庸的“寫(xiě)手”，作品質(zhì)量突然有所提升。

“總之，ChatGPT要么提高了質(zhì)量，要么提升了效率，提升了效率的話，實(shí)際上就會(huì)造成一部分人失業(yè)了?！鄙蜿?yáng)稱。

被吐槽沒(méi)“人性”，可能產(chǎn)生哪些危害？

ChatGPT走紅以后也引發(fā)一些爭(zhēng)議，多家媒體報(bào)道，蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克甚至直接吐槽ChatGPT在給我們帶來(lái)一些便利的同時(shí)，可能犯下一些可怕的錯(cuò)誤，因?yàn)樗欢叭诵浴?，缺乏?dú)一無(wú)二的人類情感和品質(zhì)。

沈陽(yáng)認(rèn)為，ChatGPT的危害首先表現(xiàn)在它輸出的內(nèi)容到底可信不可信上面。很多測(cè)試結(jié)果顯示，唯一性答案的問(wèn)題，ChatGPT回答得很準(zhǔn)確；但如果提的問(wèn)題稍微深?yuàn)W一點(diǎn)，可能是一個(gè)多選項(xiàng)時(shí)，ChatGPT出錯(cuò)率就增加了。

“如果是一個(gè)完全開(kāi)放，并且胡謅的問(wèn)題，ChatGPT有時(shí)候也給你胡謅。即便你正兒八經(jīng)地問(wèn)問(wèn)題，它可能也會(huì)給你回復(fù)一條夾雜了不實(shí)信息的內(nèi)容。”沈陽(yáng)舉例說(shuō)。

實(shí)際上，谷歌為此已經(jīng)付出代價(jià)。谷歌母公司Alphabet最近發(fā)布的新人工智能技術(shù)Bard在演示時(shí)發(fā)生了一個(gè)錯(cuò)誤，引發(fā)投資者擔(dān)憂，導(dǎo)致該公司股價(jià)大跌，市值當(dāng)時(shí)蒸發(fā)約1000億美元。

另外，沈陽(yáng)表示，ChatGPT回答包含的媒體發(fā)布的信息相對(duì)是比較少的，所以在回答內(nèi)容的質(zhì)量上面，在價(jià)值觀的偏見(jiàn)上面，在某些領(lǐng)域它還是存在很大的問(wèn)題的，這些問(wèn)題都是未來(lái)其他的AIGC平臺(tái)需要去避免的。

沈陽(yáng)還表示，當(dāng)AI能夠代替人腦的一部分思考，人腦的思考價(jià)值性就被抵消了一部分。在教育中使用，還怎么訓(xùn)練學(xué)生的思維能力？如果教育無(wú)法優(yōu)化教學(xué)效果，人類怎么去培育新生代呢？(完)