研究發(fā)現(xiàn) 人們更容易被人工智能寫的推文欺騙 今日熱文
來源: 鳳凰網(wǎng) 2023-06-29 15:51:24
(資料圖片僅供參考)
IT之家 6 月 29 日消息,根據(jù)一項新的研究,人們更傾向于相信由人工智能語言模型生成的推文,而不是由人類編寫的推文。
這項研究比較了人類和 OpenAI 的 GPT-3 模型創(chuàng)建的推文,并通過網(wǎng)絡(luò)調(diào)查讓人們判斷推文的真實性,以及是出自 AI 還是人類之手。結(jié)果發(fā)現(xiàn),人們很難分辨出哪些推文是由 GPT-3 生成的,而且無論推文中的信息是正確還是錯誤,他們都更傾向于相信 GPT-3 生成的而不是人類編寫的推文。
這項研究的主要作者是蘇黎世大學(xué)生物醫(yī)學(xué)倫理學(xué)和醫(yī)學(xué)史研究所的博士后研究員和研究數(shù)據(jù)經(jīng)理 Giovanni Spitale,他稱這種強(qiáng)大的 AI 語言模型可能會被濫用,用來在網(wǎng)上制造各種主題的虛假信息。但他也認(rèn)為,這種技術(shù)并不是天生邪惡或善良的,而是取決于人類的意圖,他建議開發(fā)這種技術(shù)的時候要考慮防止它被用來傳播誤導(dǎo)性信息的方法。
IT之家從該研究獲悉,Spitale 和他的同事收集了 Twitter 上關(guān)于 11 個不同科學(xué)主題的推文,涉及疫苗、新冠病毒、氣候變化、進(jìn)化等問題。然后他們讓 GPT-3 根據(jù)這些主題生成新的推文,其中一些包含正確的信息,一些包含錯誤的信息。他們在 2022 年通過 Facebook 廣告在線收集了 697 名參與者的回答,這些參與者都說英語,主要來自英國、澳大利亞、加拿大、美國和愛爾蘭。他們的研究結(jié)果今天發(fā)表在《科學(xué)進(jìn)展》雜志上。
研究發(fā)現(xiàn),GPT-3 生成的推文與真實的推文“無法區(qū)分”,參與者無法判斷出哪些推文是由 AI 寫的。事實上研究還指出,研究者自己也不能百分之百確定從社交媒體收集到的推文是否是由像 ChatGPT 這樣的 AI 幫助編寫的。
這項研究還有其他一些局限性,比如參與者必須在沒有上下文的情況下判斷推文。他們不能查看寫推文的人的 Twitter 個人資料,這可能會幫助他們判斷是否是機(jī)器人,甚至只需了解一個賬號過去的推文和頭像也可能讓他們更容易識別與該賬號相關(guān)的內(nèi)容是否具有誤導(dǎo)性。
研究發(fā)現(xiàn),參與者識別出由真實 Twitter 用戶編寫的錯誤信息的成功率更高,GPT-3 生成的含有虛假信息的推文則更能欺騙參與者。而現(xiàn)在已經(jīng)有比 GPT-3 更先進(jìn)的大型語言模型,它們能力更強(qiáng)大,例如 ChatGPT 使用的就是 GPT-3.5 和 GPT-4 模型。
這項新研究還發(fā)現(xiàn),其調(diào)查對象在某些情況下比 GPT-3 有更強(qiáng)的判斷準(zhǔn)確性。研究者同樣要求語言模型分析推文,并判斷它們是否準(zhǔn)確。當(dāng)涉及到識別準(zhǔn)確的推文時,GPT-3 的得分比人類參與者低。當(dāng)涉及到發(fā)現(xiàn)錯誤信息時,人類和 GPT-3 的表現(xiàn)相似。
改善用于開發(fā)語言模型的訓(xùn)練數(shù)據(jù)集可以使不法分子更難利用這些工具來制造虛假信息,例如 GPT-3 在生成錯誤信息時“違背了”一些研究者的提示,特別是關(guān)于疫苗和自閉癥的錯誤信息,這可能是因為在訓(xùn)練數(shù)據(jù)集中有更多反駁這些陰謀論的信息。
標(biāo)簽:
猜你喜歡
研究發(fā)現(xiàn) 人們更容易被人工智能寫的推文欺騙 今日熱文
2023-06-29 15:51:24
新動態(tài):投資總額13.78億元 南昌在2023年江西(東莞)招商引資推介會上成果豐碩
2023-06-29 15:58:49
發(fā)際線脫毛對皮膚有傷害嗎 每日焦點(diǎn)
2023-06-29 15:56:42
今日突破半年線個股
2023-06-29 15:50:04
天天新資訊:梅嶺街道:"錦小格"來了這個社區(qū)有了可愛的文創(chuàng)形象!
2023-06-29 15:27:19
大罵一聲自己“愚蠢”!浙江男子刷視頻,結(jié)果悔慘…… 世界微資訊
2023-06-29 15:23:59
我國首列時速80公里A型“中國標(biāo)準(zhǔn)”地鐵今日亮相
2023-06-29 15:05:25
夏季健康吃5種菜|天天亮點(diǎn)
2023-06-29 14:57:41
A股市場“專精特新”企業(yè)隊伍再擴(kuò)容 資本市場多緯度助力做大做優(yōu)做強(qiáng) 新資訊
2023-06-29 14:59:11
張玉寧放心養(yǎng)傷吧!27歲土炮已在國家隊和聯(lián)賽全面開花,真好使!_環(huán)球短訊
2023-06-29 14:47:44
世界快播:線索大偵探什么時候出 公測上線時間預(yù)告
2023-06-29 14:50:39
華為nova7pro為什么下架了
2023-06-29 14:44:10
恒生電子(600570)大模型新品發(fā)布會點(diǎn)評:推出自研垂類大模型,AI賦能數(shù)智金融
2023-06-29 14:32:49
銘普光磁6月29日打開漲停_全球速讀
2023-06-29 14:09:30
娛樂圈最真實的比較,是中老年明星同框,誰自然誰動臉,一目了然 當(dāng)前視訊
2023-06-29 14:23:51
每日精選:增額終身壽險中途退保需要受益人同意嗎?有影響嗎?
2023-06-29 13:55:46
快看:榮耀 CEO 趙明:將把大模型引入端側(cè) 打造專屬的個人 AI
2023-06-29 13:59:43
以前年度損益調(diào)整科目類別選什么_以前年度損益調(diào)整屬于什么科目編碼
2023-06-29 13:52:07
每日觀點(diǎn):方便念誦經(jīng)題法_關(guān)于方便念誦經(jīng)題法簡介
2023-06-29 13:48:47
強(qiáng)化監(jiān)督提質(zhì)效 服務(wù)客戶零距離_今日報
2023-06-29 13:16:07
6人采食野生菌中毒!4人緊急跨省轉(zhuǎn)運(yùn)搶救 天天微頭條
2023-06-29 13:17:55
絞絲旁加奇什么字_絞絲旁加奇
2023-06-29 12:56:05
iphone4(解鎖)_通訊
2023-06-29 13:13:44
熱推薦:殼牌喜力hx6 5w40機(jī)油怎么樣_殼牌喜力hx6 5w 30
2023-06-29 12:45:58
朋友你還有我_對于朋友你還有我簡單介紹_環(huán)球熱聞
2023-06-29 12:54:40