<p>新的廣受歡迎的聊天機(jī)器人ChatGPT能令人信服地產(chǎn)生虛假的摘要，讓科學(xué)家認(rèn)為那些研究是真實的嗎?</p> <p>&nbsp;</p> <p>這是西北醫(yī)學(xué)院的醫(yī)生兼科學(xué)家凱瑟琳&middot;高博士擔(dān)心的問題，當(dāng)時她與芝加哥大學(xué)的科學(xué)家合作設(shè)計了一項研究來測試這一理論。</p> <p>&nbsp;</p> <p>是的，科學(xué)家們可能會被愚弄，他們的新研究報告。當(dāng)混淆真實和虛假生成的摘要時，盲目的人類審稿人只能在68%的時間內(nèi)識別出ChatGPT生成的摘要。審稿人還錯誤地將14%的真實摘要識別為人工智能生成的。</p> <p>&nbsp;</p> <p>&ldquo;我們的審稿人知道他們收到的一些摘要是假的，所以他們非?？梢?。&rdquo;通訊作者高說，他是西北大學(xué)范伯格醫(yī)學(xué)院肺部和重癥監(jiān)護(hù)醫(yī)學(xué)的講師。&ldquo;這不是一個在野外讀摘要的人。事實上，我們的審稿人仍然有32%的時間錯過了人工智能生成的摘要，這意味著這些摘要真的很好。我懷疑，如果有人偶然看到這些生成的摘要之一，他們不一定能識別出它是由人工智能寫的。&rdquo;</p> <p>&nbsp;</p> <p>高教授說，難以檢測的假摘要可能會破壞科學(xué)。&ldquo;這令人擔(dān)憂，因為ChatGPT可能被&lsquo;造紙廠&rsquo;用來制造令人信服的科學(xué)摘要，&rdquo;高說。&ldquo;如果其他人試圖建立在這些不正確的研究基礎(chǔ)上的科學(xué)，那可能真的很危險。&rdquo;</p> <p>&nbsp;</p> <p>造紙廠是非法組織，生產(chǎn)偽造的科學(xué)作品牟利。</p> <p>&nbsp;</p> <p>高教授擔(dān)心，ChatGPT能夠輕松地寫出真實而有說服力的摘要，這可能會增加造紙廠的產(chǎn)量，并增加期刊和科學(xué)會議上的虛假投稿。</p> <p>&nbsp;</p> <p><strong><span class="h1">人工智能偵探可以識別人工智能假貨</span></strong></p> <p><br />在這項研究中，高和其他研究人員從高影響力期刊的近期論文中選取標(biāo)題，并要求ChatGPT根據(jù)提示生成摘要。他們通過剽竊檢測器和人工智能輸出檢測器運行這些生成的摘要和原始摘要，并蒙蔽了人類審稿人，試圖區(qū)分生成的摘要和原始摘要。每個審稿人都得到了25篇混合了生成摘要和原始摘要的摘要，并被要求對他們認(rèn)為的摘要給出一個二進(jìn)制分?jǐn)?shù)。</p> <p>&nbsp;</p> <p>&ldquo;chatgpt生成的摘要非常有說服力，&rdquo;高說，&ldquo;因為當(dāng)它發(fā)明數(shù)字時，甚至知道患者隊列應(yīng)該有多大。&rdquo;在一項常見的高血壓研究中，ChatGPT納入了數(shù)萬名患者，而一項關(guān)于猴痘的研究參與者數(shù)量要少得多。</p> <p>&nbsp;</p> <p>高說:&ldquo;我們的審稿人評論說，區(qū)分真假摘要非常困難。&rdquo;</p> <p>&nbsp;</p> <p>研究發(fā)現(xiàn)，使用傳統(tǒng)的剽竊檢測工具，假摘要并沒有引起警報。然而，在這項研究中，AI輸出檢測器，如在線免費的GPT-2輸出檢測器，可以區(qū)分真實和虛假的摘要。</p> <p>&nbsp;</p> <p>高說:&ldquo;我們發(fā)現(xiàn)人工智能輸出檢測器非常擅長檢測ChatGPT的輸出，并建議將其納入科學(xué)編輯過程中，作為篩選過程，以防止造紙廠等組織試圖提交純生成數(shù)據(jù)。&rdquo;</p> <p>&nbsp;</p> <p><strong><span class="h1">ChatGPT也可以用于好的方面</span></strong></p> <p><br />但ChatGPT也可以用于好的方面，該研究的資深作者、范伯格醫(yī)學(xué)增強智能研究所所長羅元說。</p> <p>&nbsp;</p> <p>&ldquo;ChatGPT等人工智能語言模型有潛力幫助寫作過程自動化，而寫作過程往往是知識生成和傳播的速度瓶頸。&rdquo;羅說。&ldquo;這篇論文的結(jié)果表明，這在醫(yī)學(xué)領(lǐng)域可能是可行的，但我們需要彌合某些倫理和實踐上的差距。&rdquo;</p> <p>&nbsp;</p> <p>例如，羅問道，人工智能輔助寫作仍然被認(rèn)為是原創(chuàng)的嗎?此外，他指出，人工智能生成的文本目前在正確引用方面存在困難，而這是科學(xué)寫作的必要條件。</p> <p>&nbsp;</p> <p>芝加哥大學(xué)血液學(xué)/腫瘤學(xué)數(shù)據(jù)科學(xué)和頭頸部癌癥項目主任、資深作者亞歷山大&middot;皮爾森博士說:&ldquo;生成文本技術(shù)在科學(xué)民主化方面具有巨大潛力，例如，使不講英語的科學(xué)家更容易與更廣泛的社區(qū)分享他們的工作。&rdquo;&ldquo;與此同時，我們必須仔細(xì)考慮使用的最佳做法。&rdquo;</p> <p>&nbsp;</p> <blockquote> <p>注：本文由院校官方新聞直譯，僅供參考，不代表指南者留學(xué)態(tài)度觀點。</p> </blockquote>