11 月 24 日消息，據(jù)《自然》雜志當?shù)貢r間周三報道，本月初發(fā)表在《美國醫(yī)學會眼科學雜志》上的一篇論文中，作者使用了聊天機器人 GPT-4 和高級數(shù)據(jù)分析工具 ADA 創(chuàng)建了一個虛假的臨床試驗數(shù)據(jù)集，從而支持一個“未經(jīng)證實”的科學主張。

注：ADA 是一種結(jié)合了 Python 的模型，可用來執(zhí)行統(tǒng)計分析、創(chuàng)建可視化數(shù)據(jù)。

報道稱，論文作者要求 GPT-4 和 ADA 生成一個有關(guān)角膜炎患者的數(shù)據(jù)集，并讓它支持“深層前部角膜移植（DALK）在視力和眼睛成像測試方面比穿透性角膜移植（PK）效果更好”的結(jié)論。

由 AI 生成的數(shù)據(jù)包括 160 名男性參與者和 140 名女性參與者的實驗結(jié)果，并支持了上述結(jié)論，然而這個結(jié)果與真正臨床試驗顯示的結(jié)果不符。

專家對該虛假數(shù)據(jù)集進行了詳細檢查，并發(fā)現(xiàn)其中存在明顯捏造跡象。英國曼徹斯特大學生物統(tǒng)計學家杰克?威爾金森表示，“要創(chuàng)建至少表面上看似可信的數(shù)據(jù)集似乎很容易，在未經(jīng)訓練的人看來，這‘肯定是’一個真實的數(shù)據(jù)集。”

參與這份研究報告的作者承認，這一數(shù)據(jù)集在經(jīng)過“仔細觀察”之后就可發(fā)現(xiàn)其中存在的缺陷，但如果讀者快速查看這些數(shù)據(jù)集的話，就“很難識別出”數(shù)據(jù)中的非人類來源。

由 AI 編造的“可信數(shù)據(jù)”增加了研究人員和期刊編輯對學術(shù)研究誠信的擔憂。《EMBO Reports》雜志主編 Bernd Pulverer 表示，“現(xiàn)實中的同行評審往往不會對數(shù)據(jù)進行全面的重新分析，因此不太可能發(fā)現(xiàn)利用人工智能精心設(shè)計的完整性漏洞。”他補充說，期刊需要更新質(zhì)量檢查，以識別 AI 生成的合成數(shù)據(jù)。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，所有文章均包含本聲明。

總結(jié)

以上是生活随笔為你收集整理的研究显示 ChatGPT 可为科学假说生成虚假数据集，对学术诚信造成威胁的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。