應(yīng)對AI論文造假 不妨“以AI檢測AI”

■ 視點(diǎn)

論文代寫，一直是學(xué)術(shù)作弊黑灰產(chǎn)中的隱疾。而隨著人工智能時代到來，AI又成了其中得力的生產(chǎn)工具。近日，據(jù)新京報臥底調(diào)查，在論文代寫產(chǎn)業(yè)鏈中，黑灰產(chǎn)團(tuán)隊(duì)已經(jīng)開始通過AI工具來批量編造論文，并在各大平臺接單生產(chǎn)售賣。

報道中值得注意的細(xì)節(jié)是，有代寫團(tuán)隊(duì)成員向暗訪記者表示，因?yàn)锳I代寫工具的出現(xiàn)，使得論文代寫的門檻降低，甚至出現(xiàn)了“職高生用AI工具幫博士生代寫論文”的現(xiàn)象。

在AIGC（人工智能生成內(nèi)容）工具出現(xiàn)之初，行業(yè)普遍認(rèn)為人工智能將能夠提升內(nèi)容生產(chǎn)效率，但或許令人意想不到的是，AI工具暫時還沒有來得及在嚴(yán)肅的學(xué)術(shù)研究生產(chǎn)中得到廣泛應(yīng)用，卻率先成為了黑灰產(chǎn)業(yè)提高產(chǎn)量的工具。

而要對抗“AI代寫”的黑灰產(chǎn)，需要監(jiān)管者更快升級技術(shù)工具，同時，建立更加嚴(yán)格的行業(yè)性規(guī)范。一方面，用“AI來檢測AI”；另一方面，要對“AI工具如何使用”建立明確的標(biāo)準(zhǔn)。

當(dāng)前，國內(nèi)外已經(jīng)開始研發(fā)專門針對“AIGC內(nèi)容”的檢測工具。在部分內(nèi)容平臺上，已經(jīng)開始對疑似“AI生成內(nèi)容”進(jìn)行了異常標(biāo)注。從數(shù)據(jù)檢測識別的邏輯看，這類AI造假內(nèi)容的特征相對更加明顯，通過對文本結(jié)構(gòu)、用詞與語言模型等進(jìn)行檢測，應(yīng)當(dāng)可以識別察覺出AI的創(chuàng)作痕跡。

因此，在傳統(tǒng)的抄襲查重系統(tǒng)之外，至少目前，可以盡早將針對“AI內(nèi)容”的檢測工具也應(yīng)用到學(xué)術(shù)論文的檢測流程之中，并對疑似AI造假的內(nèi)容進(jìn)行標(biāo)注，輔助審核人員進(jìn)行判斷。

在技術(shù)性防范手段之外，針對AI論文造假，學(xué)術(shù)界也可以迅速行動起來，為AI工具的應(yīng)用設(shè)定清晰的邊界。例如，可以使用AI輔助制作插圖，但不得進(jìn)行任何文本、數(shù)據(jù)生成。

當(dāng)然，隨著AI被應(yīng)用于檢測預(yù)警，以及行業(yè)共同規(guī)范的建立與調(diào)整，AI造假的漏洞終將被迅速填平。從長期來看，人工智能仍然會是創(chuàng)新的朋友，而不是造假的同伙。