馬上評｜論文使用AI生成插圖，AI使用的紅線在哪里？

近日，一篇來自西安市紅會醫(yī)院的醫(yī)學(xué)論文成為網(wǎng)紅，論文發(fā)表三天就被撤稿，撤稿的原因是采用了AI生成的插圖。這些插圖引發(fā)了網(wǎng)友的熱議，大鼠長出了巨大的四個睪丸和陰莖，細胞信號傳導(dǎo)圖像電路板，而“撒了糖屑的甜甜圈”更是讓人難以理解論文所要表達的意思。

AI生成的論文插圖，引發(fā)爭議

這篇論文于2024年2月13日在線發(fā)布于開放獲取期刊《細胞與發(fā)育生物學(xué)前沿》（Front. Cell Dev. Biol），作者在文中坦承，這些圖片由人工智能繪圖工具Midjourney生成。

文章的標(biāo)題為《精原干細胞的細胞功能與JAK/STAT信號通路的關(guān)系》，在引發(fā)關(guān)注后，期刊編輯部在2月16日就宣布撤稿。編輯部表示，文章的有關(guān)人工智能生成圖表性質(zhì)的擔(dān)憂被提出，“該文章未達到本刊編輯和科學(xué)嚴(yán)謹(jǐn)標(biāo)準(zhǔn)，因此文章已被撤回”。

僅僅是因為文章中采用了AI生成的插圖就被撤稿，這顯示了國際科學(xué)界正在執(zhí)行嚴(yán)防生成式人工智能混淆真假科學(xué)研究的最嚴(yán)格標(biāo)準(zhǔn)，同時也在進一步明確在AI不斷介入人們生活的方方面面時，哪些是科學(xué)誠信原則，需要遵循。

現(xiàn)在，全球的科學(xué)和學(xué)術(shù)期刊都有相似的規(guī)定，不發(fā)表AI生成和AI署名的學(xué)術(shù)文章，其中，英國《自然》雜志的解釋具有代表性。

在2023年6月的一篇社論中，《自然》雜志稱，為了保證研究的誠信、透明和道德，將不會刊登任何使用生成式人工智能（generative AI）工具創(chuàng)作的圖片、視頻或插圖，除非是與人工智能相關(guān)的文章。

原因在于，生成式人工智能工具無法提供其數(shù)據(jù)來源的信息，使得編輯、出版者和讀者無法核實其準(zhǔn)確性和真實性。這違背了科學(xué)出版的誠信和透明原則。其次，生成式人工智能工具可能侵犯了數(shù)據(jù)所有者的隱私和知識產(chǎn)權(quán)，因為它們通常使用了大量未經(jīng)授權(quán)的受版權(quán)保護的作品進行訓(xùn)練。再次，生成式人工智能工具可能加劇了虛假信息的傳播。例如，深度偽造（deepfake）就是一種利用生成式人工智能制造假視頻的技術(shù)，可以用來誤導(dǎo)公眾或誹謗他人。

基于這些原因，《自然》雜志堅決不承認(rèn)任何生成式人工智能工具作為論文作者。

顯然，《細胞與發(fā)育生物學(xué)前沿》對西安市紅會醫(yī)院的論文撤稿也是基于上述原因，但根本的原因是，生成式人工智能產(chǎn)生的無論是文章內(nèi)容和插圖，都會讓人真假難辨，難以區(qū)分論文所研究的內(nèi)容在現(xiàn)實中是真還是假。一旦論文造假，對于社會所有人都是災(zāi)難，例如醫(yī)學(xué)論文關(guān)系著人的健康和生命，一旦論文描述的內(nèi)容虛假，人們將付出健康和生命的沉痛代價。

進一步觀察，西安市紅會醫(yī)院作者的論文被撤稿有更深刻的原因。一是論文插圖違背事實真相，插圖中實驗大鼠有4個巨大的睪丸，但正常情況下大鼠只有2個睪丸，以及干細胞在培養(yǎng)皿中宛若可以用勺子進食的食物。二是，這些插圖中含有生造的新詞標(biāo)簽，如testtomcels、senctolic等。三是，論文圖注中還有詞語錯誤，如把“干細胞”（stem cells）寫錯了。

論文中細胞信號傳導(dǎo)圖像電路板，其中有的圖案像是甜甜圈，引發(fā)爭議。

這些問題一方面反映了審稿人的粗心大意，但另一方面似乎也表現(xiàn)出一些研究人員，包括審稿人對AI生成圖片的寬容，認(rèn)為圖片只是一種對文字內(nèi)容的形象說明。因為，《自然》雜志也表態(tài)稱，并不完全排斥人工智能，雜志允許在文章中使用生成式人工智能輔助產(chǎn)生的文本，只要在方法或致謝部分明確說明。此外，所有數(shù)據(jù)的來源，甚至是由人工智能協(xié)助產(chǎn)生的數(shù)據(jù)，都必須由作者提供。

這也意味著，論文可以采用人工智能作為輔助手段，但是無論是文字和插圖都應(yīng)當(dāng)說明是AI生成。其次，AI生成的所有數(shù)據(jù)，都是作者實際研究產(chǎn)生的。而且，從此次撤稿來看，采用AI輔助寫論文有一個新的標(biāo)準(zhǔn)出現(xiàn)了，即便AI生成的圖片可以用來生動解釋研究內(nèi)容，也要符合實際情況，而且不能太夸張。

隨之而來的是，此次論文撤稿也提出了一個問題，學(xué)術(shù)論文采用AI生成插圖的邊界在哪里，這似乎是目前的一個模糊地帶。采用卡通圖、手繪圖和AI生成圖作為論文的插圖或封面，在科研中不乏存在，中國神話內(nèi)容，如女媧補天、盤古開天辟地、后羿彎弓射箭、哪吒鬧海、大鬧天宮、金剛葫蘆娃等都在學(xué)術(shù)期刊封面出現(xiàn)過。

這些插圖既有卡通繪畫成分，也有人工繪圖，還有AI生成。2020年4月，江蘇師范大學(xué)化學(xué)與材料科學(xué)學(xué)院副院長石楓教授在《中國化學(xué)雜志》發(fā)表的一篇論文是描述設(shè)計了一類新型軸手性芳基烯烴吲哚骨架，論文封面采用女媧使用五色石補天來比喻這一構(gòu)建過程。這篇論文封面的女媧娘娘的臉是真人，即通訊作者石楓，這顯然是AI生成的圖片。

由此可以看到，學(xué)術(shù)論文未必是全面禁止AI生成圖片，但是，具體使用需要有一個標(biāo)準(zhǔn)，但這種標(biāo)準(zhǔn)目前還沒有非常明確的界線。對此，科研打假名人、荷蘭微生物學(xué)家和科學(xué)誠信顧問伊麗莎白·比克（Elisabeth Margaretha HarbersBik）對此次西安市紅會醫(yī)院的論文撤稿的評論或許顯示了某種具體標(biāo)準(zhǔn)。她稱，論文中“由Midjourney生成的插圖漂亮但無意義，在解剖學(xué)和科學(xué)上都是不正確的”，“同時作者附上的文本標(biāo)簽更是讓人難以理解”。

石楓論文封面上的“女媧”的臉就是石楓自己的

這種正確既可能是具體意義上的正確，如正常大鼠不會有4個睪丸；也可以是抽象和理念上的正確，以及讓人可以理解，如以女媧使用五色石補天來比喻一種新型化學(xué)分子構(gòu)建，這種比喻比較容易讓人理解。

不過，未來對于AI生成文本和圖片更多地介入科研，哪些可用，哪些不可用，有很多原則和界線還需要探討。