人民網(wǎng)北京5月6日電 （記者孫陽）隨著人工智能技術(shù)深度介入內(nèi)容創(chuàng)作領(lǐng)域，如何平衡技術(shù)創(chuàng)新與社區(qū)生態(tài)健康成為平臺面臨的重要課題。近日，小紅書在北京舉辦首屆AI治理開放日，系統(tǒng)公布平臺對AI內(nèi)容的完整治理主張，明確以真實(shí)性與原創(chuàng)價值作為根本標(biāo)尺，鼓勵A(yù)I作為創(chuàng)意放大器，反對AI作為造假工具與低質(zhì)內(nèi)容生產(chǎn)機(jī)器。

據(jù)悉，此次發(fā)布的AI治理主張分為“平臺鼓勵的AI內(nèi)容及行為”和“平臺反對的AI內(nèi)容及行為”兩大板塊。在鼓勵方向上，小紅書表示，歡迎創(chuàng)作者將AI作為創(chuàng)意的放大器，生產(chǎn)有審美、有敘事、有真實(shí)信息增量的優(yōu)質(zhì)內(nèi)容。具體包括三類方向：利用AI提升作品的信息價值，如將復(fù)雜知識可視化的科普內(nèi)容；利用AI創(chuàng)作有辨識度的虛擬角色或?qū)σ延蠭P進(jìn)行二次創(chuàng)作；借助AI進(jìn)行視覺創(chuàng)作，產(chǎn)出藝術(shù)插畫、繪畫及具備劇情邏輯的電影感短片。

在實(shí)踐中，已有創(chuàng)作者探索出有價值的AI創(chuàng)作路徑。中央美術(shù)學(xué)院國畫畢業(yè)生一方，此前一幅作品需要近一個月的精細(xì)打磨，因缺少動畫制作能力，靜態(tài)畫作難以被生動呈現(xiàn)。如今，AI幫她突破了技術(shù)瓶頸，讓畫面豐富度和可觀賞性大幅提升。在她看來，AI是創(chuàng)作最后階段的視覺效果放大器，而畫面的原創(chuàng)性、核心想法和每一筆手繪，仍然由自己完成。

在明確鼓勵方向的同時，小紅書也梳理出四類平臺明確反對的AI行為：利用AI違規(guī)運(yùn)營、利用AI造假、利用AI侵權(quán)，以及利用AI進(jìn)行低質(zhì)創(chuàng)作。具體來看，平臺反對利用AI全自動托管賬號、AI教唆做號等擾亂社區(qū)秩序的行為；反對利用AI仿冒名人、虛構(gòu)人設(shè)、偽造個人經(jīng)歷、編造虛假信息、惡搞經(jīng)典作品、借熱點(diǎn)進(jìn)行低質(zhì)營銷；反對利用AI侵犯肖像權(quán)、著作權(quán)；也反對利用AI批量生產(chǎn)同質(zhì)化內(nèi)容、生成獵奇博眼球的極端畫面或傳播不良價值觀等低質(zhì)創(chuàng)作行為。

小紅書用戶信任中心負(fù)責(zé)人吉吉認(rèn)為，AI侵權(quán)、AI造假等行為破壞了社區(qū)真誠分享的基礎(chǔ)，也擠壓了真實(shí)創(chuàng)作者的空間。平臺會根據(jù)違規(guī)程度采取梯度處理，包括限制曝光、警告、封禁等；對于明確由AI托管運(yùn)營、無真實(shí)人類參與的賬號，平臺將予以封禁。

“平臺對AI內(nèi)容的系統(tǒng)治理不是可有可無的選擇題，而是必須做的功課。”AI科普創(chuàng)作者“大師的AI小灶”在開放日上表示，在AI飛速發(fā)展的時代，普通人面臨許多不可忽視的真相和風(fēng)險。AI幻覺、AI造假等議題需要引起重視，人的辨別意識和平臺規(guī)則需要同步跟上。