近期，調(diào)查發(fā)現(xiàn)，不少社交賬號利用AI技術(shù)造假、博眼球快速“吸粉”起號，在未標(biāo)注AI生成的情況下大量推送穿搭、養(yǎng)生、情感等內(nèi)容，并可通過引流帶貨、賬號轉(zhuǎn)賣等方式變現(xiàn)。部分視頻細(xì)節(jié)逼真，足以讓普通網(wǎng)友信以為真，由此形成一條AI造假起號的灰色產(chǎn)業(yè)鏈。

虛擬“氛圍感美女”“銀發(fā)養(yǎng)生奶奶”，看似突破傳統(tǒng)內(nèi)容創(chuàng)意范疇，實(shí)則扭曲了內(nèi)容創(chuàng)作的真實(shí)邏輯。造假者利用AI博取平臺流量，本質(zhì)上是將技術(shù)異化成投機(jī)牟利的工具。虛假AI人設(shè)成為追逐商業(yè)利益的“科技畫皮”，不僅藐視傳統(tǒng)內(nèi)容創(chuàng)作者的時(shí)間與精力，還有突破誠信與法律底線的可能?？此茻o傷大雅的視頻，背后卻可能潛藏非法產(chǎn)品銷售、隱性廣告推廣和健康信息誤導(dǎo)等風(fēng)險(xiǎn)，更破壞了網(wǎng)絡(luò)真實(shí)生態(tài)與平臺監(jiān)管信用。

技術(shù)本身是中性的，關(guān)鍵在于使用者的動(dòng)機(jī)與平臺的監(jiān)管。生成式AI本可讓普通人以低門檻實(shí)現(xiàn)內(nèi)容創(chuàng)意表達(dá)，但落入造假逐利者手中，便有了“批量制造虛假人設(shè)”的可能。此類視頻，如若被流量推薦針對特定人群進(jìn)行情感營銷，極易引發(fā)誤導(dǎo)效應(yīng)和跟風(fēng)消費(fèi)，成為灰色產(chǎn)業(yè)發(fā)展的助推器。

AI造假批量起號亂象背后，平臺需要迫切反思技術(shù)介入內(nèi)容創(chuàng)作背景下，如何理清流量投放的“真實(shí)邏輯”？如何避免因流量驅(qū)使推送虛假內(nèi)容“為虎作倀”？傳統(tǒng)的內(nèi)容創(chuàng)作流量是通過優(yōu)質(zhì)內(nèi)容進(jìn)行變現(xiàn)，而其中的起號、漲粉到帶貨邏輯，成熟的“技術(shù)—運(yùn)營—交易”鏈條，以及誘人的短期收益，多少人正被披上科技外衣的AI“李鬼賬號”收割，平臺是否監(jiān)管到位值得深思。然而， AI造假者通過壓縮文件、消除特征痕跡等手段規(guī)避審核，這也反映出目前平臺監(jiān)管確實(shí)存在明顯滯后問題。

AI技術(shù)成為造假者的流量變現(xiàn)工具，打擊“3到15天速成萬粉號”的批量起號造假現(xiàn)象。平臺首先需把好“第一道關(guān)口”，內(nèi)容審核機(jī)制必須與造假方式同步進(jìn)化，對特定規(guī)避手段升級識別能力，壓實(shí)生成平臺對AI生成內(nèi)容添加清晰標(biāo)識的責(zé)任。同時(shí)，不能讓違規(guī)賬號有穩(wěn)定帶貨機(jī)會(huì)，對違規(guī)賬號轉(zhuǎn)售交易零容忍，只有切斷利潤源頭，才能讓AI造假失去持續(xù)運(yùn)作土壤。另外，平臺還需要強(qiáng)化處罰處理規(guī)則，建立違規(guī)賬號“黑名單”，對于重復(fù)進(jìn)行AI造假的賬號，提高封禁和經(jīng)濟(jì)處罰力度，直至剝奪其商業(yè)化資格，徹底堵死流量變現(xiàn)暗道。

AI應(yīng)是未來內(nèi)容生產(chǎn)的重要引擎，絕不能被造假引入流量投機(jī)的歧途。AI技術(shù)需要助力真實(shí)、優(yōu)質(zhì)、負(fù)責(zé)任的內(nèi)容，從而獲得正向流量，成為提升社會(huì)信息質(zhì)量的“加分項(xiàng)”，而不是消解網(wǎng)絡(luò)誠信的“減分題”。

來源：紅網(wǎng)   作者：張宜威