近日，一則“有頂流明星在澳門輸了10億”的信息在互聯(lián)網(wǎng)平臺(tái)傳播，引發(fā)熱議和各種猜測(cè)，相關(guān)話題頻繁登上社交媒體熱搜熱榜。但經(jīng)查明，所謂的“大瓜”又是一起AI謠言。

據(jù)報(bào)道，公安網(wǎng)安部門查明，網(wǎng)民徐某強(qiáng)（男，36歲）為博取流量、謀取非法利益，使用軟件中的AI智慧生成功能，輸入社會(huì)熱點(diǎn)詞制作了謠言信息，并通過互聯(lián)網(wǎng)平臺(tái)對(duì)外發(fā)布，造成謠言迅速傳播擴(kuò)散，嚴(yán)重?cái)_亂公共秩序。公安機(jī)關(guān)根據(jù)相關(guān)法律法規(guī)，對(duì)徐某強(qiáng)處以行政拘留8日處罰。

“超一線男星”“豪賭”“輸光10億”外加引用的虛構(gòu)機(jī)構(gòu)及偽造的金融監(jiān)管報(bào)告，模糊但勁爆的字眼，配上細(xì)節(jié)的“力證”，符合輿論場(chǎng)對(duì)“大瓜”的刻板印象，從效果和流量上看，這則謠言傳播得不可謂不“成功”。

雖稱其為AI謠言，但AI只是工具，使用和制作謠言的仍是人，因此懲罰始作俑者十分必要。但不可忽視，隨著AI技術(shù)的發(fā)展，在它的“輔助”下，謠言看上去更“真實(shí)”了，擴(kuò)散起來也更容易。

AI彌補(bǔ)了謠言寫作者在新聞和文字專業(yè)方面的欠缺，還可以為其配上查無實(shí)據(jù)但乍一看可信度增加的數(shù)據(jù)、表格、報(bào)告，甚至是圖片和視頻，圖文并茂、數(shù)據(jù)佐證，如果還能戳中公眾的關(guān)注點(diǎn)和情緒點(diǎn)，很容易以假亂真。比如前段時(shí)間很火的西藏定日縣地震中“小男孩被埋圖”、話題“80后死亡率突破5.2%”等，都因其足夠的“真實(shí)感”引發(fā)熱議，輕易地騙取公眾信任，但后被證實(shí)為謠言。

而AI工具觸手可及，使得謠言生成的成本不高，而大數(shù)據(jù)的推薦又使其傳播“效率”大大提高。再加上發(fā)展至今，AI大模型本就存在缺陷，比如AI“幻覺”，即大模型會(huì)生成與事實(shí)不符的情況，或者數(shù)據(jù)來源的局限、推算的偏差等。當(dāng)謠言制造者別有用心地投喂，技術(shù)真真假假的混淆，都讓謠言的辨認(rèn)和治理難度加劇。

這都使得AI生成內(nèi)容的真實(shí)規(guī)范、技術(shù)倫理等問題日漸凸顯，而相關(guān)部門配套的制度約束和監(jiān)管也在升級(jí)。國(guó)家網(wǎng)信辦、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局制定了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》。人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息。辦法共14條，將于今年9月1日起施行，要求服務(wù)提供者按照要求對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。

當(dāng)然，AI謠言的治理還需多方發(fā)力。比如，相關(guān)部門、平臺(tái)方等合力創(chuàng)新反謠言技術(shù)，開發(fā)反謠言工具，以“技術(shù)治理技術(shù)”；平臺(tái)方也需完善審核制度、壓實(shí)責(zé)任等。而公眾在面對(duì)海量信息時(shí)，也需要提升對(duì)AI謠言的鑒別力和AI媒介素養(yǎng)。在技術(shù)的浪潮中，隨著法律與倫理的完善和進(jìn)步，人們的思維也需要跟上腳步。