2025-03-26
3月18日,高坪公安接到轄區(qū)某中學報案,稱網(wǎng)上出現(xiàn)“中學食堂用淋巴肉做包子,學生集體食物中毒”的謠言。接到報警后,高坪公安組織網(wǎng)安、龍門派出所等部門警力迅速介入,并前往發(fā)帖人所在地福建省寧德市進行調(diào)查。
經(jīng)民警調(diào)查核實,此信息為虛假信息。為博眼球漲粉,3月17日,35歲男子林某某利用某AI軟件,通過輸入指令制作文案,合成“學生集體食物中毒”的信息。多次指令后,生成一條南充高坪區(qū)某中學食物中毒案信息,其中包含淋巴肉做包子,87名學生中毒,家長怒撕檢測報告等博人眼球的情節(jié)。
警方查實,發(fā)帖男子林某某從未到過南充,整篇貼文全是AI在人工指令下自動生成。謠言在網(wǎng)上流傳,造成不良社會影響。
造謠男子受審
圖源:高坪警方供圖
目前,林某某已被警方行政處罰。
南充市公安局高坪區(qū)分局網(wǎng)安大隊指導員寇德寶介紹,35歲的林某某是當?shù)匾患宜饺诵☆~貸款公司業(yè)務員,收入不高,就想做自媒體,“養(yǎng)”個號掙錢。面對警察突然找上門來,林某某感到不解:我按網(wǎng)上的教程,用AI寫了一篇文章發(fā)布出來,這也違法了?警察現(xiàn)場對他進行普法和教育,林某某才意識到,自己三五分鐘創(chuàng)作的網(wǎng)文,居然給千里之外的南充某中學帶來巨大的困擾。
為什么要虛構(gòu)食堂用淋巴肉做包子、導致87名學生中毒的事件呢?林某某交代,這也是網(wǎng)上熱點提醒他的,他輸入淋巴肉、食堂、學生中毒等關(guān)鍵詞,網(wǎng)絡(luò)自動匹配了相應的圖片,匹配了相應的學校,一篇繪聲繪色的網(wǎng)文就出來了。AI自動生成后,林某某說他根本就沒看具體內(nèi)容,就立即在自己的社交賬號上發(fā)布,直到警方找上門來,他才意識到自己觸及法律的紅線。
為提高自己賬號文章瀏覽量,林某某還蹭了很多網(wǎng)絡(luò)熱點,或斷章取義,或添油加醋,制造新的網(wǎng)絡(luò)熱點。
這起AI造謠案背后是一個人性化的執(zhí)法故事。林某某家庭狀況讓人唏噓不已,離婚后自己帶著有點輕微腦癱的5歲孩子,還有60多歲年邁的父母需要他供養(yǎng)??紤]到林某某的實際處境,警方對林某某的處罰由拘留改為罰款,但罰款需交到南充當?shù)刂付ǖ你y行,林某某寫出申請,罰款由警方回到南充“代繳”。
AI是怎樣收集網(wǎng)絡(luò)信息并自動合成的呢?能否使用AI技術(shù)來監(jiān)管AI使用?
值得注意的是,《人工智能生成合成內(nèi)容標識辦法》將從今年9月1日起施行,人工智能合成的內(nèi)容將進行強制標識,方便大眾識別并提高警惕性。明確AI技術(shù)使用的法律邊界,鼓勵將AI技術(shù)用于合法、健康的領(lǐng)域,推動技術(shù)創(chuàng)新與社會責任的平衡。
來源:封面新聞
中國法制熱點網(wǎng)
互聯(lián)網(wǎng)違法和不良信息舉報平臺
中央網(wǎng)信辦舉報投訴
中組部舉報投訴
全國文化市場舉報平臺
我為群眾辦實事
社會組織政務平臺
人民法院調(diào)解平臺
國家政務服務平臺
自然資源部門戶網(wǎng)站
中國軍事網(wǎng)
法制網(wǎng)
12309中國檢察網(wǎng)
中國普法網(wǎng)
司法部
法律咨詢
民工求助
向中紀委監(jiān)委投稿
我向總理留言
中國記協(xié)網(wǎng)
鳳凰網(wǎng)
中國新聞網(wǎng)
中國經(jīng)濟網(wǎng)
中青網(wǎng)
中國網(wǎng)
新華網(wǎng)
人民網(wǎng)
央視網(wǎng)
中國文明網(wǎng)
國務院
中央紀委國家監(jiān)委
國務院督查
騰訊
龍采
國務院扶貧辦
百度