近半年Chat GPT發展迅速，除了讓人讚嘆科技進步，也引起不少人擔憂，如有心人士惡意利用，AI會否成為最強犯罪利器。近日，中國就有一名男子使用ChatGPT製作假新聞，而遭警方逮捕。這也是中國第一起因濫用ChatGPT遭逮捕的案件。
點閱率1.5萬的假新聞
時間回溯到4月25日，甘肅省平涼市警方發現了網路上有一篇文章，提及一起事故「今晨甘肅一輛火車撞上修路工人致9人死亡」並廣為流傳，不過經過初步調查，警方判斷該文章是一則假新聞。
繼續深入追查後，當地網路警察發現，當天共有21個百度帳號，於同一時段一起發佈這篇文章，帳號位置除了平涼，還有蘭州、隴南、定西、慶陽等地，且這篇假新聞的點擊率高達1.5萬。隨後，警察發覺這些發文帳號同屬廣東深圳一間自媒體公司，並於5月5日前往搜查。
編造、散布假新聞 涉嫌「尋釁滋事罪」
警察前往公司負責人於廣東東莞的住處，調查他使用的電腦、帳號。經過訊問，嫌疑人洪姓男子承認犯案，他透過網友得知將網路流量變現的方法後，便購買了大量的百度帳號，再將近幾年重大社會新聞的元素輸入ChatGPT，編寫出一段假新聞；且為了避開平台的審查機制，利用AI將假新聞製成不同版本上傳，藉此非法獲利。
根據中國媒體報導，警方表示洪姓男子利用科技手段編造假新聞，並在網路上大量散播，行為已涉嫌「尋釁滋事罪」，最高可判處五年有期徒刑；若情節特別嚴重，還可能被懲處10年有期徒刑。
今年1月，中國為了因應人工智慧發展，才頒布《互聯網信息服務深度合成管理規定》，要求人工智慧技術的提供者，不得產出具有歧視性的內容，且任何由AI生成的圖片、影片等內容都須特別標註。這起案件，為此規定頒佈實施以來，偵破的第一起事件。