ChatGPT新聞稿幾可亂真　杭州瘋傳

（大公報記者 江鑫嫻）近日，智能聊天機器人ChatGPT創作了一條關於浙江杭州3月1號取消限行的「新聞稿」，引發熱議。該「新聞稿」是杭州一居民用ChatGPT創作並發布在小區業主群裏，被其他業主截圖轉發，隨後被擴散。對此，杭州警方17日表示，該消息不實，警方已介入調查，涉事業主也在群裏公開道歉。公安部網安局提醒網民，ChatGPT的信息也是來源於互聯網，請大家務必擦亮眼睛，辨別網上信息真偽，合法合規使用軟件，切勿洩露個人信息。

據悉，自2022年12月21日開始，杭州市區地面道路暫停錯峰限行已近兩個月，何時全面恢復，尚未有明確說法。2月16日，一則「2023年3月1日起，杭州市政府將取消機動車尾號限行政策。此舉旨在提高城市交通效率，緩解交通擁堵，方便市民出行」的消息在網上瘋傳。據浙江之聲報道，當天下午，杭州某小區業主群討論ChatGPT，一位業主開玩笑說嘗試用它寫篇杭州取消限行的新聞稿，隨後在群裏直播了使用ChatGPT的寫作過程，還把文章發在群裏。其他業主不明就裏，截圖轉發，導致錯誤信息傳播。事實上，截至目前，杭州相關政府部門均沒有發布此類政策。

造謠「威力」驚人 公眾紛紛中伏

事後，涉事業主在群裏道歉，稱網傳3月1日取消機動車尾號限行的截圖「不是從官方得知的」，而是在業主群裏聊起ChatGPT，其用ChatGPT擬寫的，後軟件自動生成的新聞稿被不明實情的業主轉發，誤導了大家，「在社會上造成不良影響，給政府工作帶來不便，我深表歉意。」對此，有網友表示，事實已經澄清，但智能化帶給日後的影響卻不可估量。利用人工智能為人類謀福是目的，控制人工智能限制其隨意發展以防止人類被人工智能打敗消滅，更應值得科學家們所想所思。

針對ChatGPT造假問題，ChatGPT的開發商OpenAI首席技術官米拉·穆拉蒂曾在接受美國《時代》雜誌採訪時表示，ChatGPT可能會「編造事實」，這與其他基於語言模型的人工智能工具沒有什麼區別一樣。穆拉蒂還提到，像ChatGPT這樣的人工智能工具可能被濫用，也可能被壞人使用，引發了關於如何在全球範圍內對其進行監管的問題。

公安部網安局此前亦發文提醒，根據研究機構測試發現，如果對着ChatGPT提出充斥陰謀論和誤導性敘述的問題，它能在幾秒鐘內改編信息，產生大量令人信服卻沒有來源根據的內容。一旦ChatGPT被不法分子利用，將可能導致ChatGPT衍生成為互聯網上製造和傳播網絡謠言的工具。另外，公安機關網安部門還提醒，需防範蹭熱度、賺流量錢和服務費的山寨版ChatGPT。同時，更要提防的是有不法分子把ChatGPT與犯罪行為聯繫在一起。

可生成針對特定人群「釣魚」郵件

據介紹，目前境外有人使用ChatGPT創建一個完整的感染鏈：不同以往的廣撒網式的網絡釣魚，它在提問者的誘導下可以生成針對特定人或者組織的「魚叉式」網絡釣魚郵件，此類釣魚郵件更具有欺騙性和迷惑性，這就導致郵件接收方更容易上當受騙，接收者一旦點擊該郵件，系統就會被惡意代碼感染中毒。

公安部網安局還提到，在ChatGPT推出幾周後，不法分子對ChatGPT的惡意利用也帶來了更多的數據安全問題。目前外國已有相關機構證明，該機器人可能被用於編寫惡意軟件，從而逃避防病毒軟件的檢測，或利用其擬人的聊天對話能力，冒充真實的人或者組織騙取他人信息等。

專家解讀｜研發AI「過濾器」 審核違規信息

關於ChatGPT可能生成假新聞的擔憂，此前就已被各界廣泛討論，而今次出現的假新聞，則將擔憂變成了現實。對此，有專家表示，ChatGPT等AI聊天基礎存在的現實合規問題急需重視，這其中較為棘手的是ChatGPT回覆的虛假信息問題。應鼓勵專業機構積極推進人工智能違規信息審核產品的研發和推廣。

北京航空航天大學副教授、北京科技創新中心研究基地副主任趙精武此前撰文提到，為了避免ChatGPT等人工智能產品大量生成難以通過自動化批量審核的虛假信息內容，監管機構以及網絡平台經營者可能需要進一步提升監管技術，充分利用人工智能技術的審核智能化特徵，根據ChatGPT這類產品的發展水平和生成信息內容特徵，鼓勵行業協會、大型企業或第三方專業機構積極推進人工智能違規信息審核產品的研發和推廣。

另有專家建議，國家加強對人工智能的倫理規制，將倫理道德納入人工智能研發和應用的全過程，增強全社會人工智能的倫理意識和行為自覺，積極引導負責任的人工智能研發與應用活動，促進人工智能健康發展。「網絡不是法外之地，利用新技術時，不要觸碰道德和法律底線。」相關律師表示，今次用ChatGPT寫消息的那位杭州業主沒有保證發布內容的真實性，具有一定的責任。