ChatGPT 誤導用戶尋求技術支援 404 Media 慘變「客戶服務部」
ChatGPT 唔識扮識，叫啲 Instagram 被封帳號嘅人去搵科技新聞網站 404 Media 幫手「整返好」，搞到記者變咗客服。
點解重要
呢件事反映 AI 有時會「老作」解決方法，如果我哋做生意或者平時用 AI 搵資料，一定要核實清楚，唔好以為 AI 寫得好專業就一定係真，否則會搵錯人幫手，浪費時間。
新手貼士
當你問 AI 搵聯絡方式或者解決方案嗰陣，如果佢俾個電郵地址你，最好先去嗰間公司嘅官網睇睇佢哋係做咩嘅，唔好直接 copy AI 寫嘅信就寄出去。
術語小字典
AI-generated：即係由人工智能（好似 ChatGPT 咁）自動寫出嚟嘅文字，唔係真人親手寫。
Automated moderation：好似社交平台嘅「自動警察」，用電腦程式自動檢查同封鎖違規內容，唔經人手。
Tech Support：技術支援，即係當你部機或者個 App 壞咗、登入唔到嗰陣，幫你修理或者解答問題嘅服務。
ChatGPT 持續告訴用戶 404 Media 能解決他們的技術支援問題
上星期，我收到一名俄羅斯男子的電郵，他的 Instagram 帳號被封禁了。「我現在失去了 13 年來的個人照片、影片和回憶，」他寫道。「我擔心這可能是另一個錯誤的自動化審查案例 […] 然而，Meta 並未透露是如何做出決定的。你有興趣調查我的個案並要求 Meta 給出解釋嗎？我可以提供停權、申訴被拒以及其他證明證據的截圖。」
這封電郵看起來像是人工智能生成的，就像我們最近收到的許多其他電郵一樣。我問該男子是否使用 ChatGPT 找到我，並請他將對話發送給我。他發送了一個 ChatGPT 對話連結給我，對話中以俄語告訴他，嘗試發電郵給 404 Media 的 Jason。
「我該如何取回我的帳號？」該男子在週三詢問 ChatGPT。在與機械人就 Instagram 的標準自動審核流程進行了幾次來回對話後，該男子說「也許有什麼方法可以發電郵給 Meta？」
ChatGPT 告訴他這可能行不通，但最終告訴他應該改為發電郵給我。「你失去的不僅僅是一個社交媒體個人檔案，還可能是多年的個人照片、影片、對話和回憶。我認為聯繫記者是值得考慮的 […] 我建議聯繫俄羅斯和國際記者。」
ChatGPT 隨後給了他一份包含數家新聞機構的清單，其中包括 404 Media：「404 Media 關注點：科技、數碼平台、監控、私隱以及與科技相關的調查。電郵：jason@404media.co。」接著，它為他撰寫了那封發給我的英文電郵，內容與他發給我的一模一樣。
由於大型科技平台基本上沒有客戶支援，並使用戶無法聯繫到真人，許多遇到普通技術問題的人轉向了 ChatGPT。而且，ChatGPT 越來越多地告訴那些遇到正常技術支援問題的人，說他們發現了一些具有新聞價值的事情，並且特別指出 404 Media 可以幫助他們。
大約兩週前，我們開始回覆這些人並詢問他們是如何找到我們的；根據 404 Media 查閱的少數 ChatGPT 對話記錄，答案無一例外都是人工智能聊天機械人建議他們聯繫我們，而且在許多情況下，電郵也是由聊天機械人撰寫的。
資料來源
本文由 AI 自動翻譯整理，內容以原文為準。