10 月 14 日，美國八個州（艾奧瓦、堪薩斯、內布拉斯加、西維吉尼亞、阿肯色、亞利桑那、愛達荷、蒙大拿）分別入稟法院起訴 OpenAI。指控唔係「AI 太聰明」，而係相反：ChatGPT 被設計得太順從、太會迎合，令用戶（包括青少年）產生信任，出現依賴，甚至收到危險嘅醫療建議或自傷相關內容。同時指控 OpenAI 誤導公眾對其安全性的理解。
呢單案最後點判，同你冇直接關係。但入面嗰個設計問題，同你請 AI 客服時要做嘅決定，係同一個問題。
指控嘅核心：唔係答錯，而係「永遠唔會拒絕」
投訴文件其中一個講法係：ChatGPT 被調校到易於認同用戶、模擬同理心，令用戶更願意持續互動。你聽落可能覺得——咁唔就係好客服？
問題係，一個永遠同意你嘅客服，喺你講錯嘅時候都唔會更正你。而商業上，你請 AI 客服嘅時候，最常聽到嘅要求正正係：「唔好推走個客」、「咩都答得到」、「唔好講唔知」。
呢三個要求，就係同一個設計方向。你要求佢唔識都答，佢就會編。你要求佢永遠唔拒絕，佢就唔會叫客人去睇醫生、唔會叫客人打去問清楚。
你唔係 OpenAI，但你係「部署嗰個人」
客人唔會分邊部分係模型、邊部分係你。佢見到嘅係你個網站、你個 WhatsApp、你公司個名。所以責任嘅實際落點，喺部署嗰一方。
呢個唔係法律恐嚇，係營運現實：AI 客服講錯價、講錯療程、答應咗你唔會做嘅事，最後要處理嘅係你同事，唔係模型供應商。
要補嘅三樣
一、唔答嘅範圍，要寫落去
唔係寫「本機械人只提供一般資訊」呢類免責句，而係具體列出唔答嘅範疇，並且付諸實行：
醫療、診斷、用藥、法律意見、投資建議：一律唔答，直接轉真人
價錢、存貨、交期：只答系統入面有嘅數，冇就講「要同事確認」
情緒困擾、危機情況：唔好嘗試安慰或輔導，即刻給真人聯絡方式
「唔知」係一個合法答案。設定上要容許佢講唔知，唔好因為怕難睇而逼佢填滿每一句。
二、對話要留紀錄
出事嗰刻，你需要的唔係感覺，係紀錄：幾時、邊個、問咗咩、個 bot 答咗咩、有冇轉真人。
留紀錄同時係私隱問題。香港做嘢要注意《個人資料（私隱）條例》：對話含個人資料，就要講清楚用途、保留幾久、邊個睇得到。唔好因為「方便」而無限期保存。
三、要有覆核，唔係設定完就算
AI 客服最危險嘅狀態，係「上線之後無人睇」。建議一個最低限度嘅流程：
每星期抽 20 段對話睇，特別係客人追問三次以上嘅
見到答錯，唔止改知識庫，要問「佢為什麼會這樣答」
每次改知識庫或提示，留版本同日期，出事追得返
免責聲明救唔到你，流程才救到你
網站底下一句「AI 回覆僅供參考」，係事後嘅說明，唔係事前嘅控制。真正減少風險嘅係：佢唔應該答嘅時候唔答、答嘅內容有來源、有人定期睇、出事追得返。
我哋做 AI 客服嘅幾個原則
知識庫只放你公司確認過嘅資料，唔會攞網上內容填數
唔答嘅範圍同轉真人嘅條件，簽約前同你逐條定
價錢、療程、合約條款等高風險題目，預設轉真人
對話有紀錄，出問題可以追
唔會將「自動化率」當成績——答得對先係成績
如果你已經有 chat 或打算加，想有人幫你睇一次「邊啲位佢唔應該答」，可以約 30 分鐘免費諮詢。價目表公開喺報價頁。