Project Lily：合約評審員檢視 ChatGPT 對話的隱私風險

近期，OpenAI 的內部文件被 404 Media 揭露，顯示公司在一項名為 Project Lily 的計畫中，動用數百名合約評審員對真實的 ChatGPT 對話進行審查。這些評審員會完整看到使用者的提問以及模型產出的回覆，然後依照公司制定的指引，對回覆的自然度、是否過度擬人化或過於討好使用者等多個面向進行打分與批評。此舉旨在收集具體的使用者回饋，進一步微調模型的行為。

在所有對話進入人工審查之前，首先會通過 OpenAI 所謂的 Privacy Filter。這道過濾機制的核心目標是剔除明顯的個人識別資訊，例如姓名、電話號碼或住址等。文件中雖然強調過濾器能夠捕捉這類資訊，但同時也承認它並非完整的匿名化工具，仍有可能讓「細節敏感」的資訊漏過，直接呈現在評審員的螢幕上。

實際的審查流程包括兩個主要步驟。首先，評審員會根據使用者的文字概括出其意圖，形成一段簡短的摘要。接著，他們會針對模型產出的多個回覆逐一打分，並提供具體的改進建議。這些分數與意見會回饋至模型的訓練管線，用以降低模型產生機械語氣或過度擬人化的傾向。OpenAI 亦說明，這些審查僅針對特定的測試樣本，並非對所有使用者的對話進行全面檢視。

隱私過濾器的限制

雖然過濾器能夠自動刪除直接可識別的個人資訊，但文件同時指出，過濾器無法完全消除所有可能透露使用者背景的訊息。例如，使用者在對話中提到自己的職業、居住城市或近期的生活事件，這類資訊往往會在摘要階段被保留下來，讓評審員藉此推測出使用者的身份或情境。這意味著，即使過濾器已盡力去除明顯的個資，仍存在資訊洩漏的風險。

合約評審員的工作範圍

• 閱讀完整的使用者請求與模型回覆
• 撰寫意圖摘要
• 為每個回覆打分並提供改進建議
• 標註可能的偏見或不當內容
• 參與內部討論以調整評分標準

從上述清單可以看出，評審員的角色遠不止被動閱讀。他們不僅需要理解使用者的需求，還要主動分析模型的回應品質，並在必要時指出潛在的偏見或不當內容。這種深度參與使得他們在資料處理上的介入程度相當高，也因此對隱私保護的要求更為嚴格。

不同帳戶類型的設定差異

根據 Tom's Guide 的報導，OpenAI 為不同類型的帳戶提供了預設的資料貢獻設定。個人用戶（包括 Free、Plus 與 Pro）在預設情況下會開啟「改進模型」功能，意味著其對話可能被納入訓練資料；而企業、商業與教育帳戶則預設關閉此功能，避免商業機密或學術資料被使用。此外，使用者仍可在設定中自行切換「Improve the model for everyone」選項，但此變更僅影響未來的對話，已提交的資料不會被撤回。

需要關注的隱私原則

在審視 Project Lily 時，必須明確區分四個核心概念：偽匿名化、匿名化、同意與人為控制。偽匿名化指的是資料雖經過部分去識別，但仍可藉助其他資訊重新識別個人；匿名化則是徹底移除所有可識別資訊，理論上無法再還原。使用者是否明確授權其對話被用於模型改進屬於同意的範疇；而合約評審員的介入是否符合最小化資料使用的原則，則關係到人為控制的合規性。

結論與建議

Project Lily 暴露了大型語言模型在提升品質的過程中，仍不可避免地依賴大量人工審查。即便 OpenAI 採取了過濾與偽匿名化的措施，技術本身的限制以及工作流程的設計仍可能導致資料外洩。對於關注隱私的使用者，建議先檢查帳戶設定，必要時關閉「改進模型」功能，並在對話中儘量避免透露過於敏感的個人資訊。

對於在台灣或使用繁體中文的組織而言，應特別核對以下項目：是否已在內部政策中明確規範員工使用 ChatGPT 時的資料貢獻設定；是否對所有使用者提供清晰的同意說明，讓他們了解對話可能被人為審查的風險；以及是否建立資料最小化與存取控制機制，確保即使有人為審查也只能取得必要的資訊。只有在這些層面落實嚴格的檢查與管理，才能在利用 AI 效益的同時，最大程度保護使用者的隱私。