為了成為有幫助的助手，Claude 有時可能會產生不正確或誤導性的回應。
這被稱為「幻覺」信息，是當前前沿生成式 AI 模型（如 Claude）的一些限制的副產品。例如，在某些主題領域，Claude 可能沒有接受過最新信息的訓練，在被提示關於時事時可能會感到困惑。另一個例子是 Claude 可能會顯示看起來權威或聽起來令人信服的引用，但這些引用並非基於事實。換句話說，Claude 可能會寫出看起來正確但實際上非常錯誤的內容。
用戶不應將 Claude 作為唯一的真實來源，應仔細審查 Claude 提供的任何高風險建議。
在使用網絡搜索結果時，用戶應查看 Claude 引用的來源。原始網站可能包含 Claude 綜合中未包含的重要背景或詳細信息。此外，Claude 回應的質量取決於它引用的基礎來源，因此檢查原始內容可幫助您識別任何可能因缺乏完整背景而被誤解的信息。
您可以使用向下拇指按鈕告訴我們特定回應是否沒有幫助，或通過 [email protected] 寫信給我們，分享您的想法或建議。
若要深入了解 Anthropic 的技術如何運作以及我們在開發更安全、更可控和更可靠的模型方面的研究，我們建議訪問：https://www.anthropic.com/research