도움이 되는 어시스턴트가 되려는 노력의 일환으로, Claude는 때때로 부정확하거나 오도할 수 있는 응답을 생성할 수 있습니다.
이를 정보 "hallucinating"이라고 하며, 이는 Claude와 같은 최첨단 생성형 AI 모델의 현재 제한 사항의 부산물입니다. 예를 들어, 일부 주제 영역에서 Claude는 최신 정보로 학습되지 않았을 수 있으며 현재 이벤트에 대해 질문을 받을 때 혼동할 수 있습니다. 또 다른 예는 Claude가 권위 있어 보이거나 설득력 있게 들리지만 사실에 근거하지 않은 인용문을 표시할 수 있다는 것입니다. 즉, Claude는 올바른 것처럼 보이지만 매우 잘못된 것들을 쓸 수 있습니다.
사용자는 Claude를 유일한 진실의 출처로 의존해서는 안 되며, Claude가 제공하는 고위험 조언을 신중하게 검토해야 합니다.
웹 검색 결과로 작업할 때, 사용자는 Claude가 인용한 출처를 검토해야 합니다. 원본 웹사이트에는 Claude의 종합에 포함되지 않은 중요한 맥락이나 세부 정보가 포함될 수 있습니다. 또한 Claude의 응답 품질은 참조하는 기본 출처에 따라 달라지므로, 원본 콘텐츠를 확인하면 전체 맥락 없이 잘못 해석될 수 있는 정보를 식별하는 데 도움이 됩니다.
특정 응답이 도움이 되지 않았다면 아래 버튼을 사용하여 알려주거나, [email protected]으로 의견이나 제안을 보내주시기 바랍니다.
Anthropic의 기술이 어떻게 작동하는지, 그리고 더욱 안전하고 조종 가능하며 신뢰할 수 있는 모델 개발에 대한 연구에 대해 자세히 알아보려면 다음을 방문하시기 바랍니다: https://www.anthropic.com/research