Dalam upaya menjadi asisten yang membantu, Claude dapat kadang-kadang menghasilkan respons yang tidak akurat atau menyesatkan.
Ini dikenal sebagai "hallucinating" informasi, dan merupakan produk sampingan dari beberapa keterbatasan saat ini dari model Generative AI frontier, seperti Claude. Sebagai contoh, di beberapa bidang subjek, Claude mungkin belum dilatih pada informasi paling terkini dan mungkin bingung ketika ditanya tentang peristiwa terkini. Contoh lain adalah bahwa Claude dapat menampilkan kutipan yang mungkin terlihat berwibawa atau terdengar meyakinkan, tetapi tidak didasarkan pada fakta. Dengan kata lain, Claude dapat menulis hal-hal yang mungkin terlihat benar tetapi sangat keliru.
Pengguna tidak boleh mengandalkan Claude sebagai satu-satunya sumber kebenaran dan harus dengan hati-hati memeriksa setiap saran berisiko tinggi yang diberikan oleh Claude.
Saat bekerja dengan hasil pencarian web, pengguna harus meninjau sumber yang dikutip Claude. Situs web asli mungkin berisi konteks atau detail penting yang tidak termasuk dalam sintesis Claude. Selain itu, kualitas respons Claude bergantung pada sumber yang dirujuknya, jadi memeriksa konten asli membantu Anda mengidentifikasi informasi apa pun yang mungkin disalahartikan tanpa konteks lengkap.
Anda dapat menggunakan tombol jempol ke bawah untuk memberi tahu kami jika respons tertentu tidak membantu, atau tulis kepada kami di [email protected] dengan pemikiran atau saran Anda.
Untuk mempelajari lebih lanjut tentang cara kerja teknologi Anthropic dan penelitian kami tentang pengembangan model yang lebih aman, dapat diarahkan, dan lebih andal, kami merekomendasikan untuk mengunjungi: https://www.anthropic.com/research