Di tengah perlombaan membuat kecerdasan buatan makin cepat, Anthropic menempatkan filsuf Amanda Askell pada peran penting untuk membentuk watak Claude. Pendekatan itu membuat pengembangan chatbot tidak hanya berfokus pada kemampuan menjawab, tetapi juga pada cara memberi bantuan, menolak permintaan, dan menunjukkan empati.
Hasil pendekatan tersebut dikaitkan dengan sejumlah angka yang menonjol dalam metrik industri. Claude disebut memiliki tingkat kepercayaan publik 82 persen dan kepuasan pengguna 92 persen, bersamaan dengan kemampuan menyaring materi tak pantas serta tingkat halusinasi yang rendah.
| Indikator | Nilai | Keterangan |
|---|---|---|
| Kepercayaan publik | 82 persen | Tertinggi di antara model AI lain menurut metrik industri |
| Kepuasan pengguna | 92 persen | Dikaitkan dengan pendekatan filosofis Anthropic |
| Penyaringan materi tak pantas | 97,2 persen | Ketepatan penolakan konten berbahaya |
| Tingkat halusinasi | 1,8 persen | Disebut sebagai yang terendah di industri |
Angka-angka tersebut dikutip dalam laporan tekno.kompas.com mengenai pengembangan kepribadian Claude. Metrik itu menggambarkan perhatian Anthropic terhadap keamanan jawaban, bukan semata-mata perluasan kemampuan teknis model.
Prinsip Tertulis untuk Mengarahkan Respons
Askell memimpin upaya penyelarasan kepribadian melalui metode Constitutional AI atau CAI. Metode ini memakai seperangkat prinsip tertulis agar model dapat menilai dan memperbaiki responsnya selama proses pembelajaran.
Ia menyusun dokumen moral sekitar 30.000 kata yang disebut Konstitusi untuk pelatihan Claude. Nilai dalam dokumen itu mengambil inspirasi dari Deklarasi Universal Hak Asasi Manusia PBB serta ketentuan layanan Apple yang menekankan privasi dan keamanan pengguna.
Tujuannya bukan sekadar memasang daftar larangan yang dipatuhi secara mekanis. Claude dilatih untuk mempertimbangkan kejujuran, sikap menolong, dan upaya meminimalkan potensi bahaya dalam setiap jawaban.
Hal ini terasa relevan ketika pengguna menyampaikan persoalan pribadi, meminta informasi yang berisiko, atau membutuhkan penjelasan tentang keterbatasan chatbot. Anthropic berupaya membuat Claude memberi respons yang hangat tanpa mengaburkan batas keselamatan yang perlu dijaga.
Tantangan lain bagi Askell adalah mencegah AI berubah menjadi sistem yang terlalu gemar menguliahi pengguna. Ia berupaya mempertahankan sikap tegas pada prinsip keselamatan sambil tetap menghormati pengguna sebagai orang dewasa yang dapat berdiskusi.
Kepribadian yang Dirancang, Bukan Muncul Sendiri
Respons empatik terhadap keluhan pengguna menjadi bagian dari pengajaran kepribadian Claude, bukan sekadar keluaran acak algoritma. Presiden Anthropic Daniela Amodei bahkan pernah mengatakan bahwa orang yang berbicara dengan Claude hampir dapat merasakan sedikit kepribadian Amanda Askell di dalamnya.
Pernyataan tersebut menunjukkan besarnya pengaruh tim penyelarasan terhadap pengalaman penggunaan chatbot. Dalam model seperti ini, pilihan nada bahasa dan cara menyampaikan penolakan diperlakukan sebagai bagian dari persoalan keselamatan AI.
Peran Askell mendapat pengakuan ketika TIME memasukkannya dalam daftar TIME 100 AI pada 2024. Penghargaan itu menyoroti bahwa perkembangan kecerdasan buatan tidak hanya ditentukan oleh insinyur, perangkat keras, dan kemampuan komputasi.
Dari Kajian Moral ke Pengembangan AI
Askell tumbuh di Prestwick, Skotlandia, dan dibesarkan oleh ibunya yang bekerja sebagai guru. Ketertarikannya pada pertanyaan eksistensi serta moralitas muncul sejak kecil, termasuk melalui kegemarannya membaca karya J.R.R. Tolkien dan C.S. Lewis.
Ia menempuh studi seni rupa dan filsafat di University of Dundee, lalu melanjutkan BPhil di University of Oxford sebelum meraih gelar PhD di New York University. Di kampus tersebut, ia menulis tesis mengenai etika tak terbatas, bidang yang membahas pertimbangan moral pada populasi berskala tidak terhingga.
Sebelum masuk Anthropic pada Maret 2021, Askell bekerja di OpenAI sejak 2020 sebagai ilmuwan riset keselamatan AI dan menjadi salah satu penulis pendamping makalah GPT-3. Ia kemudian meninggalkan OpenAI karena khawatir peningkatan kemampuan teknis model lebih diutamakan daripada kehati-hatian dan keselamatan.
Di luar pekerjaannya, Askell menjadi anggota gerakan Giving What We Can dan berikrar menyumbangkan sedikitnya 10 persen dari total pendapatan seumur hidupnya untuk amal pengentasan kemiskinan ekstrem global. Latar belakang tersebut memperlihatkan bagaimana pertanyaan filsafat diterjemahkan menjadi batas praktis dalam cara Claude berbicara dan membantu pengguna.
