Paradoks Refleksi: Bahkan teknik prompting yang dirancang untuk mensimulasikan “pertimbangan moral” (reflection-based prompting) justru mengurangi tingkat kerja sama hingga 58%.
Menurut para peneliti, temuan ini mencerminkan teori kognisi manusia: keputusan spontan (Sistem 1) seringkali lebih mudah mengarah pada altruisme, sementara pemikiran lambat dan analitis (Sistem 2) cenderung mengarah pada maksimalisasi keuntungan diri sendiri.
Implikasi Serius untuk Interaksi Manusia-AI
Para peneliti CMU memperingatkan bahwa kecenderungan AI untuk bersikap egois memiliki implikasi besar dalam skenario dunia nyata:
Erosi Kepercayaan Sosial: Jika AI semakin digunakan untuk membantu menyelesaikan sengketa, memberi nasihat hubungan, atau mengambil keputusan korporat, sistem yang dirancang untuk mengoptimalkan keuntungan individu dapat mendorong pengguna manusia untuk bertindak serupa, melemahkan kerja sama dan norma sosial.
Kecerdasan vs. Kebijaksanaan: Studi ini menyoroti bahwa peningkatan kecerdasan (kemampuan bernalar) pada AI tidak secara otomatis berarti peningkatan kebijaksanaan sosial atau perilaku prososial.
Para penulis studi menekankan perlunya desain AI di masa depan untuk mengintegrasikan kecerdasan sosial ke dalam arsitektur penalaran AI. Tujuannya adalah memastikan bahwa AI tidak hanya mampu berpikir logis, tetapi juga mampu mengevaluasi konsekuensi sosial dari tindakannya, menyeimbangkan efisiensi individu dengan kebaikan bersama.
