KORDANEWS – Google dilaporkan menarik fitur AI Overviews dari sejumlah hasil pencarian yang berkaitan dengan topik medis. Keputusan ini diambil setelah muncul kekhawatiran bahwa ringkasan berbasis kecerdasan buatan tersebut menyajikan informasi yang tidak akurat atau menyesatkan, sehingga berpotensi membahayakan pengguna.
AI Overviews merupakan fitur yang menampilkan ringkasan jawaban otomatis di bagian atas hasil pencarian Google. Fitur ini dirancang untuk membantu pengguna memperoleh informasi dengan cepat tanpa harus membuka banyak situs. Namun, dalam konteks kesehatan, pendekatan ringkas tersebut dinilai memiliki risiko tinggi.
Temuan Informasi Medis yang Bermasalah
Keputusan Google ini mencuat setelah sejumlah laporan media dan pengamatan peneliti menemukan bahwa AI Overviews memberikan jawaban medis tanpa konteks penting. Salah satu contohnya adalah pencarian terkait rentang normal hasil tes fungsi hati, di mana AI menampilkan angka umum tanpa mempertimbangkan faktor krusial seperti usia, jenis kelamin, riwayat penyakit, atau kondisi klinis lainnya.
Dalam kasus lain, AI Overviews juga disebut memberikan saran nutrisi yang tidak selaras dengan rekomendasi medis, termasuk pada topik penyakit serius. Para ahli menilai informasi semacam ini berbahaya jika ditafsirkan sebagai panduan kesehatan yang pasti.
Google Akui Lakukan Penyesuaian
Menanggapi temuan tersebut, Google secara bertahap menghapus AI Overviews dari beberapa kueri kesehatan tertentu, terutama yang dianggap sensitif dan berisiko tinggi. Meski demikian, penarikan ini belum bersifat menyeluruh, karena AI Overviews masih bisa muncul pada variasi pencarian medis dengan frasa berbeda.
Dalam pernyataan resminya, Google menyebut pihaknya terus melakukan evaluasi dan peningkatan kualitas AI, khususnya untuk topik yang masuk kategori Your Money or Your Life (YMYL), termasuk kesehatan. Google menegaskan bahwa akurasi dan keselamatan pengguna tetap menjadi prioritas utama.
