Peluncuran 'Tidak Diatur' ChatGPT kesehatan di Australia: 'Panduan yang salah atau informasi palsu yang merugikan?'
Ahli kesehatan dan aktivis di Australia mengungkapkan kekhawatiran terhadap pembatasan yang terbataspeluncuran ChatGPT Health. Profesional yang diizinkan menyoroti sifatnya yang tidak diatur, kekhawatiran akan keselamatan, dan kemungkinan informasi yang salah pada platform kesehatan berbasis AI yang berkembang pesat ini.
Kesehatan ChatGPT sebagai teman kesehatan digital yang baru?
Rilisan terbaru OpenAI, ChatGPT Health, di Australia, memberikan sekelompok kecil pengguna pengalaman akan aplikasi berbasis AI yang baru, yang membantu dalam memahami catatan medis, memberikan panduan kesehatan, dan menjawab pertanyaan terkait kesehatan.
Meskipun platform tersebut menunjukkan bahwa ia dapat membantu seseorang untuk memahami hasil tes, mengontrol penyakit kronis, atau mempertimbangkan pilihan makanan, tetap berada dalam tahap daftar tunggu, dan hanya sejumlah kecil orang yang dapat mencobanya.
Perusahaan menyatakan bahwa ChatGPT Health seharusnya digunakan sebagai tambahan, bukan pengganti bagi profesional kesehatan.
Tetapi di balik gambaran bisnis potensial ini, beberapa kekhawatiran sedang berkembang.
Para analis khawatir bahwa platform tersebut tidak aman, akurat, dan transparan, terutama karena berada dalam zona abu-abu regulasi. Kekhawatiran para kritikus adalah pengguna akan menganggap jawaban AI sebagai nasihat medis ahli, yang dapat menyebabkan kerugian akibat informasi yang salah atau informasi keselamatan yang diabaikan.
Keselamatan dan regulasi, selalu ada celah keamanan
Ketidakhadiran pengujian dan regulasi yang ketat ternyata menjadi salah satu masalah utama yang telah disampaikan oleh peneliti tentang informasi kesehatan yang tidak akurat.
Alex Ruani, peneliti doktoral tentang penyebaran informasi kesehatan di University College London, menunjukkan kekhawatirannya terhadap kurangnya penelitian yang tersedia secara publik untuk mendukung keamanan ChatGPT Health.
ChatGPT Health disajikan sebagai antarmuka yang dapat membantu orang memahami informasi kesehatan dan hasil tes atau menerima saran diet, sambil tidak menggantikan seorang dokter,Ruani memberi tahu Guardian.
"Kesulitannya adalah bahwa bagi banyak pengguna, tidak jelas di mana informasi umum berakhir dan nasihat medis dimulai, terutama ketika jawaban terdengar percaya diri dan personal, meskipun bisa menyesatkan," tambahnya.
Jaringan ini didasarkan pada prosedur penilaian proprietary yang disebut HealthBench, di mana dokter sedang mencoba reaksi mereka. Namun, seluruh prosedur tersebut tidak sepenuhnya diungkap, dan meragukan kredibilitas serta kejujurannya.
Menurut para kritikus, penggunaan berlebihan saran kesehatan berbasis AI bisa menghasilkan kesalahpahaman yang merugikan atau risiko yang tidak terdeteksi, termasuk efek samping kritis yang tidak terlihat atau ketidakcocokan obat tertentu, kecuali didukung oleh penelitian yang telah dipertimbangkan oleh rekan sejawat atau langkah-langkah keselamatan lainnya.
Bias, informasi yang salah, keamanan data, dan kekhawatiran privasi - apa pun yang Anda sebutkan
Para profesional khawatir bahwa konten AI sangat menipu, karena jawabannya tidak lengkap, dan informasi tentang keamanan hilang. Contohnya adalah ketika ChatGPT Health tidak memberikan informasi mengenai efek samping obat yang mungkin atau peringatan potensial tentang alergi atau risiko diet tertentu atau suplemen.
Kejadian mengerikan dari chatbot AI yang memberikan data kesehatan yang tidak lengkap atau salah sudah mulai terjadi dalam jumlah besar, dan dalam banyak kasus, informasi penting tentang keamanan dihilangkan.
Rasa takutnya adalah bahwa pengguna, khususnya mereka yang rentan atau membutuhkan solusi cepat, mungkin mengambil informasi ini secara buta dan membuat keputusan yang bisa merugikan mereka.
Sementara OpenAI menyatakan bahwa ChatGPT Health adalahfokus pada privasi, karena mengenkripsi data dan mendapatkan persetujuan pengguna, ahli keamanan siber khawatir. Kebijakan privasi pengumpulan data perangkat lunak ini tidak menjelaskan secara lengkap bagaimana data kesehatan disimpan, digunakan, dan dibagikan.
Informasi kesehatan sangat sensitif sehingga orang-orang takut akan penyalahgunaannya atau pelanggarannya, terutama mengingat platform ini bukan perangkat medis yang dikendalikan.
Mengapa orang Australia beralih ke AI untuk mendapatkan nasihat kesehatan
Biaya kesehatan yang meningkat, antrian yang terlalu panjang untuk spesialis, dan ketidaksetaraan dalam bidang kesehatan telah menyebabkan kecenderungan banyak orang Australia untuk mencari bantuan alat berbasis AI.
Menurut penelitiandilakukan oleh University of Sydney, sekitar 9,9% dari orang dewasa Australia (sekitar 1,9 juta orang) bertanya kepada ChatGPT mengenai pertanyaan kesehatan selama enam bulan sebelum Juni 2024.
Para peneliti menyatakan bahwa 'penggunaan ChatGPT yang terkait kesehatan lebih tinggi untuk kelompok yang menghadapi hambatan akses layanan kesehatan, termasuk orang-orang yang lahir di negara-negara yang tidak berbahasa Inggris, tidak berbicara bahasa Inggris di rumah, atau yang tingkat literasi kesehatannya terbatas atau marginal.'
Dr Elizabeth Deveny, direktur eksekutif Consumers Health Forum Australia,menunjukkan bahwa AIakan menjadi alat yang berguna dalam perawatan penyakit kronis, informasi kesehatan dalam berbagai bahasa, dan beberapa beban pada sistem kesehatan.
"Kami membutuhkan aturan jelas, transparansi, dan pendidikan konsumen agar orang-orang dapat membuat pilihan yang terinformasi tentang apakah dan bagaimana mereka menggunakan AI untuk kesehatan mereka," katanya.
Ia memperingatkan bahwa upaya yang ditingkatkan dalam penerapan tanpa pengawasan yang memadai akan meningkatkan ketidaksetaraan kesehatan.
Artikel Terkait
・Ringkasan Kesehatan Google AI Bisa Gagal Memberi Pasien Saat Nasihat Medis Paling Penting
・Dokter vs. Kecerdasan Buatan? Apa yang Dimaksud dengan ChatGPT Health bagi Masa Depan Kedokteran
・ChatGPT di Pendidikan: Pakar Memperingatkan Kecerdasan Buatan Bisa Mengubah Kemampuan Berpikir Kritis Siswa
Posting Komentar