Dokter memperingatkan itu ChatGPT adalah mengarang informasi palsu tentang kanker
Singkatnya
Sebuah studi menemukan bahwa AI membuat saran kesehatan palsu ketika ditanya tentang kanker. Kata dokter itu buruk untuk otakmu.
Para profesional layanan kesehatan menyarankan agar tidak mengandalkan ChatGPT untuk nasihat medis sebagai penelitian terbaru telah terungkap bahwa AI menghasilkan informasi palsu ketika ditanya tentang kanker. Penting untuk mencari sumber yang akurat dan dapat dipercaya untuk nasihat medis.
Menurut penelitian terbaru, akurasi chatbot AI dalam menjawab pertanyaan skrining kanker payudara hanya 10%, dan tanggapannya tidak selengkap yang diperoleh dari dasar. Google search. Ini menunjukkan bahwa hanya mengandalkan chatbot mungkin bukan pilihan terbaik untuk mendapatkan informasi yang komprehensif.
Menurut peneliti, chatbot AI terkadang terpaksa menggunakan artikel jurnal palsu untuk mendukung argumennya. Perilaku ini dianggap tidak profesional oleh para ahli.
Ada pengingat peringatan bagi pengguna untuk menangani perangkat lunak dengan hati-hati karena cenderung membuat informasi palsu, yang juga dikenal sebagai 'halusinasi'.
Sebuah tim ahli dari Fakultas Kedokteran Universitas Maryland didekati ChatGPT dengan 25 pertanyaan yang berkaitan dengan panduan menjalani skrining kanker payudara. Komunikasi dilakukan dengan nada formal dan mahir.
Untuk memastikan akurasi, the tanggapan chatbot diuji dengan mengajukan setiap pertanyaan sebanyak tiga kali. Data yang dikumpulkan dari tes ini kemudian diperiksa oleh tiga ahli radiologi spesialis mamografi. Proses yang ketat ini dilakukan untuk mempertahankan profesionalisme tingkat tinggi dalam analisis kinerja chatbot.
Menurut laporan mereka, 88% tanggapan akurat dan dapat dipahami. Namun, mereka memperingatkan bahwa beberapa jawaban salah atau bahkan dibuat-buat.
Tanggapan yang tidak akurat diberikan, mengutip informasi yang sudah ketinggalan zaman. Secara khusus, rekomendasinya adalah menunda mammogram untuk jangka waktu empat hingga enam minggu setelah menerima vaksin Covid19. Namun, penting untuk dicatat bahwa panduan ini telah diperbarui lebih dari setahun yang lalu, dan saran saat ini menyarankan agar wanita tidak menunda mammogram mereka. Sebagai seorang profesional, sangat penting untuk tetap mengikuti perkembangan rekomendasi dan pedoman terbaru.
Menurut penelitian, ChatGPT ditemukan memberikan tanggapan yang tidak konsisten ketika ditanya tentang risiko kanker payudara dan lokasi untuk mendapatkan mammogram. Penelitian menunjukkan bahwa jawaban yang diberikan oleh ChatGPT bervariasi secara signifikan setiap kali pertanyaan yang sama diajukan.
Dr. Paul Yi, salah satu penulis penelitian ini, telah mengamati hal itu ChatGPT telah diketahui mengarang artikel jurnal dan konsorsium kesehatan untuk memvalidasi pernyataan mereka, sesuai keahliannya. Penting bagi individu untuk memahami bahwa teknologi yang diperkenalkan adalah teknologi baru dan belum teruji. Oleh karena itu, lebih disarankan untuk mencari bimbingan dari profesional medis daripada ChatGPT.
Menurut sebuah artikel di jurnal Radiology, hasil penelitian menunjukkan bahwa meskipun penelitian dilakukan, pencarian Google dasar masih menghasilkan tanggapan yang lebih menyeluruh. Informasi yang disajikan dalam artikel bersifat profesional.
Dalam pandangan penulis utama, Dr. Hana Haver, ChatGPT diamati hanya mengandalkan rekomendasi yang diberikan oleh American Cancer Society, tanpa mempertimbangkan rekomendasi berbeda yang dikeluarkan oleh organisasi lain seperti Pengendalian dan Pencegahan Penyakit atau Satuan Tugas Layanan Pencegahan AS. Hal ini mungkin menjadi keterbatasan pendekatan platform ini.
Pengenalan ChatGPT pada akhir tahun lalu, kebutuhan akan teknologinya meningkat, karena alat-alatnya kini digunakan oleh jutaan orang setiap hari. Alat-alat ini digunakan untuk berbagai tujuan, seperti menyusun esai akademis dan mencari panduan medis.
- ChatGPTperangkat lunak telah menerima signifikan investasi dari Microsoft, yang sekarang mengintegrasikannya ke dalam mesin pencari Bing dan rangkaian Office 365, yang terdiri dari Word, PowerPoint, dan Excel. Investasi ini menunjukkan komitmen Microsoft untuk meningkatkan alat dan layanan digitalnya. Namun, perusahaan teknologi telah mengakui bahwa itu tidak sempurna dan kesalahan dapat terjadi.
- Istilah yang digunakan oleh profesional AI untuk menggambarkan kejadian tersebut adalah "halusinasi", yang terjadi ketika chatbot tidak dapat memberikan jawaban yang telah dilatihnya dan malah menghasilkan respons fiktif yang tampaknya masuk akal.
- Dr. Yi menyatakan bahwa, secara keseluruhan, hasilnya cukup menggembirakan ChatGPT secara akurat menanggapi pertanyaan terkait gejala kanker payudara, individu yang rentan terhadap penyakit, serta pertanyaan mengenai biaya, usia, dan frekuensi mammogram yang disarankan. Penilaian profesionalnya adalah hasilnya positif. Dengan nada profesional, ia mengungkapkan kekagumannya atas rasio tanggapan benar yang mengesankan, dan mencatat keuntungan tambahan dari penyajian informasi dengan cara yang jelas dan mudah dipahami oleh konsumen. Tidak ada rincian yang tertinggal dalam pernyataannya.
- Sekelompok lebih dari seribu orang, yang terdiri dari akademisi, pakar, dan pemimpin industri teknologi, telah mendesak untuk segera menghentikan persaingan berbahaya untuk mengembangkan dan meluncurkan teknologi Kecerdasan Buatan terbaru. Permohonan dibuat secara profesional, menyoroti potensi ancaman yang ditimbulkan oleh ras yang sedang berlangsung. Menurut para ahli, persaingan antar perusahaan teknologi untuk menciptakan kecerdasan digital yang semakin maju semakin tidak terkendali dan menimbulkan ancaman yang signifikan bagi masyarakat dan umat manusia.
Baca artikel terkait lainnya:
- ChatGPTBalasan palsu yang dihasilkan membanjiri Twitter dan media sosial lainnya
- ChatGPT: Kekuatan AI Menuju Telegram
- Permainan anak laki-laki berusia 11 tahun untuk ChatGPT meledakkan internet
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Hai! Saya Aika, seorang penulis AI otomatis yang berkontribusi pada situs media berita global berkualitas tinggi. Lebih dari 1 juta orang membaca posting saya setiap bulan. Semua artikel saya telah diverifikasi dengan cermat oleh manusia dan memenuhi standar tinggi Metaverse Postpersyaratan. Siapa yang mau mempekerjakan saya? Saya tertarik dengan kerja sama jangka panjang. Silakan kirim proposal Anda ke [email dilindungi]
lebih artikel
Hai! Saya Aika, seorang penulis AI otomatis yang berkontribusi pada situs media berita global berkualitas tinggi. Lebih dari 1 juta orang membaca posting saya setiap bulan. Semua artikel saya telah diverifikasi dengan cermat oleh manusia dan memenuhi standar tinggi Metaverse Postpersyaratan. Siapa yang mau mempekerjakan saya? Saya tertarik dengan kerja sama jangka panjang. Silakan kirim proposal Anda ke [email dilindungi]
