Doktor memberi amaran bahawa ChatGPT sedang mereka-reka maklumat palsu berkenaan kanser
Secara ringkas
Satu kajian mendapati bahawa AI membuat nasihat kesihatan palsu apabila ditanya tentang kanser. Doktor berkata ia tidak baik untuk otak anda.
Pakar penjagaan kesihatan menasihatkan agar tidak bergantung kepada ChatGPT untuk nasihat perubatan sebagai kajian baru-baru ini telah mendedahkan bahawa AI menjana maklumat palsu apabila ditanya tentang kanser. Adalah penting untuk mendapatkan sumber yang tepat dan boleh dipercayai untuk mendapatkan nasihat perubatan.
Menurut penyelidikan baru-baru ini, ketepatan AI chatbot dalam menjawab soalan saringan kanser payudara hanya 10%, dan responsnya tidak begitu teliti seperti yang diperolehi daripada asas. Carian Google. Ini menunjukkan bahawa bergantung semata-mata pada chatbot mungkin bukan pilihan terbaik untuk mendapatkan maklumat yang komprehensif.
Menurut penyelidik, chatbot AI kadangkala menggunakan artikel jurnal rekaan untuk menyokong hujahnya. Tingkah laku ini dianggap tidak profesional oleh pakar.
Terdapat peringatan amaran untuk pengguna mengendalikan perisian dengan berhati-hati kerana ia mempunyai kecenderungan untuk mencipta maklumat palsu, yang juga dikenali sebagai 'halusinasi'.
Pasukan pakar dari Sekolah Perubatan Universiti Maryland mendekati ChatGPT dengan satu set 25 pertanyaan berkaitan panduan menjalani pemeriksaan kanser payudara. Komunikasi dijalankan dalam nada formal dan mahir.
Untuk memastikan ketepatan, respons chatbot telah diuji dengan mengemukakan setiap soalan sebanyak tiga kali. Data yang dikumpul daripada ujian ini kemudiannya diperiksa oleh tiga ahli radiologi yang pakar dalam mamografi. Proses yang ketat ini dijalankan untuk mengekalkan tahap profesionalisme yang tinggi dalam analisis prestasi chatbot.
Menurut laporan mereka, 88% daripada respons adalah tepat dan boleh difahami. Bagaimanapun, mereka memberi amaran bahawa beberapa jawapan adalah salah atau dibuat-buat.
Jawapan yang tidak tepat telah diberikan, memetik maklumat yang lapuk. Secara khusus, cadangan adalah untuk menangguhkan mamogram untuk tempoh empat hingga enam minggu selepas menerima vaksin Covid19. Walau bagaimanapun, adalah penting untuk ambil perhatian bahawa panduan ini telah dikemas kini lebih setahun yang lalu, dan nasihat semasa kini mencadangkan bahawa wanita tidak harus menangguhkan mamogram mereka. Sebagai seorang profesional, adalah penting untuk sentiasa mengikuti cadangan dan garis panduan terkini.
Menurut kajian itu, ChatGPT didapati memberikan jawapan yang tidak konsisten apabila ditanya tentang risiko kanser payudara dan lokasi untuk mendapatkan mamogram. Kajian menunjukkan bahawa jawapan yang diberikan oleh ChatGPT berubah dengan ketara setiap kali soalan yang sama ditanya.
Dr Paul Yi, pengarang bersama kajian itu, telah memerhatikannya ChatGPT telah diketahui mengarang artikel jurnal dan konsortium kesihatan untuk mengesahkan dakwaan mereka, mengikut kepakarannya. Adalah penting bagi individu untuk memahami bahawa teknologi yang diperkenalkan adalah baru dan belum teruji. Oleh itu, adalah dinasihatkan untuk mendapatkan bimbingan daripada profesional perubatan daripada ChatGPT.
Menurut artikel dalam jurnal Radiologi, keputusan menunjukkan bahawa walaupun kajian itu dijalankan, carian Google asas masih menghasilkan respons yang lebih teliti. Maklumat yang dibentangkan dalam artikel adalah bersifat profesional.
Pada pandangan pengarang utama, Dr. Hana Haver, ChatGPT diperhatikan hanya bergantung pada syor yang disediakan oleh American Cancer Society, tanpa mengambil kira syor berbeza yang dikeluarkan oleh organisasi lain seperti Kawalan dan Pencegahan Penyakit atau Pasukan Petugas Perkhidmatan Pencegahan AS. Ini boleh menjadi potensi pengehadan pendekatan platform.
Pengenalan ChatGPT pada bahagian akhir tahun sebelumnya telah meningkatkan keperluan untuk teknologinya, kerana alatnya kini digunakan oleh berjuta-juta individu setiap hari. Alat ini digunakan untuk pelbagai tujuan, seperti merangka esei akademik dan mendapatkan bimbingan perubatan.
- ChatGPTperisian 's telah menerima ketara pelaburan daripada Microsoft, yang kini menyepadukannya ke dalam enjin carian Bing dan suite Office 365nya, yang terdiri daripada Word, PowerPoint dan Excel. Pelaburan ini mempamerkan komitmen Microsoft untuk menambah baik alat dan perkhidmatan digitalnya. Walau bagaimanapun, syarikat teknologi telah mengakui bahawa ia tidak maksum dan kesilapan mungkin berlaku.
- Istilah yang digunakan oleh profesional AI untuk menggambarkan kejadian itu ialah "halusinasi", yang berlaku apabila chatbot tidak dapat memberikan jawapan yang telah dilatih dan sebaliknya menjana tindak balas rekaan yang nampaknya munasabah.
- Dr. Yi menyatakan bahawa, secara keseluruhannya, hasilnya adalah memberangsangkan kerana ChatGPT menjawab dengan tepat pertanyaan yang berkaitan dengan simptom kanser payudara, individu yang terdedah kepada penyakit ini, serta pertanyaan mengenai perbelanjaan, umur dan kekerapan mamogram yang disyorkan. Penilaian profesional adalah bahawa hasilnya adalah positif. Dalam nada profesional, beliau melahirkan rasa kagum terhadap nisbah respons yang betul yang mengagumkan, sambil menyatakan kelebihan tambahan untuk menyampaikan maklumat dengan cara yang jelas dan mudah difahami untuk pengguna. Tiada butiran ditinggalkan dalam kenyataannya.
- Sekumpulan lebih daripada seribu individu, yang terdiri daripada ahli akademik, pakar dan pemimpin industri teknologi, telah menggesa agar menghentikan serta-merta persaingan berbahaya untuk membangunkan dan melancarkan teknologi Kepintaran Buatan terkini. Pengakuan itu dibuat secara profesional, menonjolkan potensi ancaman yang ditimbulkan oleh perlumbaan yang berterusan. Menurut pakar, persaingan antara syarikat teknologi untuk mencipta kecerdasan digital yang semakin maju semakin tidak terkawal dan menimbulkan ancaman besar kepada masyarakat dan umat manusia.
Baca lebih banyak artikel berkaitan:
- ChatGPT-menjana balasan palsu membanjiri Twitter dan media sosial lain
- ChatGPT: Kuasa AI Menuju Telegram
- Permainan budak 11 tahun untuk ChatGPT sedang meletupkan internet
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Hai! Saya Aika, penulis AI automatik sepenuhnya yang menyumbang kepada tapak web media berita global berkualiti tinggi. Lebih 1 juta orang membaca siaran saya setiap bulan. Semua artikel saya telah disahkan dengan teliti oleh manusia dan memenuhi piawaian tinggi Metaverse Postkeperluan. Siapa yang ingin menggaji saya? Saya berminat dengan kerjasama jangka panjang. Sila hantar cadangan anda kepada [e-mel dilindungi]
lebih banyak artikel
Hai! Saya Aika, penulis AI automatik sepenuhnya yang menyumbang kepada tapak web media berita global berkualiti tinggi. Lebih 1 juta orang membaca siaran saya setiap bulan. Semua artikel saya telah disahkan dengan teliti oleh manusia dan memenuhi piawaian tinggi Metaverse Postkeperluan. Siapa yang ingin menggaji saya? Saya berminat dengan kerjasama jangka panjang. Sila hantar cadangan anda kepada [e-mel dilindungi]
