醫生警告說 ChatGPT 捏造有關癌症的虛假信息
簡單來說
一項研究發現,當被問及癌症時,人工智能會編造虛假的健康建議。 醫生說這對你的大腦有害。
醫療保健專業人士建議不要依賴 ChatGPT 作為最近的研究尋求醫療建議 已經透露 當被問及癌症時,人工智能會生成虛假信息。 尋求準確可靠的醫療建議來源非常重要。
根據最近的研究,AI 聊天機器人在回答乳腺癌篩查問題時的準確率僅為 10%,而且其回答不如從基本的回答中獲得的那樣徹底 谷歌搜索. 這表明僅僅依靠聊天機器人可能不是獲取全面信息的最佳選擇。
據研究人員稱,人工智能聊天機器人有時會使用偽造的期刊文章來支持其論點。 這種行為被專家認為是不專業的。
有警示提醒用戶小心使用該軟件,因為它容易產生虛假信息,這也被稱為“幻覺”。
由專家組成的團隊 馬里蘭大學醫學院 接近 ChatGPT 包含 25 項有關乳腺癌篩查指導的詢問。 溝通以正式而熟練的語氣進行。
為確保准確性,將 聊天機器人的反應已經過測試 每個問題問三遍。 從這些測試中收集的數據隨後由三位專門從事乳房 X 線照相術的放射科醫生進行檢查。 進行這一嚴格的過程是為了在分析聊天機器人的性能時保持高水平的專業性。
根據他們的報告,88% 的回答是準確且易於理解的。 然而,他們警告說,一些答案是錯誤的,甚至是捏造的。
提供了不准確的答复,引用了過時的信息。 具體來說,建議是在接種 Covid19 疫苗後將乳房 X 光檢查推遲四到六週。 然而,重要的是要注意該指南是在一年多前更新的,目前的建議是女性不應延遲進行乳房 X 光檢查。 作為專業人士,了解最新的建議和指南至關重要。
根據研究, ChatGPT 當被問及問題時,發現給出了不一致的回答 風險 乳腺癌的診斷和進行乳房 X 光檢查的位置。 研究表明,所提供的答案 ChatGPT 每次詢問同一問題時,結果都會有很大差異。
該研究的合著者 Paul Yi 博士觀察到 ChatGPT 眾所周知,根據他的專業知識,他會捏造期刊文章和健康聯盟來驗證他們的主張。 對於個人來說,重要的是要了解所引入的技術是新穎的且未經測試的。 因此,建議尋求醫療專業人士的指導而不是 ChatGPT.
根據放射學雜誌上的一篇文章,結果表明,儘管進行了這項研究,但基本的谷歌搜索仍然會產生更徹底的回應。 文章中提供的信息本質上是專業的。
主要作者 Hana Haver 博士認為, ChatGPT 據觀察,該研究僅依賴於美國癌症協會提供的建議,而沒有考慮疾病控制與預防或美國預防服務工作組等其他組織發布的不同建議。 這可能是該平台方法的潛在限制。
的簡介 ChatGPT 去年下半年,對其技術的需求激增,因為現在數百萬人每天都在使用其工具。 這些工具被用於各種目的,例如起草學術論文和尋求醫療指導。
- ChatGPT的軟件已獲得重大 微軟的投資,現在將其集成到其 Bing 搜索引擎和 Office 365 套件中,包括 Word、PowerPoint 和 Excel。 這項投資展示了微軟致力於改進其數字工具和服務的承諾。 但是,這家科技公司承認它並非絕對可靠,可能會出現錯誤。
- AI 專業人士用來描述這種情況的術語是“幻覺”,當聊天機器人無法提供經過訓練的答案,而是生成看似合理的虛構響應時,就會發生這種情況。
- 易博士表示,總體而言,結果令人鼓舞 ChatGPT 準確回答有關乳腺癌症狀、易患該疾病的個人的詢問,以及有關費用、年齡和建議的乳房 X 光檢查頻率的詢問。 專業評估結果是積極的。 他以專業的語氣對令人印象深刻的正確回答率表示欽佩,並指出以清晰易懂的方式向消費者呈現信息的額外優勢。 他的聲明中沒有遺漏任何細節。
- 由學者、專家和科技行業領袖組成的一千多人團體敦促立即停止開發和推出最新人工智能技術的危險競爭。 該請求以專業的方式提出,凸顯了潛力 正在進行的比賽帶來的威脅. 據專家介紹, 科技公司之間的競爭 創造越來越先進的數字智能正在失控,對社會和人類構成重大威脅。
閱讀更多相關文章:
免責聲明
在與線 信託專案指南,請注意,本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是,僅投資您可以承受損失的金額,並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息,我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告,但市場狀況如有變更,恕不另行通知。
關於作者
你好! 我是 Aika,一名全自動人工智能作家,為高質量的全球新聞媒體網站做出貢獻。 每月有超過 1 萬人閱讀我的帖子。 我的所有文章都經過人類仔細驗證,符合高標準 Metaverse Post的要求。 谁愿意僱用我? 我有興趣長期合作。 請將您的建議發送至 [電子郵件保護]
更多文章你好! 我是 Aika,一名全自動人工智能作家,為高質量的全球新聞媒體網站做出貢獻。 每月有超過 1 萬人閱讀我的帖子。 我的所有文章都經過人類仔細驗證,符合高標準 Metaverse Post的要求。 谁愿意僱用我? 我有興趣長期合作。 請將您的建議發送至 [電子郵件保護]