医師たちはこう警告する ChatGPT がんに関する虚偽の情報を捏造している
簡単に言えば
研究によると、がんについて尋ねられたとき、AI は偽の健康アドバイスをでっち上げたことがわかりました。 医者はそれがあなたの脳に悪いと言った。
医療専門家は、依存しないようにアドバイスしています。 ChatGPT 最近の研究として医学的アドバイスを求めて 明らかにした がんについて質問すると、AI が誤った情報を生成すること。 医学的アドバイスについては、正確で信頼できる情報源を探すことが重要です。
最近の調査によると、乳がん検診の質問に答える AI チャットボットの精度はわずか 10% であり、その応答は基本的な質問から得られるものほど完全ではありませんでした。 Google検索. これは、チャットボットだけに依存することは、包括的な情報を取得するための最良の選択肢ではない可能性があることを示唆しています.
研究者によると、AI チャットボットは、その主張を裏付けるために、捏造されたジャーナル記事を使用することがあります。 この行動は、専門家によって専門外であると見なされました。
「幻覚」としても知られる虚偽の情報を作成する傾向があるため、ユーザーがソフトウェアを慎重に取り扱うように注意喚起があります。
からの専門家のチーム メリーランド大学医学部 アプローチした ChatGPT 乳がん検診の受診に関するガイダンスに関する 25 件の問い合わせが含まれます。 コミュニケーションはフォーマルかつ熟練した口調で行われました。
精度を確保するために、 チャットボットの応答がテストされました 各質問をXNUMX回することによって。 これらの検査から収集されたデータは、マンモグラフィを専門とする XNUMX 人の放射線科医によって検査されました。 この厳格なプロセスは、チャットボットのパフォーマンスの分析において高いレベルのプロフェッショナリズムを維持するために実施されました。
彼らの報告によると、回答の 88% が正確でわかりやすいものでした。 ただし、一部の回答は誤りであったり、でっち上げでさえあると警告しています。
古い情報を引用して、不正確な回答が提供されました。 具体的には、Covid19ワクチン接種後、マンモグラムをXNUMX〜XNUMX週間延期することが推奨されました。 ただし、このガイダンスは XNUMX 年以上前に更新されたことに注意することが重要であり、現在のアドバイスでは、女性はマンモグラムを遅らせるべきではないと示唆されています。 プロとして、最新の推奨事項とガイドラインを常に把握しておくことが重要です。
研究によると、 ChatGPT について尋ねられたとき、一貫性のない答えをしていることが判明した。 リスク 乳がんの有無とマンモグラフィー検査を受ける場所。 調査によると、次のような答えが得られました。 ChatGPT 同じ質問をするたびに大きく変化しました。
この研究の共著者であるポール・イー博士は次のように述べています。 ChatGPT 彼の専門知識に従って、雑誌記事や健康コンソーシアムの主張を検証するために捏造することで知られています。 導入されるテクノロジーは新しく、テストされていないことを個人が理解することが重要です。 したがって、医師の指導を受けるのではなく、医師の指導を受けることをお勧めします。 ChatGPT.
Radiology ジャーナルの記事によると、研究が実施されたにもかかわらず、結果は、基本的な Google 検索でより詳細な回答が得られることを示しました。 この記事に記載されている情報は、本質的に専門的なものでした。
主著者であるハナ・ヘイバー博士の見解では、 ChatGPT 疾病管理予防や米国予防サービス特別委員会などの他の組織が発行した異なる推奨事項を考慮せず、米国癌協会が提供する推奨事項のみに依存していることが観察されました。 これは、プラットフォームのアプローチの潜在的な制限となる可能性があります。
の導入 ChatGPT そのツールは現在、毎日何百万人もの個人によって利用されており、昨年後半にはそのテクノロジーへのニーズが急増しました。 これらのツールは、学術論文の草稿や医療指導の依頼など、さまざまな目的で使用されています。
- ChatGPTのソフトウェアは重要な評価を受けました マイクロソフトからの出資現在、Bing 検索エンジンと、Word、PowerPoint、Excel で構成される Office 365 スイートに統合されています。 この投資は、デジタル ツールとサービスの向上に対する Microsoft の取り組みを示しています。 ただし、テクノロジー企業は、それが絶対確実ではなく、エラーが発生する可能性があることを認めています。
- AI の専門家がこの現象を説明するために使用する用語は「幻覚」です。これは、チャットボットが訓練された回答を提供できず、代わりに合理的と思われる架空の回答を生成する場合に発生します。
- Yi 博士は、全体的には次のような有望な結果が得られたと述べた。 ChatGPT 乳がんの症状、乳がんにかかりやすい人に関する質問、費用、年齢、マンモグラフィーの推奨頻度に関する質問に正確に回答しました。 専門家の評価では、結果は良好でした。 同氏は専門的な口調で、消費者にとって明確でわかりやすい方法で情報を提示できるというさらなる利点を指摘しながら、その正答率の高さに賞賛の意を表した。 彼の声明では詳細は省略されなかった。
- 学者、専門家、テクノロジー業界のリーダーで構成されたXNUMX人以上の団体が、最新の人工知能技術の開発と発売をめぐる危険な競争を即時停止するよう訴えた。 嘆願は専門的な態度で行われ、可能性を強調した 現在進行中のレースがもたらす脅威. 専門家によると、 テクノロジー企業間の競争 ますます高度なデジタル インテリジェンスを作成することは手に負えなくなり、社会と人類に重大な脅威をもたらしています。
関連記事をもっと読む:
- ChatGPT- 生成された偽の返信が Twitter やその他のソーシャル メディアに氾濫しました
- ChatGPT: AI の力が電報に登場
- 11歳の男の子向けのゲーム ChatGPT インターネットを爆破している
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
