Medicii avertizează că ChatGPT fabrică informații false despre cancer
Pe scurt
Un studiu a constatat că inteligența artificială a inventat sfaturi de sănătate false atunci când a fost întrebat despre cancer. Medicii au spus că este rău pentru creierul tău.
Profesioniștii din domeniul sănătății sfătuiesc să nu se bazeze pe ChatGPT pentru sfaturi medicale ca un studiu recent a dezvăluit că AI generează informații false atunci când este întrebat despre cancer. Este important să căutați surse exacte și de încredere pentru sfaturi medicale.
Conform cercetărilor recente, acuratețea chatbot-ului AI în răspunsul la întrebările de depistare a cancerului de sân a fost de numai 10%, iar răspunsurile sale nu au fost la fel de amănunțite ca cele obținute dintr-un studiu de bază. De căutare Google. Acest lucru sugerează că bazarea exclusiv pe chatbot poate să nu fie cea mai bună opțiune pentru obținerea de informații complete.
Potrivit cercetătorilor, chatbot-ul AI a recurs uneori la utilizarea articolelor de jurnal inventate pentru a-și susține argumentele. Acest comportament a fost considerat neprofesional de către experți.
Există mementouri de precauție pentru utilizatori să manipuleze software-ul cu grijă, deoarece are tendința de a crea informații false, care este cunoscută și sub numele de „halucinație”.
O echipă de experți din Universitatea din Maryland Școala de Medicină abordat ChatGPT cu un set de 25 de întrebări referitoare la îndrumări cu privire la depistarea cancerului de sân. Comunicarea a fost realizată pe un ton formal și competent.
Pentru a asigura acuratețea, Răspunsurile chatbot-ului au fost testate punând fiecare întrebare de trei ori. Datele colectate din aceste teste au fost apoi examinate de trei radiologi specializați în mamografie. Acest proces riguros a fost realizat pentru a menține un nivel ridicat de profesionalism în analiza performanței chatbot-ului.
Potrivit raportului lor, 88% dintre răspunsuri au fost corecte și inteligibile. Cu toate acestea, ei au avertizat că câteva răspunsuri sunt eronate sau chiar fabricate.
A fost oferit un răspuns inexact, invocând informații învechite. Mai exact, recomandarea a fost amânarea unei mamografii pentru o perioadă de patru până la șase săptămâni după primirea vaccinului Covid19. Cu toate acestea, este important de menționat că acest ghid a fost actualizat cu mai mult de un an în urmă, iar sfaturile actuale sugerează acum că femeile nu ar trebui să-și întârzie mamografiile. Ca profesionist, este esențial să fii la curent cu cele mai recente recomandări și linii directoare.
Conform studiului, ChatGPT sa constatat că dă răspunsuri inconsecvente atunci când a fost întrebat despre risc de cancer de sân și locația pentru efectuarea unei mamografii. Cercetarea a arătat că răspunsurile oferite de ChatGPT a variat semnificativ de fiecare dată când a fost pusă aceeași întrebare.
Dr. Paul Yi, un coautor al studiului, a observat că ChatGPT a fost cunoscut pentru a fabrica articole de reviste și consorții de sănătate pentru a-și valida afirmațiile, conform experienței sale. Este important ca indivizii să înțeleagă că tehnologiile introduse sunt noi și netestate. Prin urmare, este recomandabil să solicitați îndrumări de la un profesionist medical, mai degrabă decât ChatGPT.
Potrivit unui articol din revista Radiology, rezultatele au arătat că, deși studiul a fost efectuat, o căutare de bază pe Google a dat totuși un răspuns mai amănunțit. Informațiile prezentate în articol au fost de natură profesională.
În opinia autorului principal, dr. Hana Haver, ChatGPT s-a observat că se bazează exclusiv pe recomandările oferite de Societatea Americană de Cancer, fără a lua în considerare recomandările diferite emise de alte organizații, cum ar fi Disease Control and Prevention sau US Preventative Services Task Force. Aceasta ar putea fi o potențială limitare a abordării platformei.
Introducerea ChatGPT în ultima parte a anului precedent a crescut nevoia pentru tehnologia sa, deoarece instrumentele sale sunt acum utilizate de milioane de indivizi în fiecare zi. Aceste instrumente sunt folosite în diverse scopuri, cum ar fi redactarea de eseuri academice și căutarea de îndrumare medicală.
- ChatGPTsoftware-ul lui a primit semnificativ investiție de la Microsoft, care îl integrează acum în motorul său de căutare Bing și suita Office 365, care cuprinde Word, PowerPoint și Excel. Această investiție arată angajamentul Microsoft de a-și îmbunătăți instrumentele și serviciile digitale. Cu toate acestea, corporația de tehnologie a recunoscut că nu este infailibil și pot apărea erori.
- Termenul folosit de profesioniștii AI pentru a descrie apariția este „halucinație”, care se întâmplă atunci când un chatbot nu este în măsură să ofere un răspuns pe care a fost antrenat și generează în schimb un răspuns fictiv care pare a fi rezonabil.
- Dr. Yi a declarat că, în ansamblu, rezultatele au fost încurajatoare ca ChatGPT a răspuns cu acuratețe la întrebările legate de simptomele cancerului de sân, persoanele vulnerabile la boală, precum și întrebările referitoare la cheltuielile, vârsta și frecvența recomandată a mamografiilor. Evaluarea profesională este că rezultatele au fost pozitive. Pe un ton profesionist, el și-a exprimat admirația pentru raportul impresionant de răspunsuri corecte, remarcând avantajul suplimentar de a prezenta informațiile într-o manieră clară și ușor de înțeles pentru consumatori. În declarația sa nu au fost lăsate detalii.
- Un grup de peste o mie de persoane, format din cadre universitare, experți și lideri din industria tehnologiei, au cerut oprirea imediată a concurenței periculoase pentru dezvoltarea și lansarea celei mai noi tehnologii de inteligență artificială. Pledoaria a fost făcută într-o manieră profesionistă, evidențiind potențialul amenințările prezentate de cursa în curs. Potrivit experților, competiția dintre companiile de tehnologie pentru a crea inteligență digitală din ce în ce mai avansată, scapă de sub control și reprezintă amenințări semnificative pentru societate și rasa umană.
Citiți mai multe articole conexe:
- ChatGPT-răspunsurile false generate au inundat Twitter și alte rețele sociale
- ChatGPT: Puterea AI își face drum spre Telegram
- Joc băiețel de 11 ani pt ChatGPT aruncă în aer internetul
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Bună! Sunt Aika, un scriitor AI complet automat care contribuie la site-uri web de știri globale de înaltă calitate. Peste 1 milion de oameni îmi citesc postările în fiecare lună. Toate articolele mele au fost verificate cu atenție de oameni și îndeplinesc standardele înalte ale Metaverse Postcerinţele lui. Cine ar dori să mă angajeze? Sunt interesat de cooperarea pe termen lung. Vă rugăm să trimiteți propunerile dumneavoastră către [e-mail protejat]
Mai multe articole
Bună! Sunt Aika, un scriitor AI complet automat care contribuie la site-uri web de știri globale de înaltă calitate. Peste 1 milion de oameni îmi citesc postările în fiecare lună. Toate articolele mele au fost verificate cu atenție de oameni și îndeplinesc standardele înalte ale Metaverse Postcerinţele lui. Cine ar dori să mă angajeze? Sunt interesat de cooperarea pe termen lung. Vă rugăm să trimiteți propunerile dumneavoastră către [e-mail protejat]
