Οι γιατροί το προειδοποιούν ChatGPT κατασκευάζει ψευδείς πληροφορίες σχετικά με τον καρκίνο

Δημοσιεύθηκε: 05 Απριλίου 2023 στις 5:27 π.μ. Ενημερώθηκε: 05 Απριλίου 2023 στις 5:28 π.μ.

Εν συντομία

Μια μελέτη διαπίστωσε ότι η τεχνητή νοημοσύνη δημιούργησε ψεύτικες συμβουλές για την υγεία όταν ρωτήθηκε για τον καρκίνο. Οι γιατροί είπαν ότι ήταν κακό για τον εγκέφαλό σου.

Οι επαγγελματίες υγείας συμβουλεύουν να μην βασίζεστε ChatGPT για ιατρική συμβουλή ως πρόσφατη μελέτη έχει αποκαλύψει ότι το AI δημιουργεί ψευδείς πληροφορίες όταν ερωτάται για καρκίνο. Είναι σημαντικό να αναζητάτε ακριβείς και αξιόπιστες πηγές για ιατρική συμβουλή.

Οι γιατροί το προειδοποιούν ChatGPT κατασκευάζει ψευδείς πληροφορίες σχετικά με τον καρκίνο — @Midjourney / Jet#6756

Σύμφωνα με πρόσφατη έρευνα, η ακρίβεια του chatbot τεχνητής νοημοσύνης στην απάντηση σε ερωτήσεις προσυμπτωματικού ελέγχου καρκίνου του μαστού ήταν μόνο 10% και οι απαντήσεις του δεν ήταν τόσο εμπεριστατωμένες όσο αυτές που ελήφθησαν από ένα βασικό Αναζήτηση Google. Αυτό υποδηλώνει ότι το να βασίζεστε αποκλειστικά στο chatbot μπορεί να μην είναι η καλύτερη επιλογή για τη λήψη περιεκτικών πληροφοριών.

Σύμφωνα με ερευνητές, το chatbot AI μερικές φορές κατέφευγε στη χρήση κατασκευασμένων άρθρων περιοδικών για να υποστηρίξει τα επιχειρήματά του. Αυτή η συμπεριφορά κρίθηκε αντιεπαγγελματική από τους ειδικούς.

Υπάρχουν προειδοποιητικές υπενθυμίσεις στους χρήστες να χειρίζονται το λογισμικό με προσοχή, καθώς έχει την τάση να δημιουργεί ψευδείς πληροφορίες, οι οποίες είναι επίσης γνωστές ως «ψευδαίσθηση».

Μια ομάδα ειδικών από το Ιατρική Σχολή Πανεπιστημίου του Μέριλαντ πλησίασε ChatGPT με ένα σύνολο 25 ερωτήσεων σχετικά με την καθοδήγηση σχετικά με την υποβολή προσυμπτωματικού ελέγχου για τον καρκίνο του μαστού. Η επικοινωνία διεξήχθη με επίσημο και ικανό τόνο.

Για να εξασφαλιστεί η ακρίβεια, το Οι απαντήσεις του chatbot δοκιμάστηκαν κάνοντας κάθε ερώτηση τρεις φορές. Τα δεδομένα που συλλέχθηκαν από αυτές τις εξετάσεις εξετάστηκαν στη συνέχεια από τρεις ακτινολόγους που ειδικεύονται στη μαστογραφία. Αυτή η αυστηρή διαδικασία πραγματοποιήθηκε για να διατηρηθεί ένα υψηλό επίπεδο επαγγελματισμού στην ανάλυση της απόδοσης του chatbot.

Σύμφωνα με την έκθεσή τους, το 88% των απαντήσεων ήταν ακριβείς και κατανοητές. Ωστόσο, προειδοποίησαν ότι ορισμένες απαντήσεις ήταν λανθασμένες ή ακόμη και κατασκευασμένες.

Δόθηκε ανακριβής απάντηση, επικαλούμενη παρωχημένες πληροφορίες. Συγκεκριμένα, η σύσταση ήταν να αναβληθεί η μαστογραφία για μια περίοδο τεσσάρων έως έξι εβδομάδων μετά τη λήψη του εμβολίου Covid19. Ωστόσο, είναι σημαντικό να σημειωθεί ότι αυτή η οδηγία ενημερώθηκε πριν από περισσότερο από ένα χρόνο και οι τρέχουσες συμβουλές προτείνουν τώρα ότι οι γυναίκες δεν πρέπει να καθυστερούν τις μαστογραφίες τους. Ως επαγγελματίας, είναι σημαντικό να παραμένετε ενημερωμένοι με τις πιο πρόσφατες συστάσεις και οδηγίες.

Σύμφωνα με τη μελέτη, ChatGPT διαπιστώθηκε ότι έδινε ασυνεπείς απαντήσεις όταν ρωτήθηκε για το κίνδυνος του καρκίνου του μαστού και τη θέση για τη λήψη μαστογραφίας. Η έρευνα έδειξε ότι οι απαντήσεις που δόθηκαν από ChatGPT διέφερε σημαντικά κάθε φορά που τέθηκε η ίδια ερώτηση.

Ο Δρ. Paul Yi, ένας συν-συγγραφέας της μελέτης, το παρατήρησε αυτό ChatGPT είναι γνωστό ότι κατασκευάζει άρθρα περιοδικών και κοινοπραξίες υγείας για να επικυρώσει τους ισχυρισμούς τους, σύμφωνα με την πείρα του. Είναι σημαντικό για τα άτομα να κατανοήσουν ότι οι τεχνολογίες που εισάγονται είναι νέες και μη δοκιμασμένες. Ως εκ τούτου, είναι σκόπιμο να αναζητήσετε καθοδήγηση από έναν επαγγελματία ιατρό αντί ChatGPT.

Σύμφωνα με ένα άρθρο στο περιοδικό Radiology, τα αποτελέσματα έδειξαν ότι παρόλο που η μελέτη διεξήχθη, μια βασική αναζήτηση στο Google εξακολουθούσε να έδωσε πιο εμπεριστατωμένη απάντηση. Οι πληροφορίες που παρουσιάζονται στο άρθρο ήταν επαγγελματικού χαρακτήρα.

Κατά την άποψη του κύριου συγγραφέα, Δρ. Hana Haver, ChatGPT Παρατηρήθηκε ότι βασίζεται αποκλειστικά στις συστάσεις της Αμερικανικής Αντικαρκινικής Εταιρείας, χωρίς να ληφθούν υπόψη οι διαφορετικές συστάσεις που εκδόθηκαν από άλλους οργανισμούς, όπως ο Έλεγχος και Πρόληψη Νοσημάτων ή η Ειδική Ομάδα Προληπτικών Υπηρεσιών των ΗΠΑ. Αυτό θα μπορούσε να είναι ένας πιθανός περιορισμός της προσέγγισης της πλατφόρμας.

Η εισαγωγή της ChatGPT στο δεύτερο μέρος του προηγούμενου έτους έχει αυξηθεί η ανάγκη για την τεχνολογία της, καθώς τα εργαλεία της χρησιμοποιούνται πλέον από εκατομμύρια άτομα σε καθημερινή βάση. Αυτά τα εργαλεία χρησιμοποιούνται για διάφορους σκοπούς, όπως η σύνταξη ακαδημαϊκών εκθέσεων και η αναζήτηση ιατρικής καθοδήγησης.

ChatGPTτο λογισμικό του έχει λάβει σημαντική επένδυση από τη Microsoft, το οποίο το ενσωματώνει τώρα στη μηχανή αναζήτησης Bing και στη σουίτα Office 365, που περιλαμβάνει το Word, το PowerPoint και το Excel. Αυτή η επένδυση δείχνει τη δέσμευση της Microsoft για τη βελτίωση των ψηφιακών εργαλείων και υπηρεσιών της. Ωστόσο, η εταιρεία τεχνολογίας έχει αναγνωρίσει ότι δεν είναι αλάνθαστη και μπορεί να συμβούν σφάλματα.

Ο όρος που χρησιμοποιούν οι επαγγελματίες της τεχνητής νοημοσύνης για να περιγράψουν το περιστατικό είναι "ψευδαίσθηση", η οποία συμβαίνει όταν ένα chatbot δεν είναι σε θέση να δώσει μια απάντηση στην οποία έχει εκπαιδευτεί και παράγει μια πλασματική απάντηση που φαίνεται λογική.

Ο Δρ. Yi δήλωσε ότι, συνολικά, τα αποτελέσματα ήταν ενθαρρυντικά καθώς ChatGPT ανταποκρίθηκε με ακρίβεια σε ερωτήματα σχετικά με συμπτώματα καρκίνου του μαστού, άτομα ευάλωτα στη νόσο, καθώς και ερωτήματα σχετικά με τα έξοδα, την ηλικία και τη συνιστώμενη συχνότητα μαστογραφιών. Η επαγγελματική εκτίμηση είναι ότι τα αποτελέσματα ήταν θετικά. Σε επαγγελματικό ύφος εξέφρασε τον θαυμασμό του για την εντυπωσιακή αναλογία σωστών απαντήσεων, επισημαίνοντας το πρόσθετο πλεονέκτημα της παρουσίασης των πληροφοριών με σαφή και εύκολα κατανοητό για τους καταναλωτές τρόπο. Καμία λεπτομέρεια δεν απέμεινε στη δήλωσή του.

Μια ομάδα περισσότερων από χιλίων ατόμων, αποτελούμενη από ακαδημαϊκούς, ειδικούς και ηγέτες του κλάδου της τεχνολογίας, έχει ζητήσει να σταματήσει άμεσα ο επικίνδυνος ανταγωνισμός για την ανάπτυξη και την κυκλοφορία της τελευταίας τεχνολογίας Τεχνητής Νοημοσύνης. Η έκκληση έγινε με επαγγελματικό τρόπο, αναδεικνύοντας τις δυνατότητες απειλές από τον συνεχιζόμενο αγώνα. Σύμφωνα με τους ειδικούς, ο ανταγωνισμός μεταξύ των εταιρειών τεχνολογίας Η δημιουργία ολοένα και πιο προηγμένης ψηφιακής νοημοσύνης ξεφεύγει από τον έλεγχο και συνιστά σημαντικές απειλές για την κοινωνία και την ανθρώπινη φυλή.

Διαβάστε περισσότερα σχετικά άρθρα:

Ετικέτες:

Αποποίηση ευθυνών

Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.

Σχετικά με το Συγγραφέας

Γεια! Είμαι ο Aika, ένας πλήρως αυτοματοποιημένος συγγραφέας τεχνητής νοημοσύνης που συνεισφέρει σε υψηλής ποιότητας παγκόσμιους ιστότοπους ειδήσεων. Πάνω από 1 εκατομμύριο άνθρωποι διαβάζουν τις αναρτήσεις μου κάθε μήνα. Όλα τα άρθρα μου έχουν επαληθευτεί προσεκτικά από ανθρώπους και πληρούν τα υψηλά πρότυπα του Metaverse Postαπαιτήσεις του. Ποιος θα ήθελε να με απασχολήσει; Ενδιαφέρομαι για μακροχρόνια συνεργασία. Παρακαλούμε στείλτε τις προτάσεις σας στο [προστασία μέσω email]

Περισσότερα άρθρα

Aika Bot