Τα μοντέλα τεχνητής νοημοσύνης που δημιουργούν εικόνες εκπαιδεύονται σε ασαφείς εικόνες παιδιών, ισχυρίζεται ο Stanford
Εν συντομία
Δημοφιλή εργαλεία τεχνητής νοημοσύνης που δημιουργούν κείμενο σε εικόνα, συμπεριλαμβανομένων Stable Diffusion, εκπαιδεύονται σε χιλιάδες εικόνες σεξουαλικής κακοποίησης παιδιών.
Δημοφιλές κείμενο σε εικόνα γενετική AI εργαλεία, συμπεριλαμβανομένων Stable Diffusion από Stability AI εκπαιδεύονται σε χιλιάδες εικόνες σεξουαλικής κακοποίησης παιδιών, σύμφωνα με την έκθεση έρευνας από το Stanford Internet Observatory.
Η έκθεση προσθέτει ότι αυτές οι εικόνες διευκολύνουν τη δημιουργία ρεαλιστικού περιεχομένου που περιλαμβάνει ψεύτικα παιδιά και τη μετατροπή ντυμένων εφήβων σε γυμνές εικόνες, προτρέποντας την άμεση δράση από τις εταιρείες πίσω από τέτοια εργαλεία.
Η έρευνα του Stanford Internet Observatory επικεντρώθηκε στο Βάση δεδομένων LAION, ένα τεράστιο αποθετήριο διαδικτυακών εικόνων και λεζάντων που χρησιμοποιούνται από τους κορυφαίους Δημιουργοί εικόνων AI Μου αρέσει Stable Diffusion, για την εκπαίδευση μοντέλων AI.
Πριν ελέγξουν τα εργαλεία τεχνητής νοημοσύνης που δημιουργούν εικόνες, οι ερευνητές ήταν της άποψης ότι τα εργαλεία τεχνητής νοημοσύνης παρήγαγαν καταχρηστικές εικόνες παιδιών συνδυάζοντας πληροφορίες από πορνογραφία ενηλίκων και καλοήθεις φωτογραφίες παιδιών. Ωστόσο, τα ευρήματα του Παρατηρητηρίου παρουσιάζουν μια ανησυχητική ανατροπή, με πάνω από 3,200 εικόνες ύποπτης σεξουαλικής κακοποίησης παιδιών που εντοπίστηκαν στο σύνολο δεδομένων LAION.
Ενώ το LAION απάντησε γρήγορα στην αναφορά αφαιρώντας προσωρινά τα σύνολα δεδομένων του, οι επιπτώσεις αυτών των εικόνων είναι εκτεταμένες. Αν και αποτελούν ένα κλάσμα του τεράστιου ευρετηρίου 5.8 δισεκατομμυρίων εικόνων του LAION, ο όμιλος Stanford ισχυρίζεται ότι πιθανότατα επηρεάζουν την ικανότητα Εργαλεία AI για τη δημιουργία επιβλαβών εκροών.
Σημαντικός παράγοντας στην ανάπτυξη της βάσης δεδομένων LAION είναι Stability AI, μια startup με έδρα το Λονδίνο, υπεύθυνη για τη διαμόρφωση του συνόλου δεδομένων. Η έκθεση τονίζει ότι μια παλαιότερη εκδοχή τους Stable Diffusion μοντέλο, που παρουσιάστηκε πέρυσι εξακολουθεί να είναι παρόν σε διάφορες εφαρμογές, ως η κύρια πηγή για τη δημιουργία ρητών εικόνων.
Αν και Stability AI ισχυρίζεται ότι φιλοξενεί μόνο φιλτραρισμένες εκδόσεις και έχει λάβει μέτρα για να μετριάσει την κακή χρήση, η πρόκληση έγκειται στη διεισδυτικότητα του παλαιότερου μοντέλου.
Η ανάπτυξη της γενετικής τεχνητής νοημοσύνης απαιτεί αυστηρή επικύρωση
Ο πυρήνας του ζητήματος εντοπίζεται στην ταχεία ανάπτυξη πολλών παραγωγικών έργων τεχνητής νοημοσύνης στην αγορά, σύμφωνα με τον David Thiel, τον επικεφαλής τεχνολόγο στο Stanford Internet Observatory.
Ο Thiel επισημαίνει ότι αυτά τα έργα ήταν συχνά ευρέως προσβάσιμα λόγω του έντονου ανταγωνισμού στο πεδίο, χωρίς την απαραίτητη αυστηρή προσοχή κατά τη φάση ανάπτυξης.
Οι ερευνητές του Στάνφορντ συνηγορούν υπέρ της λήψης δραστικών μέτρων για την αποτελεσματική αντιμετώπιση του ζητήματος. Οι συστάσεις περιλαμβάνουν τη διαγραφή ή τον καθαρισμό σετ προπόνησης που προέρχονται από το LAION-5B και την κατασκευή μιας παλαιότερης έκδοσης του Stable Diffusion λιγότερο προσβάσιμο.
Ωστόσο, η πολυπλοκότητα του αναδρομικού καθαρισμού των δεδομένων αποτελεί σημαντική πρόκληση, προκαλώντας έκκληση για συνεργασία με ειδικούς στην ασφάλεια των παιδιών κατά την ανάπτυξη του Βάσεις δεδομένων AI.
Καθώς τα σχολεία και οι υπηρεσίες επιβολής του νόμου σε όλο τον κόσμο εκφράζουν ανησυχία για τις πιθανές συνέπειες αυτών των ευρημάτων, το επίκεντρο είναι τώρα στο βιομηχανία AI να αντιμετωπίσουν και να διορθώσουν επειγόντως τα επιβλαβή ελαττώματα της τεχνολογίας τους.
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Kumar είναι ένας έμπειρος Τεχνικός Δημοσιογράφος με εξειδίκευση στις δυναμικές διασταυρώσεις της AI/ML, της τεχνολογίας μάρκετινγκ και των αναδυόμενων τομέων όπως η κρυπτογράφηση, η αλυσίδα μπλοκ και η NFTμικρό. Με περισσότερα από 3 χρόνια εμπειρίας στον κλάδο, η Kumar έχει δημιουργήσει ένα αποδεδειγμένο ιστορικό στη δημιουργία συναρπαστικών αφηγήσεων, τη διεξαγωγή οξυδερκών συνεντεύξεων και την παροχή ολοκληρωμένων πληροφοριών. Η τεχνογνωσία της Kumar έγκειται στην παραγωγή περιεχομένου υψηλής απήχησης, συμπεριλαμβανομένων άρθρων, εκθέσεων και ερευνητικών δημοσιεύσεων για εξέχουσες πλατφόρμες του κλάδου. Με ένα μοναδικό σύνολο δεξιοτήτων που συνδυάζει τεχνικές γνώσεις και αφήγηση, ο Kumar διαπρέπει στην επικοινωνία σύνθετων τεχνολογικών εννοιών σε διαφορετικά κοινά με σαφή και ελκυστικό τρόπο.
Περισσότερα άρθρα
Ο Kumar είναι ένας έμπειρος Τεχνικός Δημοσιογράφος με εξειδίκευση στις δυναμικές διασταυρώσεις της AI/ML, της τεχνολογίας μάρκετινγκ και των αναδυόμενων τομέων όπως η κρυπτογράφηση, η αλυσίδα μπλοκ και η NFTμικρό. Με περισσότερα από 3 χρόνια εμπειρίας στον κλάδο, η Kumar έχει δημιουργήσει ένα αποδεδειγμένο ιστορικό στη δημιουργία συναρπαστικών αφηγήσεων, τη διεξαγωγή οξυδερκών συνεντεύξεων και την παροχή ολοκληρωμένων πληροφοριών. Η τεχνογνωσία της Kumar έγκειται στην παραγωγή περιεχομένου υψηλής απήχησης, συμπεριλαμβανομένων άρθρων, εκθέσεων και ερευνητικών δημοσιεύσεων για εξέχουσες πλατφόρμες του κλάδου. Με ένα μοναδικό σύνολο δεξιοτήτων που συνδυάζει τεχνικές γνώσεις και αφήγηση, ο Kumar διαπρέπει στην επικοινωνία σύνθετων τεχνολογικών εννοιών σε διαφορετικά κοινά με σαφή και ελκυστικό τρόπο.
