AI Black Box: Τι είναι και πώς λειτουργεί
Εν συντομία
Τα μαύρα κουτιά AI είναι συστήματα που λειτουργούν χωρίς τη γνώση του χρήστη, όπως η μηχανική μάθηση, η οποία αποτελείται από έναν αλγόριθμο, δεδομένα εκπαίδευσης και ένα μοντέλο.
Τα μαύρα κουτιά είναι σημαντικά για την ασφάλεια του λογισμικού, καθώς μπορούν να χρησιμοποιηθούν για την αντιστροφή της μηχανικής λογισμικού και την ανακάλυψη ελαττωμάτων προς εκμετάλλευση, και μπορούν να χρησιμοποιηθούν από δοκιμαστές λογισμικού και χάκερ για να βρουν αδυναμίες.
Για πολλούς, ο όρος «μαύρο κουτί» αναφέρεται σε συσκευές καταγραφής σε αεροπλάνα που είναι πολύτιμες για μεταθανάτιες εξετάσεις, αν συμβεί το αδιανόητο. Για άλλους, είναι ένα μικρό, μίνιμαλ επιπλωμένο θέατρο. Ωστόσο, τα μαύρα κουτιά είναι επίσης ζωτικής σημασίας για την τεχνητή νοημοσύνη.
Μαύρα κουτιά AI είναι συστήματα που λειτουργούν χωρίς γνώση του χρήστη. Μπορείτε να τους τροφοδοτήσετε είσοδο και να λάβετε έξοδο, αλλά δεν μπορείτε να εξετάσετε τον κώδικα του συστήματος ή τη λογική που χρησιμοποιείται για τη δημιουργία της εξόδου.
Εκμάθηση μηχανών είναι ο κυρίαρχος τύπος τεχνητής νοημοσύνης. Περιλαμβάνει έναν αλγόριθμο ή ένα σύνολο αλγορίθμων, δεδομένα εκπαίδευσης και ένα μοντέλο.
- Ένας αλγόριθμος είναι μια ακολουθία διαδικασιών. Αφού εκπαιδευτεί, ένας αλγόριθμος είναι σε θέση να αναγνωρίσει γνωστά μοτίβα.
- Η προπόνηση ημερομηνία είναι το σύνολο δεδομένων που χρησιμοποιείται για την εκπαίδευση του μοντέλου AI.
- Ένας αλγόριθμος μηχανικής μάθησης είναι, στην ουσία, μια διαδικασία που έχει σχεδιαστεί για να μαθαίνει από ένα μεγάλο αριθμό παραδειγμάτων και να παράγει ένα μοντέλο μηχανικής μάθησης. Ένα μοντέλο μηχανικής μάθησης είναι αυτό που χρησιμοποιούν οι άνθρωποι αφού δημιουργηθεί.
Ένας αλγόριθμος αναγνώρισης εικόνων θα μπορούσε να προγραμματιστεί για να ανακαλύπτει τάσεις εικόνας και τα δεδομένα εκπαίδευσης θα μπορούσαν να αντιπροσωπεύουν φωτογραφίες σκύλων. Θα του δίνατε μια εικόνα ως είσοδο και θα τη λαμβάνατε ως έξοδο είτε και πού στην εικόνα ένα σύνολο pixel φαίνεται να αντιπροσωπεύει έναν σκύλο.
Δεδομένου ότι οι αλγόριθμοι μηχανικής εκμάθησης είναι δημοσίως γνωστοί, η απόκρυψη μαύρων κουτιών είναι λιγότερο αποτελεσματική. Δεδομένου ότι οι μηχανικοί τεχνητής νοημοσύνης συχνά κρύβουν την πνευματική τους ιδιοκτησία σε μαύρα κουτιά, συνήθως τοποθετούν το μοντέλο σε ένα. Ένας άλλος τρόπος για προγραμματιστές λογισμικού κρύβουν Τα δεδομένα προέρχονται από την απόκρυψη των δεδομένων που χρησιμοποιούνται για την εκπαίδευση του μοντέλου – με άλλα λόγια, τοποθετώντας τα δεδομένα εκπαίδευσης σε ένα μαύρο κουτί.
Είναι δύσκολο να καταλάβουμε πώς λειτουργούν οι αλγόριθμοι μαύρου κουτιού, αλλά αυτό δεν είναι ασπρόμαυρο.
Ένα γυάλινο κουτί αναφέρεται σε ένα σύστημα του οποίου οι αλγόριθμοι, τα δεδομένα εκπαίδευσης και τα μοντέλα είναι δημόσια προσβάσιμα, ενώ ένα μαύρο κουτί αναφέρεται σε ένα σύστημα του οποίου οι αλγόριθμοι, τα δεδομένα εκπαίδευσης και τα μοντέλα είναι κρυμμένα. Ο όρος μαύρο κουτί χρησιμοποιείται συχνά όταν οι ερευνητές περιγράφουν ακόμη και αυτές τις πτυχές ενός συστήματος AI ως μαύρες.
Υπάρχει έλλειψη γνώσεων σχετικά με τον τρόπο με τον οποίο οι αλγόριθμοι μηχανικής μάθησης, ιδιαίτερα αλγορίθμων βαθιάς μάθησης, λειτουργία. Οι ερευνητές αναπτύσσουν αλγόριθμους που, αν και δεν είναι απαραίτητα γυάλινα κουτιά, μπορούν να γίνουν καλύτερα κατανοητοί από τον άνθρωπο.
Γιατί είναι σημαντικά τα μαύρα κουτιά AI;
Δεν είναι πάντα καλή ιδέα να εμπιστεύεστε αλγόριθμους και μοντέλα μηχανικής εκμάθησης μαύρου κουτιού. Τι θα συμβεί αν ένα μοντέλο μηχανικής εκμάθησης που καθορίζει εάν πληροίτε τις προϋποθέσεις για επιχειρηματικό δάνειο από τράπεζα σας απορρίψει; Θα θέλατε να μάθετε για να μπορέσετε καλύτερα να κάνετε έφεση στην απόφαση ή να αλλάξετε την κατάστασή σας για να αυξήσετε τις πιθανότητές σας να πάρετε δάνειο την επόμενη φορά.
Η διατήρηση του λογισμικού σε ένα μαύρο κουτί θεωρείται ότι εμποδίζει τους χάκερ να το εξετάσουν και, ως εκ τούτου, το καθιστά ασφαλές. Ωστόσο, οι χάκερ μπορούν αντίστροφος μηχανικός λογισμικό –δηλαδή, μελετήστε πώς λειτουργεί στενά ένα κομμάτι λογισμικού – και ανακαλύψτε ελαττώματα προς εκμετάλλευση. Τα μαύρα κουτιά έχουν επίσης σημαντικές επιπτώσεις στην ασφάλεια του συστήματος λογισμικού.
Είναι δυνατό για τους δοκιμαστές λογισμικού και τους καλοπροαίρετους χάκερ να κοιτάξουν μέσα σε ένα γυάλινο κουτί που χρησιμοποιείται για τη δοκιμή λογισμικού για να βρουν αδυναμίες, περιορίζοντας έτσι τις επιθέσεις στον κυβερνοχώρο.
Διαβάστε περισσότερα σχετικά άρθρα:
- NFT Mystery Boxes: Τι είναι και πού να αγοράσετε
- 15+ καλύτερα μαθήματα AI για να μάθετε το 2023: Δωρεάν και επί πληρωμή
- Top 15 GPT-4 και GPT-3 Chatbots: Μιλήστε με AI, κάντε ερωτήσεις
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
