Czarna skrzynka AI: co to jest i jak działa
W skrócie
Czarne skrzynki AI to systemy działające bez wiedzy użytkownika, takie jak uczenie maszynowe, które składa się z algorytmu, danych treningowych i modelu.
Czarne skrzynki są ważne dla bezpieczeństwa oprogramowania, ponieważ mogą być używane do inżynierii wstecznej oprogramowania i wykrywania luk do wykorzystania, a także mogą być wykorzystywane przez testerów oprogramowania i hakerów do znajdowania słabych punktów.
Dla wielu termin „czarna skrzynka” odnosi się do urządzeń rejestrujących w samolotach, które są cenne dla sekcji zwłok, jeśli zdarzy się coś nie do pomyślenia. Dla innych to mały, skromnie urządzony teatr. Jednak czarne skrzynki są również niezbędne dla sztucznej inteligencji.
Czarne skrzynki AI to systemy działające bez wiedzy użytkownika. Możesz podać im dane wejściowe i uzyskać dane wyjściowe, ale nie możesz zbadać kodu systemu ani logiki używanej do generowania danych wyjściowych.
Nauczanie maszynowe jest dominującym rodzajem sztucznej inteligencji. Składa się z algorytmu lub zestawu algorytmów, danych uczących i modelu.
- Algorytm to ciąg procedur. Po przeszkoleniu algorytm jest w stanie rozpoznać znane wzorce.
- Trening dane to zestaw danych używany do trenowania modelu AI.
- Algorytm uczenia maszynowego jest zasadniczo procedurą zaprojektowaną w celu uczenia się na podstawie dużej liczby przykładów i tworzenia modelu uczenia maszynowego. Model uczenia maszynowego jest używany przez ludzi po jego utworzeniu.
Algorytm rozpoznawania obrazu można zaprogramować w celu wykrywania trendów w obrazie, a dane treningowe mogą reprezentować zdjęcia psów. Nakarmiłbyś go obrazem jako wejściem i otrzymał jako wyjście, czy i gdzie na obrazie wydaje się, że zestaw pikseli reprezentuje psa.
Ponieważ algorytmy uczenia maszynowego są powszechnie znane, ukrywanie czarnych skrzynek jest mniej skuteczne. Ponieważ inżynierowie AI często ukrywają swoją własność intelektualną w czarnych skrzynkach, zwykle umieszczają model w jednej. Innym sposobem twórcy oprogramowania ukryć danych polega na zaciemnieniu danych, które są używane do uczenia modelu — innymi słowy, umieszczając dane szkoleniowe w czarnej skrzynce.
Trudno jest zrozumieć, jak działają algorytmy czarnej skrzynki, ale nie jest to całkiem czarno-białe.
Szklana skrzynka odnosi się do systemu, którego algorytmy, dane treningowe i modele są publicznie dostępne, podczas gdy czarna skrzynka odnosi się do systemu, którego algorytmy, dane treningowe i modele są ukryte. Termin czarna skrzynka jest często używany, gdy badacze opisują nawet te aspekty systemu AI jako czarne.
Brakuje wiedzy na temat algorytmów uczenia maszynowego, w szczególności algorytmy głębokiego uczenia się, funkcja. Naukowcy opracowują algorytmy, które, choć niekoniecznie w szklanych pudełkach, mogą być lepiej rozumiane przez ludzi.
Dlaczego czarne skrzynki AI są ważne?
Nie zawsze warto ufać algorytmom i modelom uczenia maszynowego opartym na czarnych skrzynkach. Co się stanie, jeśli model uczenia maszynowego, który określa, czy kwalifikujesz się do kredytu biznesowego z banku, odrzuci Cię? Chciałbyś wiedzieć, abyś mógł lepiej odwołać się od decyzji lub zmienić swoją sytuację, aby zwiększyć swoje szanse na uzyskanie pożyczki następnym razem.
Uważa się, że przechowywanie oprogramowania w czarnej skrzynce uniemożliwia hakerom sprawdzenie go, a tym samym zapewnia jego bezpieczeństwo. Jednak hakerzy mogą inżynier wsteczny oprogramowanie — to znaczy przestudiuj, jak dokładnie działa oprogramowanie — i odkryj luki, które można wykorzystać. Czarne skrzynki mają również ważne implikacje dla bezpieczeństwa systemu oprogramowania.
Testerzy oprogramowania i hakerzy o dobrych intencjach mogą zajrzeć do szklanego pudełka używanego do testowania oprogramowania, aby znaleźć słabe punkty, ograniczając w ten sposób cyberataki.
Przeczytaj więcej powiązanych artykułów:
- NFT Tajemnicze pudełka: czym są i gdzie kupić
- Ponad 15 najlepszych kursów AI do nauki w 2023 r.: bezpłatne i płatne
- Top 15 GPT-4 i GPT-3 Chatboty: rozmawiaj z AI, zadawaj pytania
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
Więcej artykułów
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
