OpenAI Ujawnia swoje najnowsze podejście do zapewniania bezpieczeństwa AI
W skrócie
OpenAI opublikowała post na blogu, w którym przedstawiła ulepszone podejście do bezpieczeństwa w następstwie ostatnich obaw dotyczących bezpieczeństwa i prywatności oraz dochodzeń.
Firma zobowiązuje się do przeprowadzania rygorystycznych testów, angażowania zewnętrznych ekspertów w celu uzyskania opinii i współpracy z rządami w celu wyłonienia najlepszych podejście do przepisów AI.
Po zmierzeniu się z obawami dotyczącymi bezpieczeństwa i prywatności oraz śledzeniem ostatnie dochodzenia w niektórych krajach europejskich, OpenAI ma wydany wpis na blogu opisujący ulepszone podejście firmy do bezpieczeństwa.
OpenAI zobowiązuje się do przeprowadzenia rygorystycznych testów, zaangażowania zewnętrznych ekspertów w celu uzyskania informacji zwrotnych przed wprowadzeniem nowego systemu oraz współpracy z rządami w celu ustalenia najlepszego podejścia do przepisów dotyczących sztucznej inteligencji.
Wcześniej firma spędziła ponad sześć miesięcy pracując nad bezpieczeństwem i zestrojeniem swojego najnowszego modelu, GPT-4, przed publikacją. Aby zapewnić bezpieczeństwo najnowszego modelu językowego, GPT-4, OpenAI zatrudniony zespół ponad 50 ekspertów: specjalistów ds. bezpieczeństwa AI, etyki i polityki, w tym badaczy i inżynierów.
„Co najważniejsze, uważamy, że społeczeństwo musi mieć czas na aktualizację i dostosowanie się do coraz bardziej wydajnej sztucznej inteligencji oraz że każdy, kogo dotyczy ta technologia, powinien mieć znaczący wpływ na dalszy rozwój sztucznej inteligencji”
OpenAI napisał.
OpenAI's koncentruje się na bezpieczeństwie i prywatności dzieci
Włochy zakazane ChatGPT, cytując OpenAIJednym z powodów jest brak weryfikacji wieku użytkowników, mimo że jest przeznaczony dla osób powyżej 13 roku życia. Główny nacisk w wysiłkach firmy na rzecz bezpieczeństwa przesunął się na ochronę dzieci poprzez wdrożenie opcji weryfikacji wieku, które OpenAI obecnie bada, zwłaszcza że narzędzia AI są przeznaczone dla osób w wieku 18 lat lub starszych lub 13 lat i starszych za zgodą rodziców.
Firma surowo zabrania tworzenia treści zawierających nienawiść, napastliwość, przemoc lub treści dla dorosłych GPT-4 ma już o 82% mniejsze prawdopodobieństwo odpowiedzi na żądania dotyczące niedozwolonych treści w porównaniu do GPT-3. 5.
OpenAI stworzyła solidny system monitorowania pod kątem nadużyć i ma nadzieję go wprowadzić GPT-4 z czasem dostępne dla większej liczby osób. Firma współpracuje z programistami nad dostosowanymi rozwiązaniami ograniczającymi bezpieczeństwo, takimi jak organizacja non-profit Khan Academy, i pracuje nad funkcjami umożliwiającymi wprowadzenie bardziej rygorystycznych standardów dla wyników modeli.
Poprawa prywatności to kolejny aspekt bezpieczeństwa OpenAI skupia się, zwłaszcza po ostatnich naruszenia danych. Duże modele językowe firmy zajmującej się sztuczną inteligencją są szkolone na ogromnej ilości tekstu, który obejmuje treści dostępne publicznie, treści licencjonowane i treści generowane przez recenzentów; wykorzystuje dane, aby modele AI były bardziej przydatne dla ludzi.
OpenAI podejmuje kroki w celu ochrony prywatności osób fizycznych, usuwając dane osobowe ze swoich danych szkoleniowych, dopracowując modele odrzucania próśb o podanie danych osobowych oraz usuwając dane osobowe ze swoich systemów na żądanie. Zmniejsza to szansę na wygenerowanie przez modele AI odpowiedzi zawierających dane osobowe.
OpenAIpodejście rozwiązania problemów związanych z bezpieczeństwem sztucznej inteligencji polega na zbadaniu skutecznych środków zaradczych i technik wyrównywania oraz testowania ich pod kątem nadużyć w świecie rzeczywistym. Zobowiązuje się również do większej ostrożności w tworzeniu i wdrażaniu bardziej wydajnych modeli oraz do zwiększenia środków ostrożności. Skuteczne zarządzanie rozwojem i wdrażaniem sztucznej inteligencji ma zasadnicze znaczenie dla zapewnienia bezpieczeństwa, co wymaga innowacji technicznych i instytucjonalnych.
Czytaj więcej:
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Agne jest dziennikarką, która zajmuje się najnowszymi trendami i wydarzeniami w metaverse, sztucznej inteligencji i Web3 branże dla Metaverse Post. Jej pasja do opowiadania historii skłoniła ją do przeprowadzenia licznych wywiadów z ekspertami w tych dziedzinach, zawsze starając się odkryć ekscytujące i wciągające historie. Agne posiada tytuł licencjata z literatury i rozległe doświadczenie w pisaniu na różne tematy, w tym podróże, sztukę i kulturę. Zgłosiła się także jako wolontariuszka jako redaktorka do organizacji praw zwierząt, gdzie pomagała podnosić świadomość na temat kwestii związanych z dobrostanem zwierząt. Skontaktuj się z nią [email chroniony].
Więcej artykułów
Agne jest dziennikarką, która zajmuje się najnowszymi trendami i wydarzeniami w metaverse, sztucznej inteligencji i Web3 branże dla Metaverse Post. Jej pasja do opowiadania historii skłoniła ją do przeprowadzenia licznych wywiadów z ekspertami w tych dziedzinach, zawsze starając się odkryć ekscytujące i wciągające historie. Agne posiada tytuł licencjata z literatury i rozległe doświadczenie w pisaniu na różne tematy, w tym podróże, sztukę i kulturę. Zgłosiła się także jako wolontariuszka jako redaktorka do organizacji praw zwierząt, gdzie pomagała podnosić świadomość na temat kwestii związanych z dobrostanem zwierząt. Skontaktuj się z nią [email chroniony].
