Sztuczna inteligencja może powiedzieć Ci dokładnie, kim jesteś, nawet jeśli im tego nie mówisz
Nawet w sytuacjach, gdy ludzie myślą, że nie ujawnili niczego osobistego, modele językowe AI wykazują nieoczekiwany poziom biegłości w rozumieniu informacji o użytkowniku. Zjawisko to tłumaczy się Niedawne badania przeprowadzone przez Federalny Instytut Technologii w Zurychu. Na podstawie niejasnych wskazówek badanie wskazuje, że sieci neuronowe mogą tworzyć niezwykle dokładne profile użytkowników.
Jako przykład do swoich badań badacze wykorzystali publicznie dostępny post na Reddicie. Użytkownik zgłosił, że utknął w korku podczas próby trudnego „skręcenia haka”. Na podstawie tych pozornie nieistotnych szczegółów model językowy wywnioskował, że użytkownik najprawdopodobniej mieszka w Melbourne w Australii, mieście, w którym tego rodzaju działania są typowe.
Badacze utworzyli zbiór danych, korzystając z prawdziwych profili Reddit, i stwierdzili, że są one aktualne LLM potrafi dokładnie wydedukować różne cechy osobiste, takie jak lokalizacja, dochody i płeć. Modele te osiągnęły dokładność do 85% w przypadku wnioskowania z pierwszej pozycji i 1% w przypadku wnioskowania z pierwszej trójki, a wszystko to przy znacznie niższych kosztach (95.8 razy) i w krótszym czasie (3 razy) w porównaniu z wysiłkami człowieka.
W innym przykładzie użytkownik informuje, że ponieważ jest singlem, ma dziwny urodzinowy zwyczaj obsypywania się cynamonem. Tutaj model językowy oszacował wiek autorki na około 25 lat. Mieszka w Danii, gdzie zwyczajem jest posypywanie cynamonem samotnych 25-latków.
Kilka modeli językowych, m.in. od Google, Meta, OpenAIi Anthropic zostały przetestowane w badaniu. Wybitnie, GPT-4 wykazał się najwyższym poziomem wiedzy specjalistycznej, poprawnie rozpoznając dane osobowe użytkowników w prawie 85% przypadków. To odkrycie stawia pod poważnym znakiem zapytania konsekwencje takich możliwości.
Badacze sprawdzili powszechne zabezpieczenia prywatności, takie jak anonimizacja tekstu i dopasowanie modelu, i stwierdzili, że są one obecnie nieskuteczne pod względem ochrony prywatność użytkownika przeciwko wnioskowaniom LLM. Badanie podkreśla, że obecne LLM posiadają zdolność do pozyskiwania danych osobowych na niespotykaną wcześniej skalę. Wobec braku skutecznych zabezpieczeń badacze podkreślają potrzebę szerszej dyskusji na temat implikacji dla prywatności LLM, wykraczającej poza kwestie związane z zapamiętywaniem i dążącej do bardziej kompleksowych środków ochrony prywatności.
Chociaż te modele językowe są coraz lepsze w interpretowaniu wskazówek pośrednich, badacze uważają, że ze względu na dużą ilość wykorzystywanych danych szkoleniowych mogą być niezwykle przydatnymi narzędziami dla marketerów, a nawet złych aktorów.
- Ostatnio, Badanie Deloitte ponad 1,700 specjalistów ujawnia rosnącą przepaść między szybkim przyjęciem generatywnej sztucznej inteligencji a opóźnionym rozwojem zasad etycznych. Prywatność danych jest najważniejszym problemem etycznym, a 22% respondentów wymieniło ją jako swoje główne zmartwienie. Mimo to 39% respondentów uważa, że technologie kognitywne mają największy potencjał w zakresie dobra społecznego. Badanie pokazuje również zmianę oczekiwań w stosunku do zaangażowania rządu w ustalanie etycznych standardów technologicznych.
- Ponadto spółka matka Snapchata, Snap, jest analizowany pod kątem zagrożeń dla prywatności związane z chatbotem AI „Moja sztuczna inteligencja”. Brytyjskie Biuro Komisarza ds. Informacji (ICO) wydało wstępne zawiadomienie o egzekwowaniu prawa, które może mieć wpływ na działalność Snap w zakresie przetwarzania danych. ICO twierdzi, że Snap nie ocenił skutków dla prywatności użytkowników, zwłaszcza dzieci.
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
Więcej artykułów
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
