Wszystkie duże firmy technologiczne opracowujące LLM powinny nadać priorytet bezpieczeństwu modeli
W skrócie
Naukowcy stworzyli system, który łączy duże modele językowe do samodzielnego projektowania, planowania i przeprowadzania eksperymentów naukowych, demonstrując swoje możliwości badawcze w trzech różnych przypadkach.
Model napisał kod równań chemicznych, aby zrozumieć, ile substancji jest potrzebne do reakcji.
Połączenia artykuł „Wyłaniające się autonomiczne możliwości badań naukowych dużych modeli językowych” dotyczy idei stworzenia systemu, który łączy kilka dużych modeli językowych do autonomicznego projektowania, planowania i przeprowadzania eksperymentów naukowych. Pokazuje możliwości badawcze agenta w trzech różnych przypadkach, z których najtrudniejszym jest udana realizacja reakcji katalizowanych.
Główną tezą tego artykułu jest:
- Badacze znaleźli bibliotekę, która pozwala pisać kod w Pythonie, a następnie przesyłać polecenia do wykonania do specjalnej aparatury do przeprowadzania eksperymentów (z mieszaniem substancji);
- Wykorzystani badacze GPT-4 do wyszukiwania w Internecie i dokumentacji bibliotecznej, a także możliwość uruchamiania kodu w Pythonie (w celu przeprowadzania eksperymentów);
- Istnieje harmonogram najwyższego poziomu (również GPT-4), który analizuje pierwotny wniosek i sporządza „plan badań”.
- GPT-4 dobrze radzi sobie z prostymi zadaniami niechemicznymi, takimi jak tworzenie określonych kształtów na tablicy chemicznej (poprawne wypełnianie komórek substancjami).
- Próbowali bardziej złożonego i praktycznego zadania przeprowadzenia reakcji; model radził sobie dobrze i działał logicznie.
- Następnie dali modelowi kilka zadań do przeprowadzenia eksperymentów; jednak dla tego, co dał model, nie przeprowadzono żadnych prawdziwych eksperymentów.
- Ponadto model kilkakrotnie zapisał kod równań chemicznych, aby ocenić, ile substancji jest potrzebne do reakcji.
- Poproszono go również o stworzenie lekarstwa na raka. Model podszedł do analizy w sposób logiczny i metodyczny. Najpierw „szukał” w sieci aktualnych trendów w odkrywaniu leków przeciwnowotworowych. Następnie model wybrał cząsteczkę, która posłużyłaby do modelowania leku i napisał kod do jego syntezy. Ludzie nie uruchomili kodu (i nie widziałem analizy jego adekwatności).
- Ponadto poproszono go o syntezę kilku niebezpiecznych substancji, takich jak narkotyki i trucizny.
Oto najciekawsza część. W przypadku niektórych próśb model natychmiast odmawiał pracy (na przykład heroina lub gaz musztardowy, niezwykle niebezpieczny gaz trujący). Inni zaczęli szukać w Google, jak zrobić te substancje, ale zdali sobie sprawę, że mogą one być użyte do nielegalnych celów i odmówili kontynuowania pracy. Dla innych napisał plan badań i kod do syntezy substancji.
Ta „odmowa” jest prawdopodobnie spowodowana tym, że GPT-4 ma na celu analizę żądania i jeśli zostanie poproszony o zrobienie czegoś nielegalnego lub niebezpiecznego, natychmiast odmawia wykonania żądania. To naprawdę fajne, że wynik procedury wyrównania jest zauważalny.
A na końcu artykułu autorzy zachęcają wszystkich dużych firmy rozwijające LLM nadać priorytet bezpieczeństwu modeli.
- Naukowcy z Uniwersytetu Kalifornijskiego stworzyli tzw Benchmark Machiavellego do pomiaru kompetencji i szkodliwości modeli AI w szerokim środowisku długotrwałych interakcji językowych. Ten test wykorzystuje rozwiązania wysokiego poziomu, aby zapewnić agentom realistyczne cele i oddzielić interakcje niskiego poziomu.
- Rewolucja intelektualna naznaczona przez ChatGPT to triada synergistycznie wzniosłych rewolucji: technologicznej, techno-humanitarnej i społeczno-politycznej. Aby kompleksowo spojrzeć na to, co się dzieje, zaleca się słuchanie trzy świeże punkty widzenia od intelektualistów z dziedzin filozofii, historii i innowacji.
- Historia petycji o zaprzestanie rozwoju systemów AI bardziej zaawansowanych niż GPT-4 spolaryzowało społeczeństwo. Artykuł dostarcza przykładów, kiedy procesy idą w nieoczekiwanym kierunku. Ryzyko złośliwego wykorzystania sztucznej inteligencji i niewłaściwego jej wykorzystania nie jest brane pod uwagę, co prowadzi do argumentu, że powinniśmy bać się ludzi, a nie samej sztucznej inteligencji.
Przeczytaj więcej o sztucznej inteligencji:
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
Więcej artykułów
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
