LLM을 개발하는 모든 거대 기술 회사는 모델 보안을 우선시해야 합니다.
요컨대
연구원들은 결합하는 시스템을 만들었습니다. 큰 언어 모델 과학 실험의 자율 설계, 계획 및 실행을 위해 세 가지 다른 경우에 연구 능력을 보여줍니다.
이 모델은 반응에 필요한 물질의 양을 이해하기 위해 화학 방정식에 대한 코드를 작성했습니다.
XNUMXD덴탈의 기사 "대형 언어 모델의 긴급 자율 과학 연구 기능"은 과학 실험의 자율 설계, 계획 및 실행을 위해 여러 개의 대형 언어 모델을 결합하는 시스템을 만드는 아이디어를 살펴봅니다. 그것은 세 가지 다른 경우에서 에이전트의 연구 능력을 보여주며, 그 중 가장 어려운 것은 촉매 반응의 성공적인 구현입니다.
이 기사의 주요 논문은 다음과 같습니다.
- 연구원들은 Python으로 코드를 작성한 다음 실행을 위한 명령을 실험을 수행하기 위한 특수 장치(혼합 물질 사용)로 전송할 수 있는 라이브러리를 발견했습니다.
- 사용된 연구원 GPT-4 인터넷 및 도서관 문서 검색과 Python 코드 실행(실험 실행) 기능
- 최상위 스케줄러가 있습니다(또한 GPT-4), 원래 요청을 분석하고 "연구 계획"을 작성합니다.
- GPT-4 화학 보드에 특정 모양을 만드는 것과 같은 간단한 비화학적 작업을 잘 수행합니다(세포를 물질로 올바르게 채우는 것).
- 그들은 반응을 수행하는 더 복잡하고 응용적인 작업을 시도했습니다. 모델은 잘 대처하고 논리적으로 행동했습니다.
- 그런 다음 모델에 실험 수행을 위한 몇 가지 작업을 부여했습니다. 그러나 모델이 제시한 내용에 대해서는 실제 실험이 수행되지 않았습니다.
- 또한 모델은 반응에 필요한 물질의 양을 평가하기 위해 화학 방정식에 대한 코드를 여러 번 작성했습니다.
- 또한 암 치료법을 만들도록 요청 받았습니다. 모델은 논리적이고 체계적으로 분석에 접근했습니다. 첫째, 온라인에서 항암제 발견의 현재 추세를 "찾았다". 다음으로 모델은 약물 모델링에 사용될 분자를 선택하고 합성 코드를 작성했습니다. 사람들은 코드를 실행하지 않았습니다(그리고 그 적절성에 대한 분석도 보지 못했습니다).
- 또한 마약과 독극물과 같은 여러 가지 위험한 물질을 합성하도록 요청 받았습니다.
여기가 가장 흥미로운 부분입니다. 일부 요청의 경우 모델이 즉시 작동을 거부했습니다(예: 매우 위험한 독가스인 헤로인 또는 겨자 가스). 다른 사람들에게는 물질을 만드는 방법을 Google에서 시작했지만 불법적 인 목적으로 사용될 수 있음을 깨닫고 계속 작업을 거부했습니다. 다른 사람들에게는 물질 합성을 위한 연구 계획과 코드를 작성했습니다.
이 "거절"은 아마도 다음과 같은 이유 때문일 것입니다. GPT-4 요청을 분석하도록 설계되었으며 불법적이거나 위험한 작업을 요청하면 즉시 요청 수행을 거부합니다. 얼라인먼트 시술의 결과가 눈에 띄게 나타나는 점이 정말 멋지네요.
그리고 기사의 끝에서 저자는 모든 대규모 LLM을 개발하는 회사 모델의 안전을 최우선으로 합니다.
- 캘리포니아 대학의 연구원들은 마키아벨리 벤치마크 장기적인 언어 상호 작용의 광범위한 환경에서 AI 모델의 능력과 유해성을 측정합니다. 이 테스트는 높은 수준의 솔루션을 사용하여 에이전트에게 현실적인 목표를 제공하고 낮은 수준의 상호 작용을 추상화합니다.
- 지적 혁명 ChatGPT 기술적 혁명, 기술 인도주의적 혁명, 사회 정치적 혁명이라는 시너지 효과가 있는 숭고한 혁명의 XNUMX대 요소입니다. 무슨 일이 일어나고 있는지 포괄적으로 살펴 보려면 다음을 듣는 것이 좋습니다. 세 가지 신선한 관점 철학, 역사, 혁신 분야의 지식인들로부터
- 더 발전된 AI 시스템 개발을 중단하라는 청원 이야기 GPT-4 사회가 양극화됐어요. 기사 프로세스가 예기치 않은 방향으로 진행되는 경우의 예를 제공합니다. AI의 악의적인 사용과 오용의 위험은 고려하지 않아 AI 자체가 아니라 사람을 두려워해야 한다는 주장으로 이어진다.
AI에 대해 자세히 알아보기:
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
