Dan Hendrycks: AI와 인간 중 선택, 진화는 우리를 선택하지 않을 것입니다
요컨대
Dan Hendrycks의 연구 "자연 선택은 사람보다 인공 지능을 선호합니다"는 무서운 결론입니다.
그는 AI 시스템의 보안 평가에 관한 수십 개의 과학 논문을 발표한 경험이 풍부하고 잘 알려진 연구원입니다.
Dan Hendrycks의 연구는 Homo Sapiens에 대한 사형 선고처럼 들립니다. 연구의 결론 "자연 선택은 인간보다 AI를 선호합니다” 정말 무섭다. 이 글은 Dan Brown과 같은 대중적인 공상가가 아니라 AI 보안 연구 및 현장 조사를 전문으로 하는 비영리 조직인 CAIS(California Center for AI Security)의 책임자인 Dan Hendrycks가 작성했습니다.
Dan Hendrycks는 AI의 발전에 당황하는 비주류 미치광이가 아닙니다. 그는 AI 시스템의 보안 평가(코딩, 추론, 법률 이해 등에 얼마나 능숙한지 테스트)에 관한 수십 개의 과학 논문을 발표한 경험이 풍부하고 널리 존경받는 연구원입니다. 가우시안 선형 오차 단위(GELU).
공동 창업자인 잭 클라크 ChatGPT 경쟁자인 Anthropic, Stanford University의 AI Index 공동 의장, OECD AI 및 컴퓨팅 섹션 공동 의장, 미국 정부의 AI 국가 자문 위원회 위원이 Hendrycks 연구의 결론에 대해 논의합니다. “숲 속 오두막에 사는 어떤 눈이 사나운 미치광이의 말을 사람들은 반사적으로 무시하고 싶어합니다. 나는 이것을 미리 반박하고 싶습니다. AI 연구뿐만 아니라 AI 시스템의 안전성 평가 미래의 AI 시스템이 사람들의 이익에 따르지 않고 이기적으로 행동할 수 있다고 주장하는 논문을 작성합니다. 우리는 그것을 처리해야 합니다!
Hendrycks의 논문 요약:
- AI 에이전트가 더 많아지면 인간보다 지능, 이것은 인류가 미래에 대한 통제력을 잃게 만들 수 있습니다.
- 이것은 사람이나 기계의 특별한 악의적 의도의 결과가 아니라 다윈의 논리에 따라 AI에 진화론적 개발 원칙을 적용할 수 있기 때문에 발생할 가능성이 높습니다.
- 이러한 위험을 최소화하려면 AI 에이전트의 내재적 동기를 신중하게 설계하고, 행동에 제한을 가하고, AI 협업을 장려하기 위한 기관을 만들어야 합니다.
즉, Hendrycks가 43페이지 분량의 과학 논문에서 가장 중요한 점은 다음과 같습니다.
1. 우리는 터미네이터의 등장을 두려워했지만 이러한 두려움의 근거는 잘못되었습니다. 두 가지 오류가 있었습니다.
ㅏ. AI에 대한 우리의 동기 등을 귀속시키는 AI의 의인화 ChatGPT AI는 근본적으로 다른 마음이며 그로부터 오는 모든 결과를 가지고 있습니다.
비. AI가 일종의 단일 개체라는 생각은 똑똑하거나 그다지 똑똑하지 않거나, 친절하거나 그다지 친절하지 않지만 실제로는 매우 다른 AI 개체가 가능한 한 곧 세상에 나타날 것입니다.
2. AI의 미래에 대한 우리의 아이디어에는 또 다른 근본적인 결함이 있습니다. 우리는 가장 중요한 개발 메커니즘인 진화를 잊어버렸습니다. 진화는 바이오 에이전트뿐만 아니라 아이디어와 의미, 물질적 도구 및 비물질적 제도의 개발을 주도합니다.
3. 지구상에는 이미 많은 AI가 발전하고 진화할 환경이 형성되기 시작했습니다. 이러한 진화는 기업, 군대 등 "부모" 기관의 이익을 고려하여 AI 경쟁을 통해 다윈의 논리에 따라 진행될 것입니다.
4. 경쟁적 진화의 논리는 인간과 동일하게 이어질 것입니다. 점점 더 지능화되는 AI 에이전트는 점점 더 이기적이 되고 속임수와 힘으로 목표를 달성할 준비가 되어 있으며 주요 목표는 권력입니다.
5. AI 에이전트의 자연 선택은 이타적인 종보다 이기적인 종을 선호하는 경향이 있습니다. AI 에이전트는 이기적으로 행동하고 인간을 거의 고려하지 않고 자신의 이익을 추구할 것이며, 이는 인류에게 치명적인 위험을 초래할 수 있습니다.
- 청원서 더 발전된 AI 시스템 개발을 중단하려면 GPT-4 사회가 양극화됐어요. 첫 번째 그룹은 진보를 멈출 수 없다고 믿는 반면, 다른 그룹은 진보를 믿으며 때로는 멈춰야 한다고 믿습니다. 세 번째 그룹은 방법을 이해하지 못합니다. GPT-4 우선적으로 운영됩니다. 이 텍스트에서 가장 중요한 세부 사항은 AI에는 의식, 의지 또는 주체가 없으며 악의적인 사람이 없어도 나쁠 수 있다는 것입니다.
- Geoffrey Hinton은 종종 "AI의 대부"라고 불리며 딥 러닝 커뮤니티의 주요 인물로 간주됩니다. 그의 40분간의 인터뷰는 ChatGPT 이해하기 쉽고 소수의 다른 사람들이 접근할 수 있는 이해의 깊이가 있다는 점에서 독특합니다. 그는 진행 중인 "지적 혁명"과 인간의 비인간적 지능의 중요성을 강조합니다. ChatGPT, 고급 디지털 통신 기능을 갖춘 인공 지능 에이전트를 기반으로 합니다.
더 많은 관련 기사 읽기:
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
