2023 년 4 월 05 일

AI 교육을 6개월간 중단하는 것은 좋은 생각이지만 충분하지 않을 수 있습니다.

게시: 05년 2023월 7일 오전 59:05 업데이트: 2023년 7월 59일 오전 XNUMX:XNUMX

요컨대

청원 이야기와 Yudkovsky의 기사 공개는 사회를 양극화했습니다.

죄수의 딜레마와 게임 이론은 그러한 문제를 해결하기 위해서는 여러 장소에 있는 제정신인 사람들의 임계량이 필요하다고 제안합니다.

그러나 디지털 진화에서 의식, 의지, 주체의 부족과 같은 이 아이디어에는 몇 가지 반대가 있습니다.

의 이야기 더 발전된 AI 시스템 개발을 중단해 달라는 청원 GPT-4 눈에 띄게 양극화 된 사회. Yudkovsky의 출시 기사 추가 개발 중단을 요구합니다. GPT 모델은 특히 데이터 센터 폭격에 대한 그의 구절을 통해 화재에 연료를 추가했습니다.

온라인에서 관찰할 수 있는 바에 따르면, 세 가지 주요 주장을 가진 반대자들보다 청원 지지자들이 훨씬 적은 것 같습니다.

1	– 진행을 멈출 수 없습니다. – 청원서는 다음에 의해 만들어졌습니다. OpenAI 경쟁사. – 중국은 기다리지 않을 것입니다.
2	- AI가 아니라 사람을 두려워해야 한다. - GPT 의식도, 의지도, 열망도, 의지도 없기 때문에 두려워할 것이 없습니다. - GPT-4 아무것도 이해하지 못하고, 어리석은 실수를 하고, 일반적으로 매우 어리석기 때문에 세상을 노예화하는 것과는 미친 듯이 거리가 멀습니다. - GPT-4 팔/다리가 없기 때문에 세상을 달릴 수 없습니다.
3	– 세 번째 그룹은 어떻게 해야 하는지 이해하지 못합니다. GPT-4 우선적으로 운영됩니다.

그들의 입장은 무지에서 비롯되기 때문에 우리는 세 번째 무리에 집중하지 않을 것입니다. 모든 AI 상대가 AI에 대해 모든 것을 알고 있다는 의미는 아닙니다. Yudkovsky 자신이 AI 주제에 매우 깊이 빠져 있기 때문에 무지하다고 비난받을 수는 없지만 기술과 그에 수반되는 내용에 대한 이해가 부족한 반 AI 사람들을 많이 찾을 수 있습니다.

진보를 멈출 수 없다고 믿는 사람들의 첫 번째 그룹을 살펴보겠습니다. 그들은 다르지만 유사한 주장을 제시하며, 전반적으로 그 사람들은 AI의 기능과 채택이 가져올 전망을 부정하지 않으며 AI 개발이 무슨 일이 있어도 계속될 것이라고 믿습니다.

멈출 수 없는 진보에 대한 첫 번째 테제는 사실일 필요가 없다는 슬로건입니다. 사람들은 일부 과학 실험을 중단한 것 같고 한때 승인되었던 많은 연구 프로젝트가 더 이상 윤리적인 것으로 간주되지 않으며 유사한 프로젝트는 오늘날에는 결코 허용되지 않을 것입니다. 그러나 종교 재판과 기타 종교적 박해, 도서 금지, 중국(및 기타 국가)의 과학자 살해로 인해 과거에는 얼마나 더 많은 발전이 중단되었습니까? 그것은 생존 편향으로 인해 우리가 결코 완전히 파악할 수 없는 것입니다.

다른 논문들은 "우리가 아니면 그들이 될 것이다"로 요약될 수 있는 접근 방식을 포함합니다. 이러한 사고 방식이 더 이해하기 쉬울 수 있지만 올바른 해결책도 아닌 것 같습니다. 게임 이론의 죄수의 딜레마와 매우 유사합니다.

두 번째 인수 그룹이 가장 흥미로운 그룹입니다. 개인적으로 어느 정도 동의하지만 해결해야 할 몇 가지 문제가 있습니다. 예, AI에는 의식, 의지, 행위자 등이 없습니다. COVID-19도 마찬가지지만 전 세계적으로 대혼란을 일으켰습니다. 무언가가 위험해지기 위해 선택 의지와 의식을 가질 필요는 없습니다. 바이러스로 인해 지구상의 생명체가 멸종되는 시나리오는 상상할 수 없는 것이 아닙니다. 작업이 끝나면 테이블 위에 의자를 놓고 불을 끄고 영원히 떠날 수 있습니다.

생물학적 비유를 계속하면 "디지털 진화의 놀라운 창의성: 진화 계산 및 인공 생명 연구 커뮤니티의 일화 모음"이라는 멋진 기사가 있는데, 프로세스가 예상치 못한 방향으로 진행되는 경우에 대한 많은 예를 제공합니다. 진화 과정이 없더라도 모든 것이 잘못된 일반화 "목표의 잘못된 일반화: 올바른 사양이 올바른 목표를 위해 충분하지 않은 이유"로 들어갈 수 있습니다. 최적화 프로세스를 자유롭게 조정하면 잘못될 수 있습니다.고급 기계 학습 시스템에서 학습된 최적화의 위험. "

동시에, 우리는 일반적으로 다음과 같은 위험을 고려하지 않습니다. AI의 악의적인 사용 및 오용, AI 자체가 아니라 사람을 두려워해야 한다는 주장을 뒷받침할 뿐입니다. 그러나 문제의 진실은 악의적인 사람 없이도 AI가 나쁠 수 있다는 것입니다.

나는 또한 모델이 어리석은 실수를 한다는 사실에 동의하지만 인간도 마찬가지지만 우리는 그들이 해를 끼칠 수 있다는 것을 알고 있습니다. 모델은 많은 실수를 저지르기도 하지만 일반 사람이 해결할 수 없는 멋지고 멋지고 복잡한 문제도 많이 해결할 수 있습니다. 악명 높은 연구 "인공 일반 지능의 불꽃: 초기 실험"에서 GPT-4,” AI가 항상 정확하지는 않지만 페르미 문제, 다소 복잡한 수학적 문제를 해결할 수 있다는 사실에 놀랐습니다. 마음 이론과 다른 사람의 행동을 "이해하는 능력과 같은" 것도 매우 인상적입니다. 이 모든 것들은 AI의 지능을 가리킵니다. 존재하지만 우리와는 다릅니다.

AI 모델이 저지르는 실수 중 적어도 일부를 제거하는 것은 일반적으로 가능하므로 지능이 향상될 수 있습니다. 정확한 계산을 위한 모듈, 팩트 기반 및 다른 모델과의 유효성 검사를 추가하기만 하면 됩니다.

이 전체 이야기에서 가장 중요한 것은 AI의 발전 속도입니다. GPT 모델 눈부신 속도로 엄청나게 성장했습니다. 이제 ChatGPT 플러그인 가능, 당신은 사용할 수 있습니다 GPT 코드 작성을 위한 모델, API는 대규모 대중에게 제공되며 사전 교육 없이도 외부 도구를 사용할 수 있습니다.

GPT-4물론 세계를 정복할 수는 없지만 경제를 많이 흔들 수 있습니다. GPT-5, 그리고 모델의 향후 반복은 그다지 멀지 않을 수 있으며 훨씬 더 강력한 기능을 제공할 가능성이 높습니다. 우리는 아직 존재하지 않는 모델을 이해하기를 바랄 수 없습니다. 우리는 이미 존재하는 모델을 거의 이해하지도 못했습니다. 이런 의미에서 XNUMX개월의 휴식은 좋은 생각일 수 있지만 단순히 충분하지 않을 수 있습니다.

그리고 주어진 AI 레이스 시작했으므로 배울 시간이 없습니다.

일반적으로이 모든 것을 고려하여 나도 청원서에 서명했습니다. 나는 그것이 어떤 식 으로든 도움이 될 것이라고 믿지 않지만.

더 많은 관련 항목 읽기:

태그 :

책임 부인

줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.

저자에 관하여

Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.

더 많은 기사

다미르 얄랄로프