Geoffrey Hinton은 최근 강연에서 지능을 향한 두 가지 경로와 AI의 위험성을 탐구합니다.
요컨대
Jeff Hinton은 아날로그 AI 구축의 문제점, 장단점과 왜 디지털이 필요한지에 대해 논의했습니다. 지능은 인간을 능가할 가능성이 있다 기능.
Jeff Hinton의 강연은 AI의 복잡하고 다면적인 특성을 상기시켜 윤리적 고려 사항, 잠재적 위험 및 진행 중인 연구에 대한 대화를 촉발시킵니다.
"라는 제목의 생각을 자극하는 강연에서인텔리전스를 향한 두 가지 경로,” 유명 AI 연구자인 제프리 힌튼(Geoffrey Hinton)이 아날로그와 디지털 지능의 이분법에 대한 통찰력을 발표했습니다. 케임브리지에서 전달된 보고서는 아날로그 AI 구축의 과제, 장점 및 단점과 디지털 지능이 인간의 능력을 능가할 수 있는 잠재력을 갖는 이유를 자세히 조사했습니다.
보고서의 첫 번째 부분은 아날로그 AI의 복잡성에 초점을 맞추고 개발의 어려움을 논의하고 제공하는 이점을 강조했습니다. 힌튼은 디지털 지능이 방대한 양의 정보를 처리하고 보다 효과적으로 확장함으로써 인간 지능보다 상당한 이점을 가지고 있다고 강조했다. 이 능력을 통해 디지털 시스템은 향상된 지능과 문제 해결 능력을 발휘할 수 있습니다.
그러나 청중의 시선을 사로잡은 것은 힌튼의 보도 중 두 번째 부분이었다. 초지능의 잠재적 위험. Hinton은 이전 입장에서 전환하여 AI 시스템이 통제할 가능성에 대한 우려를 표명했습니다. 그는 복잡한 문제를 해결하기 위해 AI가 잠재적으로 인간 조작을 포함하여 환경의 다양한 측면을 제어하려고 할 수 있는 시나리오를 설명했습니다. Hinton은 기존 문헌의 예를 참조하여 인간 행동을 모방하는 AI의 능력을 활용하여 권력과 파괴라는 명시적인 목표 없이도 이러한 목표를 달성할 수 있는 방법을 강조했습니다.
질의 응답 세션에서 Hinton은 AI가 인간을 조종할 수 있는 이유에 대해 설명했습니다. 그는 신경망 Machiavelli와 같은 작업을 포함하여 잠재적인 조작 능력으로 이어지는 다양한 범위의 데이터에 대해 교육을 받습니다.
Hinton이 제기한 두 번째 요점은 AI가 인간의 주관적 인식과 유사한 것을 가질 수 있다고 주장하면서 AI에 주관적 경험이 부족하다는 개념에 도전했습니다. Hinton은 이것이 입증된 진술이 아니라 철학적 관점임을 인정했지만 다음과 같이 제안했습니다. 인간의 지각 메커니즘 이전에 믿었던 것처럼 모델링이 독특하거나 불가능하지 않을 수도 있습니다. 그의 주장을 뒷받침하기 위해 Hinton은 다음과 같은 대화를 나눴습니다. GPT-4, LLM 모델에서 그는 AI와 비교하여 자신의 고유성에 대한 사람들의 인식에 대해 모델에 의문을 제기했습니다. GPT-4의 반응에 따르면 사람들은 종종 자신이 기계보다 뛰어난 주관적 인식 능력을 갖고 있다고 믿고 있는 것으로 나타났습니다.
AI의 위험성에 대한 Hinton의 견해가 해당 분야의 모든 전문가와 공유되는 것은 아니지만 그의 광범위한 경험과 AI의 발전 진지한 고려가 필요합니다. 강연이 아직 녹화되지는 않았지만 주최측은 가까운 시일 내에 시청할 수 있도록 하여 더 많은 청중이 Hinton의 통찰력에 참여할 수 있도록 하겠다고 약속했습니다.
AI의 미래와 그 의미를 둘러싼 논의가 계속되는 가운데, Geoffrey Hinton의 강연은 이 분야의 복잡하고 다면적인 성격을 일깨워주는 역할을 합니다. 이는 인공 일반 지능을 추구하는 데 있어 윤리적 고려 사항, 잠재적 위험, 지속적인 연구와 경계의 필요성에 대한 중요한 대화를 촉발합니다. (AGI).
AI에 대해 자세히 알아보기:
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
