OpenAI 향후 XNUMX년 안에 인간의 능력을 능가할 초지능과 AI의 잠재력에 대한 경고
요컨대
OpenAI AI의 급속한 발전에 비추어 거버넌스의 필요성을 강조하면서 초지능에 대한 규제를 요구합니다.
AI 시스템은 인간의 전문성을 뛰어넘을 것으로 예상되며, XNUMX년 내 기업 생산성, 에 따라 OpenAI.
OpenAI 강력한 AI 시스템에 대한 대중의 감독과 민주적 통제의 중요성을 강조합니다.
OpenAI, ChatGPT, 생각을 자극하는 전화를 걸었습니다. 규제 원자력 규제와 평행선을 그리는 초지능. 최근에 블로그 게시물, OpenAI AI의 급속한 발전의 잠재적 영향을 강조하고 이 진화하는 환경에서 거버넌스의 긴급한 필요성을 강조했습니다. 이 회사는 AI 시스템이 XNUMX년 이내에 생산성과 기술에서 전문가와 대기업을 능가할 것이라고 말했습니다.
"우리는 오늘날 AI 기술의 위험도 완화해야 하지만 초지능에는 특별한 처리와 조정이 필요할 것입니다." OpenAI 강조했다.
초지능은 전체 인간 지능 또는 지능의 일부 특정 측면을 능가하는 개체를 설명합니다. 저자에 따르면 AI 초지능은 긍정적인 측면과 부정적인 측면을 모두 포함하는 비교할 수 없는 수준의 힘을 갖게 될 것입니다.
피할 수 없는 초지능의 발전과 위험
OpenAI 초 지능의 성공적인 개발을 탐색하는 데 중추적인 역할을 하는 세 가지 중요한 아이디어를 확인했습니다. 여기에는 선도적인 개발 노력 간의 조정, 국제 원자력 기구(IAEA)와 유사한 국제 기관의 설립, 안전을 위한 기술 능력 개발이 포함됩니다.
DaVinci에는 OpenAI AI 시스템에는 위험이 따른다는 점을 인정하며 이러한 위험은 다른 인터넷 관련 기술과 관련된 위험과 비슷합니다. Altman, Brockman 및 Sutskever는 또한 이러한 위험을 관리하기 위한 사회의 현재 접근 방식이 적합하다는 확신을 표명합니다. 그러나 주요 관심사는 전례 없는 힘을 갖게 될 미래 시스템에 대한 것입니다.
"대조적으로 우리가 우려하는 시스템은 지금까지 만들어진 어떤 기술보다 강력한 힘을 가질 것이며 우리는 이 기준보다 훨씬 낮은 기술에 유사한 표준을 적용함으로써 시스템에 대한 초점을 약화시키지 않도록 주의해야 합니다."라고 블로그 게시물은 읽었습니다.
저자는 강력한 AI 시스템에는 대중의 감독과 민주적 통제가 필요하다고 주장합니다. 그들은 또한 그들이 이 기술을 구축하는 이유를 설명합니다. OpenAI: 더 나은 세상을 만들고 그것을 막을 위험을 피하기 위해. AI는 일반적인 경제 성장뿐만 아니라 교육, 창의성, 생산성 등 다양한 영역에서 도움을 줍니다.
OpenAI 어렵고 위험하다고 생각하는 초지능을 멈춰라 생성되는 것부터. 초지능은 상당한 이점을 갖고 있으며, 매년 가격이 저렴해지고, 더 많은 사람들이 작업하고 있으며, 이는 회사 기술 경로의 일부입니다.
일만 샤자예프, AI 분야의 기술 기업가이자 파르카나 연구소, 뉴스에 대한 몇 가지 의견을 공유했습니다. 예상에 따르면 제대로 관리되지 않으면 초지능은 인류 역사상 가장 파괴적인 발명품 중 하나가 될 수 있습니다. 그러나 아직 개발되지 않았기 때문에 기술 배포에 대한 대화는 여전히 분열되어 있습니다. 예측에 대한 두려움을 바탕으로 개발을 중단하는 것은 인류에게 새로운 기술이 제공할 수 있는 기회를 박탈할 수 있습니다.
"OpenAI의 분산 거버넌스 접근 방식은 광범위한 안전을 유지하는 데 도움이 될 수 있습니다. 올바른 규정을 사용하면 프로그램이 종료될 수 있습니다. 위협을 가한다. 이러한 보호 장치가 마련된다면 초지능은 탐색할 가치가 있는 혁신이 될 수 있습니다.”라고 Shazhaev는 말했습니다.
AI 초지능과 제안된 규제 조치에 대한 견해를 공개적으로 논의함으로써, OpenAI 정보에 입각한 토론을 촉진하고 다양한 관점을 초대하는 것 같습니다.
Sam Altman 샘 올트먼 강하게 믿는다 대중에게 광범위한 AI 가용성을 제공합니다. 모든 문제를 미리 예측하는 것은 불가능하다는 점을 인정하면서 그는 가능한 한 초기 단계에서 문제를 해결해야 한다고 주장합니다. 그러나 Altman은 또한 다음과 같은 시스템에 대한 독립적인 감사의 중요성을 강조합니다. ChatGPT 릴리스 전에. 그는 또한 새로운 모델 생성 속도를 제한하거나 위원회를 구성하는 것과 같은 조치를 실행할 가능성을 인정합니다. AI 모델의 안전성 평가 시장 출시 전. 특히 Altman은 우주의 지능의 양이 18개월마다 두 배가 될 것이라고 예측합니다.
더 읽기 :
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Agne는 메타버스, AI, Web3 산업 Metaverse Post. 스토리텔링에 대한 그녀의 열정으로 인해 그녀는 이 분야의 전문가들과 수많은 인터뷰를 진행했으며 항상 흥미롭고 매력적인 이야기를 발견하기 위해 노력했습니다. Agne는 문학 학사 학위를 보유하고 있으며 여행, 예술, 문화를 포함한 광범위한 주제에 대한 글쓰기에 대한 광범위한 배경을 가지고 있습니다. 그녀는 또한 동물 권리 단체의 편집자로 자원 봉사하여 동물 복지 문제에 대한 인식을 높이는 데 도움을 주었습니다. 그녀에게 연락하세요 [이메일 보호].
더 많은 기사
Agne는 메타버스, AI, Web3 산업 Metaverse Post. 스토리텔링에 대한 그녀의 열정으로 인해 그녀는 이 분야의 전문가들과 수많은 인터뷰를 진행했으며 항상 흥미롭고 매력적인 이야기를 발견하기 위해 노력했습니다. Agne는 문학 학사 학위를 보유하고 있으며 여행, 예술, 문화를 포함한 광범위한 주제에 대한 글쓰기에 대한 광범위한 배경을 가지고 있습니다. 그녀는 또한 동물 권리 단체의 편집자로 자원 봉사하여 동물 복지 문제에 대한 인식을 높이는 데 도움을 주었습니다. 그녀에게 연락하세요 [이메일 보호].
