기술 전문가들은 이전보다 더 발전된 AI 시스템 교육을 일시적으로 중단하라는 공개 서한에 서명했습니다. GPT-4
요컨대
1100개 이상의 서명자가 거대한 AI 실험을 중단할 것을 요구하는 공개 서한에 서명했습니다.
서명자에는 Elon Musk, Steve Wozniak, Emad Mostaque 등이 포함됩니다.
공개 서한은 AI의 정보 편향에 대한 우려를 제기했습니다. 작업 자동화 그리고 인류 문명에 대한 AI의 위험.
선도적인 기술 전문가를 포함하여 1,100명 이상의 서명자가 협약에 서명했습니다. 공개 서한 XNUMX개월간 더 발전된 AI 시스템 훈련을 중단할 것을 요구 GPT-4.
이 서한은 인류가 직면한 글로벌 재앙 및 실존적 위험, 특히 첨단 인공 지능으로 인한 실존적 위험을 줄이기 위해 노력하는 비영리 단체인 Future of Life Institute에서 작성했습니다.
널리 승인된 Asilomar AI 원칙을 인용하여 "고급 AI는 지구상의 생명 역사에 중대한 변화를 나타낼 수 있으며 그에 상응하는 보살핌과 자원으로 계획하고 관리해야 합니다."라고 말합니다. 관리가 되지 않습니다.
편지는 계속해서 AI 연구소가 누구도 이해하거나 예측하거나 안정적으로 제어할 수 없는 점점 더 강력한 인공 지능을 개발하기 위해 "통제 불능" 경쟁을 벌이고 있다고 말합니다. 현대 AI 시스템은 다음과 같습니다. GPT-4 인간과 경쟁하다 일반적인 작업에 대해 편지는 AI에 의한 정보 편향, 작업 자동화 및 인류 문명에 대한 통제력 상실 위험에 대한 우려를 제기합니다.
“우리는 모든 AI 연구소에 최소 6개월 동안 더 강력한 AI 시스템 교육을 즉시 중단할 것을 요청합니다. GPT-4. 이 일시 중지는 공개적이고 검증 가능해야 하며 모든 주요 행위자를 포함해야 합니다. 그러한 일시 중지가 신속하게 실행될 수 없다면 정부가 개입하여 유예 조치를 취해야 합니다.”
편지 상태.
이 서한은 AI 연구실과 기술 전문가가 독립된 외부 전문가가 엄격하게 감사하고 감독하는 고급 AI 설계 및 개발을 위한 안전 프로토콜을 개발하고 구현하기 위해 일시 중지 기간을 사용할 것을 간청합니다.
그러나 미국 언론인 제프 자비스는 이 편지를 비판했다. 속담 그것은 "도덕적 공황의 주요 표본"입니다.
DeepMind 연구 과학자 및 전 세계 여러 대학 교수와 함께 서한에 서명한 기술 및 기계 학습 분야의 선도적인 인물은 다음과 같습니다.
- Yoshua Bengio, 몬트리올 대학교, 딥 러닝 개발을 위한 튜링 수상자, 몬트리올 학습 알고리즘 연구소 소장
- Stuart Russell, Berkeley, Computer Science 교수, Center for Intelligent Systems 소장, 표준 교과서 "Artificial Intelligence: a Modern Approach"의 공동 저자
- SpaceX, Tesla 및 Twitter의 CEO Elon Musk
- 에마드 무스타케 CEO Stability AI
- Jaan Tallinn, Skype 공동 창립자, 미래 생명 연구소 실존적 위험 연구 센터
- Gary Marcus, New York University, AI 연구원, 명예 교수
- Marc Rotenberg, Center for AI and Digital Policy(CAIDP), 회장
안에 최근 편지Rotenberg는 CAIDP가 연방 무역위원회에 Open AI에 대한 조사를 요구하는 불만 사항을 제출할 것이라고 썼습니다. ChatGPT, 안전 조치가 확립될 때까지 제품의 추가 상업적 출시를 금지합니다.
OpenAI 샘 알트만 CEO는 인정 된 "우리는 또한 우리 기관이 무엇을 해야할지 파악하는 데 충분한 시간이 필요합니다" 그리고 사회는 "잠재적으로 무서운"생성 AI 도구에서 멀지 않습니다.
“우리 제도, 우리 법, 우리 사회가 따라잡을 수 있는 기회가 있도록 공정위가 “일시정지 버튼을 눌러 달라”고 요청합니다. 우리는 통제력을 잃기 전에 우리가 만든 기술에 대한 주체성을 주장해야 합니다.”라고 CAIDP 서한은 말합니다.
다른 곳에서, EU 의원 AI를 어떻게 관리해야 하는지에 대한 논쟁이 심화되면서 병목 현상에 부딪힐 수도 있지만 AI 규칙을 구현하기 위해 연말까지 EU 국가들과 계약을 체결하는 것을 목표로 하고 있습니다.
더 읽기 :
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Cindy는 언론인입니다. Metaverse Post, 관련 주제를 다루는 web3, NFT, metaverse 및 AI, 인터뷰를 중심으로 Web3 업계 플레이어. 그녀는 30명이 넘는 최고 경영진과 이야기를 나누며 그들의 귀중한 통찰력을 독자들에게 전했습니다. 원래 싱가포르 출신인 Cindy는 현재 조지아주 트빌리시에 거주하고 있습니다. 그녀는 사우스 오스트레일리아 대학에서 커뮤니케이션 및 미디어 연구 학사 학위를 취득했으며 저널리즘과 글쓰기 분야에서 XNUMX년 간의 경험을 갖고 있습니다. 다음을 통해 그녀에게 연락하세요. [이메일 보호] 보도 자료, 발표 및 인터뷰 기회가 있습니다.
더 많은 기사
Cindy는 언론인입니다. Metaverse Post, 관련 주제를 다루는 web3, NFT, metaverse 및 AI, 인터뷰를 중심으로 Web3 업계 플레이어. 그녀는 30명이 넘는 최고 경영진과 이야기를 나누며 그들의 귀중한 통찰력을 독자들에게 전했습니다. 원래 싱가포르 출신인 Cindy는 현재 조지아주 트빌리시에 거주하고 있습니다. 그녀는 사우스 오스트레일리아 대학에서 커뮤니케이션 및 미디어 연구 학사 학위를 취득했으며 저널리즘과 글쓰기 분야에서 XNUMX년 간의 경험을 갖고 있습니다. 다음을 통해 그녀에게 연락하세요. [이메일 보호] 보도 자료, 발표 및 인터뷰 기회가 있습니다.
