AI 전문가들은 정부와 기업의 AI 안전 투자 증가 필요성을 옹호합니다.
요컨대
AI 연구자 그룹은 인공지능 기업과 정부가 AI 시스템의 안전하고 윤리적인 사용을 우선시하기 위해 더 많은 자금을 할당할 것을 요구하는 공동 서한을 발행했습니다.
전문가들은 AI 기술의 급속한 발전과 그것이 사회적 불의를 악화시키고 사회를 불안정하게 하며 글로벌 안보 위협을 가할 가능성에 대해 우려를 표명합니다.
튜링상 수상자 및 노벨상 수상자 등 주요 AI 연구자들은 AI 시스템의 안전하고 윤리적인 사용을 보장하기 위해 인공지능 기업과 정부에 AI 연구 및 개발 자금의 최소 XNUMX/XNUMX을 할당할 것을 촉구하고 있습니다.
안에 공동 서신 전문가들은 런던에서 열린 국제 AI 안전 서밋을 앞두고 발표한 AI 관련 위험을 해결하기 위한 조치를 설명했습니다. 그들은 또한 정부가 첨단 AI 시스템으로 인해 발생할 수 있는 예측 가능한 피해에 대해 기업에 법적 책임을 물을 것을 옹호합니다.
"AI 시스템은 점점 더 많은 작업에서 인간을 능가하게 될 수 있습니다. 사회 불의를 증폭시키고, 사회 안정성을 침식하며, 사회의 기반이 되는 현실에 대한 우리의 공유된 이해를 약화시킬 위험이 있습니다."라고 AI 분야의 저명한 인사들은 말합니다. Geoffrey Hinton, Andrew Yao, Daniel Kahneman, Dawn Song 및 Yuval Noah Harari가 편지에 썼습니다.
“또한 대규모 범죄나 테러 활동이 가능해질 수도 있습니다. 특히 소수의 강력한 행위자의 손에서 AI는 글로벌 불평등을 굳건히 하거나 악화시키거나 자동화된 전쟁, 맞춤형 대량 조작 및 광범위한 감시를 촉진할 수 있습니다.”
안전하고 윤리적인 AI 개발을 위해 필요한 긴급 조치
이 탄원의 긴급성은 현재의 규정이 AI 기술의 급속한 발전을 적절하게 다루지 못한다는 믿음에서 비롯됩니다.
AI 개발에서 전문가들은 복잡한 과제에 직면해야 하는 긴급한 필요성을 인식하고 있습니다. 단순히 AI 역량을 강화하는 것만으로는 부족하다고 주장한다. 이러한 과제에는 감독과 정직성이 포함되며, 고급 AI는 테스트 취약점뿐만 아니라 견고성, 해석 가능성, 위험 평가 및 새로운 과제와 관련된 문제도 활용할 수 있습니다.
미래의 AI 시스템은 예상치 못한 실패 모드를 나타낼 수 있으며, 이는 AI 기능 향상과 함께 안전과 윤리를 우선시하기 위해 AI 연구 및 개발 예산의 상당 부분을 할당하는 주요 기술 기업과 공공 자금 제공자의 중요성을 강조합니다.
서신에 따르면, AI 거버넌스의 부재로 인해 기업과 국가는 안전보다 역량을 우선시하거나 인간의 감독이 제한된 AI 시스템에 중요한 사회적 기능을 위임하려는 유혹을 받을 수 있습니다.
효과적인 규제를 위해 정부는 AI 개발에 대한 포괄적인 통찰력이 시급히 필요합니다. 더욱이 강력한 AI 시스템에는 개발 라이센스, 관련 기능에 대한 일시적인 중단, 액세스 제어 및 강력한 정보 보안을 포함한 추가 조치가 필수적입니다.
규정 준수 비용 및 책임 위험에 대한 AI 기업의 일부 우려에도 불구하고 지지자들은 확인되지 않은 AI 개발과 관련된 잠재적 위험을 완화하려면 강력한 규제가 필수적이라고 주장합니다.
“AI는 금세기를 형성하는 기술일 수 있습니다. AI 기능은 빠르게 발전하는 반면, 안전과 거버넌스의 발전은 뒤처져 있습니다. AI를 긍정적인 결과로 이끌고 재앙을 피하려면 방향을 바꿔야 합니다. 우리에게 지혜가 있다면 책임 있는 길이 있습니다.”라고 편지는 결론지었습니다.
더 읽기 :
- 기술 리더들이 인공 지능에서 추구하는 것은 무엇입니까? 기술 비전가들이 통찰력을 공유합니다
- OpenAI: AI는 잠재적으로 사람들에게 많은 해를 끼칠 수 있지만 진행을 중단시키려는 것은 선택 사항이 아닙니다.
- Sequoia에 따르면 AI는 운영 체제로 전환하고 있습니다.
- 노벨상 수상자 Paul Krugman은 암호 화폐 붐이 주택 거품처럼 보인다고 말했습니다.
책임 한계
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Agne는 메타버스, AI, Web3 산업 Metaverse Post. 스토리텔링에 대한 그녀의 열정으로 인해 그녀는 이 분야의 전문가들과 수많은 인터뷰를 진행했으며 항상 흥미롭고 매력적인 이야기를 발견하기 위해 노력했습니다. Agne는 문학 학사 학위를 보유하고 있으며 여행, 예술, 문화를 포함한 광범위한 주제에 대한 글쓰기에 대한 광범위한 배경을 가지고 있습니다. 그녀는 또한 동물 권리 단체의 편집자로 자원 봉사하여 동물 복지 문제에 대한 인식을 높이는 데 도움을 주었습니다. 그녀에게 연락하세요 [이메일 보호].
더 많은 기사
Agne는 메타버스, AI, Web3 산업 Metaverse Post. 스토리텔링에 대한 그녀의 열정으로 인해 그녀는 이 분야의 전문가들과 수많은 인터뷰를 진행했으며 항상 흥미롭고 매력적인 이야기를 발견하기 위해 노력했습니다. Agne는 문학 학사 학위를 보유하고 있으며 여행, 예술, 문화를 포함한 광범위한 주제에 대한 글쓰기에 대한 광범위한 배경을 가지고 있습니다. 그녀는 또한 동물 권리 단체의 편집자로 자원 봉사하여 동물 복지 문제에 대한 인식을 높이는 데 도움을 주었습니다. 그녀에게 연락하세요 [이메일 보호].
