AI 기업은 자금의 30%를 안전과 윤리 분야의 R&D에 지출해야 합니다.
편견과 허위정보로 인한 피해는 이미 명백하다. 다른 위험도 표면화될 수 있다는 징후가 있습니다. 현재 위험을 완화하고 새로운 위험을 예측하는 것이 중요합니다.
우리는 첨단 자율 시스템이나 AGI가 안전한지 확인하는 방법이나 현재 사용 가능한 경우 테스트하는 방법을 알 수 없습니다. 더욱이, 정부는 학대를 중단하고 안전한 관행을 마련하는 데 필요한 제도가 부족합니다. 저자는 효율적인 정부 감독을 개발하고 R&D 노력을 안전과 윤리 쪽으로 방향을 바꾸는 것을 지원합니다.
제어 및 정직성(보다 정교한 시스템은 거짓이지만 설득력 있는 답변을 생성하여 테스트를 능가할 수 있음), 견고성(분포 변화 또는 적대적인 입력이 있는 새로운 조건에서), 해석 가능성(작업 이해), 위험 평가(예측하기 어려운 새로운 능력 등장), 새로운 과제(전례 없는 실패 모드)의 출현은 R&D 과제 중 일부로 해결되지 않는 문제입니다. 더욱 강력한 AI 시스템 개발.
저자들은 안전과 윤리가 AI R&D 자금의 최소 XNUMX분의 XNUMX을 받아야 한다고 제안합니다.
국가 기관 및 글로벌 거버넌스와 관련하여 표준을 시행해야 합니다. AI에는 이러한 기능이 부족하지만 제약, 금융, 원자력 산업에는 이러한 기능이 있습니다. 이제 국가와 기업이 안보를 희생하면서 비용을 절감하려는 인센티브가 있습니다. 기업은 산업이 폐기물을 강에 버리는 것과 마찬가지로 사회가 그 결과를 부담하도록 하는 동시에 AI 발전으로 이익을 얻을 수 있습니다.
강력한 기술 노하우와 신속한 이동 능력은 국가 기관의 요구 사항입니다. 글로벌 무대에서는 파트너십과 합의가 필수적입니다. 학문적 연구와 저위험 응용 프로그램을 보호하려면 작고 예측 가능한 모델에 대한 관료적 장애물을 피해야 합니다. 수십억 달러 규모의 슈퍼컴퓨터에서 훈련된 가장 강력한 시스템 중 선별된 그룹인 프론티어 모델이 가장 큰 관심을 받아야 합니다.
규제가 효과적이려면 정부가 개발에 대해 좀 더 개방적이어야 합니다. 규제 기관은 모델 등록을 의무화하고, 내부 정보원을 보호하고, 사고 보고를 의무화하고, 모델 개발과 슈퍼컴퓨터 사용을 감시해야 합니다.
규제 기관은 평가를 위해 생산에 출시되기 전에 이러한 시스템에 접근할 수 있어야 합니다. 잠재적으로 해로운 병원체 생성, 자가 복제 및 시스템 침투와 같은 기능.
위험할 가능성이 있는 시스템에는 다양한 제어 방법이 필요합니다. 프론티어 모델 또한 제작자는 피할 수 있었던 시스템 손상에 대해 법적 책임을 져야 합니다. 이는 보안 투자를 장려해야 합니다. 정부 라이센스, 이에 대응하여 개발을 중단할 수 있는 능력과 같은 추가 기능 잠재적으로 위험한 극도로 유능한 시스템에는 국가 수준의 해커에게 영향을 받지 않는 기능, 액세스 제어 및 정보 보안 조치가 필요할 수 있습니다.
규칙은 없지만 기업은 특정 모델 기능이 한계선을 넘을 경우 취할 정확한 단계를 간략히 설명하여 if-then 책임을 신속하게 명확히 해야 합니다. 이러한 조치는 철저하게 설명되고 독립적으로 확인되어야 합니다. 따라서 그렇습니다. 분리 된 정책 보충 논문 요약을 정리합니다.
- XNUMX월 프론티어모델포럼 10만 달러가 넘는 AI 안전 기금을 도입했습니다., AI 안전 연구의 발전을 촉진하는 것을 목표로 합니다. 프론티어 모델 포럼(Frontier Model Forum)과 자선 파트너가 협력하여 만든 이 기금은 학술 기관, 연구 기관 및 스타트업과 연계된 전 세계의 독립적인 연구자에게 지원을 제공할 것입니다. 이 계획의 주요 기여자는 Anthropic, Google, Microsoft, OpenAI, Patrick J. McGovern 재단, David and Lucile Packard 재단, Eric Schmidt 및 Jaan Tallinn과 같은 자선 단체와 함께. AI 안전 기금은 잠재적인 위험을 찾아내는 것을 목표로 AI 모델에 대한 새로운 평가 기술과 레드팀 접근 방식의 개발을 강화하는 데 주로 중점을 두고 있습니다. 포럼은 앞으로 몇 달 안에 자문위원회를 구성할 계획이며, 그 후 곧 첫 번째 제안 요청과 상금 수여를 발표할 예정입니다.
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
