앤트로픽(Anthropic), 구글, 마이크로소프트, OpenAI 프론티어 모델 포럼의 전무이사 임명 및 10만 달러 규모의 AI 안전 기금 공개
요컨대
앤트로픽(Anthropic), 구글, 마이크로소프트, OpenAI Chris Meserole을 Frontier Model Forum의 초대 전무이사로 소개했습니다.
동시에 그들은 천만 달러 이상의 자금을 지원하는 상당한 규모의 AI 안전 기금을 발표했습니다.
앤트로픽(Anthropic), 구글, 마이크로소프트, OpenAI 있다 정해진 Chris Meserole은 Frontier Model Forum의 창립 전무이사입니다. 업계 컨소시엄은 전 세계적으로 최첨단 AI 모델의 안전하고 윤리적인 발전을 촉진하는 데 전념하고 있습니다. 동시에 포럼은 10만 달러가 넘는 AI 안전 기금을 도입했습니다. 이 기금의 목적은 AI 안전 연구의 발전을 촉진하는 것입니다.
집행 이사 크리스 메세롤 기술 정책과 신흥 기술의 거버넌스에 대한 광범위한 배경을 제공합니다. 임명되기 전에는 브루킹스 연구소에서 인공 지능 및 신흥 기술 이니셔티브의 이사로 재직했습니다. 새로운 직책을 맡은 Meserole은 AI 안전 연구를 발전시키고, 안전한 AI 모델 개발을 위한 모범 사례를 식별하고, 이해관계자에게 지식을 전파하고, AI를 활용하여 사회적 문제를 해결하는 이니셔티브를 지원하기 위한 노력을 주도할 것입니다.
“가장 강력한 AI 모델은 사회에 막대한 잠재력을 갖고 있지만, 그 잠재력을 실현하려면 이를 안전하게 개발하고 평가하는 방법을 더 잘 이해해야 합니다. 프론티어 모델 포럼을 통해 그 도전에 응하게 되어 기쁘게 생각합니다.”
메세롤이 말했다.
AI 안전기금은 지난 XNUMX년 동안 AI 역량의 급속한 발전에 대응하여 등장했으며, AI 안전에 대한 추가적인 학문적 연구가 필요합니다. 프론티어 모델 포럼(Frontier Model Forum)과 자선 파트너 간의 협력으로 이루어진 이 기금은 학술 기관, 연구 기관 및 스타트업과 연계된 전 세계의 독립적인 연구자에게 지원을 제공할 것입니다.
이 이니셔티브의 주요 기여자는 Anthropic, Google, Microsoft 및 OpenAI, Patrick J. McGovern 재단, David and Lucile Packard 재단, Eric Schmidt 및 Jaan Tallinn과 같은 자선 단체와 함께. 두 사람의 기부금 합산 금액은 10만 달러를 초과하며, 다른 파트너의 추가 기부도 예상됩니다.
올해 초 포럼 회원들은 제XNUMX자가 AI 시스템의 취약점을 발견하고 보고할 수 있도록 하는 것을 포함하여 백악관에서 자발적인 약속을 약속했습니다. AI 안전 기금은 최첨단 AI 시스템을 면밀히 조사하기 위한 외부 커뮤니티 자금을 제공함으로써 이러한 약속에 부합합니다. 다양한 목소리와 관점은 AI 안전에 대한 글로벌 담론을 풍부하게 하고 일반적인 AI 지식 기반을 확장할 것입니다.
AI 안전 및 협업 강화
AI 안전 기금은 잠재적인 위험을 찾아내는 것을 목표로 AI 모델에 대한 새로운 평가 기술과 레드팀 접근 방식의 개발을 강화하는 데 주로 중점을 두고 있습니다. 레드팀 구성은 유해한 기능, 결과 또는 인프라 위협을 식별하기 위해 AI 시스템을 면밀히 조사하는 구조화된 프로세스입니다. 이 영역에 대한 자금 증가는 안전 및 보안 표준을 높이고 AI 시스템으로 인해 발생하는 문제를 완화하는 데 귀중한 통찰력을 제공할 수 있습니다.
또한, 기금은 곧 연구 제안을 모색할 예정이며 독립 전문가, AI 전문가, 보조금 전문가 등 자문 위원회의 조언을 받아 메리디안 연구소에서 관리하게 됩니다.
Frontier AI 연구소는 Frontier AI 모델의 취약성과 위험한 기능에 대한 정보를 솔루션과 함께 공유할 수 있도록 책임 있는 공개 프로세스가 진행 중입니다. 일부 포럼 회사는 이미 국가 안보 맥락에서 이러한 문제를 확인했으며, 책임 있는 공개 절차를 구현하는 데 있어 다른 연구소를 안내하는 사례 연구 역할을 하고 있습니다.
앞으로 프론티어 모델 포럼은 전략적 우선순위를 조정하고 다양한 전문 지식과 관점을 대표하는 자문위원회를 앞으로 몇 달 안에 구성할 계획입니다. 포럼은 정기적으로 새로운 회원 추가를 포함한 업데이트를 발표할 것입니다. 동시에 AI 안전기금은 첫 번째 제안 요청을 발표하고 그 후 곧 보조금을 지급할 예정입니다. 또한 포럼에서는 기술적인 결과가 나오는 대로 계속해서 발표할 것입니다.
포럼의 가장 중요한 목표는 Chris Meserole과 협력하고 더 광범위한 연구 커뮤니티와의 참여를 확대하는 것입니다. 여기에는 AI 파트너십, MLCommons, 기타 주요 NGO, 정부 기관, 다국적 조직과 같은 조직과의 파트너십이 포함됩니다. 이들은 함께 AI의 잠재력을 활용하는 동시에 안전하고 윤리적인 개발 및 활용을 보장하는 것을 목표로 합니다.
책임 한계
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Agne는 메타버스, AI, Web3 산업 Metaverse Post. 스토리텔링에 대한 그녀의 열정으로 인해 그녀는 이 분야의 전문가들과 수많은 인터뷰를 진행했으며 항상 흥미롭고 매력적인 이야기를 발견하기 위해 노력했습니다. Agne는 문학 학사 학위를 보유하고 있으며 여행, 예술, 문화를 포함한 광범위한 주제에 대한 글쓰기에 대한 광범위한 배경을 가지고 있습니다. 그녀는 또한 동물 권리 단체의 편집자로 자원 봉사하여 동물 복지 문제에 대한 인식을 높이는 데 도움을 주었습니다. 그녀에게 연락하세요 [이메일 보호].
더 많은 기사
Agne는 메타버스, AI, Web3 산업 Metaverse Post. 스토리텔링에 대한 그녀의 열정으로 인해 그녀는 이 분야의 전문가들과 수많은 인터뷰를 진행했으며 항상 흥미롭고 매력적인 이야기를 발견하기 위해 노력했습니다. Agne는 문학 학사 학위를 보유하고 있으며 여행, 예술, 문화를 포함한 광범위한 주제에 대한 글쓰기에 대한 광범위한 배경을 가지고 있습니다. 그녀는 또한 동물 권리 단체의 편집자로 자원 봉사하여 동물 복지 문제에 대한 인식을 높이는 데 도움을 주었습니다. 그녀에게 연락하세요 [이메일 보호].
