Stability AI, Hugging Face 및 Canva, AI 연구를 위한 새로운 비영리 조직 설립
요컨대
와 같은 최첨단 AI 시스템 개발 ChatGPT 실행하는 데 비용이 많이 들기 때문에 막대한 기술 리소스가 필요합니다.
그러나 오픈 소스 노력은 DeepMind 및 OpenAI.
ChatGPT AI 시스템을 개발하려면 높은 구축 및 운영 비용 때문에 많은 기술 리소스가 필요합니다. 알파벳의 딥마인드와 같은 상용 연구실과 OpenAI 독점 폐쇄 소스 시스템을 생산하지만 이를 리버스 엔지니어링하려는 오픈 소스 노력은 주로 충분한 자금과 전문 지식의 부족으로 인해 종종 장애물에 직면했습니다.
전멸을 피하기 위해 한 커뮤니티 연구 그룹 Eleuther AI 비영리 재단을 설립하고 있습니다. 비영리 연구기관 EleutherAI Institute는 AI 스타트업 Hugging Face, Stability AI, 전 GitHub CEO Nat Friedman, Lambda Labs 및 Canva.
"조직으로서 우리는 정규직 직원을 구축하고 자원 봉사 그룹보다 더 오래 참여하는 프로젝트에 참여할 수 있습니다." 스텔라 비더맨EleutherAI 연구소를 이끌 부즈 앨런 해밀턴(Booz Allen Hamilton)의 AI 연구원은 말했습니다. 테크 크런치. "특히 비영리 활동과 관련하여 우리가 연구와 오픈 소스에 집중한다는 점을 감안할 때 당연한 일임에 틀림없습니다."
Connor Leahy, Leo Gao 및 Sid Black은 오픈 소스 AI 연구를 위해 노력하는 개발자들의 풀뿌리 운동으로 몇 년 전 EleutherAI를 설립했습니다. 그들은 콘텐츠를 코딩하고 데이터를 수집하여 GPT-3 텍스트 생성 OpenAI, 당시 많은 주목을 받고있었습니다.
GPT3가지 유사한 모델은 The Pile 데이터 세트를 사용하여 텍스트, 코드 등을 완성하도록 훈련되었습니다. 다음을 포함하여 여러 모델이 Apache 2.0 라이센스에 따라 출시되었습니다. GPTJ와 GPTNEOX 언어 모델 이전에 신생 기업의 새로운 물결을 일으켰습니다.
EleutherAI는 결과가 공개되기를 바라며 프로젝트를 지원하는 Google Cloud 프로그램인 TPU Research Cloud에 주로 의존했습니다. 대규모 GPU 가속 워크로드를 위해 구축된 미국 기반의 전문 클라우드 제공업체인 CoreWeave가 클라우드 서비스로 제공하는 AI 워크로드에 대한 대가로 CoreWeave는 EleutherAI 고객에게 컴퓨팅 리소스를 제공했습니다. 또한 CoreWeave는 EleutherAI와 광범위하게 협력했습니다. 여기에 참조용으로 더 많은 정보가 있습니다. CoreWeave는 EleutherAI의 기능을 잠금 해제합니다. GPT-NeoX-20B.
현재 20명 이상의 커뮤니티 정규 기고자가 풀타임으로 일하고 있으며 주로 연구에 집중하고 있습니다. 18개월 동안 EleutherAI 회원은 28개의 학술 논문을 공동 집필하고 수십 개의 모델을 교육했으며 XNUMX개의 코드베이스를 출시했습니다. 그러나 EleutherAI는 계획을 취소하기로 결정했습니다. GPT클라우드 제공업체의 변덕스러움으로 인해 3가지 규모의 모델.
2022년 말, EleutherAI는 Stability AI, 이미지 생성 AI 시스템 뒤에 있는 현재 자금력이 좋은 스타트업입니다. 다른 공동 작업자와 함께 초기 버전을 만드는 데 도움이 되었습니다. Stable Diffusion. 그때부터, Stability AI EleutherAI의 지속적인 작업을 위해 AWS 클러스터의 일부를 기부했습니다. 언어 모델 연구.
Biderman은 Hugging Face가 EleutherAI에 접근하고 비영리 논의가 시작된 후 많은 EleutherAI 직원이 다음과 같은 모델을 교육하고 오픈 소스화하려는 BigScience에 참여했다고 말했습니다. GPT3년 동안 XNUMX개.
Biderman은 EleutherAI가 ChatGPT-과거의 대형 언어 모델과 유사하며 계속 그렇게 할 가능성이 높습니다. 대규모 언어 모델을 교육하는 것 외에도 윤리, 해석 가능성 및 정렬 작업에 더 많은 리소스를 투입하게 되어 기쁩니다. 그러나 연구에 한 가지 문제가 있을 수 있습니다. EleutherAI의 연구는 Stability AI 및 Hugging Face는 둘 다 상당한 벤처 캐피털의 지원을 받습니다. 이있다 공부 기업이 비영리 기부를 통해 정책에 어떻게 영향을 미치는지 보여줍니다.
Biderman은 EleutherAI 재단이 독립적으로 남을 것이며 지금까지 기부자 풀에 문제가 없다고 말합니다.
Biderman은“우리는 상업 회사에서 개발하지 않았습니다. 대신 다양한 조직에서 자금을 지원받는 것이 도움이 된다고 생각합니다. 이론적으로 그것은 우리의 독립성을 더 크게 만듭니다.”
EleutherAI 재단은 금고가 바닥나지 않도록 하는 또 다른 과제를 극복해야 합니다. 2015년, OpenAI 비영리단체로 설립되었으나 이후 진행 중인 연구에 자금을 지원하기 위해 "한도가 있는 이익" 구조로 전환되었습니다.
넓은 의미에서 AI 연구에 자금을 지원하는 비영리 이니셔티브의 혼합 백입니다.
Allen Institute for AI(AI2)는 인공 지능 분야에서 인상적인 성공을 거두었습니다. 인공 지능. 영국에 기반을 두고 정부가 자금을 지원하는 국립 데이터 과학 연구소인 Alan Turing Institute도 있습니다. 기계 학습. Cohere For AI(기업 제휴에도 불구하고)는 또 다른 혁신적인 스타트업입니다. 글로벌 분산 연구 기관인 팀닛 게브루(Timnit Gebru)의 분산 AI 연구도 유망해 보인다.
의심할 여지 없이 EleutherAI 재단은 시간이 지남에 따라 임무를 변경하고 확장할 것입니다.
더 많은 관련 뉴스 읽기:
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
