OpenAI AI 안전 보장을 위한 최신 접근 방식 공개
요컨대
OpenAI 는 최근 안전 및 개인 정보 보호 및 조사에 대한 우려에 따라 안전에 대한 개선된 접근 방식을 설명하는 블로그 게시물을 발표했습니다.
회사는 엄격한 테스트를 수행하고 피드백을 위해 외부 전문가를 참여시키며 정부와 협력하여 최상의 결과를 결정할 것을 약속합니다. AI 규제에 대한 접근.
안전 및 개인 정보 보호 및 다음과 같은 문제에 직면한 후 최근 조사 일부 유럽 국가에서는 OpenAI 이 출시 안전에 대한 회사의 향상된 접근 방식을 설명하는 블로그 게시물.
OpenAI 엄격한 테스트를 수행하고, 새로운 시스템을 출시하기 전에 피드백을 위해 외부 전문가를 참여시키고, 정부와 협력하여 AI 규제에 대한 최선의 접근 방식을 결정할 것을 약속합니다.
이전에 회사는 최신 모델의 안전 및 정렬 작업에 XNUMX개월 이상을 투자했으며, GPT-4, 공개적으로 공개하기 전에. 최신 언어 모델의 안전성을 보장하기 위해 GPT-4, OpenAI 고용 된 50명 이상의 전문가로 구성된 팀: 연구원 및 엔지니어를 포함한 AI 안전, 윤리 및 정책 전문가.
"결정적으로, 우리는 사회가 점점 더 유능해지는 AI를 업데이트하고 적응할 시간이 있어야 하며, 이 기술의 영향을 받는 모든 사람이 AI가 어떻게 발전하는지에 대해 중요한 발언권을 가져야 한다고 믿습니다."
OpenAI 썼다.
OpenAI의 어린이 안전 및 개인 정보 보호에 중점을 둡니다.
이탈리아 금지 ChatGPT인용 OpenAI가 13세 이상을 대상으로 설계했음에도 불구하고 사용자의 연령을 확인하지 못한 것도 그 이유 중 하나입니다. 회사의 안전 노력의 중요한 초점은 연령 확인 옵션을 구현하여 어린이를 보호하는 것으로 전환되었습니다. OpenAI 특히 AI 도구는 부모의 승인을 받은 18세 이상 또는 13세 이상의 개인을 대상으로 하기 때문에 현재 탐색 중입니다.
회사는 증오, 괴롭힘, 폭력 또는 성인용 콘텐츠의 생성을 엄격히 금지합니다. GPT-4 이미 허용되지 않은 콘텐츠에 대한 요청에 응답할 가능성이 82% 더 낮습니다. GPT-3. 5.
OpenAI 남용을 모니터링하기 위한 강력한 시스템을 구축했으며 이를 통해 GPT-4 시간이 지남에 따라 더 많은 사람들이 사용할 수 있습니다. 이 회사는 비영리 Khan Academy와 같은 맞춤형 안전 완화를 위해 개발자와 협력하고 있으며 모델 출력에 대해 보다 엄격한 표준을 허용하는 기능을 개발하고 있습니다.
개인 정보 보호 개선은 또 다른 안전 측면입니다. OpenAI 특히 최근 데이터 유출. AI 회사의 대규모 언어 모델은 공개 콘텐츠, 라이선스 콘텐츠, 인간 검토자가 생성한 콘텐츠를 포함하는 엄청난 양의 텍스트에 대해 교육을 받습니다. 데이터를 사용하여 AI 모델을 사람들에게 더 유용하게 만듭니다.
OpenAI 훈련 데이터에서 개인 정보를 제거하고, 개인 정보 요청을 거부하도록 모델을 미세 조정하고, 요청 시 시스템에서 개인 정보를 삭제하는 등 개인의 개인 정보를 보호하기 위한 조치를 취하고 있습니다. 이렇게 하면 AI 모델이 개인 정보를 포함하는 응답을 생성할 가능성이 줄어듭니다.
OpenAI님의 접근 AI 안전 문제를 해결하는 것은 효과적인 완화 방법을 연구하는 것입니다. 및 정렬 기술과 실제 남용에 대해 테스트합니다. 또한 더 많은 유능한 모델을 만들고 배포하는 데 점점 더 신중하고 안전 예방 조치를 강화할 것을 약속합니다. AI 개발 및 배포에 대한 효과적인 거버넌스는 안전을 보장하는 데 필수적이며 기술 및 제도 혁신이 필요합니다.
더 읽기 :
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Agne는 메타버스, AI, Web3 산업 Metaverse Post. 스토리텔링에 대한 그녀의 열정으로 인해 그녀는 이 분야의 전문가들과 수많은 인터뷰를 진행했으며 항상 흥미롭고 매력적인 이야기를 발견하기 위해 노력했습니다. Agne는 문학 학사 학위를 보유하고 있으며 여행, 예술, 문화를 포함한 광범위한 주제에 대한 글쓰기에 대한 광범위한 배경을 가지고 있습니다. 그녀는 또한 동물 권리 단체의 편집자로 자원 봉사하여 동물 복지 문제에 대한 인식을 높이는 데 도움을 주었습니다. 그녀에게 연락하세요 [이메일 보호].
더 많은 기사
Agne는 메타버스, AI, Web3 산업 Metaverse Post. 스토리텔링에 대한 그녀의 열정으로 인해 그녀는 이 분야의 전문가들과 수많은 인터뷰를 진행했으며 항상 흥미롭고 매력적인 이야기를 발견하기 위해 노력했습니다. Agne는 문학 학사 학위를 보유하고 있으며 여행, 예술, 문화를 포함한 광범위한 주제에 대한 글쓰기에 대한 광범위한 배경을 가지고 있습니다. 그녀는 또한 동물 권리 단체의 편집자로 자원 봉사하여 동물 복지 문제에 대한 인식을 높이는 데 도움을 주었습니다. 그녀에게 연락하세요 [이메일 보호].
