2023 년 5 월 30 일

AI 전문가 및 공인, AI 소멸 위험에 대한 경보 제기

by 아그네 시메르만

게시: 30년 2023월 4일 오후 15:30 업데이트: 2023년 4월 15일 오후 XNUMX:XNUMX

by 카롤리나 가스치

수정 및 사실 확인 날짜: 30년 2023월 4일 오후 15시 XNUMX분

요컨대

저명한 AI 전문가와 영향력 있는 인사들이 공유하는 내용 AI와 관련된 위험에 대한 우려.

AI의 상당한 발전에도 불구하고 AI 위험과 관련된 많은 문제가 해결되지 않은 상태로 남아 있습니다.

저명한 AI 전문가와 공인들은 AI가 전염병과 핵전쟁의 위험에 필적하거나 그보다 더 큰 인류의 생존에 위협이 될 수 있다고 경고하는 성명을 발표했습니다. 350개 서명국은 AI가 자율 무기를 발사하거나, 사회 및 경제 시스템을 교란하거나, 인간을 능가하고 압도할 수 있는 초지능 에이전트를 생성하는 등 예측하지 못한 재앙적인 결과를 초래할 수 있다고 주장합니다.

그들은 정책 입안자들이 이러한 위험을 심각하게 받아들이고 안전하고 유익한 AI 개발을 보장하기 위한 조치를 채택할 것을 촉구합니다. 그만큼 성명서 다음과 같은 AI 연구 개발 분야의 주요 인사들이 서명했습니다. OpenAI 샘 알트만(Sam Altman) CEO, 스카이프(Skype) 공동창업자 잔 탈린(Jaan Tallinn), 딥마인드(DeepMind) CEO 데미스 허사비스(Demis Hassabis), AI 컴퓨터 과학자 제프리 힌튼(Geoffrey Hinton)을 비롯해 음악가 그라임스(Grimes), 팟캐스터 샘 해리스(Sam Harris) 등 영향력 있는 공적 인사들도 있다.

서명자 중에는 딥 러닝에 기여한 공로로 2018 Turing Award를 수상한 Geoffrey Hinton과 Yoshua Bengio가 있습니다. 여기에는 중국 하버드대, 칭화대 등 명문대 교수들과 MIT의 막스 테그마크 교수가 함께했다.

"AI로 인한 멸종 위험을 완화하는 것은 전염병 및 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 전 세계적으로 우선 순위가 되어야 합니다."
CAIS가 발행한 서한은 다음과 같이 말합니다.

AI 안전 센터(CAIS), 샌프란시스코에 기반을 둔 비영리 단체는 인공 지능과 관련된 안전 문제를 해결하는 것을 목표로 합니다. CAIS는 AI의 잠재적 이점을 인식하면서 이를 안전하게 개발하고 사용할 필요성을 강조합니다. AI의 상당한 발전에도 불구하고 AI 안전에 대한 수많은 근본적인 문제가 해결되지 않은 상태로 남아 있다고 회사는 믿고 있습니다. 웹사이트에 따르면 CAIS의 임무는 안전 연구를 수행하고 AI 안전 연구원 커뮤니티를 육성하며 안전 표준을 옹호함으로써 위험을 완화하는 것입니다.

“AI의 멸종 위험뿐만 아니라 많은 "AI의 중요하고 긴급한 위험"이 있습니다. 예를 들어 시스템적 편견, 잘못된 정보, 악의적인 사용, 사이버 공격, 무기화 등이 있습니다. 이것들은 모두 해결해야 할 중요한 위험입니다. 사회는 한 번에 여러 위험을 관리할 수 있습니다. "어느 쪽/또는"이 아니라 "예/그리고"입니다. 리스크 관리 측면에서 현재의 피해만을 우선시하는 것이 무모하듯 이를 무시하는 것도 무모한 일”이라고 말했다.
CAIS 이사 Dan Hendrycks 쓴 트위터에.

1,100월, XNUMX명 이상의 기술 전문가 서명 XNUMX개월간 AI 시스템 훈련 중단을 요구하는 공개 서한 GPT-4. 유럽의 국회의원들도 최근 인가 된 AI법으로 알려진 더욱 엄격한 법안 초안은 다음과 같은 AI 도구를 규제합니다. ChatGPT. 이 법안에는 기본 AI 모델에 대한 안전 확인, 데이터 거버넌스 및 위험 완화에 대한 요구 사항이 포함되어 있으며 조작 기술 및 특정 생체 인식 사용과 같은 관행을 금지합니다.

더 읽기 :

태그 :

책임 부인

줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.

저자에 관하여

Agne는 메타버스, AI, Web3 산업 Metaverse Post. 스토리텔링에 대한 그녀의 열정으로 인해 그녀는 이 분야의 전문가들과 수많은 인터뷰를 진행했으며 항상 흥미롭고 매력적인 이야기를 발견하기 위해 노력했습니다. Agne는 문학 학사 학위를 보유하고 있으며 여행, 예술, 문화를 포함한 광범위한 주제에 대한 글쓰기에 대한 광범위한 배경을 가지고 있습니다. 그녀는 또한 동물 권리 단체의 편집자로 자원 봉사하여 동물 복지 문제에 대한 인식을 높이는 데 도움을 주었습니다. 그녀에게 연락하세요 [이메일 보호].

더 많은 기사

아그네 시메르만