다리오 아모데이, AI 발전 속도가 정책 대응 속도를 앞지르면서 거버넌스 공백이 발생하고 있다고 경고하며, 구속력 있는 안전 및 경제 개혁 촉구
요컨대
앤트로픽 CEO 다리오 아모데이는 AI의 위험성을 설명하고, AI의 빠른 발전을 관리하기 위해 더욱 엄격한 규제, 경제적 안전장치, 그리고 글로벌 협력을 제안했습니다.
다리오 아모데이, CEO 인류그는 새로운 에세이에서 인공지능(AI)이 정치 시스템의 대응 속도보다 훨씬 빠르게 발전하고 있다고 지적하며, 최첨단 모델들이 안보, 경제, 공공기관을 재편하기 시작함에 따라 정책 입안자들이 신속하게 적응해야 한다고 주장했습니다. 그는 AI 개발과 법률 제정 사이의 속도 격차를 재빠른 호빗과 느린 나무수염의 대비에 비유하며, 코딩, 과학, 기타 지식 분야에서 모델이 개선됨에 따라 이러한 불균형이 더욱 시급해지고 있다고 말했습니다.
이 기업가는 이전의 정책적 노력은 위험이 아직 불분명하고 새롭게 대두되는 시점이었기 때문에 투명성 제고, 수출 통제, 데이터 수집 등에 국한되었다고 강조했습니다. 그는 이제 상황이 달라졌다며, 첨단 모델들이 심각한 사이버 보안 문제를 드러내고 고도화된 AI 시스템이 금융 안정, 핵심 기반 시설, 국가 안보에 영향을 미칠 수 있음을 보여주었다고 지적했습니다. 그는 향후 정책은 단순한 정보 공개를 넘어 고위험 모델에 대한 구속력 있는 규제 마련으로 나아가야 한다고 주장했습니다.
인공지능 시대의 규제, 경제적 혼란, 그리고 새롭게 부상하는 정책 우선순위
규제 및 공공 안전과 관련하여 다리오 아모데이는 항공 감독과 유사한 프레임워크를 제안했는데, 여기에는 고급 모델 배포 전 의무적인 제3자 테스트가 포함됩니다. 그는 특정 컴퓨팅 임계값 이상의 모델은 사이버 보안, 생물학적 오용, 통제력 상실, 그리고 이러한 위협을 증폭시킬 수 있는 자동화된 연구와 관련된 위험을 평가해야 한다고 말했습니다. 또한 정부는 이러한 위험이 용납할 수 없는 수준이라고 판단될 경우 배포를 연기하거나 차단할 수 있어야 하며, AI 개발자에게 강력한 보안 관행, 정기적인 레드팀 활동, 침투 테스트, 그리고 신속한 사고 보고를 요구해야 한다고 강조했습니다.
이 에세이는 경제적 혼란에도 초점을 맞췄습니다. 아모데이 교수는 강력한 인공지능이 성장을 가속화하는 동시에 기존 기술보다 빠르게 인간의 인지 노동을 대체하여 많은 노동자를 실직시킬 수 있다고 지적했습니다. 그는 이러한 현상이 급속한 성장과 지속적인 불평등을 초래하여 혜택이 공평하게 분배되기 어렵게 만들 수 있다고 경고했습니다. 그는 정책적으로 측정, 인력 지원, 임금 보험, 재교육, 그리고 노동 수요가 크게 감소할 경우 장기적인 소득 지원에 초점을 맞춰야 한다고 주장했습니다.
다른 부분에서 앤트로픽 CEO는 AI가 특히 생물 의학 분야에서 과학 발전을 가속화할 수 있지만, 기존 규제 시스템이 AI 기반 혁신의 물결을 감당하기에는 너무 느릴 수 있다고 말했습니다. 그는 FDA와 EMA 같은 승인 기관이 AI 기반 시뮬레이션, 합성 대조군 및 안전성을 저하시키지 않으면서 신약 개발 기간을 단축할 수 있는 기타 방법을 수용할 수 있도록 준비해야 한다고 제안했습니다.
다리오 아모데이는 인공지능이 국가 권력을 강화하고 자율 무기, 대규모 감시, 정부의 불공정한 인공지능 이용 등 새로운 시민 자유 침해 위험을 초래할 수 있다고 경고했습니다. 그는 더욱 강력한 책임 규정, 완전 자율 무기의 국내 사용 제한, 그리고 더욱 엄격한 개인정보 보호를 촉구했습니다.
마지막으로 그는 민주주의 국가들이 AI 공급망, 안전 기준 및 경제적 협력에 대해 협력해야 한다고 말하며, AI가 지정학적 중요성 면에서 원자력에 필적하는 전략적 기술이 되고 있다고 주장했습니다.
책임 한계
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
전담 저널리스트인 알리사(Alisa) MPost암호화폐, 인공지능, 투자 및 광범위한 분야를 전문으로 합니다. Web3. 새로운 트렌드와 기술에 대한 예리한 안목을 바탕으로 그녀는 끊임없이 진화하는 디지털 금융 환경에 대해 독자들에게 정보를 제공하고 참여시키기 위해 포괄적인 취재를 제공합니다.
더 많은 기사
전담 저널리스트인 알리사(Alisa) MPost암호화폐, 인공지능, 투자 및 광범위한 분야를 전문으로 합니다. Web3. 새로운 트렌드와 기술에 대한 예리한 안목을 바탕으로 그녀는 끊임없이 진화하는 디지털 금융 환경에 대해 독자들에게 정보를 제공하고 참여시키기 위해 포괄적인 취재를 제공합니다.
