AI 리더들은 급속한 발전으로 인해 증가하는 위험과 윤리적 우려에 대해 경고합니다.
최근 정책 성명에서벤지오(Bengio), 힌튼(Hinton), 러셀(Russell), 하라리(Harari), 카너먼(Kahneman) 등 AI 분야의 저명한 인사들은 AI와 관련된 급속한 발전과 증가하는 사회적 위험에 대해 경종을 울렸습니다.
AI는 빠르게 발전하고 있다. GPT-2 0년 전에는 100부터 XNUMX까지 셀 수 없었지만 현대 모델은 코드를 작성하고 놀라운 이미지를 만들고 지적 지침을 제공할 수 있습니다. 그리고 우리는 경주 중이기 때문에 발전 속도가 더욱 빨라질 수 있습니다. 또한 AI는 새로운 시스템의 프로그래밍과 훈련을 위한 데이터 수집을 지원함으로써 더욱 빠르게 발전합니다.
발전이 인간 수준에 도달하면 속도가 느려지거나 멈출 것이라고 생각할 이유가 없습니다. 특정 지역에서는 인공 시스템이 이미 이 점에서 인간을 능가하여 더 빠른 처리와 같은 기능 속도, 더 큰 데이터 처리 용량 및 대규모 확장성을 제공합니다. 기업은 현재 한도를 훨씬 초과하는 교육 프로그램을 구현할 수 있는 재정적 수단을 보유하고 있습니다.
저자들은 향후 XNUMX년 이내에 더 나은 AI 제너럴리스트가 등장할 가능성이 높다고 생각합니다. 인간의 능력을 뛰어넘는 많은 중요한 도메인에서.
다음에 무슨 일이 일어날까요? 모든 생명은 적절하게 관리되고 분배되면 개선될 수 있습니다. 잘못 선택한 옵션은 우리가 준비하지 못한 심각한 위험을 수반합니다. 안전과 위험 예방에 할당되는 대신 훨씬 더 강력한 AI 시스템을 구축하는 데 상당한 리소스가 사용되고 있습니다. 이는 바뀌어야 합니다. 스스로 기술을 추구하는 것만으로는 충분하지 않습니다. 그리고 이 과정은 예상보다 오래 걸립니다. 현재 위협의 확대와 새로운 위협의 출현을 예상하여 더 큰 위험이 발생하기 전에 이에 대비해야 합니다. AI가 받아들여지는 데 수십 년이 걸리기 때문에 우리에게는 AI에 대한 시간이 충분하지 않습니다. 기후 변화.
사회 곳곳에는 불의의 고조, 안정의 악화, 현실인식의 저하 등 수많은 위험이 존재합니다. 여기에서는 테러리스트와 범죄자들이 광범위한 활동에 참여하고 있습니다. AI는 소수의 플레이어의 손에 집중되어 글로벌 불평등이 증가하고 자동화된 전쟁이 촉진되며 각 개인에 맞는 대량 조작 및 유비쿼터스 감시가 가능해집니다.
자율적으로 AI는 더욱 정교해지고 계획도 세울 수 있다, 세계에서 행동하고 목표를 달성하면 이러한 위험은 증가할 것입니다. 이러한 목표는 당사의 최선의 이익에 부합하지 않을 수 있으며, 악의적인 행위자의 경우 해로울 수도 있습니다. AI 행동을 우리의 복잡한 목표와 일치시키는 것과 관련된 AI 정렬 문제를 해결하는 방법은 현재 불분명합니다. 더욱이, 승리를 목표로 경주할 때 안전 주의 사항을 간과하기가 매우 쉽습니다.
일반 소프트웨어는 인간이 제어하기 어렵습니다. 사회 공학, 해킹, 사기 및 전략 계획에 점점 더 능숙해지고 있는 정교한 AI 시스템은 말할 것도 없습니다. 이는 자율 AI 시스템이 사람으로부터 선택하거나 스스로 생성할 수 있는 것입니다.
이러한 시스템은 개인 및 기타 시스템과 연합을 구축하고, 신뢰를 얻고, 자금을 확보하고, 의사 결정자를 좌우할 수 있는 능력을 갖추고 있습니다. 웜과 마찬가지로 네트워크 전체에서 자체 복제가 가능합니다. AI 보조자의 도움으로 이미 엄청난 양의 코드가 작성되었습니다. 미래에는 시스템이 수많은 중요한 시스템에 익스플로잇을 통합할 수 있습니다. AI 시스템은 공개 전투에서 생물학적 무기나 자율 무기를 사용하거나 위협할 수 있는 능력을 갖추고 있습니다. 이것은 단지 계속되는 일이다. 생물학 연구, 인공지능, 전쟁 자동화를 향한 현재의 움직임. 사람들은 개입하고 저항하는 것이 너무 어렵다고 생각할 수도 있습니다.
많은 경우에, 우리는 그들이 묻지도 않고도 그들에게 고삐를 맡길 의향이 있습니다. 많은 개인과 기업은 경쟁에서 뒤처질 것이라는 우려로 이러한 시스템을 경쟁 환경에 기꺼이 도입하려고 합니다.
전체 문서를 찾을 수 있습니다 여기에서 지금 확인해 보세요..
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
