Ross Anderson, 온라인 콘텐츠에서 점점 커지는 문제로 AI 모델 붕괴에 대해 논의
불과 XNUMX개월 만에 제너레이티브 AI는 상당한 발전을 이루며 전 세계의 주목을 받았습니다. ChatGPT이 기술의 두드러진 예인 는 빠르게 인기를 얻고 널리 사용되었습니다. 그러나 저명한 전문가 로스 앤더슨(Ross Anderson)은 잠재적 인 위험 차세대 모델의 지적 쇠퇴와 관련이 있습니다.
Ross Anderson은 안전 엔지니어링의 선구자이자 보안 시스템 및 알고리즘의 취약점을 찾는 데 있어 선도적인 권위자입니다. Royal Academy of Engineering의 펠로우이자 케임브리지 대학의 교수로서 그는 정보 보안 분야에 광범위하게 기여하여 다양한 부문에서 위협 모델을 형성했습니다.
이제 Anderson은 인류에 대한 세계적인 위협에 대해 경고합니다.대규모 언어 모델(LLM)의 붕괴. 최근까지 인터넷에 있는 대부분의 텍스트는 인간이 생성했습니다. LLM은 이제 인간이 생성한 콘텐츠를 대체하여 새 텍스트를 편집 및 생성하는 기본 도구가 되었습니다.
이러한 변화는 중요한 질문을 제기합니다. 이 추세가 어디로 이어질 것이며 LLM이 인터넷을 지배할 때 어떤 일이 일어날까요? 그 의미는 텍스트 그 이상입니다. 예를 들어 뮤지컬 모델 모차르트의 작곡으로 훈련을 받았다면 다음 세대는 원작의 탁월함이 부족할 수 있으며 뮤지컬 "살리에리"에 견줄만한 열등한 결과를 낳을 수 있습니다. 다음 세대가 거듭될수록 품질과 지능이 저하될 위험이 증가합니다.
이 컨셉은 영화 “다수,”Michael Keaton이 주연을 맡은 복제로 인해 지능이 감소하고 각 후속 복제의 어리 석음이 증가합니다.
LLM에서도 동일한 현상이 발생할 수 있습니다. 모델 생성 콘텐츠로 모델을 교육하면 돌이킬 수 없는 결함이 발생하고 여러 세대에 걸쳐 텍스트 품질이 저하됩니다. 콘텐츠의 원래 배포가 왜곡되어 무의미한 정보가 유입됩니다. 가우시안 분포가 수렴하고 극단적인 경우 텍스트가 무의미해질 수 있습니다. 후세대는 전임자의 실수를 바탕으로 현실을 잘못 인식할 수도 있습니다. 이 현상을 "모델 붕괴"라고 합니다.
모델 축소의 결과는 중요합니다.
✔️ 인터넷은 점점 무의미한 콘텐츠로 채워지고 있습니다.
✔️ 이 콘텐츠를 소비하는 개인은 자신도 모르게 정보가 줄어들고 지적 능력을 잃을 수 있습니다.
다행히도 희망이 있습니다. 앤더슨은 모델 붕괴를 방지할 수 있다고 제안하며 우려 속에 낙관론의 빛을 제공합니다. 가능한 솔루션과 온라인 정보 품질 저하를 방지하는 방법에 대해 자세히 알아보려면 더 자세히 살펴보시기 바랍니다.
제너레이티브 AI가 유망하지만 경계를 늦추지 않고 그것이 제시하는 문제를 해결하는 것이 필수적입니다. 모델 붕괴와 관련된 위험을 이해하고 완화함으로써 우리는 인터넷에서 정보의 무결성을 유지하면서 이 기술의 이점을 활용하기 위해 노력할 수 있습니다.
AI에 대해 자세히 알아보기:
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
