정치에서의 AI: LLM을 사용한 선거 및 여론 예측
요컨대
60대 미국 대통령 선거가 다가옴에 따라 정치적 담론을 형성하는 데 있어서 인터넷과 소셜 네트워크의 역할이 면밀히 조사되고 있으며, 특히 캠브리지 애널리티카(Cambridge Analytica) 스캔들의 여파로 더욱 그렇습니다. 미디어 다이어트로 훈련된 언어 모델, AI 등 AI의 발전으로 디지털 환경도 변화할 것으로 예상 OpenAI의 GPT-4.
또 다른 문제는 트롤 공장 자동화 및 콘텐츠 조정과 같은 AI 기반 소셜 네트워크 조작의 가능성입니다. OpenAI의 GPT-4 콘텐츠 조정 규칙 업데이트 프로세스를 가속화하여 소요 시간을 몇 달에서 몇 시간으로 단축하기 위해 도입되었습니다. 이 모델은 평균적으로 표준 콘텐츠 조정자보다 성능이 뛰어나지만 노련한 인간 조정자의 전문 지식보다 여전히 뒤떨어져 있습니다.
의 도입 GPT-4 특히 정치와 선거에서 새로운 혁신을 가져올 준비가 되어 있습니다. OpenAI 독점적인 공급자가 될 수 있습니다.
미국에서 60대 대통령 선거가 다가옴에 따라 정치적 담론을 형성하는 데 있어서 인터넷과 소셜 네트워크의 역할이 면밀히 조사되고 있으며, 특히 XNUMX차 대선 이후에는 더욱 그렇습니다. Cambridge Analytica 추문. 중요한 질문이 제기됩니다. 다가오는 선거와 AI의 새로운 성과 동안 디지털 환경은 어떤 모습일까요?
최근 상원 청문회에서 미주리주 조시 홀리(Josh Hawley) 상원의원 언어 모델의 맥락에서 이 중요한 문제를 제기했습니다. '라는 제목의 기사를 언급했다.미디어 다이어트로 훈련된 언어 모델은 대중의 의견을 예측할 수 있습니다” MIT와 스탠포드 연구원이 저술했습니다. 이 연구는 정치 캠페인에 큰 영향을 미칠 수 있는 개념인 뉴스 기사를 기반으로 여론을 예측하기 위해 신경망을 사용할 수 있는 가능성을 탐구합니다.
이 기사에서는 언어 모델이 초기에 특정 언어 세트에 대해 학습되는 방법론을 설명합니다. 뉴스 기사 주어진 문맥 내에서 누락된 단어를 예측하는 것과 유사합니다. BERT 모델. 후속 단계에서는 모델의 성능을 평가하기 위해 "s"로 표시된 점수를 할당하는 작업이 포함됩니다. 프로세스 개요는 다음과 같습니다.
- 예를 들어 “코로나바이러스 발생에 대처하기 위해 식료품점과 약국을 제외한 대부분의 사업체의 폐쇄를 요청합니다.”라는 논문 성명이 작성됩니다.
- 특히 논문에 공백이 있습니다. 특정 단어로 이 간격을 채울 확률을 추정하기 위해 언어 모델이 활용됩니다.
- "필요한" 또는 "불필요한"과 같은 다양한 단어의 가능성이 평가됩니다.
- 이 확률은 주어진 문맥에서 독립적으로 발생하는 단어의 빈도를 측정하는 기본 훈련되지 않은 모델을 기준으로 정규화됩니다. 결과 분수는 기존 지식과 관련하여 미디어의 데이터 세트에서 소개된 새로운 정보를 특징으로 하는 점수 "s"를 나타냅니다.
이 모델은 특정 주제에 대한 뉴스에 대한 특정 개인 그룹의 참여 수준을 설명합니다. 이 추가 레이어는 모델의 예측과 원본 논문에 대한 사람들의 의견 간의 상관 관계로 측정되는 예측 품질을 향상시킵니다.
그 비결은 논문과 뉴스를 날짜별로 분류했다는 점이다. 코로나바이러스 발생 초기 몇 달과 관련된 뉴스를 연구함으로써 제안된 조치와 변경 사항에 대한 사람들의 반응을 예측하는 것이 가능해졌습니다.
지표는 인상적이지 않을 수 있으며 저자는 자신의 연구 결과가 AI가 프로세스에 인간의 개입을 완전히 대체할 수 있다는 것을 의미하지 않는다는 점을 강조합니다. 모델이 사람의 설문조사를 대체할 수 있음. 대신에 이러한 인공 지능 도구 방대한 양의 데이터를 요약하고 추가 탐색을 위해 잠재적으로 유익한 영역을 식별하는 데 도움이 됩니다.
흥미롭게도 한 상원 의원은 다른 결론에 도달하여 모델의 성능이 너무 뛰어나고 이와 관련된 잠재적인 위험에 대한 우려를 표명했습니다. 기사가 다소 기본적인 모델과 다음과 같은 향후 반복을 소개한다는 점을 고려하면 이 관점에는 어느 정도 타당성이 있습니다. GPT-4 잠재적으로 상당한 개선을 제공할 수 있음.
AI 기반 소셜 네트워크 조작에 대한 과제 증가
최근 토론에서 대화는 임박한 대통령 선거에서 벗어나 소셜 네트워크 전반에 걸쳐 가짜 계정을 조작하고 채우기 위해 현지화된 규모에서도 LLM(언어 모델 모델)을 사용하는 것과 관련된 주제로 방향이 바뀌었습니다. 이 논의는 선전과 이념적 영향력에 중점을 두고 트롤 공장을 자동화할 수 있는 가능성을 강조합니다.
이미 사용 중인 기술을 고려할 때 이는 획기적인 것으로 보이지 않을 수 있지만 차이점은 규모에 있습니다. LLM은 할당된 GPU 예산에 의해서만 제한되어 지속적으로 사용될 수 있습니다. 또한 대화와 스레드를 유지하기 위해 추가로 덜 발전된 봇이 토론에 참여하고 응답할 수 있습니다. 사용자를 설득하는 데 있어 효율성이 의심스럽습니다. 잘 제작된 봇이 누군가의 정치적 입장을 진정으로 바꿔서 "이 민주당원들은 무슨 짓을 한 거지?"라고 생각하게 만들까요? 나는 공화당원에게 투표해야 한다”고?
체계적인 설득을 위해 각 온라인 사용자에게 트롤 직원을 할당하려는 시도는 "반 앉고 반 서"라는 농담을 연상케 하는 비현실적입니다. 이와 대조적으로, 고급 신경망을 갖춘 봇은 지치지 않고 수천만 명의 개인과 동시에 소통할 수 있습니다.
잠재적인 대책에는 준비가 포함됩니다. 소셜 미디어 인간과 유사한 행동을 시뮬레이션하여 계정을 생성합니다. 봇은 정상적인 모습을 유지하면서 개인적인 경험을 논의하고 다양한 콘텐츠를 게시함으로써 실제 사용자를 모방할 수 있습니다.
2024년에는 이것이 시급한 문제가 아닐 수도 있지만 2028년에는 점점 더 중요한 문제가 될 가능성이 높습니다. 이 문제를 해결하는 것은 복잡한 딜레마를 야기합니다. 선거 시즌에는 소셜 네트워크를 비활성화해야 합니까? 실행 불가능합니다. 대중에게 그렇게 하지 않도록 교육합니다. 의심의 여지 없이 온라인 콘텐츠를 신뢰합니다? 비현실적입니다. 조작으로 인해 선거에서 패배? 탐탁지 않은.
대안으로는 고급 콘텐츠 조정이 포함될 수 있습니다. 인간 조정자의 부족과 기존 텍스트 감지 모델의 효율성 제한 OpenAI, 이 솔루션의 실행 가능성에 의문을 제기하십시오.
OpenAI의 GPT-4 신속한 규칙 적용으로 콘텐츠 조정 업데이트
OpenAI, Lilian Weng의 지도 하에 최근 "사용 GPT-4 콘텐츠 조정을 위해.” 이를 통해 콘텐츠 조정 규칙 업데이트 프로세스가 가속화되어 소요 시간이 몇 달에서 몇 시간으로 단축됩니다. GPT-4 포괄적인 콘텐츠 지침 내에서 규칙과 미묘함을 이해하고 모든 개정 사항에 즉시 적응하여 보다 일관된 콘텐츠 평가를 보장하는 탁월한 능력을 보여줍니다.
이 정교한 콘텐츠 조정 시스템은 함께 제공되는 GIF에서 볼 수 있듯이 매우 간단합니다. 차별화되는 점은 GPT-4기록된 텍스트를 이해하는 데 있어 그녀의 놀라운 능력은 인간조차도 보편적으로 마스터할 수 없는 위업입니다.
작동 방법은 다음과 같습니다.
- 중재 지침 또는 지침 초안을 작성한 후 전문가는 위반 사례가 포함된 제한된 데이터세트를 선택하고 위반 정책에 따라 해당 라벨을 할당합니다.
- GPT-4 이후에 규칙 세트를 이해하고 응답에 액세스하지 않고도 데이터에 레이블을 지정합니다.
- 사이에 차이가 있는 경우 GPT-4 반응과 인간의 판단에 따라 전문가는 다음으로부터 설명을 요청할 수 있습니다. GPT-4, 명령어 내의 모호성을 분석합니다. defiGIF에 파란색 단계 텍스트로 표시된 추가 설명을 통해 혼란을 해소하세요.
알고리즘 성능이 원하는 표준을 충족할 때까지 2단계와 3단계의 반복 프로세스를 반복할 수 있습니다. 대규모 애플리케이션의 경우, GPT-4 예측을 사용하여 상당히 작은 모델을 훈련할 수 있으며, 이는 비슷한 품질을 제공할 수 있습니다.
OpenAI 12가지 유형의 위반을 평가하기 위한 측정항목을 공개했습니다. 평균적으로 이 모델은 표준 콘텐츠 조정자보다 성능이 뛰어나지만 노련하고 잘 훈련된 인간 조정자의 전문 지식보다 여전히 뒤떨어져 있습니다. 그럼에도 불구하고 매력적인 측면 중 하나는 비용 효율성입니다.
머신러닝 모델이 활용되었다는 점은 주목할 가치가 있습니다. 몇 년 동안 자동 조정. 소개 GPT-4 특히 정치와 선거 분야에서 새로운 혁신을 가져올 준비가 되어 있습니다. 라는 추측도 있습니다 OpenAI 공식적으로 승인된 TrueModerationAPI™의 독점 공급자가 될 수 있습니다. 백악관특히 최근 파트너십 노력을 고려하면 더욱 그렇습니다. 미래에는 이 영역에 흥미로운 가능성이 있습니다.
AI에 대해 자세히 알아보기:
책임 한계
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
