GPT-스팸봇이 온라인 플랫폼에 도전
요컨대
GPT원치 않는 프로모션을 목표로 하는 스팸 봇은 Twitter 및 Telegram과 같은 플랫폼에서 중요한 문제가 되었습니다.
이러한 정교한 AI 프로그램은 게시물의 맥락을 분석하고 복제하여 간섭을 더 유기적이고 식별하기 어렵게 만듭니다.
새로운 유형의 혼란이 등장했습니다. GPT- 구동 스팸 봇. 이러한 정교한 AI 프로그램은 스팸 플레이북의 새로운 페이지를 열었으며, 원치 않는 프로모션을 통해 Twitter 및 Telegram과 같은 플랫폼의 게시물을 표적으로 삼는 경우가 많습니다.
Bowman의 GPT-스팸 봇은 게시물의 맥락을 분석하고 복제할 수 있으므로 과거의 일반 스팸보다 스팸 봇의 간섭이 더 자연스럽고 발견하기 어려워집니다. 전통적인 보호 조치는 대부분 효과가 없기 때문에 어려움을 겪고 있습니다. 현재 이러한 봇은 수동 개입 및 제거가 가능한 빠른 응답 시간을 통해서만 식별할 수 있습니다.
끊임없는 스팸 공격은 제작자와 관리자를 지치게 합니다. Telegram과 같은 플랫폼의 많은 채널 운영자는 이러한 요구가 증가함에 따라 이러한 정교한 스팸 댓글을 인식하고 삭제할 수 있는 전문 서비스에 대한 열망을 표명했습니다. 자신을 "서비스로서의 중재자"라고 생각하는 이러한 운영자는 솔루션에 투자할 준비가 되어 있으며 월 $20-30를 지불하거나 게시물 또는 메시지의 양에 따라 사용량 기반 청구 모델을 사용할 의향이 있음을 표명했습니다. 지켜보고 있는 것.
그러나 어려움은 여기서 끝나지 않습니다. 다가오는 파도가 있습니다 GPT-기술이 발전함에 따라 더욱 숙련될 것으로 예상되는 스패머. 응답 지연과 같은 전략을 사용하거나 서로 상호 작용하는 다양한 AI 특성을 사용할 수 있습니다. 이러한 상황에서 인간 사용자와 봇을 구별하는 것은 어려운 작업이 됩니다.
조차 기술 거인 문제와 씨름하고 있습니다. OpenAI 는 AI 생성 콘텐츠를 식별하도록 설계된 텍스트 감지기의 개발로 이 문제를 해결하기 위한 한 걸음을 내디뎠습니다. 안타깝게도 탐지기의 낮은 정확도로 인해 프로젝트가 보류되면서 그들의 노력은 차질을 빚었습니다. 2023년 XNUMX월 TechCrunch에서 보고한 대로.
플랫폼 관리자만이 증가하는 문제를 우려하는 것은 아닙니다. GPT- 강화된 스팸 봇. AI가 생성한 제출물과 실제 콘텐츠를 분리하는 문제는 이제 소셜 미디어 관리자와 스타트업에게도 직면해 있습니다. 이러한 상황은 긴급한 필요성을 강조하고 현대의 첨단 스팸 방법에 대응하기 위한 효율적인 솔루션을 만들 수 있는 새로운 계획과 프로젝트에 대한 기회를 제공합니다.
언어 모델의 발전과 잘못된 온라인 정보에 대한 시사점
실용성과 인간에 가까운 대화 능력 GPT 사용자들의 지적을 받았습니다. 그러나 감탄을 자아낸 동일한 기능은 잠재적인 오용에 대한 우려를 낳기도 합니다.
인간과 유사한 반응을 모방하는 AI의 능력을 고려할 때 악의적인 의도에 대한 배포에 대한 우려가 있습니다. 학계, 사이버 보안, AI 분야의 전문가들은 잠재적인 활용을 강조합니다. GPT 악의적인 의도를 가진 개인이 디지털 플랫폼에서 선전을 퍼뜨리거나 불안을 조장하는 행위입니다.
역사적으로 잘못된 정보를 전파하려면 상당한 사람의 개입이 필요했습니다. 정제된 언어 처리 시스템의 도입으로 영향 작업의 범위와 범위를 확대할 수 있습니다. 소셜 미디어 타겟팅, 보다 맞춤화되어 잠재적으로 더 설득력 있는 캠페인을 만들 수 있습니다.
소셜 미디어 플랫폼은 이전에 잘못된 정보를 퍼뜨리기 위한 공동 노력을 목격했습니다. 예를 들어, 2016년 미국 대선을 앞두고 상트페테르부르크에 기반을 둔 Internet Research Agency는 대대적인 캠페인을 벌였다. 2019년 상원 정보위원회가 추론한 그들의 목표는 대통령 후보에 대한 유권자의 인식에 영향을 미쳤다..
XNUMX월 보고서에서는 AI 기반 기술의 출현이 강조되었습니다. 언어 모델 오해의 소지가 있는 콘텐츠의 확산을 증가시킬 수 있습니다. 콘텐츠의 양만 늘어나는 것이 아니라 설득력도 높아져 일반 인터넷 사용자가 진정성을 식별하기 어렵게 되었습니다.
조쉬 골드스타인, Georgetown의 보안 및 신흥 기술 센터 소속이자 이 연구의 기고자로서 대량의 고유한 콘텐츠를 생성하는 생성 모델의 기능을 언급했습니다. 이러한 기능을 통해 악의적인 의도를 가진 개인은 반복적인 콘텐츠에 의존하지 않고 다양한 내러티브를 유포할 수 있습니다.
텔레그램과 같은 플랫폼의 노력에도 불구하고, 가짜 계정에 대응하기 위한 트위터와 페이스북, 언어 모델의 진화는 더 기만적인 프로필로 이러한 플랫폼을 포화시킬 위험이 있습니다. Carnegie Mellon University의 컴퓨터 과학 교수인 Vincent Conitzer는 다음과 같은 첨단 기술에 주목했습니다. ChatGPT, 위조 프로필의 확산을 크게 높일 수 있습니다., 실제 사용자와 자동화된 계정 간의 경계가 더욱 모호해집니다.
Mr. Goldstein의 논문과 보안 회사 WithSecure Intelligence의 보고서를 포함한 최근 연구에서는 생성 언어 모델 기만적인 뉴스 기사를 작성합니다. 이러한 거짓된 내러티브가 유포되면 소셜 플랫폼, 특히 중요한 선거 기간 동안 여론에 영향을 미칠 수 있습니다.
Chat과 같은 고급 AI 시스템으로 인해 잘못된 정보가 증가하고 있습니다.GPT 온라인 플랫폼이 보다 적극적인 조치를 취해야 하는가?라는 질문을 던집니다. 일부에서는 플랫폼이 모호한 콘텐츠를 엄격하게 표시해야 한다고 주장하지만 과제는 여전히 남아 있습니다. Northwestern Institute on Complex Systems의 Luís A Nunes Amaral은 플랫폼의 어려움에 대해 언급하면서 각 게시물을 모니터링하는 데 드는 비용과 그러한 분열적인 게시물이 가져오는 부주의한 참여 증가를 모두 언급했습니다.
AI에 대해 자세히 알아보기:
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
