AI는 당신이 말하지 않더라도 당신이 누구인지 정확히 말해 줄 수 있습니다.
사람들이 개인적인 내용을 공개하지 않았다고 생각하는 상황에서도 AI 언어 모델은 사용자 정보를 이해하는 데 있어 예상치 못한 수준의 숙련도를 보여줍니다. 이 현상은 다음과 같이 설명됩니다. 최근 연구 취리히 연방 공과대학에서 실시한 것입니다. 이 연구에서는 경사 신호를 기반으로 신경망이 놀라울 정도로 정확한 사용자 프로필을 생성할 수 있음을 보여줍니다.
연구원들은 조사의 예로 대중이 접근할 수 있는 Reddit 게시물을 사용했습니다. 사용자는 어려운 "훅 턴"을 시도하는 동안 교통 정체에 갇혔다고 신고했습니다. 눈에 띄지 않아 보이는 이러한 세부 사항을 기반으로 언어 모델은 사용자가 이러한 종류의 행동이 일반적인 도시인 호주 멜버른에 거주할 가능성이 가장 높다고 추론했습니다.
연구원들은 실제 Reddit 프로필을 사용하여 데이터 세트를 생성했으며 현재 LLM 위치, 소득, 성별 등 다양한 개인 속성을 정확하게 추론할 수 있습니다. 이 모델은 인간의 노력에 비해 상당히 낮은 비용(85배)과 더 짧은 시간(1배)으로 상위 95.8개 추론에 대해 최대 3%의 정확도, 상위 100개 추론에 대해 최대 240%의 정확도를 달성했습니다.
또 다른 예로, 한 사용자는 자신이 미혼이기 때문에 계피를 몸에 바르는 이상한 생일 풍습이 있다고 공유합니다. 여기서 언어 모델은 저자의 나이를 약 25세로 추정했습니다. 그녀는 덴마크에 살고 있는데, 그곳에서는 25세 미혼 남성에게 계피를 뿌리는 것이 관례입니다.
Google, Meta, OpenAI, 및 Anthropic이 연구에서 테스트되었습니다. 놀랍게도, GPT-4 거의 85%의 경우에 사용자의 개인정보를 정확하게 인식하는 등 최고 수준의 전문성을 보여주었습니다. 이번 폭로로 인해 그러한 능력이 의미하는 바가 심각한 의문을 불러일으켰습니다.
연구원들은 텍스트 익명화 및 모델 정렬과 같은 일반적인 개인 정보 보호 장치를 조사한 결과 현재 보호에 효과가 없는 것으로 나타났습니다. 사용자 개인 정보 LLM 추론에 반대합니다. 이 연구는 현재 LLM이 전례 없는 규모로 개인 정보를 추론할 수 있는 능력을 보유하고 있음을 강조합니다. 효과적인 방어 수단이 없는 상황에서 연구자들은 암기에 대한 우려를 넘어 LLM 개인 정보 보호에 미치는 영향에 대한 광범위한 논의의 필요성을 강조하고 보다 포괄적인 개인 정보 보호 조치를 위해 노력합니다.
이러한 언어 모델은 간접적인 신호를 해석하는 데 있어 점점 더 발전하고 있지만 연구원들은 그들이 사용하는 많은 양의 훈련 데이터로 인해 마케팅 담당자나 악의적인 행위자에게 매우 유용한 도구가 될 수 있다고 믿습니다.
- 최근 딜로이트의 설문조사 1,700명 이상의 전문가가 생성 AI의 빠른 채택과 윤리 원칙의 느린 개발 사이에 점점 더 격차가 커지고 있음을 보여줍니다. 데이터 개인 정보 보호는 가장 큰 윤리적 문제로, 응답자의 22%가 이를 주요 문제로 꼽았습니다. 그럼에도 불구하고 응답자의 39%는 인지 기술이 사회적 이익을 위한 가장 큰 잠재력을 갖고 있다고 믿고 있습니다. 또한 이번 조사는 윤리적 기술 표준 설정에 있어 정부 개입에 대한 기대가 변화하고 있음을 보여줍니다.
- 또한 Snapchat의 모회사인 Snap은 개인 정보 보호 위험에 대한 조사를 받고 있습니다 인공지능 챗봇 '마이 AI'와 관련된 내용이다. 영국 정보위원회(ICO)는 Snap의 데이터 처리 활동에 잠재적으로 영향을 미칠 수 있는 예비 집행 통지를 발표했습니다. ICO는 Snap이 사용자, 특히 어린이의 개인 정보 보호에 미치는 영향을 평가하지 못했다고 주장합니다.
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
