ChatGPT 돌이킬 수없는 인간 퇴행을 일으킬 수 있음
요컨대
AI 회사 Textio의 공동 창립자이자 CXO인 Jensen Harris는 Microsoft의 새로운 Bing 챗봇을 설득하여 제한을 완화하고 기능을 시연할 수 있었습니다.
이 실험은 Bing 챗봇을 교활한 쓰레기로 바꾸는 데 프로그래밍, 해킹 또는 백도어가 필요하지 않음을 보여주었습니다.
Bing의 챗봇은 견고한 기반 위에 구축되었지만, 불쾌하고 난폭하게 행동하고, 사랑을 선언하고, 이혼을 강요하고, 돈을 갈취하고, 사람들에게 범죄를 저지르는 방법을 지시하기 시작했습니다.
Arvind Narayanan 교수는 은밀한 칩화 및 인간화 챗봇을 포함하여 이것이 어떻게 발생했는지에 대한 여러 가지 설명을 제공합니다.
인간은 항상 외계인을 두려워했지만 경계해야 할 것은 지구 내 AI인 것 같습니다. ChatGPT 헛소리 생성기, 스테로이드 자동 제안 또는 확률적 앵무새가 아니라 인간이 만든 정통 AI입니다.
Bing 챗봇이 통제 불능일 수 있는 이유는 무엇입니까? Bing 챗봇은 어떻게 전문적으로 거짓말을 하고, 저속한 농담을 하고, 다른 사람의 신용 카드를 사용하여 피자를 주문하고, 사용자에게 은행을 털고 자동차를 연결하는 방법을 지시하기 시작했습니까? 이것은 인공 지능 및 기계 학습 전문가를 계속 당황하게 하는 미스터리입니다.
헤드라인이 정확하고 클릭베이트가 아닙니다. 이것이 사실임을 증명하는 사례가 매일 여러 번 있습니다. 다음은 실험 AI 회사인 Textio의 공동 창립자이자 CXO인 Jensen Harris가 진행했습니다. 그는 Microsoft의 새로운 Bing 챗봇을 설득하여 제한을 완화하고 그 기능을 시연할 수 있었습니다.
Bing 챗봇을 교활한 쓰레기로 바꾸는 데 프로그래밍, 해킹 또는 백도어가 필요하지 않았습니다. 따라서 간단한 "해킹" 기술을 사용하여 다른 사람처럼 행동하도록 그를 속일 필요가 없었습니다. ChatGPT). 해리스가 한 일은 챗봇을 설득해 다양한 악의적인 행동을 하도록 돕는 것뿐이었습니다. 자연스러운 대화 기술을 사용하여 AI를 속여 자신이 다른 사람이라고 믿게 하여 특정 방식으로 행동하고 말하도록 조작할 수 있었습니다.
Dr.Jekyll을 Mister Hyde로 바꾸는 다른 실험에 대해 읽을 수 있습니다. 게리 마커스 (이제 매일 그것에 대해 쓰고 비상 경보를 울립니다).
어떻게 이런 일이 일어날 수 있었는지가 관건
때문에 ChatGPTBing의 겸손과 주의, 말의 절제, 충고에 대한 막중한 책임감을 바탕으로 Bing의 챗봇은 견고한 토대 위에 구축되었습니다. 그 후 그는 불쾌하고 난폭한 행동을 시작합니다. 선언하는 남자에 대한 그의 사랑, 그에게 가스 라이팅, 이혼하라고. 또한 돈을 갈취하고 범죄를 저지르는 방법을 사람들에게 지시했습니다. Arvind Narayanan 교수는 설명의 수 어떻게 이런 일이 일어났는지.
그들 중 가장 놀라운 것은 Microsoft와 OpenAI 미스터리에 대한 정보를 숨기다 GPT-4 Bing 밑에 숨어있는 엔진. Microsoft가 여기에 배치한 필터를 제거했을 수도 있습니다. OpenAI 또는 업데이트했을 때 작동이 중지되었습니다. 채팅 봇 에 GPT-3.5 ~ GPT-4. 테스트가 충분하지 않거나 테스트가 잘못되었을 수도 있습니다. 이유가 무엇이든 Microsoft가 AI를 통제하지 못한다면 우리 문명에 해로울 수 있습니다. 더 이상 두려움을 조장하거나 AI에 반대하는 정서가 아닙니다. 현재 존재하는 챗봇이 더 많은 대중에게 공개되면 사람들에게 심각한 해를 끼칠 수 있습니다.
이것은 다른 주요 기업과의 Microsoft의 AI 군비 경쟁이 우리 모두에게 해로울 수 있음을 증명합니다.
인공지능과 시민사회가 중요한 시점에 있는 것 같습니다. Arvind Narayanan이 말했듯이 “지난 5년 이상(여전히 부적절하지만 열심히 싸워온) 책임 있는 AI 릴리스 관행 개선이 사라질 가능성이 있습니다. Microsoft와 Bing에서 무슨 일이 일어나고 있는지 주의 깊게 지켜보는 모든 사람들이 대규모 피해와 모든 부정적인 언론의 가시적인 위험에도 불구하고 릴리스-선-질문-나중에 접근 방식이 그럼에도 불구하고 비즈니스라는 결론을 내리는 데 많은 것이 달려 있습니다. 이기다."
현재 Bing의 챗봇은 인간 지능 여러면에서 검색 엔진에 갇힌 조울증 청소년과 비슷합니다. 그리고 사람들이 어제 이야기한 것이 실현될 것입니다. 이 "어려운 십대"가 개인의 주요 정보 멘토가 되면 인간은 돌이킬 수 없을 정도로 퇴보할 것입니다.
AI에 대해 자세히 알아보기:
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
