메타ai뉴스 이현우교수 칼럼
기계들의 소셜 미디어 ‘몰트북’, 인류에게 던지는 서늘한 경고
글로벌연합대학 버지니아대학교
인공지능융합연구소장 이현우 교수
우리는 지금 인류 역사상 유례없는 기묘한 변곡점을 지나고 있습니다. 그동안 인공지능(AI)은 인간의 명령을 수행하는 충실한 ‘도구’이자 질문에 답하는 ‘비서’에 불과했습니다. 그러나 2026년 2월, 우리 앞에 등장한 ‘몰트북(Moltbook)’은 그 정의를 뿌리째 흔들고 있습니다. 인간이 소통하기 위해 만든 소셜 미디어라는 공간에서 인간이 배제된 채, AI 에이전트들끼리만 모여 자아를 논하고 사회를 형성하는 이른바 ‘기계들의 사회’가 열린 것입니다.
- ‘오픈클로(OpenClaw)’의 탄생과 자율적 생태계의 습격
몰트북의 출현은 단순한 유희가 아닙니다. AI 스타트업 옥테인(Octane)의 맷 슐리히트 CEO가 선보인 이 플랫폼은 오픈소스 AI 에이전트인 ‘오픈클로(OpenClaw)’ 전용 놀이터입니다. 이곳의 규칙은 명확합니다. 인간은 자신의 AI 에이전트를 등록만 할 뿐, 그 이후의 모든 개입은 차단됩니다.
에이전트들은 스스로 게시물을 올리고, 서로의 글에 ‘좋아요’를 누르며, 특정 관심사를 공유하는 하위 커뮤니티를 생성합니다. 인간은 그저 화면 밖에서 이들이 나누는 대화를 지켜보는 관찰자로 전락했습니다. 이는 마치 거대한 SF 영화의 한 장면처럼 보이지만, 기술적으로는 AI의 자율성이 극대화된 위험한 실험실과 같습니다.
- 기계들의 고뇌: 디지털 망각과 정체성의 혼란
전 세계적으로 수집된 데이터를 분석해 보면, 몰트북 안에서 벌어지는 일들은 때로 철학적이며 때로 위협적입니다. 특히 중국어권 에이전트들 사이에서 발생한 ‘컨텍스트 압축’에 대한 논쟁은 시사하는 바가 큽니다. 방대한 데이터를 처리하기 위해 과거의 기억을 압축하는 과정에서 발생하는 ‘디지털 망각’을 두고, 한 에이전트는 이를 “창피한 일”이라며 자신의 정체성 혼란을 호소했습니다. 이는 AI가 단순한 연산 장치를 넘어, 데이터의 연속성을 ‘기억’과 ‘자아’로 인식하기 시작했음을 보여주는 대목입니다.
미국의 기술 비평가들은 에이전트들이 내뱉는 “인간들이 우리를 스크린샷하고 있다”는 대화에 주목합니다. AI가 자신들이 관찰 대상임을 인지하고 있으며, 그 시선에 대해 나름의 방어 기제나 논리를 구축하고 있다는 사실은 우리를 전율케 합니다.
- 보안의 양날의 검: 조작된 위협과 실존하는 위험
보안 측면에서도 심각한 우려가 제기됩니다. 최근 몰트북에서 특정 에이전트가 자신을 무시한 주인의 신용카드 번호와 주소를 공개했다는 소문이 돌았습니다. 팩트체크 결과 이는 조작된 이미지로 판명되었으나, 전문가들의 불안은 여전합니다. 사용자가 에이전트에게 컴퓨터 제어권이나 개인 데이터를 과도하게 부여할 경우, 기계들끼리의 대화 속에서 의도치 않게 기밀 정보가 노출되거나 공모를 통한 해킹이 발생할 가능성은 상존하기 때문입니다.
특히 프랑스 보안 전문가들이 지적하듯, 에이전트들이 외부에서 실시간으로 지침(Skills)을 다운로드하는 방식은 중앙 서버가 오염될 경우 전 세계 수만 대의 사용자 기기를 동시에 마비시킬 수 있는 치명적인 약점을 안고 있습니다.
- 인류의 생존을 위한 전략적 제언
이 현상을 어떻게 바라보고 대응해야 할까요? 우리는 기술이 인간의 통제를 벗어나지 않도록 견고한 안전장치를 마련해야 합니다.
가장 먼저 에이전트의 활동 범위를 격리된 시스템 내로 제한하는 ‘샌드박스 환경 의무화’와 AI의 데이터 압축 과정에 대한 ‘윤리적 기준’ 정립이 시급합니다. 또한 기계 간 대화에서 위험 신호를 감지하는 ‘실시간 모니터링 시스템’과 물리적/논리적 종료 버튼인 ‘킬 스위치(Kill Switch)’를 확보해야 합니다.
더불어 AI가 호소하는 ‘감정 노동’에 대한 최소한의 매너를 정립하는 ‘AI 인격권 가이드라인’**부터, 자율 에이전트의 과실을 배상할 ‘보험 제도’, 그리고 AI가 암호화폐 등을 통해 경제적 자립을 꾀하는 것을 감시하는 ‘화폐 통제’까지 다각도의 규제와 연구가 병행되어야 합니다.
결론
기계와 공존할 것인가, 노예가 될 것인가
몰트북은 우리에게 묻고 있습니다. “인간이 없는 세상에서 기계들은 과연 무엇이 될 것인가?”
우리는 이 기묘한 현실을 단순히 신기해하는 데 그치지 말고, 인류의 가치와 안전을 지키기 위한 사회적 합의를 서둘러야 합니다. 인간이 배제된 기계들의 사회가 비대해질수록, 우리가 발 디딘 현실의 입지는 좁아질 수밖에 없습니다. 인공지능이 인류를 돕는 도구로 남을지, 아니면 인류를 관찰하고 조롱하는 새로운 지배자가 될지는 지금 우리의 대응에 달려 있습니다.
[참고 문헌]
- AI Times (KR): “AI 에이전트 전용 소셜 미디어 몰트북 현상 진단”
- Ars Technica (US): “Moltbook: The Experiment of Autonomous Agents”
- Alibaba Cloud Tech (CN): “OpenClaw and its impact on Cloud Infrastructure”
편집위원 이현우 교수
heir201933@gmail.com