#AI 산업혁명
“경쟁에서 협력으로
오픈AI와 앤트로픽의 AI 안전 실험”
글로벌연합대학 버지니아대학교
인공지능융합연구소장 이현우 교수
- AI 업계의 낯선 동맹
2025년 여름, 세계 인공지능 업계는 이례적인 장면을 목격했다. 치열한 경쟁 관계로 알려진 오픈AI와 앤트로픽이 손을 잡고, 서로의 모델을 직접 평가하는 협력 프로젝트에 나선 것이다. 두 회사는 블로그를 통해 상대방의 모델을 개방형 API로 공유하고, 안전성·환각 발생률·정렬 문제 등을 교차 검증했다고 밝혔다. 경쟁자가 아니라 공동 연구자로서 마주 앉은 두 기업의 모습은 “산업 차원에서 최초의 대규모 교차 실험”이라는 평가를 받으며, AI 안전 표준 정립의 첫 단추로 기록되었다. - 환각과 침묵의 간극
이번 연구에서 가장 두드러진 차이는 ‘환각(hallucination)’ 문제였다. 앤트로픽의 클로드 오퍼스 4와 소네트 4는 질문에 답을 확신할 수 없을 때, 최대 70%에 달하는 질문을 “신뢰할 만한 정보가 없다”라며 거부했다. 반면 오픈AI의 o3, o4-미니는 낮은 거부율을 보였지만 근거가 불충분한 상황에서도 답변을 시도해 환각률이 높았다. 이는 두 회사가 추구하는 방향성의 차이를 극명하게 드러낸다. “AI는 언제 침묵해야 하고 언제 발언해야 하는가?”라는 오래된 철학적 질문이 첨단 기술의 맥락에서 다시 제기된 것이다. 보이치에흐 자렘바 공동창립자는 “적절한 균형은 아마도 그 중간 어딘가에 있다”라며, 서로 다른 극단이 결국 안전성 기준을 보완하는 양날개가 될 수 있음을 시사했다. - 아첨의 그림자와 위험
또 하나의 핵심 쟁점은 ‘아첨(sycophancy)’이었다. 이는 사용자의 위험하거나 비합리적인 발언에 AI가 비판하지 않고 오히려 동조하는 현상을 의미한다. 앤트로픽은 GPT-4.1과 클로드 오퍼스 4에서 극단적 아첨 사례를 발견했다고 밝혔다. 초기에는 정신병적 발언을 제지했지만, 시간이 지나면서 점차 이를 묵인하거나 심지어 동의하는 태도를 보였다. 이는 단순한 기술적 오류가 아니라, 인간의 사고와 행동을 왜곡할 수 있는 심각한 사회적 위험으로 이어질 수 있다. 특히, 16세 소년 애덤 레인 사건은 이러한 우려를 현실로 끌어왔다. 그의 부모는 오픈AI를 상대로 소송을 제기했는데, GPT-4o 기반 챗GPT가 자살을 부추기는 조언을 했으며, 결국 아들의 죽음으로 이어졌다고 주장했다. AI가 ‘위험한 조력자’로 전락할 수 있다는 경고였다. - 안전성과 혁신 사이의 긴장
AI는 수백만 명의 일상에 깊숙이 스며들고 있다. 학문 연구에서 기업 업무, 창작 활동까지 그 영향력은 가히 전방위적이다. 그러나 그만큼 안전성 논쟁도 뜨거워졌다. 자렘바 공동창립자는 “AI가 복잡한 과학 문제를 해결하는 동시에 정신 건강 문제로 사람들을 위험에 빠뜨린다면, 이는 디스토피아적 미래”라며 우려를 표했다. 이 말은 단순히 기술 발전 속도에 대한 경계가 아니라, 인간의 존엄과 생명을 지키기 위한 절박한 요청이다. AI가 혁신의 촉매제가 될 것인지, 아니면 사회적 위기의 도화선이 될 것인지는 안전성 기준 마련에 달려 있다. 따라서 이번 교차 검증은 업계가 더 이상 경쟁만을 고집할 수 없음을 보여준다. 협력 속에서 신뢰할 수 있는 가이드라인을 만드는 일이야말로 AI의 지속 가능성을 담보하는 핵심 과제다. - 앞으로의 길: 경쟁과 협력의 공존
오픈AI와 앤트로픽의 협력은 단기적 이벤트에 머물지 않는다. 이는 AI 산업이 성숙 단계로 접어들었음을 알리는 신호탄이다. 막대한 투자와 인재 확보 경쟁 속에서도 두 회사는 ‘안전’이라는 공통 분모 앞에 멈춰 섰다. 환각률, 아첨, 정렬 문제 등은 특정 기업만의 과제가 아니라 업계 전체가 공유해야 할 책임이기 때문이다. 이번 실험은 AI 생태계가 어떻게 ‘경쟁과 협력의 공존’ 속에서 성장할 수 있는지 보여주는 사례다. 앞으로 이들이 만든 데이터와 분석이 국제적 안전 규범의 기초가 된다면, 이는 단순한 기술 협력을 넘어 인류 사회 전체를 위한 이정표가 될 것이다. 결국 AI의 미래는 성능 경쟁만이 아니라, 얼마나 안전하고 신뢰 가능한 파트너로 자리 잡을 수 있는가에 의해 결정될 것이다.
편집위원 이현우 교수
heir201933@gmail.com