“Meta 인공지능(AI) 생성한 콘텐츠 자동으로 감지하고 레이블 지정한다”

최근 Meta는 인공지능(AI)이 생성한 콘텐츠를 자동으로 감지하고 레이블을 지정하는 새로운 도구의 개발을 발표했습니다. 이는 Facebook, Instagram, Threads에서 공유되는 이미지에 대한 신뢰성과 투명성을 높이기 위한 조치로, Meta의 ‘Imagine with Meta’ AI 이미지 생성기로 만들어진 이미지에는 이미 워터마크가 적용되어 있습니다. 이번 조치는 실제와 AI가 생성한 미디어 사이의 경계가 점점 모호해지는 현재 상황에서 더욱 중요해지고 있습니다.

Meta의 새로운 도구는 보이지 않는 워터마크와 내장된 메타데이터를 활용해 Google, OpenAI, Adobe 등 다른 도구에서 생성된 AI 이미지를 식별하고 레이블을 지정합니다. 이는 사용자들에게 콘텐츠의 출처와 생성 방법에 대한 투명성을 제공하려는 목적을 가지고 있습니다. 그러나 AI가 생성한 비디오나 오디오 콘텐츠를 감지하고 레이블을 지정하는 것은 더 복잡한 과제입니다. Meta는 이러한 콘텐츠에 대해서는 사용자들이 직접 레이블을 지정하도록 요청하고, 이를 준수하지 않을 경우 콘텐츠 제거를 포함한 조치를 취할 것임을 밝혔습니다.

Meta의 이러한 조치는 기술 산업 전반에 걸쳐 AI 생성 콘텐츠에 대한 표준을 설정하고, 실제와 가짜 사이의 구분을 명확히 하려는 중요한 발걸음입니다. 이는 사용자들에게 보다 투명하고 신뢰할 수 있는 디지털 환경을 제공하려는 노력의 일환으로, 다른 기업들에게도 유사한 조치를 취할 것을 장려합니다.

실천사항:

• AI 생성 콘텐츠에 대한 교육 강화: 사용자들이 AI 생성 콘텐츠를 쉽게 식별하고 이해할 수 있도록 교육 자료와 워크샵을 제공합니다.
• 투명성 정책 개발: 기업과 개인이 AI 생성 콘텐츠를 사용하고 공유할 때 따라야 할 명확한 지침과 정책을 개발합니다.
• 기술 개발에의 투자: AI 생성 콘텐츠를 효과적으로 감지하고 레이블을 지정할 수 있는 더 정교한 도구와 기술 개발에 투자합니다.
• 공개적인 토론 및 협력 촉진: AI 생성 콘텐츠에 대한 공개적인 토론을 촉진하고 다양한 이해관계자 간의 협력을 장려합니다.
• 법적 및 윤리적 기준 설정: AI 생성 콘텐츠와 관련하여 법적 및 윤리적 기준을 설정하고 업계 전반에 적용합니다.

#한국열린사이버대학교 인공지능융합연구소장

#세계메타버스AI연맹 이현우 교수