한국저작권위원회

[중국] 인공지능 생성 합성콘텐츠 표지 방법 초안에 대한 의견모집

전남대학교 법학전문대학원

류시원

중국 국가인터넷정보판공실(国家互联网信息办公室, CAC)은 2024년 9월 14일 ｢인공지능 생성 합성콘텐츠 표지방법｣(이하 “표지방법”)의 초안을 공개하고, 공개의견모집을 시작하였음. CAC는 같은 날 표지방법 초안 제11조에서 정하는 표지 부착 관련 국가표준 요구사항에 대응하는 것으로 보이는 ｢네트워크 보안기술 – 인공지능 생성 합성콘텐츠 표지방법｣이라는 이름의 국가표준 초안도 함께 공개했음. 표지방법 초안에 대한 의견모집기한은 2024년 10월 14일이며, 위 국가표준 초안에 대한 의견모집기한은 2024년 11월 13일까지임. 이하 표지방법 초안의 배경과 주요 내용에 대해 살펴봄.

1. 인터넷정보 서비스 심층합성 관리규정

생성형 인공지능이 딥페이크 등 사실로 오인하게 할 수 있는 정보 전달의 생성에 악용되는 사례를 규제하기 위해, 중국은 2022년 11월 25일 ｢인터넷정보 서비스 심층합성 관리규정(互联网信息服务深度合成管理规定)｣(이하 “심층합성 관리규정”)을 제정하고, 2023년 1월 10일부터 시행하였음.

본 심층합성 관리규정은 ‘심층합성 기술’을 “딥러닝, 가상현실 등의 합성류 알고리즘 생성을 이용해 텍스트, 이미지, 오디오, 비디오, VR 등 인터넷정보를 제작하는 기술”로 정의하고, 그러한 심층합성 기술을 응용하여 제공되는 인터넷정보 서비스인 ‘심층합성 서비스’를 주요 규제 대상으로 정함.

심층합성 서비스 제공자에게는 기술 평가·검증의무(제15조) 외에 심층합성 서비스 제공 시의 표지 등의 의무도 부과됨. 우선, 심층합성 서비스 제공자는 그 서비스를 사용해 생성하거나 편집한 콘텐츠에 대해 기술적 조치를 하여 이용자의 사용에 영향을 미치지 않는 표지를 추가하고 로그 정보를 보관해야 함(제16조). 특히 AI 챗봇, 안면 생성 등 특정한 종류의 심층합성 서비스에 대해서는 그 서비스를 제공하여 대중의 혼동이나 착각을 유발할 수 있는 경우에 생성·편집된 콘텐츠의 합리적인 위치 또는 영역에 명시하여 대중에게 심층합성 콘텐츠임을 알려야 하고, 그밖의 심층합성 서비스의 경우 이용자에게 현저한 표지 기능을 제공하고 이를 사용할 수 있음을 안내하여야 함(제17조). 기술적 수단을 이용하여 위 제16조 및 제17조에서 정한 심층합성 표지를 삭제, 변조, 은닉하는 것은 모든 조직 또는 개인에 대해 금지되는 행위로 정함(제18조).

2. 생성형 인공지능 서비스 관리 임시방법

또한 중국은 2023년 5월 23일 ｢생성 인공지능 서비스 관리 임시방법(生成式人工智能服务管理暂行办法)｣(이하 “생성AI 관리방법”)을 제정해 2023년 8월 15일부터 시행함. 생성AI 관리방법은 생성형 인공지능 서비스에 관한 일반적 규제를 목적으로 하는 법규로서, 생성형 인공지능 서비스 제공자가 위 심층합성 관리규정에 따른 표지의무를 준수해야 하는 것으로 정하며(제12조), 표지의 구체적인 내용은 규정하고 있지 않음.

이번에 공개된 표지방법 초안은 생성AI 관리방법에서 단순히 인용하고 있는 심층합성 관리규정상의 표지의무의 내용을 구체화한 것임.

1. 목적 및 적용 대상

공개된 초안에 의하면, 본 표지방법은 인공지능의 건전한 발전을 촉진하고, 인공지능이 생성한 합성콘텐츠의 표지를 표준화함으로써 공민(公民), 법인, 기타 조직의 정당한 권익과 사회적 공익을 보호하는 것을 목적으로 함(제1조). 본 표지방법은 심층합성 관리규정 등에 따른 네트워크정보 서비스 제공자(이하 “서비스 제공자”)가 인공지능 생성 합성콘텐츠(이하 “합성콘텐츠”) 표지를 전개하는 제작하는 경우에 적용되나, 국내 대중에게 그 서비스를 제공하지 않는 기업 등에는 적용되지 않음(제2조).

표지 대상인 합성콘텐츠는 “인공지능 기술을 사용해 제작·생성·합성된 텍스트, 이미지, 오디오, 비디오 및 기타 정보”로 정의되어 있어, 콘텐츠의 형식은 가리지 않고, 표지의 유형은 텍스트, 음성, 도형 등의 형태로 제공되며 이용자가 명확하게 인식할 수 있는 “명시적 표지“와, 합성콘텐츠 파일의 데이터에 이용자가 쉽고 명확하게 인식할 수 없는 표지를 추가하기 위한 기술적 조치를 의미하는 ”암시적 표지“로 구분됨(제3조).

2. 서비스 제공자의 표지의무

표지방법 초안은 서비스 제공자의 명시적 표지와 암시적 표지에 관한 의무를 구분하고 있음.

1) 명시적 표지 (제4조)

명시적 표지는 심층합성 관리규정 제17조 제1항의 상황, 즉 서비스 제공 시에 대중의 혼동이나 착각을 유발할 수 있는 경우에 추가해야 함. 합성콘텐츠의 형식에 따라 구체적인 표지의 방법이 다음과 같이 구분됨. 나아가, 합성콘텐츠를 대해 다운로드, 복사, 내보내기 기타의 방법으로 제공하는 경우에는 합성콘텐츠 파일에 요구사항을 충족하는 명시적 표지가 포함되어 있는지 확인해야 함.

2) 암시적 표지 (제5조)

표지방법 초안 제5조는 심층합성 관리규정 제16조에서 서비스 제공자에게 일반적으로 요구되는(즉, 대중의 혼동, 착각 등의 우려가 없는 경우에도 적용되는) ”기술적 조치“에 의한 표지를 암시적 표지로 구체화하고 있음. 암시적 표지는 합성콘텐츠 파일의 메타데이터에 추가되어야 하며, 암시적 표지에는 합성콘텐츠의 속성 정보, 서비스 제공자의 이름 또는 번호, 콘텐츠의 번호 등 제작요소정보가 포함되어야 함. 또한 암시적 표지의 형식으로는 디지털 워터마크 등을 권고하고 있음.

3. 기타 표지 관련 의무

온라인 정보콘텐츠 유통플랫폼 제공자에 대해서는, (i) 콘텐츠 파일의 메타데이터에서 암시적 표지를 확인하고 게시되는 콘텐츠 주변에 현저한 알림 표지를 추가할 의무, (ii) 암시적 표지가 확인되지 않았지만 이용자가 합성콘텐츠임을 선언한 경우 표지할 의무, (iii) 암시적 표지가 확인되지 않고 이용자가 합성콘텐츠임을 선언하지 않았지만 명시적 표지 또는 기타 생성 합성 흔적을 발견한 경우 표지할 의무, (iv) 합성콘텐츠임이 확실하거나 가능하거나 의심되는 경우 파일 메타데이터에 합성콘텐츠 속성 정보를 추가할 의무, (v) 이용자에게 필요한 표지 기능을 제공하고 게시물에 합성콘텐츠가 포함되어 있는지를 주도적으로 선언하도록 상기할 의무를 규정함(제6조).

또한, 인터넷 응용프로그램 배포플랫폼에게는 응용프로그램의 업로드 혹은 심사·심의 시에 서비스 제공자가 필요에 따라 합성콘텐츠 표지 기능을 제공하는지 여부를 검사할 의무를 부과함(제7조).

한편, 이용자에게는 합성콘텐츠를 온라인 정보콘텐츠 유통 플랫폼에 업로드할 때 플랫폼이 제공하는 표지 기능을 적극적으로 선언하고 사용할 의무를 부과함(제10조 제1문). 다음으로, 일반 공중에게 적용되는 의무로서, 어떤 조직이나 개인도 합성콘텐츠 표지를 악의적으로 삭제, 변조, 위조 또는 은폐해서는 안 되고, 타인이 위 악의적 행위를 수행할 수 있는 도구 또는 서비스를 제공해서는 안 되며, 부당한 표지 수단을 통해 타인의 합법적인 권익을 침해해서는 안 된다고 규정함(제10조 제2문).

생성형 인공지능 기술 발전에 따른 표현력의 증대는 이른바 인공지능 산출물이 거짓 정보 전달의 매개체가 되는 것에 대한 우려를 발생시키고 있음. 이에 따라 우리나라를 비롯한 각국에서 인공지능 산출물에 대한 표시 규제를 도입하는 것을 논의하고 있음. 중국은 인공지능 산출물 표시 규제를 발빠르게 도입하고 있는 국가로, 그 규제 내용도 유럽연합 인공지능법의 투명성 관련 규정인 제50조에 비해 더 구체화되어 있음. 인공지능 산출물의 표시는, 그것이 인간의 창작물과 보호 여부 또는 수준에 있어 구분됨을 전제로 소비자에게 인공지능 산출물에 대한 정보를 제공하여 저작권 정책 목적을 실현하기 위한 수단으로서 논의되고 있음. 금번에 공개된 중국의 표지방법 초안은 생성형 인공지능 서비스에 관한 일반적 규제법규인 생성AI 관리방법상의 합성콘텐츠 표지에 관한 사항을 구체화한 것으로서 저작권 정책을 직접 염두에 둔 것은 아니기는 하나, 저작권 정책 논의에 있어 인공지능 산출물 표지 규제의 범위 및 내용과 관련하여 중요하게 참고할 수 있는 자료임.

➢ https://www.cac.gov.cn/2024-09/14/c_1728000676244628.htm.

➢ https://www.cac.gov.cn/2024-09/14/c_1728000680671017.htm.

➢ https://world.moleg.go.kr/web/dta/lgslTrendReadPage.do?CTS_SEQ=51515&AST_SEQ=55&ETC=1.