한국저작권위원회

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」제정에 따른 표시의무 도입

김‧장 법률사무소 변호사

김형지

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 "인공지능기본법")은 2024년 12월 26일 국회 본회의를 통과하여 2026년 1월 22일 시행될 예정임. 인공지능기본법은 EU AI Act에 이어 세계에서 두 번째로 제정된 인공지능에 관한 기본법인데, EU AI Act는 규정별로 순차적으로 시행(2026년 8월 전면 시행)되기 때문에 전면 시행시기를 기준으로 하면 인공지능기본법이 더 빠를 것으로 보임. EU AI Act가 규제법적 성격을 가지고 있는 반면 인공지능기본법은 인공지능사회의 신뢰 기반 조성에 필요한 규제법일 뿐만 아니라 각종 정책 및 제도를 위한 인공지능 산업의 진흥법적 성격을 함께 가지고 있음.

생성형 인공지능의 확산에 따른 이용자 및 권리 보호를 위한 생성물의 식별 필요성과 딥페이크에 의한 사회적 문제 해결을 위해 표시의무 도입의 필요성이 대두되고 있었는데 인공지능기본법에서 본격적으로 표시의무가 도입되었고, 이하에서는 이를 포함한 국내 인공지능 표시의무의 입법 동향에 대해 살펴보겠음.

1) 「공직선거법」상 딥페이크영상등에 대한 표시의무

한국의 인공지능 관련 표시의무는 2024년 1월 29일 시행된 개정 「공직선거법」에서 최초로 도입되었음. 「공직선거법」은 누구든지 ‘선거일 전 90일부터 선거일까지’의 기간이 아닌 때에 선거운동을 위하여 "인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등"(이하 "딥페이크영상등")을 제작ㆍ편집ㆍ유포ㆍ상영 또는 게시하는 경우에는 해당 정보가 인공지능 기술 등을 이용하여 만든 가상의 정보라는 사실을 명확하게 인식할 수 있도록 중앙선거관리위원회규칙으로 정하는 사항을 딥페이크영상등에 표시하여야 하고(동법 제82조의8 제2항), 이를 딥페이크영상등에 표시하지 아니한 자에게는 3천만원 이하의 과태료가 부과됨(동법 제261조 제2항 제4호). 이는 국회가 당시 제22대 총선을 앞두고 딥페이크 기술을 통한 선거운동 등을 방지하고자 신설한 것임.

2) 인공지능기본법상 표시의무

「공직선거법」상 표시의무 도입 이후 약 1년여만에 제정된 인공지능기본법 제31조에서는 ‘인공지능 투명성 확보 의무’라는 표제 하에 표시의무를 도입하였음. 동조는 선거운동 등 특정한 목적을 위한 사용에 국한하지 않고 딥페이크 결과물 및 인공지능으로 생성한 정보 일반에 대하여 고지 및 표시의무를 규정함.

동조에서는 수범자를 "인공지능사업자"로 넓게 설정하고 있는데, 이는 인공지능산업과 관련된 사업을 하는 자로서 인공지능개발사업자 혹은 인공지능이용사업자 중 하나에 해당하는 법인, 단체, 개인 및 국가기관 등을 말함(제2조 제7호).

이러한 인공지능사업자는 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 함(제31조 제1항). 또한, 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 인공지능사업자는 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 함(동조 제2항). 한편, 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물(이른바 '딥페이크')을 제공하는 인공지능사업자 역시 해당 결과물이 인공지능시스템에 의하여 생성된 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 하되, 이 경우, 해당 결과물이 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 않는 방식으로 고지 또는 표시할 수 있도록 규정함(동조 제3항).

위 고지·표시의무에는 제재규정도 존재하는바, 제31조 제1항을 위반하여 고지를 이행하지 아니한 자는 3천만 원 이하의 과태료 부과대상임. 또한 제31조 제2항, 제3항에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우 또는 그러한 신고나 민원이 접수된 경우, 과학기술정보통신부장관은 자료 제출명령 또는 사실조사를 할 수 있으며, 그 위반 사실이 인정되면 위반행위에 대한 중지명령 또는 시정명령이 부과될 수 있음. 나아가 이러한 중지 또는 시정명령을 이행하지 아니한 자는 3천만 원 이하의 과태료 부과대상임.

인공지능기본법은 이러한 법 제31조의 고지, 표시의 방법 및 그 예외 등에 관하여 필요한 사항은 시행령에 유보하고 있음. 이를 위해 인공지능기본법 하위법령 정비단이 2025년 1월 15일 본격 출범하였으며 정비단은 2025년 상반기에 법 제31조 관련 시행령 조항과 '인공지능 투명성 확보 의무 방침(가이드라인)'의 초안을 마련할 계획임.

3) 방송통신위원회의 「생성형 인공지능 서비스 이용자 보호 가이드라인」

방송통신위원회는 2025년 2월 28일 「생성형 인공지능 서비스 이용자 보호 가이드라인」을 제정하였고, 1개월이 경과한 날부터 시행됨. 방송통신위원회는 해당 가이드라인에 대한 "자율적인 참여"를 전제로 생성형 인공지능 개발사 및 서비스 제공자를 대상으로 서비스 전반에 걸쳐 추구해야 할 4가지 ‘기본원칙’과 이를 실현하기 위한 6가지 ‘생성형 인공지능 서비스 이용자 보호를 위한 실행 방식’을 제시하였는데, 6가지 실행 방식 중 "생성형 인공지능 서비스의 결정 과정을 알리려는 노력"에는 생성형 인공지능 산출물이 생성형 인공지능으로 생성되었음을 자율적으로 선택한 방식으로 알리는 것을 포함하고 있음.

2024년 11월 발의된 「저작권법」 개정안(제2205507호)은 생성형 인공지능 기술을 이용하여 저작물을 창작한 자에게 해당 저작물이 생성형 인공지능 기술을 이용하여 제작되었다는 사실을 표시할 의무를 규정하고 있음(안 제7조의2 제1항). 국회 검토보고서는, 표시의무는 콘텐츠 등 이용자의 혼선을 방지하고 인공지능 콘텐츠의 신뢰성 및 책임성을 강화하며, 저작권의 영역에 있어서도 AI 기술을 통해 생성된 콘텐츠가 인간이 창작한 저작물과 명확히 구별될 수 있도록 한다는 점에서 입법취지에 공감할 수 있다고 하면서, 우리나라에서 AI 산출물에 대하여 저작물로서의 법적 지위 등을 인정하지 않고 있는 점을 고려할 때 본 개정안을 “저작물"에 관한 「저작권법」 제1절에 표시의무를 규정하는 것이 타당한지 검토하여야 한다고 함. 또한, 인공지능 기본법에 따른 인공지능 사업자의 표시의무와 개정안에 따른 이용자의 표시의무 간의 관계를 검토할 필요가 있어 보인다고 함.

문화체육관광부가 2025년 1월 10일 발표한 2025년 주요업무 추진계획에는 "창작자 보호와 AI 산업 발전의 상생을 위한 AI-저작권 법제도 개선"을 목적으로 "AI 산출물 표시"를 위한 법 개정을 추진하겠다는 계획이 포함되어 있고, 문체부와 저작권위원회는 2025년 3월 19일 발족한 '2025 AI-저작권 재도개선 협의체'에서 산출물 표시제 도입 필요성 및 대상·방법·이행확보 수단 등을 논의할 것임을 공표하였는바, 올해도 계속 표시의무의 입법 및 논의동향에 대해서 추이를 잘 지켜볼 필요가 있겠음.

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 [시행 2026. 1. 22.] [법률 제20676호, 2025. 1. 21., 제정]

방송통신위원회, 「생성형 인공지능 서비스 이용자 보호 가이드라인」

「저작권법」 개정안(제2205507호)

문화체육관광위원회. ⸢저작권법 일부개정법률안 검토보고서⸥. 2025. 1.