한국저작권위원회

｜요약

 유럽연합의 인공지능법 제50조는 특정 인공지능 시스템의 제공자에게 투명성 의무를 부여하고 있다. 다양한 인공지능 시스템이 생성한 콘텐츠가 인간이 만든 콘텐츠와 구별하기 어려운 환경 속에서 이러한 콘텐츠의 출처를 알 수 있는 기술적 조치가 필요하다는 것이다.

 이에 따라 인공지능 기업들은 생성형 인공지능의 결과물이 기계가 판독할 수 있는 형식으로 표시되기 위해 각 기업에 맞는 다양한 기술적 해결책을 적용하고 있다.

 텍스트 워터마크는 다음에 사용할 토큰을 선택하는 방식을 조정하여 완성된 텍스트에 통계적으로 검출할 수 있는 신호를 형성하는 기술로 그중에서도 특히, 구글과 앤트로픽이 인공지능 챗봇 서비스에 텍스트 워터마크를 도입하면서 이에 대한 관심이 증가하고 있다.

 

 텍스트 워터마크는 생성형 인공지능의 활용이 빠르게 확대되는 상황에서 생성형 인공지능이 텍스트 생성에 관여했다는 것을 투명하게 제공하기 위한 기술적 수단으로 의미가 있다. 생성형 인공지능 시대의 투명성을 높이기 위한 새로운 해결책 중 하나로 자리 잡을 것인지 지켜볼 필요가 있다.