한국저작권위원회

｜요약

인공지능 모델에서 저작권이 있는 자료 또는 개인정보가 모델 내부 매개변수에 강하게 각인되었다가 의도치 않게 출력되거나 추출될 수 있다. 이러한 위험을 해결하기 위한 핵심 기술로 등장한 것이 언러닝이다.

하지만 학습 데이터로부터 수집한 저작권이 있는 자료 또는 민감한 개인정보 등을 선택적으로 제거하는 언러닝 기술이 오히려 전체적인 인공지능 모델의 성능을 저하시키는 경우가 많다고 한다.

또한, 완전한 재학습 과정을 하지 않는 이상 지우고자 하는 데이터의 흔적을 완전히 없애는 것은 불가능에 가깝다. 따라서 실제로 해당 데이터가 모델 내부에서 유의미하게 제거되었는지를 객관적으로 검증하는 기술과 지표의 중요성이 더욱 강조되고 있다.

‘WaterDrum’은 학습 데이터에 견고한 텍스트 워터마크를 삽입하고, 언러닝 이후 모델의 텍스트 출력물에서 해당 워터마크 신호가 검출되는지를 확인하는 기술이다.

기존의 언러닝 지표를 보완하기 위해 ‘WaterDrum’이 새롭게 등장한 것처럼, 신뢰할 수 있는 인공지능을 만들기 위한 언러닝 기술은 더욱 발전하여 앞으로의 ‘잊혀질 권리’가 실현되는 것에 많은 도움이 될 것으로 예상된다.

한국저작권위원회가 창작한 워터마크를 활용한 새로운 언러닝 검증 기술 저작물은
"공공누리" 출처표시-상업적 이용금지-변경금지 조건에 따라 이용할 수 있습니다.