한국저작권위원회

뉴욕주 통합 법원 시스템, AI 정책 발표

서강대학교 전인교육원/대우교수

강기봉

2025년 10월 10일(미국 시간), 뉴욕주 통합 법원 시스템(New York State Unified Court System)의 수석 행정판사(Chief Administrative Judge)인 조셉 A. 자야스(Joseph A. Zayas)는 뉴욕주 법원 시스템의 인공지능(Artificial Intelligence, AI) 이용에 대한 정책을 다룬 「인공지능의 이용에 관한 임시 정책(Interim policy on the use of artificial intelligence)」을 발표했다. 2024년 4월에 자야스 판사가 법원 내 AI와 관련한 복잡한 문제들을 검토하기 위해 결성한 위원회가 뉴욕주 통합 법원 시스템 내에서 AI 기술의 책임감 있고 윤리적인 이용을 도모하기 위해 이 정책을 마련하였다.

이 임시 정책은 뉴욕주 통합 법원 시스템의 모든 판사 및 법원 행정직원 등에게 적용되며, 이 시스템의 소유 장비에서 수행되는 모든 기능과 모든 장치에서 수행되는 통합법원시스템(Unified Court System, 이하 ‘UCS’) 관련 업무에 적용된다. 즉, 이 정책은 뉴욕주 통합 법원 시스템에 속한 직원과 장치 및 업무에 적용된다. 그리고 이 임시 정책은 기술 발전, 운영상의 필요 및 관련 법률·규정·공공정책의 향후 변화에 따라 지속적으로 발전해 나갈 수 있도록 설계되었다.

1) 직접 침해 여부

이 정책은 인공지능(AI)의 잠재적인 이점과 관련된 문제를 모두 다루며, 특히 사용자 입력에 따라 사람과 유사한 텍스트나 기타 콘텐츠를 생성할 수 있는 생성형 AI의 사용에 있어 공정성, 책임성, 보안성을 확보하기 위한 중요한 기준을 제시한다. 또한 이 정책은 AI 도구가 문서 작성과 데이터 요약에 있어 사용자에게 유용할 수 있음을 설명하면서, 생성형 AI가 생성한 모든 콘텐츠에 대한 신중한 검토의 필요성을 강조한다. 생성형 AI는 신뢰성이 떨어질 수 있으므로, 모든 정보가 정확한지 그리고 모든 표현이 포용적이며 존중을 담고 있는지를 확인해야 한다. 임시 정책에서 지적된 AI 관련 잠재적 문제로는 허위 정보 생성, 편향 및 기타 부적절한 출력 및 비밀 정보의 취약성이 포함된다. 이러한 배경 하에 이 정책은 USC에서의 생성형 AI의 사용과 관련한 기본 원칙과 함께 요구조건 및 제한 사항들을 아래와 같이 제시했다.

2) 기본 원칙

AI는 사용자가 특정 작업을 수행할 수 있도록 돕기 위해 설계된 도구의 일종으로, 인간의 판단, 재량 또는 의사결정의 대체 수단으로 취급되어서는 안 되며 모든 UCS 사용자들은 최종 결과물에 대해 책임이 있다. UCS의 결과물에 해로운 편견, 고정관념 또는 차별을 반영하는 내용이 보이지 않도록 해야 한다. 법원 기록의 보안 및 비밀유지에 관한 규정은 AI 기술의 사용에도 전면적으로 적용된다. ChatGPT와 같은 공개 모델 생성형 AI 플랫폼에 입력된 모든 정보는 즉시 공개될 수 있다고 추정된다. AI 기술은 비밀, 사적 또는 민감 성격의 정보가 공개되지 않는 방식으로 사용되어야 한다(예를 들어 사건 번호, 당사자 이름, 주소, 생년월일 등의 정보, 법원에 제출되었거나 제출 예정인 비공개 문서, 내부적으로 작성된 소스코드와 같은 UCS의 지식재산).

AI 기술은 판사 및 법원 행정직원 등의 윤리적 의무와 일치하는 방식으로 사용되어야 한다. 통합 법원 시스템의 행정 규칙 및 재판 법원의 통일 규칙(Administrative Rules of the Unified Court System & Uniform Rules of the Trial Courts) 중에서 판사 행동에 관한 규칙(22 NYCRR Part 100), 법원 행정직원 등 행동에 관한 규칙(22 NYCRR Part 50) 및 전문직 행동에 관한 규칙이 AI 도구의 사용 시에 전면적으로 적용된다. 예를 들어, 판사는 자신의 의견서, 명령서 및 기타 서면 자료의 내용에 대해 궁극적인 책임을 지며, 자신의 사법적 의사결정 책임을 타인이나 다른 기관에 위임할 수 없다. 따라서 판사와 법원 직원은 AI 도구가 판사의 업무 보조 외에 판사의 윤리적 의무에 해당하는 의사결정 작업에 관여하지 않도록 보장해야 한다. 그리고 법원 행정직원 등 직원은 편견이나 차별을 드러내지 않을 의무, 직무 수행 중 알게 된 기밀 정보를 공개하지 않을 의무 등의 윤리적 책임을 위반하는 방식으로 AI를 사용해서는 안 된다. 또한 사법 관계자에 의한 AI 기술의 특정한 사용으로부터의 잠재적인 윤리적 문제는 사법 윤리 자문 위원회(Advisory Committee on Judicial Ethics)에 문의한다.

3) 요구조건 및 제한 사항들

• UCS 사용자들은 UCS 기술 및 법원 연구 부서(DoTCR)에서 승인한 생성형 AI 제품만 사용할 수 있다.

• 컴퓨터 접근 권한이 있는 모든 판사 및 법원 행정직원 등 UCS 직원은 AI 기술 사용에 대한 초기 교육 과정과 지속적인 교육을 반드시 이수해야 한다. 사용자가 초기 교육을 완료하기 전까지는 UCS 소유 장비나 UCS 관련 업무에 생성형 AI 제품을 사용할 수 없다.

• UCS의 통제하에 있고 공용 대규모 언어 모델(LLM)과 데이터를 공유하지 않는 비공개 모델(private model)에서 운용하지 않는 생성형 AI 프로그램에 프롬프트 작성, 문서 또는 파일 업로드 등 어떤 방식으로든 ‘비밀, 사적 또는 특권 정보’, ‘개인 식별 가능 정보(PII)’, ‘보호되는 건강 정보(PHI)’ 및 ‘일반 공개에 부적절한 기타 정보’와 같은 정보를 입력해서는 안 된다.

• 모든 사용자는 비공개 모델에서 운용하지 않는 생성형 AI 프로그램으로 법원에 제출되었거나 제출 예정인 문서(공개 문서로 분류되었더라도 적용)를 업로드해서는 안 된다.

• 생성형 AI 프로그램을 사용하여 문서 또는 기타 콘텐츠를 생성한 사용자는 정확성과 적절성이 있고 불공정한 편견, 고정관념 또는 차별을 반영하지 않도록 하기 위해 해당 콘텐츠를 철저히 검토하고 필요한 수정을 거쳐야 한다.

• 모든 사용자는 UCS 소유 장비에 생성형 AI 프로그램 사용을 위한 소프트웨어를 설치하거나, 비용지불, 구독, 이용약관의 동의를 요구하는 프로그램에 접근하기 위해 UCS 소유 장비를 이용해서는 안 된다. 다만, 해당 프로그램에 대한 접근이 UCS에 의해 제공된 경우는 그렇지 않다.

• 생성형 AI 도구는 UCS 소유 장비에서 UCS 업무와 무관한 개인적 목적으로 사용해서는 안 된다.

• DoTCR에 의한 생성형 AI 제품 승인은 기술적 관점에서 해당 제품이 사용하기에 안전함을 의미하지만, 특정 업무에 대해 해당 제품의 사용이 적절하거나 적합함을 반드시 의미하지는 않는다. DoTCR의 승인은 판사 또는 UCS 감독자가 감독 하에 있는 사람이 특정 업무에 대해 해당 제품을 사용하는 것을 금지하는 권한을 제한하지 않는다.

4) 승인된 생성형 AI 도구

승인된 민간 기업 생성형 AI 도구(통합 법원 시스템에 의해 조달 및 관리)는 아래와 같다.

승인된 공개 생성형 AI 도구는 아래와 같다.

이 정책은 미국 뉴욕주의 통합 법원 시스템에서의 인공지능 이용에 관한 최초의 정책이라는 점에서 우리나라의 법원에서 참조할 만한 자료다. 그렇지만 아래와 같은 몇 가지 고려할 점들이 있다.

(1) 뉴욕주 통합 법원 시스템에 대한 통제를 위한 자료

이 정책은 뉴욕 법원의 시스템에 관한 것으로 사법기관 전체 내지 정부 전체의 시스템에 관한 것은 아니다. 이 정책을 발표한 것도 뉴욕주 통합 법원 시스템 내의 위원회다. 다만, 법원 사무와 관련한 다양한 사안들이 반영되어 있으므로, 우리나라 법원이 사안별로 이를 참조할 수 있을 것으로 보인다.

(2) 정책의 실효성을 위한 집행 관련 사항

이 정책과 관련하여 실효성을 담보하기 위한 집행 관련 규정이 없음을 지적한 견해가 있다. 정책이 적절하게 이행되려면 이를 위한 집행도 뒤따라야 한다는 것이다. 그렇지만 이 정책은 통합 법원 시스템의 행정 규칙 및 재판 법원의 통일 규칙이 적용되므로, 이 정책을 위반한 자에 대해 행정적인 통제가 이뤄질 것으로 보인다. 우리나라는 법원의 운영과 관련한 법률 및 규칙이 존재하며, 이와 같은 정책이 실효성을 갖추기 위해 관련 법률 및 규칙에 따라 집행될 수 있도록 마련되어야 할 것이다.

(3) 특정한 미국 기업이 개발한 AI로 제한

허용되는 생성형 AI는 통합 법원 시스템에 의해 조달 및 관리되는 승인된 민간 기업 생성형 AI 도구들과 비구독 AI로 제한되었다. 실제로는 마이크로소프트와 오픈AI의 AI로 제한되었다. 이는 신뢰할 수 있는 미국 기업들로 그 범위를 제한한 것으로 보인다. 우리 정부가 사용하는 소프트웨어가 국가 안보 및 보안과 직결되어 있음은 분명하다. 업무용 운영체제와 같이 사실상 대체 불가능한 것이 아니라면 생성형 AI는 신뢰성이 완전하게 확보된 것이나 국내 기업의 AI를 사용하는 것이 바람직해 보인다.

요컨대 이와 같은 정책은 법원 시스템을 대상으로 한 것이지만 안보 및 보안의 관점에서 공공기관 모두에 필요한 것으로 보인다. 그리고 이런 시스템은 위험을 최소화하는 관점에서 실효성 있게 구축되어야 한다. 또한 이러한 정책을 통해 국내 AI 기업들의 신뢰성 향상과 시장 형성을 도모하는 계기를 마련하는 것도 필요해 보인다.

• New York State Unified Court System, Interim Policy on the Use of Artificial Intelligence, 2025.10.10., https://www.nycourts.gov/LegacyPDFS/a.i.-policy.pdf (최종 방문 2025.11.03.)

• New York State Unified Court System, Chief Administrative Judge Zayas Unveils Policy for AI Use Across All New York State Court System Functions and Devices, 2025.10.10., https://www.nycourts.gov/LegacyPDFS/press/pdfs/PR25_23.pdf (최종 방문 2025.11.03.).

• Jonathan Bailey, New York State Court System Releases AI Policy, Plagiarism Today, October 15, 2025, https://www.plagiarismtoday.com/2025/10/15/new-york-state-court-system-releases-ai-policy/ (최종 방문 2025.11.03.).