「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 ‘인공지능기본법’) 」 및 동법 시행령이 2026. 1. 22. 시행되었습니다. 과학기술정보통신부는 인공지능 기본법의 시행에 이어, 「인공지능 투명성 확보 가이드라인」, 「인공지능 안전성 확보 가이드라인」, 「고영향 인공지능 판단 가이드라인」, 「고영향 인공지능 사업자 책무 가이드라인」 및 「인공지능 영향평가 가이드라인」을 발표하였습니다.

본 뉴스레터에서는 「인공지능 투명성 확보 가이드라인」의 내용을 중심으로, 투명성 확보 의무 및 특히 콘텐츠 사업자에게 미치는 영향에 관하여 살펴보도록 하겠습니다.

 

1. 적용대상 및 범위

인공지능기본법은 “인공지능사업자”를 의무 수범자로 규정하면서, 인공지능사업자를 “인공지능개발사업자”와 “인공지능이용사업자”로 분류하고 있습니다(제2조 제7호).

인공지능개발사업자란, 인공지능을 개발하여 제공하는 자를 말하며, 대표적으로 네이버(하이퍼클로바)나, OpenAI(ChatGPT) 등이 이에 해당합니다.  인공지능이용사업자는 인공지능개발사업자가 제공한 인공지능을 이용하여 인공지능제품 또는 인공지능서비스를 제공하는 자를 말합니다.  인공지능기반 모델을 활용하여 작문 서비스를 제공하는 뤼튼테크놀로지스가 이에 해당할 수 있습니다. 

단순히 인공지능 생성 결과물을 활용하여 자신의 콘텐츠를 제작·제공하는 경우에는 인공지능사업자에 해당하지 않고 이용자로 분류됩니다. 예컨대 OpenAI의 Sora를 활용하여 영상 콘텐츠를 제작하는 유튜버는 이용자에 해당하고, 따라서 인공지능기본법상 의무의 수범자가 아닙니다. 

한편 인공지능 기본법은 역외 적용 규정을 두고 있어, 국외에서 이루어진 행위라도 국내 시장 또는 이용자에게 영향을 미치는 경우 적용됩니다(제4조).

 

2. 투명성 확보의무

인공지능 기본법 제31조는 인공지능사업자에게 제공하는 제품 또는 서비스의 유형에 따라 다양한 투명성 확보의무를 부과하고 있습니다. 이는 AI제품 및 서비스의 이용자가 아닌 이용자에게 최종적으로 인공지능(이하 “AI”라고도 함) 제품 및 서비스를 제공하는 인공지능사업자에게 부과되는 의무입니다.  

가. 주요 의무 내용 개관

  적용범위 의무사항
법 제31조
제1항		 고영향 AI 또는 생성형 AI를 이용한 제품･ 서비스를 제공하는 경우 제품･서비스가 고영향 또는 생성형 AI에 기반하여 운용된다는 사실 사전 고지
법 제31조
제2항		 생성형 AI 또는 이를 이용한 제품･서비스를 제공하는 경우 결과물이 생성형 AI에 의해 생성되었다는 사실 표시
법 제31조
제3항		 AI시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물(이른바 “딥페이크 결과물”)을 제공하는 경우 딥페이크 결과물이 AI시스템에 의하여 생성되었다는 사실 이용자가 그러한 사실을 명확하게 인식할 수 있는 방식으로 고지 또는 표시


나. 법 제31조 제1항에 따른 사전 고지 

인공지능사업자가 고영향 AI나 생성형 AI를 이용한 제품･서비스를 제공하려는 경우에는 해당 제품∙서비스가 그러한 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 합니다(법 제31조 제1항, 동법 시행령 제23조 제1항).  사전 고지는 다음과 같은 방법으로 이행할 수 있습니다.1 

이행 방법 설명
이용약관･계약서 활용 제공하는 서비스의 이용약관, 서비스 가입 절차 및 계약서에 생성형 AI 또는 고영향 AI를 활용함을 명시
화면 표시 S/W, 모바일 어플리케이션 등을 통해 서비스 제공시 화면상에 생성형 AI 또는 고영향 AI를 활용함을 명시
제공장소에 게시 오프라인 서비스의 경우 이용 전 충분히 인식할 수 있는 관련 장소에 게시


다. 법 제31조 제2항에 따른 표시 의무

인공지능사업자가 생성형 AI 또는 이를 이용한 제품･서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 합니다.   표시는 아래 어느 하나에 해당하는 방법으로 해야 합니다(법 제31조 제2항, 시행령 제23조 제2항).

1. 사람이 인식할 수 있는 방법
2. 기계가 판독할 수 있는 방법. 이 경우 최소 1회 이상 안내 문구･음성 등을 제공해야 함


라. 법 제31조 제3항에 따른 고지 또는 표시

인공지능사업자가 AI 시스템을 이용해 딥페이크 결과물을 제공하는 경우 고지 또는 표시 의무가 적용됩니다.  고지 또는 표시의 내용은 해당 결과물이 AI시스템에 의해 생성되었다는 사실이고, 아래 사항들을 고려하여 이용자가 그러한 사실을 명확히 인식할 수 있는 방식으로 고지 또는 표시해야 합니다(법 제31조 제3항, 동법 시행령 제23조 제3항). 

1. 이용자가 시각, 청각 등을 통하거나 소프트웨어 등을 이용하여 쉽게 내용을 확인할 수 있는 방법으로 고지 또는 표시할 것
2. 주된 이용자의 연령, 신체적･사회적 조건 등을 고려하여 고지 또는 표시할 것

다만, 법 제31조 제3항은 딥페이크 결과물이 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 예외적으로 전시 또는 향유 등을 저해하지 않는 방식으로 고지 또는 표시할 수 있다고 규정하고 있습니다. 이에 따르면 딥페이크 결과물이 동영상 형태인 경우, 원칙적으로는 AI시스템으로 생성된 재생 구간 전체에 로고를 표출하는 등의 방식으로 AI시스템에 의한 생성 사실을 표시하여야 하나, 예술적·창의적 표현물에 해당하는 경우에는 시간적으로 주요 콘텐츠와 차이를 두어 표시하거나, 비가시적인 표시 방법을 적용하는 등의 방식으로 고지 또는 표시할 수 있게 되어 작품에 대한 몰입이 저해되는 것을 방지할 수 있게 됩니다. 


마. 표시 의무의 구체적인 이행 방법

다.항 및 라.항에 따른 표시의 방법은 해당 결과물이 서비스 내에서 제공되는 경우와 외부로 반출되는 경우에 다소 차이가 있습니다. 

결과물이 서비스 내에서 제공되는 경우에는 AI 생성 결과물 자체에 표시하거나 서비스 UI 등을 통해 이용자가 이를 알 수 있도록 표시하면 됩니다.  반면, 다운로드 또는 공유 등으로 결과물이 외부로 반출되는 경우에는 결과물 자체에 표시하여야 합니다. 

1) 서비스 내 제공 시 표시 방법2

- 서비스 이용 환경(UI) 내에서 결과물이 표현되는 경우를 말함

서비스 유형 표시 의무 이행 방법
대화 기반 서비스 ① 채팅창 등 연속적 대화를 통해 명확히 인식할 수 있도록 초기 안내를 제공하거나 지속 로고를 표출하는 방법
② 서비스 화면에서 ‘AI 모델이 실시간 데이터를 생성함’을 표시하는 방법
③ 문구 표기 영역이 충분하지 않은 경우 툴팁 등으로 표시하는 방법
음성 어시스턴트 서비스 ① 이용 전 이용자가 인식할 수 있는 음성 또는 화면 문구 등으로 안내하는 방법
② 음성 가전 등 실물이 있는 제품의 경우 겉면에 AI를 기반으로 운용됨을 표시하는 방법
※ 이용자가 호출하여 시작되는 서비스의 경우에는 개별 음성마다 반복적인 안내는 불필요함.
게임 또는 메타버스 ① 게임 내 구성요소에 AI를 활용하는 경우, 이용자가 상호작용하는 캐릭터･NPC명에 AI 캐릭터･NPC임을 알리거나 혹은 초기 대화 시 안내
② AI 기반 음성 서비스가 제공되는 경우, 게임 내 이용자가 로그인 등 플레이를 활성화할 때 AI 기반 음성임을 안내
생산성 향상 서비스
(문서 작성 지원 서비스)		 이용 화면 내 로고 표출, 이용 전 안내(개별 결과물에 대해 표시 불필요)

2) 외부 반출시 표시 방법3

  • 다운로드∙공유 등 AI 생성 결과물을 외부로 반출하는 기능을 제공하는 경우에 적용.
  • 서비스 제공 단계에서 UI 등에 표시를 하였더라도 외부 반출시에는 결과물에 AI 생성 사실을 표시해야 함. 
  • 메타데이터 등 비가시적인 방법을 적용할 경우에는 다운로드시 문구, 음성 등으로 AI로 생성되었음을 1회 이상 안내하여야 함.
  • 아래 이행 방법 중 ‘기계가 판독할 수 있는 방법’은 딥페이크 결과물에는 적용되지 않음. 
서비스 유형 표시 의무 이행 방법
텍스트 생성물 ① 파일 형태로 제공 시, 문서의 머리말 또는 파일 메타데이터로 표시
② 코드 생성 도구의 경우, 프로젝트 설명이나 코드 내 주석 등으로 표시
이미지 생성물 ① 사람이 인식할 수 있는 방법
이미지 내 로고 삽입 등을 통한 가시적인 방법
② 기계가 판독할 수 있는 방법
디지털 워터마킹, 메타데이터 등을 활용한 비가시적인 방법
동영상 생성물 ① 사람이 인식할 수 있는 방법
화면 영역 일부에 로고 등을 표출하거나, 영상 시작 부분에 AI 생성 사실을 안내하는 방법 등(딥페이크는 사람이 인식할 수 있는 방법만을 적용하되, AI로 생성된 재생구간 전체에 로고 표출 등으로 AI 생성 사실을 표시하여야 함. 다만, 예술적·창의적 표현물의 경우 전시 또는 향유를 저해하지 않는 방식으로 표시 가능)
② 기계가 판독할 수 있는 방법
디지털 워터마킹, 메타데이터 등을 활용한 비가시적인 방법
음성 생성물 ① 사람이 인식할 수 있는 방법
음성 시작 부분에 AI 생성 사실을 안내(재생시간 전체에 표시할 필요는 없으며, 오디오 콘텐츠 시작 부분에 AI로 생성되었음을 멘트로 간단히 안내)
② 기계가 판독할 수 있는 방법 사후 식별 가능한 음성 워터마킹 기술, 메타데이터 등을 활용한 비가시적인 방법
기타 파일 형식의 생성물 ① 사람이 인식할 수 있는 방법
파일 포맷의 특성을 고려하여 적합한 방법으로 표시
예) 머리말 또는 작성 영역 초반(문서), 첫 슬라이드의 일부 영역(시트 형식) 등에 AI 생성 사실을 표시
② 기계가 판독할 수 있는 방법
파일 작성자 등 메타데이터 영역에 AI 생성물임을 표시

 

3. 투명성 확보 의무와 콘텐츠 관련 사업자에 대한 영향

인공지능기본법에 따른 여러 의무 중 사업자들에게 가장 큰 영향을 미칠 것으로 예상되는 것은 투명성 확보 의무입니다.  특히 콘텐츠의 개발, 제작 및 제공 등에 관여하는 콘텐츠 관련 사업자의 경우, AI 생성물에 대한 표시 의무가 적용될 가능성이 높습니다.  ‘AI 디에이징’ 기술로 예를 들어 살펴보면, 투명성 확보 의무를 이행하여야 하는 콘텐츠 관련 사업자는 다음과 같이 분류할 수 있습니다.4

투명성 확보의무 이행 필요 투명성 확보의무 이행 불필요
AI 디에이징 기술개발사 영화용 AI 디에이징
서비스제공사		 영화제작사 OTT 플랫폼 소비자
얼굴 인식 및 변형 핵심 AI기술을 개발하여 제공 AI 디에이징 기술을 영화산업에 맞게 특화하여 디에이징 서비스 제공 AI 디에이징 기술을 활용한 콘텐츠 기획/촬영 및 최종제작 완성 콘텐츠를 소비자에게 제공 OTT 플랫폼 구독
AI개발사업자 AI이용사업자 이용자 해당 없음

위 표에서 보는 바와 같이, 영상콘텐츠산업 분야에서 디에이징 기술을 구현한 인공지능 시스템을 개발하여 제공하는 사업자는 인공지능기본법상 인공지능개발사업자에, 그리고 해당 인공지능 시스템을 활용하여 영화·영상 제작자에게 디에이징 서비스를 제공하는 사업자는, 인공지능이용사업자에 해당할 수 있으며, 이 경우 인공지능기본법에 따른 투명성 확보 의무를 부담하게 됩니다.

반면, AI 기술을 활용하여 콘텐츠를 제작하더라도 인공지능 시스템을 개발하거나 인공지능 제품 또는 서비스를 제공하는 자가 아니라면 단순 이용자로 평가될 가능성이 높으며, 이러한 경우에는 투명성 확보의무가 적용되지 않을 것으로 보입니다.  예를 들어, AI를 이용하여 생성된 CG가 삽입되어 있는 영화의 제작자는 단순히 AI 서비스를 이용한 결과물을 자신의 콘텐츠에 활용한 것에 불과하므로, 인공지능기본법상 인공지능사업자가 아닌 이용자에 해당할 것입니다.5 다만 구체적인 의무 적용 여부는 각 사업자의 역할과 사업 구조에 따라 달라질 수 있으므로 각 사안마다 개별적으로 판단할 필요가 있습니다.6 

한편 게임 및 메타버스 산업 분야에서는, AI와 상호작용 또는 동적(실시간) AI 콘텐츠 생성 기능이 적용된 게임을 제공하는 사업자는 인공지능 제품 또는 서비스를 제공하는 자로서 인공지능사업자에 해당하고, 인공지능 기본법상 투명성 확보 의무 등을 부담합니다.

이에 따라 게임사가 인공지능을 활용한 서비스를 제공하고자 하는 경우에는, ① 이용자가 상호작용하는 캐릭터･NPC명에 AI 캐릭터･NPC임을 알리거나, 최초 대화 시 안내하는 방법, ② 게임 내 이용자가 로그인 등 플레이를 활성화하는 서비스 초기 단계에서 게임 내 음성이 AI 기반으로 생성되었음을 고지하여야 합니다.7

또한 인공지능을 활용한 대화 기반 서비스의 경우, ① 채팅창 등 연속적 대화를 통해 명확히 인식할 수 있는 초기 안내 또는 지속 로고를 표출하거나, ② 서비스 화면에서 ‘AI 모델이 실시간 데이터를 생성함’을 표시하거나, ③ 문구 영역이 충분하지 않은 경우에는 툴팁(설명이 필요한 대상 또는 별도의 활성화 버튼에 마우스를 올리거나 초점을 이동했을 때 설명 텍스트가 표시되는 방식) 등으로 이를 표시하여야 합니다.

따라서 엔터테인먼트 산업 분야 등에서 인공지능을 이용하여 가상의 아티스트를 만들어 이용자와 상호작용할 수 있도록 하는 경우, 이는 대화 기반 서비스에 해당하는 것으로서 표시 의무가 적용될 것으로 보입니다. 

 

4. 맺음말

인공지능기본법은 인공지능개발사업자뿐만 아니라 인공지능을 활용하여 게임, 메타버스, 가상 캐릭터, 대화형 콘텐츠, 음성·영상 생성 콘텐츠 등을 제공하는 콘텐츠 사업자 역시 인공지능이용사업자로서 인공지능기본법의 규율을 받도록 하였습니다. 현재와 같이 인공지능의 활용이 콘텐츠 산업 전반에서 지속적으로 확산되는 상황에서, 인공지능기본법의 시행에 따른 새로운 규제 환경은 관련 기업들에게 법규 준수 및 이행 시스템의 구축 등 실무상 중요한 과제를 부여하고 있습니다.

특히 인공지능기본법상 여러 의무 중에서도 투명성 확보의무는 콘텐츠 사업자의 서비스 및 운영 방식에 가장 직접적인 영향을 미칠 것으로 예상됩니다.  따라서 음악·영상 제작을 위한 AI 도구를 제공하려는 사업자, 가상 인물과의 AI 대화 서비스를 제공하고자 하는 사업자 등은, 서비스 기획 단계에서부터 AI 활용 방식, 투명성 확보 의무 이행 방식 등을 종합적으로 검토할 필요성이 커질 것으로 보입니다.

이러한 투명성 확보 의무는 단순히 AI 생성물에 표시를 요구하는 수준을 넘어, 콘텐츠 산업 전반의 제작·유통 구조 및 업무 프로세스에도 상당한 영향을 미칠 것으로 예상됩니다.  향후 하위 법령과 가이드라인의 구체화, 감독 및 집행 사례의 축적을 통해 인공지능 기본법의 실무상 적용 범위와 기준은 더욱 명확해질 것입니다.  이에 콘텐츠 사업자는 이러한 제도 변화의 흐름을 지속적으로 점검하면서, 자사의 서비스 구조와 인공지능 활용 방식이 법령의 취지와 요구사항에 부합하는지 정기적으로 점검하고, 필요한 내부 관리체계를 선제적으로 정비해 나갈 필요가 있습니다.

법무법인(유) 세종 콘텐츠∙엔터테인먼트 팀은 AI와 관련된 국내외 최신 판결 및 제도 개선 동향 등을 주시하면서 관련 법리를 심도 있게 연구해오고 있습니다. 또한 AI 저작권 이슈 검토, AI 활용에 관한 가이드라인 작성 등 자문 업무뿐만 아니라, 유관 기관들과 기업들에 대한 세미나와 강연도 활발하게 진행해오고 있는바, AI와 저작권 이슈에 있어 가장 선도적이고 효과적인 솔루션을 제시할 수 있는 역량을 갖추고 있습니다.
 

1 인공지능 투명성 확보 가이드라인 6면의 내용을 정리한 표입니다.
2 인공지능 투명성 확보 가이드라인 11면-14면의 내용을 정리한 표입니다.
3 인공지능 투명성 확보 가이드라인 15면-19면의 내용을 정리한 표입니다.
4 고영향 인공지능 판단 가이드라인 16면에서 인용하였습니다.
5 인공지능 투명성 확보 가이드라인 2면에서 인용하였습니다.
6 한편, 인공지능기본법은 인공지능사업자를 수범 대상으로 하므로, 인공지능사업자가 부착한 워터마크 등이 유통 과정에서 이용자에 의해 제거되더라도 이를 직접 제재할 법적 근거가 없는 상황입니다. 이에 따라 현재 국회에서는 게시자에게 표시 의무를 부과하는 등의 내용을 담은 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」 개정안이 발의되어 있습니다.
7 인공지능 투명성 확보 가이드라인 13면에서 인용하였습니다.

 

[English version] The AI Basic Act and the Content Industry – Focusing on the Obligation to Ensure Transparency