AI 기본법이 시행되면서 실무자들 사이에서 가장 많이 오가는 질문이 있습니다.
“우리도 AI 표기를 해야 할까요?”
ChatGPT로 작성한 보고서, Midjourney로 만든 마케팅 이미지, Claude로 생성한 고객 응대 메시지…. 생성형 AI를 업무에 활용하는 실무자라면 누구나 한 번쯤 고민하게 되는 문제인데요.
AI 기본법상 실무자가 주목해야 할 내용은 사실상 딱 하나, AI 투명성 확보 의무입니다. 다시 말해 AI 표기 문제죠. 이는 이용자 자신이 AI에 기반한 제품·서비스를 이용하고 있다는 사실과, 제공되는 결과물이 AI에 의해 생성된 것임을 명확히 인식할 수 있도록 안내해야 한다는 것인데요.
문제는 어떤 경우에 AI 표기를 해야 하고, 어떤 경우엔 하지 않아도 되는지 명확하게 구분하기 어렵다는 점입니다. 단순히 챗GPT를 사용한다고 해서 모두 AI 표기 대상은 아니니까요.
그렇다면 도대체 어떤 경우에 AI 표기 의무가 적용되며, 또 어떻게 AI 표시를 해야 한다는 걸까요?
오늘은 팀스파르타에서 실무자가 꼭 알아야 할 AI 표기 의무의 모든 것을 구체적인 사례와 함께 명확하게 정리해드립니다.
첫째, AI 제품·서비스를 제공한다면 AI 표기 의무를 지켜야 합니다
우선 AI 기본법이 적용되는 대상은 AI 사업자입니다.
그래서 일단 우리 기업이 AI 사업자인지 확인하셔야 합니다. AI 사업자가 아니라면, AI 기본법에서 규정하는 AI 표기 의무 및 규제가 적용되지 않으니까요.
AI 투명성 확보 의무(AI 표시 등의 의무)가 적용되는 AI 사업자는 2가지로 구분할 수 있습니다.
구분 | 내용 | 예시 |
AI 개발 사업자 | AI 제품·서비스에 활용되는 AI를 개발하여 제공하는 사업자 | ChatGPT를 개발한 OpenAI, 하이퍼클로바를 개발한 네이버 |
AI 이용 사업자 | AI 개발 사업자가 제공한 AI를 이용하여 AI 제품·서비스를 제공하는 사업자 | AI 모델을 기반으로 작문 서비스를 제공하는 뤼튼테크놀로지스, 나노바나나 모델을 사용하여 콘텐츠 생성을 지원하는 캐럿 AI |
AI 투명성 확보 의무는 최종 이용자에게 AI 제품·서비스를 제공하는 사업자에게 적용됩니다.
그것이 AI 제품·서비스를 직접 개발하여 제공하는 것이든(AI 개발 사업자), 다른 곳에서 개발한 AI 기술에 기반하여 새로운 AI 제품·서비스를 제공하는 것이든(AI 이용 사업자) 말이죠.
핵심은 AI 제품·서비스 제공 여부입니다. 단순히 AI를 사용했다고 해서 의무가 생기는 것이 아니라, AI 기반 제품이나 서비스를 고객에게 제공하는 사업자만 해당합니다.
참고로 여기서 말하는 AI 제품·서비스는 생성형 AI나 고영향 AI를 이용한 제품·서비스를 말합니다. 생성형 AI는 익숙하지만 고영향 AI는 낯선 분들이 계실 텐데요. 고영향 AI는 AI 기본법상 10대 분야에서 활용되는 AI를 말합니다.
고영향 AI란?
사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI로, 아래 영역에서 활용되면 고영향 AI로 봅니다.
고영향 AI 10대 분야 | 에너지, 먹는 물, 의료, 원자력, 범죄 수사, 채용, 대출 심사, 교통, 공공 서비스, 교육 |
둘째, AI 제품·서비스를 이용만 한다면 AI 표기 의무 없습니다
AI 사업자의 AI 제품·서비스를 이용할 뿐, AI 제품·서비스를 제공하지 않는다면 AI 투명성 확보 의무(AI 표시 의무)가 없습니다.
즉, AI를 통해 생성한 결과물을 자사의 제품·서비스를 위해 활용하더라도, 그것이 AI 제품·서비스가 아니라면 의무가 적용되지 않는 것이죠.
이 지점이 가장 혼란스러워하시는 부분인데요. "AI로 만들었으니 표기해야 하는 거 아닌가?"라고 생각하기 쉽지만, 법적으로는 무엇을 제공하는 사업자인가가 기준입니다. AI를 활용하긴 하지만 AI 제품·서비스를 제공하는 게 아니라면 아니라면 AI 사업자가 아니므로, AI 표기 의무가 없습니다.
예를 들어 영화 제작자가 AI로 생성한 영상을 영화에 삽입했다고 하겠습니다. 이는 단순히 AI 서비스를 이용한 결과물을 영화 콘텐츠에 활용한 것이므로 AI 표기 의무가 없습니다. 영화 제작자는 영화를 제공하는 사업자이지, AI 제품·서비스를 제공하는 AI 사업자가 아니기 때문이죠.
같은 이유로 Sora를 활용하여 콘텐츠를 제작하는 유튜버도 AI 생성물을 제공하는 것이지, AI 제품·서비스를 제공하는 사업자가 아니기 때문에 AI 사업자가 아닌 단순 이용자이며, AI 기본법상 AI 표시 의무가 없습니다.
이처럼 생성형 AI를 이용해 영화, 동영상 등의 콘텐츠를 만드는 경우에는 AI 표시 의무가 없습니다.
이외에도 더 나은 이해를 위해 구체적인 사례를 통해 AI 표시 의무를 정리해보면 다음과 같습니다.
❌ AI 표시 의무 없는 경우
- 챗GPT, Gemini 등 생성형 AI로 생성한 동영상·이미지를 활용하는 언론사
- 생성형 AI로 콘텐츠를 제작하는 콘텐츠·미디어(광고·마케팅, 음악·이미지, 게임, 웹툰) 사업자
- 생성형 AI로 만든 이미지·동영상을 교육에 활용하는 기관
- 생성형 AI로 법률 분석을 지원 받는 법무법인
- 보고서·포트폴리오 작성 등 생성형 AI를 업무 보조로 활용하는 기업
- 생성형 AI를 활용하는 유튜버, 개인 창작자
→ 이들은 모두 AI 생성물을 활용하지만, AI 제품·서비스를 제공하는 사업자가 아니므로 AI 표기 의무가 없습니다.
⭕ 반드시 AI 표시를 해야 하는 경우
- 생성형 AI 기반 웹툰 제작 서비스를 제공하는 기업
- 생성형 AI를 탑재한 AI 교과서를 제공하는 기관
- 생성형 AI 기반 AI 법률 지원 서비스를 운영하는 사업자
- 생성형 AI 기반 AI 보고서 작성 서비스를 제공하는 사업자
→ 이들은 모두 AI 제품·서비스를 이용자에게 직접 제공하는 AI 사업자이므로, AI 기본법상 투명성 확보 의무(AI 표기 의무)를 이행해야 합니다.
셋째, AI 표시 의무 대상이라면 이렇게 해야 합니다
AI 사업자에 해당하여 AI 표기 의무가 있다면, 두 가지 의무를 이행해야 합니다.
1) 사전 고지
AI 사업자가 고영향 AI·생성형 AI를 이용한 제품·서비스를 제공하는 경우, 해당 제품·서비스가 AI에 기반하여 운용된다는 사실을 사전에 고지해야 합니다.
AI 제품·서비스 제공 시 사전 고지 방법
- 제품 등에 직접 기재
- 계약서·사용 설명서·이용 약관에 기재
- 서비스 내에 AI 활용 사전 안내
- 이용자 화면이나 단말기에 로고 또는 문구 표시
- 제품 제공 장소에 인식하기 쉬운 방법으로 게시
2) 표시 의무
AI 사업자가 생성형 AI를 활용한 제품·서비스를 제공하는 경우, 그 결과물이 생성형 AI에 의해 생성되었다는 사실을 표시해야 합니다.
생성형 AI (기반) 제품·서비스 제공 시 표시 방법
- 가시적 표시: 직관적으로 인식 가능한 글자·기호·로고 등의 표식, 안내 음성 등
- 비가시적 표시: 데이터에 AI 생성 정보를 기입하는 메타데이터, 워터마크 등 (단, 최소 1회 이상 안내 문구·음성 등의 안내 제공해야 함)
- 결과물이 딥페이크일 경우, 시각·청각적으로 명확하게 표시 (이미지 내 로고, 음성 초기 안내 등)
예를 들면 생성형 AI 기반 번역 서비스를 제공하는 AI 사업자라면, AI로 번역한 결과물을 제공하면서 해당 결과물이 AI로 생성되었다는 안내를 화면 하단 등에 표시하는 것이죠.
모든 조직이 다루어야 하는 AI 문제, 교육이 가장 안전한 해결책입니다
AI 기본법은 기술 규제가 아니라 이용자 보호를 위한 투명성 확보가 목적입니다. 따라서 실무에서는 "우리가 무엇을 제공하는 사업자인가"를 명확히 하는 것이 가장 중요하죠.
이처럼 AI 활용이 확산되면서 AI 표기뿐 아니라 데이터 보안, AI 윤리, 책임성 등 고려해야 할 요소가 늘어나고 있는데요. 그만큼 AI를 제대로 이해하고 활용할 수 있는 조직 역량이 그 어느 때보다 중요해지고 있습니다.
문제는 많은 조직에서 이와 같은 AI 관련 문제를 기술팀이나 법무팀의 문제로만 생각한다는 점입니다. 하지만 이는 전사적으로 다루어야 하는 이슈입니다.
예를 들어 AI 기본법 적용 범위에 해당하지 않더라도, 이제 모든 조직의 마케팅팀은 AI로 생성한 콘텐츠의 표기 기준을 알아야 합니다. 영업팀은 AI 기반 고객 응대 시스템의 투명성을 이해해야 하며, 인사팀은 AI 채용 도구의 영향과 리스크를 인지해야 하죠.
결국 조직 구성원 모두가 AI 기본법을 비롯한 AI 윤리, 안전한 AI 활용 방법을 이해해야 리스크를 줄이고, AI를 전략적으로 활용할 수 있습니다.
스파르타 AI 기업교육은 AI 리터러시부터 실무 활용까지, 조직이 꼭 알아야 할 AI 필수 지식을 체계적으로 교육합니다. 단순히 AI 도구 사용법을 가르치는 것이 아니라, AI 규제 대응, 데이터 보안, AI 윤리 등 조직에 필요한 맞춤형 AI 역량 교육을 설계하고, 직접 키워드립니다.
고객사의 산업과 직무, 직급, AI 역량 수준을 고려한 맞춤 커리큘럼을 개발하고, 4단계 검증을 통한 강사진의 강의를 통해서 말이죠.
특히 팀스파르타의 교육은 실무 중심입니다. 실제 업무에서 마주하는 구체적인 이슈를 다루고, 프로젝트 기반 실습을 통해 배운 내용을 즉시 적용할 수 있도록 설계되어 있습니다. 강사와 보조 강사(기술 튜터)가 수강생을 밀착 관리하며, 스파르타 PM이 HRD 담당자와 교육 설계부터 평가까지 함께하며 교육 효과를 극대화합니다.
AI 시대, 법적 리스크를 줄이고 AI를 안전하게 활용하려면 조직 전체의 AI 역량 강화가 필수입니다. 대한민국을 대표하는 유수 기업들이 선택한 AI 교육 파트너, 팀스파르타와 함께 시작하세요.
Share article