⟪세계 최초 전면 시행, AI 기본법⟫ 시리즈
④ AI 기본법 쟁점: 고영향 AI, 어떻게 판단하고 무엇을 해야 하나
내 AI 산업 전반에 새로운 기준을 제시하는 첫 번째 법률, AI 기본법이 2026년 1월부터 시행되었습니다.
AI 기본법은 AI 기술이나 AI 기반의 제품·서비스를 제공하는 AI 사업자를 대상으로 합니다.
그런데 그 AI가 정부가 지정한 고영향 AI에 해당한다면, 이야기가 달라집니다. 사람에게 더 중대한 영향을 미치는 AI이기 때문에, 이에 대해 국가가 좀 더 관리하겠다는 취지로 추가적인 책임과 의무를 부여하기 때문이죠.
따라서 고영향 AI를 다루는 기업과 실무자라면 AI 기본법이 규정하는 고영향 AI의 명확한 기준과 의무를 명확히 이해하는 것이 급선무입니다. 1년의 계도 기간 내에 이를 확실하게 파악하실 수 있도록, 팀스파르타에서 고영향 AI의 판단 기준부터 책무 5가지까지 핵심만 짚어드리겠습니다.
고영향 AI 여부, 2단계로 판단하세요
AI 기본법에서 정리한 고영향 AI를 풀어 쓰면 다음과 같습니다.
생명과 신체의 안전, 자유·평등 등 인간의 기본적인 권리에 큰 영향력을 갖거나 위험을 초래할 우려가 있는 AI
개념은 이해했으니, 이제 실무에 필요한 판단 기준이 필요하시겠죠? 고영향 AI 여부는 아래 2단계에 걸쳐 확인해 보시면 됩니다.
1. 10대 분야에 해당하는가
AI 기본법은 고영향 AI의 첫 번째 조건으로 AI가 활용되는 10대 영역을 규정하고 있습니다.
구분 | 사용되는 영역 |
에너지 | 에너지 공급 |
먹는 물 | 먹는 물 생산 공급 |
보건 의료 | 보건 의료 제공 및 이용 체계 구축·운영 |
의료 기기 | 의료 기기 및 디지털 의료 기기 개발·이용 |
원자력 | 핵 물질과 원자력 시설의 안전 관리 및 운영 |
범죄 수사·체포 | 범죄 수사·체포 위한 생체 인식 정보 분석· 활용 |
채용, 대출, 심사 | 채용, 대출, 심사 등 개인의 권리·의무에 중대한 영향을 미치는 판단이나 평가 |
교통 | 교통 수단·시설·체계의 주요 작동 및 운영 |
공공 서비스 | 공공 서비스 제공에 필요한 자격 확인, 결정이나 비용 징수 등 국민에게 영향을 미치는 국가 기관의 의사결정 |
교육 | 유아·초등·중등 교육에서의 학생 평가 |
여기서 중요한 포인트가 하나 있습니다. 고영향 AI는 산업 전체에 일괄 적용되는 것이 아니라, 산업 내에서도 사람에게 중대한 영향을 미치는 특정 활용 영역을 기준으로 적용된다는 것입니다.
예를 들어 채용 분야에서 AI가 활용된다고 하여 무조건 고영향 AI에 해당하는 것이 아니라, 채용 과정에서 지원자의 권리 등에 중대한 영향을 미치는 판단·평가에 AI가 활용될 때 비로소 첫 번째 조건에 해당합니다. 즉, "어떤 산업이냐"가 아니라 "AI가 어떻게 쓰이느냐"가 핵심입니다.
2. 사람의 기본권에 영향을 미치는가
10대 분야에 해당한다면 2번째 조건도 함께 확인해야 합니다.
고영향 AI의 핵심은 사람의 생명과 신체의 안전, 기본권 보호에 중대한 영향을 미치거나 위험을 초래할 가능성입니다. 여기서 기본권이란 생명권과 건강권뿐 아니라 평등권, 재산권, 알 권리, 사생활·표현·집회·직업·예술·학문의 자유를 말합니다.
나아가 한 가지 더 주목해야 할 점이 있는데요.
AI 영향의 대상이 AI 제품·서비스를 직접 이용하는 사람뿐 아니라 그 이용에 간접적으로 영향을 받는 사람까 포함한다는 것입니다. 예를 들어 AI로 채용을 진행할 경우, 이 AI를 실제로 이용하는 주체는 채용 담당자이지만 그 결과로 영향을 받는 사람은 지원자입니다. 직접적인 이용자가 아닌 제3자(지원자)가 간접적으로 영향을 받더라도, 그것이 기본권에 중대한 영향을 미친다면 고영향 AI에 해당합니다.
두 번째 조건은 판단이 까다로운 만큼, 정부에서 산업별 세부 기준을 정리한 고영향 인공지능 판단 가이드라인을 참고하시는 것이 가장 정확합니다.
여기서는 이해를 위하여 채용 분야를 예시로 간단히 짚어 보겠습니다.
AI 채용 서비스가 고영향 AI로 분류되는 경우
- AI가 구직자의 직업 선택의 자유 및 평등권, 자율성에 중대한 영향을 미치는 판단·평가를 하고
- 채용 과정에 사람의 실질적 개입이 없을 때
- 혹 사람의 개입이 있더라도 형식적인 수준에 그치고, 실질적으로는 AI가 도출한 결과에 의존할 때
예시 |
AI가 모집 과정에서 스스로 판단하여 개인에게 채용 정보를 제공 |
AI가 구직자가 제출한 정보를 프로파일링하고 이를 점수·등급화하여 처리 |
AI가 사람의 검수 없이 필기 평가 문제를 최종적으로 출제 |
AI가 도출한 결과를 그대로 적용하여 채용 후보자 또는 채용 여부 결정 |
가이드라인만으로 자체 판단이 어려우실 경우, 인공지능기본법 지원데스크에서 상담을 신청하거나 과기부에 고영향 AI 해당 여부 확인을 요청하실 수 있습니다.
고영향 AI 사업자라면, 5가지 책무가 따라옵니다
고영향 AI 사업자에게는 일반 AI 사업자의 기본 의무 외에 5가지 추가 책무가 부여됩니다. 다음은 AI 기본법을 준수하기 위해 반드시 숙지해야 할 핵심 사항입니다.
1) 위험 관리
고영향 AI 사업자는 해당 AI가 초래할 수 있는 위험을 사전에 식별하고, 위험을 줄이기 위한 관리 체계를 마련해야 합니다. 단순한 문서 작성이 아니라 위험 관리 정책을 수립하고 실제로 이를 이행하며, 관련 조직 체계까지 구성·운영해야 합니다.
2) 설명 가능성 확보
개인의 기본권에 중대한 영향을 줄 가능성이 있는 만큼, 고영향 AI 사업자는 AI가 도출한 결과나 학습 데이터 등에 대해 이용자에게 설명할 수 있어야 합니다. 고영향 AI 사업자는 이용자에게 해당 내용을 설명하기 위한 매뉴얼 및 대응책을 마련해두어야 합니다.
3) 이용자 보호
고영향 AI 사업자는 AI의 영향을 받는 사람이 불리한 상태에 처하지 않도록 보호 장치를 마련해야 합니다. 이용자 보호를 위해 적법하게 데이터를 수집·관리하고, 안전하게 AI를 설계·개발·운영하며, 이용자 보호 정책을 수립하고 안내해야 합니다.
4) 사람의 관리·감독
고영향 AI는 단독으로 결정을 내려서는 안 됩니다. 고영향 AI 사업자는 사람이 최종 판단에 개입할 수 있도록 설계하고, AI 판단을 그대로 자동 확정하지 않도록 해야 합니다. 승인 단계를 추가하거나, 재검토 절차를 마련하는 등 인적 개입 기준 확립 등 적절한 개입 방법을 마련해야 합니다.
5) 기록 보관
마지막으로 고영향 AI 사업자는 앞선 4가지 책무 이행 내역을 모두 문서화하여 보관해야 합니다. 이를 '안전 신뢰 문서'라 하며, 작성 후 5년간 보관해야 합니다.
AI 기본법 시대, 이제는 조직 전체가 AI를 이해해야 합니다
고영향 AI 사업자라면 이제 선택지가 없습니다. 위험 관리 체계를 갖추고, 설명 가능한 AI를 만들고, 사람의 개입 절차를 설계하고, 이 모든 것을 기록으로 남겨야 합니다.
그런데 여기서 진짜 문제는 따로 있습니다. 법 조항을 이해하는 것과 조직 안에서 이를 실제로 실행하는 것은 전혀 다른 일이라는 것이죠. 그런 만큼 AI 기본법 대응은 법무팀만의 과제가 아닙니다. AI를 개발하거나, 운영하거나, 사용하는 실무자 모두가 고영향 AI는 물론 AI를 기본적으로 제대로 이해하고 있어야 실질적인 대응이 가능합니다.
결국 AI 기본법 대응의 출발점은 조직 전체의 AI 리터러시를 높이는 것입니다. 조직 전체가 AI 리터러시를 갖춘 후 AI를 설계하고, 감독하고, 기록할 때 비로소 법이 요구하는 수준의 안전한 AI 운영이 가능해집니다.
스파르타 AI 기업교육은 현 시점 기준 AI 기술 및 현안에 기반해 우리 조직에게 필요한 AI 역량을 정확하게 파악하고, 이를 빠르고 체계적으로 끌어 올려드립니다.
팀스파르타는 고객사의 산업과 직무, 직급, AI 역량 수준을 고려한 맞춤형 커리큘럼으로 실무에 바로 적용 가능한 교육을 제공합니다. 빠르게 변화하는 AI 현안에 대응하려면, 범용적인 AI 강의보다 우리 조직의 산업과 직무에 맞게 설계된 교육이 필요하기 때문이죠.
나아가 스파르타 PM이 교육 설계부터 운영, 성과 측정까지 전 과정을 고객사의 HRD 담당자와 함께합니다. 교육 현장에서는 강사와 보조 강사(기술 튜터)가 수강생을 밀착 관리하여 학습 효과를 극대화하죠. 팀스파르타는 교육을 진행하는 데 그치지 않고, 조직 구성원이 AI를 실제로 체화하도록 이끄는 데 집중합니다.
국가에서도 AI를 주요 과제로 다루는 지금, 어떤 산업이든, 어떤 규모든, 이제는 AI를 학습하지 않는 것 자체가 리스크입니다. 그리고 대한민국을 대표하는 유수 기업들이 AI 전환 시대에 따른 리스크를 줄이기 위해 스파르타 AI 기업교육을 선택했습니다.
2만 6천 명이 함께하고 45%의 고객사가 다시 찾은 AI 교육 파트너, 팀스파르타와 함께 우리 조직의 AI 전환을 시작하세요.
Share article