AI 기본법(인공지능 기본법) 제정과 그로인한 이슈 분석

안녕하세요. 강준수입니다.

오늘은 AI 기본법 제정으로 인해 회사에서 어떤것들을 해야할지 알려드리겠습니다.

 

일단 AI 기본법이란...?

 

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법

을 말합니다. 

 

그리고 한국의 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법은 EU처럼 강하게 통제하는 법이라기보다, “산업은 키우되 최소한의 책임과 안전은 확보하자”는 구조입니다. 그래서 실무에서는 조항 자체를 외우기보다, “이 조항 때문에 우리 조직이 무엇을 준비해야 하는지”로 이해하는 것이 핵심입니다.

---

먼저, 법에서 가장 실무적으로 영향을 주는 부분은 “고영향 AI(고위험 유사 개념)” 관련 조항입니다.
채용, 금융, 의료, 교육처럼 사람의 권리나 기회에 직접 영향을 주는 AI는 별도로 관리하라는 취지인데, 이 조항이 있으면 기업은 단순히 모델 성능만 보는 게 아니라 리스크 관리 체계를 갖춰야 합니다.
즉 실무적으로는 “이 AI가 사람 인생에 영향 주냐?”를 먼저 판단하고, 해당되면 검증 프로세스, 내부 승인 절차, 테스트 문서까지 만들어야 합니다.

---

다음은 투명성(고지 의무) 관련 조항입니다.
AI를 사용하는 경우 이용자가 이를 인지할 수 있어야 한다는 내용인데, 이 조항 때문에 실무에서는 반드시 “AI 사용 표시”를 설계에 포함해야 합니다.
예를 들어 챗봇이면 “AI 상담입니다” 문구를 넣어야 하고, 생성형 콘텐츠면 AI 생성 여부를 표시하는 기능을 제품 단계에서부터 고려해야 합니다.
즉, 이 조항은 개발 문제가 아니라 UX/기획 단계에서 반영해야 하는 요구사항입니다.

---

또 중요한 것은 데이터 품질 및 편향 방지 관련 조항입니다.
AI가 차별을 만들지 않도록 관리하라는 내용인데, 이 조항이 생기면 기업은 단순히 데이터를 많이 쓰는 게 아니라 데이터 출처, 전처리 기준, 편향 점검 기준을 문서화해야 합니다.
실무적으로는 “이 데이터 어디서 왔냐” 질문에 답할 수 있어야 하고, 가능하면 bias 테스트나 샘플 검증 프로세스를 갖추는 것이 요구됩니다.

---

그리고 인간 개입 가능성(통제 가능성) 관련 조항도 중요합니다.
AI가 완전히 자동으로 의사결정을 내려버리는 구조는 위험하다고 보기 때문에, 중요한 결정에는 사람이 개입할 수 있어야 한다는 취지입니다.
이 조항 때문에 실무에서는 “override 기능” 또는 “검토 단계”를 시스템에 넣는 것이 필요합니다.
예를 들어 자동 승인 시스템이라면, 최소한 특정 케이스는 사람이 재검토할 수 있게 설계해야 합니다.

---

마지막으로 안전성·책임성 관련 조항이 있습니다.
AI로 인해 문제가 발생했을 때 책임 소재를 명확히 하라는 내용인데, 이 부분은 조직 차원 준비가 필요합니다.
실무적으로는 로그 기록, 의사결정 이력 저장, 운영 책임자 지정 같은 것들이 요구됩니다.
즉 “왜 이런 결과가 나왔는지 추적 가능한 구조”를 만들어야 합니다.

---

정리하면, 이 법 때문에 실무에서 준비해야 하는 것은 크게 다섯 가지로 압축됩니다.

1. 이 AI가 고영향인지 판단하는 기준
2. AI 사용 사실을 사용자에게 알리는 구조
3. 데이터 출처와 편향을 관리하는 체계
4. 인간이 개입할 수 있는 시스템 설계
5. 결과를 추적할 수 있는 로그와 책임 구조

---

결과적으로

“AI를 만들거나 쓰려면, 그냥 성능이 아니라 설명·통제·책임 구조까지 같이 설계해야 한다” 입니다.

오늘은 AI 기본법이 뭔지, 우리회사에서 어떤점을 파악하고 준비해야될지에 대해서 알아봤습니다.

이젠 AI를 안쓰는 회사가 없겠죠.

어떻게 하면 잘쓸지를 고민하는 시기로 넘어온지 꽤 됐습니다. 

AI와 친해지기. 지금 시작하시죠.