AI 쓰고 있는데… 표시 안 하면 문제될까?

안녕하세요. 강준수입니다.

이어서 AI 기본법 기준의 실무 체크리스트 항목을 가져왔습니다. 

요즘 서비스에 AI 안 쓰는 곳이 거의 없습니다.
챗봇, 추천 알고리즘, 이미지 생성까지 이미 대부분 들어가 있죠.

 

그런데 한 가지 질문이 생깁니다....

“AI 쓰고 있는 거, 꼭 사용자한테 알려야 할까?”

 

이 질문은 단순한 UX 문제가 아니라,
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법에서 다루는 컴플라이언스 이슈입니다.

---

1. 결론 먼저 말씀드리자면...

AI는 써도 되지만, 숨기면 리스크입니다.

한국 AI 기본법은 아직 강한 처벌 중심 법은 아니지만 명확하게 요구하는 방향이 있습니다.

• 사용자에게 AI 사용 사실을 알릴 것
• 사람에게 영향을 주는 경우 더 신중하게 관리할 것

즉, “몰래 쓰는 AI”는 앞으로 문제가 될 가능성이 높습니다

---

2. 그럼, 어떤 경우에 표시해야 할까?

실무에서 가장 많이 헷갈리는 부분입니다.
결론부터 말하면 아래 3가지입니다.

---

① 챗봇 / 상담 AI

• 고객센터 챗봇
• 상담 자동응답

!! 반드시 필요 → “AI 상담입니다” 표시

---

② 생성형 AI

• 이미지 생성
• 텍스트 생성
• 리뷰 자동 생성

!! 필요 → “AI 생성 콘텐츠” 표시

---

③ 사용자 판단에 영향 주는 AI

• 추천 시스템
• 평가/점수 시스템
• 필터링 알고리즘

 상황에 따라 필요 → 최소한 “자동화된 처리” 안내 권장

---

3. 실무에서 놓치는 포인트

1. 기획 단계에서 빠짐

대부분 이렇게 진행됩니다:

• 기능 개발 완료
• 출시 직전
• “아 맞다 AI 표시 해야 하나?”

이때는 이미 늦음..

해결하려면? 기획 단계에서 고지 문구 포함해야 함

---

2. “우린 그냥 추천인데?” 착각

추천 시스템도 사용자 행동에 영향 주면 리스크 대상입니다. 

예:

• 콘텐츠 추천
• 상품 추천
• 매칭 알고리즘

---

3. 내부 AI도 안전하지 않음

• HR 평가 AI
• 자동 필터링

외부 노출 없어도 “고영향 AI”로 판단될 수 있음

특히나 HR 평가쪽에서 AI를 많이 사용하죠

---

4. 실무 체크리스트 

아래 5개만 체크하면 기본은 됩니다.

---

 * AI 컴플라이언스 최소 기준

1. AI 사용 사실을 사용자에게 알렸는가
2. 데이터 출처를 설명할 수 있는가
3. 편향(bias) 발생 가능성을 검토했는가
4. 사람이 개입할 수 있는 구조인가
5. 결과를 추적할 수 있는 로그가 있는가

---

5. 앞으로 왜 더 중요해질까?

현재 한국은  “완화된 규제 단계” 이지만, 방향은 명확합니다:

• EU 수준으로 점진적 강화
• 대기업/공공기관부터 적용 확대
• 글로벌 서비스는 이미 필수

---

6. 정리

AI 시대에서 중요한 건 성능이 아니라 “투명성 + 책임 + 통제”입니다

그리고 그 시작은 아주 단순합니다. 

“이거 AI입니다”라고 말하는 것.

---

7. 다시 한번 정리하자면...

지금 표시 안 하면 문제 없을 수도 있지만 나중엔 반드시 비용으로 돌아옵니다.

 

여기까지 AI 관련 실무 알아봤습니다. 

AI의 영향으로 여기저기 많은 이슈가 있는데 최소한의 컴플라이언스는 준수합시다.