AI 전문가 Q&A

자주 받는 질문

인공지능 기본법 시행에 맞춰 기업은 무엇을 준비해야 합니까?

인공지능 기본법(2026년 1월 22일 시행)의 의무는 AI 제품·서비스를 이용자에게 제공하는 인공지능사업자에게 생기며, 외부 AI 서비스를 업무 도구로만 쓰는 기업은 원칙적으로 이용자입니다. 고객용 챗봇처럼 생성형 AI 서비스를 제공하면 사전 고지와 결과물 표시 의무가 있고, 고영향 영역 AI를 직접 개발해 운영하면 사업자 책무를 따로 검토해야 합니다. 정부가 최소 1년 이상 사실조사와 과태료 부과를 유예하고 있지만, 유예되는 것은 집행이고 의무는 이미 적용됩니다.

답변 2026-10-22

자주 받는 질문

AI PoC 결과로 본 도입 여부를 어떻게 판정합니까?

AI 시험 도입(PoC)은 시연 반응이 아니라 사전에 정한 평가 세트 성적, 기존 방식과 비교한 효과, 틀린 결과를 거르는 절차, 운영 규모에서의 비용 구조, 운영 책임자 지정 다섯 가지로 판정합니다. 성적과 운영 조건이 모두 갖춰지면 범위를 정해 넘기고, 운영 조건만 비어 있으면 채운 뒤 넘기며, 성적이 미달이면 원인을 가른 뒤 다시 시험하거나 멈춥니다.

답변 2026-10-22

자주 받는 질문

직원용 생성형 AI 사용 지침에는 무엇을 담아야 합니까?

직원용 생성형 AI 지침은 금지 목록이 아니라 승인된 도구와 입력해도 되는 정보의 범위를 정하는 문서여야 지켜집니다. 업무용 사용은 입력 내용이 학습에 쓰이지 않도록 계약으로 통제되는 회사 승인 계정으로 모으고, 개인정보·고객 정보·미공개 업무 정보의 입력 기준, 결과물 검토 책임, 외부 연동 허용 범위를 함께 정하는 것이 기본입니다.

답변 2026-10-22

자주 받는 질문

생성형 AI 결과 품질은 무엇으로 평가합니까?

생성형 AI의 품질은 실제 업무 입력과 기대 결과를 짝지은 평가 세트를 만들고, 미리 정한 채점 기준으로 반복해서 재는 방식으로 평가합니다. 정답이 명확한 항목은 코드로, 문장 품질처럼 판단이 필요한 항목은 채점 기준을 준 모델로 채점하고, 사람은 기준을 정하고 모델 채점이 믿을 만한지 확인하는 데 씁니다. 프롬프트·모델·문서가 바뀔 때마다 같은 세트를 다시 돌려 비교합니다.

답변 2026-10-22

자주 받는 질문

생성형 AI의 환각은 운영 단계에서 어떻게 줄입니까?

생성형 AI의 환각은 모델 선택이나 RAG만으로 없앨 수 없으므로 운영에서 줄이고 드러내야 합니다. 근거가 없으면 모른다고 답하게 하고, 답의 주장마다 근거 문장을 인용하게 한 뒤 근거와 실제로 맞는지 검사하며, 틀렸을 때 피해가 큰 답은 사람이 확인하는 단계를 두는 것이 기본입니다.

답변 2026-10-22

자주 받는 질문

MCP 서버를 사내 시스템에 연결할 때 권한은 어떻게 통제합니까?

MCP 서버를 연결하면 AI 모델이 그 서버가 제공하는 도구를 스스로 골라 실행하므로, 통제의 기준은 모델의 판단이 아니라 도구와 권한의 설계에 둬야 합니다. 도구를 조회·변경·삭제처럼 위험도로 나누고, 서버가 받는 토큰을 그 서버 전용·최소 범위로 좁히고, 되돌릴 수 없는 동작은 사람이 승인하게 하고, 모든 도구 호출을 기록하는 것이 기본입니다.

답변 2026-10-22

자주 받는 질문

쓰던 AI 모델이 지원 종료되면 무엇을 해야 합니까?

생성형 AI 모델은 활성·레거시·종료 같은 수명주기를 거치며, 종료일이 지나면 해당 모델 호출은 실패하고 새 모델로 자동 전환되지 않습니다. 모델 ID를 코드가 아닌 설정으로 분리하고, 어떤 기능이 어떤 모델을 쓰는지 목록을 유지하고, 평가 세트로 새 모델을 미리 검증해 두면 종료 안내를 받아도 교체가 계획된 작업이 됩니다.

답변 2026-10-22

자주 받는 질문

개인정보가 담긴 데이터를 생성형 AI로 처리해도 됩니까?

개인정보가 담긴 데이터도 생성형 AI로 처리할 수 있지만, 처리 목적이 수집 목적 범위 안인지, 외부 모델이 입력을 저장하거나 학습에 쓰지 않는지, 서버가 해외에 있어 국외 이전에 해당하는지를 먼저 확인해야 합니다. 개인정보보호위원회 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」(2025.8.)는 외부 모델을 API로 쓰는 경우 기업용 라이선스와 데이터 처리 부속서(DPA)로 재이용 제한과 파기를 계약상 확보하라고 권고합니다.

답변 2026-10-22

자주 받는 질문

프롬프트 인젝션은 실무에서 어떻게 막습니까?

프롬프트 인젝션은 시스템 프롬프트 문구 하나로 막을 수 있는 공격이 아니므로 여러 층의 방어를 겹쳐야 합니다. 외부에서 들어온 내용을 지시가 아닌 데이터로 분리해 전달하고, 입력과 출력을 검사하고, AI가 쓸 수 있는 권한을 최소로 줄이고, 되돌릴 수 없는 동작은 사람이 승인하게 해 공격이 성공하더라도 피해가 작게 만드는 것이 실무의 기본입니다.

답변 2026-10-22

자주 받는 질문

사내 문서 검색 AI가 자주 틀릴 때 어디부터 점검합니까?

사내 문서 검색 AI가 자주 틀리면 모델부터 바꾸지 말고, 검색 결과만 따로 꺼내 질문에 맞는 문서 조각을 가져왔는지부터 확인해야 합니다. 맞는 조각을 못 가져왔다면 문서 상태·분할 방식·검색 방식·필터를 고치고, 가져왔는데 틀렸다면 답변 생성 지시와 근거 사용 방식을 고치는 순서로 점검합니다.

답변 2026-10-22