AI, 그냥 써봅시다.
단, 제대로.

이 과정은 AI의 기술적 원리를 깊이 파는 강의가 아닙니다. 트랜스포머가 어쩌고, 파라미터가 몇 개고 하는 얘기는 하지 않습니다. 동료들에게 그 얘기는 쓸모가 없습니다.

이 과정은 AI가 세상을 어떻게 바꿀지 전망하는 세미나도 아닙니다. 그건 유튜브에 이미 많습니다. 대부분 틀리기도 합니다.

이 과정이 다루는 건 하나입니다. 내가 월요일에 출근해서 바로 써먹을 수 있는가. 보고서 초안, 회의록 정리, 번역, 엑셀 수식, 긴 메일 요약. 이런 실제 업무에서 AI를 어떻게 다루는지.

한 문장으로

ChatGPT, Claude 같은 대형 언어 모델(LLM, Large Language Model)은 한 문장으로 이렇게 요약됩니다.

그게 전부입니다. 철학도 아니고 이해도 아니고, 확률 계산입니다. 단, 그 확률을 계산하기 위해 인터넷에 있는 거의 모든 텍스트를 읽고 패턴을 외운 기계라고 생각하면 됩니다.

훈련과 추론

LLM은 두 단계로 동작합니다. 이 구분을 알면 한계도 자연스럽게 보입니다.

왜 환각(hallucination)이 생기나

"그럴듯한 다음 단어"를 이어붙이는 기계라는 점에서 바로 답이 나옵니다. AI는 모를 때 "모른다"라고 하는 훈련을 충분히 받지 않았습니다. 대부분의 훈련 데이터에서 사람은 "모른다"고 하기보다 "무언가를 말하는" 쪽이 많기 때문입니다.

그 결과 AI는 모를 때도 '가장 있을 법한 답'을 지어냅니다. 법조문 번호, 논문 제목, 통계 수치, 존재하지 않는 책 이름 — 모두 매우 그럴듯하게 생성됩니다. 이것이 환각입니다.

Context Window — 단기 기억의 한계

AI는 한 번에 읽을 수 있는 텍스트 양에 한계가 있습니다. 이것을 context window라고 합니다. 대화가 길어지면 앞쪽 내용이 서서히 사라집니다. 사람의 단기 기억과 비슷합니다.

그래서 긴 보고서를 요약할 때, 혹은 대화가 수십 번 이어졌을 때 AI가 갑자기 엉뚱한 소리를 하기 시작한다면 — 맥락이 밀려나서 그런 경우가 많습니다. 새 대화창을 열고 핵심만 다시 정리해서 주는 게 해결책입니다.

System Prompt — AI의 '사내 규정'

여러분이 대화창에 쓰는 말 말고, 서비스 제공자가 미리 심어둔 지시가 있습니다. "정중하게 답해라", "민감한 주제는 피해라", "이런 형식으로 답해라" 같은 것들입니다. 이것을 system prompt라고 합니다. 지금은 그런 게 있다는 것만 알아도 충분합니다.

실전 노하우 10 — 매뉴얼에 없는 것들

6원칙이 뼈대라면, 아래 10개는 실제로 써본 사람들 사이에서만 전해지는 잔재주들입니다. 한 번에 다 외우지 말고, 이번 주에 3개만 시험해보세요. 본인 업무에 맞는 것이 1-2개 건져지면 충분합니다.

아래 7개는 2026년 4월 기준 사무직이 업무에 가장 쓸만한 도구들입니다. 설치·비용·난이도, 그리고 데이터 학습 거부 상태를 각 카드 하단 메타에 표시했습니다. 모두 쓸 필요는 없습니다. 내 업무에 맞는 2-3개를 골라 깊게 쓰는 쪽이 효율적입니다.

1. 환각 — 그럴듯한 거짓말

이미 2장에서 다뤘지만 다시 강조합니다. AI가 자신 있게 말하는 내용일수록 검증 없이 보고서나 메일에 넣으면 안 됩니다.

특히 위험한 항목:

• 숫자·통계: 지어내기 쉽고, 읽는 사람은 보통 확인 안 함
• 법 조항·규정 번호: 번호까지 그럴듯하게 지어냄
• 논문·책 인용: 저자 이름까지 있는데 실제로 없는 논문
• 역사적 사실·날짜: 연도가 미묘하게 틀리기 쉬움
• 인물 경력: 이 회사에 있었는지, 언제 있었는지

2. 정보 유출 — 도구별 학습 거부 설정법

대부분의 AI 서비스는 기본적으로 입력한 내용을 차기 모델 학습에 사용할 권한을 가지고 있습니다. 이론상 내 사내 문서가 다른 사용자의 답변에 조각으로 섞여 나갈 가능성이 있다는 뜻입니다. 실제로는 그런 공개 사고는 거의 일어나지 않지만(기업 규모 데이터 누출이 문서화된 사례는 손에 꼽음), 기본 위생으로 도구별 학습 거부(opt-out) 설정을 켜두는 것이 정답입니다. 한 번 설정하면 이후 신경 안 써도 됩니다.

민감도에 따라 두 층위로 나눠 관리합니다.

도구별 opt-out 설정 (클릭 경로 포함)

아래는 2026년 4월 기준 각 도구의 설정 방법입니다. UI는 자주 바뀌니, 메뉴 명칭이 약간 다르면 "데이터", "프라이버시", "개선" 같은 키워드로 찾으세요.

도구와 상관없이 지켜야 할 습관

설정을 아무리 잘 해도 가장 확실한 보호는 민감정보를 애초에 넣지 않는 것입니다. 아래 기법들이 현장에서 잘 통합니다.

• 가명 처리: 실명 → "A직원", 실제 회사명 → "B사", 도시명 → "C시"로 치환 후 입력
• 비율 변환: "매출 12억 원" → "매출 100 기준 영업이익 12", "직원 847명" → "비율로 환산"
• 구조만 전달: 급여 시트 원본 대신 "시트1 A열 사번, B열 이름, C열 부서" 구조만 설명 후 수식·로직만 요청
• 기업용 계정 우선 사용: 회사가 지급한 Team/Enterprise 계정이 있다면 개인 계정보다 그쪽으로 (기본값이 더 안전)
• 팀에서 검증된 프롬프트 템플릿 재사용: 공유 폴더에 두고 거기서 시작

중국법인에서 특히 주의할 것 — PIPL & 해외 이전

중국법인은 한국 본사에 없는 추가 규제 프레임워크를 받습니다. 개인정보보호법(PIPL, 2021년 시행)이 그것입니다. 실제 리스크 수준을 현실적으로 정리합니다.

실무 권고: 중국인 이름·신분증이 그대로 적힌 원본은 가명화하고 넣는 것이 안전한 기본값입니다. 한국 본사 직원 정보(한국 거주자)는 PIPL이 아닌 PIPA(한국 개인정보보호법) 대상이지만, 같은 원칙이 적용됩니다. "실수 한 번에 95억 원"이 아니라 "한번 습관 들이면 계속 안전한" 관점으로 접근하세요.

네트워크 측면: 중국 내에서 ChatGPT·Claude·Gemini 접속에는 회사 공식 해외 전용 회선 또는 VPN이 필요합니다. 개인 VPN으로 사내 기밀을 다루는 것은 네트워크 측면 리스크가 더 큼이니 사내 IT 정책에 맞는 경로만 사용하세요.

3. 저작권 — 산출물은 누구 것인가

현재 주요 AI 서비스는 "생성된 결과물의 저작권은 사용자에게 있다"는 입장입니다. 다만 두 가지 주의점이 있습니다.

1. 입력의 저작권: AI에 넣는 자료(기사 본문, 보고서 원문 등)는 원저자에게 저작권이 있습니다. 요약·변형해서 내부 참고로 쓰는 건 대개 문제없지만, 대외 발표물에 그대로 옮기면 위험합니다.
2. 출력의 유사성: AI 생성물이 기존 저작물과 심하게 유사할 경우, 저작권 분쟁 가능성이 있습니다. 특히 이미지·로고·디자인 생성에서 문제가 됩니다.

4. 의존 리스크 — "AI 치매"

덜 논의되지만 중요한 문제입니다. AI를 오래 쓰면 스스로 초안을 잡는 능력, 자료 없이 논리를 세우는 능력이 둔해집니다. 특히 글쓰기·기획·문제 정의 같은 영역에서 그렇습니다.

지금까지의 연구는 대체로 "AI 보조가 단순작업 생산성은 높이지만, 복잡한 문제 해결 역량은 오히려 떨어뜨릴 수 있다"는 쪽을 가리킵니다. 대응책은 단순합니다.

• 먼저 스스로 초안을 잡고, 그 뒤에 AI에 다듬게 합니다. 역순이 아닙니다.
• 중요한 판단은 AI에 맡기지 않습니다. 참고만 합니다.
• 결과물을 읽고 "내가 이걸 왜 이렇게 썼는지" 설명할 수 있어야 합니다. 못 하면 그건 내 결과물이 아닙니다.

내 레벨 먼저 확인하기

AI 숙련도는 직책·경력과 무관합니다. 법인장이 초급일 수 있고 신입이 고급일 수도 있습니다. 중요한 건 자기 레벨을 정확히 알고 그 레벨에 맞는 도구·과제를 고르는 것입니다. 먼저 자기 진단부터.

실습 1. "어떤 도구를 언제 쓰는가" 빠른 결정표

업무 상황을 왼쪽 열에서 찾으세요. 90% 정답인 첫 번째 선택이 오른쪽입니다. 이 표를 책상에 붙여놓고 한 달만 의식적으로 따라가면 자연스러워집니다.

실습 2. 상황별 도구 선택 퀴즈

실무 상황 5가지. 어떤 도구를 먼저 집을지 4지선다. 정답을 누르면 해설이 펼쳐집니다.

실습 3. 이번 주 안에 해볼 7가지 미션

도구마다 30분 이내에 완수 가능한 미션 1개씩. 3개 이상 완수가 이번 주 목표. 체크박스를 눌러 진행 상황을 표시하세요 (새로고침하면 사라집니다).

실습 4. 도구 비교 한눈에 보기

책상에 붙여두고 쓸 수 있는 1장 요약표. 도구 선택에 고민될 때 이것부터 보세요.

이번 주에 해볼 세 가지

1. 이번 달 보고서·기획안 하나의 목차와 도입부를 AI로 초안 잡는다. 그대로 쓰지 말고 직접 고친다. 어디를 고쳤는지 의식한다.
2. 복잡한 엑셀 시트 하나의 로직을 AI에 설명받고 가정값 하나를 바꿔본다. 의존성이 어디까지 퍼지는지 셀 단위로 추적. 데이터는 가명화본으로.
3. 미뤄둔 긴 규제 문서·시장 리포트 하나를 NotebookLM에 올려 요약받는다. 인용을 클릭해 원문을 확인하는 습관까지.

한 달 후 체크포인트

한 달 뒤 스스로 체크할 질문 세 개만 남깁니다.

• 이번 달에 AI로 실제로 시간을 아낀 업무가 몇 개인가. (0개면 안 쓴 것)
• AI가 지어낸 내용을 잡아내서 고친 적이 있는가. (없으면 검증을 안 한 것)
• "AI 없이 혼자 초안 잡는 근력"이 유지되고 있는가. (AI 끈 상태로 한 번 써보면 확인됨)

마지막 한 줄

AI는 지렛대입니다. 지렛대는 작은 힘을 크게 만들지만, 받치는 점이 어디 있는지는 쓰는 사람이 정해야 합니다. 방향을 잘못 잡으면, 더 빠르게 틀립니다. 방향을 잘 잡으면, 같은 시간에 더 많은 일을 제대로 할 수 있습니다. 오늘 배운 건 그 방향 잡는 법입니다.