서론. 업무자동화를 위한 AI 활용은 다르다

이 글을 읽는 법: 이 글은 AI 용어를 아직 자세히 설명하지 않은 채로 이 연재 전체의 방향을 이야기합니다. 처음 읽을 때는 잘 와닿지 않는 대목이 있을 수 있으니, 이어지는 1~4장의 용어 설명까지 읽은 뒤 이 글을 한 번 더 읽어 보시기를 권합니다. 두 번째로 읽을 때는 같은 문장이 훨씬 생생하게 와닿을 것입니다.

AI를 써 봤는데 왜 일이 줄지 않을까

요즘 유튜브와 SNS 어디를 열어도 AI 관련 이야기가 넘쳐납니다. "엑셀 대신 챗GPT", "프롬프트 한 줄로 끝내는 보고서", "퇴근 2시간 당기는 AI 활용법" 같은 자극적인 제목을 보다 보면 나만 뒤처지는 것 같은 불안감이 엄습합니다. 회사에서도 AI로 업무를 효율화해보라는 지시가 내려오지만, 정작 무엇을 어떻게 맡겨야 할지 구체적인 방법을 알려 주는 사람은 아무도 없습니다.

업무자동화엑셀 대신 챗GPT

AI 에이전트조사·요약·작성을 알아서

프롬프트AI로 끝내는 보고서

AI 툴퇴근 2시간 당기는 신기능

AI 툴업무 딸깍, 칼퇴

스킬한 줄로 끝내는 업무 자동화

보고 있으면 내 업무도 클릭 한 번이면 될 것 같다 — 하지만 한 번 잘 나온 결과가 다음 달에도 같게 나오는지는 보여 주지 않는다

이런 문구를 보며 실무자가 가장 먼저 떠올리는 것은 아마 매일 마주하는 지루한 엑셀 작업일 것입니다. 수천, 수만 줄의 데이터를 복사해 붙여 넣고, 함수를 걸고, 피벗 테이블을 돌리고, 서식을 다듬는 끝없는 수작업을 하다 보면 '이런 반복 작업이야말로 AI가 척척 대신해 주면 얼마나 좋을까' 하는 기대를 품게 됩니다.

그 기대를 안고 영상에서 알려 준 대로 ChatGPT나 클로드, 제미나이에 데이터를 넣고 표를 정리해 달라고 해 보면, 처음 받은 결과는 제법 그럴듯해 보입니다.

하지만 자세히 뜯어보면 열 순서가 지난번과 미묘하게 다르고 숫자 하나가 빠져 있어 다시 수정을 요청합니다. 다시 받아 든 결과를 원본과 대조해 보니 이번엔 합계 수식이 엉뚱하게 꼬여 있어, 프롬프트를 더 길고 자세하게 적어 세 번째 요청을 보냅니다. 세 번째로 돌아온 표를 검토하다가 손대지 말아야 할 서식까지 멋대로 바뀐 것을 발견하고 네 번째 요청 프롬프트를 치려는 순간 화면 속 숫자를 한 줄 한 줄 대조하고 검토하느라 이미 수십 분이 훌쩍 지나갔음을 깨닫습니다.

끝없는 수정과 검토 끝에 결국 우리는 다음과 같은 결론에 이릅니다.

"그냥 내가 하는 게 더 빠르겠다."

우리 실무에서는 열 번 중 아홉 번 잘 나오는 것을 성공이라고 하지 않습니다. 단 한 번이라도 숫자가 틀어지거나 서식이 깨지면 결국 결과 전체를 처음부터 끝까지 다시 대조해야 하고, 검토하는 시간이 직접 만드는 시간보다 길어지는 순간 자동화는 실패로 끝납니다.

이런 일을 겪고 나면 반응은 대개 두 갈래로 나뉩니다. 한쪽은 역시 AI로 우리 일을 자동화하기는 아직 무리라며 단념하고, AI 창은 메일 문장을 다듬거나 모르는 용어를 물어볼 때만 여는 곳이 됩니다. 다른 한쪽은 더 최신 모델과 더 비싼 요금제, 더 뛰어난 프롬프트 팁을 찾아 헤맵니다.

둘 다 답이 될 수는 없습니다.

우리 일은 분명히 AI로 자동화할 수 있습니다. 따라서 벌써부터 불가능하다며 단념할 이유는 전혀 없습니다. 하지만 더 좋은 프롬프트를 찾아 헤매는 것이 그 답이 될 수는 없습니다. 이 실패는 프롬프트를 못 써서 생긴 일도 아니고, 더 비싼 최신 모델을 쓰지 않아서 생긴 일도 아닙니다.

지금처럼 AI 채팅창에 표와 데이터를 넣고 한 번에 결과를 받아 쓰려는 방식으로는 누가 해도 비슷한 벽에 부딪히며, 그 이유는 AI가 애초에 만들어진 방식에 있습니다.

원인: 똑같이 요청해도 매번 결과가 다르다

완벽한 프롬프트를 넣어도 매번 다른 답이 나오는 이유

AI를 우리 업무에 곧바로 쓰기 어려운 가장 결정적인 원인은, AI가 본질적으로 확률 모델(Probabilistic Model) 이라는 데 있습니다.

우리가 매일 다루는 엑셀이나 계산기는 결정론적(Deterministic) 으로 작동합니다. 1 + 1을 입력하면 백 번, 만 번을 계산해도 항상 정확히 2가 나옵니다. 입력이 같으면 출력도 100% 같아야 한다는 것은 회계 실무자가 도구를 다룰 때 갖는 가장 기본적인 전제입니다.

하지만 ChatGPT나 클로드 같은 대규모 언어 모델(LLM)은 계산기처럼 정해진 결과를 보장하는 도구가 아닙니다. 방대한 문맥을 바탕으로 "지금까지 나온 말 뒤에 어떤 단어가 오는 것이 통계적으로 가장 그럴듯한가"를 계산하고, 그 확률 분포 속에서 다음 단어를 하나씩 골라가며 문장과 표를 만들어 냅니다.

이러한 작동 방식 때문에 AI에는 태생적인 불확정성(Nondeterminism) 이 존재합니다. 사용자가 토씨 하나 틀리지 않고 완벽하게 똑같은 프롬프트를 입력하더라도, 나오는 결과는 매번 달라질 수밖에 없습니다. 표의 열 순서가 뒤바뀌거나, 멀쩡하던 행이 빠지거나, 지난번에는 잘 맞추던 수식이 틀어지는 현상은 실무자가 프롬프트를 잘못 써서가 아니라 AI라는 도구가 지닌 근본적인 불확정성 때문입니다.

일부만 고쳐 달라고 해도 마찬가지입니다. AI는 사람이 엑셀의 특정 셀만 콕 집어 수정하듯 고치는 것이 아니라, 확률에 기대어 처음부터 끝까지 표를 새로 지어냅니다. 그렇기 때문에 손대지 말아야 할 멀쩡한 숫자까지 바뀌어 돌아오기 일쑤입니다. 프롬프트를 아무리 길고 정교하게 다듬더라도 이 불확정성의 폭을 좁힐 수 있을 뿐, 결코 '0'으로 없앨 수는 없습니다. 더 비싼 최신 모델로 바꾸어도 마찬가지입니다.

다른 분야의 AI 활용법이 우리 실무에 통하지 않는 이유

시중의 AI 강의와 콘텐츠를 둘러보면 대부분 바이브코딩, 유튜브 쇼츠 자동화, 블로그 글 자동화처럼 개발과 콘텐츠 제작 분야에 몰려 있습니다. 이 분야들은 AI의 이런 확률적 성질이 비교적 문제 되지 않는 분야입니다. 콘텐츠는 오히려 남과 다른 결과가 나오는 편이 장점이며, 개발은 AI가 쓴 코드를 개발자가 직접 실행하고 검증하며 고쳐 쓸 수 있습니다.

하지만 우리 실무는 정반대입니다. 회계·재무 업무에는 새로운 것을 만드는 일보다 지난번과 같은 방법으로 정확히 다시 해내는 일이 훨씬 많습니다. 지난달 결산서와 이번 달 결산서는 숫자만 다를 뿐 양식과 계정과목, 집계 수식이 100% 같아야 하고, 숫자는 단 1원의 오차도 없어야 합니다. 숫자 하나가 틀리면 책임은 결국 실무자가 지는데, 할 때마다 결과가 달라지는 도구에 일을 통째로 맡길 수는 없습니다.

우리가 지금부터 알아야 할 점은 업무자동화를 위한 AI 활용은 개발이나 콘텐츠 제작과 완전히 다르다는 점입니다. 개발과 콘텐츠 분야에서 통한 방식, 곧 좋은 프롬프트를 찾아 넣고 결과를 통째로 받아 쓰는 방식으로는 결코 우리 실무를 자동화할 수 없습니다.

해법: 그렇다면 AI를 어떻게 활용해야 할까?

업무자동화의 역사: 규칙 기반의 한계와 AI의 한계

좋은 프롬프트 하나로 결과물을 통째로 받아 쓰는 방식으로는 우리 실무를 자동화할 수 없다는 것을 확인했습니다. 그렇다면 우리는 AI를 도대체 어떻게 활용해야 할까요?

이 질문의 답을 찾으려면, 먼저 우리의 업무자동화의 역사에서 마주친 두 가지 한계를 돌아보아야 합니다.

1. 규칙 기반(결정론)의 한계

AI가 등장하기 전의 전통적인 자동화는 엑셀 매크로(VBA)나 파이썬 스크립트, RPA 같은 프로그래밍(코드) 에 기반했습니다. 이를 결정론적(Deterministic) 방식이라고 부릅니다.

우리가 매일 쓰는 엑셀 함수(SUM, VLOOKUP)처럼, 결정론적 방식은 사람이 정해 둔 규칙대로만 한 치의 오차 없이 움직입니다. 입력이 같으면 만 번을 돌려도 만 번 모두 똑같은 결과를 냅니다. 업무 흐름이 명확하고 데이터 양식이 변하지 않는 완벽한 루틴 업무라면 가장 강력한 방법입니다.

하지만 우리의 실제 회계·재무 업무에는 수많은 예외와 비표준이 존재합니다. 거래처마다 제각각인 증빙 양식(PDF 전자세금계산서, 엑셀 명세서, 종이 영수증 사진 등), 기준서나 법령 어디에도 적혀 있지 않은 실무 관례, 상황과 맥락에 따라 필요한 사람의 판단이 그것입니다. 모든 예외를 사전에 규칙으로 코딩해 둘 수는 없기에, 전통적인 자동화는 규칙에 없는 예외를 만나는 순간 멈춰 섰고 결국 사람이 다시 개입해야 했습니다.

2. 생성형 AI의 한계: 불확정성

바로 이 지점에서 사람처럼 비정형 문서를 읽고 유연하게 맥락을 추론하는 생성형 AI가 등장했습니다. 0과 1의 규칙에 갇혀 있던 업무자동화의 한계가 마침내 풀린 것처럼 보였습니다.

하지만 앞서 살펴보았듯, 생성형 AI는 본질적으로 확률 모델이며 불확정성(Nondeterminism) 이라는 태생적 한계를 지닙니다. AI에게 엑셀 표나 결산 자료를 통째로 맡기면, 매번 양식이 뒤바뀌고 특정 셀만 고치는 핀포인트 수정이 불가능해 결국 실무자가 전수 대조를 해야 하는 상황에 빠지게 됩니다.

결국 코드는 조금만 양식이 바뀌거나 예외가 생기면 에러를 내며 멈춰 버리고, AI는 매번 똑같이 맞춰야 할 숫자나 서식에서 엉뚱한 실수를 저지릅니다. 서로 잘하는 일과 못하는 일이 완전히 정반대인 셈입니다.

반복은 코드로 자동화하고, 판단과 맥락은 AI에게 맡긴다

결국 해법은 단순합니다. 코드(결정론)와 생성형 AI, 어느 한쪽만 고집해서 업무 전체를 맡기려 해서는 안 됩니다. 핵심 전략은 두 도구를 결합하여 각자가 가장 잘하는 자리에 배치하는 것입니다.

매번 똑같아야 하는 데이터 집계와 서식은 규칙 기반의 코드에 맡겨 100% 일관성을 확보하고, 제각각인 비정형 문서를 읽거나 특이사항을 분석하는 맥락적 판단은 생성형 AI에 맡겨 유연성을 확보하는 방식입니다.

실제로 클로드(Claude)를 개발한 글로벌 AI 기업 앤트로픽(Anthropic) 역시 공식 가이드와 엔지니어링 블로그에서 정확히 이 점을 이야기하고 있습니다. 엔지니어링 블로그는 많은 업무에 코드만이 줄 수 있는, 매번 같은 결과를 보장하는 신뢰성이 필요하다고 설명하고, 스킬을 만드는 공식 가이드는 코드는 매번 같지만 말은 읽을 때마다 해석이 갈린다고 적었습니다. 그래서 꼭 지켜야 하는 검사는 말로 지시하지 말고 코드(스크립트)로 넣으라고 권합니다. 이 연재에서 하는 말과 앤트로픽 공식 문서의 표현을 나란히 놓으면 다음과 같습니다.

코드 작성은 AI에게 우리말로 시킨다

그렇다면 남는 문제는 하나입니다. "우리는 개발자도 아니고 코딩을 배운 적도 없는데 어떻게 코드를 씁니까?"

바로 여기서 AI의 진짜 쓸모가 드러납니다. 우리가 코드를 직접 배울 필요 없이, AI에게 코드를 작성해 달라고 시키면 됩니다.

AI가 세상에서 가장 빠르고 정확하게 써 내려가는 글이 바로 '프로그래밍 코드'입니다. 우리는 복잡한 프로그래밍 언어를 배울 필요 없이, 앞서 우리가 매일 하던 엑셀 작업을 동료에게 인계하듯 우리말로 설명하기만 하면 됩니다.

매출 원장 시트에서 거래처별 합계를 피벗으로 집계하고, 지난달 보고서와 똑같은 서식을 적용해 엑셀 파일로 저장해 주는 파이썬 코드를 짜 줘.

이렇게 우리말로 지시하면, AI가 그 규칙을 정확히 반영한 코드를 순식간에 작성해 줍니다. 우리는 그 코드가 제대로 돌아가는지 처음 한 번만 검토해 두고 파일로 저장해 두면 됩니다. 다음 달에는 "저장해 둔 코드로 이번 달 데이터도 똑같이 돌려 줘"라고 실행만 시키면, 지난달과 서식도, 계산 수식도 100% 일치하는 완벽한 결과물이 나옵니다.

AI에게 매번 불안정한 표를 직접 만들어 달라고 명령하는 것이 아니라, '매번 똑같은 결과를 만들어 낼 코드'를 작성해 달라고 하는 것입니다.

이렇게 두 도구의 역할을 나누는 순간, 비로소 회계 실무의 진짜 자동화가 완성됩니다.

• 반복되는 작업 (데이터 집계, 표 서식, 수식 검증): AI가 작성해 준 코드가 규칙대로 오차 없이 처리합니다.
• 판단이 필요한 작업 (회계처리 검토, 계정 변동 원인 분석): 문맥을 읽어내는 AI에게 맡겨 초안을 작성하게 합니다.

이렇게 나누면 매번 결과 전체를 의심하며 밤늦게까지 숫자를 하나하나 전수 대조할 필요가 없어집니다. 계산과 양식의 정확성은 코드가 100% 보장해 주므로, 우리는 AI가 채워 준 핵심 판단 영역만 확인하면 됩니다.

결과가 매번 달라지는 확률 모델과 단 1원의 오차도 없어야 하는 회계 실무 사이에서, 이 분업이야말로 실패 없는 업무자동화를 이뤄낼 수 있는 유일한 길입니다.

앞으로 우리가 다룰 이야기

이 연재는 바로 이 원리를 바탕으로 나만의 업무자동화 시스템을 만들어 가는 구체적인 과정을 다룹니다. 앞으로 우리는 다음과 같은 세 가지 핵심 질문을 바탕으로 자동화의 퍼즐을 맞춰 나갈 것입니다.

1. 어떤 부분이 반복되는 영역이고, 어떤 부분이 판단의 영역인가: 매달 똑같이 맞추어야 하는 엑셀 수식·집계·서식(반복)과 실무자의 전문성이 필요한 회계처리 검토·변동 원인 분석(판단)을 내 업무에서 어떻게 명확히 나눌 것인가?
2. 반복되는 부분을 코드로 자동화할 때 어떤 도구를 사용할 것인가: 단순히 대화만 나누는 챗봇을 넘어, 내 PC에서 실제로 파일을 읽고 AI가 작성한 코드를 저장해 일을 끝내 주는 최적의 도구를 어떻게 선택하고 활용할 것인가?
3. 내 업무를 맡기기 위해 자료를 어떻게 넘겨주고, 어떻게 원하는 결과물을 얻어낼 것인가: AI가 모르는 우리 회사의 양식과 기준을 어떻게 전달하고(컨텍스트), 원하는 작업 순서와 계획을 어떻게 지시하며(프롬프트), 이 모든 재료를 어떻게 하나의 자산(CLAUDE.md, MCP, 스킬)으로 축적할 것인가?

처음에는 다소 생소하게 느껴질 수 있습니다. 하지만 '프롬프트 한 줄로 모든 실무가 끝난다'는 마케팅 문구의 환상에서 벗어나, '반복은 코드로, 판단은 AI에게' 라는 기준을 세우는 순간 여러분의 업무자동화는 진짜 현실이 될 것입니다.

이어지는 1~4장에서는 이 시스템을 내 업무에 맞게 구축하는 데 꼭 필요한 AI 핵심 용어와 원리를 차례로 살펴보겠습니다.

참고

• 앤트로픽 엔지니어링 블로그, 「Equipping agents for the real world with Agent Skills」(2025-10-16): https://www.anthropic.com/engineering/equipping-agents-for-the-real-world-with-agent-skills
• 앤트로픽, 「The Complete Guide to Building Skills for Claude」 26쪽