AI가 만든 문서를 처음 받았을 때의 감정은 대개 두 갈래입니다. “생각보다 잘 썼는데?”와 “그래서 이걸 믿어도 되나?” 저는 두 번째 질문이 사라지지 않는 게 오히려 건강하다고 생각합니다. 에이전트가 초안을 잘 만드는 것과, 그 초안이 업무 결과로 책임질 수 있는 것은 다른 문제이기 때문입니다.
특히 특허·상표처럼 근거 한 줄과 날짜 하나가 결론을 바꿀 수 있는 일에서는 더 그렇습니다. 블로그 글, 제안서, 코드 변경도 “무엇을 근거로 누가 확인했고, 언제 바뀌었는가”를 설명할 수 있어야 다음 사람이 이어받을 수 있습니다.
오늘은 에이전트 결과물을 조금 덜 불안하게 만드는 세 장치, 근거·승인·감사 로그를 하나의 작업 흐름으로 묶어 보겠습니다.
1. ‘그럴듯함’과 ‘근거 있음’ 사이에는 기록이 있다
에이전트는 문장을 매끄럽게 만들고, 흩어진 자료를 빠르게 묶어 줍니다. 그러나 문장이 매끄럽다는 사실은 그 안의 숫자, 인용, 판단이 맞다는 뜻이 아닙니다. 그래서 결과물 옆에는 가능하면 다음 세 종류의 꼬리표가 남아야 합니다.
- 원문 근거: 어떤 문서·데이터·파일에서 가져왔는가
- 추론·제안: 원문에 직접 쓰여 있지는 않지만 분석하여 제시한 것인가
- 확인 보류: 원문·날짜·권한이 충분히 검증되지 않아 결론을 내리지 않은 것인가
이 구분은 에이전트를 의심하기 위한 장치가 아닙니다. “AI가 썼다”보다 “이 단락은 어떤 자료에 기대고, 어디부터가 제안인가”가 더 실무적인 설명이 됩니다.
아키텍처 교훈 ① 좋은 자동화는 답을 많이 만드는 자동화가 아니라, 답의 출처와 한계를 함께 남기는 자동화다.
2. 사람 검토는 마지막 도장이 아니라 설계된 관문이다
사람이 검토한다고 하면 흔히 맨 마지막에 전체를 읽고 승인하는 장면을 떠올립니다. 물론 최종 승인은 필요합니다. 다만 모든 판단을 마지막에 몰아두면, 사람이 봐야 할 더미가 너무 커지고 에이전트의 속도 이점도 사라집니다.
저는 검토 지점을 세 번으로 나누는 편이 더 낫다고 봅니다.
| 단계 | 에이전트가 하는 일 | 사람이 확인할 일 |
|---|---|---|
| 입력 전 | 자료 목록화·형식 정리 | 민감정보와 작업 범위 확인 |
| 초안 후 | 요약·분류·대안 작성 | 사실, 근거, 누락, 판단 오류 확인 |
| 외부 실행 전 | 전달본·변경 목록 준비 | 발송·게시·배포의 최종 승인 |
이 구조에서는 사람이 매 문장을 다시 쓰지 않아도 됩니다. 대신 외부 발송·게시·배포처럼 되돌리기 어려운 결정 앞에만 선명하게 등장합니다.
승인은 에이전트의 자율성을 부정하는 절차가 아니라, 자율성이 오래 작동하게 만드는 안전장치입니다.
3. 감사 로그는 감시 장치가 아니라 다음 작업자의 지도다
‘감사 로그’는 개인이나 소규모 팀에서는 거대한 보안 관제실보다 작업 메모에 가깝습니다. 다음 작업자가 “왜 이렇게 했지?”를 묻지 않도록 남기는 지도입니다.
최소한 아래 다섯 항목만 있어도 작업의 재현성이 크게 올라갑니다.
- 작업 목적과 요청 범위
- 사용한 자료와 검색 조건
- 에이전트가 수행한 도구 호출 또는 변경 파일
- 사람 검토에서 수정·보류한 판단
- 최종 승인자와 외부 실행 여부
이 기록은 길 필요가 없습니다. README의 짧은 작업 규칙, CHANGELOG 한 줄, 보고서의 ‘검증 메모’ 정도면 시작할 수 있습니다. 핵심은 원본 자료와 최종 결과 사이에 설명 가능한 경로를 남기는 것입니다.
아키텍처 교훈 ② 감사 로그는 잘못을 찾기 위한 사후 장부가 아니라, 다음 작업을 빠르게 하는 재현성의 인프라다.
4. 하나의 흐름으로 묶으면 에이전트가 더 쓸모 있어진다
세 장치를 합치면 흐름은 의외로 단순합니다.
자료 수집 → 근거 표시 → 초안 생성 → 사람 검토 → 변경 기록 → 승인된 외부 실행
이 순서에서 에이전트는 자료를 찾고, 구조를 만들고, 반복 작업을 줄이는 데 가장 강합니다. 반대로 사실의 최종 확정, 위험 감수, 대외 책임은 사람이 맡습니다. 역할을 이렇게 나누면 “AI를 믿어도 되나?”라는 막연한 불안이 “이 단계는 이미 검토됐나?”라는 확인 가능한 질문으로 바뀝니다.
에이전트를 빠른 글쓰기 도구로만 쓰면 결과는 흩어집니다. 근거와 승인, 기록을 붙일 때 비로소 반복 가능한 운영 체계가 됩니다.
마치며
에이전트 시대에 필요한 것은 완벽한 자동화가 아니라, 설명할 수 있는 자동화일지도 모릅니다. 결과물이 유용해도 출처와 승인 경로를 말할 수 없다면, 중요한 업무에서는 결국 다시 처음부터 확인해야 합니다.
앞으로는 어떤 에이전트 작업이든 결과물만 저장하지 않고, “무엇을 근거로 했는가”, “무엇을 사람이 확인했는가”, “어디까지 실행되었는가”를 함께 남겨 보려 합니다. 그 세 줄이 쌓이면 에이전트는 멋진 시연을 넘어, 신뢰할 수 있는 동료에 조금 더 가까워질 것입니다.