잠든 사이에도 일하는 AI: 헤르메스 에이전트 완전 입문
AI한테 뭔가 시키려면, 우리는 보통 이렇게 한다. 책상에 앉는다. 창을 연다. 질문을 친다. 답을 받는다. 창을 닫으면? 거기서 끝이다.
이건 마치 자판기 같다. 동전을 넣고 버튼을 눌러야 음료수가 나온다. 내가 버튼을 안 누르면, 자판기는 하루 종일 가만히 서 있는다. 똑똑하긴 한데, 시키지 않으면 아무것도 안 한다.
헤르메스 에이전트(Hermes Agent) 는 자판기가 아니라 집사에 가깝다. 내가 자는 동안에도 깨어 있고, 아침이 되면 알아서 신문을 정리해 두고, “어제 이런 일이 있었어요”라고 먼저 말을 건다. 이 글은 그 집사가 무엇이고, 어떻게 일하고, 어떻게 들이는지를 — 처음 듣는 사람도 따라올 수 있게 — 천천히 풀어 보는 글이다. 뭘 팔려는 게 아니라, 구조를 보여주려는 글이다.
1. 챗봇 vs 에이전트: “물어보는 AI”와 “알아서 하는 AI”
요즘 화제인 클로드 코드(Claude Code) 나 코덱스(Codex) 는 정말 강력하다. 하지만 이들은 기본적으로 내가 앉아서 같이 일할 때 빛나는 작업 도구다. 옆에서 같이 그림 그려 주는 친구 같은 거다. 친구가 아무리 잘 그려도, 내가 집에 가면 그림은 멈춘다.
헤르메스는 처음부터 내가 자리에 없을 때를 위해 만들어졌다.
| 구분 | 클로드 코드 · 코덱스 · 커서 | 헤르메스 에이전트 |
|---|---|---|
| 비유로 말하면 | 옆에서 같이 작업하는 친구 | 나 없어도 일하는 집사 |
| 성격 | 직접 실무를 하는 작업 도구 | 역할을 맡고 상주하는 비서 |
| 언제 일하나 | 내가 열고 시킬 때만 | 서버에서 24시간 대기·실행 |
| 두뇌(모델) | 특정 회사 모델에 묶임 | 여러 모델을 골라 끼움 |
| 어떻게 대화하나 | 화면 앞에서 실시간 대화 | 텔레그램·디스코드로 메시지 |
| 기억력 | 창을 닫으면 대부분 잊음 | 파일에 차곡차곡 쌓아 둠 |
쉽게 말하면 — 클로드 코드가 “같이 숙제하는 친구”라면, 헤르메스는 “내가 학원 간 사이에도 집을 지키는 집사”다. 둘은 경쟁자가 아니라 역할이 다르다. 그래서 똑똑한 사람들은 둘을 같이 쓴다. 코드 짜는 건 클로드 코드한테, 그 외 잡다한 일은 헤르메스한테.
2. 가장 중요한 생각: “내가 병목이 되면 안 된다”
여기서 잠깐, 좀 어려운 말 하나만 쉽게 풀고 가자.
줄넘기 여럿이서 긴 줄을 돌리는 놀이를 떠올려 보자. 다른 친구들은 다 빠르게 넘는데, 나 혼자 자꾸 줄에 걸려서 멈춘다면? 놀이 전체가 나 때문에 느려진다. 이렇게 전체를 느리게 만드는 한 군데를 병목(bottleneck) 이라고 한다. 병의 목이 좁아서 물이 천천히 나오는 것처럼.
AI 전문가 안드레 카파시는 이런 말을 했다.
“이제는 인간이 루프 밖으로 나와야 한다. 매번 사람이 프롬프트를 입력해야 하는 구조는 한계가 있다. 맥락이 새로운 코드(Context is the new code) 가 되는 시대다.”
말이 어렵지만, 뜻은 단순하다.
- 옛날에는 컴퓨터한테 “이거 하고, 저거 하고, 그다음 이거 해” 하고 하나하나 다 코딩해서 가르쳐야 했다.
- 이제는 상황(맥락)만 잘 알려주면, AI가 “아, 그럼 이렇게 하면 되겠네” 하고 알아서 방법을 찾는다.
그러니 사람이 매번 옆에서 “다음 뭐 해?”를 눌러 줄 필요가 없다. 사람은 루프(반복되는 작업 고리) 밖으로 빠지고, AI가 그 고리를 알아서 돌린다. 헤르메스는 바로 이걸 노린다. 내가 줄넘기에서 빠져도 놀이가 계속 돌아가게.
3. 헤르메스의 머릿속: 영혼·나·일기장
헤르메스가 “눈치 빠른 비서”처럼 느껴지는 비밀은 기억하는 방식에 있다. 복잡한 프로그램 코드가 아니라, 우리가 메모장에 쓰듯 글 파일(마크다운) 몇 개로 자기를 기억한다.
soul.md— 영혼(성격표). 비서의 이름, 성격, 말투, 목표, 맡은 역할을 적어 둔 종이. 로봇에게 끼우는 성격 카드라고 보면 된다. 이 카드 한 장만 바꾸면, 똑같은 로봇이 차분한 연구원이 되기도 하고 활발한 마케터가 되기도 한다.user.md— 나에 대한 정보. 내가 뭘 좋아하는지, 어떻게 일하는지, 어떤 말투를 싫어하는지. 비서가 들고 다니는 “주인님 사용 설명서” 다.memory.md— 일기장. 그동안 무슨 일을 했고 뭘 기억해야 하는지 적는다. 날이 갈수록 두꺼워진다.workspace/— 작업 책상. 비서가 만든 진짜 결과물(리포트, PDF 같은 것)을 올려 두는 책상.
재미있는 건, 헤르메스가 먼저 묻는다는 점이다. 가만히 명령만 기다리지 않는다. 새 비서를 처음 채용한 날 면접하듯, “주인님을 더 잘 도우려면 무엇을 좋아하시는지 알려주세요”라고 자기가 먼저 질문한다. 그 대화가 그대로 user.md와 일기장에 적힌다.
꼭 기억할 팁 — 비서를 막 들였을 때, 귀찮더라도 한두 시간은 미팅하듯 나에 대해 잔뜩 알려주자. 신입사원한테 업무 인수인계하는 것과 똑같다. 이때 들인 시간은 나중에 몇 배로 돌아온다.
4. 쓸수록 똑똑해진다: 눈사람 효과(복리)
솔직히 말하면, 설치 첫날의 헤르메스는 좀 평범하다. “오, 신기하긴 한데… 이게 다야?” 싶을 수 있다.
그런데 비밀이 여기 있다. 헤르메스는 일을 하면서 배운 방법을 스스로 저장한다. 이걸 학습 루프라고 한다.
쉽게 말하면 — 작은 눈덩이를 눈밭에서 굴리는 걸 떠올려 보자. 처음엔 주먹만 하다. 그런데 굴리고 또 굴리면 눈이 계속 들러붙어서 어느새 나보다 커진다. 헤르메스도 똑같다. 하루하루 일하면서 “주인님은 이런 걸 좋아하더라”를 눈처럼 쌓는다.
그래서 헤르메스에는 “한 달의 법칙” 이 있다. 설치 첫날 성능만 보고 “별로네” 하고 판단하지 말라는 거다. 최소 한 달은 옆에 두고 일을 시키면서 나를 학습할 시간을 줘야 한다.
- 첫날: 그냥 평범한 AI.
- 서른째 날: 내 말투, 내 일정, 내가 답장하는 이메일 종류까지 꿰뚫는 대체 불가능한 나만의 비서.
이렇게 시간이 갈수록 점점 더 좋아지는 걸 복리 효과라고 한다. 돼지 저금통에 매일 동전을 넣으면, 처음엔 가볍지만 나중엔 묵직해지는 것처럼.
5. 스스로 매뉴얼을 쓰는 직원: 스킬
헤르메스는 같은 일을 두세 번 하면, “이거 또 시키겠는데?” 하고 그 일의 순서를 스스로 매뉴얼로 적어 둔다. 이 매뉴얼을 스킬(Skill) 이라고 부른다.
예를 들어 “AI 뉴스 좀 정리해 줘”를 한 번 시키면, 헤르메스는 어떤 순서로 검색하고 어떤 모양으로 보고서를 만들지를 스스로 정리해 ‘리서치 스킬’로 저장한다. 다음부터는 “뉴스 정리”만 말해도 그 매뉴얼대로 척척 움직인다. 내가 일일이 사용법을 코딩해 줄 필요가 없다.
단, 주의 — 비서가 스스로 만든 매뉴얼이 항상 옳지는 않다. 신입이 처음 쓴 보고서를 상사가 한 번 봐주듯, 처음 몇 번은 사람이 결과물을 검토(감수) 해 주자. 그래야 엉뚱한 습관이 굳지 않는다.
6. 명령어 몇 개만 알면 된다: 슬래시 명령어
헤르메스에는 /(슬래시)로 시작하는 편리한 명령이 몇 개 있다. 게임 채팅 명령어처럼 외우면 편하다.
/steer(방향 틀기): 비서가 심부름하는 도중에 끼어들어 방향을 바꾼다. 마트에 보낸 심부름꾼한테 전화해서 “아, 우유 말고 두유로 사 와!” 하는 것과 같다. 처음부터 다시 시킬 필요가 없다./bytheway(그냥 물어보기): “이건 그냥 궁금해서 묻는 거야, 굳이 기억 안 해도 돼” 라고 말하는 것. 비서의 일기장(메모리)을 쓸데없는 정보로 더럽히지 않게 해 준다./insight(성장 점검): “그동안 일한 거 한번 정리해서 보여줘” — 비서가 내 의도를 얼마나 잘 알아듣고 있는지 성적표처럼 확인한다.
7. 24시간 일하게 하려면: 잠 안 자는 컴퓨터(서버)
집사가 24시간 일하려면, 24시간 켜져 있는 컴퓨터가 필요하다. 내 노트북은 가방에 넣으면 꺼지니까 안 된다. 그래서 항상 켜진 컴퓨터를 따로 둔다. 선택지는 둘.
- 내 집에 두는 방법 (맥미니 같은 작은 PC): 비밀스러운 자료를 내 손안에 둘 수 있어 안심된다. 대신 기계를 직접 사야 한다.
- 빌려 쓰는 방법 (VPS): 인터넷 너머에 있는 “잠 안 자는 작은 사무실” 을 월세로 빌리는 거다. 한 달에 만 원~2만 원대면 24시간 안정적으로 돌아가고, 내 컴퓨터가 위험해질 일도 없다.
VPS가 뭐예요? — Virtual Private Server, 우리말로 “가상 사설 서버”. 커다란 건물(거대한 컴퓨터)을 칸칸이 나눠서 그중 한 칸을 나한테만 빌려주는 거라고 보면 된다. 호스팅어(Hostinger) 같은 곳에서 원클릭 버튼 으로 빌릴 수 있어서, 컴퓨터를 잘 몰라도 시작할 수 있다. 추천 사양은 대략 KVM2급 이상, 운영체제는 우분투(Ubuntu) 24.04.
도커와 “이삿짐 박스”
헤르메스는 도커(Docker) 라는 기술 위에서 돌아간다.
쉽게 말하면 — 도커는 이삿짐 박스다. 비서한테 필요한 짐(프로그램, 설정)을 박스 하나에 통째로 담아 두면, 어느 집(어느 컴퓨터)에 갖다 놔도 박스만 열면 똑같이 작동한다. “내 컴퓨터에선 됐는데 저긴 안 되네?” 하는 골치 아픈 일이 없어진다.
그런데 여기 아주 중요한 한 가지가 있다. 이 이삿짐 박스(컨테이너)는 언젠가 버리고 새 박스로 갈아탈 수 있다. 그때 박스 안에만 일기장을 넣어 뒀다면, 박스를 버릴 때 기억도 같이 사라진다!
그래서 볼륨 매핑을 한다.
볼륨 매핑이 뭐예요? — 소중한 일기장은 박스 안이 아니라 집 책장(호스트 컴퓨터) 에 따로 보관하고, 박스에는 “책장이랑 연결된 통로”만 뚫어 두는 것. 이러면 박스를 버리고 새 박스를 사와도, 책장의 일기장은 그대로다. 이걸 빼먹으면 컨테이너를 다시 만들 때 그동안 쌓은 기억이 통째로 날아간다. 꼭 챙기자.
8. 어디서 부리나: 텔레그램·디스코드
비서한테 일을 시키고 보고받는 창구는 우리가 늘 쓰는 메신저다.
- 텔레그램: 설치가 간단해 혼자 쓰기 좋다.
BotFather라는 곳에서 봇을 하나 만들고 열쇠(토큰)를 연결한다. 나만 말을 걸 수 있게 잠그면 더 안전하다. - 디스코드: 방(채널)을 여러 개 만들 수 있어서 “리서치 방”, “유튜브 방”처럼 용도별로 나눠 쓰기 좋다. 비서 여럿을 부릴 때 편하다.
- 슬랙: 회사에서 많이 쓴다. 앱을 만들고
Socket Mode를 켜서 연결한다.
9. 알람 맞추듯 자동으로: 크론
이제 마지막 마법, 크론(Cron) 이다.
쉽게 말하면 — 크론은 알람시계다. “매일 아침 7시에 깨워 줘”를 맞춰 두면 매일 그 시간에 울리듯, “매주 월요일 오전 10시에 업계 뉴스 정리해서 보고해”를 맞춰 두면 비서가 알아서 그 시간에 일하고 결과를 보낸다.
내가 시키지 않아도 알아서 돌아가는 것들을 예로 들면:
- 모닝 브리핑: 매일 아침, 밤사이 온 이메일·일정·관심 뉴스레터를 요약해서 띄워 준다. 한 달쯤 지나면 내가 진짜 챙기는 것 위주로 더 똑똑하게 추려 준다.
- 경쟁사 감시: 경쟁 회사의 가격이 바뀌거나 새 게시물이 올라오면 알려 준다.
- 리뷰 모으기: 앱스토어에서 별점 3점 이하 불만 후기만 골라 정리해 준다.
- 밤사이 해결사: 내가 자는 동안 프로그램에 오류가 나면, 로그를 분석해 “이런 에러가 있었고 이렇게 고치면 됩니다” 라고 아침에 보고해 둔다.
비서는 글로만 답하지 않고 PDF 보고서까지 만들어 메신저로 배달한다. 한국 시간(KST)만 정확히 맞춰 두면 시간표가 어긋나지 않는다.
10. 비서의 두뇌는 갈아 끼울 수 있다
헤르메스 자체는 몸통이고, 실제로 생각하는 두뇌(AI 모델) 는 따로 끼운다. 그래서 두뇌를 골라 끼울 수 있다.
- 글쓰기처럼 창의력이 필요하면 클로드(Claude) 계열을, 까다로운 코딩·논리에는 GPT 계열을 — 일의 성격에 맞춰 바꿔 낀다.
- 오픈라우터(OpenRouter) 라는 “여러 두뇌를 고르는 리모컨” 을 쓰면 상황에 따라 싼 두뇌·비싼 두뇌를 똑똑하게 골라 비용을 아낄 수 있다.
중요 — 비서의 똑똑함은 두뇌에 정비례한다. 너무 싼 두뇌를 끼우면 헤르메스가 멍청해 보일 수 있으니, 가능하면 성능 좋은 최신 모델을 끼우자.
11. 관리와 안전(보안)
- VS Code 원격 접속: 잠 안 자는 사무실(서버)에 안전한 통로(SSH)로 직접 들어가 비서의 성격표·일기장·보고서를 열어 보고 고칠 수 있다.
- 자물쇠는 튼튼하게: 단순 비밀번호보다 SSH 키 + 패스프레이즈(열쇠 + 그 열쇠를 여는 암호)가 훨씬 안전하다. 더 꽁꽁 잠그고 싶으면 테일스케일(Tailscale) 이라는 비밀 통로(VPN)로 나만 들어갈 수 있게 막을 수 있다.
12. 한 명이 아니라 팀을 꾸린다
헤르메스의 진짜 그림은 비서 한 명이 아니다. 성격표(soul.md)를 다르게 써서 리서치 담당, 콘텐츠 담당, 회계 담당처럼 각기 다른 전문 비서 여러 명을 둘 수 있다. 반에서 친구들끼리 역할을 나눠 맡듯이.
게다가 이 비서들이 하나의 기억을 공유하면 시너지가 난다. 마케팅 담당이 아는 정보를 코드 담당도 알게 되니, 따로 노는 도구들로는 못 하던 “회사 전체를 이해하는 자동화”가 가능해진다. 혼자 일하는 사장님이나 작은 팀이 큰 회사처럼 굴러가는 비결이다.
처음부터 끝까지, 6단계 요약
- 잠 안 자는 컴퓨터를 구한다 — VPS를 빌리거나 집에 작은 PC를 둔다. (볼륨 매핑 꼭 챙기기!)
- 이삿짐 박스를 푼다 — 도커로 헤르메스를 설치한다. 원클릭 템플릿이면 더 쉽다.
- 비서를 소개받는다 — 성격표를 쓰고, 대화로 나에 대한 정보와 일기장을 채운다.
- 메신저를 연결한다 — 텔레그램이나 디스코드를 붙인다.
- 일을 시키고 검토한다 — 작은 일부터 시키고, 결과물을 한 번씩 봐준다.
- 알람을 맞춘다 — 크론으로 반복 업무를 예약한다. 그리고 한 달간 기다린다.
처음엔 “물 마시기 알림” 같은 사소한 것부터 시켜 봐도 좋다. 별것 아닌 것 같지만, AI가 내 하루 속으로 들어오는 첫 경험이 된다. 그렇게 한 달이 지나면, 당신은 단순히 똑똑한 AI를 갖는 게 아니라 — 당신이 자는 사이에도 당신의 가치를 키워 두는 분신을 갖게 된다.
기술은 이미 준비돼 있고, 비용도 월 커피 몇 잔 수준이다. 매번 직접 버튼을 누르는 자판기로 남을지, 알아서 일하는 집사를 들일지.
이 선로가 어디로 가는지는 보여줬다. 올라탈지는 당신 몫이다.