지식 뇌에 손발을 붙였다: LLM Wiki와 헤르메스 연결하기
AI 에이전트 생태계 구축기· 4 / 10
- 1 — 멋진 비서를 만들기 위한 뜬구름 시도 끝에, LLM Wiki부터 세웠다
- 2 — LLM Wiki를 지식 뇌로 쓰게 해주는 두 가지 자동화
- 3 — 지식 뇌와 연결한 첫 번째 비서 알림 기능
- 4 — 지식 뇌에 손발을 붙였다: LLM Wiki와 헤르메스 연결하기
- 5 — AI 대화 기록으로 블로그 작성하기
- 6 — AI 자동화와 사람의 판단을 잇는 우편함 만들기
- 7 — 텔레그램에서 슬랙으로 헤르메스 사무실 옮기기
- 8 — AI가 쓴 블로그에 필요한 이미지를 더한 방법
- 9 — 헤르메스로 자동화를 운영하며 접한 사소한 문제들
- 10 — AI 코딩 에이전트의 테스트 PASS를 그대로 믿을 수 있을까
second를 만들고 나서, 나는 작업 기록과 대화 맥락을 한곳에 쌓기 시작했다. 그런데 텔레그램에서 부르던 운영 비서 헤르메스는 그 기록을 모른 채 따로 움직이고 있었다. 헤르메스는 정해 둔 일을 주기적으로 처리할 수 있었지만, 내가 어떤 결정을 해 왔는지까지 이어서 아는 비서는 아니었다.
이 글은 두 시스템을 하나로 합친 이야기가 아니다. 이미 쌓인 지식 뇌를 헤르메스가 필요할 때 읽고, 내가 폰에서 남긴 내용을 다시 지식 뇌에 넣게 만든 기록이다.
헤르메스는 텔레그램에서 대화하며 일을 시킬 수 있는 내 운영 비서다. second는 작업 기록과 대화 맥락을 쌓아 다음 작업에 다시 활용하는 내 지식 뇌다.
헤르메스의 메모리만으로는 맥락을 쌓기 어려웠다
헤르메스에는 나에 관한 정보를 오래 쌓아 둘 공간이 거의 없었다. 사용자 메모리도 1,375자까지만 담을 수 있어, 늘어나는 작업 맥락을 계속 넣어 두는 방식은 처음부터 한계가 있었다. 2주 동안 헤르메스를 돌렸지만, 정해 둔 작업만 실행됐을 뿐 나에 대해 새로 쌓인 것은 거의 없었다.
반면 second는 기록을 오래 보관하고, 나중에 필요한 내용을 다시 찾기 위해 만든 공간이었다. 그래서 두 시스템의 역할을 나눴다.
| 맡길 역할 | 헤르메스 | second |
|---|---|---|
| 잘하는 일 | 텔레그램에서 요청을 받고, 정해 둔 작업을 실행한다. | 내가 무엇을 했고 왜 그렇게 결정했는지 기록으로 남긴다. |
| 계속 쌓아야 하는 것 | 일을 처리하는 방법과 현재 요청 | 나에 대한 맥락과 작업의 기록 |
헤르메스 안에 second의 내용을 다시 복사해 넣는 것은 답이 아니었다. 두 곳에 같은 정보가 생기면 어느 쪽이 최신인지 다시 관리해야 한다. 나는 기억은 second 한곳에 두고, 헤르메스가 필요할 때만 그 기억을 보러 가게 하는 방식을 찾았다.
복제하지 않고 읽고 쓰는 길을 만들었다
검토한 연결 방법은 일곱 가지였지만, 실제로 남긴 것은 두 가지였다.
| 남긴 연결 | 실제 동작 | 이 방식을 고른 이유 |
|---|---|---|
| 읽기 연결 | 헤르메스가 대화할 때 내 프로필과 위키 목록을 확인하고, 질문과 관련된 기록만 더 읽는다. | 매번 모든 기록을 대화에 넣지 않아도 되고, 기록을 복제할 필요도 없다. |
| 쓰기 연결 | 텔레그램에서 내가 “적어둬”라고 말한 뒤 내용을 보내면, 그 내용이 second에 새 메모로 원문 그대로 저장된다. | 폰에서 떠오른 생각과 링크를 별도 앱 없이 남길 수 있고, 나중에 second가 정리할 재료도 사라지지 않는다. |
자동으로 세션을 전부 수집하는 방식도 검토했다. 다만 당시에는 실제로 검증되지 않았고, 나중에 필요하면 지난 기록도 다시 모을 수 있었다. 지금 당장 필요한 읽기와 기록보다 먼저 만들 이유가 없었다.
즉, second의 내용을 비서 안으로 옮긴 것이 아니라, 비서가 필요할 때 그곳을 읽고 쓸 수 있는 길만 만들었다. 이 방식이 가능했던 것은 헤르메스와 second가 모두 같은 로컬 환경에 있었기 때문이다. 별도 서버나 동기화 장치를 두지 않아도, 헤르메스가 second의 파일을 직접 읽고 새 메모를 그곳에 기록할 수 있었다.
기존 비서에 손대는 범위도 줄였다
연결을 위해 헤르메스 본체를 고치지는 않았다. 헤르메스가 second의 기록을 언제, 어디서 읽어야 하는지만 알려 주고, 텔레그램의 “적어둬” 요청을 메모로 저장하는 입구만 추가했다.
이미 돌아가는 비서를 크게 손보면, 지식 뇌를 붙이려다가 기존 작업까지 흔들 수 있다. 그래서 연결에 필요한 표면만 작게 늘리고, 나머지는 그대로 두는 방식으로 시작했다. 필요한 것은 비서를 다시 만드는 일이 아니라, 비서가 second에 닿을 수 있는 통로였다.
폰에서 세 가지를 확인했다
파일을 바꿨다고 연결됐다고 보지 않았다. 텔레그램에서 직접 대화하며 세 가지를 확인했다.
- 이전 작업이나 내 선호가 필요한 질문에 헤르메스가 second의 기록을 읽고 답하는지 확인했다.
- 기록과 관계없는 잡담에는 굳이 second를 뒤지지 않는지 확인했다.
- “적어둬”로 남긴 내용이 표현을 바꾸지 않은 원문 메모로 저장되는지 확인했다.
처음 기록 기능은 내가 말한 내용을 조금 다듬어 남기고 있었다. 하지만 메모는 나중에 다시 읽을 원본이다. 그럴듯하게 정리하는 것보다 내가 남긴 맥락을 잃지 않는 일이 먼저라서, 표현을 바꾸지 않고 그대로 저장하도록 바로 고쳤다.
지식 뇌가 처음으로 실제 비서에 닿았다
second는 내 맥락을 쌓고 다음 작업에 건네는 기반으로 만들었다. 이번에는 그 기반을 텔레그램의 헤르메스에 붙였다. 이제 폰에서 헤르메스에게 말을 걸면 필요한 기록을 다시 확인할 수 있고, 떠오른 내용을 바로 second에 남길 수 있다.
아직 헤르메스가 모든 일을 알아서 처리하는 비서는 아니었다. 다만 지식 뇌가 컴퓨터 안에만 쌓여 있는 기록에서 끝나지 않고, 내가 실제로 말을 거는 비서와 연결됐다. 앞으로 필요한 기능을 붙일 때도, 기억을 다른 곳에 복제하지 않고 second 한곳을 기준으로 삼을 수 있게 된 첫 연결이었다.