지난 글에서는 AI 에이전트가 질문에 답하는 데서 끝나지 않고, 목표를 이해한 뒤 도구를 사용해 실제 작업을 수행하는 시스템이라고 설명했습니다.
그렇다면 에이전트 안에서는 무엇이 판단하고, 무엇이 행동하며, 작업에 필요한 정보는 어디에 보관될까요?
이번 글에서는 AI 에이전트의 핵심 구조인 Model, Tool, Context, Memory를 각각 두뇌, 손, 작업대, 기록장에 비유해 쉽게 알아보겠습니다.
1. AI 에이전트는 하나의 AI가 아니다
AI 에이전트를 하나의 거대한 인공지능으로 생각하기 쉽지만, 실제로는 여러 역할이 연결된 시스템에 가깝습니다.
모델은 현재 상황을 해석하고, 도구는 외부에서 행동하며, 컨텍스트와 메모리는 판단에 필요한 정보를 제공합니다. 여기에 지침과 권한 제한이 더해져 에이전트가 무엇을 할 수 있는지 결정됩니다.
좋은 모델 하나만 연결한다고 좋은 에이전트가 되는 것은 아닙니다. 도구의 품질, 제공되는 정보, 권한 범위, 결과 검증 방식이 함께 설계되어야 합니다.
2. Model은 판단하는 두뇌다
Model은 사용자의 요청과 현재 상황을 읽고 다음에 무엇을 해야 하는지 결정하는 역할을 합니다. 질문의 의미를 해석하고, 작업을 작은 단계로 나누고, 사용할 도구를 고르며, 도구가 돌려준 결과가 충분한지도 판단합니다.
예를 들어 “이번 달 지출에서 이상한 항목을 찾아줘”라는 요청을 받으면 모델은 먼저 거래 내역을 읽을 도구가 필요한지 판단합니다. 데이터를 받은 뒤에는 평소보다 큰 금액, 중복 결제, 낯선 상호 등을 기준으로 다시 분석할 수 있습니다.
AI 모델의 출력은 항상 동일하거나 완벽하지 않습니다. 중요한 업무에서는 성공 조건, 허용된 도구, 중단 기준을 명확히 주고 결과를 검증해야 합니다.
3. Tool은 실제 행동을 수행한다
모델이 아무리 좋은 판단을 해도 외부 세계에 접근할 방법이 없다면 답변만 만들 수 있습니다. Tool은 에이전트가 검색하고, 파일을 읽고, 계산하고, 데이터를 수정하도록 만드는 실행 수단입니다.
| Tool 종류 | 할 수 있는 일 | 주의할 점 |
|---|---|---|
| Web Search | 최신 정보와 출처 검색 | 출처 신뢰도와 날짜 확인 |
| File / Database | 문서와 데이터 조회·수정 | 접근 범위와 개인정보 보호 |
| Email / Calendar | 메일·일정 조회 및 생성 | 발송·등록 전 사용자 승인 |
| Code / Calculator | 계산, 분석, 프로그램 실행 | 실행 환경과 결과 검증 |
도구 이름만 알려주는 것으로는 부족합니다. 언제 사용해야 하는지, 어떤 입력이 필요한지, 무엇을 변경하는지, 실패하면 어떻게 처리해야 하는지까지 명확해야 모델이 올바르게 선택할 수 있습니다.
4. Context는 지금 펼쳐놓은 작업대다
Context는 모델이 현재 판단을 내릴 때 직접 보고 있는 정보의 묶음입니다. 사용자의 질문, 시스템 지침, 최근 대화, 도구 결과, 첨부 문서 일부 등이 여기에 포함될 수 있습니다.
책상 위에 자료를 너무 많이 펼쳐두면 중요한 문서를 찾기 어려운 것처럼, 컨텍스트도 많다고 항상 좋은 것은 아닙니다. 관련 없는 정보가 섞이면 판단이 흐려지고 비용과 처리 시간이 늘 수 있습니다.
현재 대화에 정보가 들어 있다고 해서 다음 세션에도 자동으로 남는 것은 아닙니다. 무엇이 얼마나 오래 유지되는지는 제품과 시스템 설계에 따라 달라집니다.
5. Memory는 필요한 기록을 다시 가져오는 장치다
Memory는 에이전트가 이전 대화나 작업 결과에서 필요한 정보를 저장하고 다시 꺼내 쓰도록 돕습니다. 하지만 사람처럼 모든 경험을 자연스럽게 기억한다기보다, 저장할 내용과 불러올 조건을 설계한 정보 관리 기능으로 이해하는 편이 정확합니다.
오래된 정보가 남으면 잘못된 판단을 만들 수 있고, 개인정보를 무기한 저장하면 보안 문제가 생깁니다. 저장 기준, 보관 기간, 수정·삭제 방법을 함께 설계해야 합니다.
6. Model, Tool, Memory는 어떻게 연결될까
세 요소는 독립적으로 끝나지 않고 하나의 반복 흐름으로 연결됩니다. 예를 들어 “지난 회의 내용을 확인해 이번 주 할 일을 정리해줘”라는 목표를 처리한다고 가정해보겠습니다.
↓
Context와 Memory에서 필요한 정보 확인
↓
Model이 다음 행동 판단
↓
문서·캘린더 Tool 실행
↓
결과 검증 및 작업 상태 갱신
↓
완료하거나 다음 행동 반복
모델은 회의록 위치를 모르면 검색 도구를 선택하고, 회의록을 읽은 뒤에는 할 일을 추출합니다. 이후 캘린더를 확인해 마감일과 충돌하지 않는지 살펴보고 최종 목록을 만듭니다. 필요한 경우 완료한 단계와 출처를 작업 메모리에 기록합니다.
7. 구조를 잘못 설계하면 어디서 실패할까
에이전트의 실패를 모두 모델 탓으로 돌리기 쉽지만, 실제로는 도구 설명, 컨텍스트 구성, 오래된 메모리, 과도한 권한 때문에 문제가 생기기도 합니다.
| 실패 지점 | 문제 | 개선 방법 |
|---|---|---|
| Model | 목표나 성공 기준을 다르게 해석 | 결과 형식과 중단 조건 명시 |
| Tool | 비슷한 도구를 잘못 선택 | 용도·입력·부작용을 구체적으로 설명 |
| Context | 관련 없는 정보로 핵심 누락 | 현재 단계에 필요한 정보만 제공 |
| Memory | 오래되거나 잘못된 기록 재사용 | 출처·날짜·삭제 정책 관리 |
| Permission | 잘못된 행동이 실제 변경으로 이어짐 | 최소 권한과 승인 단계 적용 |
8. 핵심 정리
Model = 판단 Tool = 실행 Context = 현재 정보 Memory = 필요한 기록
AI 에이전트의 성능은 모델 하나로 결정되지 않습니다. 정확한 도구 설명, 필요한 정보만 담은 컨텍스트, 관리 가능한 메모리, 최소 권한과 검증 절차가 함께 작동해야 안정적인 결과를 만들 수 있습니다.
다음 글에서는 모델이 Tool을 선택하고 필요한 입력값을 만들어 실행을 요청하는 Tool Calling의 작동 원리를 더 자세히 살펴보겠습니다.