Context (컨텍스트) 관리

모델이 지금 참고하는 범위

Context에는 지시, 대화 기록, 읽어온 문서, 도구의 실행 결과 등이 들어갈 수 있습니다. 작업 폴더 전체나 모든 과거 대화가 자동으로 포함되는 것은 아닙니다. 무엇을 넣을지는 제품과 하네스의 구성에 따라 달라집니다.

Anthropic의 Context engineering 설명은 한 번의 프롬프트를 넘어 모델에 제공할 정보 전체를 선별하고 유지하는 문제로 다룹니다. 실무에서도 ‘질문을 어떻게 쓸까’와 함께 ‘무슨 자료를 실제로 읽혔나’를 확인해야 합니다.

저장된 지식과 이번 입력을 나눈다

위키는 대화가 끝나도 다시 읽을 수 있는 지식을 남기고, Context 관리는 그중 이번 작업에 필요한 부분을 가져옵니다. 둘은 서로 대체하지 않습니다.

에이전트 기억은 저장과 재호출을 함께 본다

에이전트의 ‘기억’이라는 말에는 현재 대화, 파일에 남긴 결정, 다음 작업에서 검색해 가져오는 정보가 섞여 쓰입니다. 저장된 문서가 있어도 다음 호출에 읽히지 않으면 이번 판단의 근거가 되지 못합니다.

가상 교육 기획에서 ‘대상은 초급 실무자’로 확정했다고 해봅시다. 다음 세션에서 그 결정을 사용하려면 결정 기록을 저장하고, 관련 작업에서 찾아 읽으며, 이후 대상이 바뀌었는지도 확인해야 합니다. 저장·검색·선택·갱신이 이어져야 재사용되는 기억이 됩니다.

필요한 지식은 LLM 위키에 남길 수 있고, 검색에는 임베딩 등을 사용할 수도 있습니다. 특정 저장 방식 하나가 모든 기억 문제를 해결하는 것은 아닙니다.

작업을 나누고 이어가는 기준

작업 성격이 크게 달라졌다면 별도 세션으로 분리할 수 있습니다. 앞서 정한 방향을 이어가야 한다면 현재 대화를 유지하거나 결정 기록을 전달합니다. 모든 작업마다 무조건 비우는 방식은 중요한 배경을 잃을 수 있습니다.

별도 서브에이전트를 사용할 때도 마찬가지입니다. 무엇을 넘기고 무엇을 분리할지 정해야 합니다. 결과만 받으면 충분한 조사도 있지만, 결론의 근거와 미확인 사항까지 함께 받아야 하는 검토도 있습니다.

대화가 길어지기 전에 남길 인계 내용

• 목표와 현재 범위: 무엇을 완성하려는가.
• 확정 결정: 누가 무엇을 정했고 어떤 조건이 붙었는가.
• 근거 위치: 원문과 현재 산출물은 어디에 있는가.
• 미확인 사항: 추정·제안·실패를 확정 사실과 구분했는가.
• 다음 행동: 이어서 무엇을 확인하면 되는가.

요약은 원문을 줄여 담는 과정이므로 누락이 생길 수 있습니다. 특히 ‘검토 중인 제안’을 ‘결정’으로 바꾸거나 적용 범위를 넓히지 않았는지 확인합니다. BOAZ가 세션 기록을 위키로 옮길 때도 이 구분을 사용합니다.

파일 위치와 출력 제한도 확인한다

AI가 문서를 읽었다고 보고해도 도구 출력이 잘렸다면 전체 내용이 입력에 들어가지 않았을 수 있습니다. 중요한 판단은 해당 원문 구간을 다시 읽어 확인합니다. 파일이 이동했다면 예전 링크가 같은 자료를 가리키는지도 봅니다.

브라우저·터미널 중 어떤 화면을 쓰는지만으로 Context 관리 능력이 결정되는 것은 아닙니다. 실제 제품의 파일 접근, 세션, 요약, 기억 기능을 기준으로 판단해야 합니다.

Context 관리 뒤에도 검증은 남는다

필요한 정보를 제공해도 모델이 이를 정확히 활용한다는 보장은 없습니다. Attention은 문맥 정보를 조합하는 연산이지만 개별 실패의 원인을 모두 설명하지는 않습니다. 결과를 원문과 대조하고, 확인하지 못한 부분을 남기는 검증 Loop가 함께 필요합니다.