Attention (어텐션)

Attention이 하는 일

Transformer의 기본 Attention은 쿼리(Q)와 키(K)의 관련도를 계산해 가중치로 바꾸고, 값(V)을 그 비율로 조합합니다. Attention Is All You Need가 제시한 scaled dot-product attention의 형태는 다음과 같습니다.

Attention(Q, K, V) = softmax(QKᵀ / √dₖ) V

‘찾는다’는 표현은 계산을 이해하기 위한 비유입니다. 사람이 문장을 읽고 중요도를 판단하는 과정과 동일하다는 뜻은 아닙니다.

가중치의 합과 모델의 판단은 구분한다

하나의 Attention 헤드에서 특정 쿼리 위치의 가중치 합은 1입니다. 하지만 모델은 여러 헤드와 층, 다른 연산을 함께 사용합니다. 이 성질만으로 ‘자료를 추가하면 중요한 규칙의 비중이 반드시 깎여 지시를 어긴다’고 결론 내릴 수는 없습니다.

Attention 가중치가 곧 답변의 원인 설명인지도 주의해서 다뤄야 합니다. Attention is not Explanation은 가중치를 설명으로 사용하는 데 한계를 보였고, 후속 연구는 과제와 평가 방법을 구분해야 한다고 논의했습니다. 실무에서 관찰한 실패를 특정 가중치 때문이라고 설명하려면 별도 근거가 필요합니다.

‘정보가 입력에 있다’와 ‘답이 그 정보를 반영했다’는 다르다

Lost in the Middle은 논문에서 평가한 모델과 과제에서 관련 정보의 위치에 따라 성능이 달라질 수 있음을 보였습니다. 모든 최신 모델이 같은 패턴으로 실패한다는 뜻은 아닙니다. 긴 문맥을 지원하는 것과 그 안의 정보를 정확히 활용하는 것은 별도로 평가해야 한다는 점이 실무에서 중요합니다.

답에 조건이 빠졌다면 아래를 구분해 확인합니다.

대화 압축은 별도의 처리다

대화가 길어져 에이전트가 과거 내용을 요약하는 과정에서 정보가 빠질 수 있습니다. 이것은 Attention 가중치 정규화 자체와 다른 현상입니다. 요약에서 빠진 규칙과 입력에는 있었지만 제대로 활용되지 않은 규칙은 해결 방법도 다릅니다.

Context 관리는 필요한 지시와 자료를 골라 제공하고, 결정과 미확인 사항을 보존하는 일입니다. ‘항상 짧게’보다 이번 판단에 필요한 정보가 빠지지 않았는지가 중요합니다.

실무에서는 결과의 근거를 확인한다

BOAZ의 위키 운영에서는 AI가 쓴 문장과 원문을 분리하고, 링크·인용 위치는 코드로 검사하며, 해석과 적용 범위는 사람이 판단합니다. AI에게 검토를 한 번 더 시키는 것만으로 품질을 확정하지 않습니다.

하네스는 이런 실행과 검증을 이어주는 구조입니다. 코드로 확인 가능한 조건과 사람의 해석이 필요한 조건을 나누고, 검사하지 못한 범위를 남기는 것이 Attention을 실무에서 다룰 때의 유용한 출발점입니다.