토큰 가격의 미래가 AX 전략을 바꾼다

두 전망은 다른 가격을 말하고 있다

지난 몇 년간 AI 비용 논의의 전제는 "토큰은 전기처럼 싸진다"였습니다. 실제로 GPT-4 출시 이후, 비슷하거나 더 나은 성능을 훨씬 낮은 API 가격으로 제공하는 흐름이 반복됐습니다.

그런데 드와키시 파텔(Dwarkesh Patel)은 2026년 7월 30일 공개한 글에서 반대 방향을 주장했습니다. 향후 몇 년간 AI 컴퓨트 가격이 최대 10배 이상 오를 수 있다는 것입니다.

두 전망은 충돌하는 것처럼 보이지만, 서로 다른 상품의 가격을 말하고 있습니다. 하락론이 말하는 것은 오늘 수준의 지능을 제공하는 토큰의 가격이고, 드와키시가 말하는 것은 그 시점의 최첨단 지능을 제공하는 컴퓨트의 가격입니다.

오늘 수준의 지능은 계속 싸지고, 그 시점의 최첨단 지능은 비싸질 수 있다.

이 글은 상승론의 세 가지 근거를 살펴보고, 네 가지 반박으로 어디까지 입증됐는지 검증한 뒤, 기업의 AX 전략이 무엇을 준비해야 하는지 정리합니다. 결론부터 말하면, 기업에 필요한 것은 무제한 AI가 아니라 컴퓨트 배분 정책입니다.

---

고정된 성능의 가격은 계속 떨어진다

먼저 하락론이 틀리지 않았다는 점부터 확인하겠습니다. 토큰 가격 하락은 공급 측 기술 발전에 근거합니다. GPU 성능 향상, 양자화와 추론 최적화, 전문가 혼합(MoE) 구조, 배치 처리, 그리고 더 작은 모델이 과거 대형 모델의 성능을 따라잡는 흐름입니다.

여기에 사업자 간 가격 경쟁이 더해집니다. Epoch AI도 추론 효율이 계속 개선되면서, 미래의 소형 모델이 오늘의 프런티어 모델 성능을 더 저렴하게 제공할 가능성을 인정합니다.

즉 "고정된 성능 수준을 얻는 비용은 계속 떨어진다"는 명제는 여전히 유효합니다. 2026년 프런티어 모델 수준의 능력을 2029년에는 로컬 소형 모델로 훨씬 싸게 실행할 수 있다는 의미입니다.

다만 이 명제는 그 시점의 최첨단 지능이 얼마일지를 말하지 않습니다. 드와키시의 상승론은 바로 그 질문을 다룹니다.

---

에이전트가 토큰 소비 구조를 바꿨다

상승론의 첫 번째 근거는 수요입니다. 기존 챗봇은 질문을 받아 한 번 답하고 끝납니다. 에이전트는 파일을 읽고, 계획하고, 검색하고, 코드를 작성해 실행하고, 실패를 확인하고, 수정해 다시 실행합니다.

이 반복 때문에 한 작업이 수십만에서 수백만 토큰을 사용할 수 있습니다. 특히 코딩 에이전트와 장시간 연구 에이전트는 컨텍스트를 계속 다시 읽기 때문에 소비량이 급격히 커집니다.

%%{init: {"flowchart": {"subGraphTitleMargin": {"top": 12, "bottom": 12}}}}%%
flowchart TB
    subgraph CHAT["챗봇 · 한 번 답하고 종료"]
        direction LR
        C1["사용자 질문"] --> C2["모델이 한 번 답변"]
        C2 --> C3["종료<br/>수백~수천 토큰 소비"]
    end
    subgraph AGENT["에이전트 · 성공할 때까지 반복"]
        direction LR
        A1["파일 읽기·계획·검색"] --> A2["코드 작성·실행"]
        A2 --> A3["에이전트가 실패 확인"]
        A3 -- "수정 후 재실행" --> A1
        A3 -- "성공" --> A4["완료<br/>수십만~수백만 토큰 소비"]
    end
    CHAT ~~~ AGENT
    style C1 fill:#f3f4f6,stroke:#6b7280,color:#1f2937
    style C2 fill:#f3f4f6,stroke:#6b7280,color:#1f2937
    style C3 fill:#f3f4f6,stroke:#6b7280,color:#1f2937
    style A1 fill:#dbeafe,stroke:#3b82f6,color:#1f2937
    style A2 fill:#dbeafe,stroke:#3b82f6,color:#1f2937
    style A3 fill:#fef3c7,stroke:#f59e0b,color:#1f2937
    style A4 fill:#fee2e2,stroke:#ef4444,color:#111827

Epoch AI는 세계 추론 공급 능력이 연간 약 3.4배 증가하는 반면, 관측되는 토큰 수요는 일부 지표에서 연간 약 10배씩 증가한다고 추정했습니다. 추정의 불확실성은 크지만, 생산 효율이 좋아지는 속도보다 사용량이 늘어나는 속도가 빠를 수 있다는 의미입니다.

가격이 떨어지는 것 자체가 사용량을 키우기도 합니다. 경제학에서 말하는 제본스 역설(Jevons paradox)입니다. 토큰 가격이 10분의 1이 되면 기업은 비용을 10분의 1로 줄이는 대신, 모든 직원에게 AI를 제공하고, 모든 코드를 에이전트가 검토하게 하고, 결과가 나올 때까지 모델을 반복 실행하기 시작합니다.

토큰당 가격은 내려가는데 전체 컴퓨트 지출은 늘어나는 구조입니다.

flowchart LR
    J1["토큰당 가격<br/>10분의 1로 하락"] --> J2["기업이 한 업무에<br/>쓰는 토큰 증가"]
    J2 --> J3["AI 를 적용하는<br/>업무 수 증가"]
    J3 --> J4["전체 컴퓨트<br/>지출 증가"]
    style J1 fill:#dcfce7,stroke:#22c55e,color:#1f2937
    style J2 fill:#dbeafe,stroke:#3b82f6,color:#1f2937
    style J3 fill:#dbeafe,stroke:#3b82f6,color:#1f2937
    style J4 fill:#fee2e2,stroke:#ef4444,color:#111827

---

AI가 노동이 되면 가격 논리가 바뀐다

상승론의 두 번째 근거는 가격이 결정되는 방식 자체입니다. 지금까지 GPU 임대료는 대체로 원가, 즉 전기료와 칩 감가상각과 운영비에 수렴했습니다.

그런데 AI가 사람의 업무를 실제로 수행하기 시작하면, 시장 가격은 "이 GPU로 얼마를 벌 수 있는가"를 따라 올라갈 수 있습니다. 어떤 GPU가 연간 3억 원어치의 개발 업무를 수행한다면, 그 GPU를 연간 1억 원에 빌리는 것도 합리적인 판단이 되기 때문입니다.

드와키시의 계산이 이 구조 위에 있습니다. 인간 수준의 소프트웨어 엔지니어가 H100 한 장에서 실행될 수 있다면, 현재 개발자 시장가격 기준으로 그 H100의 연간 가치는 25만 달러 이상이고, 이는 현재 임대료의 약 15배라는 것입니다. 이 계산이 강한 전제 위의 사고실험이라는 점은 뒤의 검증에서 다루겠습니다.

---

공급은 소프트웨어처럼 늘지 않는다

상승론의 세 번째 근거는 공급의 물리적 제약입니다. 토큰은 디지털 상품처럼 보이지만, 생산 기반은 최첨단 반도체 팹, EUV 장비, 고대역폭 메모리(HBM), 패키징, 전력, 데이터센터입니다. AI 출력물은 소프트웨어지만, 출력을 만드는 과정은 반도체와 전력을 실시간으로 소비하는 제조업에 가깝습니다.

드와키시는 컴퓨트 공급 증가율을 연간 약 3배로 계산합니다. 무어의 법칙에 따른 약 1.4배, 신규 팹 건설에 따른 약 1.2배, AI가 최첨단 웨이퍼 배분을 더 가져오는 데 따른 약 1.8배를 곱한 값입니다. 그리고 신규 팹 증가는 적어도 2030년 전후까지 EUV 장비 공급에 제약될 것이라고 주장합니다.

공급이 연 3배 늘어도 수요와 경제적 가치가 그보다 빠르게 커지면 희소성은 커집니다. 여기까지가 상승론의 세 가지 근거입니다. 이어서 이 근거들이 어디까지 입증됐는지 네 가지 반박으로 검증하겠습니다.

---

네 가지 반박으로 검증한다

검증에 앞서 이 글의 성격부터 확인해야 합니다. 드와키시 본인이 이 글을 완성된 경제모형이 아니라 짧은 시간 안에 쓴 사고실험으로 규정하고, 중요한 하위 질문들을 충분히 다루지 못한다고 명시했습니다. 따라서 검증의 목적은 틀렸다고 판정하는 것이 아니라, 어디까지가 입증이고 어디부터가 가정인지 경계를 긋는 것입니다.

반박 1 — 에이전트 사용 인구는 아직 소수다

에이전트를 실제로 쓰는 사람은 아직 소수인데, 수요가 정말 공급을 앞설 만큼 늘어날까?

드와키시는 사용자 수나 에이전트 보급률을 근거로 들지 않습니다. 그의 수요 근거는 Anthropic 매출이 전년 대비 약 10배 증가했다는 것, 그리고 모델이 똑똑해질수록 같은 컴퓨트를 더 잘 수익화한다는 것입니다. 소수의 고가치 사용자만으로도 프런티어 컴퓨트 수요는 공급을 압박할 수 있다는 논리입니다.

그러나 그는 사용자 수, 좌석 수, 작업당 토큰량 같은 데이터를 제시하지 않습니다. 매출 증가를 수요 증가의 대리변수로 사용했을 뿐이고, 매출 증가가 계속될 깊은 이유는 없다는 점도 스스로 인정합니다. 소수의 고가치 사용자가 전체 부족을 일으킬 만큼 충분한지는 글 안에서 입증되지 않았습니다.

반박 2 — GPU 한 장이 개발자 한 명을 대체하지 못한다

25만 달러 계산의 전제인 "H100 한 장에서 실행되는 인간 수준 엔지니어"가 성립하는가?

개발자는 코드 생성만 하지 않습니다. 요구사항 해석, 우선순위 결정, 책임, 운영 대응까지 담당합니다. AI가 개발 업무의 일부를 자동화해도 한 명의 완전한 대체물이 아닐 수 있고, 그렇다면 개발자 연봉과 GPU 한 장의 생산 가치를 일대일로 연결하기 어렵습니다.

드와키시는 이 중 "AI 개발자가 수천만 개로 늘어나면 한계가치가 떨어지지 않겠느냐"는 반론만 다루고, AI가 개발자를 완전히 대체할 수 있느냐는 질문에는 답하지 않습니다. 25만 달러는 예측이 아니라 강한 전제 위에 세워진 상한 계산이고, 전제 두 가지 중 하나만 성립하지 않아도 15배 계산은 크게 약해집니다.

반박 3 — 중국이 공급을 늘릴 수 있다

중국이 반도체 공급을 예상보다 빠르게 늘리면 연 3배라는 공급 상한이 무너지지 않을까?

드와키시의 공급 계산에는 중국 변수가 구체적으로 반영돼 있지 않습니다. DUV 멀티패터닝 확대, 자체 AI 가속기, 구형 공정에 최적화된 저비용 추론칩, 국가 주도의 설비 투자 같은 가능성입니다.

다만 그가 말하는 부족은 최첨단 모델을 효율적으로 실행할 수 있는 선단 공정과 HBM, 대규모 클러스터의 부족입니다. 중국이 이 수준까지 공급하려면 칩 개수가 아니라 메모리 대역폭, 인터커넥트, 소프트웨어 생태계까지 갖춰야 하고, 이 조건이 충족될지는 드와키시 글도 검토하지 않습니다. 양쪽 모두 공급 전망은 중국 변수에 대해 불완전합니다.

반박 4 — 대부분의 업무는 소형 모델로 간다

단순 업무는 소형 모델이 처리하게 될 텐데, 프런티어 수요가 그렇게까지 집중될까?

이 반박에는 드와키시의 직접 답변이 있습니다. 컴퓨트가 비싸질수록 호출당 가격보다 성공한 작업당 총컴퓨트가 중요해지고, 약한 모델이 스무 번 반복하는 것보다 최고 모델이 한 번에 성공하는 쪽이 쌀 수 있다는 것입니다.

그러나 이 논리는 같은 프런티어 하드웨어 안에서 모델을 고르는 상황에만 적용됩니다. 소형 모델이 저가 하드웨어나 온디바이스 환경에서 충분히 작동한다면, 그 수요는 프런티어 컴퓨트 시장과 아예 분리됩니다. 드와키시는 이 분리를 다루지 않고, 따라서 전체 수요가 프런티어 컴퓨트에 집중된다는 결론은 입증되지 않았습니다.

검증을 종합하면, 드와키시의 글은 가격 상승 예측이 아니라 조건부 시나리오입니다. AGI에 가까운 능력이 공급 제약보다 빠르게 경제적 가치를 높인다면 프런티어 컴퓨트 가격은 오를 수 있다는 것, 여기까지가 글이 실제로 보여준 범위입니다.

---

'토큰'은 하나의 상품이 아니다

네 가지 반박을 거치고도 유효하게 남는 부분은 시장의 분화입니다. 2024년 수준 모델의 토큰과 최신 프런티어 모델의 토큰, 긴 추론을 거친 토큰과 단순 분류용 토큰은 경제적으로 전혀 다른 상품입니다. "토큰 가격"이라는 단일한 표현 자체가 점점 부정확해지고 있다는 의미입니다.

Epoch AI도 컴퓨트 부족이 발생하면 일상적인 작업은 더 작고 저렴한 모델로 이동하고, 가장 큰 모델은 코딩처럼 경제적 가치가 높은 업무에 우선 배분될 가능성을 제시합니다. 시장이 분화된다는 방향은 하락론과 상승론이 모두 동의하는 부분입니다.

---

확실한 것과 미지수를 구분한다

지금까지의 검증을 정리하면, 확실한 것은 세 가지입니다.

• 동일 지능의 가격 하락 — 고정된 성능 수준을 얻는 비용은 계속 떨어집니다.
• 시장의 분화 — 범용 토큰과 프런티어 컴퓨트는 다른 상품이 되고 있습니다.
• 작업당 비용으로의 기준 이동 — 토큰당 가격보다 작업당 비용이 중요해집니다. 표시 가격이 낮은 추론 모델이 더 많은 사고 토큰을 사용해 실제 작업 비용이 역전되는 현상은 이미 관측됐습니다.

미지수는 프런티어 컴퓨트의 가격입니다. 프런티어 수요 증가율과 칩 공급 증가율, 모델 효율 개선율 중 어느 쪽이 빠른지에 따라 결과가 달라지며, 아직 어느 쪽도 입증되지 않았습니다.

"토큰은 전기처럼 싸진다"는 전망은 이 구분을 하나로 뭉뚱그릴 때만 성립합니다.

---

성공적인 AX는 프런티어 수요를 늘린다

기업 관점에서 이 전망을 읽으면, AX의 성공 자체가 수요 구조를 바꾼다는 점이 중요해집니다.

AX가 저·중난도 업무를 자동화하면 인력 절감으로 끝나지 않습니다. 절약된 시간과 비용이 과거에는 경제성이 없어 수행하지 않았던 업무에 재투입됩니다. 연간 10건 검토하던 신규 사업을 1,000건 검토하고, 분기 1회 하던 공급망 시나리오 분석을 매일 다시 계산하는 식입니다.

이 구조에서는 두 층이 동시에 커집니다. 문서 추출·분류·정형 보고서 같은 업무는 소형 모델과 온프레미스 모델이 처리하는 저가 컴퓨트 층으로 내려가고, 복잡한 의사결정·시스템 설계·연구는 프런티어 컴퓨트 층으로 올라갑니다. 성공적인 AX일수록 두 번째 층의 절대량이 커집니다.

%%{init: {"flowchart": {"subGraphTitleMargin": {"top": 12, "bottom": 12}}}}%%
flowchart TB
    AX["AX 가 저·중난도 업무를 자동화한다"]
    SAVE["절약된 시간과 비용이<br/>새 고난도 업무에 재투입된다"]
    subgraph LOW["저가 컴퓨트 층 · 대량 확산"]
        direction LR
        L1["문서 추출·분류"]
        L2["정형 보고서"]
        L3["내부 검색"]
    end
    subgraph HIGH["프런티어 컴퓨트 층 · 선택적 증가"]
        direction LR
        H1["복잡한 의사결정"]
        H2["시스템 설계·연구"]
        H3["다중 에이전트 시뮬레이션"]
    end
    AX -- "소형·온프레미스 모델이 처리" --> LOW
    AX --> SAVE
    SAVE -- "프런티어 모델이 처리" --> HIGH
    style AX fill:#dbeafe,stroke:#3b82f6,color:#1f2937
    style SAVE fill:#fef3c7,stroke:#f59e0b,color:#1f2937
    style LOW fill:#dcfce7,stroke:#22c55e,color:#1f2937
    style HIGH fill:#e0e7ff,stroke:#6366f1,color:#1f2937
    style L1 fill:#f0fdf4,stroke:#22c55e,color:#1f2937
    style L2 fill:#f0fdf4,stroke:#22c55e,color:#1f2937
    style L3 fill:#f0fdf4,stroke:#22c55e,color:#1f2937
    style H1 fill:#eef2ff,stroke:#6366f1,color:#1f2937
    style H2 fill:#eef2ff,stroke:#6366f1,color:#1f2937
    style H3 fill:#eef2ff,stroke:#6366f1,color:#1f2937

다만 프런티어 수요가 늘어나는 것과 가격이 오르는 것은 별개입니다. 수요 증가가 공급과 효율 개선을 넘어설지는 앞에서 확인한 대로 미지수로 남습니다.

---

기업에 필요한 것은 컴퓨트 배분 정책이다

가격의 확실한 부분과 미지수를 종합하면 기업의 대응은 한 방향으로 수렴합니다. 프런티어 가격이 오르든 유지되든, 범용 지능은 싸지고 프런티어 수요는 커지므로, 업무 가치에 따라 컴퓨트를 나눠 쓰는 체계가 필요해집니다.

필요한 것은 무제한 AI가 아니라 컴퓨트 배분 정책입니다.

컴퓨트 배분 정책은 모든 업무에 최고 모델을 쓰지 않겠다는 결정입니다. 반복적이고 예측 가능한 저·중난도 업무는 소형 모델과 내부 모델로 처리하고, 희소하고 비싼 프런티어 컴퓨트는 경제적 가치가 높은 업무에만 배정합니다.

flowchart LR
    T["업무 요청"] --> P["컴퓨트 배분 정책<br/>업무 가치·난이도로 분류"]
    P -- "단순 추출·분류·요약" --> S["소형·온프레미스 모델"]
    P -- "반복적인 도메인 업무" --> M["중형·전용 모델"]
    P -- "고가치 의사결정·개발·연구" --> F["프런티어 모델<br/>희소하고 비싼 컴퓨트"]
    style T fill:#f3f4f6,stroke:#6b7280,color:#1f2937
    style P fill:#fef3c7,stroke:#f59e0b,color:#1f2937
    style S fill:#dcfce7,stroke:#22c55e,color:#1f2937
    style M fill:#dbeafe,stroke:#3b82f6,color:#1f2937
    style F fill:#e0e7ff,stroke:#6366f1,color:#1f2937

온프레미스의 논리도 여기서 다시 세워집니다. "클라우드 토큰보다 싸다"가 아니라, 계층 구조의 아래층을 안정적으로 담당하는 것이 온프레미스의 역할이라는 의미입니다.

시작은 업무 목록에 컴퓨트 등급을 붙여보는 것입니다. 어떤 업무가 소형 모델로 충분하고 어떤 업무에 프런티어 모델이 필요한지 분류해 보면, 그 결과가 조직의 컴퓨트 배분 정책 초안이 됩니다. 저는 토큰 가격 전망에서 기업이 가져가야 할 결론은 예측의 적중이 아니라 이 배분 체계라고 생각합니다.