모델 주권과 인간 주도성 — 4계층 위에서의 두 축

두 가지 흔해진 것, 두 가지 귀해진 것

모델과 컴퓨트는 빠르게 상품화되고 있다. 어제의 최신 모델은 오늘 한 단계 아래로 내려가고, 같은 작업을 더 싸게 수행하는 대체재가 분기마다 등장한다. 모델을 잘 고르는 능력은 더 이상 차별화 요소가 아니다. 누구나 같은 모델을 부를 수 있기 때문이다.

흔해진 것의 반대편에 귀해진 것이 있다. 첫째는 모델 위에 쌓는 학습 루프다. 어떤 모델이 와도 작동하며, 운영할수록 조직의 전문성을 축적하는 구조. 둘째는 그 루프가 향할 방향이다. 인간이 설정하는 목표와 도메인 간 연결. 이 글은 이 두 가지 귀한 것을 reopt architecture의 언어로 설계 가능한 대상으로 옮긴다. 하나는 모델 주권, 다른 하나는 인간 주도성이다.

두 축은 서로를 필요로 한다. 방향 없는 학습 루프는 제자리를 맴돌고, 루프 없는 방향은 모델이 바뀔 때마다 처음부터 다시 시작한다.

주권은 계약에서 시작한다 (Module / CONTRACT)

모델 주권의 첫 번째 방어선은 Module Contract다. 모듈의 입력 조건, 출력 형식, 권한 범위, 거절 조건을 모델과 분리된 계약으로 선언하면, 모델은 계약 뒤에 있는 교체 가능한 부품이 된다. 계약이 모델에 종속되어 있지 않으므로, 모델을 갈아끼워도 계약은 그대로 남는다.

이것이 주권의 핵심이다. 전문성이 모델 안에 들어 있으면, 모델을 바꾸는 순간 전문성도 사라진다. 전문성이 계약 안에 선언되어 있으면, 모델은 계약을 만족시키는 한 무엇이든 될 수 있다. "이 모듈이 거절해야 하는 입력은 무엇인가?"라는 판단 질문에 답할 수 있다면, 그 답은 특정 모델의 성질이 아니라 우리가 소유한 계약의 일부다.

계약을 먼저 정의하면 평가·교체·통제가 가능해진다. 모델 주권은 이 세 가지 중 '교체'를 전면에 세운 관점이다.

모델을 갈아끼워도 trace는 남는다 (Decision Traceability)

계약이 무엇을 해야 하는지를 선언한다면, Decision Traceability는 무엇을 실제로 했는지를 기록한다. 판단 근거, 선택 사유, 협업 경로를 구조화된 로그로 남기면, 그 trace는 모델이 교체돼도 남는 기관 기억이 된다.

여기서 trace는 단순한 디버깅 로그가 아니다. 조직이 운영하며 축적한 의사결정의 궤적이고, 새 모델이 들어왔을 때 "우리는 이런 상황에서 이렇게 판단해 왔다"를 알려주는 자산이다. 모델은 일반적 능력을 제공하지만, 이 trace는 우리 조직에만 있는 맥락을 제공한다. 제너럴리스트 모델 위에 회사 베테랑의 판단을 얹는 층이 바로 이 기록이다.

trace를 queryable하게 유지하는 것이 핵심이다. 검색할 수 없는 로그는 기관 기억이 아니라 묻혀 있는 데이터일 뿐이다.

private eval — 벤치마크가 아니라 비즈니스 성과 (Governance / SHARPEN)

새 모델이 나올 때마다 외부 벤치마크 점수가 갱신된다. 그러나 벤치마크가 오른다고 우리 제품이 좋아진다는 보장은 없다. 모델 주권을 가진 조직은 외부 벤치마크가 아니라 자신의 비즈니스 성과 기준으로 모델을 평가한다. 이것이 private eval이다.

Governance 계층은 평가, 승인, 비용 통제, 정책을 집행하면서 모델을 교체 가능한 부품으로 다룬다. 평가와 가드레일 패턴이 정의하는 평가 기준이 외부 점수가 아니라 우리 제품의 성과를 향할 때, 그 기준은 어떤 모델이 들어와도 흔들리지 않는 시험대가 된다. 새 모델 세대로의 업그레이드는 OCLS 루프의 SHARPEN 트리거다. 모델은 갈아끼우되, 그 trace로 학습한 경계는 우리 것으로 남긴다.

private eval은 모델 주권의 측정 도구다. "우리 기준으로 이 모델이 더 나은가?"에 답할 수 없다면, 모델 선택을 외부에 위임하고 있는 것이다.

기관 기억의 분리 (State and Memory Control)

모델 주권을 지키려면 기억이 모델에 종속되지 않아야 한다. State and Memory Control 패턴은 단기 상태와 장기 기억을 분리한다. 단기 상태는 한 세션의 작업 맥락이고, 장기 기억은 모델과 무관하게 축적되는 조직의 전문성이다.

장기 기억이 모델의 컨텍스트 윈도우 안에만 존재하면, 모델을 바꾸는 순간 기억도 초기화된다. 장기 기억을 외부에 분리해 두면, 모델은 매번 새로 와도 조직의 누적된 맥락을 조회해 작동한다. 이 분리가 장기 전문성을 모델 밖의 조회 가능한 저장소에 두는 메커니즘이다.

분리의 목적은 두 가지다. 정보 누수를 막는 것이 하나이고, 모델 교체 가능성을 확보하는 것이 다른 하나다. 후자가 모델 주권의 관점이다.

컴퓨트는 방향 없이 제자리를 맴돈다 (Agent / OWN)

여기까지가 모델 주권의 축이다. 그러나 학습 루프가 아무리 견고해도, 향할 방향이 없으면 그 모든 연산은 목적 없이 소모된다. 두 번째 축은 인간 주도성이다.

OCLS 루프의 OWN은 결과의 소유자를 지정하는 일, 즉 책임과 에스컬레이션을 가리킨다. 이것이 소유의 방어적 절반이다. 소유에는 능동적 절반도 있다. 야심찬 목표를 세우고, 도메인을 잇고, 어떤 패턴이 중요한지 인식하는 일이다. Agent 계층이 목표와 권한 범위를 선언할 때, 그 목표를 정하는 것은 인간이다.

"이 결과의 방향은 누가 정하는가?"라는 질문에 답이 없다면, 그 에이전트는 무엇을 향해 도는지 모르는 채로 컴퓨트를 소모하는 중이다. 방향은 위임할 수 없는 인간의 몫이다.

인간 자본은 토큰이 커질수록 귀해진다 (증폭의 경제학)

AI에 일을 넘길 수는 있어도, 학습을 넘길 수는 없다. 인간이 패턴을 인식하면 AI가 그 전문성을 복제하고 확장한다. 이 관계에서 인간의 방향 설정 능력은 AI 역량이 커질수록 오히려 더 중요해진다. 더 강한 모델은 더 멀리 갈 수 있지만, 어디로 갈지는 여전히 인간이 정해야 하기 때문이다.

이것이 인간 승인 패턴을 넘어선 지점이다. 인간 승인은 고위험 결정을 인간 통제 아래 두는 방어적 메커니즘이다. 인간 주도성은 그보다 앞선다. 무엇을 할지, 왜 할지, 무엇을 연결할지를 인간이 먼저 선언하고, AI가 그것을 실행 가능한 규모로 확장한다. 통제가 사후의 게이트라면, 주도성은 사전의 방향이다.

조직의 전문성이 trace와 계약에 축적될수록, 그 축적을 어디로 향하게 할지 정하는 인간 판단의 가치는 함께 커진다. 두 자본은 함께 복리로 쌓인다.

OCLS 루프 위의 두 축

두 축은 별개의 것이 아니라 하나의 OCLS 루프 위에서 만난다. OWN은 인간이 방향을 소유하는 단계이고, CONTRACT와 LAYER는 그 방향을 모델과 무관한 구조로 고정하는 단계이며, SHARPEN은 모델 교체를 학습 트리거로 삼아 경계를 보정하는 단계다.

Loading diagram…

인간 주도성은 OWN에서 루프를 출발시키고, 모델 주권은 나머지 단계에서 그 방향을 모델이 바뀌어도 살아남는 자산으로 만든다. 루프가 한 바퀴 돌 때마다 trace가 쌓이고, 쌓인 trace는 다음 바퀴에서 인간이 더 멀리 방향을 설정할 수 있게 한다. 모델은 교체되지만, 이 루프는 남는다.

실행 체크리스트

두 축을 제품에 옮기려면 다음 다섯 가지를 점검한다.

• 모델 교체 시 무엇이 남는가. 지금 쓰는 모델을 다른 모델로 바꾼다고 가정하고, 무엇이 남는지 적어 본다. 남는 것이 계약·trace·평가 기준이라면 주권이 있는 것이고, 남는 것이 없다면 전문성을 모델에 위탁한 것이다.
• private eval 한 개를 정의한다. 외부 벤치마크가 아니라 우리 비즈니스 성과를 측정하는 평가 기준을 최소 하나 만든다. 새 모델을 이 기준으로 판단한다.
• trace를 queryable하게 만든다. 의사결정 로그를 검색·조회 가능한 형태로 보관한다. 묻혀 있는 로그는 기관 기억이 아니다.
• 인간만의 목표 선언 슬롯을 둔다. AI에 일을 넘기기 전에, 인간이 목표와 도메인 연결을 먼저 선언하는 단계를 워크플로에 명시한다.
• 방향의 소유자를 지정한다. 각 결과에 대해 누가 방향을 정하는지 OWN 단계에서 명시한다. 답이 없는 결과는 방향 없이 자원만 소모하는 지점이다.

그래서 경쟁의 무게중심은 모델에서 루프로 옮겨간다. 루프를 먼저 소유하고 거기에 인간의 방향을 겨누는 조직이, 모델 세대가 바뀌어도 앞선다.