"컨텍스트는 제가 잘 먹이면 되는데요?" - 1억 줄 앞에서 그 손이 멈추는 이유

숙련된 개발자는 AI에게 필요한 컨텍스트를 손으로 골라 먹여(컨텍스트 엔지니어링) 좋은 결과를 얻습니다. 그러나 이 방식은 본인이 아는 범위, 본인의 세션, 개발자라는 직군을 벗어나지 못합니다. 조직의 AI 생산성은 가장 능숙한 한 사람이 아니라, 컨텍스트를 고를 줄 모르는 모든 구성원이 결정합니다.

AI를 잘 쓰는 엔지니어일수록 이렇게 말합니다. "요즘 모델 성능이면, 필요한 파일 몇 개 골라서 잘 넣어주면 됩니다." 맞는 말입니다. 그 사람에게는. 문제는 그다음입니다.

반문 1. 1억 줄을 손으로 먹일 수 있습니까

큰 대기업의 소스코드는 억 줄을 넘습니다. 레포 수백 개, 만든 사람 대부분은 퇴사. 컨텍스트를 "잘 골라 넣는다"는 것은 무엇이 관련 있는지 이미 안다는 뜻입니다. 아는 범위에서만 통하는 기술이죠. 그런데 억 줄짜리 시스템에서는 가장 시니어인 사람조차 아는 범위가 전체의 몇 %가 안 됩니다. 모르는 코드는 골라 넣을 수 없고, 골라 넣지 않은 곳에서 사고가 납니다.

반문 2. 모두가 당신처럼 할 수 있습니까

백번 양보해서 개발자는 배운다고 합시다. 영업은요? 마케팅과 CS와 재무는요? 이들도 이제 AI로 일해야 하는데, "관련 코드를 골라서 프롬프트에 넣는 법"을 배울 시간이 있을까요. 배워야만 쓸 수 있는 도구는 조직 도구가 아닙니다. 조직의 AI 생산성은 최고 숙련자가 아니라 평균이, 아니 최하위가 결정합니다. 전기를 쓰려고 발전 원리를 배우게 하지는 않잖아요.

반문 3. 내일도, 옆자리도, 같은 결과가 나옵니까

손으로 먹인 컨텍스트는 그 세션에서 끝납니다. 내일은 다시 골라야 하고, 옆자리 동료는 처음부터 골라야 합니다. 같은 질문에 사람마다 다른 컨텍스트를 넣으니 다른 답이 나옵니다. 반복 비용은 줄지 않고, 노하우는 자산으로 쌓이지 않습니다. 개인기는 훌륭하지만, 개인기는 인프라가 아닙니다.

반문 4. 그래서 모든 질문이 어디로 모입니까

컨텍스트를 고를 줄 아는 사람이 개발팀뿐이라면, 결국 모든 AI 활용이 개발팀을 거칩니다. 기획자의 질문도, CS의 확인도, 경영진의 궁금증도 개발팀 앞에 줄을 섭니다. 어디서 본 장면 아닌가요. AI를 도입하기 전의 병목이, AI를 도입한 후에도 똑같이 남는 이유입니다.

손이 아니라 층이 필요합니다

결론은 단순합니다. 컨텍스트는 사람이 매번 고르는 게 아니라, 시스템이 미리 갖추고 있어야 합니다. 코드 전체를 분석해 만든 SSOT가 있으면, 질문한 사람이 컨텍스트를 고를 줄 알든 모르든, AI가 알아서 검증된 컨텍스트 위에서 답합니다. 숙련자의 손기술이 필요 없어지는 게 아닙니다. 그 손기술이 조직 전체의 기본값이 되는 것입니다.

다음글 : "우리가 직접 만들면 되지 않나요" - 사내 구축의 진짜 비용