작성자: @danbeksha; 컴파일러: Peggy, BlockBeats

AI가 기업에 진출하고 있지만 실제 질문은 "에이전트를 사용해야 하는가?"가 아닙니다. 하지만 이들 상담원이 회사 자체를 이해할 수 있는지 여부는요.

이 기사는 저자가 Ramp에 합류한 지 100일을 저급 문제를 논의하기 위한 단서로 사용합니다. 초고속 회사에서는 신입 직원에게 문서를 천천히 읽고, 동료에게 질문하고, 맥락을 보완하는 데만 의존할 수 없으며, 각 AI 도구가 독립적으로 작동할 수도 없습니다. 정말 중요한 것은 신규 입사자와 상담원 모두가 동일한 맥락에서 시작할 수 있도록 회의, 문서, Slack 토론, 고객 피드백, 제품 결정을 저장할 수 있는 지속적으로 업데이트되는 '회사 브레인'을 구축하는 것입니다.

맥락이 체계화되면 온보딩은 더 이상 오랜 적응 과정이 아니며, AI도 더 이상 고립된 도구가 아닙니다. 엔터프라이즈 AI의 가치는 궁극적으로 얼마나 많은 에이전트를 배치하느냐에 있는 것이 아니라 회사가 먼저 신뢰할 수 있고 읽기 가능하며 재사용 가능한 지식 기반을 구축할 수 있는지 여부에 달려 있습니다.

다음은 원문입니다:

4×100m 계주에서는 경주 전체로 결과가 결정되지 않고 20m 핸드오버 구역으로 압축되는 경우가 많습니다. 주자는 빠른 속도로 배턴을 완수해야 합니다. 배턴을 너무 일찍 시작하면 배턴이 땅에 떨어지게 됩니다. 배턴을 너무 늦게 시작하면 배턴 전달 속도가 느려지고 팀 전체가 한 순간에 우위를 잃게 됩니다. 핸드오버 동작 자체가 충분히 정확하지 않은 경우(손 위치, 각도 또는 타이밍에 오류가 있는 경우) 결과적으로 스틱이 떨어질 수도 있습니다.

팀은 게임에서 가장 빠른 선수를 보유하고 있어도 20미터 거리에서 패배할 수 있습니다. 속도가 중요하고 핸드오프도 중요합니다. 실제로 승패를 결정짓는 것은 그 둘이 동시에 성립될 수 있느냐 하는 것이다.

내가 본 모든 직업 인계는 한 명의 주자가 아직 출발대에 있다는 점을 제외하면 본질적으로 릴레이 경주와 비슷했습니다. 월요일에 새로운 직원이 회사에 합류하면 모든 것이 처음부터 시작됩니다. 그러나 조직은 속도를 늦추지 않고 원래 속도로 계속 전진할 것입니다. 결과적으로 신규 입사자는 문서를 읽고, Slack에 숨어 동일한 질문을 반복적으로 하고, 마침내 "유용"해질 때까지 조직의 운영 모델을 파악하는 데 3개월을 소비할 수밖에 없습니다.

우리는 일반적으로 이 격차를 시간 문제로 간주합니다. 마치 충분한 시간이 주어지면 신규 이민자가 자연스럽게 따라잡을 것이라고 생각합니다. 하지만 그렇지 않습니다. 이러한 격차는 시스템에 의해 해결되거나 지속될 것입니다.

컨텍스트는 조직의 실제 핸드오버 시스템입니다

Ramp와 함께한 지 100일 정도 되었습니다. 그 전에는 Plaid에서 5년을 보내면서 모든 제품, 모든 고객 스토리, 모든 결정 이면의 맥락을 잘 알게 되었습니다. 나는 아무 생각 없이 이런 이야기를 할 수 있다. 하지만 Ramp에 와서는 그것에 대해 전혀 아는 것이 없었습니다.

제품 마케팅의 핵심은 스토리텔링입니다. 등장인물, 줄거리, 결과를 모르면 실제로 이야기를 전달할 수 없습니다.

처음부터 저의 목표는 AI 기반 제품 마케팅 조직을 구축하는 것이었습니다. 하지만 맥락 없이 이 작업을 수행하려면 먼저 내 모든 작업을 뒷받침하는 '맥락적 레이어'인 지식 기반을 확장해야 했습니다.

Ramp는 속도로 유명한 회사입니다. "다음 분기를 천천히 따라잡을" 여지는 없습니다. 회사는 매주 출시하고, 반복하고, 발전하고 있습니다. 계속 따라가야 하거나 조직을 운영하는 데 추가 비용이 발생하게 됩니다.

그동안 저는 또 다른 온보딩 단계를 거치고 있었습니다. 램프는 이미 빨랐지만 AI는 더욱 빠르게 변화하고 있었고, 새로운 회사와 새로운 업무 환경을 동시에 배워야 했습니다. 저는 엔지니어가 아니며 마지막으로 터미널을 열었던 것은 대학 컴퓨터 공학 수업 시간이었습니다. 즉, 조직의 맥락을 보완하고 AI로 일하는 새로운 방식에 적응해야 하는데, 이 두 가지가 서로 겹쳐서 어려움을 더욱 증폭시킨다.

마침내 이런 종류의 압박에서 해방된 것은 특정 기사, 제품 릴리스 또는 워크플로를 완료하는 것이 아니라 '컨텍스트' 자체를 결과물로 다루는 것이었습니다. 컨텍스트 레이어가 올바르게 구축되는 한 모든 후속 작업은 더 저렴해집니다.

그래서 저는 진정으로 확장 가능한 시스템, 즉 좋은 위키가 연구자에게 도움이 되는 것과 같은 방식으로 강의를 빠르게 구성하는 데 도움이 되는 시스템을 구축하기 시작했습니다. 3주차에는 내 메모를 바탕으로 콘텐츠 초안을 작성했습니다. 8주차에는 내가 참석하지 않은 회의가 요약되었습니다. 공부와 개인교습은 사라지지 않지만 시스템이 계속 채워지면서 비용이 날로 저렴해지기 시작했습니다.

이 아이디어의 개인적인 버전은 실제로 한동안 존재해 왔습니다. 전 Tesla AI 책임자이자 OpenAI 창립 멤버 중 한 명인 Karpathy는 지난 4월 자신이 "개인 LLM 지식 베이스"라고 부르는 것을 설명하는 기사를 썼습니다. 이러한 자료 위에 위키를 생성하는 LLM; 프런트 엔드로는 Obsidian과 같은 편집기가 있습니다. 데이터가 약 100개 기사로 누적되면 LLM은 복잡한 검색 기술 없이도 개인 코퍼스에 관한 복잡한 질문에 답할 수 있습니다.

그의 판단은 즉석에서 만든 대본이 아니라 정말 뛰어난 새 제품을 탄생시킬 수 있는 기회가 여기에 있다는 것입니다.

현재 개인 버전이 존재합니다. 그러나 기업용 버전은 아직 없습니다. 이것이 바로 문제입니다.

대략적으로 입사 후 100일 만에 그런 시스템을 구축했습니다. 아직 정교하지는 않지만 함께 조직 내에서 '연결 조직'을 형성합니다.

핵심은 클로드가 읽고 쓴 흑요석 금고입니다. 내가 액세스할 수 있는 회의 기록, 문서, 여론 및 개인 메모는 모두 이 지식 기반에 입력됩니다. "3주 전에 저와 제프는 홈페이지에 대해 무엇을 결정했습니까?"라고 물으면, 모델 자체의 일반화된 메모리에 의존하기보다는 이 저장소에서 답을 찾습니다.

이 저장소에 계속 공급하기 위해 Granola는 기본적으로 모든 회의를 녹화하고 밤새도록 기록을 보관합니다. 그래서 제가 월요일에 놓친 회의는 수요일에 문의가 가능했습니다. 회사의 나머지 사람들이 따라잡을 수 있도록 저는 공개적으로 작업하기로 선택했습니다. 제가 구축하고 있는 대부분의 콘텐츠는 Notion 문서에 포함되기 전에 #team-pmm 또는 관련 릴리스 프로젝트 채널에 표시됩니다. 빌드 프로세스 자체가 동기화 메커니즘입니다.

이 볼트 위에는 에이전트가 요청 시 호출할 수 있는 작은 이름의 스킬 라이브러리도 있습니다. 한 가지 기술은 내가 누군가와 가졌던 지난 네 번의 회의를 기반으로 의제를 생성할 수 있습니다. 또 다른 기술은 Slack에서 일주일 동안의 제품 업데이트를 검색하고 이를 기사 주제로 전환할 수 있습니다. 각 기술은 약 200줄의 마크다운이며 과거에 수동으로 수행해야 했던 작업 유형을 대체하는 데 사용됩니다.

또한 Ramp의 내부 애플리케이션 플랫폼을 기반으로 동적 제품 로드맵을 구축했습니다. 동일한 컨텍스트 레이어 세트에서 읽으므로 처음부터 정적 문서가 아니기 때문에 만료되지 않습니다. 또한 매일 아침 오전 8시에 내 Slack DM으로 전송되는 아침 요약도 있습니다. 어제 라이브로 진행된 내용, 막힌 부분, 응답해야 할 내용 등이 포함됩니다. 내가 자고 있는 동안 이것들이 정리되어 있었어요.

혼자서 보면 이 모든 것들은 놀라운 것이 아닙니다. 하지만 종합해보면 다음과 같은 실행 가능한 답변을 제공합니다. Karpathy가 말하는 종류의 위키가 회사에 있다면 어떤 모습일까요?

위키, 그래프, 컨텍스트 레이어 또는 회사 두뇌라고 부를 수 있습니다. 이름이 중요한 것이 아니라 기능이 중요합니다. 회의, Slack 토론, 문서, 코드, 기록, 고객 통화, 주요 결정 등 회사가 생성한 모든 신호를 흡수하고 사람의 수동 유지 관리에 의존하지 않고도 지속적으로 업데이트할 수 있어야 합니다. 또한 모든 신입 직원과 상담원이 업무를 시작하기 전에 가장 먼저 읽어야 할 내용이기도 합니다.

내일 신입사원이 입사한다면 첫날 무엇을 읽어야 할까요? 진짜 대답이 2024년의 Notion 문서와 사라진 Confluence 링크라면, 이는 본질적으로 그에게 정지 상태에서 인계를 요청하는 것입니다.

포인트 도구부터 기업 브레인까지, AI의 실질적인 격차

오늘날 AI가 기업에 진출하는 주요 방법은 여전히 전진 배치된 엔지니어에 의존하고 있습니다. OpenAI, Anthropic, 대규모 컨설팅 회사 등 모델을 기반으로 특정 워크플로를 구축하도록 선택합니다.

이런 직업은 현실적이고 가치 있는 일입니다. 그러나 그들은 여전히 엔터프라이즈 AI의 '챗봇 시대'에 갇혀 있습니다. 즉, 특정 작업을 중심으로 패키지된 좁은 도구로, 개별적으로 유용하지만 복리를 유지할 수 있는 시스템에 연결되어 있지 않습니다.

진정한 '기업 두뇌'는 아직 나타나지 않았다. 고객 서비스 에이전트와 HR 온보딩 에이전트는 서로 다른 달에 서로 다른 팀에 의해 구축될 수 있습니다. 그들은 지난 전체 회의에서 무엇이 결정되었는지, 회사가 시장을 어떻게 이해하는지, 영업 리더가 마지막 오프사이트에서 어떤 판단을 내렸는지 서로 알지 못합니다. 각 상담원은 특정 책임을 맡은 챗봇일 뿐이지만 동일한 두뇌를 공유하지는 않습니다.

이것이 현재 가장 큰 격차입니다. 연구실 밖에서는 이 문제를 해결하기 위해 제품을 만드는 사람이 거의 없습니다.

2026년에 팀을 만들거나 회사를 시작한다면 2022년과 이미 작업 순서가 다릅니다. 먼저 컨텍스트 파일을 작성한 다음 도구를 설치하세요. 모든 회의를 문서화하세요. 먼저 Wiki를 구축한 다음 대시보드를 구축하세요. 슬라이드가 아닌 기술을 제공하십시오. 신입 직원이 첫날에 위키를 읽고 둘째 날부터 위키에 기여하기 시작하도록 하세요. '회사의 두뇌'를 계속 운영할 수 있는 사람을 채용 및 승진시키고, 실제로 회사의 두뇌를 읽을 수 있는 에이전트를 재사용하세요.

컨텍스트는 사이드 프로젝트가 아닙니다. 모든 AI 투자의 진정한 성과를 거두는 것은 바로 인프라입니다.

현재 Ramp에서 위키, 기술 라이브러리, 동일한 컨텍스트 레이어에서 정보를 읽는 애플리케이션, 이를 지속적으로 제공하기 위한 조직적 메커니즘 등 일부를 구축하고 있습니다. 아직은 규모가 작고 초기 단계입니다. 다른 곳에서도 기업 버전을 구축하려는 경우 경험을 교환하고 싶습니다. 신뢰할 수 있는 두뇌 하나보다 더 유용한 유일한 것은 같은 방에 두뇌 두 개가 있다는 것입니다.

릴레이로 돌아갑니다. 진정한 승리 조건은 가장 깔끔한 핸드오버도, 가장 빠른 슛도 아닌, 동일한 20m 구간에서 두 가지가 동시에 일어나는 것입니다.

신입사원은 회사의 두뇌를 읽고 전력 질주를 시작합니다. 새로운 에이전트는 회사의 두뇌를 읽고 작업을 시작합니다. 신규 고객은 회사의 두뇌에 연결되어 첫날부터 가동됩니다.

'증폭'이라는 단어가 더 이상 의미가 없을 때 우리가 뭔가를 제대로 하고 있다는 것을 알게 될 것입니다.