우리 회사의 맥락을 아는 AI.

건물 밖으로 보낼 수 없는 데이터

Cohere는 대부분의 AI 제품이 염두에 두지 않는 고객에서 출발합니다. 아시아태평양 채용 공고는 이 고객을 한 줄로 설명합니다. 데이터를 남의 클라우드로 보낼 수 없고, 이미 실험 단계를 지나 실제 운영에 들어간 은행, 통신사, 제조사, 정부입니다. 이런 고객은 모델이 아무리 쓸모 있어도 고객 정보, 계약서, 내부 규정을 자기 시스템 밖의 서비스에 옮겨 담을 수 없습니다.

저는 은행, 통신망, 국방부 안에 배포하는 AI 시스템을 만드는 회사를 운영합니다.

Aidan Gomez · 공동 창업자 겸 CEO · Cohere 블로그 글 · 2026-09-13

Cohere를 다른 회사와 구별 짓는 믿음은 모델을 어디에 두느냐에 있습니다. 2025년 8월 회사는 자사 시장을 소비자용 모델을 고쳐 쓰는 방식으로는 감당할 수 없는 '보안 우선' 기업 AI 영역이라고 설명했습니다. 공동 창업자 Nick Frosst는 이 논리를 한 줄로 정리합니다. 언어 모델의 성능은 모델이 접근할 수 있는 데이터 수준을 넘지 못한다는 것입니다. 데이터가 모델로 갈 수 없다면 모델이 데이터로 가야 합니다. 그래서 Cohere는 고객 건물 안 GPU 두 장으로도 구동될 만큼 효율적인 모델을 만들고, 고객의 클라우드 계정이나 데이터센터, 인터넷과 분리된 폐쇄망에서도 구동되는 업무 공간 North를 만듭니다.

이제 사업이 된 이유

두 가지가 바뀌었습니다. 첫째는 에이전트입니다. 답만 하는 데 그치지 않고 단계를 밟아 도구를 호출하고 작업을 끝내는 소프트웨어입니다. Cohere의 한 엔지니어는 2026년 8월, 병목이 실험에서 실제 운영으로 옮겨 갔다고 썼습니다. 이 엔지니어가 인용한 조사에서 AI 파일럿의 40% 이상을 운영 단계로 옮긴 조직은 25%에 그쳤습니다. 둘째는 통제권이 구매 기준이 된 것입니다. Cohere가 2026년 4~5월 캐나다, 미국, 영국, 독일 대기업을 대상으로 의뢰한 조사에서 금융권 리더의 82%가 소버린 AI로 해결할 수 있는 주요 문제로 데이터 유출과 개인정보를 꼽았습니다.

질문 하나를 처리하는 네 단계

예를 들어 은행 준법감시팀이 자사 규정에 근거한 답을 원한다고 해 봅시다. 첫째, 관리자가 SharePoint, Outlook, Slack, Jira처럼 에이전트가 읽어도 되는 자료를 연동하고, 누가 무엇을 볼지 정합니다. 시스템은 은행의 프라이빗 클라우드나 자체 데이터센터에서 운영됩니다. 둘째, Embed가 정확한 단어가 아니라 의미를 기준으로 관련 문단을 찾고, Rerank가 순위를 매깁니다. 셋째, Command 모델이 이 근거를 바탕으로 질문을 읽고 출처를 단 답변 초안을 씁니다. 넷째, North가 이 결과를 업무 흐름으로 실행합니다. 에이전트마다 가드레일을 두고 감사 기록을 남기며, North 2부터는 비용 통제 기능도 갖췄습니다.

다만 이 도식만 봐서는 사람이 여전히 결정하는 부분을 알 수 없습니다. 클라우드 컴퓨팅 기업 CoreWeave에서는 Cohere 직원들이 이틀 동안 현장에 머물며 고객 지원 절차와 에이전트에 필요한 지식을 정리했고, 약 3개월 뒤 North가 CoreWeave 자체 데이터센터 안에서 폭넓게 운영되기 시작했습니다. 에이전트가 어떤 문서를 읽을지, 누가 답을 검토할지, 어떤 자동화 단계를 언제 표준으로 삼을지는 누군가 정해야 합니다. Cohere는 이 작업을 소프트웨어와 함께 팝니다. 고객사에 상주하는 포워드 디플로이드 엔지니어(FDE)와 고객 환경에 맞는 구성을 설계하는 솔루션 아키텍트가 이 일을 맡습니다.

이야기는 앞뒤가 맞습니다. 프라이빗 배포, 그 위의 업무 공간, 현장 엔지니어가 한 묶음입니다. 다만 근거 상당수가 회사 자료입니다. 출시 글, 회사가 후원한 조사, 회사가 직접 쓴 고객 사례입니다. 그러니 이 주장은 Cohere의 세일즈 메시지로 받아들이고, 실명이 공개된 고객이 계속 사용 범위를 넓히는지로 검증해 보세요.

서울에서 합류할 사람에게 주는 의미

한국에서는 같은 논리가 파트너를 거쳐 작동합니다. LG CNS는 North를 한국 고객에 맞게 맞춤화해 공급하고, 사내에서도 직접 씁니다. LG CNS가 Cohere와 공동 개발한 다국어 모델은 외교부 AI 플랫폼의 엔진 가운데 하나입니다. 이 플랫폼은 LG CNS가 프라이빗 클라우드 기반으로 구축하기로 계약한 사업입니다. 서울에서 합류하면 데이터가 밖으로 나갈 수 없는 현장에서 일하게 됩니다. 고객 서버에 North를 설치하거나, 전략 고객의 구축을 이끌거나, 기술 검토 단계에서 고객의 선택을 따내는 아키텍트 조직을 맡습니다. 아키텍처 공고는 어떤 모델을 아는지보다 실제로 무엇을 배포했고 무엇이 망가졌는지를 더 본다고 말합니다.

위에는 업무 공간, 아래에는 모델

Cohere는 제품을 층으로 나눠 팝니다. 맨 위에는 2025년 출시한 직원용 업무 공간 North가 있으며, 기업의 현업팀과 IT팀이 구매합니다. 그 아래에 모델이 있습니다. Command는 글을 쓰고 추론하며, Embed와 Rerank는 알맞은 근거를 찾습니다. 그리고 이 둘을 고객 인프라 안에 설치하는 엔지니어들의 배포 작업이 전체를 감쌉니다.

에이전트는 North 안에서 일합니다. 직원은 여기서 에이전트와 대화하고, 자동화를 실행하고, 스킬·라이브러리·메모리를 재사용합니다. Slack, SharePoint, Outlook, Jira, GitHub 같은 회사 도구와도 연동됩니다. 배포 환경은 클라우드 계정 안의 전용 구역인 VPC, 온프레미스, 완전한 폐쇄망, Cohere가 관리하는 Model Vault 중에서 고를 수 있습니다. 관리자는 에이전트마다 가드레일을 설정하고, 고객은 다른 회사의 모델을 가져와 쓸 수도 있습니다. 제품 페이지에는 계약서 검토와 수정 표시(레드라이닝)부터 대량 데이터를 다루는 준법 업무까지 다양한 활용 사례가 나와 있습니다.

Command는 생성 모델 제품군입니다. Cohere는 2026년 5월 Command A+의 가중치를 Apache 2.0 라이선스로 공개해, 누구나 내려받아 실행할 수 있게 했습니다. 전체 파라미터는 218B이고 한 번에 25B가 활성화되며, 지원 언어는 23개에서 48개로 늘었습니다. 회사 측정으로는 한국어 토큰화 효율이 16% 개선됐습니다. 같은 한국어 글을 더 적은 토큰으로 처리한다는 뜻입니다. Cohere는 이 모델을 North를 1년간 배포한 경험을 바탕으로 만들었고, W4A4 양자화 기준 NVIDIA H100 두 장만으로도 구동된다고 설명합니다. 대표 모델을 무료로 푼 만큼, 돈을 버는 영역은 호스팅, 업무 공간, 배포로 옮겨 갑니다.

Embed와 Rerank는 근거를 찾는 일을 맡습니다. Embed는 문서와 질문의 의미를 숫자로 바꿔, 단어가 달라도 알맞은 문단을 찾아냅니다. Rerank는 생성 모델이 읽기 전에 검색 결과의 순위를 다시 매깁니다.

누가 샀고, 무엇을 측정했나

도입 전후 차이가 가장 분명한 곳은 CoreWeave입니다. 이 회사 지원팀은 고객 티켓을 처리하는데, North를 자체 데이터센터 안에 배포한 덕분에 민감한 고객 데이터가 보안 경계 밖으로 나가지 않습니다. 이틀간 현장 작업을 거친 뒤 North는 CoreWeave의 Slack 기반 지원 업무 흐름에 적용됐고, 약 3개월 뒤 폭넓게 운영되기 시작했습니다. Cohere 고객 사례에 따르면 평균 해결 시간은 4~8일에서 2~5일로 줄었고, Cohere는 이를 절차 개선과 North 자동화가 함께 만든 결과로 설명합니다. 처음 몇 달 이후에도 대부분의 티켓에서 고객 만족도 4.9~5.0점이 유지됐습니다. 모두 Cohere가 직접 쓴 사례에 나온 수치입니다.

다른 실명 고객 사례에서는 측정치보다 공통된 패턴이 눈에 띕니다. 캐나다 은행 RBC는 2025년 1월, Cohere와 North for Banking을 함께 개발하고 이후 몇 달간 도입을 검토하겠다고 발표했습니다. Fujitsu는 Cohere의 Command 시리즈를 바탕으로 규제 산업용 일본어 모델 Takane를 만들어 자사 AI 서비스에 포함해 판매합니다. Oracle은 Cohere와 함께 Fusion Applications에서 생성 AI 활용 사례 100개 이상을 만들었습니다. 세 경우 모두 각 시장의 대기업이 Cohere의 기술을 자사 고객에게 공급합니다.

한국에서 나타나는 같은 패턴

한국에서 그 대기업은 LG CNS입니다. 두 회사는 2025년 3월, North와 연동되는 한국어 맞춤형 모델을 만들기로 했습니다. 금융에서 시작해 제조와 유통으로 넓힐 계획이며, LG CNS는 North를 자사 고객에 맞게 맞춤화해 온프레미스로 공급하는 첫 한국 기업이 됐습니다. 2026년 10월 LG CNS AI센터장은 회사가 North를 사내에서 쓰면서 한국 전역의 고객에게도 공급하고 있다고 말했습니다. 실명이 공개된 공공 사업은 외교부입니다. LG CNS가 약 300억 원 규모로 계약한 AI 플랫폼으로, 외교부만 접근할 수 있는 프라이빗 클라우드에 LG의 EXAONE, Cohere와 공동 개발한 다국어 모델 등 여러 모델을 탑재합니다.

300억 원은 LG CNS가 맺은 계약 금액이고, Cohere의 몫은 그 제휴 안에 포함돼 있습니다. 다음으로 확인할 증거는 CoreWeave처럼 North 사용 성과를 직접 공개하는 한국 은행이나 제조사입니다.