데이터는 회사 컴퓨터에 남습니다
소버린 AI: 회사 안에서 일하는 에이전트
많은 기업이 AI 에이전트를 포기하는 이유는 하나입니다. 고객 파일과 견적서, 주고받은 메일을 속이 보이지 않는 플랫폼에 맡기고 싶지 않기 때문입니다. nullbot은 반대편에서 출발합니다. 소프트웨어는 회사 컴퓨터(Mac 또는 Windows)에 설치되고, 에이전트가 다루는 것은 그곳에 저장됩니다. 그런 다음 에이전트마다 어떤 AI 모델이 생각할지 고를 수 있으며, 컴퓨터 자체에서 돌아가는 모델까지 선택할 수 있습니다. 팀이 회사 안에 있기 때문에, 몇 달 동안 자료를 맡겨도 그 내용의 주인은 바뀌지 않습니다.
1. 신중함의 대가
데이터에 신중한 기업은 그 신중함의 값을 다른 방식으로 치릅니다. 고객 서류를 노출하지 않으려는 사무소는 모든 일을 손으로 계속 처리합니다. 도면을 지키려는 공방은 도면이 걸린 일을 아무것도 맡기지 않습니다. 고객 명단을 맡기기 망설이는 가게는 후속 연락이 계속 밀립니다. 청구서에는 '보안'이라는 이름이 붙지 않습니다. 시간, 미뤄진 업무, 그리고 끝내 열리지 않을 자리로 나타납니다.
흔한 해법은 문제를 옮길 뿐 풀지 못합니다. 온라인 도구는 직접 통제할 수 없는 호스팅을 믿으라고 합니다. 사내에 설치하는 맞춤 개발은 프로젝트 하나만큼의 비용이 들고, 유지할 사람도 필요합니다. 없었던 것은 일반 소프트웨어처럼 설치되고, 파일이 이미 있는 곳에서 일하는 팀이었습니다.
2. 데이터가 머무는 곳, 그리고 밖으로 나가는 것
주권은 선언하는 것이 아니라 확인하는 것입니다. 무엇이 남고 무엇이 나가는지, 에누리 없이 밝힙니다.
- 컴퓨터에 남는 것: 고객 카드, 에이전트와의 대화, 에이전트가 만든 문서, 작업 이력, 그리고 에이전트가 한 일의 기록. 모두 소프트웨어와 함께 설치되는 데이터베이스에, 소프트웨어가 실행되는 컴퓨터 위에 저장됩니다.
- 접근 정보: 각 도구의 로그인 정보와 AI 모델 키는 같은 컴퓨터에 보관됩니다. 해당 서비스에서 언제든 철회하거나 교체할 수 있습니다.
- 저희 서버가 보는 것: 계정과 라이선스 관리입니다. 에이전트 작업 내용을 보관하는 곳이 아닙니다.
- 연결했기 때문에 나가는 것: 메일함을 읽거나 소셜 네트워크에 게시하는 에이전트는 그 서비스와 데이터를 주고받을 수밖에 없습니다. 모든 연결은 명시되고, 한 번에 제거할 수 있으며, 몰래 추가되는 것은 없습니다.
- AI 모델로 가는 것: 온라인 모델(nullbot AI, Claude 또는 ChatGPT 구독, API 키)을 쓰면 에이전트에게 맡긴 텍스트가 그 모델을 운영하는 제공업체로 갑니다. 로컬 모델이 없애는 것이 바로 이 경로입니다.
3. 컴퓨터에서 돌아가는 모델
데스크톱 앱에서 nullbot은 공개 AI 모델을 직접 설치하고 실행할 수 있습니다. 모델은 디스크에 한 번 내려받으면 그다음부터 컴퓨터에서 응답하며, 구독도 사용량 요금도 없습니다. 카탈로그에는 Qwen, Gemma, Ministral, Granite 등 잘 알려진 계열이 여러 크기로 들어 있어, 4 GB 메모리로 충분한 가벼운 모델부터 약 24 GB가 필요한 큰 모델까지 있습니다.
선택은 에이전트별로 합니다. 민감한 서류를 분류하는 에이전트는 로컬 모델로 일하고, 공개용 글을 맡은 다른 에이전트는 더 강력한 온라인 모델을 그대로 쓸 수 있습니다. 내장 테스트로 실제로 어떤 모델이 응답했는지 확인할 수 있고, 모델을 추가하거나 삭제할 수 있는 것은 설치 관리자뿐입니다.
4. 1주 차, 3개월 차, 2년 차
데이터를 사내에 두는 설치도 실제로 일을 해야 의미가 있습니다. 차이는 시간이 지나며 드러납니다.
- 1주 차: 소프트웨어가 설치되고, 첫 에이전트들이 임무를 받으며, 어떤 도구를 열 수 있는지는 직접 정합니다. 로컬 모델은 구체적인 작업으로 시험해 충분한지 판단합니다.
- 3개월 차: 에이전트들이 실제 업무에 익숙해졌습니다. 후속 연락, 요청 분류, 서류 준비. 모든 작업은 기록에 남고, 에이전트별로 정한 예산이 온라인 모델 비용에 상한을 둡니다.
- 2년 차: 팀의 이력(고객, 주고받은 내용, 결정)은 회사의 것이며 회사 컴퓨터에 있습니다. 모델이나 제공업체를 바꿔도 잃는 것이 없습니다. 업무의 기억은 처음부터 그들에게 있지 않았기 때문입니다.
5. 선택 전에 알아 둘 것
로컬 모델에는 한계가 있으며, 미리 알아 두는 편이 좋습니다. 충분히 성능 좋은 컴퓨터가 필요하고, 길거나 까다로운 작업에서는 대형 온라인 모델만큼 능숙하지 않습니다. 그래서 많은 기업이 둘을 함께 쓰며, 밖으로 내보내고 싶지 않은 내용에만 로컬 모델을 씁니다.
로컬을 포함한 모델 자유 선택은 Multi Pro와 Finance 요금제에서 열립니다. Solo 요금제는 포함된 nullbot AI로 작동합니다. 로컬 모델은 데스크톱 앱에서만 쓸 수 있습니다.
데이터를 사내에 둔다는 것은 그 관리 책임도 진다는 뜻입니다. 에이전트는 컴퓨터가 켜져 있을 때 일하며, 컴퓨터 보호(세션 잠금, 디스크 암호화, 백업)는 다른 파일과 마찬가지로 직접 챙겨야 합니다.
6. 자주 묻는 질문
nullbot은 온라인 플랫폼인가요?
아니요. 회사 컴퓨터에 설치하는 소프트웨어입니다. 저희 서버는 계정과 라이선스를 관리할 뿐, 에이전트의 작업 내용을 다루지 않습니다.
데이터를 AI 제공업체에 보내지 않고 AI 에이전트를 쓸 수 있나요?
네, 컴퓨터 자체에서 응답하는 로컬 모델을 쓰면 됩니다. 온라인 모델을 쓰면 에이전트에게 맡긴 텍스트가 그 모델의 제공업체로 갑니다. 에이전트마다 직접 정하면 됩니다.
로컬 모델을 쓰려면 특별한 컴퓨터가 필요한가요?
카탈로그에서 가장 작은 모델은 4 GB 메모리로 충분하고, 가장 큰 모델은 약 24 GB가 필요합니다. 먼저 중간 크기 모델을 실제 작업에 시험해 본 뒤 사용을 넓히는 것이 좋습니다.
nullbot을 그만 쓰면 제 데이터는 어떻게 되나요?
구독 기간 내내 데이터는 회사 컴퓨터에 있었습니다. 저희 쪽에 저장된 적이 없으므로, nullbot을 그만두더라도 어디서 되찾아 올 필요가 없습니다.
더 읽기
이어서 읽기: 거버넌스와 예산 관리, AI 에이전트의 비용, 보안 페이지.