Odysseus AI 시스템 요구 사항: RAM, GPU, CPU, 저장 공간

핵심: 앱 요구 사항과 모델 요구 사항은 다릅니다

Odysseus AI는 워크스페이스와 오케스트레이션 계층입니다. 웹 앱, 데이터베이스, 컨테이너는 보통 답변을 생성하는 언어 모델보다 가볍습니다.

호스팅 API나 별도 모델 서버를 사용하면 8GB RAM으로 평가할 수 있습니다. 같은 PC에서 작은 양자화 모델을 돌리려면 16GB가 시작점이며, 더 큰 모델과 긴 컨텍스트에는 32GB 이상이 안전합니다.

워크스페이스와 추론 서버를 분리하세요

브라우저 대시보드는 가벼워도 모델 프로세스가 RAM, VRAM, 전력을 대부분 사용할 수 있습니다. OpenAI 호환 엔드포인트는 같은 PC, 다른 PC 또는 호스팅 서비스에 둘 수 있습니다.

한 대에서 모두 실행, 가벼운 클라이언트와 전용 모델 서버, 가벼운 클라이언트와 클라우드 API라는 세 구성이 가능합니다. 분리하면 UI 응답성이 좋아집니다.

먼저 확인할 소프트웨어 전제 조건

공식 설정 가이드는 현재 백엔드에 Python 3.11 이상, 프런트엔드 의존성에 npm, 선택 경로로 Docker를 안내합니다. 사용하는 브랜치 문서를 확인하세요.

지원 브라우저, SSD 여유 공간, 접근 가능한 모델 엔드포인트도 필요합니다. Ollama 모델은 별도로 다운로드됩니다.

실용적인 하드웨어 구성 4가지

표는 구매와 배포를 위한 계획 기준이며 공식 보증값이 아닙니다.

RAM, VRAM, 컨텍스트, 양자화가 미치는 영향

파라미터 수만으로 결정되지 않습니다. 컨텍스트 캐시, 런타임, 임베딩, 브라우저, Docker, 운영체제도 메모리를 사용합니다.

빈 데스크톱에서 모델이 시작된다고 실제 작업에서 안정적인 것은 아닙니다. 편집기, 브라우저, 컨테이너, 도구를 함께 열고 여유를 확인하세요.

CPU, GPU, 저장 공간, 네트워크

최신 x86-64 CPU와 Apple Silicon은 워크스페이스에 적합합니다. CPU 추론도 가능하지만 느릴 수 있으며, 가속은 실제 사용 가능한 VRAM 또는 통합 메모리에 좌우됩니다.

SSD에 코드, Docker 이미지, 로그, 인덱스, 모델 공간을 확보하세요. 원격 모델 서버의 엔드포인트는 반드시 보호해야 합니다.

설치 전 점검

5분 점검으로 대부분의 설치 문제를 예방할 수 있습니다.

1. 추론 위치 선택

   같은 PC, 별도 서버, 호스팅 API 중 선택합니다.

2. 정확한 모델 선택

   모델 계열, 크기, 양자화, 컨텍스트를 기록합니다.

3. 현재 여유 측정

   RAM, SSD, 그래픽 메모리 여유를 확인합니다.

4. 짧은 컨텍스트로 시작

   먼저 프롬프트 하나와 도구 하나를 시험합니다.

5. 실제 부하 테스트

   편집기, 브라우저, 컨테이너, 도구를 함께 열고 메모리와 스왑을 확인합니다.

요구 사항 계산에서 흔한 실수

모델 다운로드 크기를 필요한 RAM으로 간주하지 마세요. 원격 추론이면 GPU는 필수가 아니며, 강력한 GPU도 부족한 시스템 RAM이나 SSD를 대신하지 못합니다.

문제 해결 전에 OS, 아키텍처, Docker, Python, 모델, 양자화, 컨텍스트, 엔드포인트를 기록하세요.