초기 설정 마법사¶
Backend.AI GO를 처음 실행하면 온보딩 마법사가 열립니다. 6단계이고, 첫 모델을 고르면 7단계입니다.
- 언어
- 가속기 선택
- 모델 디렉토리
- 선택적 첫 모델 다운로드
- 선택적 클라우드 프로바이더 설정
- 시작 모델 (첫 모델을 고른 경우에만)
- 완료
지원되는 인터페이스 언어¶
현재 마법사는 다음 UI 언어를 지원합니다.
- 영어 (
en) - 한국어 (
ko) - 일본어 (
ja) - 스페인어 (
es) - 프랑스어 (
fr) - 번체 중국어 (
zh-TW) - 간체 중국어 (
zh-CN)
1단계: 언어¶
먼저 인터페이스 언어를 고릅니다. 이후 단계는 선택한 언어에 맞춰 즉시 바뀝니다.
2단계: 가속기 선택¶
Backend.AI GO는 호스트를 감지하고 권장 가속기 계열을 제안합니다.
- Apple Silicon에서는 보통 Metal을 쓰는 로컬 엔진과 MLX 경로를 추천합니다.
- NVIDIA, AMD, Intel 시스템에서는 사용 가능한 로컬 가속 경로를 반영합니다.
- 권장값을 그대로 써도 되고 수동 선택으로 바꿔도 됩니다.
Apple Silicon에서는 하드웨어 감지가 끝나면 추론 엔진도 고를 수 있습니다.
- llama.cpp(기본)는 GGUF 모델을 실행하며 대부분의 모델과 기능을 지원합니다.
- MLX는 Apple Silicon에서 더 빠르지만 제약이 있습니다. MLX 형식 모델만 실행하고, 내장 MTP 추측 디코딩과 llama.cpp 하드웨어 설정 등 일부 기능은 지원되지 않으며, 일부는 엔진 버전에 따라 달라집니다. 선택하면 설정이 끝난 뒤
mlxcel엔진을 설치합니다. 자세한 내용은 MLX를 참고하세요.
첫 모델 다운로드가 시작되면 해당 엔진용 다운로드이므로 엔진 선택은 더 바꿀 수 없습니다.
선택한 값은 설정에 기록되고, 마법사를 끝낼 때 실제로 반영됩니다. 선택한 계열을 이미 제공하는 설치된 엔진이 없고 앱에 내장 엔진도 없으면, 설정이 끝난 뒤 백그라운드에서 llama.cpp 엔진을 다운로드합니다. 헤드리스 서버 설치가 바로 이 경우입니다. 내장 엔진이 없으므로 이 다운로드가 없으면 온보딩이 끝나도 로컬 모델을 실행할 수단이 전혀 없습니다.
온보딩은 이 다운로드를 기다리지 않습니다. 진행 상황은 알림 센터와 헤더의 다운로드 표시기에 나타나며, 실패해도 마법사를 막지 않고 엔진 링크가 달린 알림으로 알려 줍니다. 6단계 요약에는 네 가지 결과 중 어느 쪽인지 표시됩니다. 엔진을 설치할 예정, 이미 설치되어 있음, 내장 엔진 사용, 자동 설치 없음입니다.
3단계: 모델 디렉토리¶
다운로드한 로컬 모델을 저장할 위치를 고릅니다. 비워 두면 서버가 기본 앱 데이터 경로를 사용합니다.
기본 앱 데이터 루트는 다음과 같습니다.
| 플랫폼 | 현재 앱 데이터 루트 | 기본 모델 디렉토리 |
|---|---|---|
| macOS | ~/Library/Application Support/ai.backend.go/ | ~/Library/Application Support/ai.backend.go/models/ |
| Windows | %APPDATA%\ai.backend.go\ | %APPDATA%\ai.backend.go\models\ |
| Linux | ~/.local/share/ai.backend.go/ | ~/.local/share/ai.backend.go/models/ |
예전 ~/.backend-ai-go/ 경로는 레거시 전용입니다. 현재 데스크톱 설치는 ai.backend.go 앱 데이터 디렉토리를 사용합니다.
LM Studio 라이브러리처럼 다른 애플리케이션의 폴더에 이미 있는 모델은 여기로 옮길 필요가 없습니다. 설정을 마친 뒤 설정 > 모델 > 추가 모델 폴더에서 그 폴더를 추가하면 됩니다. 추가 모델 폴더를 참고하십시오.
4단계: 선택적 첫 모델 다운로드¶
모델을 바로 다운로드하지 않고 온보딩을 끝낼 수도 있고, 추천 첫 모델을 큐에 넣을 수도 있습니다.
2단계에서 MLX를 골랐다면 각 후보는 같은 모델의 MLX 버전입니다(여러 파일로 된 저장소이며 GGUF 파일보다 조금 큽니다). 온보딩 중에 다운로드가 끝나면, 마법사를 벗어나게 하는 알림 대신 상단의 단계 점 자리에 잠시 다운로드 완료 문구가 나타납니다.
마법사는 함께 다운로드할 추출 모델도 제안할 수 있습니다. 이 두 번째 다운로드는 선택 사항이며, extraction 또는 utility-model 경로를 쓰는 워크플로우를 위한 것입니다.
온보딩 후에는 언제든 모델 > Hugging Face 탐색에서 모델을 더 다운로드할 수 있습니다.
5단계: 선택적 클라우드 프로바이더 설정¶
원하면 온보딩 중에 지원되는 클라우드 프로바이더의 API 키를 등록할 수 있습니다.
현재 마법사가 지원하는 프로바이더는 다음과 같습니다.
- OpenAI
- Anthropic
- Gemini
이 단계는 건너뛸 수 있습니다. 이후에는 설정 > 프로바이더에서 언제든 추가하거나 수정할 수 있습니다.
6단계: 시작 모델¶
4단계에서 첫 모델을 골랐다면 이 단계에서 앱을 시작할 때 채팅에 사용할 모델을 고릅니다. 선택지에는 고른 첫 모델의 이름이 표시됩니다.
- 마지막에 사용한 모델로 시작(기본 선택): 앱을 시작할 때 마지막에 대화한 모델이 실행됩니다.
- 고정한 모델로 시작: 나중에 다른 모델을 골라도 앱을 시작할 때마다 첫 모델이 실행됩니다. 첫 모델은 다운로드가 끝나면 고정됩니다.
- 필요할 때 실행: 앱을 시작할 때 실행되는 모델이 없고, 메시지를 보내면 모델이 실행됩니다.
나중에 설정 > 일반에서 바꿀 수 있습니다. 자세한 내용은 시작할 때 실행되는 모델을 참고하세요. 첫 모델을 고르지 않았다면 이 단계는 건너뜁니다.
7단계: 완료¶
시작하기를 누르면 고급 사용자용 대시보드가 아닌 홈으로 이동합니다.
이후에는 다음 작업을 바로 이어갈 수 있습니다.
- 모델 > Hugging Face 탐색에서 추가 모델 다운로드
- 모델 > 로컬 모델에서 다운로드한 모델 실행
- 홈에서 대화를 시작하고, 컴포저에서 작업 폴더를 연결해 코워크로 실행
- 엔진에서 추가 로컬 또는 컨테이너 엔진 설치