콘텐츠로 이동

10.2. 수동 등록

Backend.AI GO는 로컬 자원을 자동으로 관리하지만, 회사의 Backend.AI 클러스터나 동료의 고성능 워크스테이션 같은 외부 자원에 연결하려면 수동 등록 과정이 필요합니다. 이는 보안을 유지하고 데이터가 어디로 전송되는지 명확히 제어하기 위함입니다.

피어(Backend.AI GO) 연결하기

GO 인스턴스 간 피어 연결은 설정 > 노드에서 관리합니다. 모델을 공유하는 쪽이 일회용 연결 키를 만들고, 그 모델을 쓰려는 쪽이 키로 등록하는 구조입니다.

  1. 모델을 제공할 컴퓨터(서브 노드)에서 설정 > 노드를 열어 노드 공유를 켜고 연결 키를 생성합니다. 키는 aigo:// 문자열과 QR 코드로 표시되며 설정한 시간이 지나면 만료됩니다.
  2. 모델을 사용할 컴퓨터(헤드 노드)에서 설정 > 노드 > 연결된 노드를 열어 노드 추가를 누른 뒤 키를 붙여넣거나 QR 코드를 스캔합니다. 같은 네트워크의 노드는 mDNS로 자동 발견되기도 하는데, 자세한 내용은 자동 검색을 참고하세요.
  3. 등록이 끝나면 노드 상태가 자동으로 점검되고, 그 노드에 로드된 모델이 채팅 모델 선택기에 노드 이름으로 묶여 나타나며, 원격으로 모델을 로드하거나 내릴 수도 있습니다. 원격 모델 제어분산 라우팅에서 이어집니다.

피어는 페어링 때 발급된 키로 인증하는데, 이 키의 권한은 서빙 세션 관리와 상태 확인, 추론으로 한정되어 상대 컴퓨터의 모델 파일이나 설정, 로그에는 접근할 수 없습니다.

레거시 메쉬 탭(API 설정)에 남아 있는 Backend.AI GO 타입 항목은 참고용일 뿐 라우팅에 영향을 주지 않습니다. 해당 컴퓨터는 설정 > 노드에서 다시 등록하세요.

Backend.AI 클러스터 연결하기

조직에서 Backend.AI Enterprise를 사용 중이라면, GO 클라이언트를 클러스터에 직접 연결할 수 있습니다.

사전 준비 사항

클러스터 관리자로부터 다음 정보를 받아야 합니다:

  • 엔드포인트 URL: 클러스터의 API 주소 (예: https://api.my-cluster.ai).
  • Access Key (액세스 키): 사용자의 공개 식별자.
  • Secret Key (시크릿 키): 사용자의 비공개 서명 키 (절대 타인과 공유하지 마세요).

단계별 방법

  1. 사이드바에서 기어 아이콘 을 클릭하여 API 설정을 엽니다.
  2. 메쉬 탭을 선택합니다.
  3. Backend.AI Clusters 섹션을 찾습니다.
  4. 클러스터 추가 버튼을 클릭합니다.
  5. 다음 정보를 입력합니다:
    • 이름: 이 연결을 식별할 별명 (예: "회사 GPU 클러스터").
    • 엔드포인트 URL: 관리자에게 받은 전체 URL.
    • Access Key: 액세스 키 붙여넣기.
    • Secret Key: 시크릿 키 붙여넣기.
  6. 저장을 클릭합니다.

시스템이 즉시 연결을 확인하려고 시도합니다. 성공하면 상태 표시등이 녹색으로 바뀌고, 클러스터에서 사용 가능한 모델들이 모델 선택 목록에 나타나기 시작합니다.