수동 등록¶
Backend.AI GO는 로컬 자원을 자동으로 관리하지만, 회사의 Backend.AI 클러스터나 동료의 고성능 워크스테이션 같은 외부 자원에 연결하려면 수동 등록 과정이 필요합니다. 이는 보안을 유지하고 데이터가 어디로 전송되는지 명확히 제어하기 위함입니다.
피어(Backend.AI GO) 연결하기¶
GO 인스턴스 간 피어 연결은 설정 > 노드에서 관리합니다. 모델을 공유하는 컴퓨터가 일회용 연결 키를 만들고, 해당 모델을 사용하려는 컴퓨터가 키로 등록하는 구조입니다.
- 모델을 제공할 컴퓨터(서브 노드)에서 설정 > 노드 > 이 컴퓨터 공유하기를 열어 다른 컴퓨터와 공유를 활성화하고, 연결 방법 > 연결 키로 연결에서 키 만들기를 클릭합니다. 키는
aigo://문자열과 QR 코드로 표시되며 유효 기간에서 정한 시간이 지나면 만료됩니다. 키에는 만든 시점의 이 컴퓨터 주소가 담기며, 키와 함께 이 키에 담긴 주소로 표시됩니다. 키가 표시된 동안 컴퓨터가 다른 네트워크에 연결되면 키에 이전 네트워크에서 만든 키가 표시되고, 여기서 새 키 만들기를 클릭하면 새 주소가 담긴 키로 바뀝니다. - 모델을 사용할 컴퓨터(헤드 노드)에서 설정 > 노드 > 다른 컴퓨터 연결하기를 엽니다. 노드 추가에서 상대 컴퓨터에서 받은 연결 키에 키를 붙여넣거나 QR 코드 스캔으로 카메라에서 읽은 뒤 연결을 클릭합니다. 해당 컴퓨터에서
aigo://링크를 열면 키가 채워진 상태로 이 화면이 열립니다. 같은 네트워크에서 승인 없는 연결을 허용한 컴퓨터는 네트워크에 있는 컴퓨터에도 표시되어 키 없이 추가할 수 있는데, 자세한 내용은 자동 검색을 참고하세요. - 등록이 끝나면 노드 상태가 자동으로 점검되고, 그 노드에서 실행 중인 모델이 채팅 모델 선택기에 노드 이름으로 묶여 나타나며, 그 노드의 모델을 실행하거나 중지할 수도 있습니다. 네트워크 노드 모델 제어와 분산 라우팅에서 이어집니다.
피어는 페어링 때 발급된 키로 인증하는데, 이 키의 권한은 실행 중인 모델 관리와 상태 확인, 추론으로 한정되어 상대 컴퓨터의 모델 파일이나 설정, 로그에는 접근할 수 없습니다.
연결된 컴퓨터 확인하기¶
확인 결과는 해당 버튼에 표시됩니다. 확인하는 동안 아이콘이 돌아가고, 성공하면 체크 표시로, 실패하면 X로 바뀐 뒤 잠시 후 원래대로 돌아옵니다.
- 연결된 컴퓨터의 숫자 옆에 있는 새로고침 아이콘은 연결된 모든 컴퓨터를 한 번에 확인합니다. 각 컴퓨터의 응답은 카드의 상태에 표시됩니다.
- 카드의 확인은 해당 컴퓨터만 확인합니다. 응답하지 않는 컴퓨터에는 연결되지 않음과 다시 연결이 표시되고, 다시 연결을 누르면 바로 다시 확인합니다.
- 컴퓨터의 개요 탭에 있는 연결 테스트는 해당 컴퓨터에 요청을 한 번 보내고 응답 시간을 표시합니다. 실패하면 연결 실패와 함께 원인과 확인할 내용이 작업 버튼 아래에 표시됩니다.
- 연결 탭의 진단 실행은 확인 항목을 순서대로 실행하고, 끝난 항목부터 결과를 표시합니다. 연결과 응답 시간, 모델 목록과 실행 중인 모델 수 순서이며, 연결에 실패하면 그 단계에서 멈춥니다. 마지막 줄에 통과 여부나 실패한 단계가 표시됩니다.
응답하지 않는 컴퓨터의 모델은 채팅이 요청을 보내는 모델 목록에서 빠지므로, 로컬 모델을 비롯한 다른 모델은 해당 컴퓨터를 기다리지 않고 바로 표시됩니다. 채팅 모델 선택기에는 컴퓨터 이름 아래에 그대로 남지만 선택할 수 없고, 컴퓨터가 다시 응답하면 돌아옵니다. 응답이 끊긴 뒤에는 간격을 늘려 가며 몇 번 더 확인하고, 그 뒤로는 다시 연결을 누를 때까지 기다립니다.
확인에 실패하면 원인과 함께, 그 아래에 흔한 원인이 표시됩니다.
| 원인 | 확인할 내용 |
|---|---|
| 연결 거부됨 | 상대 컴퓨터에서 AI:GO가 실행 중이고, 공유가 활성화되어 있고, 포트가 바뀌지 않았는지 확인합니다. |
| 응답 시간 초과 | 상대 컴퓨터의 방화벽(Windows에서는 Windows Defender 방화벽)이 해당 포트의 들어오는 연결을 허용하는지, 두 컴퓨터가 같은 네트워크에 있는지 확인합니다. |
| 주소에 도달할 수 없음 | 상대 컴퓨터의 IP 주소가 바뀌지 않았는지, 두 컴퓨터가 같은 네트워크에 있는지 확인합니다. macOS에서는 Backend.AI GO의 로컬 네트워크 권한이 켜져 있어야 하며, 꺼져 있으면 설명에 해당 내용이 표시됩니다(macOS의 로컬 네트워크 권한). |
| 주소를 찾을 수 없음 | 컴퓨터 이름이 바뀌지 않았는지 확인하거나, IP 주소로 연결합니다. |
| 인증 실패 | 상대 컴퓨터의 이 컴퓨터를 사용하는 컴퓨터 목록에 이 컴퓨터가 남아 있는지 확인합니다. 제거되었다면 새 연결 키로 다시 연결합니다. |
| 지원하지 않는 요청 | 두 컴퓨터의 AI:GO 버전이 같은지 확인합니다. |
컴퓨터를 추가하다가 연결하지 못한 경우에도 같은 원인이 표시되는데, 연결 키로 연결했다면 키 입력란 아래에, 네트워크에 있는 컴퓨터에서 추가했다면 해당 컴퓨터의 카드에 나타납니다.
응답은 하지만 실행 중인 모델이 없는 컴퓨터는 통과로 표시되며, 상대 컴퓨터에서 모델을 실행해야 이 컴퓨터에서 사용할 수 있다는 안내가 함께 표시됩니다.
레거시 메시 섹션(설정 > API 서버)에 남아 있는 Backend.AI GO 타입 항목은 참고용일 뿐 라우팅에 영향을 주지 않습니다. 해당 컴퓨터는 설정 > 노드 > 다른 컴퓨터 연결하기에서 다시 등록하세요.
Backend.AI 클러스터 연결하기¶
조직에서 Backend.AI Enterprise를 사용 중이라면, GO 클라이언트를 클러스터에 직접 연결할 수 있습니다.
사전 준비 사항¶
클러스터 관리자로부터 다음 정보를 받아야 합니다:
- 엔드포인트 URL: 클러스터의 API 주소 (예:
https://api.my-cluster.ai). - Access Key (액세스 키): 사용자의 공개 식별자.
- Secret Key (시크릿 키): 사용자의 비공개 서명 키 (절대 타인과 공유하지 마세요).
단계별 방법¶
- 사이드바에서 기어 아이콘 을 클릭하여 설정을 열고 API 서버를 선택합니다.
- 메시 섹션을 엽니다.
- Backend.AI 클러스터 섹션을 찾습니다.
- 클러스터 추가 버튼을 클릭합니다.
- 다음 정보를 입력합니다:
- 연결 이름: 이 연결을 식별할 별명 (예: "회사 GPU 클러스터").
- 베이스 URL: 관리자에게 받은 전체 URL.
- 액세스 키: 액세스 키 붙여넣기.
- 시크릿 키: 시크릿 키 붙여넣기.
- 추가를 클릭합니다.
시스템이 즉시 연결을 확인하려고 시도합니다. 성공하면 상태 표시등이 녹색으로 바뀌고, 클러스터에서 사용 가능한 모델들이 모델 선택 목록에 나타나기 시작합니다.