콘텐츠로 이동

3.4. 에이전트 모델 선택

모든 에이전트 실행에는 모델이 필요합니다. Backend.AI GO는 정해진 폴백 체인을 통해 사용할 모델을 결정하므로, 명시적인 모델이 없는 에이전트라도 합리적인 기본값이 있으면 실행됩니다.

해석 순서

에이전트 실행이 시작되면 다음 순서로 모델을 해석하며, 사용 가능한 모델을 처음으로 제공하는 출처가 선택됩니다.

  1. 명시적 모델 — 실행에 직접 전달된 모델 ID(예: 현재 채팅에서 선택한 모델 또는 프로그래밍 방식으로 제공된 모델).
  2. 에이전트별 선호 모델 — 에이전트 프로필에 설정된 모델(에이전트 마켓플레이스 편집기의 선호 모델 또는 Squad 에이전트 구성기의 모델 필드).
  3. 전역 기본 에이전트 모델설정 → 모델 → 기본 에이전트 모델 값. 프로필에 선호 모델이 없는 모든 에이전트가 사용하는 안전망입니다.
  4. 오류 — 위 어느 것도 설정되지 않으면 실행이 구성 오류로 실패하며, 모델을 설정할 수 있는 두 위치(에이전트별 선호 모델과 설정 → 모델 탭)를 모두 안내합니다.

빈 값과 리터럴 자리표시자 default는 모든 단계에서 건너뛰므로, 오래되었거나 비어 있는 설정이 추론 라우터에 도달하지 않습니다.

서브 에이전트 위임

에이전트가 (예: @멘션을 통해) 서브 에이전트에 위임하면, 서브 에이전트의 모델은 동일한 원리로 해석되며 전역 기본값 앞에 한 단계가 더 있습니다.

  1. 서브 에이전트 프로필의 선호 모델.
  2. 부모 실행의 모델(선호 모델이 없는 위임 에이전트가 대화의 모델을 상속).
  3. 호출자가 전달한 요청 수준 모델(일반적으로 현재 채팅 모델).
  4. 설정 → 모델의 전역 기본 에이전트 모델.

따라서 전역 기본값은 최상위 실행과 위임된 서브 에이전트 모두에 적용됩니다.

전역 기본값 설정

설정 → 모델을 열고 기본 에이전트 모델에서 모델을 선택하세요. 프로필에 선호 모델이 없는 모든 에이전트가 자동으로 이를 사용하며, 에이전트별 변경이 필요 없습니다.

에이전트 마켓플레이스 편집기, Squad 에이전트 구성기, Squad 일괄 모델 변경 대화 상자의 모델 선택기에는 짧은 안내와 이 설정으로 연결되는 설정 열기 링크가 표시되어, 에이전트 모델을 선택하는 모든 곳에서 폴백 동작을 알 수 있습니다.