2.4. 세션¶
세션 페이지(사이드바 > 세션)는 Backend.AI GO에서 지금 실행 중인 모든 것을 한 화면에서 보여줍니다. 로드된 모델 뒤에서 돌아가는 로컬 추론 서버와 Squad 에이전트 루프가 여기에 나타나죠. 모델 탭이 디스크의 모델 파일을 관리한다면, 세션 페이지는 그 모델들의 실시간 런타임 상태를 보여줍니다.
세션 종류¶
| 종류 | 생성 시점 | 표시 정보 |
|---|---|---|
| LLM 서빙 | 모델이 메모리에 로드될 때 | 엔진, 포트, 컨텍스트 길이, 메모리 사용량, 별칭 |
| 스쿼드 에이전트 | Squad 에이전트 루프가 시작될 때 | Squad, 역할, 메시지 수, 마지막 활동 |
활성 탭¶
활성 탭에는 실행 중인 모든 세션이 실시간 개수와 함께 표시되고, 새로 고침 버튼, 상태 필터(전체, 실행 중, 시작 중, 처리 중, 대기 중, 오류), 검색창이 있습니다.
세션마다 상태 배지가 붙습니다: 시작 중, 실행 중, 대기 중, 처리 중, 중지 중, 종료됨, 오류. 가동 시간은 세션이 도는 동안 실시간으로 올라갑니다.
카드 보기와 테이블 보기¶
도구 모음의 토글로 카드와 테이블 레이아웃을 전환할 수 있습니다. 테이블에서는 세션 하나가 한 행이고, 모델/세션 이름, 상태, 엔진, 포트, 컨텍스트, 메모리, 가동 시간, 마지막 활동 열이 표시됩니다. 열은 정렬할 수 있어서, 가동 시간으로 정렬하면 가장 오래 돌고 있는 세션이 맨 위로 올라옵니다.
세션 종료¶
세션 카드(또는 행)에서 종료를 클릭하면 세션이 멈춥니다. 확인 대화상자가 진행 중인 요청이 실패하고 모델 또는 에이전트 프로세스가 즉시 종료된다는 점을 알려줍니다. LLM 서빙 세션을 종료하면 해당 추론 서버가 중지되는데, 이는 모델 언로드와 같은 동작입니다.
이력 탭¶
이력 탭에는 지난 세션들이 종류, 지속 시간, 종료 시각, 오류(비정상 종료의 경우)와 함께 나열됩니다. 종류(LLM 서빙 / 스쿼드 에이전트)로 필터링하고, 항목을 개별 삭제하고, 오래된 항목을 페이지 단위로 더 불러올 수 있습니다.
관련 페이지¶
- 모델 실행하기: 모델 로드와 헤더 상태 알약.
- Squad 계획 및 실행: 세션이 활성인 동안 Squad 에이전트가 하는 일.