IOC 검색을 위한 AI 모델 연결하기

GoChannel Desk는 표준 API 엔드포인트를 통한 클라우드 AI 제공업체, 내 PC에서 실행되는 모델, 또는 내장 모델과 함께 작동해요. 선택이 중요해요. 프롬프트 안의 로그 줄이 어디로 가는지를 정하는데, 로그에 사용자 이름과 IP 주소가 있을 때 특히 의미가 커요.

모델을 연결하는 세 가지 방법

클라우드 AI 제공업체

클라우드 AI 제공업체는 표준 API 엔드포인트로 연결되며, 더 큰 로그 폴더나 더 어려운 추론에 알맞아요. 프롬프트가 그 엔드포인트로 가므로, 에이전트가 포함한 로그 줄은 내 PC 밖으로 나가요. 도구 출력의 비밀 정보는 모델에 도달하기 전에 가려져요. 로그에는 개인 데이터가 들어 있어요. 사용자 이름과 IP 주소가 있는 일반 로그 줄도 엔드포인트로 가니, 먼저 조직의 규정을 확인하세요.

내 PC의 모델

내 PC에서 로컬로 실행되는 모델은 모든 것을 기기 안에 둬요. 로컬 모델이면 아무것도 밖으로 나가지 않아서, 사용자 이름과 주소가 있는 로그나 비공개로 유지해야 하는 사고에 알맞아요. 속도와 품질은 내 하드웨어와 실행하는 모델에 따라 달라져요. 먼저 무해한 샘플 로그로 시험해 보세요.

내장 모델

내장 모델은 엔드포인트나 키가 아직 없을 때 시험해 볼 만한 선택지예요. 품질은 들쑥날쑥해요. 출력은 다른 모델의 출력과 똑같이 검토하고, 민감한 로그 사본을 건네기 전에 개인 데이터에 관한 조직의 규정을 따르세요.

Test로 엔드포인트 확인하기

Test 버튼은 엔드포인트에 의지하기 전에 먼저 점검해 줘요. 응답 시간과 컨텍스트 창을 보여 주는데, 한 번의 요청에 로그 텍스트가 얼마나 들어가는지 알 수 있어요. 변경한 뒤에는 다시 테스트하세요. 창이 작다면 에이전트에 더 작은 파일을 주거나 한 번에 폴더 하나만 주세요.

로그 검색에 알맞은 모델 고르기

여러 로그 파일에 걸친 일치 항목을 연결하거나 조사 결과 메모를 초안으로 쓰는 것처럼 판단이 필요한 단계에는 더 큰 모델을, iocs.txt에서 무력화한 텍스트를 되돌리는 것 같은 좁은 편집에는 더 작은 모델을 쓰세요. run_on_model은 어려운 단계 하나만 더 큰 모델에 보내고, 나머지 작업은 기본 모델에서 계속돼요. 둘을 섞어 쓰세요.

모델마다 품질이 달라요. 모든 diff와 검색 결과를 직접 검토하고, 새 모델을 시험할 때는 Ask first를 써서 모든 변경이 내 승인을 기다리게 하세요. 깨끗한 결과가 시스템이 깨끗하다는 증거가 되지는 않아요.