Context Stress 벤치마크

컨텍스트 길이(Small · Medium · Long)와 동시성을 올려 가며 집계 처리량과 지연 분위수를 잽니다. 처리량이 꺾이는 지점이 그 모델의 포화점입니다.