diff --git a/llama_cpp/server/app.py b/llama_cpp/server/app.py index e74d17d..b46914e 100644 --- a/llama_cpp/server/app.py +++ b/llama_cpp/server/app.py @@ -357,7 +357,9 @@ GetModelResponse = create_model_from_typeddict(ModelList) @router.get("/v1/models", response_model=GetModelResponse) -def get_models() -> ModelList: +def get_models( + llama: llama_cpp.Llama = Depends(get_llama), +) -> ModelList: return { "object": "list", "data": [