llama-wrap

llama-wrap

Model
MMProj
Flags
-ngl
auto
-c
32768
-t
16
-ctv
q4_0
-fa
auto
-ctk
q4_0
-b
2048
--port
8123
--host
127.0.0.1
Output
Status   Stopped VRAM   Estimated 0 B of 24.0 GB