ChenMnZ/Llama-3-70b-EfficientQAT-w4g128-GPTQ
Text Generation
•
71B
•
Updated
EfficientQAT(GPTQ format)
EfficientQAT quantized models with GPTQ data format.
-
-
ChenMnZ/Llama-3-8b-EfficientQAT-w2g128-GPTQ
Text Generation • 8B • Updated • 5 -
ChenMnZ/Llama-3-8b-instruct-EfficientQAT-w4g128-GPTQ
Text Generation • 8B • Updated • 3 -
ChenMnZ/Llama-3-8b-instruct-EfficientQAT-w2g64-GPTQ
Text Generation • 8B • Updated • 2 -
ChenMnZ/Llama-3-8b-instruct-EfficientQAT-w2g128-GPTQ
Text Generation • 8B • Updated • 10 • 1 -
ChenMnZ/Llama-3-8b-EfficientQAT-w4g128-GPTQ
Text Generation • 8B • Updated • 3 • 1 -
ChenMnZ/Llama-3-8b-EfficientQAT-w2g64-GPTQ
Text Generation • 8B • Updated • 3 -
ChenMnZ/Llama-3-70b-instruct-EfficientQAT-w4g128-GPTQ
Text Generation • 71B • Updated • 3 -
ChenMnZ/Llama-3-70b-instruct-EfficientQAT-w2g64-GPTQ
Text Generation • 71B • Updated • 4 -
ChenMnZ/Llama-3-70b-instruct-EfficientQAT-w2g128-GPTQ
Text Generation • 71B • Updated • 4 -
ChenMnZ/Llama-3-70b-EfficientQAT-w2g64-GPTQ
Text Generation • 71B • Updated • 3 -
ChenMnZ/Llama-3-70b-EfficientQAT-w2g128-GPTQ
Text Generation • 71B • Updated • 5 -
ChenMnZ/Llama-2-7b-EfficientQAT-w4g128-GPTQ
Text Generation • 7B • Updated • 3 -
ChenMnZ/Llama-2-7b-EfficientQAT-w2g64-GPTQ
Text Generation • 7B • Updated • 3 • 1 -
ChenMnZ/Llama-2-7b-EfficientQAT-w2g128-GPTQ
Text Generation • 7B • Updated • 49 -
ChenMnZ/Llama-2-70b-EfficientQAT-w4g128-GPTQ
Text Generation • 69B • Updated • 3 -
ChenMnZ/Llama-2-70b-EfficientQAT-w2g64-GPTQ
Text Generation • 69B • Updated • 1 -
ChenMnZ/Llama-2-70b-EfficientQAT-w2g128-GPTQ
Text Generation • 69B • Updated • 3 -
ChenMnZ/Llama-2-13b-EfficientQAT-w4g128-GPTQ
Text Generation • 13B • Updated • 1 -
ChenMnZ/Llama-2-13b-EfficientQAT-w2g128-GPTQ
Text Generation • 13B • Updated • 5 -
ChenMnZ/Mistral-Large-Instruct-2407-EfficientQAT-w2g64-GPTQ
123B • Updated • 8 • 25