quant_config.json

{
    "w_bit": 4
}