karths/Magicoder_CL_python_optimise_awq
029
1{2 "zero_point": true,3 "q_group_size": 128,4 "w_bit": 4,5 "version": "GEMM",6 "modules_to_not_convert": null7}1{2 "zero_point": true,3 "q_group_size": 128,4 "w_bit": 4,5 "version": "GEMM",6 "modules_to_not_convert": null7}