Team Ai
Apppublic

KBaba7/llama.cpp

sourceHugging Faceapache-2.0updated 2y agoView on Hugging Face
0likes
quantize.cpp.o239 linesDownload Raw Back to llama-quantize.dir
1����� p��X�	__text__TEXT�S� �|�__gcc_except_tab__TEXT�S|�W�__literal16__TEXTPX0\__StaticInit__TEXT�XH\���__bss__DATAX�__cstring__TEXT�k�do__const__TEXT({�~__mod_init_func__DATA0{�~�	__compact_unwind__LD8{  �E2.H�`��P&P��%�H�_���W��O��{����������|���h���(I��$��H���_��T��H�z�
������`��h2����������`����{C��OB��WA��_Ĩ�_����  ���v���a@���`"��������W���O��{������@��u@�����T��ѿ�T���8��7���8H��6��^�����8���6��\�����`@�t�����{B��OA��Wè�_��#�m�o��g��_��W��O��{�����C��#��@�@�����?�qm\T�����?@�Q��������������������������
��s�3�R�9s�?@�k�T�#@��s�����B�R��5����� ��4t~@�������4���!���	4���!��4���!���4���!��@4���!��4���!��`4���!���4���!�� M5(�R�9���k�LT�R���#@�4yh�����I@9?(kT���qHT���`���@9���4���I@9I��4���@�9�?k���TZ�h@8���5����;���q���T?k�GT�R���#@�4yh�����I@9?(kT���q�DT���`���@9���4���I@9I��4���@�9�?k���TZ�h@8���5����?���q���Tk�BT���#@�ys��C����7(�R�9h��(�R�9e��k�@T���#@�ys��c��]��k�?T���#@�
���P�?�T:@�����������HT��\�bT;_9����/k*=T���#@�
��#O���bT4@�����������(FT��\�"T�_9��[�-������-������{�)��h�}�!�i@�?]����������A�;�� ���������k;8 c������h�}�!�i@�?]���������HA�������������?k;8�c��{����?@�Kq�9T�'P�	�T�N�	�a3T������g��o����R���D9	�@�?qH���h���@��c������������R���@��^�h��@9��R	ja6T����������R���@��^�h��c@��@9��R3q(	AzK6T�R������c����������c@��k4T����#���R��K��������[��4_1�/T������������������������������@��^�kh8jA+T�K��?k(8����������(T��\�T��9�c���H�}�!�I@�?]����������A��#����������k:8�?��C��c��������B@������������R���������R���@��^�kh8j#T�sA�?q�"T!�B���B�(�	T4��������@��sA�bT(	�(�"}~�������@��^�kh8jaT�{@��qKT,�B����T�"	�*���_��TI�B�*�K�|��	�N������
��@�B�!nc�!n��!n��!n�
?�����A����T_��T!@�! !E�?���T�����)�B�	��B���9�@�?qI����'����/������9��7��@���T���@����@�����N���[�����1�
T����c���R���������R��{��������V46�7���������������������������?�9��7�Z�iT@���R�g@�	�@�!�?�T�c@��������������c��?C9�����aT��#�x��_@�q���+��������T��cTh��T��z�h5��6�k������7����
¬`?�b
����a��T�8�T����*@898?���T9�?�9��7��?9����c��_@������������@�@���W@���9�@�?q�c�I����[A��+����/�����[A����s@�h@����i@��^�����j(��B��a"����������W@��k���N���_�/T�S@��.��C�A��k�@�@����S��!����R�;��@�@����S��!����R�?��#@�@����c����������W��@���C������ �R�����9�@�?q�c�I������������ �R�������#@�@���#@�@�����������9�@�q�c�(���	�)��#���� �R����9�@�q�c�(���	�)��#���� �R�~���{���x���u���{��k@�`�d������k@���_��3����@�����������)��(���%��#���k@��I��������@�����������������9h�6�@����@��������������C���?�9��7�k@�`���������9��6��@������_@���k@�`������k@��������k@�`������k@��������k@�`������k@������o����������9���7���  Ե@����B����9��7@����"A�I_@9*K3@�_qv�������w�����T����9����"��T���������������4 �h��J��T���?�@��T(�����T�O@��@� g�X 80.&�T*�H�	�cT10	ɚH�	��@��K@��yh��
��@�����T_��TM@��T.ѭ��	�cT�	ɚ͵	�����@T���@��T.ѯ��
��	�cT�	ɚϵ	�����T�y(��@���@��T)ѭ	��	�cT�	ɚm�	���T�K@�11y-��@�N����W@���W��@�`�������9��7���������`@�����������Zc��@�_�T�S@���������kP����T�o�����R���S@������b���`T�S@�������������{@�����uC�h��9��7@���|#A��^@9*�2@�_qv���������������T����9����"��T���������������4 �h��J��T���?�@��T(��a��T����C������A�5���@����@���W@�(3�	�)��#�����W@�(2����|������������>���������C������=���`B�<�@�h"	�h�R������!���9�@�q�c�!�����R���9��M���T�����!�R��"�C�����3����@��@�`�������9���6�12@������k@���)�C�*|������13��j���3}14�i�?�H�T��C�}15�16��_	�I����51�����먗T���}����!�Rw��������!�R��"���@T�"��"�����!�R���!��T���W
��s����v�����o��?�9(�7h4���=`B�<��<`҈<h�R������!������R���9�s@���BT�����!�R��"�J�c@�H	����=`B�<��<`҈<h�R������!��_@���R���9�s@�����T�k@���)�C�*|������17��j���3}18�i�?��T��C�}19�20��_	�I����41�����먌T���}����!�Rw��������!�R��"���T�"��"�����!�R���!��T�S
��s����S
����s�����o����W@��s@���"T�����=�B�<��<�2�<��� 
�=�2�<!�@��2�<�2�< �=�2�<(�F�!B��2�<�2�<�R�$F�"9�=�3A�����21� D�"
E����22��&�=�"�;�k@���)�C�*|������23��j���3}24�i�?��T��C�}25�26��_	�I����61�����눀T���}����!�Rx��	�)� �=C�< ��<��3�<G�#���T�"�#�����!�R���!��T�[
��s����[
����s�����o��@�q+T�s@���BT�����=�B�<��<�"�<��� 
�=�"�<!�@��"�<�"�< �=�"�<*�F�!B��"�<�"�<�@��"� D�"
E�Ž���� F�"9�=�3A�Ȃ��27��6�=�"�<�k@���)�C�*|������28��j���3}29�i�?��uT��C�}30�31��_	�I����41������(uT���}����!�Rw���	�)� �=�B�< ��<���"�<�@��F��"���T�"��"�����!�R���!��T�S
��s����S
����s�����o��WM����32T�s@��	�T����o�����������������"�B���|���������J�C�+|��������k���S}�j�_�hT)�)�C�)}�+��33�j���냏�>��������?�T1�����gT���}������!�Ry^�?���o � � � � � � ��� ��"�#�����!�R���!��T!�R�~���3#��O
��s�v�����o�h�9�C�����#@��@��s�����������^T��\�T�9�������}�!��34@�?]����������A�����������������{~@��j58�������������R�?9��R謮r�{���Rx���y�#@�yx�����������(YT��\�T��9�������}�!��35@�?]����������A�����3������������j58���~�����c���������9��7�4���;��H9	?q����/_�U���h������	��36��37�K�_8*�qq`T�q��T_��T	�1����������hST�^�"T�9�#�v��j68���9��7�/@��;����<��=�x��7@�1�3@�����5�#@�yx�����E9�!4�_�9�?B9*�G�_q���x�������q���/X�V���@�t�������T���9�������T������������@4@�h��J��T����R��*q����.���������HT^��T���'��#��9��h�}�!�i38@�?]����������A��#��'�����3@�q������������	�)�)@�	����R���r	q�-9�E9	�U�?q�c�A���b����#�� @����@��r����\@9����_�9h�6��@���@��#��r@�����_9��9��7�E9�@�5�'@���E9�@�H5�?B9	�G�?q���A���b��������9H�7qaT�c�@�i�R	*�r	k�T39�@��!T�@�@�i�R	*�r	kaT(�R�9s40w86�3@���?@�k�T�#@��s�����������:T��\�T��9�������}�!��41@�?]����������A�����3���������j48�����B�R��3����9��6�3@�����}�!��42@�?]����������A��#��'������������j68���9h��6�3@����_�TH�� T�˟�2����������h3T�^��T��9����������}�!��43@�?]����������A�����3�����������k78�_�9h�6��@����=`�=�;@����h��?@�	k*T�#@�7yh������������,T��\��@��T��9������@�@������!����}�!��44@�?]����������A�����3��������k68����c���������9��7�6��9�7q!T�c�@�i�R	*�r	kaT�3@��u�7�@�@��#@�
@�	�)��#��!�p�@��!T�@�@�i�R	*�r	kaT(�R�9s�?@�k���T�7A�}qT)�R(!�	'�R	j`T�W@�����@��@��@�	�)@�)@�@���������!���@��@�@�	�)@�)@������!���@���9��@�q���(����_�9��@�?q��I�����9�@�_q�c�j����+��#��!���3A�q�T�@����!���@�@�R���������9��@�q��� ����_�9��@�q��!��������4�@���9��@�q���(����#��!��3�R�?�9(�66��@��@���3�R�
�R"�R��@���a
�R"�R��@����
�R"�R��?�9(�6��������b�@�R������	g�i���������b�i���������R�?�9h�6�?@����9�7�_�9H�7��9��7�S@���
�@���_�9��6��@����9���6��@���S@���K@��K�@���?�9h�6�_@���k@�`��o���w@����{@�����aT�����U����@��@�`�������9���6�45@������bѿ��T���8���6��^������w@��{���@�4���@�����T46�bѿ��T���8���6��^�������@������9h�6��@����X�	�)@�)@�?�!T���C��{F��OE��WD��_C��gB��oA��#�l�_�����8������5����#��1���C��.������+������(���#��%���#������ ���C�����C��������C��������C��������������������BA����������2;39�������9�6�3@��10�����q�Ts~@�����@�@��#@�ys�@�	@�?��������!�����3�R�?�9(��66������9��6�'@��787
���87	�����9��6�3@�����?�9�7��9H�7�_�9��7��9h1�6
�?@����9��6�@���_�9���6��@����9�/�6��@��{����y����w��������s���C��_��W��O��{�������������������������������������������������]@���aT �R�x�R*�r�s��������'�����������T�^�9	�7��?q�T@�k!T�@��T�@�@�k�T�@�������^�9��I�7ɂ����9*��647����^�9��	��6�@�ɂ����9���6)@�������o��g��_��W��O��{�������������\@9	48,@�?qU���v���6���9��#������!��T����b@���T�#�I@9?(k�T�����T�^�9���7��9�@�qZ���(@9(5����@���9�@�qZ���(@9H��4;�I@9���4���@�9��ka��TZ�h@8���5����#���B�R��"@�?��T)@�?k�T!��?�a��T�R��9�6
�@�������������3�R��9h�6�@�����{G��OF��WE��_D��gC��oB����_����������9h�6�@������{�������W���O��{������@���`@��@�����{B��OA��Wè�_�����������@��@�`�������9���6�49@������W���O��{������@�4�u@�����T50�bѿ��T���8���6��^�����`@�t�����{B��OA��Wè�_��g���_��W��O��{����������Z@�Y���@��@��@���^�	h(��@��^��������F����Hc�h�y������2�������h@��^�`� @�2����{D��OC��WB��_A��gŨ�_���	��`�����������#����`�������O���{��C�����@��@���@��^�	h(�@���"����`������{A��O¨�_��{��������O���{��C����R�������!@��B@�������������{������@�A���{���_��{�����R���!@��B@�����o��g��_��W��O��{����������(\@9	*,@�?qA���b����#����x@�X�g�X 80.&�T	�9�Z����cT�51ؚ9��i@�)yy�I52�6@�53��^@9*_q�*@�Z���w���	��T�*�T�@�V��@��TȞ@9	�@�?qI���?���T(87�4	���	�JA@9�ji8_k���T)�	�!��T*���T		ؚ(������54@������5 ���T�@����@��!��TȞ@9	�@�?qI���?���T�87�4	���	�JA@9�ji8_k���T)�	�!��T�55@�������5�ґwB��R�������c9P���@�	]�9��7�=	@���=	@�������(�R�c9h@��#�a"@���#�""@  DTh@�	yy��@���*@�56��@�(�e��)�R57�58����)1��(�!	)�	������aTU�R��T�����v@���T�����bTh@�#�a"@�!)����T�g�X 80.&�(T�����)�R(!Ț�0����뵂����C��Tx@���T�h@�	yy��@�����i59@�	��@�h60�h@�y9��@�	@���)@�61�62�AT)63����T��h@�	yt��@���������64ؚ��h@�	yy��@��������?�cT*	ؚI��j@�Hy)��@�h@��h�!�R���{G��OF��WE��_D��gC��oB����_����#��������#�������O���{��C���@����hB@9(4�@�`�������9h�6�65@��������{A��O¨�_�_���T_@��T_$�T(@�)�)�_�*�J-šH�+���g��A�����}�J�H�H�}��H�}�	��_�_�T(�	)�+��$��l�����t��-8@�k5�/4A�p
��Гq�˓k�n�k˓�}Γk�k�!~���J
�P��Г�ϓȓ	�	66�}ȓ��J�J�H����	��67��jG��*\��k�)�)}�%68��H�-��H�}69��_�hN��ӷ�����H���)(@�(}�)��	����kG��+\��)1��}�70ˌ�̓my˓�$��n�����t��������������-)��J
�JQʓ)1�J71�72��)�*���73g��74A�����)}75��I�	�}76��H�}77��_�iN��	ӷ�����I���(���g��A�����+�m1|�n=���`E}�d
~��k�k}�p�K��k}�k�K�p}���-����U͓��l���̓���k��	�L� ���T��n���ñΓ��l���.B�1:	�N���z���1
�178�#~�1�1�ѓ$A�J�J�J�ʓ1~	� �'@��
�J5	�
���͓�}	�k
	�04�o��
����UϓB�b�M
�B�“K�k���,����O��Uϓ�����ϓ��L���!��������T�
ʭ}��M��
ʭ}���M�J�J�I	��%���J}���J�j79�J}�J�J�JE�I	�)}�J�I�I	�)}�)�I� }��_�_�CT(@�)�)�_�qS�	�*���80g��81A�����}82�)�H�(�}83��H�}84��_��	����`G�� \�����(@9I�A�)hi8J�J�_8!	�I85�}�ꪌ��������*)��)}86�(��H�}��_��W���O��{����������_X�hT�^9��}���T��}�!��87@�?]��������A���������������{B��OA��Wè����{��������O���{��C�������(�}�h���}����`@�h�@����t�i@�?y(������T��h
A���	@��џ88��T)89�l@��y)���@���l@��90��	�@��Tm@��yl���m@�
�m@���}ӭil��@�m�m@��il�������y,��������`@��@����{A��O¨�_�?�cT*	ԚI��j@�Ky)�91@�*����L@��l@�k�}ӌik��@�L�l@��ik�j����	��92�J@�����K@��cTl	Ԛ���	����Tl@��yk�
����y+��93�J@���J��������_���W��O��{����������@���	��j@�_y)�)�	���Tv94@�~���T��T���.������B���������T����~�H��B���@���������������a��T�����������@��@�`������9���6�95@�����������������A��T�{C��OB��WA��_Ĩ�_��������  �����������W��O��{�����������A��^@9*�@�_q���b����?����a�����������{C��OB��WA����_ֈ@�j@�g�X 80.	&?�T�j96�_�cTK	Țj���@�kyj���h@�h���l
A�l�s��@��y*�j@���J@�?�T�J�_�cTI	Ț*���@�
97�s��@����!�R���{C��OB��WA����_�����O���{��C��������t�t@�`@�`�`��h��9���6`98@������{A��O¨�_��_���W��O��{������������@�@�	���T��t������~�99���~�)�	�A�?�)�����~���100�(1��	�~�	��~������`������h101���T���������h�@��I�B�?�T�102	��T�����t@���@T������T���������h��{C��OB��WA��_Ĩ�_�����{��������g���_��W��O��{�����@������g�X 80.&��T��8�i@�)yx�)�X�103ך)���똂��i@�)yx�)104�5@��	�I\@9*_qK(@�Y���v���	��T��*�aT�@�5��@��T��@9	�@�?qI���?���T(87(4	�Ҫ	�JA@9�ji8_k���T)�	�!��To���T		ך(������105@������5e���T�@����@��!��T��@9	�@�?qI���?���T�87�1064	�Ҫ	�JA@9�ji8_k���T)�	�!��TJ�107@�������5Eh@��#�a"@����#�""@  eT���)�R���108�����)1��(�!	)�	������aTT�R��T�����w@���TBTh@�#�a"@�!)���cT�g�X 80.&�T�����)�R(!Ț�0���딂�����T	��딂����T����������{D��OC��WB��_A��gŨ�_����o��g��_��W��O��{����������(\@9	*,@�?qA���b����#����x@�X�g�X 80.&�T	�9�Z����cT�109ؚ9��i@�)yy�I110�6@�111��^@9*_q�*@�Z���w���	��T�*�T�@�V��@��TȞ@9	�@�?qI���?���T(87�4	���	�JA@9�ji8_k���T)�	�!��T*���T		ؚ(������112@������5 ���T�@����@��!��TȞ@9	�@�?qI���?���T�87�4	���	�JA@9�ji8_k���T)�	�!��T�113@�������5�҈vB��R�����c9@�P������(�R�c9h@��#�a"@���#�""@  DTh@�	yy��@���*@�114��@�(�e��)�R115�116����)1��(�!	)�	������aTU�R��T�����w@���T�����bTh@�#�a"@�!)����T�g�X 80.&�(T�����)�R(!Ț�0����뵂����C��Tx@���T�h@�	yy��@�����i117@�	��@�h118�h@�y9��@�	@���)@�119�120�AT)121����T��h@�	yt��@���������122ؚ��h@�	yy��@��������?�cT*	ؚI��j@�Hy)��@�h@��h�!�R���{G��OF��WE��_D��gC��oB����_����#��������#�������W���O��{��������(\�9�7��=�123@�h124�`�=�������125�բA���T���{B��OA��Wè�_��126@�����������127�բA��`��T�������B�`���t������t����{B��OA��Wè�_����  ����@�`�`���������o���g��_��W��O��{��C������@���	�?���Tu@�\˛�B�i�*�~�j128���~���A�	�i���129���91����(�~�H	� �~����130����~������T�t�5�����~���������I�T)�?��#TJ�J�_�T)�B�)�*�|�K�~�T���K�������131�a@�c	����	?�kьѭA�-���?132�T��_��������Tv"�y133�5����{E��OD��WC��_B��gA��oƨ�{E��OD��WC��_B��gA��oƨ�_��������o��g��_��W��O��{����������(\@9	*,@�?qA���b����#����x@�X�g�X 80.&�T	�9�Z����cT�134ؚ9��i@�)yy�I135�6@�136��^@9*_q�*@�Z���w���	��T�*�T�@�V��@��TȞ@9	�@�?qI���?���T(87�4	���	�JA@9�ji8_k���T)�	�!��T*���T		ؚ(������137@������5 ���T�@����@��!��TȞ@9	�@�?qI���?���T�87�4	���	�JA@9�ji8_k���T)�	�!��T�138@�������5�ҔwB��R�������c9P���^�9��7��=�=�139@���140@�����<���<�@��������(�R�c9h@��#�a"@���#�""@  DTh@�	yy��@���*@�141��@�(�e��)�R142�143����)1��(�!	)�	������aTU�R��T�����v@���T�����bTh@�#�a"@�!)����T�g�X 80.&�(T�����)�R(!Ț�0����뵂����C��Tx@���T�h@�	yy��@�����i144@�	��@�h145�h@�y9��@�	@���)@�146�147�AT)148����T��h@�	yt��@���������149ؚ��h@�	yy��@��������?�cT*	ؚI��j@�Hy)��@�h@��h�!�R���{G��OF��WE��_D��gC��oB����_����#��������#�������W���O��{��������@����150@����151��@���	�Ҋ@�_y)�)�	���T��h@���@���@��iA�j�_���	
�152����j@�153�`@����)@��@�K�_�!Ti	������v����@��@�`�������9���6�154@�����?155�cT+	ʚi�156��@�Hy)�~��{B��OA��Wè�_��{�����������W��O��{��C��������#������c9?� T��������=	@���=����@�������`T�^�9��7��=�157@�h158�`�=�159@�����@�h�`�����9���6�160B��������{E��OD��WC�����_���h^�9�6`@�����������������W���O��{������`@9�4���{B��OA��Wè�_�i�@�@�5@���џ���T���8��7���8H��6��^�����8���6��\���������_��W��O��{���������HU��	(@�J	�J�C����kU��T}���_�T��lB��@��	�)�C�)}�+��161�j����������?�V1��������T���}�����R�����������@������}��"162T��\�BT�^9���j58�'A�4a�iV@��	�T)��}�!��163@�?]��������A����������������j58�'A�4a�iV@��	�`T���<��_�164����<aѿ~?�����b��165�_	����TvV@�hR��@�h166���T��hR��@�h167���T168�bѿ��T���8���6��^�������u�������{F��OE��WD��_C�����_�������  �����#������O���{��C����@�?�aT`@�@�����{A��O¨�_�������T(a�h169�)��8I��6@��h170@�����{��������{��������W���O��{��������@������T�����8h�6��^�����8h�6��\����������T�@����{B��OA��Wè\�9H�7�_�@���L�h����0����D���������������H�����171�O�172������$�����(�
��
��
x�� ������ �`������������X�������������!�O�!��&�L�&��)�L�)��,�L�,��/�L�/��1�O�1��2�O�3�O�3��5�N�50�5�N�7�N�9�N�9p�:�M�;�L�=�M�=$�=�L�=�L�=��?�L�?��@�M�A$�A�L�D�M�E��N�F�L�G�L�J�O�J�N�K�K�N�K�O�K�M�K�M�K�L�K�O�K�L�K�L�K�L�K�L�K�L�L�L�L�L�L�L�L�L�L��M�M}}������5-P����������D���(��`����(��`��<$,��%D�L����������-"l(������������173<�H���%D�L��������������4���(��%D�L���������������T����������������%��%��%��%��%��%��%�174�%��%��%�
�%�
�%��%��%��%��%��%��%��%��%��%��%��$���� (��!(��o���g��_��W��O��{��C�� ��@�@�����c�7��R�+�r3��R��r��R��9���s9H�R�3��R�����=����=��<@���9�����9�S��S9h�R�k��R��;���=���<��@���9����9h���39�R���R��W���=���<��@���9�c������R�_9�����9(�R����R��s���=���<��@���9�����R�?9))�RI�r�����R175k�r�2���9j�R��176�J�K�@���@�=�g��<��R�_y�b���R�9k�R�ky�3���9��R�K��k�`�=@	�=k�@�K����y�B���R��9�k�k177�R��y��R����R�9
�����@�N����=�'�@�<�{9�"���9���	�R�Ky��R���
�����@�N����=@	�=�y����9�y*)�R*�r����R����k��?9`�=k�@�������<�;9�����9�S9���W9��R�+��	9	�)� �=)�@�	��	�=�	9����	9�R�3	9�*�R(�r�K��7	9��R�c� �R������7��>��?���R�;����=�=�@���\9�c��	��_1789�*�RH�r���y��R�� �R�7J�R�k�r�S���=���<���=�=�@���\9�179���R�?9�����1809H�R����R��o��w��R�s���@���9�c��b���R�9����k�R��y��9��R���R������=�g��<��@���9�B���R��9��R	k�r	1�8)�Rx�r�+���9��R�C�	�)�*�@�181�� �=�'	��<��R�y�"
���R��
9k182�R��y�c�K�R�{��k�`�= 	�=k�@�+���/y���9����	�R�;yh�R���R�����"����H�R������=�=��<��<h9�c�(����R�9�����S9��R���	�R�9	�)� �=	�=�9(����R�9��	k�R�y�;9��R�#���R��9	�)�*�@�183�� �=���<��94���_98j�R�k�r�C��k�R�y�9h�R�[��R��3���=�
��<��@���94���?9�{�諉R��y��9����R��O��W��R�S���@���9�c�c���R�9(j�R�k�r��苉R�k	y��9��R����R��k���=�g��<��@���9C���99)�R��r���ȉ�R��	y��9(�R���R�������(�R���
�R@y��@���c�#���R��9�#�k�R�K184y��9��R�;��R�����=�'��<@y��@����R�9��[��s9��R�s��R�?9���=����<�#9����98��R�k�r����k�R�+y�[9��R���R������=����<��@���9�c�T����R�9���諉R�y�;9����R��������R�����@���9H����R�_9����98�R��	�R185�J���9@�=	�=��9T���?99��R�k�r�;��k�R�{y��9�S��R��/��7��R�3���@���9�c�Tc���R�9�s�諉R��y��9����R��K���=�g��<��@���9TC���R��9�����9H�R����R��g��o��R�k���@���9�c��"���9h�����9��R����R������=�'��<��@���9��h�R�9�(�R��r��(�R�3��R��������R��	�)� @���9�c�t����R�9IȈR)Ʀr�S��S9�k��R�������=��� �<@���9t��h�R�9�h�RH�r������R��������R������=�=	@��`9�c�����R�_9h�R*�r����9����R��������=�� �<@���9���c��c���R���R����Tu����8��7���8H��6��^�����8���6��\��������!��B����Z�	�)@�)@�?�!T� ��{E��OD��WC��_B��gA��oƨ�_�������9�7�_�9H�7���9��7��9��7��9�7��9H�7�?�9��7��9��7�_�9�7���9H�7��9��7���9��7��9�7��9H�7��9��7�?�9��7���9�7�_�9H�7���9��7��9��7��9�7��9H�7�?�9��7��9��7�_�9�7���9H�7��9��7���9��7��9�7��9H�7��9��7�?�9��7���9�7�_�9H�7���9��7��9��7��9�7��9H�7�?�9��7��9��7�_�9�7���9H�7��9��7���9��7��9�7��9H�7��9��7�?�9��7���9�7�_�9H�7���9��7��9��7��9�7��9H�7�?�9��7��9��7�_�9 �7���9H �7��9� �7���9� �7��9!�7��9H!�7��9�!�7�?�9�!�7���9"�7�_�9H"�7���9�"�7��9�"�7��9#�7��9H#�7�?�9�#�7��9�#�7��C���_�9��6��C�����9���6��C����9���6��C����9H��6�C����9��6�C���?�9���6��C����9���6��C���_�9H��6��C�����9��6�sC����9���6�gC�����9���6�WC����9H��6�KC����9��6�;C����9���6�/C���?�9���6�C�����9H��6�C���_�9��6�C�����9���6��B����9���6��B����9H��6��B����9��6��B���?�9���6�B����9���6�B���_�9H��6�B�����9��6��B����9���6��B�����9���6�wB����9H��6�kB����9��6�[B����9���6�OB���?�9���6�?B�����9H��6�3B���_�9��6�#B�����9���6�B����9���6�B����9H��6��A����9��6��A���?�9���6��A����9���6��A���_�9H��6��A�����9��6�A����9���6�A�����9���6��A����9H��6��A����9��6�{A����9���6�oA���?�9���6�_A�����9H��6�SA���_�9��6�CA�����9���6�7A����9���6�'A����9H��6�A����9��6�A���?�9���6��@����9���6��@���_�9H��6��@�����9��6��@����9���6��@�����9���6�@����9H��6�@����9��6��@����9���6��@���?�9���6�@�����9H��6�s@���_�9��6�c@�����9���6�W@����9���6�G@����9H��6�;@����9��6�+@���?�9���6�@����9h�6�@�����
186	���c���џ�`��T���8��7���8H��6��^�����8���6��\����� 4.34G, +0.4685 ppl @ Llama-3-8B 4.78G, +0.4511 ppl @ Llama-3-8B 5.21G, +0.1316 ppl @ Llama-3-8B 5.65G, +0.1062 ppl @ Llama-3-8BIQ2_XXS 2.06 bpw quantizationIQ2_XS 2.31 bpw quantizationIQ2_S 2.5  bpw quantizationIQ2_M 2.7  bpw quantizationIQ1_S 1.56 bpw quantizationIQ1_M 1.75 bpw quantizationTQ1_0 1.69 bpw ternarizationTQ2_0 2.06 bpw ternarization 2.96G, +3.5199 ppl @ Llama-3-8BQ2_K_S 2.96G, +3.1836 ppl @ Llama-3-8BIQ3_XXS 3.06 bpw quantizationIQ3_S 3.44 bpw quantizationIQ3_M 3.66 bpw quantization mixalias for Q3_K_MIQ3_XS 3.3 bpw quantizationQ3_K_S 3.41G, +1.6321 ppl @ Llama-3-8BQ3_K_M 3.74G, +0.6569 ppl @ Llama-3-8BQ3_K_L 4.03G, +0.5562 ppl @ Llama-3-8BIQ4_NL 4.50 bpw non-linear quantizationIQ4_XS 4.25 bpw non-linear quantizationalias for Q4_K_MQ4_K_S 4.37G, +0.2689 ppl @ Llama-3-8BQ4_K_M 4.58G, +0.1754 ppl @ Llama-3-8Balias for Q5_K_MQ5_K_S 5.21G, +0.1049 ppl @ Llama-3-8BQ5_K_M 5.33G, +0.0569 ppl @ Llama-3-8B 6.14G, +0.0217 ppl @ Llama-3-8B 7.96G, +0.0026 ppl @ Llama-3-8BF1614.00G, +0.0020 ppl @ Mistral-7B14.00G, -0.0050 ppl @ Mistral-7BF3226.00G              @ 7BCOPYonly copy tensors, no quantizing----leave-output-tensor--output-tensor-type--token-embedding-type--override-kv--allow-requantize--pure--imatrix--include-weights--exclude-weights--keep-split%s: bad arguments187quantize.imatrix.filequantize.imatrix.datasetquantize.imatrix.entries_countquantize.imatrix.chunks_count.ggufggml-model-%s: missing ftype188main%s: invalid ftype '%s'189%s: invalid nthread '%s' (%s)190191==========================================================================================================192Please do not use IQ1_S, IQ1_M, IQ2_S, IQ2_XXS, IQ2_XS or Q2_K_S quantization without an importance matrix193==========================================================================================================194 195 196%s: build = %d (%s)197%s: built with %s for %s198%s: quantizing '%s' to '%s' as %s using %d threads%s: failed to quantize model from '%s'199%s: quantize time = %8.2f ms200%s:    total time = %8.2f ms201usage: %s [--help] [--allow-requantize] [--leave-output-tensor] [--pure] [--imatrix] [--include-weights] [--exclude-weights] [--output-tensor-type] [--token-embedding-type] [--override-kv] model-f32.gguf [model-quant.gguf] type [nthreads]202 203  %2d  or            %-7s : %s204%s: invalid ggml_type '%s'205parse_ggml_type%s: have %d importance matrix entries206prepare_imatrix%s: failed to open %s207load_imatrix%s: no data in file %s208%s: failed reading name for entry %d from %s209%s: failed reading number of values for entry %d210%s: failed reading data for entry %d211LLAMA_TRACE%s: loaded data (size = %6d, ncall = %6d) for '%s'212%s: imatrix dataset='%s'213%s: loaded %d importance matrix entries from %s computed on %d chunks214vectorbasic_string  --allow-requantize: Allows requantizing tensors that have already been quantized. Warning: This can severely reduce quality compared to quantizing from 16bit or 32bit  --leave-output-tensor: Will leave output.weight un(re)quantized. Increases model size but may also increase quality, especially when requantizing  --pure: Disable k-quant mixtures and quantize all tensors to the same type  --imatrix file_name: use data in file_name as importance matrix for quant optimizations  --include-weights tensor_name: use importance matrix for this/these tensor(s)  --exclude-weights tensor_name: use importance matrix for this/these tensor(s)  --output-tensor-type ggml_type: use this ggml_type for the output.weight tensor  --token-embedding-type ggml_type: use this ggml_type for the token embeddings tensor  --keep-split: will generate quantized model in the same shards as input  --override-kv KEY=TYPE:VALUE      Advanced option to override model metadata by key in the quantized model. May be specified multiple times.Note: --include-weights and --exclude-weights cannot be used together215Allowed quantization types:�D�S��X�'D�S )��*�D4V�,�,xP-p�-DlV�.X0/D/PD�V�/$�/(�/tD�VT4\�4L�8��9�9�H;`D�V�<HD�V�=\L>D�?�?��BPDW�F�D0W�G�hI�DPW�M�NODxWP|�P0D�W�Rd(S<S�XD�WPSp�S�S�-�S�-�S�-�S�-LS�-HSHLDSH=8S�-4SHL0SH=S�-�R�-�R�-�R�-�R�-�R�-�R�-xR�-dR�-�Q-�Q�-PQ-(Q�-�P�-|P�-P�-P�-P�-�O�-�O�-�O�-�O�-O�-OHLOH=�N�-�N�-�N�-LN�-�M�-�M�-�M�-�M�-�M�-�L�-\L�-@L�-�K�-TK�-<K-�J-�I�-dI�-`I�-<I�-�H�-`H�-DH�-�G�-�GO-�G�-�G�-xG-\G�-8G�-�F�-�F�-�F�-�F�-�F�-�E�-HE�-,E�-�D�-pD�-XD-�C-�B�-`B�-DB�-�A�-LA-�@-�?�-�?HL�?H=�?�-h?-8?-?-�>�-�>�-8>�-(>�->�-�=�-�<�-�<�-�<�-�<�-�<�-�<�-�<�-|<�-T<�-@<�-0<�-<�-�;�-�;�-�;�-D;�-�:�-�9�-�9�-�9�-�9KL�9K=�9�-|9-P9�-�4�-�4�-�4�-P4�-L4�-D4�-84�-04�-(3�-�2�-�2�-2�-�1�-�1-41-(0�-�/�-�/�l�/�]�/�l�/�]�/�-�/�-�/�l�/�]�/�-�/�-�/�-|/�-t/�lp/�]l/�lh/�]d/�-X/�-@/�-</HL8/H=/�-/�-/�-�.�l�.�]�.�-�.�-�.�-�.�-�.�-�.�-t.�-X.�-H.�-(.�-�-�l�-�]�-�l�-�]�-�-�-�-H-�-8-�--�--�-�,�-�,�-�,�-�,�-�,�-�,�-h,�-T,�-D,�-�+�-�+�-�+�-D+BL@+B=0+�-$+�-�*-�*-,*-*EL*E=*DL*D=*CL*C=�)�-�)BL�)B=�)-�)AL�)A=�)-�)@L�)@=�)-�)?L�)?=�)-�)>L�)>=�)-�)=L�)==�)-�)<L�)<=�)-�);L�);=�)-�):L�):=�)-|)9Lx)9=t)-p)8Ll)8=h)-d)7L`)7=\)-X)6LT)6=P)-L)5LH)5=D)-@)4L<)4=)�-�(�-�(�-�(�-�(�-�(�-d(�-<(�-8(�-0(2L,(2=$(%L (%=(�l�'�]�'�-�'�-|'�-t'�-l'�-`'�-X'�-L'�-D'�-8'�-,'�- '�-'�-'�-'�-�&�-�&�-�&�-�&�-�&�-�&�l�&�]�&�-t&�-d&�-,&�-&�-�%�-�%�-�%�-�%�-�%�-�%�-t%�-d%�-T%�-(%�-%�-%-%1L%1=�$-�$0L�$0=�$-�$�-�$�-�$�-�$/L�$/=�$�-|$.Lx$.=p$�-`$-L\$-=T$�lP$�]<$�-8$,L4$,=$�-�#�-�#�-�#�-�#�-�#+L�#+=�#�-�#*L�#*=P#�-L#)LH#)=8#�l4#�],#�l(#�] #�-#(L#(=#%L#%=�"�l�"�]�"�l�"�]�"�l�"�]x"'Lt"'=l"%Lh"%=X"�lT"�]L"�-"#-�!-�!�-�!&L�!&=�!%L�!%=�!�l�!�]`!-0!�-!-� �-� �-t -P �-, �- �- -��-�-|�-�-��-��-��-D$L@$=8-�-�-p-�-��-,#--��-�-T-4�-�-��-��-�-8�-l�-@-"L�"=��-"L"=��-�-x!Lt!=\�-�!L�!=`�-4--��-x216-L LH =4-217-� L� =��-�-�-d�-��-��-��-�-�218-`L\=(-$L =L=�-��-�-�-8�-��-��-��-��-,--��-��-��-��-,�-$�-�-�-�-��-��-��-��-D�-�
�-�
�-�
�-�
�-�
-�
L�
=�
L�
=|
�-t
-p
Ll
=d
L`
=D
-@
L<
=,
-
�-
�-
-
L
=�L�=��-��-�-�L�=�L�=��-�-t�-pLl=dL`=X�lT�]D�-@L<=4L0=(�l$�]��-��-��-��l��]�-�L�=�L�=t�-h-dL`=XLT=�219�-0220�-221�-222�-�	�-�	�-�	�-�	�-�	�-�	-�	L|	=t	Lp	=H	�-��-x�-4�-$�-�-�l�]�-��-�-\�-@�-(�-�-�L�=�L�=��-d�-�-��-�-l�-D�-4�--�-x�-<�-��-��-��-\�-P�-,�-�-�L�=�-�
L�
=�-�L�=�-�L�=�-�223L�224=t-p	Ll	=`-\LX=L-HLD=8-$-	-�L�=�L�=�L�=��-��l��]@�-0�- �-��-�-��-t�-P�-\�}�-�-x�-p�-`�-P�-@�-0�- �-�-�-��-��-��-��-��-��-��-��-p�-`�-P�-@�-0�- �-�-�-��-��-��-��-��-��-��-��-p�-`�-P�-@�-0�- �-�-�-��-��-��-��-��-��-��-��-p�-`�-P�-@�-0�- �-�-�-��-��-��-��-��-��-��-��-p�-`�-P�-@�-0�- �-�-�-��-��l|�]t�-p�Ll�=hBLdB=`�L\�=T�-D�-�-BLB=�225}L�226}=�227�-�228|L�229|=�230�-D231{L@232{=8233�-234zL�	z=�	�-�	yL�	y=�	�-h	xLd	x=P	�-	wL	w=	�-�vL�v=��-xuLtu=@tL<t=(�-�sL�s=��-�rL�r=dqL`q=PWLLW=D�-pLp=��-�oL�o=��-TnLPn=<�-mLm=��-�lL�l=lkLhk=$jL j=�-�iL�i=�hL�h=HgLDg=0�-�fL�f=��-�eL�e=�VL�V=��-@dL<d=�-�cL�c=�bL�b=XaLTa=`L`=�_L�_=�^L�^=L]LH]=8�-\L�\=��-�[L�[=��-tZLpZ=lULhU=`�-$�l �]Y�������`XP�@ ��������xp�`XP�@ ����������`@ �������xp�`@ ��������`XP�@ ���������������������������
�
�
�
�������������������������������������������������&�&�&�&�&�&�)�)�*�*�-�-�.�.�0�0�1�2�<�<�<�C�C�C�C�C�C�C�D�D�D�D�D�D�D�G�G�F�F�F�F�F�F�F�F�F�F�F�F�E�E�F�E�E�F�E�E�G�G�H�H�I�I�H�H�H�H�H�H�J�J�I�I�M�M�M�P�P�P�P�O�P�P�S�S�S�S�S�S�S�S�S�S�S�S�S�S�S�S�S�S�R�R�R�R�R�R�R�R�R�R�R�R�T�T�T�T�T�T�V�V�[�[�[�[�]�]�^�^�^�^�^�^�_�_�_�_�_�_�s�s����������ĦȦ���������������������Զض����Եص����Դش����ȳ̳���������������̺к����Ĺȹ���������������нԽ����������������̿п���������������������������������������������������������������%#%PS�#�S�%�Su#8p�";p3"Qp�!fp!}pu �p��p@�p�%�p$�pk#�p� �u�	v9^u�%vD$Iv�#cv�
u�#�t )3 �uU!�u�"�py"Gu�!kuU7u
#u)"�p�!	q� $qk Dq��*�%hq��q�#tqa#�qa 235s�s69s?&[s�#ms"�qz!0r� �r,#�s�"�s�"�qF#�S�!�s��v�!gw.!�w� Hx �xh�x�%By0$�y�#�y�"5zG"Tz�!�z!{[X� &�tl$�t��t
"4V�lV�"�v�$�V�"�Vn"�v
&�VY$�VB!W�$�S� 0W|PW�#xW["�W@#PX�%PX�#`XX#pX�"�X3�X�$�k7#�k�!�k� �k�(l�$Fl"#cl�!�l� �l��lw$�l#�l�!
m� 5m�^mO${m#�m�!�m� �mr�m:$n�"8n�!`n� �n^�n&$�n�"�n�!o� $oTLo$mo�"�o�!�o �oJ�o$p �W"X�t!�kR  l5&?l�#]l�"zlj!�lH �l+&�l�#�l`!.m> Vm&um�#�m8!�m) �m�%	n�#1nQ"Yn$!�n�%�n#�n!o Eo="�o��o�%p�bq� ({[ 0{�	8{���9���4���N2�<S_�(S��0/i��?���/��T4	��9��M��H;B��=��<��hI���/C��B���?~236��8���,���RR��-B��.��({|�D/��Pw�O��F��{����P��P-��L>G��G>��/q
��,�XG9o�
�b!,�237,238�U4xk���O��6������G�pm
(
�!�
�%x�
(	i{9
�
i
.�
�
�J
��a239`
B
�P�X_strncpy_memcpy___cxa_rethrow___cxa_throw_getenv__ZSt9terminatev__ZdlPv__ZNSt3__18ios_base4initEPv__ZNSt3__113basic_istreamIcNS_11char_traitsIcEEE4peekEv__ZNSt3__19basic_iosIcNS_11char_traitsIcEEED2Ev__ZNSt3__113basic_istreamIcNS_11char_traitsIcEEED2Ev__ZNSt12length_errorD1Ev__ZNSt20bad_array_new_lengthD1Ev__ZNSt3__114basic_ifstreamIcNS_11char_traitsIcEEED1Ev__ZNSt3__113basic_filebufIcNS_11char_traitsIcEEED1Ev__ZNSt3__114__split_bufferINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEERNS4_IS6_EEED1Ev__ZNSt20bad_array_new_lengthC1Ev__ZNSt3__113basic_filebufIcNS_11char_traitsIcEEEC1Ev__ZNKSt3__16vectorIfNS_9allocatorIfEEE20__throw_length_errorB8ne180100Ev__ZNKSt3__16vectorIcNS_9allocatorIcEEE20__throw_length_errorB8ne180100Ev__ZNKSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE20__throw_length_errorB8ne180100Ev__ZNKSt3__16vectorINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS4_IS6_EEE20__throw_length_errorB8ne180100Ev__ZNKSt3__16vectorI12quant_optionNS_9allocatorIS1_EEE20__throw_length_errorB8ne180100Ev__ZNKSt3__16vectorI23llama_model_kv_overrideNS_9allocatorIS1_EEE20__throw_length_errorB8ne180100Ev__ZNSt3__16vectorINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS4_IS6_EEED1B8ne180100Ev__ZNSt3__128__exception_guard_exceptionsINS_29_AllocatorDestroyRangeReverseINS_9allocatorI12quant_optionEEPS3_EEED1B8ne180100Ev__ZNSt3__16vectorI12quant_optionNS_9allocatorIS1_EEED1B8ne180100Ev__ZNSt3__110unique_ptrINS_11__hash_nodeINS_17__hash_value_typeINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS6_IfEEEEEEPvEENS_22__hash_node_destructorINS6_ISE_EEEEED1B8ne180100Ev__ZNSt3__113unordered_mapINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS4_IfEEEENS_4hashIS6_EENS_8equal_toIS6_EENS4_INS_4pairIKS6_S9_EEEEED1B8ne180100Ev__ZSt28__throw_bad_array_new_lengthB8ne180100v___cxa_atexit_exit_llama_backend_init_llama_time_us_puts_llama_model_quantize_default_paramsl_str__ZTVSt12length_error__ZTISt12length_error_memchr___tolower___toupper_putchar___stderrp__GLOBAL__sub_I_quantize.cpp_strcmp_strncmp_memcmp_bzero___cxa_allocate_exception___cxa_free_exception__ZTISt9exception_mainl___func__.main_strlen__Znwm__ZNKSt3__121__murmur2_or_cityhashImLm64EEclB8ne180100EPKvm__ZNSt3__112__hash_tableINS_17__hash_value_typeINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS5_IfEEEEEENS_22__unordered_map_hasherIS7_SB_NS_4hashIS7_EENS_8equal_toIS7_EELb1EEENS_21__unordered_map_equalIS7_SB_SG_SE_Lb1EEENS5_ISB_EEE11__do_rehashILb1EEEvm__ZNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE9__grow_byEmmmmmm__ZNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE25__init_copy_ctor_externalEPKcm__ZNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE6appendEPKcm__ZNSt3__112__next_primeEm__ZNSt3__16vectorIfNS_9allocatorIfEEE8__appendEm___stack_chk_fail__ZNSt3__113basic_istreamIcNS_11char_traitsIcEEE4readEPcl__ZNSt3__16vectorIfNS_9allocatorIfEEE18__assign_with_sizeB8ne180100IPfS5_EEvT_T0_l__ZNSt3__113basic_filebufIcNS_11char_traitsIcEEE4openEPKcj__ZNSt3__114basic_ifstreamIcNS_11char_traitsIcEEEC1EPKcj__ZNSt3__18ios_base5clearEj__ZNSt3__14stoiERKNS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEEPmi__ZTISt20bad_array_new_length___cxa_begin_catch___cxa_end_catch_fprintf_printf_llama_model_quantize_memmove_fwrite___clang_call_terminate__Unwind_Resume_ggml_type_name___dso_handle_llama_backend_free___stack_chk_guard_fputcl___func__._ZL15parse_ggml_typePKc__ZL5usagePKc__ZNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE6assignEPKc__ZNSt11logic_errorC2EPKc__ZNSt3__120__throw_length_errorB8ne180100EPKc__ZNSt12length_errorC1B8ne180100EPKc__ZNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE9push_backEc__ZNSt3__16vectorINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS4_IS6_EEE24__emplace_back_slow_pathIJRPcEEEPS6_DpOT___ZNSt3__112__hash_tableINS_17__hash_value_typeINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS5_IfEEEEEENS_22__unordered_map_hasherIS7_SB_NS_4hashIS7_EENS_8equal_toIS7_EELb1EEENS_21__unordered_map_equalIS7_SB_SG_SE_Lb1EEENS5_ISB_EEE15__assign_uniqueIPKNS_4pairIKS7_SA_EEEEvT_SS___ZNSt3__112__hash_tableINS_17__hash_value_typeINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS5_IfEEEEEENS_22__unordered_map_hasherIS7_SB_NS_4hashIS7_EENS_8equal_toIS7_EELb1EEENS_21__unordered_map_equalIS7_SB_SG_SE_Lb1EEENS5_ISB_EEE28__node_insert_unique_prepareB8ne180100EmRSB___ZNSt3__14pairIKNS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS4_IfEEEEEC2B8ne180100ERKSB___ZNSt3__135__uninitialized_allocator_copy_implB8ne180100INS_9allocatorI12quant_optionEEPKS2_S5_PS2_EET2_RT_T0_T1_S7___ZL15try_parse_ftypeRKNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEER11llama_ftypeRS5___ZNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEaSERKS5___ZNSt3__112__hash_tableINS_17__hash_value_typeINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS5_IfEEEEEENS_22__unordered_map_hasherIS7_SB_NS_4hashIS7_EENS_8equal_toIS7_EELb1EEENS_21__unordered_map_equalIS7_SB_SG_SE_Lb1EEENS5_ISB_EEE25__emplace_unique_key_argsIS7_JRKNS_21piecewise_construct_tENS_5tupleIJRKS7_EEENSQ_IJEEEEEENS_4pairINS_15__hash_iteratorIPNS_11__hash_nodeISB_PvEEEEbEERKT_DpOT0___ZNSt3__112__hash_tableINS_17__hash_value_typeINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS5_IfEEEEEENS_22__unordered_map_hasherIS7_SB_NS_4hashIS7_EENS_8equal_toIS7_EELb1EEENS_21__unordered_map_equalIS7_SB_SG_SE_Lb1EEENS5_ISB_EEE25__emplace_unique_key_argsIS7_JRKNS_4pairIKS7_SA_EEEEENSN_INS_15__hash_iteratorIPNS_11__hash_nodeISB_PvEEEEbEERKT_DpOT0___ZNSt3__112__hash_tableINS_17__hash_value_typeINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS5_IfEEEEEENS_22__unordered_map_hasherIS7_SB_NS_4hashIS7_EENS_8equal_toIS7_EELb1EEENS_21__unordered_map_equalIS7_SB_SG_SE_Lb1EEENS5_ISB_EEE25__emplace_unique_key_argsIS7_JNS_4pairIKS7_SA_EEEEENSN_INS_15__hash_iteratorIPNS_11__hash_nodeISB_PvEEEEbEERKT_DpOT0__LLAMA_COMMIT_LLAMA_BUILD_TARGET__ZL13QUANT_OPTIONS_LLAMA_COMPILER_LLAMA_BUILD_NUMBER__ZNSt3__119piecewise_constructE__ZNSt3__16vectorI12quant_optionNS_9allocatorIS1_EEEC1B8ne180100ESt16initializer_listIS1_E__ZNSt3__112__hash_tableINS_17__hash_value_typeINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS5_IfEEEEEENS_22__unordered_map_hasherIS7_SB_NS_4hashIS7_EENS_8equal_toIS7_EELb1EEENS_21__unordered_map_equalIS7_SB_SG_SE_Lb1EEENS5_ISB_EEE20__node_insert_uniqueEPNS_11__hash_nodeISB_PvEE__ZNSt3__112__hash_tableINS_17__hash_value_typeINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS5_IfEEEEEENS_22__unordered_map_hasherIS7_SB_NS_4hashIS7_EENS_8equal_toIS7_EELb1EEENS_21__unordered_map_equalIS7_SB_SG_SE_Lb1EEENS5_ISB_EEE17__deallocate_nodeEPNS_16__hash_node_baseIPNS_11__hash_nodeISB_PvEEEE__ZTVNSt3__114basic_ifstreamIcNS_11char_traitsIcEEEE__ZTTNSt3__114basic_ifstreamIcNS_11char_traitsIcEEEE__Z24string_parse_kv_overridePKcRNSt3__16vectorI23llama_model_kv_overrideNS1_9allocatorIS3_EEEEl___func__._ZL15prepare_imatrixRKNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEERS5_RKNS_6vectorIS5_NS3_IS5_EEEESD_RNS_13unordered_mapIS5_NS9_IfNS3_IfEEEENS_4hashIS5_EENS_8equal_toIS5_EENS3_INS_4pairIS6_SG_EEEEEEl___func__._ZL12load_imatrixRKNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEERS5_RNS_13unordered_mapIS5_NS_6vectorIfNS3_IfEEEENS_4hashIS5_EENS_8equal_toIS5_EENS3_INS_4pairIS6_SC_EEEEEE__ZNSt3__112__hash_tableINS_17__hash_value_typeINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS5_IfEEEEEENS_22__unordered_map_hasherIS7_SB_NS_4hashIS7_EENS_8equal_toIS7_EELb1EEENS_21__unordered_map_equalIS7_SB_SG_SE_Lb1EEENS5_ISB_EEE13__move_assignERSL_NS_17integral_constantIbLb1EEEl_.str.99l_.str.79l_.str.69l_.str.59l_.str.49l_str.139l_.str.39GCC_except_table29l_.str.129l_.str.29l_.str.119l_.str.19l_.str.9ltmp8GCC_except_table8l_.str.98l_.str.88l_.str.78l_.str.68l_.str.58GCC_except_table38l_str.138l_.str.38l_.str.128l_.str.28l_.str.18l_.str.8ltmp7l_.str.97l_.str.87l_.str.77l_.str.67l_.str.57l_.str.47l_str.137l_.str.37GCC_except_table27l_.str.127l_.str.27l_.str.17l_.str.7ltmp6l_.str.96l_.str.86l_.str.76l_.str.56l_str.146l_.str.46l_str.136l_.str.36GCC_except_table26l_.str.126l_.str.26l_.str.16ltmp5l_.str.95l_.str.85l_.str.75l_.str.65l_.str.55l_str.145l_.str.45l_str.135l_.str.35l_.str.125l_.str.25l_.str.15l_.str.105l_.str.5ltmp4GCC_except_table4l_.str.94l_.str.84l_.str.74l_.str.64l_str.144l_.str.44GCC_except_table34l_.str.134l_.str.124GCC_except_table14l_.str.14l_.str.104ltmp3l_.str.93l_.str.83l_.str.73l_.str.63l_.str.53l_str.143l_.str.43l_.str.133l_.str.33l_.str.123l_.str.23l_.str.13l_.str.103l_.str.3ltmp2GCC_except_table2lCPI38_2l_.str.92l_.str.82l_.str.72l_.str.52l_str.142l_.str.42GCC_except_table32l_.str.132l_.str.32l_.str.122l_.str.22l_.str.12l_.str.102ltmp1lCPI38_1l_.str.91l_.str.81l_.str.71l_.str.61l_.str.51l_str.141l_.str.41l_.str.131l_.str.31GCC_except_table21l_.str.121l_.str.21GCC_except_table11l_.str.11l_.str.1__ZNSt3__14pairIKNS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS_6vectorIfNS4_IfEEEEEC2B8ne180100ERKSB_.cold.1__ZNSt3__16vectorI12quant_optionNS_9allocatorIS1_EEEC1B8ne180100ESt16initializer_listIS1_E.cold.1___gxx_personality_v0ltmp0GCC_except_table0lCPI38_0l_.str.90l_.str.80l_.str.70l_.str.50l_str.140l_.str.40l_.str.130l_.str.30GCC_except_table20l_.str.120l_.str.20l_.str.10l_.str.100