Team Ai
Apppublic

KBaba7/llama.cpp

sourceHugging Faceapache-2.0updated 2y agoView on Hugging Face
0likes
parallel.cpp.o154 linesDownload Raw Back to llama-parallel.dir
1����� h�W�W2__text__TEXT?�[��__gcc_except_tab__TEXT?� C__literal16__TEXT�A0F__literal8__TEXT CX8G__StaticInit__TEXTxC��G8r_�__cstring__TEXTLH�3dL__const__TEXT$S <W__mod_init_func__DATAHS`W0u	__bss__DATA�W0__compact_unwind__LDPS`hW8u;2.w��{����Pgg!�X�W���O��{������@�4�u@�����T4�bѿ��T���8���6��^�����`@�t�����{B��OA��Wè�_��#�m�o��g��_��W��O��{����	��R�@�?��@���������@�@����@��R��	���	�������R����6��	������B��o����	M|9�;�u|9�o���I���	��	���#A��'A�����?��#��9	��G�?qI����@�@��O�i���7��	��6���)��9�H�?qH������B�A�R��	�!6��������@� ��R�����R��	��9H�7��=�A��5���=�b�����@� ����B�R�@��^���@9j!T�#]���c��T�#������������_�����b�������3�R���9h�6��@����@��@��6��@��^��@��"��j(��B��@�A��7��@�!���9h�6�/J������"��@� ��������\����T�w��������vU���R�	�#�A�R�B���b���`T;�S@���)�C�)}�?�T	�bTv#��bџ�@T���8���6��^�����a	���������vU��@� #�������@�@�H��7��^�9��)��6�@������@��w@��O@�W���@�����aT�����@�@���6 �bџ� T���8���6��^�������7��B�A�R��@�@�(�6
��@������@�@���7��B�A�R�������������4���7��y����������o	���@�I�@�I)�@�@�J�_���T�������	��k5�������=����A��A�˵������T�!��@�!���"�R�R��J��s��J�������R"�R��#��������/��s@��ˈ�B��w��@�@���7������B�A�R��@�@�h�7��w@����;@��o@��'����s��B�A�R��@�@�H�7��B�A�R��@�@�(�7������B�A�R��w@�qkT�Ҕ�B�����T�s@�yw���R��8�D��9��10�����@�c ������R��J������11�������O�������=�o�=�A�����C���� 4�@�@�(�7������B���R�3�R�s@����.�qkT�R����R������k��T�@�@���7��B�A�R��@�@���7��B�A�R��S����R��A��O@�He4qJ!T�o@��4�#�����#��R��������A��A��&@��&������T�@�1`��T��A��*��12@��fD)�@���R�H�13�D��14��15��w@������@�c ���$�R��J� ����16�������A����5�q+T�R�����������R�������kA��T�@�@�(�7�����A�R�B����A��;@�I5(��5�A��A�_	�`��T�s@��k��k@�Z�_	�`��TH@�1�o@��Hz*��TU��@��|@�17�J�J%@�)18�)�C����kU��)}�	ɚh�	�	�R)	�W�������HA9I@��q9���5/��������zT�^�bT�19��20��21��@�{#��@�!�]9����}�!��22@�?]����������A��23��24��25��@��q���������s@�h�	�)�)@�	�)̍R�N�r	q�-9W#�H�9h�6�@���@�!��=��=�J��26�@���!��@?@���@�!��������R�R��J��J��T��B��������w@�������T�F@�S@���R�h�27�D��28��29�����@�c ������R��J������30�������A�q�T�A�Q*�R*I(8��A�����B�I)QH+��@�@��7�H'@)�'�A�R�B������s@�������U���R�sB��3@���A�Z_k31��TKk��H@�I~���@��A�J	�k	��A��A��	��A���:����[����'��#��c�����@���@4@��q@YT7Y�7�=�7��qȦ�}���[���R�B���@�q+T����S�!�R�B���3��A��A�?� ��T������W���@���_�9�5�7('D)�g@�3233�c@�(�+�4�4+��@�!�]�9H�79�?� ��T(+@�k��@��Iz*��T ?@����R��� ?@���"�R�('@�qaT� ��@�!�����"�R�;���@�!�]@9	�J��J�?q�@�)!�A���b������7�('@�
q���T�?@������`7�kB�q�T*'D)I	?k�T(��9(�7@����34T�J�����4#F��+T����ѡ35�R�`�@�	@9�j�R�L�r36kH�R Hz�T����*��T�T���T��A�R�����T(��9@���7������T<5#F��+T����ѡ37�R�`�@�	@9�j�R�L�r38kH�R Hz�T����*��T&�T�� T�87����2����������Ty���h��5SF���2�����������MT�^�!T�_9��7"��k78(��9�"�7�S�=`�=�@�h��O@�(@������(@����R������W@����@�@���7���(@���(@��C�(#@��_�('@��[�<@�5��(A9	*@�?q��V�����(�9)@�q(���i�8��7�@�I �=@��R��4�������T����b�����%��g�a�#K�(b@`	a��@��K �=@����4(A9��T�@�q(������8@��6�R����(A9�87���T�(@��>T�@���1����������H=T�^�T�_9������}�!��39@�?]����������A��������������k78�_�9�@�q��<���(�A9	*7@�?q����@�U����(��9)3@�q(���i�8��7�J �=@��R�`4����!��T���J �=@����4(�A9��Ti@�q(������8@��6�R����(�A9���87���T�(7@��#4T{@���1�����������2T���^��T��9����W@�����}�!��40@�?]����������A��#�����W@�a��������k78���9�@�q��(����#��S@����m�#K����o@��C@����H���A�R�B�����9�O@�H��7�_�9���6�@��Q����}�!��41@�?]����������A��������������k78(��9���6`@������qȦ�}�S@��S�ZK��A�Z_k���T����s@���������������B��@� �42�R��@�@���7��B�A�R��@�@�h�7��@�!����B�A�R��@�@���7��B�A�R��@�@���7��w@����;@��o@��'����s��B�A�R��	��6����9	�H�?qH������!�����@�@��
�7�����9�H�q(������B�A�R��@�@���7��	��3����9�G�?qH������B�A�R��@�@��	�7��g@� b�/@���b�h����%��g�a�����B�A�R��@�@��7��c@� bh����%��g�a�����B�A�R��@�@���7��'L�(bh����%��g�a�������B�A�R��@�@�(�7��S@����B�A�R��@�@���7��B�A�R������O�������=�G�=�A���������@�@���7��B��R��R
�s@�H�7���������B���R�3�Rt�����A�t��A�����!T��\���r�8H�7�ѿ�T��_�@���r�8��7���8��6����^�����8���7�r�8��6�[���ѿ����T�A�����+A���/A�����T	���T��_������������+A��/���'A��'�@���#A��#�@���	����X�	�)@�)@�?��T���@�����{F��OE��WD��_C��gB��oA��#�l�_��R��������@� ��������
���43����������  �����s@��@�!�]�9h�7�?>���������	��������s@��@�!�]�9��7����A�(��������	���������	���	��������	�����������K���_�9(�6���s@��@�!�]�9�
�7�����a5�����������9��6��@���_�9(�6�_�9�44�6�@���s@��@�!�]�9�45�7}���_�9h	�6������s@��@�!�]�9(	�7ra���s@�n���J� �V��k���s@��@�!�]�9�7a���s@��@�!�]�9(�7Z����9h�6��@���@� ��@���_�9��6������s@��@�!�]�9��7E4���#���	���	�����*���s@��@�!�]�9H�73���_�9���7�s@��@�!�]�9h�6�J�(���s@��@�!�]�9(��7"���s@�Y����s@����J�`��46���s@����s@������s@����J��s@�`��47�����t��������	���	������O���{��C���@������`@�����{A��O¨�_��C��o��g��_��W��O��{�������=��=��@���(���=��<�@������҈���@������o��<��tj��@�R��@�`:�`�	�~�9u�!@�R��������`2���R9!@�R�U�Ru���o`��=�`�hZ���o`^�`���R{�zr>�ib�����h�����o �=�@�`���@�`�t48�`2 �49�R(9!@�R��@�`�`�(�&��09!@�R�u.�h1�y�09h~1�yh�1�yh>2�yh�2�yh�2�yh^3�yh�3�yh>4�y�39h�4�yh�4�yh^5�y�5969�59h~6�y"69h�6�yh>7�yh�7�yh�7�yh^8�yh�8�yt9�ib:�h2;��o�������< ��� 	�=�o��	��	�hR;�r;9�2�Rhr��;9z��;9aƒ=��=`ƃ=�<9(�Rh&�	� @�`��|=��<9�3y����=I�Rif��=9�=9h^>9I�Riyb>950�@�=@�=��*�Rj?9*�Rj�>951�J�J@�j���>9~?9"?9�?9�?952 �Rj�yj@�_O9_�9_S9��_a953�a�=H�92�a�=_�54�55�Rjj�_C9a2�=a.�=a*�=a&�=a"�=a�=56�Rj��h_9iy57�@@�`z�58�Ru59�j�Rj�9ʅ�R*��r�r�60�J�J@�j~��9i��"�Ri	�?!9?�h9�@�`��*�&�Rx�h�Rh�9��R�άr�����=`N�=�9�R�`����=`V�=��@���A����9�R�������`���}�h����Rh����@���A����9�9�R�`��v��(�Rh�����=�=��<��<d99���{H��OG��WF��_E��gD��oC��C��_��������h�9�7�Rh��9�7�Ry�h��9H�7h_�9��7t����`RH���`FH���@�@�H/�9��7H��9�7HO�9H�7�@��h��9��7h~�9��7h�9�7{"=�h^�9h�7z�:�h��9��7x"9�y�9������9��7����@��`>G�`�`B���������@��9��7h��9��7h^�9(�7h��9h�7h��9��7h>�9��7h��9(�7h~�9h�7h�9��7h��9��7h^�9(�7h��9h�7wB2�h��9��7h>�9h�6`~F������@���@���`G��h��9h��6`G��h^�9(��6`G��h��9���6`�F��h��9���6`�F��h>�9h��6`�F��h��9(��6`�F��h~�9���6`�F��h�9���6`�F��h��9h��6`�F��h^�9(��6`�F��h��9���6`�F��wB2�h��9���6`�F��h>�9h��7�������`�H���Rh��9��6�����Rh��9H��6@���Ry�h��9��6�@��h_�9���6`@��t����`RH�����`V��`FH�@���`J���@����`>��H/�9���661�Rh�@��H��9H��6@CI��HO�9��6`H���@��h��9���6`�G��h~�9���6`�G��h�9H��6h�>�@��{"=�h^�9���6`�G��z�:�h��9���6`�G��x"9�y�9������9h��6`�G������@��`>G� ���B�������@�`�`.���@���W���O��{������@�4�u@�����T62��ѿ��T���8���6��^�����`@�t�����{B��OA��Wè�_��W���O��{������@�4�u@�����T63��ѿ��T���8���6��]�����`@�t�����{B��OA��Wè�_��O���{��C���|�9h�7h�9��7h��9��7h^�9(�7���{A��O¨�_�`&@��h�9���6`@��h��9h��6`@��h^�9(��6`@�����{A��O¨�_��O���{��C�����9��7h~�9(�7h�9h�7h��9��7`@�`�`�����{A��O¨�_�`RB��h~�9(��6`FB��h�9���6`:B��h��9���6`.B��`@�`�������{�������C��O��{������@�@������=�=�R���=@�<��=@�<�R4���=��<��RH��@���T��@�,��y�9��(@�R��xH�R�y(�R��9��9�?9I�R�sy�9H�R�y�#�����R���9�7�?�9H�7���9��7��9��7~�J��R���	�)� @����?
�`"�h~	�~64��9�o`��<`��<`��<iv�������^�	�)@�)@�?�T���{H��OG��C��_��+@���?�9��6�@�����9���6�@����9���6�@������������������9h�7�?�9��7���9��7��9(�6�@������+@���?�9���6�@�����9h��6�@����9(��7����O���{��C����R�������!@��B@�������������{������@�A���{���_��{�����R���!@��B@���W���O��{�������@�`�`���`��az@��`j@�`�`n��t^@�4�ub@�����T65��ѿ��T�r�8���6�^�����`^@�tb��h��9��7`B@�`�`F��t6@���u:@�����T�bѿ�`T���8���6��^�����`N@��`B@��������`6@�t:�����{B��OA��Wè�_����O���{��C�����!@�����a@����������{A��O¨�_��o���g��_��W��O��{��C��������{@�z���z��@��9@�(�@���^�	h(��@��^�������G����hc����>�����@�A��o���<��2�=#���������{E��OD��WC��_B��gA��oƨ�_������9h�6@�������!#�������������������C��_��W��O��{����������?���"�R��?@9�4�^�9��7�9�^9�@�9����w��������h@��^��jh��A�	�T	�	�@9@�)@�?�1 T4k�T����^�9��(��6�@�����T��R�R��H�R��R(�i@�)�^�`	�	 @�!*����{D��OC��WB��_A��C��_��h@�	�^�i	�*!@�J2*!��^�h��@9�7�(�R����  ���������W���O��{��������@��@���@��^�	h(��@�A������^�9h�6`*@������"����`������{B��OA��Wè�_�����_��W��O��{���������HU��X@���)�C����jU��7}66���?�T��kB�l@��ˌ�C��}67�L�ӟ	뉁���������_�81������	T��}������	�R�"	���#	����^�9H�7��=�=�68@����`���!T�69@��tZ@��#A�a����T���<Ȃ_�����<`��~?�߂��b�������TvR@���`V�h70@��@�i71���������T�b�sb�hb���T��h^�9H��6`@�������t�������{F��OE��WD��_C�����_��������#������W���O��{����������_X�hT�^9��}���T��}�!��72@�?]��������A���������������{B��OA��Wè����{��������O���{��C����@�?�aT`@�@�����{A��O¨�_�������T(a�h73�)��8I��6@��h74@�����{��������W���O��{������@��u@�����T	���T��_�����������`75@�t��`@��@��`@��@�����{B��OA��Wè�_�����W���O��{��������R����9��7�"�9	�7���9H	�7�b�9�	�7���9�	�7��976�7u^H�U77�`RH�`�`V��`FH�`�`J��`:H�`�`>�����9�78�7�b�9�79�7��9(�7tH�t�h��9��7h~�9(�7h�9h�7h^�9��7h��9��7t�G�4�h�9��7tZG�4�tNG�4�`>G�`�`B��t2G��80�u6G�����TP�bѿ�	T���8���6��^�����`�H���"�9H��6`�H�����9��6`�H���b�9���6`�H�����9���6`~H����9H��6`nH��u^H����vbH�����!Tub��`RH�@�������b���T���8���6��^�����`*H���b�9h��6`H����9(��6`H��tH�����uH�����!Tt��h��9(��6&�bѿ��T���8���6��^�����`2G�t6��t&G��81�u*G�����TN�bѿ�@	T���8���6��^�����`^H�ub��`RH�����n��`H�t��h��9h��6`�G��h~�9(��6`�G��h�9���6`�G��h^�9���6`�G��h��9h��6`�G��t�G�4���u�G�����Tt���h�9h��6`�G��tZG�4���u^G�����!Tt^��tNG�t�b���bѿ�	T���8���6��^�������ѿ�@	T���8���6��^�����`&G�t*��h�9�82�7h��9�7h^�9H�7h��9��7h��9��7h>�9�7h��9H�7h~�9��7h�9��7h��9
�7h^�9H
�7h��9�
�7h��9�
�7h>�9�7h��9H�7h^�9��7h��9��7h��9�7h>�9H�7h��9��7h~�9��7h�9�7`�C�`�`���`��`*@�`�`.�����{B��OA��Wè�_�`�G�t���h�9h��6���`ZG�t^��tNG�4���uRG�����!TtR��`>G�`�������ѿ��T���8���6��]�����`G��h��9H��6`G��h^�9��6`G��h��9���6`�F��h��9���6`�F��h>�9H��6`�F��h��9��6`�F��h~�9���6`�F��h�9���6`�F��h��9H��6`�F��h^�9��6`�F��h��9���6`�F��h��9���6`�F��h>�9H��6`~F��h��9��6`nF��h^�9���6`bF��h��9���6`VF��h��9H��6`JF��h>�9��6`>F��h��9���6`2F��h~�9���6`&F��h�9H��6`F��`�C�������`NG�tR��`>G���������{��������O���{��C����R�������!@��B@�������������{������@�A���{���_��C��_��W��O��{�����|�����#9"����hU��HU��_�bT��H��}��������`��h83��=	@���=�b���T����	]�9���6	@�������h����{D��OC��WB��_A��C��_����  ������������t��������b�W�����	��8���6�^������W���O��{������ @9�4���{B��OA��Wè�_�t@��@�5����@�����T�b����T���8���6��^�����h@�@�������{B��OA��Wè�_��g���_��W��O��{��������@�(��C����jU��}84��T���HU��@�k�k�C�v}85���_�HT)�)�C����yU��)}�+��86�j����������?�X1��X��87T��}�����R����&�)}ʛ)�D�88��5)������s����{D��OC��WB��_A��gŨ�_����R�������&�)}ٛ)�D�89��5)���������`T`��<i�_�ɂ����<�b�~?���ib��	�?����T�N@��"��90��T91sb���Th��8���6`�^�������s����{D��OC��WB��_A��gŨ�"��92������{D��OC��WB��_A��gŨ�_������{��������W���O��{������T@��ѿ��T��_�@���r�8��7���8�7�r�8���6	�^�����8H��6��\���r�8���6�[�����t��{B��OA��Wè�_���O���{��C����`@���{A��O¨�_�����XX�3` �3��3��3��3�4�2��2�D�6��4���7�X�3��2��3�	�6�	 �2�93�2�94�2�95��4��5��5�
@�4�
�4�8�4� �7��8��8�,�8� �7�L�8��7����8� �8��8��9��8���5�0�8��6�$�7�,�6�(�6� �6�"�8�"�4�#��$�6�$�7�%�4�%@�&<�4�'�2�'h�(��4�.$�2�/�4�0�4�0�2�1�2�1�8�1�5�2�5�2�2�3�2�3�2��3�3�3�}}��)����������	�	�	�����������<$,��h������t��1(���������������������D�d�t���<$,��P������T��
0�������	���������������?�XX����'(�����@33s?��L=���=�?��L?�?�?z�� �)0�%(�TX�-0� �38�&(�B�?�����������=fff?2���������d������@���=����W��O��{��C��C��@�@������R����������=���<�!�B��R��9�@��B�����R�����=���<���=�=��<��<p9�b��R�����=��=��=��@����<��<�9����R��#���=���<��@���A����9�C�t"��R��/���=��=��R��rP���A���=�=@��t��P9�R��;���=���<��@����<��<�9�C�t���R��G���=�'�=��@����<Ё<�9tB��R��S���=���<���=�=��<��<l9�C�t���R��_���=�3�=D�R��r����@��	�=�=�9t��R��k���=���<��@���A����9���C�"�R���9h�7�?�9��7���9��7��9(�7��9h�7��9��7�_�9��7���9(�7��9h�7���!��B����]�	�)@�)@�?�!T�{Q��OP��WO�����_��k@���?�9���6�_@�����9h��6�S@����9(��6�G@����9���6�;@����9���6�/@���_�9h��6�#@�����9(��6�@����9���6�@����������9H�7�?�9��7���9��7��9�7��9H�7��9��7�_�9��7���9�7��9H�7#�k@���?�9���6�_@�����9���6�S@����9H��6�G@����9��6�;@����9���6�/@���_�9���6�#@�����9H��6�@����9h�6�@��������bџ�@��T���8���6��^�����Transcript of a never ending dialog, where the User interacts with an Assistant.96The Assistant is helpful, kind, honest, good at writing, and never fails to answer the User's requests immediately and with precision.97 98User: Recommend a nice restaurant in the area.99Assistant: I recommend the restaurant "The Golden Duck". It is a 5 star restaurant with a great view of the city. The food is delicious and the service is excellent. The prices are reasonable and the portions are generous. The restaurant is located at 123 Main Street, New York, NY 10001. The phone number is (212) 555-1234. The hours are Monday through Friday from 11:00 am to 10:00 pm. The restaurant is closed on Saturdays and Sundays.100User: Who is Richard Feynman?101Assistant: Richard Feynman was an American physicist who is best known for his work in quantum mechanics and particle physics. He was awarded the Nobel Prize in Physics in 1965 for his contributions to the development of quantum electrodynamics. He was a popular lecturer and author, and he wrote several books, including "Surely You're Joking, Mr. Feynman!" and "What Do You Care What Other People Think?".102User:What is the meaning of life?Tell me an interesting fact about llamas.What is the best way to cook a steak?Are you familiar with the Special Theory of Relativity and can you explain it to me?Recommend some interesting books to read.What is the best way to learn a new language?How to get a job at Google?If you could have any superpower, what would it be?I want to learn how to play the piano.No new questions so proceed with build-in defaults.103Now printing the external prompt file %s104 105%3d prompt: %s106107 108%s: Simulating parallel requests from clients:109main%s: n_parallel = %d, n_sequences = %d, cont_batching = %d, system tokens = %d110111%s: Evaluating the system prompt ...112%s: llama_decode() failed113Processing requests ...114 115%s: clearing the KV cache116117Assistant:Client %3d, seq %4d, started decoding ...118%s : failed to decode the batch, n_batch = %d, ret = %d119%s : failed to decode the batch, retrying with n_batch = %d120%s : decoded batch of %d tokens121User:Client %3d, seq %3d/%3d, prompt %4d t, response %4d t, time %5.2f s, speed %5.2f t/s, cache miss %d  122 123Input:    %s124Response: %s125 126used built-in defaultsExternal prompt file: %s127Model and path used:  %s128 129Total prompt tokens: %6d, speed: %5.2f t/s130Total gen tokens:    %6d, speed: %5.2f t/s131Total speed (AVG):   %6s  speed: %5.2f t/s132Cache misses:        %6d133127.0.0.1imatrix.datcontrol_vector.ggufexamples/cvector-generator/positive.txtexamples/cvector-generator/negative.txtggml-lora-merged-f16.ggufvectorbasic_string%Y-%m-%d %H:%M:%Srun parameters as of %s134135pp�D?D8|�D�@x&p�&pX'��'�t(�(<D�@�*PD�@+$4+(\+l,@�,<DA�-�D(Al/��/�D\A�1�P2d2d�2�2�DtAt3�::PD�Ad:$�:(D�A�;�D<�8>L>�D�AxC�D�A�>(�>�-�>~-�>�-�>�-�>�-�>�-|>�-H>x-D>FL@>F=4>�-0>q->�-�=�-p=�-=�-�<�-,<�-<�-�;�-�;�-�;z-p;�-h;z-X;q-(;t-�:�-t:�lp:�]l:�-`:�-X:�-L:�-D:�l@:�]<:�l8:�]4:s-(:�-:y-:EL:E=�9�-�9�-�9�-�9�-�9�-�9�-�9�-x9�-h9�-X9�-H9�-89�-(9�-9�-9�-�8�-�8�-�8�-�8�-�8�-�8�-�8�-�8�-|8�-T8�-48�-8�-�7�-�7l-�7�-$7�-7�-�6�-�6�-�6�-�6�-|6�-l6�-\6�-L6�-<6�-,6�-6�-6�-�5�-�5�-�5�-t5�-d5�-T5�-H5�- 5�-5�-�4�-�4�-�4�-�4�-�4�-�4�-l4�-�3�-�3�-�3�-p3�-l3�-h3�-P3�-@3�-03�- 3�-�2x-�2FL�2F=�2�-�2�-`2x-\2ELX2E=L2n-D2�-2�-�1�-�1u-�1�-�1q-�1�-p1�-�0t-�0�-�/�-�/�-�/�-�/�-�/�l�/�]�/�l�/�]h/�-d/�-\/�-P/�-D/�-/�-�.�-�.�-.�-�-�-�-�-�-�-�-�-�-�-�-�-�-�-p-�-D-�l@-�]<-�--�-�,�l�,�]�,�l�,�]�,�-T,�-<,�-0,�-�+�-�+�-�+�-�+�-�+{-|+�-X+�-T+�lP+�]L+�lH+�]D+�-@+�- +�l+�]+�-+�-+�-�*�-�*�l�*�]�*�l�*�]�*r-�*�-�*�-�*�-�*�-�*�-�*�-|*�-P*�-H*�-<*�-4*�-$*�-*�-*�-�)�l�)�]�)?L�)?=�)�-X)�-)>L)>=�(=L�(==�(<L�(<=�(;L�(;=�(:L�(:=�(9L�(9=�(�l�(�]�(�-|(�-d(�-T(�-D(�-4(�-(�-�'�-�'�-�'�-�'�-@'�-0'�-�&�-�&�-t&�-l&�-H&|-@&}-8&�-(&�-&�-&�-�%�-�%�-�%�-�%�-�%�-�%�-�%�-|%�-l%�-\%�-L%�-@%�-0%�-%�-�$�-�$�-�$�-�$�-�$�-�$�-|$�-l$�-\$�-L$�-<$�-,$�-$�-$�-$l-�#m-�#j-�#�-h#�-`#�-X#�-H#|-@#}-0#�-�"�-�"�-�"�-4"7L0"7="�-�!6L�!6=�!�-�!5L�!5=�!'L�!'=�!�-�!4L�!4=`!1L\!1=4!3L0!3=!0L!0=| 2Lx 2=\ &LX &= /L /= %L %=��-�.L�.=��-�-L�-=�,L�,=tk-L�-,�-+L+=�-�*L�*=�$L�$=�)L�)=�#L�#=�"L�"=h�-`~-@�-8h-0i-(- �-�-�-��-,�-$h-i-�-�w-��-�-��-��-��-|�-th-h�-`h-Xi-L�-H�-@h-0-�-�h-�p-�n-��-�o-|n-po-dn-Xn-�l�]�h-��-��-��-��-��-x�-`�-D�-$�-�-��-�L�=�L�=��-��-�L�=��-��l��]��-��-t�-l�-d	L`	=\�-P�lL�]H�-@L<=0�-$�l �]�-L=L=��-��l��]��-�L�=��-��l��]��-xLt=@�-4�l0�],�-$L =�-��l��]��-�L�=��-��l��]��-�L�=|�-tLp=hLd=L�-@�l<�]8�-0	L,	=(�-�l�]�-L=��-��l��]��-�	L�	=��-��l��]��-�L�=��-��-��-P�-<�-�-��-��-�L�=��-`�-��-|�-D�l@�]�-��-t�-,�l(�]��-��l��]h�-X�lT�]D�-@�-$�-@�-��-��-x�-0�-�-�
�-�
�-�
�-�
�-4
�-
�-
L�=�L�=��-��-�L�=�L�=��-��l��]��-�-��-�L�=��-��l��]��-|�-L�-�-�136�-�137�-�138L�139=�140�-�141L�142=x143�-L144�-�	�-�	��	L�	��	=�	�-�	�-0	�-,	
L(	
=	L	=	�-	�l	�]��-��-��-��-`�-�-�-��-��-�L�=��-��l��]��-�	L�	=��-��l��]t�-<�-4L0=(L$= �-�l�]�-��-��-��-p�-h145Ld146=\LX=T�-H�lD�]@�-8	L4	=0�-$�l �]�-L=L=��-��l��]��-�L�=�L�=��-��l��]��-��-��-`�-HLD=�-��-��-��-�L�=��-t�lp�]l�-T�lP�]L�-DL@=<�-0�-�l�]�-��-��l��]��-���L� ��L� ��=��-x�-$�- L=�=���L���=��-��-��-��-��l��]x�lt�]p�-Lt-8�-�-�v-��-�L�=t�-`�l\�]<�-,�- �-�-��-��-�g-��-��l��]��l��]X�-H�-��-��-��-��-��-p�-`�-P�-@�-0�- �-��-��-��-��-��-��-p�-`�-P�-@�-�l�]�-�L�=�L���=��L��=��-���L���=�_L|_=tSLpS=h�-H^LD^=0RL,R=$�-]L�]=�QL�Q=��-�\L�\=�PL�P=��-�[L�[=x�-PZLLZ=8OL4O=,�-YLY=�NL�N=��-�XL�X=�ML�M=��-�WL�W=�LL�L=|�-t�-l�Lh�=d�l`�]X�-PVLLV=DKL@K=8L4=,�-�l�]U@80� ��������`XP�@ �������`XP�@ ��������`XP�@80� ����xp�`@80� ���������������������������������	�	�147�148������������������������������������������������������������������������� � � �!�!�"�"�$�$�'�'�)�)�)�)�)�)�)�)�)�)�*�*�*�*�*�*�*�*�*�*�*�*�*�*�+�+�+�+�+�+�+�+�+�+�,�,�,�,�,�,�,�-�-�-�-�-�-�-�-�.�.�.�.�.�.�.�.�.�.�.�.�.�.�/�/�/�/�/�/�/�/�/�2�2�2�<�<�;�;�;�;�;�;�;�;�;�;�;�;�;�;�;�;�;�;�C�C�C�B�B�B�B�B�B�B�@�@�A�@�@�@�@�@�@�=�=�=�=�=�=�=�=�C�C�C�C�C�C�C�C�D�D�R�R�Q�R�Q�Q�Q�Q�Q�Q�Q�Q�Q�Q�Q�Q�Q�Q�Q�S�S�S�S�S�U�U�U�U�V�V�V�V�V�V�Y�Y�Y�Y�Z�Z�_�_�_�_�d�d�e�e�t�t�t�t�t�t�t�t�|�|���������������؇܇ćȇ��������������ĈȈ��Ĉ���������������ĉȉ��������������������������������������������������������������g��N}	�Wc�N:XN��N�	
O��N4O�aO~cO�O��O'�O��OP�O��OSP��P�P:�R�S�LQcQ��Q3�Q��QfR�.RpPD�>�?�?v�Au�ABB� B10B�@B� C� C�(CU0C�8C�@C)HC�PC�XCZ`C�HRDRR�^R�rR�R��R��@mPB�`B|pB�B�hCMpC�$S��@��@zA!(Ak\A��R��R=tA�AN�A��A}�B149�B��B�B��B]�B��B�C1C�xC	xC�LH��Lm�L�M�4M>�M��M��M�M�1N �AGLHa�P�$S�HS#	�W�150PS��|��t3���2?�X'���(��\+���'��P2G�:��8>9��2��+�d:�	��1N�d2V��,��l/���*��:���;=�l,?��&��x&�L>��D/��/�151�D<{��:G����-��4+��t(�	pE

gy!�G�������P�{152x&��_.153,:	2�J���:��o
@���Y
��	�	X	�#6r	KZ7
Q
(�
Q	B�
�
�
�
�
:	�	���
�>1�m
�6�154'
1
__Z14common_log_addP10common_log14ggml_log_levelPKcz_memcpy_llama_n_ctx___cxa_rethrow___cxa_throw__Z11common_initv__Z15common_log_mainv__ZSt9terminatev__ZdlPv__ZNSt3__18ios_base4initEPv__ZN18common_init_resultD2Ev__ZN13common_paramsD2Ev__ZN22common_params_samplingD2Ev__ZNSt3__19basic_iosIcNS_11char_traitsIcEEED2Ev__ZNSt3__113basic_istreamIcNS_11char_traitsIcEEED2Ev__ZNSt3__115basic_streambufIcNS_11char_traitsIcEEED2Ev__ZN13common_paramsC2Ev__ZN22common_params_samplingC2Ev__ZNSt3__115basic_streambufIcNS_11char_traitsIcEEEC2Ev__ZNSt12length_errorD1Ev__ZN21common_params_vocoderD1Ev__ZNSt20bad_array_new_lengthD1Ev__ZN25common_params_speculativeD1Ev__ZNSt12out_of_rangeD1Ev__ZNSt3__119basic_istringstreamIcNS_11char_traitsIcEENS_9allocatorIcEEED1Ev__ZNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEED1Ev__ZNSt3__114__split_bufferINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEERNS4_IS6_EEED1Ev__ZNSt20bad_array_new_lengthC1Ev__ZNKSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE20__throw_length_errorB8ne180100Ev__ZNKSt3__16vectorINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS4_IS6_EEE20__throw_length_errorB8ne180100Ev__ZNKSt3__16vectorI6clientNS_9allocatorIS1_EEE20__throw_length_errorB8ne180100Ev__ZNSt3__16vectorI6clientNS_9allocatorIS1_EEE7__clearB8ne180100Ev__ZNKSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE20__throw_out_of_rangeB8ne180100Ev__ZNSt3__128__exception_guard_exceptionsINS_6vectorINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS5_IS7_EEE16__destroy_vectorEED1B8ne180100Ev__ZNSt3__16vectorINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS4_IS6_EEED1B8ne180100Ev__ZNSt3__16vectorI6clientNS_9allocatorIS1_EEED1B8ne180100Ev__ZNSt3__16vectorI31common_control_vector_load_infoNS_9allocatorIS1_EEED1B8ne180100Ev__ZNSt3__16vectorI24common_adapter_lora_infoNS_9allocatorIS1_EEED1B8ne180100Ev__ZSt28__throw_bad_array_new_lengthB8ne180100v_llama_perf_context_print___cxa_atexitl_constinit_llama_kv_cache_view_init_llama_batch_init_llama_backend_init_llama_numa_init_ggml_time_us__Z23common_init_from_paramsR13common_params__MergedGlobalsl_.str__ZTVSt12length_error__ZTISt12length_error_memchr__Z20common_sampler_resetP14common_sampler__Z19common_sampler_freeP14common_sampler__GLOBAL__sub_I_parallel.cpp_llama_kv_cache_seq_cp_bzero___cxa_allocate_exception___cxa_free_exception___chkstk_darwin_mainl___func__.main__Znwm_llama_kv_cache_seq_rm__ZNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE25__init_copy_ctor_externalEPKcm__ZNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE6appendEPKcm__ZNKSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE4findEcm__ZNSt3__16vectorINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS4_IS6_EEE8__appendEm___stack_chk_fail__ZNSt3__18ios_base5clearEj__ZNSt3__119basic_istringstreamIcNS_11char_traitsIcEENS_9allocatorIcEEEC1B8ne180100ERKNS_12basic_stringIcS2_S4_EEj__Z30common_kv_cache_dump_view_seqsRK19llama_kv_cache_viewi__ZTISt20bad_array_new_length___cxa_begin_catch___cxa_end_catch__Z18common_batch_clearR11llama_batch_llama_vocab_is_eog__Z19common_sampler_initPK11llama_modelRK22common_params_sampling_memmove___clang_call_terminate_llama_kv_cache_view_update___maskrune__Unwind_Resume_localtime_strftime_time___dso_handle__DefaultRuneLocale__ZTVSt12out_of_range__ZTISt12out_of_range_llama_model_free_llama_batch_free_llama_backend_free_llama_adapter_lora_free_llama_free_llama_decode___stack_chk_guard_srand_rand_common_log_verbosity_thold__ZNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE6assignEPKc__ZNSt11logic_errorC2EPKc__ZNSt3__120__throw_length_errorB8ne180100EPKc__ZNSt3__120__throw_out_of_rangeB8ne180100EPKc__ZNSt12length_errorC1B8ne180100EPKc__ZNSt12out_of_rangeC1B8ne180100EPKc__ZNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEE9push_backEc__Z21common_sampler_sampleP14common_samplerP13llama_contextib__Z21common_token_to_piecePK13llama_contextib__Z21common_sampler_acceptP14common_samplerib__Z15common_tokenizePK13llama_contextRKNSt3__112basic_stringIcNS2_11char_traitsIcEENS2_9allocatorIcEEEEbb_llama_model_get_vocab__ZNSt3__113basic_istreamIcNS_11char_traitsIcEEE6sentryC1ERS3_b__Z16common_batch_addR11llama_batchiiRKNSt3__16vectorIiNS1_9allocatorIiEEEEb__ZNSt3__16vectorINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS4_IS6_EEE21__push_back_slow_pathIRKS6_EEPS6_OT___ZNSt3__17getlineB8ne180100IcNS_11char_traitsIcEENS_9allocatorIcEEEERNS_13basic_istreamIT_T0_EES9_RNS_12basic_stringIS6_S7_T1_EES6___ZNSt3__112basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEaSERKS5___ZNSt3__16vectorINS_12basic_stringIcNS_11char_traitsIcEENS_9allocatorIcEEEENS4_IS6_EEEC2B8ne180100ESt16initializer_listIS6_E__Z19common_params_parseiPPcR13common_params13llama_examplePFviS0_E__ZNSt3__16__treeIiNS_4lessIiEENS_9allocatorIiEEE7destroyEPNS_11__tree_nodeIiPvEE__ZNSt3__115basic_stringbufIcNS_11char_traitsIcEENS_9allocatorIcEEE3strERKNS_12basic_stringIcS2_S4_EE__ZTVNSt3__119basic_istringstreamIcNS_11char_traitsIcEENS_9allocatorIcEEEE__ZTTNSt3__119basic_istringstreamIcNS_11char_traitsIcEENS_9allocatorIcEEEE__ZTVNSt3__115basic_stringbufIcNS_11char_traitsIcEENS_9allocatorIcEEEEltmp9GCC_except_table9lCPI3_9l_.str.49l_.str.39l_.str.29l_.str.19l_.str.9ltmp8lCPI3_8lCPI33_8l_.str.48l_.str.38GCC_except_table28l_.str.28GCC_except_table18l_.str.18l_.str.8ltmp7lCPI3_7lCPI33_7l_.str.47l_.str.37l_.str.27l_.str.17l_.str.7ltmp6lCPI3_6lCPI33_6l_.str.46l_.str.36GCC_except_table26l_.str.26GCC_except_table16l_.str.16l_.str.6ltmp5lCPI9_5lCPI3_5lCPI33_5l_.str.35l_.str.25GCC_except_table15l_.str.15l_.str.5ltmp4lCPI9_4lCPI3_4lCPI33_4l_.str.34l_.str.24lCPI3_14l_.str.14l_.str.4ltmp3GCC_except_table3lCPI9_3lCPI3_3lCPI33_3GCC_except_table33l_.str.33GCC_except_table23l_.str.23lCPI3_13l_.str.13l_.str.3ltmp2lCPI9_2lCPI3_2lCPI33_2l_.str.42GCC_except_table32l_.str.32l_.str.22lCPI3_12l_.str.12l_.str.2ltmp1GCC_except_table1lCPI9_1lCPI3_1lCPI33_1l_.str.41l_.str.31l_.str.21lCPI3_11l_.str.11_main.cold.1___gxx_personality_v0ltmp0lCPI9_0lCPI3_0lCPI33_0l_.str.40l_.str.30l_.str.20GCC_except_table10lCPI3_10l_.str.10