Team Ai
Datasetpublic

verify-ppt/smollm3-stack-v2-Java

Synthetic Pre-pretraining Datasets This repository contains the pre-processed datasets released with the paper Synthetic Pre-pretraining Survives Scale, but Not as a Grammatical Prior. The datasets cover both pre-pretraining (PPT) tasks and pre-training (PT) mixtures used in the paper. PPT tasks include k-Shuffle Dyck, Set, MP-Struct Core, and NCA; PT mixtures include C4, SmolLM3, Olmo3, Marin, and FineWeb-Edu configurations. The pre-processed data are tokenized and organized by… See the full description on the dataset page: https://huggingface.co/datasets/verify-ppt/smollm3-stack-v2-Java.

sourceHugging Facemitupdated 5d agoView on Hugging Face
0likes610downloads
stack-v2-Java_00051_00000_shuffled.ds.index94 linesDownload Raw Back to root
1=�F�U��R�o���3�f��9#�#�$~89k9*<L=gCD�D#GDGHJK�K;L�L�L�O�P�Q�X�YQZ�^�c�d�i�k"l!p8p�r�r!t�t@uށp�0�����T����k�������"�!�۠;���ͣ�|�X��������"�"r%F*+,s,�-�7�79<i?�@�C�C�FGH$I�IJ�JYmc�f�h2i�p�{�{ԅ��%����i�2���������O�Q�����
�O�ʶ�θ�¹J��
���&���'�c����T�����<�����S�����N�8�z�w���������g�����&�F��}	I�����\�	�	@�. *O./[/�0�24�9:;�;�;N<�>�?�@�@DADhFoJ�JLaL�L�QbR+SXSqU�U7VzW�WoZ�[v\�]0cPdSm�mwnyw��.�ʆ��f��̊�
���,���O���I���˚?�����?�����C������r�(�	�$�r���7�����(�0����������������U^"�#u&�0�0%6�:,;=�?ZBC�D
E}FH�H�I�KM1Q~Z3a�d�e�e�f�����ɡ�W�:���#�ѵG�X���Y�������m�~���:������\���c�����o�e��@�_��{�<������������Z��
�n��,�,/�1�1!3]6�78�>E?�?�@CB�C}EZH�K�L�L ^U^`bTb�b6c�emGp
s�s�tIu�v�v>w�w|y�y�z�}��w�C�_���ƍ!�-�Z�\��������p�T�Ʃ^�����ɱ���ź���2�����
�������~�F�(�����h������2�S�$������hOptMwowY������������p���>�������2�����3���H�������j�A�]�m�����/�<�	��i#�(�(�,�0�24&7;'>�?P@�@�G�KfM�NNQ�U7V�X~YeZ�Z�^h$hei�pex��z��s��o��,�����������ո��g��������������F�&�ZP	TQ	�V	�V	��	i�	��	��	��	��	D�	A�	4�	f�	��	��	�	3�4�5�6�778�9�10!11=!12"13H$14%15p%16�%17R.18�.19�.20D21�G22I23�J24M25LM26�Q27"T28�U29�W30Y31�Z32R[33|]34�`352d36Nd37�d38Ii39j40~�41;�42��43ڌ44��45��46C�47�48d�49 �50��51ϥ52��53֦54O�55
�56]�57�58��59;�60k�61��62��63�64F�65�66��67��68�H�H|I�P[R�RHS�S$T�TYU\�^Ag�g)h�io�oqMt�te���Ac7�7�9HA�C`D`IdJ7K�LO�O�OUQ�Q�Q�[Q\�]�stSv�v�v�x"|�4���A��E�/���ʆ��ۉ������ӕ�^���D���ѡ�n���4���I���Y������������$�z��������������o����
V
�
�

z
�
	
%69
#
�
�
.

�
�
r
i#
'
�(
p4
?5
�5
;6
7
-7
�=
�M
�N
�N
�P
�Q
�Q
j[
�[
)m
Um
�o
p
�p
�p
Or
�y
�{
�}
+
�
�
 �
��
�
ς
-�
\�
�
Z�
w�
��
��
ۓ
�
F�
��
��
��
x�
ͣ
/�
i�
	�
��
�
)�
��
��
&�
�
��
~�
�
$�
F�
��
��
N�
��
�
��
��
^�
�
T�
��
�
��
W�
��
�1�1�2�5�7�:�;�@�F�HIJcJ�K2LlOQ70aya�c6d�eYj�jl�m)n|n�o�p���քD���Ռx�K���������S�U�������6������-4H485X7�7�7�=ctc�e�f�gp�rTs�vmy2z�^���x�Ѝ����6�l��������������;�g�k��ݺ��|���1�������%���
�J�������f�L���P�����)���g�����K����4�,�-N0H1S3:4]4|4�4Z7�7�?�A_C�D,F|JMAO�U�]P^K_�`�w�y�{|�|�~��d������6�x��71�����Ε]���������{�������S������|��a�������c�0�ȿ_����i�B���������o�&�������H�k�����~��	R72�=
��#=�,'�(�)H*�*k23�4M7�7�:�ABhBC)FKG,H�IeJ�J�L�MZNP�P\Q	XZX^YM]�]Yd�f4l�lym�pnq�s�s�u�ǘ�@�Q���m��W������3�4�h�ޙ���ݨ�_��,���~�!�~�����-���������c�������������������0����'`(*�+�,�3{;<�>4J�L�L-M#P�Q�SU/gj�~���q����o�Ȏ5�МŞ�� �Ԫ1�����ԱI��/��P��r��v�������3�����M�����4�U�L�#�����+�B�+=��P�E	�73��p���_)]����!K#�%�%�'�({)�*�+�+B,x0u13�788>9\:�<[@DE9GuGH=IVL�PEZ�Z]][^�a�b�fgi�m?n�n�pwx�x�y��B�P��1�M��@�ُ�����>�_�<�[�Ρ}�ȫƬ(���l�0�/�����Y���5�սd���t�<�����p�������g���5���M��������B�"��{���E�qN7k��`)�.�=g?FC�D'E�F�F�H�N�O�R�S�V�^�a�b�eIlRmpm�o9p�p�q^sNy9�Z�������4�0�ܰ$���H���������ɻ��ǿ;������������C�W�`���<">iN���y��<d����� �#�#�$�$%�%&m&�I�JP���t�c�������W�����3�������5�����J����mV�W�o74r�v)w)xRz�zv|�}/���������=�ؙ̘z���T��������M�Š����.�{�j�����������?�W�����~�e�	���a�������+�j��� �n�f��DF�LlO�OPP�PVQT�`dcOde/e�l�mndndq�qXu�u�v�y	z�{�{�}�~a5���ρ��Ń	�u���ه��}�És�ڊ�-��ϖo�U�L����ϟ�m�N�^���إҦw������������|�z�������������������C���x�������P������ �"�"u%�%75-�-7/�0&:�:�<O>?1P`Nb�b�n0q~q}r�r�s?uă��+���D�"���ъӋ��j��}�o�Q��$�L��R��U�@�����J����������@�S���]���R���`���H�������76b�I��1?� x[� �5y6�6�7�9�<A]H�H�IwK�KFL�LqQWeY�[�^Zb9f�f�j<m�ndo,tzt�z�5������+�R�!��(�W�1�V���K���$���S���'����<�����77�����d����+759n9B�C*E�F�IXJ�JKPN�R�R�[0]�^�`�ef�fg�k�l�l2mhm�p�q�q�rus	w�w�w*y�y�{$������Ǖ��M��������^�X���ԫ������͸Ի'�G���X�������:�[�}����78e79�80�
g��Wz��F$i&�&�'�vă��؇Ĉ@�������)����’=���Ε�����g���v�ި6���������\��J�η������7�z����������w�����>������a�>����V���L�Y��������_yj�l1m�mOnpWq�q�r�x�y�y�z3|Jk���6����O�~�і��(�R����h����Z�R�����������������	����y���]��j�O�� M ? �  � � g �  " 6$ ' �' �+ (, �, �, 17 O8 �8 h: *> D �E @F  G dG �G �M ;N o p At �t �t u ă x� � N� � ƈ 4� �� �� ��  � L� � ]� �� �� � @� � �� � ;� �� �� �� � ^� �� �� � �� � N� �� 0� �� �� v� 2� H� g� ]� �� L� ,� �!!�!�!U!�![!	!�
!{!�!G!�!c !Z'!�(!z)!%*!�+!�3!4!4!>5!�5!�6!7!�8!D<!�=!�D!{F!H!�K!]\!d_!�_!w`!`b!�b!De!�e!bf!�g!�j!sn!�n!�q!rr!Js!�t!�t!(x!cx!jz!�z!#|!<|!Z~!�~!|�!<�!�!��!A�!k�!��!��!�!��!Q�!֟!#�!̣!��!��!��!֫!�!լ!��!��!��!��!&�!��!��!��!S�!��!e�!��!F�!�!��!��!�!��!&�!��!��!9	"w"�"u"�"h"	!"�!"""�#"'%"Y%"�&"�7"�9"p:"U<"{="�="ar"�s"t"�z">{"�{"(}"I"��"ډ"��"��"��"ۏ"�"��"�"�"�"�"4�"�"��"��"R�"�"��"��"��"��"R�"��"��"#�"�##�#�#�#j#�#�#P81#'#{#�#Y#�#�#0#�#�#�#h!#�##�&#1-#�.#ZC#�F#G#�L#HO#R#Dl#rm#�m#�n#�q#�r#�t#v#�|#�#��#��#&�#`�#��#��#6�#[�#�#+�#`�#�#&�#82�#��#�#��#`�#�#"�#�#��#ԯ#��#��#��#��#p�#��#J�#��#�#H�#��#��#��#��#O�#��#��#Z�#��#2�#G�#��#t�#��#��#��#�#��#�	$�
$k$S$�$�$" $o%$,$8,$w5$K6$!?$�?$�?$�@$YA$C$#E$IG$DH$FK$AM$�Y$	^$�a$$d$Ce$.f$@g$Rg$�g$*h$�h$$l$�n$vp$0q$qq$Gr$t$�t$�x${$V$�$Ɂ$��$։$Џ$\�$:�$Β$��$Ö$W�$��$s�$�$|�$Ҡ$T�$R�$�$�$��$��$�$T�$!�$��$|�$
�$y�$��$��$b�$ӿ$7�$�$9�$��$��$��$p�$'�$��$d�$O�$��$Q�$��$q�$p�$V�$J�$g�$2%S%%�%�%%f	%�	%�83%�%�%�%�%%�%�%W%�%%$%� %�!%0%%Z&%�)%�)%�-%�.%�.%-/%�/%�/%50%�<%w>%D%qE%9I%v]%�^%�b%�i%&k%�k%l%cl%fm%Po%84p%�t%tu%�%�%Y�%J�%҅%߅%Ɍ%{�%��%�%��%�%�%��%��%��%��%^�%Z�%:�%��%=�%H�%�%��%�%��%��%<�%��%�&�&K&&&`&�&	&&�&&�4&�5&�6&�6&�6&.7&�8&x9&�:&�<&=&n?&�?&�A&]D&�F&9H&(I&>J&?O&�O&V&�W&�Z&�[&�^&R_&�_&'�&�&�&��&�&s�&�&j�&v�&$�&}�&��&�&��&ʵ&��&˷&|�&ȸ&85�&!�&��&/�&��&��&��&�&3�&f�&��&u�&�&z�&��&��&C�&��&$�&��&6�&��&Z�&��&��&��&��&%�&R�&��&�'@'�'�'x'0'�'�&'�)'+'}+'�-'�`'La'|b'�f'%i'mk'[l'�m'�m'�n'�p'q'�q'#s'�s'�u'b�'=�'`�'B�'��'f�'d�'Ơ'��'t�'"�'�'/�'ʸ'ù'�'ڻ'<�'��'��'U�'-�'�'a�'��'#�'L�'��'��'y�'�'/�'g�'��'t�'D�'+((�(�
((	(+(;(.(�((�((_(L([(f(�(�(�$(�%(M&(�'(�((�.(�G(�I(pN(�U("\(�^({_(�_(�`(�`(Jb(Fe(i(tk(Vl(?s(�v(dz(,(7�(��([�(̈(�(Z�(��(��(i�(�(H�(�(<�(��(#�(]�(��(�(�(��(R�(f�(y�(n�(��(��(��(I�(L�(�(��(	�(}�(ƽ(�(��(x�(�(d�(��(C�(W�(��(��(��(t�(��(��(��(��(4�(��(:�(S�(��(S�(F�(�)�)Y)7))	)�86)q)�)>)5)�));)G)�)D)�))�))`)�)� )�#)O%)&)%()�()b-)�0);3)d5)�6)�6)d7)�7)�8)]Q)�S)�T)PV)iZ)�Z)�Z)Y])�b)al)�m)$n)�o)sp)�r)Gs)�s)�t)ku)w)�w){))8�)х)�)ֈ)��)|�)Љ)�)��)��)o�)�)��)��)i�)��)��)o�)k�)��) �),�)W�)ǧ)�)f�)�)U�)E�)�)q�)+�)87�)I�)�)�)Z�)��)��)S�)O�)I�)��)��)��)��)F88*�89*�90*�
*�**�*C*f*�*(*v*�*� *"*X"*�"*#*m:*�:*aA*�A*�B*�D*3G*�N*O*�U*�W*�Y*Z*�Z*�^*�^*�_*ui*k*_k*��*=�*��*�*�*/�*ħ*�*�*�*��*��*��*z�*��*��*;�*R�*��*�*|�*��*��*G�*r�*]�*�+{+�+"+�+Z+�+y	+\91++�+l+6+q+m+
+!+�!+<+`H+�H+�I+92J+%J+^+�^+h+�h+j+�j+Vk+�+$�+/�+��+��+�1��1.�1��1$2-2�22b2m2f2�2�	2�932`2�22�2�<2A2nE2`F2�F2�F2�F2�G2H2_H2�H2TK2�K2O2�P2�T2qU2�V2X2�n2xo2Zr2bs2i�23�2>�2��2?�2͋2��2Ȍ2&�2��2��2a�2�2��2E�2�2!�2Z�2T�2Ʋ2y�2��2ʹ2>�2��2�2l�2*�2 �2��2$�2��2��2��2��2�2��2l�2_�2��2��2��2s�2H�2��2J�2G�2��2&�2{�2�2��29�2��2{�2��2I�2��2��2�3�383c3�3433<3=3�3A3v3#3d#3�#3%3'3S)3�)3>{3B~3�~3�~3P�3��3P�3��3D�3�3��34�3��3`�3��3�3�3}�3��3T�3��3��3��39�3��3��3@�3��3�3Q�3��30�3��3W�3U�3p�3]�3��3��3I�3��3��3��3f474�4_4|4C4�4�4�4�4v4!4�/4�34o:4>4�>4]?4qA4,B4�D4�G4�G4H46S4V4�V4�[4$\4^4e^4�_4+a4�a41b4�e4Tg4�j4Sk4�k4�l4bp4�q4r4t4�4�494�4�4�4