Pepisxd/codellama-edugen-v2

Model Card for codellama-edugen-v2

Adapter LoRA/QLoRA para CodeLlama-7b-Instruct-hf, especializado en generar ejercicios educativos de Python para ciencia de datos con formato estructurado.

Model Details

Model Description

Este modelo fue afinado para producir salidas con formato educativo consistente:

• —## OBJETIVO
• —## DATASET
• —## CODIGO
• —## EXPLICACION

Enfocado en ejercicios de pandas/numpy/matplotlib, en español, con dataset sintético local (rows) y sin lecturas de archivos.

• —Developed by: Proyecto JIA (Pepisxd)
• —Model type: PEFT LoRA adapter (Causal LM)
• —Language(s) (NLP): Español (principal)
• —License: Hereda términos del modelo base (llama2)
• —Finetuned from model: codellama/CodeLlama-7b-Instruct-hf

Model Sources

• —Repository: https://github.com/Pepisxd/JIA

Uses

Direct Use

Generación de ejercicios educativos de Python para práctica guiada en backend/API.

Out-of-Scope Use

• —Asistencia legal/médica/financiera de alto riesgo.
• —Uso como fuente única de verdad factual.
• —Código para ejecución en entornos inseguros sin validación.

Bias, Risks, and Limitations

• —Puede alucinar columnas o instrucciones si no hay validación externa.
• —Puede requerir repair loop para cumplir completamente formato y calidad educativa.
• —Calidad depende del prompt y del pipeline de validadores.

Recommendations

• —Usar con validadores de formato/ejecución.
• —Ejecutar código en sandbox.
• —Aplicar repair loop cuando falle ejecución o criterios educativos.

How to Get Started with the Model

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM, BitsAndBytesConfig
from peft import PeftModel

base_model = "codellama/CodeLlama-7b-Instruct-hf"
adapter_path = "TU_USUARIO/codellama-edugen-v2"

bnb_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_quant_type="nf4",
    bnb_4bit_use_double_quant=True,
    bnb_4bit_compute_dtype=torch.float16,
)

tokenizer = AutoTokenizer.from_pretrained(adapter_path)
if tokenizer.pad_token is None and tokenizer.eos_token is not None:
    tokenizer.pad_token = tokenizer.eos_token

model = AutoModelForCausalLM.from_pretrained(
    base_model,
    device_map="auto",
    torch_dtype=torch.float16,
    quantization_config=bnb_config,
)
model = PeftModel.from_pretrained(model, adapter_path)
model.eval()