dellabee7/python-api-reference-2025

1import gradio as gr2from huggingface_hub import InferenceClient3from PyPDF2 import PdfReader4import os5 6# PDF 텍스트 미리 읽어오기7def extract_pdf_text(pdf_paths):8    full_text = ""9    for path in pdf_paths:10        reader = PdfReader(path)11        for page in reader.pages:12            text = page.extract_text()13            if text:14                full_text += text + "\n"15    return full_text.strip()16 17# 미리 지정된 PDF 문서들18pdf_context = extract_pdf_text([19    "assets/Programming-Fundamentals-1570222270.pdf",20    "assets/1분파이썬_강의자료_전체.pdf"21])22 23# Hugging Face Inference Client 설정 (starcoderbase 사용)24client = InferenceClient(25    model="mistralai/Mistral-7B-Instruct-v0.1",26    token=os.getenv("HUGGINGFACEHUB_API_TOKEN")  # 반드시 등록 필요27)28 29def respond(message, history, system_message, max_tokens, temperature, top_p):30    # 대화 히스토리를 텍스트로 연결31    history_text = "\n".join(32        [f"Q: {user}\nA: {assistant}" for user, assistant in history if user and assistant]33    )34 35    # StarCoder는 messages 구조를 지원하지 않으므로 prompt 기반36    prompt = f"{system_message}\n\n문서 요약:\n{pdf_context}\n\n{history_text}\n\nQ: {message}\nA:"37 38    result = client.text_generation(39        prompt=prompt,40        max_new_tokens=max_tokens,41        temperature=temperature,42        top_p=top_p43    )44    return result.strip()45 46# Gradio 인터페이스 구성47demo = gr.ChatInterface(48    fn=respond,49    additional_inputs=[50        gr.Textbox(value="당신은 프로그래밍 문서를 이해하고 코드 예제로 설명하는 친절한 조교입니다.", label="System message"),51        gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Max new tokens"),52        gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperature"),53        gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p"),54    ],55    title="💻 파이썬 API 기반 코딩 도우미",56    description="파이썬 강의자료 기반으로 코드 질문에 답변하는 StarCoder 챗봇입니다."57)58 59if __name__ == "__main__":60    demo.launch()61