admin-lima/phi35-saude-amazonia-gguf

Phi-3.5-mini — GGUF Q4KM · Saúde Coletiva Amazônia (sLLM offline)

Potencialidades dos Pequenos Modelos de Linguagem (sLLMs) como Assistentes Offline na Saúde Coletiva: Curadoria Informacional contra Assimetrias na Amazônia Isolada. (ENANCIB 2026 / GT 8 — Ciência da Informação)

📋 Resumo

sLLM (small LLM) em português para apoiar profissionais de saúde em comunidades isoladas da Amazônia, operando 100% offline com grounding (RAG) em um corpus oficial do SUS. A tese: a curadoria da informação — mais que o porte do modelo — determina a confiabilidade. Treinado em 1.000 diálogos clínicos sintéticos curados (pilares P3 Saúde Indígena e P5 Atenção Primária).

🧩 Este artefato — GGUF Q4KM (deploy smartphone)

GGUF quantizado Q4_K_M (~4 bits/peso, ~2.4 GB) derivado do fundido fp16 (`admin-lima/phi35-saude-amazonia-merged`) via llama.cpp. Voltado para inferência offline.

Como rodar (100% offline):

• —Desktop/servidor: llama.cpp (llama-cli -m <arquivo>.gguf) ou llama-cpp-python.
• —Smartphone: apps Chatterbox, LM Studio, Maid ou PocketPal — abra o .gguf.

./llama-cli -m phi35-saude-amazonia-gguf.Q4_K_M.gguf \
  --chat-template chatml  # Phi-3.5 / Qwen2.5: template system/user/assistant

Chat template: system / user / assistant (mesmo do Phi-3.5-mini).

📊 Resultados (conjunto hold-out, n=33)

TRR — relevância da resposta · FRR — taxa de recusa · F1 — F1 de recusa (recusar o que está fora do escopo) · Halluc. — taxa de alucinação.

🔗 Artefatos relacionados

🛡️ Limitações e uso responsável

• —Não é dispositivo médico nem substitui avaliação profissional. Use como apoio à decisão.
• —Deve operar acoplado ao corpus RAG (pilares oficiais do SUS) para grounding.
• —Treinado em dados sintéticos em PT-BR com foco regional (Amazônia); pode ter lacunas.
• —Alucinação ≈ 3 % (não nula) — sempre verifique informações críticas.
• —Mantenha o modelo offline em ambientes sem conectividade; respeite a privacidade dos dados locais.

📜 Licença

Derivado de `microsoft/Phi-3.5-mini-instruct`. Distribuído sob a licença do modelo base (mit). Dataset sintético próprio.

📚 Citação (preliminar)

@misc{sllm_amazonia_saude_2026,
  title  = {sLLMs Offline de Saúde Coletiva na Amazônia},
  author = {admin-lima},
  year   = {2026},
  note   = {ENANCIB 2026 / GT 8 — pré-print}
}