chenhaodev/qwen3-8b-nutrition-lora

营养指导专科模型 Qwen3-8B LoRA

基于 Qwen3-8B 通过 LoRA / QLoRA (4-bit) 指令微调的营养专科助手，知识蒸馏自权威营养学书籍： 《中国居民膳食营养素参考摄入量(2023)》·中国营养学会、《糖尿病营养与膳食指导》、《胃肠疾病营养与膳食指导》、 《骨质疏松症营养与膳食指导》、《中国上班族膳食营养指导》、《糖尿病与肾脏疾病的康复与护理知识问答》、《病人家属，请来一下》、《说句心里话》。

模型定位：既是内容输出助手，又可作为「审核官/审判官」(auditor)，配合大模型/RAG 减少系统输出幻觉率。

功能覆盖（训练数据 22,003 条，领域精选）

功能	说明	数据量
个性化智能饮食规划	根据热量目标/年龄性别/活动量/偏好限制，输出热量+三大营养素分配+三餐搭配	1,834
热量目标管理	热量计算、减脂/增肌能量设定	内容输出含
宏量营养素管理	蛋白质/碳水/脂肪摄入量、供能比、克数换算	hard/grounded
微量元素与维生素	钙铁锌硒及维生素 RNI/AI/UL、缺乏过量、食物来源	grounded/hard
饮食偏好与限制	乳糖不耐受/素食/过敏/忌口替换方案	personal/grounded
内容输出	大众科普 + 营养师专业问答 + 跨域综合推理	grounded/hard/multihop
审核官/审判官	审核营养说法真伪并纠正（降幻觉）	1,149
RAG 辅助	FAISS 检索知识库增强，减少幻觉	RAG 1,149 chunks
防灾难遗忘	通用能力 + 营养通识样本	8,591

训练

• 基础模型：Qwen/Qwen3-8B（4-bit QLoRA）
• LoRA r=16, alpha=16, rslora，target=attention+FFN；2 epochs，lr 2e-4，final train_loss≈0.96
• 数据由教师模型基于书籍文本蒸馏，严格 grounded；train 21,343 / eval 660

免责声明

本模型为营养健康教育与饮食规划辅助工具，仅供健康科普与一般饮食建议参考，不构成医疗诊断或治疗方案。 慢性病患者请务必在专业医师或注册营养师指导下制定个性化方案。

加载与推理

import torch
from unsloth import FastLanguageModel
model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="Qwen/Qwen3-8B", max_seq_length=2048, dtype=None, load_in_4bit=True)
model.load_adapter("chenhaodev/qwen3-8b-nutrition-lora")
text = tokenizer.apply_chat_template([{"role": "user", "content": q}],
    tokenize=False, add_generation_prompt=True, enable_thinking=False)
enc = tokenizer(text, return_tensors="pt").to("cuda")
out = model.generate(input_ids=enc.input_ids, attention_mask=enc.attention_mask,
    max_new_tokens=300, temperature=0.7, top_p=0.8, top_k=20)
print(tokenizer.decode(out[0][enc.input_ids.shape[1]:], skip_special_tokens=True))

RAG 知识库（chenhaodev/qwen3-8b-nutrition-rag）

FAISS 索引 1,149 个领域文档块，配合 BAAI/bge-small-zh-v1.5 检索，辅助降低幻觉。

版权

LoRA 权重与脚本可自由发布；训练数据由书籍原文蒸馏改写，不含原文。