Hugging Face发布高度优化的Zephyr-7B迷你语言模型 媲美70亿参数Llama-2
在最新的人工智能实践中,HuggingFace推出了经过高度优化的Zephyr-7B迷你语言模型,该模型基于欧洲初创公司MistralAI的开源模型Mistral7B。通过采用蒸馏监督微调方法,该模型得以精细调整,该方法利用较大的“教师”模型的输出来训练较小的“学生”模型。这标志着HuggingFace在迷你语言模型领域的技术进步,为未来的人工智能发展奠定了坚实基础。