Tanuki通过自动模型蒸馏 轻松构建LLM技术驱动的应用
Tanuki.py是一个用于构建LLM驱动应用的工具库。该库旨在通过自动模型蒸馏,实现应用在使用过程中的成本和延迟的逐渐降低,最多可达到90%的成本降低和80%的延迟降低。其类型感知、RAG支持和测试驱动的对齐方法使其成为构建可靠、可预测、逐渐优化的LLM-powered应用的理想选择。
AIGC音乐的中场战事:从技术、产品到商业规则
谷歌围绕着AIGC音乐打出了一套“组合拳”。11月16日,谷歌旗下DeepMind发布了最新的AIGC音乐生成模型Lyria,并与YouTube合作打造了两个重要应用场景:DreamTrack和MusicAItools。无论是平台方还是唱片公司,大家行进的方向其实是一致的,只是在前进的路上,共同探索运行规则罢了。