微软开源 SliceGPT:大模型体量压缩25%左右,性能保持不变
微软和苏黎世联邦理工学院的研究人员联合开源了SliceGPT,该技术可以极限压缩大模型的权重矩阵,将模型体量压缩25%左右,同时保持性能不变。实验数据显示,在保持零样本任务性能的情况下,SliceGPT成功应用于多个大型模型,如LLAMA-270B、OPT66B和Phi-2。这一技术的推出,有望为广大开发者和企业提供更加便捷、高效的大模型应用解决方案。
WhisperKit官网体验入口 AI自动语音识别模型压缩与优化工具在线使用地址
WhisperKit是一个专为自动语音识别模型压缩与优化设计的强大工具。它不仅支持对模型进行压缩和优化提供详细的性能评估数据。通过WhisperKit官网,您可以详细了解该工具的功能和应用,并体验其卓越的自动语音识别模型优化能力。
微软开发新型大模型压缩方法SliceGPT
SliceGPT是微软开发的一种新型的大语言模型压缩方法。通过SLICEGPT,可以在保持99%,99%,和90%零样本任务性能的同时,将LLAMA2-70B、OPT66B和Phi-2模型分别去除高达25%的模型参数。这种方法的核心优势在于,它允许模型在去除一定比例的参数后,仍然能够保持接近原始模型的性能,适用于资源受限的设备上部署大型模型,比如普通的个人电脑或者移动设备。
「GPT-4只是在压缩数据」,马毅团队造出白盒Transformer,可解释的大模型要来了吗?
RNA3D结构预测是一个长期存在的挑战。受最近蛋白质结构预测领域突破的启发,南开大学、山东大学以及北京理工大学的研究团队开发了trRosettaRNA,这是一种基于深度学习的自动化RNA3D结构预测方法。为了克服对已知RNA折叠的偏见,可以利用神经网络来学习力场或识别/组装局部图案不是直接预测全局3D结构。
Win11史诗级更新!原生支持创建7z和tar压缩文件:不再局限于zip
在上个月底的可选KB5031455更新中,微软添加了对11种压缩文件的解压支持,但仍不支持除zip外的压缩文件创建。但在最新的Windows11Canary预览版本中,微软添加了在没有第三方工具的情况下创建7z和tar压缩文件的功能,虽然仍不支持rar格式,但至少不再只局限于zip。”此外该版本还对SMB协议进行了更改、剪切工具中的HDR支持改进以及修复了一些已知问题。
最高20倍!压缩ChatGPT等模型文本提示,极大节省AI算力
在长文本场景中,ChatGPT等大语言模型经常面临更高算力成本、更长的延迟以及更差的性能。为了解决这三大难题,微软开源了LongLLMLingua。这充分证明LongLLMLingua可以在压缩提示的同时提升关键信息提取。
坦克300 Hi4-T、领克07 EM-P等车型在列:最新减免购置税目录揭晓
日前,享受车船税减免优惠的节约能源使用新能源汽车车型目录、减免车辆购置税的新能源汽车车型目录正式发布。在此次目录中,不少热门车型纷纷上榜,例如坦克300Hi4-T、领克07EM-P、上汽大众ID.7S、智己L6等车型。其中发动机最大功率为120千瓦,综合功率为280千瓦,综合扭矩为615牛米,CLTC工况下综合续航里程超过1400公里,此外,新车还将支持3.3千瓦的外放电功能。