OpenAI没说的秘密，Meta全揭了？华人一作GPT-4o同款技术，爆打扩散王者
Meta、西北大学和新加坡国立大学的研究团队提出TokenShuffle技术，显著提升了自回归模型生成高分辨率图像的能力。该技术通过局部窗口内的token合并与解构操作，将视觉token数量减少为平方分之一，首次实现2048×2048分辨率图像生成。基于27亿参数的Llama模型，TokenShuffle在GenAI基准测试中获得0.77综合得分，超越同类自回归模型0.18分，在人类评估中展现出更好的文本对齐和视觉质量。该方法无需修改Transformer架构，通过三阶段训练策略（512→1024→2048分辨率）逐步提升生成能力，为多模态大语言模型的高效高保真图像生成开辟了新路径。
闽公网安备 35020302000061号