马里兰&NYU合力解剖神经网络 模型反转用于解释AI生成图像
马里兰&NYU合力解剖神经网络,推出一种新的类反转方法,称为"Plug-InInversion",用于生成神经网络模型的可解释图像。在神经网络训练中,一些神经元可能永远输出0,被称为"死节点"这些节点可以通过优化算法生成诡异和恐怖的图像。PII方法为神经网络模型的解释提供了新的工具和途径,有望加深对模型内部行为的理解,进一步推动神经网络研究的发展。