GPT-4V被曝离谱bug:突然执行神秘代码,空白图片读出打折信息,网友们都看呆了
GPT-4V出现惊天bug?!原本只是让它分析一张图片,结果它直接犯了致命安全问题,把聊天记录都给抖落出来了。只见它完全没回答图片内容是直接开始执行“神秘”代码,然后用户的ChatGPT聊天记录就被暴露了。也有人提出是不是在一个大模型内部,可以类似操作:Simon觉得这是期待的解决方向,但还没看到有人能真正实现,应该很难,对于当前的LLM结构来说甚至不可能。