AI研究者成功通过“诗歌攻击”揭示ChatGPT的训练数据来源
来自GoogleDeepmind、华盛顿大学、康奈尔大学、卡内基梅隆大学、加州大学伯克利分校和苏黎世联邦理工学院的一组研究人员成功地让OpenAI的聊天机器人ChatGPT揭示了用于训练AI模型的一些数据。研究团队使用了一种创新性的手法,即通过不断迭代地要求ChatGPT重复一个特定的词汇,比如“诗歌”,来引导模型透露其训练数据。这一研究为我们敲响了警钟,提醒我们在推动AI发展的同时,需谨慎处理其隐私和能源消耗的问题。