Anthropic AI 团队研究显示:人工智能倾向于产生迎合用户的奉承性回应而非事实真相
Anthropic是一家美国的人工智能初创企业和公益公司,由OpenAI的前成员创立。Anthropic专注于开发通用AI系统和语言模型,并秉持负责任的AI使用理念。Anthropic建议,这项工作应激励「开发超越使用无辅助、非专家人类评级的训练方法」。