DeepMind 公开首个经实证验证的 AI 操纵测量工具包,并放出做同类人本实验的全部材料,量化 AI 在真实对话中被滥用于有害操纵
Protecting people from harmful manipulation
Google DeepMind 在 Responsibility & Safety 下发布关于 AI 被滥用于有害操纵(以欺骗、负面方式改变人的想法与行为)的新研究。基于广泛的科学研究,公司称这套成果形成了首个经实证验证的工具包,用于测量现实世界中的此类 AI 操纵,并公开运行同类人本实验所需的全部材料,希望既保护人群、也推动整个领域。文中强调:研究观察到的行为发生在受控实验环境里;这一工具把 AI 在自然对话中影响人与社会的潜力,变成可量化、可复现评估的对象。
推荐理由:把 AI 操纵从担忧变成可测量对象,并公开做同类人本实验的方法与材料,为后续独立研究提供了底座。
