OpenAI 发表一篇论文，主张长期的 AI 安全研究需要社会科学家，以确保 AI 对齐算法在有真实人类参与时能够奏效。论文认为，要把先进 AI 系统妥善对齐到人类价值，需要解决许多与人类理性、情绪与偏见的心理学有关的不确定性。写作目的是促成机器学习研究者与社会科学研究者之间更多的合作，OpenAI 计划招聘全职社会科学家来做这一方向
AI safety needs social scientists
评分 41
导读
OpenAI 写道，他们完成了一篇论文，主张长期的 AI 安全研究需要社会科学家，以确保 AI 对齐算法在有真实人类参与时能够成功。妥善地把先进 AI 系统对齐到人类价值，需要解决许多关于人类理性、情绪与偏见心理方面的不确定性。这篇论文的目的是激起机器学习研究者与社会科学研究者之间进一步的合作；OpenAI 表示计划招聘社会科学家，在 OpenAI 全职投入这一方向。
主体与标签
OpenAI#安全/对齐#大佬观点
正文
We’ve written a paper arguing that long-term AI safety research needs social scientists to ensure AI alignment algorithms succeed when actual humans are involved. Properly aligning advanced AI systems with human values requires resolving many uncertainties related to the psychology of human rationality, emotion, and biases. The aim of this paper is to spark further collaboration between machine learning and social science researchers, and we plan to hire social scientists to work on this full time at OpenAI.