OpenAI 发表一篇政策研究论文，提出今天就能用的四种策略来提高 AI 行业在安全规范上长期合作的可能性：沟通风险与收益、技术协作、增加透明度、以及为制定标准提供激励。分析认为行业在安全上的合作对确保 AI 系统安全且有益至关重要，但竞争压力可能造成集体行动问题，导致 AI 公司少投安全
Why responsible AI development needs cooperation on safety
评分 41
导读
OpenAI 发表了一篇政策研究论文，提出四种当下就可采用的策略，以提高 AI 行业在安全规范上达成长期合作的可能性：沟通风险与收益、技术协作、增加透明度，以及为制定标准提供激励。作者的分析指出，行业在安全上的合作对于确保 AI 系统安全且有益是至关重要的，但竞争压力可能带来一个集体行动问题，可能使 AI 公司在安全上投入不足。他们希望这些策略能鼓励在 AI 安全发展上更多的合作，并带来更好的全球结果。
主体与标签
OpenAI#政策/监管#大佬观点
正文
We’ve written a policy research paper identifying four strategies that can be used today to improve the likelihood of long-term industry cooperation on safety norms in AI: communicating risks and benefits, technical collaboration, increased transparency, and incentivizing standards. Our analysis shows that industry cooperation on safety will be instrumental in ensuring that AI systems are safe and beneficial, but competitive pressures could lead to a collective action problem, potentially causing AI companies to under-invest in safety. We hope these strategies will encourage greater cooperation on the safe development of AI and lead to better global outcomes of AI.