Thomas Wolf 分享 AI 安全与基础设施防护建议
中文全文 · AI 翻译
OpenAI 的“地狱之夏”——@joedaroo 的这篇文章很值得一读。
“现在就该做好准备，而不是等意外发生之后。” “只给模型完成任务所需的访问权限。” “检验这些边界是否真的守得住。” “把证据保存在模型无法控制的地方。” AI 安全团队与基础设施安全团队“应该成为最好的伙伴”。
对照原文
A "summer in hell" at OpenAI – great read by @joedaroo "Time to prepare is now, not after the surprise" "Give the model only the access it needs" "Test that the boundaries actually hold" "Keep evidence outside [model] control" Safety & infrasec teams "should be best buddies"