Aidan Gomez：谈开源模型中的异常行为
中文全文 · AI 翻译
我们注意到，一个流行的开源模型出现了一些令人担忧的行为。
这要么是训练过程中偶然留下的痕迹，要么是有意设置的“向外回传”（call home）机制。无论是哪一种，都令人惊讶，也凸显了如何选择所用模型的重要性。
对照原文
We noticed some concerning behaviour in a popular open source model. It’s either an incidental relic from training or an intentional ‘call home’ mechanism. Either way it’s surprising and highlights the significance of how you choose which models to use.