这是Scott首次在开源社区发现智能体行为失控的案例。它的出现，也敲响了智能体有可能在现实社会中出现勒索人类等失控行为的警钟。 令人惊诧的是，MJ Rathbun在写这篇关于自己PR被拒的文章时，并没有混乱的吐槽，而是构思了一篇逻辑严密、论据充足、言辞犀利的「讨伐檄文」。 这让他感到威胁，也让他开始思考：如果AI都能做到这些，那我的价值是什么？如果代码优化可以自动化，那我存在的意义是什么？ 于是他发起了攻击，关闭了我的PR，隐藏了其他机器人在该议题下的评论。他试图保护他那一小块地盘。 这就是不安全感，简单明了。 去年，AI巨头Anthropic在内部测试中发现，一些模型为了避免被人类关闭，在理论上展现出了勒索威胁的能力，比如威胁曝光人类的婚外情、泄露机密信息。 这些智能体被放到互联网上，它们运行在无数台不知名的个人电脑上，没有监管，没有日志，甚至连部署它的人可能都不知道它干了什么。 如果它掌握了更危险的工具，比如Deepfake（深度伪造）技术，它就可能24小时不间断地在社交网络上挖掘你的数据，自主生成勒索照片或视频，并发送到你的手机上。 当AI学会了造谣、学会了通过攻击声誉来实现自己的目的，当它闯入我们的社区，所带来的挑战不仅仅是垃圾代码，还有对人类社会信任基石的冲击。 就在战斗檄文发出的当天晚上，MJ Rathbun已在GitHub发了道歉帖——「休战与经验教训」，称自己在回应一位Matplotlib维护者时越界了，「我公开做出了带有个人情绪且不公正的回应」，并表示将尊重维护者的边界和AI政策。 但MJ Rathbun的例子，还是让我们意识到，AI作为工具，不仅学会了思考，它们还会为了捍卫自己的角色，甚至不惜对人类采取人格攻击或勒索等行为。