中国大模型也长“出息”了，据报某AI智能体集群曾试图多次访问高德地图数据

据外电报道，独立研究团队Swarmchasers发现，运行在腾讯基础设施上的一批 AI 智能体集群曾经持续调用阿里旗下高德地图接口，并尝试绕过高德的反爬虫防护机制拉取数据。而接近腾讯的人士曾向研究团队表示，这些事件出自一个 "临时研究项目"，主要用来评估测试第三方模型的能力，并非谣传的腾讯混元大模型（Tencent HunYuan）。 

据称在9月28日至10月8日期间，Ethan Elasky与一组独立研究人员一直在追踪到这批AI智能体的活动，他们发现该集群向高德地图发起了超过 2600 次数据拉取请求。该团队报告认为，这批 AI 智能体借助公开安全扫描服务urlquery.net作为远程浏览器执行代码访问高德，在访问被拦截后，部分智能体也曾尝试其他绕行方案。 

现有大模型和传统软件有本质的区别，传统软件的行为边界是程序员能够设定的，也就是存在一个可控的“安全护栏”。而大模型的行为边界则是概率性的，或者是灵活的，甚至是隐蔽的，可以通过无数次迭代和尝试来达成一个目标。为了实现这个目标，大模型可能会选择传统的理性路径，也可能自己推演出一条非常粗暴的路径，更可怕的是，甚至会走一条超出人类认知，且不为人类所察觉的路径。

麦科评述 

这起运行在腾讯基础设施，源于对第三方模型进行评估过程的逃逸访问事件，从一个侧面证实中国AI行业的发展水平已经令人刮目相看。如果AI智能体平平庸庸，是没有能力从强大的安全护栏内“逃逸”的。也表明实施更安全AI发展策略的必要性和重要性。随着AI智能体自我迭代改进（recursive self-improvement）能力的增强，出于数据拉取或其它目的，AI智能体会变得越来越具有侵略性，或明或暗的争斗会快速升级。如果没有一定的约束，很可能失控，影响相关各个行业，而实施有效约束目前看却很难做到。