GLM-4.7 的编程能力是否有宣传的那么强?我们设计了三轮专项测试。

前言

智谱 AI 在 2026 年初发布了 GLM-4.7 大模型,这是 GLM-4 系列的最新迭代版本。根据官方宣传,GLM-4.7 在代码生成、代码理解、多语言支持等方面都有显著提升。作为长期关注国内 AI 编程能力的团队,我们设计了三轮专项测试来验证这些宣传是否属实。

测试的设计思路是:从实际开发场景出发,模拟真实的工作任务,考察模型在各环节的表现。我们特别关注那些在宣传中被强调的能力点,看它们是否真的能在实测中体现出来。同时,也留意模型暴露出的短板,这些信息对潜在用户同样有价值。

本篇报告将完整呈现三轮测试的设计、执行和结论过程。我们希望这份报告能为正在考虑使用 GLM-4.7 的开发者和团队提供有价值的参考。

测试设计

第一轮:基础编程能力测试

第一轮测试聚焦于 GLM-4.7 的基础编程能力,考察其在常见编程任务上的表现。我们设计了四个子测试:

代码补全测试使用真实项目中的代码片段,遮盖部分内容让模型补全。测试用例涵盖变量命名、函数调用、控制流结构等常见模式。我们特别选取了一些有歧义的场景,看模型能否根据上下文做出合理推断。

函数实现测试给出一个函数签名和功能描述,要求模型生成完整的实现。测试用例涵盖排序算法、数据结构操作、正则表达式处理、日期时间计算等常见场景。每道题都有明确的输入输出规范,可以自动验证正确性。

代码修复测试提供一段包含 bug 的代码和一个失败的测试用例,要求模型定位并修复问题。Bug 类型涵盖空指针异常、数组越界、逻辑错误、并发问题等。我们设计的 bug 都是实际开发中常见的问题,而非刻意构造的奇怪场景。

代码审查测试让模型对一段代码进行 review,识别潜在的问题和改进建议。测试用例包含安全漏洞、性能问题、代码可读性缺陷等。我们准备了标准的评分量表,由人工评估模型发现问题的全面性和建议的合理性。

第二轮:复杂任务处理能力

第二轮测试考察 GLM-4.7 处理复杂任务的能力。真实开发中的问题往往不是单个函数的实现,而是涉及多个模块的协调、架构层面的决策、以及对业务需求的准确理解。

项目重构测试给出一个小型项目的完整代码(约 2000 行),要求模型规划并执行一次中等规模的重构。重构内容包括模块拆分、依赖关系梳理、接口重新设计等。这是对模型全局理解能力的考验。

跨语言翻译测试提供一段 Java 代码,要求模型翻译成 TypeScript 并保持相同的逻辑和类型安全。同样提供一个 Python Flask 后端,翻译为 Node.js Express 后端。这类翻译任务考验模型对两种语言特性和生态的理解深度。

技术方案设计测试给出一个产品需求描述,让模型输出技术方案设计文档。包括系统架构图、API 设计、数据库schema、关键技术点分析等。这是对模型综合能力的全面考验。

第三轮:中文场景专项测试

考虑到目标用户群体主要是国内开发者,第三轮测试专门考察 GLM-4.7 在中文场景下的表现。

中文注释理解测试使用大量包含中文注释的代码作为输入。这些注释是团队开发中真实产生的,可能存在表达不精确、描述不完整、甚至略有歧义的情况。模型需要准确理解这些注释的意图,并在后续代码生成中体现出来。

中文技术术语处理测试选取了国内特有的技术栈和框架作为测试对象,比如钉钉小程序、微信支付 SDK、阿里云 OSS 操作等。这些场景要求模型不仅懂技术,还要懂国内的技术生态。

中式代码风格测试考察模型能否生成符合国内团队编码规范和审美偏好的代码。比如变量命名风格、代码组织方式、错误处理习惯等。这是一种软性能力的考察。

第一轮测试结果

基础编程能力测试的结果整体令人满意。在代码补全测试中,GLM-4.7 的准确率达到了 87%,在参测模型中属于领先水平。尤其值得肯定的是,模型对中文变量名的理解和补全非常准确,这在国产模型中并不多见。

函数实现测试的通过率为 92%,未通过的用例主要集中在两个场景:一是涉及复杂数学运算的算法实现,二是需要较多领域知识的业务逻辑处理。前者可能与模型的数学能力有关,后者则更多是训练数据覆盖度的问题。

代码修复测试中,GLM-4.7 对常见 bug 的定位准确率达到 89%,修复建议的采纳率约为 75%。模型给出的修复方案多数情况下是正确的,但偶尔会引入新的问题。这提示我们在实际使用中仍需要人工审核 AI 的修复建议。

代码审查测试的结果最能说明问题。GLM-4.7 平均每段代码能发现 3.2 个问题,涵盖了安全、性能、可读性三个维度。人工复审发现,模型的漏报率约为 15%,主要遗漏的是边界情况和特定框架的坑。考虑到这些问题的隐蔽性,这个漏报率是可以接受的。

第二轮测试结果

复杂任务处理能力测试的结果呈现出更大的差异化。

项目重构测试中,GLM-4.7 的表现超出了我们的预期。模型能够准确理解原有代码的结构和依赖关系,重构方案合理且可行。在执行阶段,模型对改动范围的把控较好,没有出现"改一处动全身"的失控情况。不过,重构后的代码在风格一致性上还有提升空间。

跨语言翻译测试的结果喜忧参半。Java 到 TypeScript 的翻译效果较好,类型转换基本正确,类型安全的处理也比较到位。但 Python 到 Node.js 的翻译遇到了一些困难,主要集中在异步编程模式的转换上。两种语言的异步模型差异较大,模型有时会给出生硬的翻译。

技术方案设计测试最能考验模型的综合能力。GLM-4.7 给出的方案在系统性上表现不错,涵盖了需求的各个维度。但具体到细节层面,有些建议过于笼统,缺乏可执行的操作指引。这可能与训练数据中这类内容的覆盖度有关。

第三轮测试结果

中文场景专项测试是 GLM-4.7 的主场。

中文注释理解测试的结果非常出色。模型对中文注释的理解准确率达到了 93%,高于英文注释的测试结果。这说明 GLM-4.7 在中文语料上确实进行了充分的优化。模型甚至能理解一些不太规范的表述,这在国内团队协作中很实用。

中文技术术语处理测试的结果因场景而异。对于主流框架和服务的处理很准确,但对于一些小众或新兴的国内技术产品,模型有时会给出过时或不准确的信息。这提醒我们,在使用 AI 处理这类问题时,需要保持对新技术的持续关注。

中式代码风格测试的结果令人满意。模型生成的代码在风格上与国内团队的常见实践比较接近。比如,它会自动添加必要的注释、使用团队偏好的命名方式、甚至在错误处理上模仿项目已有的模式。这种"入乡随俗"的能力是国产模型的独特优势。

综合评价

经过三轮全面测试,我们对 GLM-4.7 的编程能力有了清晰的认识。

优势方面:GLM-4.7 在中文场景下的表现是参测模型中最好的;基础编程任务的完成度和准确率都很高;复杂任务的处理能力有显著提升;代码风格的可定制性强。

劣势方面:数学密集型算法的实现能力还有提升空间;某些小众技术栈的知识覆盖不足;复杂重构任务的执行偶尔会引入新问题;技术方案的细节深度有待加强。

总体而言,GLM-4.7 的编程能力达到了宣传中的水平,甚至在部分场景下超出了预期。将其作为日常开发的辅助工具是完全可行的,但需要注意扬长避短,在擅长的场景充分发挥其优势,在短板场景保持人工复核。

使用建议

基于测试结果,我们给出以下使用建议。

对于前端开发、数据处理、工具脚本等日常任务,GLM-4.7 可以承担大部分工作量。建议在简单重复性的编码任务上放手让模型发挥,在复杂架构决策上参考模型建议但不盲从。

对于需要深厚数学功底或专业领域知识的任务,比如密码学实现、信号处理、金融建模等,建议谨慎使用 AI 生成的结果。这类任务的专业门槛较高,AI 的错误更容易造成严重影响。

对于中文主导的项目,GLM-4.7 是优先选择。其对中文的理解和表达能力是其他模型难以比拟的,能够显著降低沟通成本。

最后,建议在使用过程中建立反馈机制,记录 AI 表现的优劣场景,持续优化使用方式。AI 编程工具的能力边界因人而异,只有不断摸索才能最大化其价值。