代码革命的先锋：aiXcoder-7B模型介绍



国际开源代码年夜模子

4月9日aiXcoder公布正式开源其7B模子Base版，仅仅过来一个星期，aiXcoder-7B正在硬件源代码托管效劳仄台GitHub上的Star数已超越2k。同时跻身HuggingFace趋向榜单TOP30，令齐球开辟者注目。





面前团队

aiXcoder 团队去自北京年夜教硬件工程研讨所，2013便开端弄代码死成，他们不单是国际上最早将深度进修手艺用于顺序代码处置的团队，也是最早推出基于深度进修的编程产物的团队，从一开端他们便捉住并专注于代码年夜模子那个前沿赛讲。

团队临时散焦硬件工程、零碎硬件、顺序了解、顺序死成、深度进修、可托野生智能等前沿范畴，正在多个国际中顶级集会取期刊宣布相干论文100余篇，多篇被国际同业视为“初创效果”。

从教界最前沿的实际研讨，到普遍使用摆设的贸易理论，aiXcoder努力于将前沿野生智能手艺使用于硬件工程，散焦代码年夜模子的企业特性化降天手艺，助力企业完成智能化开辟，为将来贸易降天挨下脆真根底。



开展汗青

2017年，aiXcoder最开端的雏形——aiXcoder1.0公布，供给代码主动补齐取搜刮功用。

2021年4月，团队推出完整自立常识产权的十亿级参数代码年夜模子aiXcoder L版，撑持代码补齐战天然言语引荐。那也是国际⾸个基于“⼤模子”的智能编程商⽤产物。

2022年6月再次推出了国际尾个撑持办法级代码死成的百亿级参数目模子aiXcoder XL版，异样具有完整自立常识产权。

2023年7月，aiXcoder团队推出散焦企业适配的aiXcoder Europa，具有代码主动补齐、代码主动死成、代码缺点检测取建复、单位测试主动死成等功用。aiXcoder Europa可依据企业数据平安战算力请求，为企业供给公有化摆设战特性化练习效劳，无效下降代码年夜模子的使用本钱，晋升研收效力。

2024年4月9日，aiXcoder-7B Base版降生。



有何本事

虽然aiXcoder只是一个7B巨细的模子，但正在HumanEval、MBPP战MultiPL-E等支流代码死成评测散上，它均匀得分家然超越340亿参数的Codellama。要晓得，后者去自Meta、基于Llama2，但是开源界最早进的AI编程年夜模子之做。







中心才能

代码死成取补齐的杰出功能

aiXcoder-7B模子正在HumanEval、MBPP战MultiPL-E等支流评测散上的表示逾越了参数范围更年夜的模子，那得益于其深度进修架构战年夜范围的练习数据。它可以死成战补齐包罗办法块、前提判别、轮回处置、非常捕获等多种代码构造，年夜年夜晋升了代码编写的效力。

测试显现，正在切近实在开辟场景的评测散CrossCodeEval上，aiXcoder-7B一举拿下了同级别模子的最好结果：



企业级场景的深度定造取公有化摆设

aiXcoder-7B模子撑持企业依据本身的硬件开辟框架战API库停止特性化练习，确保模子可以了解并顺应企业特定的代码标准战营业逻辑。同时，模子的公有化摆设才能，让企业可以正在当地平安天运用模子，维护了企业的中心常识产权。



跨文件的智能剖析取补齐

aiXcoder-7B模子不只了解单个文件的高低文，借能跨多个文件停止智能剖析，那关于年夜型硬件项目尤其主要。模子可以辨认项目中分歧文件的联系关系，死成战补齐代码时思索到全部项目标构造，进步了代码的分歧性战可保护性。

测试显现，aiXcoder-7B Base版连系单文件高低文的代码补万能力逾越StarCoder2、CodeLlama等一寡模子，正在Python、JS战Java言语上综开得分最下。



继续的手艺立异取劣化

aiXcoder团队正在模子练习中采取了立异的办法，如将代码的笼统语法树构造融进预练习进程，明显晋升了模子对代码语义战逻辑的了解才能。另外，团队借构建了年夜范围的优良代码语料库，经过粗心的数据预处置，确保了模子练习的量量战结果。



使用案例

金融止业代码死成使用

以正正在停止数智化转型的某止业头部券商为例，该企业采取了aiXcoder的年夜模子处理计划，正在当地情况公有化摆设代码年夜模子，并连系企业本身范畴常识停止特性化练习。后果显现，正在营业逻辑代码上，代码死成占比晋升了2倍，明显进步了开辟效力。



跨文件静态计划形态类补齐

正在另外一个案例中，aiXcoder-7B模子展示了其跨文件剖析的才能。面临需求正在树构造上使用静态计划的庞大义务，模子精确辨认了分歧文件间的逻辑干系，并给出了准确的猜测后果，展示了其正在处置庞大编程成绩上的真力。



手艺细节

练习数据的构建取劣化

aiXcoder-7B模子的练习数据量到达了1.2T Unique Tokens，那一重大的数据散颠末了严厉的语法剖析战静态剖析，扫除了罕见的Bug战代码缺点，确保了模子练习的下量量。



预练习办法的立异

aiXcoder团队正在预练习办法长进止了立异，将代码的笼统语法树构造融进到预练习进程中，那一办法无效天晋升了模子对代码构造特点的捕获才能，从而死成更下量量的代码。



模子的特性化练习手艺

aiXcoder-7B模子的特性化练习手艺是其另外一年夜明面。经过构建企业专属的数据散战测评散，连系企业代码特点战员工编程习气，模子可以更好天顺应企业的开辟情况，完成更下效的特性化使用。



总结

正在科技的灿烂银河中，每次手艺的打破皆好像新星的降生，照明了将来的有限能够。跟着代码年夜模子的才能日趋加强，它们正在处理庞大编程成绩上的杰出表示，不只正在进步硬件开辟的效力战量量上发扬侧重要感化，正在推进编程主动化的海潮中饰演着要害脚色，更激起了顺序员们的立异潜能，让他们可以将更多的精神投进到探究战发明中。

aiXcoder-7B模子的呈现，预示着硬件开辟范畴将迎去一场新的反动。跟着手艺的不时提高，aiXcoder-7B将成为硬件开辟范畴中的“新量消费力”，协助企业完成智能化开辟，推进手艺止业的死态开展。

跟着代码年夜模子不时开展，不只减速了硬件开辟主动化的历程，更正在重塑手艺止业的死态，引发着将来开展的趋向：放慢完成硬件开辟主动化。那既是止业年夜势所趋，更是开展的必定挑选。侥幸的是，我们正站正在那个转机面眼前，睹证着那一趋向的衰亡战完成。

做为一位IT手艺职员，我对代码年夜模子的将来开展充溢等待。它不只处理了以后硬件开辟中的多个痛面，更加大师展现了一个齐新的编程将来。模子的不时开源战企业级特征，将推进全部止业背更下效、更智能的标的目的开展。关于酷爱编程的人来讲，不只仅是一个东西，更是一个可以激起立异、晋升消费力的同伴。让我们一同等待并拥抱那场由AI引发的编程反动吧！



开源地点

https://github.com/aixcoder-plugin/aiXcoder-7B

https://gitee.com/aixcoder-model/aixcoder-7b

https://www.gitlink.org.cn/aixcoder/aixcoder-7b-model

感兴味的小同伴可自止体验，也能够等我后绝的测试分享，让我们一同撑持国产开源年夜模子吧！

考核编纂 黄宇