【AI可能根本没有「语言墙」:只练一种语言,其他语言也会跟着变强】

今天
【AI可能根本没有「语言墙」:只练一种语言,其他语言也会跟着变强】8月17日消息,苹果研究团队拿 9 款模型、11 种语言做了一轮强化学习实验,想搞清楚:如果训练数据只有一种语言,模型学到的解题能力能不能拿去做其他语言的题?答案是,可以,而且效果相当明显。只用一种语言训练,模型在很多其他语言上也会一起变强。比如在法语测试上,直接用法语训练,成绩平均提升 25.6 个百分点;完全不用法语训练,只拿西班牙语的题来练,最后考法语也能提升 24.6 个百分点,只差 1 个百分点。模型学到的不只是某一种语言里的题,还有一部分可以换语言继续用的解题方法。所以以后想把模型的中文推理练强,未必所有强化学习数据都得重新做成中文。但训练语言也不能随便换,特定语言确实可能触发特定能力退化。同样一套强化学习,换一种训练语言,有些模型在其他语言和任务上反而会明显退步。最夸张的一组实验里,Qwen3-4B 用斯瓦希里语训练后,一组训练时没见过的英语测试比原模型掉了 19.2 个百分点;多语言一起训练时,这项测试反而提升了 4.5 个百分点。这篇论文验证的主要还是数学、逻辑、图、几何等答案可以自动判断对错的推理题。这些题换一种语言后,底层解法往往没有变。对于阅读理解、隐喻、语义判断、文化知识这些真正依赖语言本身的任务,论文没有验证。
免责声明:
内容来源金色财经、欧意交易所、gate.io交易平台以及Binance交易所官网
本站不对其做任何背书,也不代表赞成作者观点,如有失察或对您造成影响,可联系我们删除

发表评论

快捷回复: 表情:
AddoilApplauseBadlaughBombCoffeeFabulousFacepalmFecesFrownHeyhaInsidiousKeepFightingNoProbPigHeadShockedSinistersmileSlapSocialSweatTolaughWatermelonWittyWowYeahYellowdog
验证码
评论列表 (暂无评论,3人围观)

还没有评论,来说两句吧...