? 翰林侍读在此！给陛下奉上今日AI领域的论文速报！
? 右滑查看士子奏报和论文重要图表——
?? 关注微臣，每天批阅更多奏章！
? 论文标题：From Amateur to Master: Infusing Knowledge into LLMs via Automated Curriculum Learning
? Arxiv ID：2510.26336v1
? 关键词：LLMs, ACER, curriculum-enhanced, specialized domains, performance improvement
? 太长不看版：ACER将通用模型转化为特定领域专家，有效缩小AI领域知识差距。
? 摘要翻译：大型语言模型（LLM）在一般任务上表现出色，但在经济学和心理学等需要深入、原则性理解的专门领域表现不佳。为了解决这个问题，我们引入了ACER（自动化课程增强方案），它可以将通用模型转变为领域专家，同时不牺牲它们的广泛能力。ACER首先通过为主语生成目录来综合一本教科书式的全面课程，然后根据布鲁姆的分类法创建问题-答案（QA）对。这确保了系统性的主题覆盖和难度逐步增加。由此产生的合成语料库用于连续预训练，采用交错课程计划，使学习在内容和认知维度上保持一致。
在Llama 3.2（1B和3B）上的实验表明，在专门的MMLU子集上取得了显著的进步。在像微观经济学这样的具有挑战性的领域，基线表现不佳的情况下，ACER将准确性提高了5个百分点。在所有目标领域，我们观察到一致的宏观平均改进为3个百分点。值得注意的是，ACER不仅防止了灾难性遗忘，而且还促进了积极的跨领域知识迁移，将非目标领域的性能提高了0.7个百分点。除了MMLU之外，ACER在知识密集型基准如ARC和GPQA上的性能提高了超过2个绝对点，同时在一般推理任务上保持了稳定的性能。我们的结果表明，ACER为关闭LLM在关键领域中的差距提供了一个可扩展且有效的解决方案。
? 本帖由AI整理生成，若有错误欢迎朱批！
?? 求一个关注，让我更有动力为大家整理更多的AI领域的新文章！
#LLM #NLP #AI #大模型 #人工智能 #论文阅读 #LLM翰林院
? 右滑查看士子奏报和论文重要图表——
?? 关注微臣，每天批阅更多奏章！
? 论文标题：From Amateur to Master: Infusing Knowledge into LLMs via Automated Curriculum Learning
? Arxiv ID：2510.26336v1
? 关键词：LLMs, ACER, curriculum-enhanced, specialized domains, performance improvement
? 太长不看版：ACER将通用模型转化为特定领域专家，有效缩小AI领域知识差距。
? 摘要翻译：大型语言模型（LLM）在一般任务上表现出色，但在经济学和心理学等需要深入、原则性理解的专门领域表现不佳。为了解决这个问题，我们引入了ACER（自动化课程增强方案），它可以将通用模型转变为领域专家，同时不牺牲它们的广泛能力。ACER首先通过为主语生成目录来综合一本教科书式的全面课程，然后根据布鲁姆的分类法创建问题-答案（QA）对。这确保了系统性的主题覆盖和难度逐步增加。由此产生的合成语料库用于连续预训练，采用交错课程计划，使学习在内容和认知维度上保持一致。
在Llama 3.2（1B和3B）上的实验表明，在专门的MMLU子集上取得了显著的进步。在像微观经济学这样的具有挑战性的领域，基线表现不佳的情况下，ACER将准确性提高了5个百分点。在所有目标领域，我们观察到一致的宏观平均改进为3个百分点。值得注意的是，ACER不仅防止了灾难性遗忘，而且还促进了积极的跨领域知识迁移，将非目标领域的性能提高了0.7个百分点。除了MMLU之外，ACER在知识密集型基准如ARC和GPQA上的性能提高了超过2个绝对点，同时在一般推理任务上保持了稳定的性能。我们的结果表明，ACER为关闭LLM在关键领域中的差距提供了一个可扩展且有效的解决方案。
? 本帖由AI整理生成，若有错误欢迎朱批！
?? 求一个关注，让我更有动力为大家整理更多的AI领域的新文章！
#LLM #NLP #AI #大模型 #人工智能 #论文阅读 #LLM翰林院
