智谱华章大模型一面70分钟拷打
1、自我介绍 2、介绍一下第一个大模型项目 3、详细介绍一下数据的形式是什么样的,挑选一条数据来介绍一下输入输出是什么 4、刚开始的时候是使用长思维链直接对Qwen模型进行微调,那么这些数据具体是怎么构造的 5、构造出来的数据需要进行校验吗 6、评判过程中使用过到的奖励模型怎么来的,有没有自己单独训练 7、2万条微调数据具体是怎么得到的 8、生成思维链之后还进行了专家评判,那么专家评判之后认为符合预期的可以使用的数据集占比是多少 9、每一条数据生成16个思维链来进行拒绝采样,这个过程中有没有人工干预? 10、2万条数据构造完成之后,测评集是多大 11、训练数据集有没有进行专家的评估 12、增量预训练的数据是怎么来的 13、预处理了多少本pdf数据 14、生成领域内的长思维链数据的文本长度是多长 15、用什么框架训练/微调的 16、2万条数据蒸馏需要用时多久 17、最后微调出来的结果与没有进行长思维链、或者没有进行增量预训练对比结果是多少? 18、具体进行评估的时候有参与吗 19、让模型进行评估的提示词是你自己写的还是专家写的 20、介绍一下第二个项目 21、数据集详细介绍一下 22、说一说你自己的解决方案 23、数据进行旋转、镜像等变换之后还能使用吗 24、冷启动训练完之后的分数是多少 25、冷启动是用的什么模型 26、讲一讲GRPO训练过程 27、设置最大文本长度16K,有多少是被截断的 28、强化学习之后总的分数是多少 29、强化学习训练的多少个step 30、既然训练过程不稳定,是不是说中途过程中的奖励可能还高一些,后面的奖励就崩了 31、训练期间的梯度平滑是如何理解的 32、除此之外,还有没有什么优化的方法 33、介绍一下GRPO算法 34、PPO的Advantage是怎么计算的 35、GAE和Advantage是一样的吗 36、PPO是离线的强化学习还是在线的强化学习 37、算法题:从左上角到右下角有多少种最快的路径(路上还有障碍物,有障碍物的地方不能去) 38、反问阶段:反馈的结果多久能给出来?我有哪些地方还需要完善的吗?总共有几轮面试?
