大模型参加高考,能考多少分?近日,科技创新交流平台极客公园发布高考新课标Ⅰ卷大模型评测报告,在参试大模型中,GPT-4o以562分的成绩排名文科第一。参加评测的8款国产大模型中,字节跳动旗下的豆包成绩是542.5分,其后依次是百度文心一言4.0的537.5分和百川智能“百小应”的521分。本次大模型高考评测与河南省考卷完全相同,以上3款国产大模型均超过河南文科一本线521分。GPT-4o的562分在河南文科考生中可排名8811名,相当于前2.45%;豆包处于前4.27%,接近顶尖大模型的水平。

  文综评测中,GPT-4o获237分,优于多数人类考生。国产大模型中,豆包文综成绩最高,得分224.5分,其中历史达到82.5分,在所有9款大模型中排第一。地理考卷有大量图片考题,图像理解能力较强的GPT-4o得到最高分,但仅有68分。

  语文、英语评测中,多家大模型在客观题上拿满分。但写作文是弱项。多次参加全国高考语文阅卷的北京市级骨干教师、怀柔区语文学科带头人夏老师是本次评测的作文阅卷人。她认为,“AI作文有清晰完整的结构,有逻辑性,语言通顺流畅,但缺乏感情和感染力”。同理,在40分的英语写作考试中,大模型的最高分只有29分,主要丢分在表达空泛、缺少细节上。

  值得注意的是,大模型高考呈现出严重的偏科现象:数学、物理、化学等数理学科全线不及格,总分最高分不到480。而河南理科一本线是511分。最顶尖的大模型无法进入理科考生的前30%。

  数学评测中,仅GPT-4o、文心一言4.0和豆包获得60分以上成绩(满分150分)。大模型能准确运用求导公式和三角函数定理,但面对较为复杂的推导和证明问题就很难得分。物理有一道送分的选择题,人类考生根据“时间不会倒流”可以轻易选对答案,大模型则全军覆没。

  “目前的大语言模型本质上是文字接龙,基于海量资料,预测下一个最可能出现的词句。通过不断预测,生成连贯和完整的文本。应对文科考试,大模型的用词不准或用了近义词,不太影响评分。但理科考试考验推理和计算,比如一道题有五步推理,大模型走偏一步,答案就全错。而且大模型的训练数据中,文科语料要远远大于理科语料。”国内一位大模型研发专家告诉科技日报记者。

  近期,有一些国内外大模型在奥数题评测(非奥数现场比赛)上拿到不错的成绩。对此,该专家解释,用大家都训练过的公开数据集评测,大模型的准确率很高;但用比较新的数据集去测试,准确率就大大下降。最新的高考题是哪家大模型都没有训练过的,考验的是数学推理和计算的泛化能力,这就暴露了大模型的短板。

  北京大学计算语言学研究所教授穗志方近日也表示,大模型在中国高考、公务员考试和美国SAT考试等标准化考试中的表现是优劣兼具的。一些大模型在SAT数学测试中表现优异,但在复杂推理或特定知识领域中的表现不够出色。

  “在大模型内在机理没有探究清楚的情况下,我们目前的评测路径只能依靠从外部表现来推测内在能力。”穗志方说,未来应发展更系统的评测大纲、更具挑战的评测任务、更科学的评测方法。AI是否比人类更适合考试?尚未可定论。

编辑:冯仪
更多精彩资讯请在应用市场下载“央广网”客户端。欢迎提供新闻线索,24小时报料热线400-800-0088;消费者也可通过央广网“啄木鸟消费者投诉平台”线上投诉。版权声明:本文章版权归属央广网所有,未经授权不得转载。转载请联系:cnrbanquan@cnr.cn,不尊重原创的行为我们将追究责任。
长按二维码
关注精彩内容