WK綜合論壇, WK综合论坛

用戶名  找回密碼
 立即注册
查看: 368|回復: 0

[国内时事] AI考高考成績如何? 這個大陸模型「考生」贏過GPT-4o

[複製鏈接]
累計簽到:323 天
連續簽到:4 天
發表於 2024-6-20 20:05:38 | 顯示全部樓層 |閱讀模式
VIP精品區,資源無限好賺金任務區,輕松賺金幣
加入VIP,享受高級特權宣傳賺金又升級,超級棒
中國大陸高考(大學入學考試)6月初已結束,各地近日將陸續公布考試成績。搶在這之前,上海人工智慧實驗室旗下機構近日公布首個由人工智慧(AI)大模型答卷的評測結果。在7個來自中國海內外大模型進行語文、數學、英語三科全卷能力測試下,阿里巴巴的通義千問2-72B總得分排名第一,略高於第二名OpenAI的GPT-4o。此外,閱卷老師也剖析了AI與人類考生答題上的差異。
: l6 Y1 f* |9 h, _  R/ ]6 C# `7 U$ p; P1 @, P7 W# f
上海第一財經報導,在前不久高考結束後,上海人工智慧實驗室旗下司南評測體系OpenCompass選取了7個大模型進行高考語文、數學、英語全卷能力測試,這項首個大模型高考全卷評測結果於19日公布。0 {8 e# n7 A8 P0 U2 e" B

) n3 P+ `+ n3 @* {. C6 x在三科加起來滿分為420分(語文、數學滿分150分;英文滿分120分)的前提下,此次高考測試結果顯示,大模型的語文、英文考試程度普遍不錯,但數學都不及格,最高分也只有75分。
2 v6 \: l# }4 \
6 q5 a  o6 Y7 i$ _. i' ~從排名看,阿里通義千問2-72B排名第一,為303分,OpenAI的GPT-4o排名第二,得分296分,上海人工智慧實驗室的書生·浦語2.0排名第三,三個大模型的得分率都超過70%。
2 k6 w8 Q% H2 {% R9 O, r7 `; w( ^0 U) G
第四至六名則為阿里通義千問2-57B、零一萬物Yi-1.5-34B、智譜GLM4-9B。來自法國大模型新創公司的Mistral Mixtral 8x22B排名第七墊底。1 G3 X6 d+ i$ ?" D
/ \% u! f2 H! D( t
上海人工智慧實驗室表示,此次三科全卷測試,成績由具備高考評卷經驗的老師匿名人工判分,閱卷開始前,閱卷教師「未被」告知答卷均由模型生成,使閱卷教師完全以面對真實考生的標準評判回答效果。8 T5 H$ O3 H" G8 ]5 [8 M) F. m3 s
" W' ?/ {: T) ^9 z7 y
值得一提的是,大模型「犯錯」的方式和人類考生有差異,有的模型會存在完全不理解題意導致亂答、重複生成、回答更像解析而非解答的問題,因此實際執行上,閱卷老師未能完全適應給分的過程,團隊則要求老師將離譜的錯誤直接視為答題錯誤,解析類型的回答以是否包含正確解題過程作為唯一準則。此外,每個題目都邀請了至少三位老師評閱取平均分數。
' ]3 Y' ?+ ]# A% E
& y+ i0 X  V% r) y% T2 k) p# p針對大模型在各科的表現,語文方面,評卷老師認為,模型的現代文閱讀理解能力普遍較強,但是不同模型的文言文閱讀理解能力差距較大。大模型作文則更像問答題,雖然有針對性但缺乏修飾,幾乎不存在人類考生都會使用舉例論證、引用論證、名人名言和人物材料等手法。對於「比喻」等語文概念,多數模型無法理解。
/ \0 k+ p9 }) X+ `7 X" y' U& d, U/ ~% U  t) I+ J) Q. `
在數學考卷上,老師們發現,大模型的主觀題回答「相對凌亂」,且過程具有迷惑性,甚至出現過程錯誤但得到正確答案的情況。大模型的公式記憶能力較強,但是無法在解題過程中靈活引用。
  b' N2 |8 ^9 A2 N& Z3 U7 n" g$ d* D6 g: r" b
英語則整體表現良好,但部分模型因不適應題型,在七選五、克漏字填空等題型得分率較低。大模型英文作文普遍存在因超出字數限制而扣分的情況,而人類考生多因為字數不夠扣分。3 X6 F  O! ^6 M/ d* U4 s

% p4 _' i& {$ Q) {/ p) j. r4 e, r
回復

舉報

 分享同時學會感恩,一句感謝的話語,就是最大的支持!  歡迎交流討論
您需要登錄後才可以回帖 登錄 | 立即注册

本版積分規則


快速回復 返回頂部 返回列表