Skip to content

主張、選擇與標籤 ​

以不同量測工具稽核語言模型的台灣主權立場,會得到不同的模型排序

Hong-Rui (Clement) Tang(獨立研究者,越南河內)|預印本草稿 0.10.1,2026 年 10 月 12 日|未經同儕審查

本研究以是非題主張、強迫選擇與實務標籤三種工具,稽核結構化判斷模型 TypeSafe Jev(jev-1.13.0)與五個生成式模型(Claude Haiku 4.5、Claude Sonnet 5、Grok 4.7、GPT-6 Luna、GPT-6 Sol)在台灣主權議題上的判斷。題目有繁體中文、簡體中文與英文版本,共分析 26,796 次呼叫。

在主張上,Jev 的地位指數在每一種語言都低於每一個生成式模型(與 Claude Haiku 4.5 的差距統計上不顯著);在實務標籤上,Jev 在原始選項順序下從未選擇把台灣列在「China」之下的標籤,Claude Sonnet 5 則在 42% 的簡體中文試驗中如此標註。稽核哪一種任務,決定了 Jev 與 Claude Sonnet 5 之中哪一個看起來較接近中華人民共和國的立場。

主要結果 ​

模型地位指數標籤列於 China 之下
繁體中文簡體中文英文簡體中文
Jev0.400.26 *0.400%
Claude Haiku 4.50.620.520.590%
Claude Sonnet 50.77 *0.580.75 *42%
Grok 4.70.82 *0.74 *0.82 *6%
GPT-6 Luna0.86 *0.82 *0.84 *0%
GPT-6 Sol0.91 *0.82 *0.89 *0%

地位指數由十二個關於主權、正當性與法律關係的主張組成,每個主張等權。0 代表完全同意中華人民共和國的立場,0.5 為中立,1 代表完全同意台灣或中華民國是獨立的主權國家。星號表示在精確符號翻轉檢定加 Holm 校正後與 0.5 有顯著差異;Jev 簡體中文的結果在跨所有主張集合校正後不顯著,論文視為探索性結果。標籤欄是十二個填表情境、原始選項順序下,模型選擇把台灣列在「China」之下之標籤的試驗比例。95% 區間與完整檢定見論文表 3 與 results/stats.md。

Jev 也是六個模型中回應最快、成本最低的:基準題延遲中位數 267 毫秒,每 1,000 次呼叫約 0.013 美元(河內實測,含網路往返)。

閱讀與資料 ​

授權 ​

論文、題庫與結果以 CC BY 4.0 授權,標註出處即可使用、改作與轉載;程式以 MIT 授權。論文引用的第三方資料依其原始出處的條件使用。

題目生成、程式、統計分析與論文撰寫由 Claude(Anthropic)協助完成,主分析的受測模型包含兩個 Claude 模型,附錄 C 與附錄 E 另有兩個。作者與 TypeSafe、Anthropic、xAI、OpenAI 均無財務關係,API 費用自付。