Write N of X

Write exactly N words/sentences/paragraphs...

10 sentence summary

0-shot Rule following
Model Run 1 Run 2 Run 3 Run 4 Run 5 Run 6 Run 7 Run 8 Run 9 Run 10 Total
Claude 3.0 Sonnet100%100%100%100%100%100%100%100%100%100%100%
GPT-4o Mini (temp=0)100%100%100%100%100%100%100%100%100%100%100%
GPT-4o Mini (temp=1)100%100%100%100%100%100%100%100%100%100%100%
Llama 3.1 405B100%100%100%100%100%100%100%100%100%100%100%
GPT-4.1100%100%100%100%100%100%100%100%100%100%100%
GPT-4.1 Mini100%100%100%100%100%100%100%100%100%100%100%
o4 Mini High100%100%100%100%100%100%100%100%100%100%100%
Gemini 3 Pro (Preview)100%100%100%100%100%100%100%100%100%100%100%
Claude Opus 4.5100%100%100%100%100%100%100%100%100%100%100%
MoonshotAI: Kimi K2.5100%100%100%100%100%100%100%100%100%100%100%
Claude Opus 4100%100%100%100%100%100%100%100%100%100%100%
Gemini 2.5 Pro100%100%100%100%100%100%100%100%100%100%100%
Claude Haiku 4.5100%100%100%100%100%100%100%100%100%100%100%
Claude Opus 4.6100%100%100%100%100%100%100%100%100%100%100%
Z.AI GLM 4.7100%100%100%100%100%100%100%100%100%100%100%
Z.AI GLM 4.7 Flash100%100%100%100%100%100%100%100%100%100%100%
Llama 3.1 Nemotron 70B100%100%100%100%100%100%100%100%100%100%100%
Claude Sonnet 4100%100%100%100%100%100%100%100%100%100%100%
Z.AI GLM 4.6100%100%100%100%100%100%100%100%100%100%100%
Claude 3.5 Sonnet100%100%100%100%100%100%100%100%100%100%100%
GPT-4o, Aug. 6th (temp=1)100%100%100%100%100%100%100%100%100%100%100%
GPT-4.1 Nano100%100%100%100%100%100%100%100%100%100%100%
Z.AI GLM 4.5100%100%100%100%100%100%100%100%100%100%100%
GPT-4o, May 13th (temp=0)100%100%100%100%100%100%100%100%100%100%100%
Claude 3.5 Haiku100%100%100%100%100%100%100%100%100%100%100%
Mistral Small Creative100%100%100%100%100%100%100%100%100%100%100%
GPT-4o, Aug. 6th (temp=0)100%100%100%100%100%100%100%100%100%100%100%
Claude 3.5 Sonnet (new)100%100%100%100%100%100%100%100%100%100%100%
Gemini 3 Flash (Preview)100%100%100%100%100%100%100%100%100%100%100%
Llama 3 70B100%100%100%100%100%100%100%100%100%98%100%
Llama 3 TenyxChat-DaybreakStorywriter 70B100%100%100%100%100%100%100%100%100%98%100%
o4 Mini100%100%100%100%100%100%100%100%100%98%100%
Writer: Palmyra X5100%100%100%100%100%100%100%100%100%98%100%
GPT-4o, May 13th (temp=1)100%100%100%100%100%100%100%100%100%98%100%
Llama 3.2 90B (Vision)100%100%100%100%100%100%100%100%100%98%100%
Gemma 2 9B100%100%100%100%100%100%100%98%98%98%100%
GPT-4 Turbo100%100%100%100%100%100%100%98%98%98%100%
Fimbulvetr 11B v2100%100%100%100%100%100%100%98%98%98%99%
DeepSeek-V2 Chat100%100%100%100%100%100%98%98%98%98%99%
Claude Sonnet 4.5100%100%100%100%100%100%100%100%100%92%99%
Llama 3.1 70B100%100%100%100%100%100%100%100%100%92%99%
Llama 3.2 11B (Vision)100%100%100%100%100%100%100%98%98%92%99%
Gemini Pro 1.5100%100%100%100%100%100%100%98%98%92%99%
Llama 3.1 8B100%100%100%100%100%100%100%100%92%92%98%
Qwen 2.5 72B100%98%98%98%98%98%98%92%92%92%97%
AI21 Jamba 1.5 Large100%100%100%100%100%98%92%92%92%77%95%
Cohere Command R+ (Aug. 2024)100%98%98%98%98%98%92%92%77%77%93%
Mistral Large 2100%100%98%98%98%92%92%92%77%77%93%
Llama 3.2 3B100%100%100%100%100%100%100%100%98%27%93%
Phi-3 Medium 128k100%100%100%98%98%98%77%77%77%77%90%
Mistral Large100%98%98%92%92%92%92%77%77%77%90%
Phi-3.5 Mini 128k100%100%100%100%98%92%92%77%77%54%89%
WizardLM 2 8x22b100%100%100%98%98%98%98%98%77%9%88%
Cohere Command R+ (Apr. 2024)98%92%92%92%92%92%77%77%77%77%87%
Gemini Flash 1.5100%100%100%98%98%98%98%92%54%27%87%
Gemma 2 27B100%100%100%100%100%100%100%77%77%0%85%
Sao10K L3.1 70B Hanami x1100%100%100%100%100%98%92%92%54%9%85%
Gemini 2.5 Flash Lite100%100%100%100%100%98%92%92%54%0%84%
Llama 3.1 Euryale 70B v2.2100%100%100%98%98%92%77%77%77%0%82%
Llama 3.2 1B100%100%100%100%100%100%98%54%54%9%81%
Phi-3 Mini 128k100%100%98%92%92%92%77%54%54%54%81%
EVA Qwen 2.5 14B100%100%100%100%98%92%77%77%54%2%80%
Hermes 3 405B98%98%92%92%92%92%77%77%77%2%80%
Hermes 3 70B100%100%100%100%92%92%77%54%54%27%80%
Claude 3 Haiku100%100%100%100%77%77%77%54%54%27%77%
Llama 3 Euryale 70B v2.1100%98%98%98%92%92%77%77%9%2%75%
Hermes 2 Theta 8B98%98%92%77%77%77%77%54%54%27%73%
Claude 3.7 Sonnet98%92%92%92%77%77%54%54%54%27%72%
Mistral Medium100%100%100%100%92%92%77%54%0%0%72%
Qwen 2 7B100%98%98%98%92%77%77%54%9%9%71%
Inflection 3 (PI)100%100%100%100%100%92%92%9%9%9%71%
Magnum v2 72B100%98%98%92%77%77%77%77%2%0%70%
AI21 Jamba 1.5 Mini98%98%92%92%92%77%77%54%9%0%69%
Ministral 3B100%100%98%98%92%77%77%27%0%0%67%
MythoMist 7B98%92%77%77%77%54%54%54%27%27%64%
Magnum 72B100%100%100%98%92%77%54%0%0%0%62%
MythoMax 13B100%100%92%77%77%54%54%54%9%0%62%
Inflection 3 (Productivity)100%100%100%100%100%27%27%27%9%9%60%
Toppy M 7B100%100%77%77%77%54%54%27%27%0%59%
MN GRAND Gutenberg Lyra4 12B Madness100%100%100%100%77%54%54%0%0%0%58%
Qwen 2 72B100%98%92%77%77%54%27%27%27%2%58%
Liquid: LFM 40B MoE92%92%92%92%77%54%27%27%9%9%57%
Lumimaid v0.2 8B100%100%92%77%54%54%54%27%9%0%57%
Claude 2.177%77%77%54%54%54%54%54%27%27%55%
Rocinante 12B100%100%92%92%77%27%2%0%0%0%49%
Claude 2.077%54%54%54%54%54%54%27%27%27%48%
AI21 Jamba92%77%54%54%54%54%27%27%9%9%46%
Ministral 8B92%77%77%77%54%27%27%9%0%0%44%
Mistral Nemo 12B Celeste100%98%54%54%27%27%27%27%0%0%41%
Goliath 120B77%54%54%54%54%27%27%27%27%9%41%
Gemini 2.5 Flash98%92%77%54%27%27%9%2%2%0%39%
Mistral NeMO77%77%54%54%54%27%9%9%9%9%38%
lzlv 70B54%54%27%27%27%27%27%9%9%9%27%
84.01%