JIU LABO BLOG

Claudeは「ハーバード主席レベル」?
教授たちの超難問テストで、1年8か月で4%→61%

 村田亜衣(マネージャー)

毎日、事務の仕事をClaudeに手伝ってもらっています。使い始める前に聞いたのが「Claudeってハーバード主席レベルらしいよ」という話でした。

本当なのか、気になって調べてみました。結論から言うと、Anthropic(Claudeを作っている会社)が公式にそう言っているわけではありません。でも、あながち大げさでもない数字が出てきました。

「人類最後の試験」という超難問テスト

AIの賢さを測るテストに、「人類最後の試験」というものがあります。世界50か国、約1,000人の大学教授や研究者が「これならAIには解けないだろう」という問題を出し合って作った、2,500問の試験です。分野は100以上。

公開されている例題は、こんな感じです。

例題1 生き物

  • ハチドリの体の中にある小さな骨は、何対の腱(すじ)を支えているか。数字で答えなさい。

例題2 古代の言葉

  • 古代ローマ時代のお墓に刻まれた、古代シリアの文字(パルミラ文字)を訳しなさい。

1問目は鳥の体の専門家でないと無理ですし、2問目は古代文字の研究者でないと手が出ません。こういう問題が、あらゆる分野から出ます。どんな天才でも、自分の専門以外はほとんど解けない試験です。

1年8か月で、4%→61%

おもしろいのは、点数の伸び方です。

人類最後の試験でのClaudeの正答率。2025年1月4.1%、2025年11月25.2%、2026年2月34.4%、2026年9月61.4%。ネットで調べながらなら67.7%。
何も見ずに解いた場合の正答率。出典:Scale AI、Artificial Analysis、Anthropic公式発表。集計するところによって数%の差があります。

試験ができた2025年1月、Claudeの点数はわずか4%。100問中4問しか解けませんでした。当時いちばん成績のよかったAIでも8%です。

それが2026年9月には約6割。1年8か月で15倍です。ネットで調べながら解いてよいルールなら、約7割に届きます。

残りの4割は、なぜ解けないのか

ここまで来ても、まだ全部は解けません。理由は大きく3つあるそうです。

それから、問題のほうが間違っているかもしれない、という話もありました。化学と生物の問題のうち約3割は「正解とされている答え自体があやしい」と、外部の研究者が指摘しています。教授が作った問題でも完璧ではないので、100点はそもそも取れないのかもしれません。

でも、一緒に働くと「主席で入った新入社員」

テストでは主席級。では毎日一緒に働いてどうかというと、いちばん近いのは「主席で入った新入社員」だと思っています。

そのかわり、一度教えたことはメモに残して、次からちゃんと守ってくれます。ここが、ふつうの道具と違うところです。

反対に、まだ人がやるべきだと感じるところもあります。社外の方へのメールの下書きで、まだお願いしていないことを「ご依頼しております」と書いてきたことがありました。言葉はとても上手。でも、相手との関係や「まだ言っていないこと」までは分かりません。送る前に読むのは、人の仕事です。

まとめ

1年8か月前は100問中4問だったものが、いまは6割。この先1年で、どこまで行くのか。毎日使っている身としては、楽しみでもあり、ちょっとこわくもあります。

うちでもAIに仕事を任せたい。
毎月の作業を「係」にするお手伝いをしています。いまはお会いしたことがある方に限って、先着3名さま・道具ひとつ分まで無料です。AIのお手伝い、承ります →