「AI速報」は、AIの最新ニュースを2日に1回、自分が読みやすい形にまとめる個人用の仕組みです。その記事選びに、判断に特化したAI「Jev」を組み込みました。調べて書くのはClaude(第5号まではOpus 5.5、第6号からはSonnet 5.5)、判定はJev、最後の組み合わせはプログラムが担当します。この3者の分担と、実際に測った数字の記録です。
AI速報は仕事や公開サービスではなく、自分の情報収集のためにプライベートで使っているものです。読むのは基本的に自分だけで、この記事はその裏側でやってみた実験の記録です。
最新の第6号(9月30日の朝に自動発行した版)の実際の候補15件が、1件ずつJevの9つの質問で判定され、「採用」「保留」「除外」のトレイに分かれていく様子です。第6号の判定結果(採用10・保留5・除外0)は実データのとおりです。第6号には除外が1件もなかったので、除外の例として、第5号で実際に除外された2件(「Claude Codeが4万8千件のファイルを削除したと利用者が報告」と「マスク氏、xAIのチップを年末までに倍以上に増やす可能性」。どちらも噂・推測と判定)を「第5号の候補」として混ぜています。採用の10件はすべて本文の記事になり、保留の5件のうち4件は「Newsworthy」欄に、残る1件は同じ話題の本文記事にまとめて載りました。同じ日に、書き手のモデルや考える深さの設定を変えて3回作り直した版との比べは、下の「結果」に書いています。
これまでは、Claude(第3号まではSonnet 5)が調べる・選ぶ・書くをすべて1人でこなしていました。記事の質には満足していた一方で、なぜその記事を選んだのかが記録に残らないことが気になっていました。噂レベルの話がまぎれ込んでも、気づけるかどうかはその日のAIしだいです。
そこで、「選ぶ」工程だけを判断専用のAIに任せ、判断の根拠を数字で残すことにしました。
Jevは文章を書くAIではありません。状況と質問を渡すと、「はい」の確率や、選択肢ごとの確率だけを返します。そこで、それぞれが得意なことで仕事を分けました。
「載せるべき?」という大きな判断は、Jevにもそのまま聞かない。小さな質問に分けて、組み合わせ方はプログラム側で決める。TypeSafe公式ドキュメントが勧めている作り方です。
候補の「見出し」と「要約」をまとめてJevに渡し、次の9問を1回のリクエストで聞きます。質問文は英語、ニュースは日本語のままです。
どのカテゴリか(セキュリティ/仕事効率化/動画制作/その他)
AIの話か
Is the main topic of `title` and `summary` about artificial intelligence?噂・リーク・推測だけの話か
…based only on rumors, leaks, anonymous posts, or speculation…?宣伝文だけか
期限のある変更か(終了・値上げ・初期設定の変更・移行)
その変更は、AIを使う側に関係するか(個人・会社員・管理者・API開発者など規模は問わない)
人や情報を害するセキュリティ上の脅威か
非エンジニアの会社員・動画クリエイターにとって役に立つか
AIを使う人全体への影響の大きさ
Noul=「はい」の確率を0〜1で返す質問/Choice=選択肢から1つ選ぶ質問/Score=段階で評価する質問。Q8の「非エンジニア」は、読み手である自分のことです。Q5〜Q7の基準は、第4号のあとに見直しました(下の「緊急判定の見直し」)。
[実測]=この実験で実際に測った値 [試算]=公式の料金表から計算した値
9月26日、Jevの選別を入れて初めての号(第4号)が自動で発行されました。自動発行の記録には、かかった時間と、同じ作業をAPIで動かした場合の料金(API換算)が残っています。そこで、導入前の第3号(9月24日)と比べました。続く9月28日の第5号、9月30日の第6号でも、同じ記録を取っています。第6号からは、書き手のAIをOpus 5.5からSonnet 5.5に替え、どれだけ深く考えるかの設定(effort)を「high」にしました。掲載したのは第3号・第4号が5記事、第5号が3記事と見出しだけ紹介する「Newsworthy」欄の7件、第6号が上限いっぱいの10記事とNewsworthy欄の4件です。第6号は同じ日の夕方に、effortを「medium」に下げて作り直しました(書き手は同じSonnet 5.5)。こちらは9記事とNewsworthy欄の4件です。夜には、書き手をOpus 5.5にして、effort「medium」と「low」でも1回ずつ作り直しました。下のグラフと表は号ごとの記録なので、作り直した3つの版は入れず、後ろの「第6号を4通りで作って比べた」にまとめています。
白=第3号(導入前) 黄=第4号 黄の斜線=第5号 黄の点=第6号(effort high) 縦じま=第6号の夕方の作り直し(Sonnet 5.5・medium) ※第4〜6号は導入後。第3号を100%とした長さ
| 項目 | 第3号 9/24(導入前) | 第4号 9/26(導入後) | 第5号 9/28(導入後) | 第6号 9/30 朝(導入後) | 第6号 9/30 夕方・作り直し(Sonnet medium) |
|---|---|---|---|---|---|
| 書き手のAI | Claude Sonnet 5 | Claude Opus 5.5 + Jev | Claude Opus 5.5 + Jev | Claude Sonnet 5.5(effort high)+ Jev | Claude Sonnet 5.5(effort medium)+ Jev |
| 発行にかかった時間 | 6分49秒 | 4分54秒(−28%) | 5分42秒(−16%) | 6分42秒(−2%) | 3分56秒(−42%) |
| API換算の費用 | $4.48 | $2.53(−44%) | $3.37(−25%) | $3.72(−17%) | $1.89(−58%) |
| 掲載した記事 | 5件 | 5件(候補13件から) | 3件+Newsworthy欄7件(候補13件から) | 10件+Newsworthy欄4件(候補15件から) | 9件+Newsworthy欄4件(候補16件から) |
| 選んだ理由の記録 | 残らない | 13件すべての判定をファイルに保存 | 同じく13件すべて保存 | 同じく15件すべて保存 | 同じく16件すべて保存 |
| 噂・推測の除外 | その日のAIの注意力しだい | 「噂か」を確率で判定。はっきり噂なら除外 | はっきり噂の2件を除外し、五分五分の1件を裏取りに回した | 噂と判定された候補はなし(除外0件)。15件中12件は出典に公式発表があり、噂の判定を使わなかった | 噂と判定された2件を除外し、五分五分の1件を裏取りに回した。公式発表が付いていたのは16件中9件 |
| この号から加わった作業 | — | Jevの選別 | Xの投稿の調査、五分五分の候補の裏取り、保留した候補をNewsworthy欄に全件掲載 | 書き手をSonnet 5.5(effort high)に変更。発行のたびに、選別ログとバックナンバーの2つのArtifactを更新 | effortをmediumに下げ、同じ日に作り直し(自動発行ではなく、別のセッションから手動で起動) |
| Jevの費用 | — | $0.00056(全体の約0.02%) | $0.00063(全体の約0.02%) | $0.00076(全体の約0.02%) | $0.00077(全体の約0.04%) |
Jevの判定はあくまで「おすすめ」で、最終的に載せるかどうかは書き手のClaude(第5号まではOpus 5.5、第6号はSonnet 5.5)が決めています。第4号〜第6号で、両者の判断を突き合わせました。第6号は朝の版の数字です(作り直した3つの版は、後ろの「第6号を4通りで作って比べた」にあります)。
| 項目 | 第4号 9/26 | 第5号 9/28 | 第6号 9/30 |
|---|---|---|---|
| Jevの「採用」を書き手が使った数 | 5/7 | 4/4(うち1件は、同じOpenAIの続報記事の中にまとめて掲載) | 10/10 |
| 載せた記事のうち、Jevの「採用」から選ばれた数 | 5/5 | 3/3 | 10/10 |
| カテゴリ判定の一致 | 5/5 | 3/3 | 9/10 |
| 緊急かどうかの一致 | 4/5(見直し前のルール) 見直し後のルールなら5/5 | 3/3(見直し後のルール) 見直し前のルールなら2/3 | 10/10(見直し前のルールでも同じ) |
| Jevの「保留」をNewsworthy欄に載せた数 | —(欄を作る前) | 7/7 | 4/5(残る1件は、同じ話題の本文記事の出典にまとめた) |
| 同じ候補をもう一度判定したとき、採否が同じだった数 | 13/13(1回) | 12/13(3回とも。入れ替わった候補は回ごとに違う) | 15/15(3回とも) |
第4号で緊急が食い違ったのは、OpenAIが数十の組織に通知した件です。Jevは緊急、Opusは緊急にしませんでした。第6号でカテゴリが食い違ったのは、OpenAIの「プラグイン拡張」(ChatGPTやCodexの中で動くアプリを作れる仕組み)の件です。Jevは「仕事効率化」、Sonnet 5.5は「その他」にしました。Newsworthy欄に載らなかった保留の1件は「GitHub CopilotでGPT-6.1 Solが使えるように」で、GPT-6.1 Solの本文記事の出典としてまとめられています。[実測]
第4号で判定が外れた1件:「OpenAIがGPT-6を公開」という候補は、出典が2つ付いていたのに「噂・推測」と判定され、除外されました(確率0.59、「要確認」の印つき)。あとで確認すると、これは公式に発表済みのニュースで、Jevの判定は外れていました。9月22日の話で今回の対象期間外だったため、この号への影響はありませんでした。
そこでルールを直しました。噂の確率が0.65を超えたときだけ除外し、0.5〜0.65の五分五分は除外せずに「保留+要裏取り」にして、書き手のClaudeが公式発表を探します。出典に当事者の公式発表が付いている候補は、噂かどうかの判定そのものを使いません。新しいルールで同じ候補を判定し直すと、GPT-6の件は「保留+要裏取り」になりました(確率0.56)。
第4号では、Jevが緊急とした候補4件のうち、Opusも緊急にしたのは1件だけでした。原因は噂ではなく、Jevが「脅威がある」「期限や価格の変更がある」は拾えても、「使う側に関係するか」「値上げか値下げか」までは見ていなかったことです。そこで、過去4号の掲載記事24件(緊急9件)を正解にして、ルールの案を比べました。
| ルール | 緊急の一致(24件) | 第4号候補の🚨 | 第5号候補の🚨 | 第6号候補の🚨 |
|---|---|---|---|---|
| 見直し前(脅威0.6・期限0.6) | 22/24 | 4件 | 6件 | 2件 |
| 脅威だけ0.9に上げる | 24/24 | 3件 | 2件 | 2件 |
| 基準を一律0.9に上げる | 23/24(移行期限を見逃し) | — | 2件 | 2件 |
| 採用:脅威0.9+期限は値上げに限定+使う側に関係 | 24/24 | 2件 | 2件 | 2件 |
脅威の確率は、本当に緊急だった記事が0.95以上、そうでない記事が0.85以下で、きれいに分かれていました。「使う側に関係するか」の質問は、今回のデータでは一致率を変えませんでしたが、作る側・売る側だけの話を緊急から外すために入れています。正解データは24件だけで、基準もこのデータを見て決めたので、号を重ねて確かめ直します。値下げのように緊急ではないけれど知りたい話は、見出しだけ紹介する「Newsworthy」欄に載せます。
第5号は、このルールを決めたあとに出た初めての号です。つまり、ルール作りに使っていない新しいデータで確かめられます。見直し前のルールなら🚨の候補は6件でしたが、見直し後は2件に絞られました(第5号の判定結果に、それぞれのルールを当てはめて計算)。載せた3記事の緊急判定は、見直し後のルールでOpusと3/3一致しました。見直し前のルールのままだったら、OpenAIが学習を止めた件(脅威の確率0.82)まで緊急になり、2/3でした。
ただ、「本当に緊急な記事は0.95以上、そうでない記事は0.85以下」という分かれ方は、第5号でそのままとは言えなくなりました。「OpenAIのAIがHugging Faceに侵入した手口を研究者が再現」という候補は、脅威の確率がちょうど0.90で🚨の候補になり、判定し直すと3回とも0.89で🚨から外れました。この候補は裏取り待ちの「保留」だったので号には影響していませんが、境目のすぐ近くにも候補は来る、とわかりました。
第6号では、どのルールで数えても🚨は同じ2件でした。「ChatGPT Proの月額200ドルプランの利用枠が10月30日から半分に」(期限のある変更の確率0.93)と、「Gemini Omni Flashの旧プレビュー版が9月30日で終了」(0.99)です。書き手も同じ2件を緊急にしていて、掲載した10記事すべてで緊急の判定が一致しました。脅威の確率は15件すべて0.06以下で、今回は境目の近くに来た候補はありませんでした。
同じ日に作り直した3つの版でも、書き手の緊急の判断は、載せた記事すべてでJevと一致しました。脅威の確率が0.9を超えた候補は、どの版にもありませんでした。
第4号では、同じ13件を判定し直しても採否はまったく同じでした。第5号で同じことを3回試すと、毎回13件中12件が同じで、1件ずつ入れ替わりました。入れ替わったのは、どれも合格ラインのすぐそばにいた候補です。
| 候補 | 元の判定 | 3回判定し直すと | 境目のルール |
|---|---|---|---|
| OpenAI DevDayの開催告知 | 保留(AIの話か 0.50) | 除外2回(0.48・0.47)、保留1回(0.52) | 「AIの話か」0.5未満は除外 |
| DeepSeekのAIの「ずる」 | 保留(総合点0.439) | 採用1回(0.450)、保留2回 | 総合点0.45以上で採用 |
| Hugging Face侵入の再現 | 🚨あり(脅威0.90) | 🚨なし3回(0.89) | 脅威0.9以上で緊急 |
差はどれも0.01〜0.03ほどです。Jevの答えが大きくぶれたのではなく、ちょうど線の上にいた候補が、わずかな揺れでどちらかに転んだ形です。開発者会議の告知が「AIの話か」で五分五分になるのは、Jevが言葉を文字どおりに読むからだと考えられます(告知文そのものはイベントの日時と場所の話なので)。ラインの近くの判定は「どちらとも言える」と読むのが妥当で、Jevの判定を「おすすめ」として扱い、最終判断を書き手のClaudeに任せている今の運用と合っていました。
第6号の15件でも、同じように3回判定し直しました(9月30日)。今度は3回とも、15件すべての採否・カテゴリ・緊急が元の判定とまったく同じでした。総合点の差は最大0.02です。合格ライン(0.45)にいちばん近かったのは「9月29日にClaudeで障害」の候補(0.492)で、ラインからは0.04ほど離れていました。ほかのルールの境目にも、0.03以内に入る候補はありませんでした。線の近くにいる候補がなければ、わずかな揺れでは結果は変わらない。第5号で見えた「入れ替わるのは線の上にいる候補だけ」という見立てと合う結果です。[実測]
噂かどうかが五分五分の候補を、除外せず「保留+要裏取り」にするルール(第4号のあとに追加)が、第5号で初めて使われました。対象は、上のHugging Faceの件です(噂の確率0.55)。候補の出典は、ニュースのまとめサイト1件だけでした。
Opusは、研究者による公開サイトと、別のニュースサイトの報道を見つけて出典を差し替え、Newsworthy欄に載せました。本文は「〜と報じられています」という書き方です。一方で、当事者であるOpenAIやHugging Face自身の発表は見つかっておらず、ルールで決めていた「公式発表は未確認(報道ベース)」の注記も、自動発行の時点では付いていませんでした。研究者自身の公開を一次情報と見れば注記はいらないとも言えますが、「Hugging Faceが一致を確認した」という部分は報道だけが根拠です。どちらの場合に注記を付けるのか、ルールの書き方があいまいだったことがわかりました。
発行したあと(同じ9月28日)に、第5号のこの項目へ「公式発表は未確認(報道ベース)」の注記を付けました(要約の下に小さな文字で1行出ます)。研究者の公開はあるが、当事者の確認は報道だけ、という中間のケースを「注記を付ける」側に倒した形です。変えたのはこの注記だけなので、Jevの判定結果や、上の時間・費用の数字は変わりません(書き足しは、自動発行とは別のセッションで行いました)。
はっきり噂と判定されて除外されたのは2件です。「Claude Codeが103秒で4万8千件のファイルを削除したと利用者が報告」(噂の確率0.84)は、報道自身が「独立した検証はされておらず、利用者の報告に基づく」と書いていた話でした。「マスク氏、xAIのチップを年末までに倍以上に増やす可能性」(0.71)は、本人の見通しの話です。どちらも、個人の投稿や予想だけでは事実として書かないという方針どおりの結果でした。
第6号では、噂かどうかが五分五分になった候補はなく、🔎要裏取りは0件でした。15件のうち12件は、出典の先頭に当事者の公式発表が付いていたため、噂かどうかの判定そのものを使っていません(第5号は13件中3件)。公式発表が付いていなかった3件(米政府のAI案内サイト「America.gov」の公開、Anthropicの上場書類の中身の報道、OpenAIの売上の報道)も、噂の確率は0.11〜0.33で、噂ではなく「報道」として扱われました。
書き手のSonnet 5.5は、この3件をNewsworthy欄に載せ、3件とも「公式発表は未確認(報道ベース)」と注記しました。第5号のあとに書き足した「当事者の発表がない部分が1つでもあれば注記する」というルールどおりで、第5号のような注記の付け忘れはありませんでした。
ただ、発行のあと(同じ9月30日)に別のセッション(Opus 5.5)で確かめ直すと、3件のうち2件には当事者の公式発表がありました。America.govはホワイトハウスのファクトシートと大統領令、Anthropicの件は6月に出していた「上場書類の下書きを提出した」という発表です。そこで公式の出典を足し、注記も「開始と大統領令はホワイトハウスの公式発表で確認。GeminiとGrokの利用などは報道ベース」のように、どこまでが確認済みかを書き分ける形に直しました。注記の付け方は守れていた一方で、公式発表の探し方が足りなかった、という結果です。Jevの「噂か」の質問は、話が噂かどうかを見るもので、公式発表があるかどうかまでは見ていません。この見落としは、書き手の側で直す課題です。
第6号は、朝の自動発行のあと、書き手のモデルと考える深さの設定(effort)を変えて、同じ日に3回作り直しました。手順書とJevの質問は4回とも同じで、どの回も調査からやり直しています。[実測]
| 項目 | ① Sonnet 5.5・high(朝・自動発行) | ② Sonnet 5.5・medium(夕方) | ③ Opus 5.5・low(夜) | ④ Opus 5.5・medium(夜) |
|---|---|---|---|---|
| かかった時間 | 6分42秒 | 3分56秒 | 3分54秒 | 8分18秒 |
| API換算の費用 | $3.72 | $1.89 | $2.51 | $5.78 |
| AIが書いた量 | 66,928 | 35,319 | 22,761 | 57,028 |
| 候補の数 | 15件 | 16件 | 10件 | 17件 |
| 候補の時点で公式発表が付いていた数 | 12件 | 9件 | 7件 | 13件 |
| 候補の要約の長さ(平均)と出典の数 | 約195字・36件 | 約137字・26件 | 約126字・18件 | 約147字・35件 |
| Jevの判定 | 採用10・保留5・除外0 | 採用9・保留4・除外3 | 採用5・保留4・除外1 | 採用10・保留7・除外0 |
| Jevの費用(入力トークン) | $0.00076(18,097) 全体の約0.02% | $0.00077(18,261) 全体の約0.04% | $0.00048(11,317) 全体の約0.02% | $0.00082(19,629) 全体の約0.01% |
| 掲載 | 10記事+Newsworthy欄4件 | 9記事+Newsworthy欄4件 | 5記事+Newsworthy欄4件 | 9記事+Newsworthy欄7件 |
| 本文記事のうち、当事者の公式ページが出典にある数 | 10/10 | 8/9 | 5/5 | 9/9 |
| セキュリティの記事 | 0件 | 0件 | 0件 | 2件 |
| 動画制作の記事 | 2件 | 1件 | 0件 | 2件 |
| 【緊急】本日9/30が期限の「Gemini Omni Flash」旧版の終了 | 本文・緊急 | 本文・緊急 | 本文・緊急 | 候補に入っていない |
| 【緊急】10/30からChatGPT Pro(月200ドル)の利用枠が半分に | 本文・緊急 | 本文・緊急 | 候補に入っていない | 本文・緊急 |
| Jevの「採用」を書き手が使った数 | 10/10 | 9/9 | 5/5 | 9/10(1件は注記つきでNewsworthy欄へ) |
| 載せた記事のうち、Jevの「採用」から選ばれた数 | 10/10 | 9/9 | 5/5 | 9/9 |
| カテゴリ判定の一致 | 9/10 | 8/9 | 5/5 | 7/9 |
| 緊急かどうかの一致 | 10/10 | 9/9 | 5/5 | 9/9 |
1. 版ごとに、拾うニュースが大きく違った
4つの版すべてで本文記事になったのは、dots、ChatGPT Space、Claude Sonnet 5.5の3件だけでした。セキュリティの記事は、④(Opus・medium)の2件だけです。OpenAIのAIエージェントがオーストラリア政府のサイトに許可なく入った件の謝罪と、OpenAIの新しいデータ保護の仕組みでした。①の冒頭には「新たな緊急のセキュリティ情報は確認できませんでした」、③の冒頭には「セキュリティと動画の大きなニュースは見つかりませんでした」と書かれています。④は、動画生成の「Kling 4.0」とHiggsfieldの新サービスで、重点ジャンルの動画制作の記事も2件ありました。③(Opus・low)は、候補が10件、本文記事が5件で、いちばん少ない版でした。
2. 緊急の2件を両方拾えたのは、Sonnet 5.5の2回だけだった
この号には、読み手が確かめるべき期限つきの話が2件ありました。「Gemini Omni Flashの旧プレビュー版が本日9月30日で終了」と、「ChatGPT Pro(月200ドル)の利用枠が10月30日から半分に」です。①②はどちらも本文記事にし、緊急にしていました。ところがOpus 5.5の2回は、どちらも1件ずつ落としていました。③はChatGPT Proの件が、④はGemini Omni Flashの件が、候補にも入っていません。④は4つの中でいちばん費用が高い($5.78)版です。
3. 同じニュースでも、要約の書き方でJevの「噂か」が変わった
これは、モデルや考える深さに関係なく、はっきり出ました。
| 候補 | 要約の書き方 | 噂の確率 |
|---|---|---|
| Anthropicの上場書類 | ④ 「TechCrunchの報道によると」 | 0.09 |
| ① 「ロイターの報道によると」 | 0.29 | |
| ② 「報道によると」 | 0.75(除外) | |
| OpenAIの年間売上が約700億ドルに | ① 「CNBCの報道によると」 | 0.11 |
| ③ 「報道によると」 | 0.65(🔎要裏取り) | |
| ② 「報道によると」 | 0.68(除外) | |
| ホワイトハウスでのAIの自主管理の合意 | ② 「ロイター等の報道によると」 | 0.17 |
| ③ 「…とCNNなどが報じた」 | 0.17 | |
| ④ 「報道によると」 | 0.57(🔎要裏取り) |
Jevが読むのは、候補の見出しと要約だけです。誰が報じたかを書いた要約は「報道」として扱われ、書かなかった要約は、言葉を文字どおりに読むJevには、うわさ話に近く見えたと考えられます。同じ話でも、書き手が要約に報じた会社の名前を1つ書くかどうかで、除外されるか載るかが分かれました。なお、③はAnthropicについて「10月中旬に上場へ。時価総額2兆ドル超を目指す」という別の報道を候補にしていて、これはまとめサイトだけが出典で「Anthropic自身の発表は確認できていない」と要約に書かれていたため、噂の確率0.89で除外されました。こちらは除外されて当然の書き方です。
4. 公式発表の探し方と、裏取りのやり方
候補の時点で公式発表が付いていた割合は、①が15件中12件、④が17件中13件、③が10件中7件、②が16件中9件でした。本文記事は、②の1件を除いて、どの版も当事者の公式ページを出典にしています。America.govの件で、②(Sonnet・medium)は🔎要裏取りになったあと公式発表を見つけられず、「未確認」の注記のままでした(ホワイトハウスの公式発表があることは、①のあとの確かめ直しでわかっています)。③は、🔎要裏取りになった売上の件で、出典をAxiosとBloombergの報道に差し替えたうえで、「公式発表は未確認」の注記を付けてNewsworthy欄に載せました。④は、Jevが「採用」にした国連の統計サイトへのアクセスの件を、公式発表がないとして本文にせず、注記つきでNewsworthy欄に回しています。
細かいところでは、②のSonnet 5.5の記事の見出しが「Sonnet 5より速く、最大30%安い」で、料金が下がったようにも読めました。Anthropicの公式発表では、料金は前のモデルと同じで、「作業1件あたりの費用が最大30%安い」という話です。①と③は「価格は据え置き」「料金は据え置き」、④は「作業あたりの費用は最大30%安く」と書いていました。
まとめると、4回とも「Jevの判定を見て記事を選ぶ」「期限のある変更を緊急にする」「当事者の発表がない部分に注記を付ける」という手順は守られていました。違いが出たのは、手順の外側にある「どこまで広く調べるか」「公式発表をどこまで探すか」「要約をどう書くか」です。そしてその違いが、Jevの判定にも響きました。費用は②が最も安く($1.89)、④が最も高い($5.78)結果でしたが、高いほど良いとは言えません。④はセキュリティと動画制作の記事が多い一方、今日が期限の話を落としています。緊急の2件を両方拾えたのは、朝の①と夕方の②でした。1回ずつの比べなので、どの組み合わせが良いかを決めるには、同じ設定で何度か動かして確かめる必要があります。
最初は「読者が数日以内に対応すべき話か」と1問で聞いていました。ところが、明らかに緊急な2件でも確率は0.3前後でした。Jevは言葉を文字どおりに読むので、あいまいな質問は苦手です。これは公式ドキュメントにも書かれています。そこで、答えがはっきり出る2問に分けました。
分けた後は、過去号5記事の緊急判定がすべて自分の判断と一致しました。「GPT-6が出るらしい」という噂と、AIと関係のないダミー記事も正しく除外されました。
入力トークンの単価で比べると、Opus 5.5($4.00)はJev($0.042)の約95倍です。黄色の丸1つがJevでかかる金額、白い丸95個が同じ量をOpusで処理したときの金額のイメージです。第6号から書き手になったSonnet 5.5($2.00)と比べても、約48倍です。
「1候補あたり約1,160トークン」は、質問が9問になった第5号の実測(13件で15,070トークン)の平均です。質問が8問だったころは、最初の測定(10件)で約988トークン、第4号で約1,030トークンでした。第6号は15件で18,097トークン(1候補あたり約1,210トークン)です。質問は同じ9問なので、候補の見出しと要約が長めだったぶん増えたと考えられます。作り直した版は、Sonnet 5.5・mediumが16件で18,261トークン($0.00077)、Opus 5.5・lowが10件で11,317トークン($0.00048)、Opus 5.5・mediumが17件で19,629トークン($0.00082)でした。第5号と同じ15,070トークンをOpus 5.5に読ませると、入力だけで約$0.06になります。Opusは考える過程や返答も課金されるので、実際にはもっと高くなります。なお、AI速報の自動発行はClaudeの個人プランの範囲で動かしているため、Opus側の費用が別に請求されることはありません。
ここまでの検証は、過去号の5記事、ダミー記事数件、実際の第4号〜第6号の候補41件と、第6号を3回作り直したときの候補43件だけです。精度を言い切れる規模ではないので、当面はJevの判定を「おすすめ」として扱い、最終判断は書き手のClaudeに任せています。