【続報】前回はメリットしか書いていなかった——Anthropicの見解で気づいた、オープンウェイトのもう半分
7月23日に、このブログで「AIモデルが重みを配る側と配らない側に分かれてきた」という観察記事を書きました。
その数日後の7月27日、Anthropic が「オープンウェイトのモデルについての自社の立場」という文書を公開しました。ちょうど前回の記事で扱ったテーマそのものについて、閉じている側の当事者が自分の言葉で説明した形になります。タイミングが良かったので、せっかくですから続編として書いてみることにしました。
まず、私が扱えない部分について
この文書を読んでまず思ったのは、「これは私の手には余る」ということでした。
発表には、特定の国に対する懸念や、半導体の輸出をどう制限すべきかといった、政策に関する主張がかなりの分量で含まれています。この記事では、そこには触れません。
どちらかの肩を持ちたくないから避ける、ということではありません。単純に、その領域について意見を述べられるほど、私の知識が追いついていないからです😅 分かっていないことについて分かったふりで何か書くのは、このブログでやりたいことではないので、正直に置いておくことにします。
私が読みたかったのは、そこではなく、立場や政策と関係なく成り立つ部分——技術的に何が起きるのかという記述のほうでした。
共感したのは、リスクの指摘のほう
そして、その部分は素直に共感できました。
once weights are released they cannot be withdrawn
（いったん重みが公開されたら、それを取り下げることはできない）
同じ文書には、重みが公開されると安全のための仕組みが後から取り外せてしまうこと、誰がどう使っているのかを見に行けなくなること、といった指摘も並んでいました。
読みながら、少しばつの悪い気持ちになりました。というのも、前回の記事で私は、オープンウェイトのメリットしか取り上げていなかったからです。
前回私が書いたのは、手元に重みがあれば提供元の都合に左右されないこと、入力したデータが外に出ないこと。どちらも自分の関心に近い、良い面ばかりです。6月に Claude Fable 5 が突然使えなくなった経験があったので、「取り上げられない」という性質を、私はほとんど安心の材料としてだけ眺めていました。
でも、その「取り上げられない」は、裏返せば「間違いがあっても回収できない」ということでもあります。同じ性質の話をしているのに、私は片側しか見ていませんでした。
割り引いて読んでも、残るものがある
もちろん、この主張をそのまま受け取るつもりはありません。
これを述べているダリオ・アモデイ氏は、Anthropic の CEO です。 つまり、重みを配らない側の会社を経営している人の発言であり、そこにはビジネス上の立場が当然入っています。中立な第三者の分析ではありません。私は Claude に毎日お世話になっている立場ですが、いや、だからこそ、そこは差し引いて読むべきだと思っています。
そのうえで、です。その割引を効かせてもなお、「一度配ったら回収できない」という指摘自体は残ります。 これは誰が言おうと成り立つ性質だからです。立場を差し引いた後に何が残るかを見る、というのが、こういう文書とのちょうどいい付き合い方なのだろうと思いました。
もうひとつ、開く・閉じるの対立とは別のところにある主張として、「十分に強力なモデルは、オープンかクローズドかを問わず、安全性のテストを受けるべきだ」という一文がありました。これはどちらか一方を利する話ではないので、素直に受け取れる指摘だと感じています。
そして同じ日、Kimi K3 の重みが公開された
もうひとつ、同じ7月27日に動きがありました。前回の記事で「予告どおりに公開されるのか、静かに見ています」と書いた Kimi K3 の重みが、予定どおり Hugging Face 上で公開されたのです。
パラメータ数は2.8兆、一度に読み込める文章の量は100万トークン。いま最前線と呼ばれている規模のモデルが、重みごと配られる。 少し前まで、この規模のモデルは提供元のサーバー越しに使わせてもらうものだと思っていたので、正直なところ、これは軽い衝撃でした。前回の記事で「地図が分かれてきた」と書いた、その分かれ方の振れ幅が思っていたより大きかった、という感覚です。
ただし、ここは分けて考えておきたいのですが、重みが公開されたことと、私がそれを動かせることは別の話です。2.8兆パラメータのモデルは、個人のパソコンに載る規模ではありません。私が触るとしたら、結局はどこかのサービス経由になります。
そしてもうひとつ、前回の記事で「モデル名ではなくライセンスの条文を確認したほうがよさそう」と書いたので、今回は自分で読んでみました。
Kimi K3 のライセンスは、Apache-2.0 や MIT のような広く知られたものではなく、kimi-k3 というこのモデル専用のものでした。売上や利用者数が一定の規模を超える事業者には追加の条件が付く、という作りになっています。逆に言えば、その規模に届かない範囲であれば、条件はかなり緩やかです。条文は Hugging Face 上で読めるので、気になる方は一度目を通してみてください。
「オープンウェイト」と一口に言っても、こうして中身の条件は一つひとつ違います。ここは前回書いたとおりで、自分でも実際にやってみて改めて納得しました。
私の立場から見ると、どちらにもメリットがある
私は普段、社内向けや企業向けにモデルを使ったサービスを組み立てる側にいます。その立場から見ると、オープンウェイトとクローズド、どちらにもはっきりとメリットがあります。
手元に置ける重みは、データを外に出さずに済むこと、提供元の都合で止まらないこと、条件を自分で確認して固定できることが強みです。一方で提供元のサーバー越しに使うモデルは、安全のための仕組みを向こう側が更新し続けてくれること、こちらで機材を抱えなくていいことが強みです。どちらか一方が正解という話ではなく、扱うデータと求められる条件によって、選ぶものが変わるという感覚です。
そのうえで、今回の文書を読んで、これは事実として認めなければいけないと思ったことがあります。配られた重みは、悪意のある人の手にも同じように渡る。 私が「データが外に出ないので安心だ」と喜んでいるのと、まったく同じ性質が、そちらにも効いてしまう。ここに例外はありません。
では、それをどう扱うのか。いまのところ、LLMの進化の速さに対して、枠組みのほうが追いついていないというのが、私の正直な感想です。誰がどこまで責任を持つのか、どういう場合に何が求められるのか、まだはっきりしていない部分が多いように見えます。
これから少しずつ整備されていくのでしょうか。それとも、しばらくはこのまま走り続けることになるのでしょうか🤔 ここは私にも見通しが立ちません。ただ、今回のような文書が当事者から出てくること自体が、その整備に向けた動きの一部なのかもしれない、とは思いました。
おわりに
前回の記事を書いたときの私は、オープンウェイトの良い面だけを見ていました。それに気づけたのが、今回いちばんの収穫だったと思っています。
自分の見方に角度がついていたことに、他人の文章を読んで気づく。これはなかなかない経験でした。引き続き、両側を見るようにしながら追いかけていきます。