Anthropicのフロンティア・レッドチームは2026年10月12日、小型のAIモデルがデータセンターを使わずに自己複製できる可能性があるとする研究を公表しました。執筆者はウィリアム・ジョウ氏とダニエル・フリーマン氏です。同チームの実験では、スマートオーブンや無名ブランドのAndroid TVボックスといった市販のIoT機器上で自己複製できる水準に、小型モデルが数カ月以内に達しうると示唆されています。
研究が懸念として挙げたのは、モデルが人間の制御なしに自らを展開し、広がる「自律的な複製と適応」です。従来のワームに近い形でモデルの重みを持ち運び、侵入した機器で推論を動かす「重みベースの複製体」を想定しています。中央の停止点がないため止めにくい一方、増殖は遅く、倍加に数日かかる可能性があるといいます。
実験の一つでは、パラメーター数90億のモデルが、試したハードウェア9種類のうち8種類で推論を動かすことに成功しました。Qwen3.5-9Bなどの小型モデルは、Jetson NanoからMacやRTX 4090まで幅広い機器で推論サーバーを立ち上げられたとのことです。また、約55ドルのAndroid TVボックス15台を連携させ、Gemma4-26B-A4Bを毎秒0.39トークンで動かすデモも示しました。1台あたり4GBのメモリーを想定すると、90億パラメーター級は4台以上、260億パラメーター級は10台以上で動かせる計算です。
複製の流れは、標的の探索、実行権限の獲得、推論の構築、新しい機器からの拡散継続の4段階に分けて検証しました。サイバー攻撃の部分は単純化しており、GCP上に作った8ノードの環境で、認証のないADBポート経由で広がる設定です。結果として、試したオープンウェイトモデルのうち完全な自己複製ができたのはGLM-5.2のみでした。5回中4回で8ノード全部に、1回で7ノードに広がっています。30B以下のモデルは個々の工程の多くをこなせるものの、通して実行すると失敗しがちだといいます。
小型モデルが同水準に達する時期については、30B以下のオープンウェイトモデルの能力指数の推移から、2026年末までと見積もっています。ただし、この指数は複製能力の代理指標にすぎず、大まかな推定だと断っています。
拡散速度の試算も示しました。IoTボットネット「Kimwolf」の感染規模である200万台超に当てはめると、約13万3000のコピーが動く計算で、全体の推論能力はH100約40基分にとどまります。90億モデルの複製には1〜2日以上かかるとしています。
適応についても実験し、Qwen3.5-9Bが前世代のメモ書きを引き継ぐと、推論構築の成功率は初代の45%から、後の世代では61〜84%に上がりました。一方、上位モデルのOpus 4.8に助言を求めさせても、有意な改善は見られませんでした。
防御面では、感染拡大を示す通信の異常をISPが検出できる点や、ハニーポットの活用を挙げました。Miraiボットネットでは、隔離と通知により14日で感染の92%が解消した例があるといいます。メーカーによる初期パスワードの見直しも有効だとしています。同チームは、完全な暴走型の複製体はまだ存在しないものの、その兆しは見え始めていると結論づけました。
出典：AI models may be capable of self-replicating without access to a datacenter