GoogleはAndroidにAIを統合することでAppleとの差別化を狙っていると言われています。そのためかGoogle Pixelで実装された機能の一部はAndroidの標準機能になったりもしており、Google Pixel自体の存在がある意味AIのリファレンス機に近い立ち位置なのかなと思います。
そしてGoogleが力を入れている部分としてはGoogle AIのオフライン処理で、現状だと出来ることが限定的だからこそ意味がないと言われています。ただ韓国のメディアサイトによると、AppleはAIのオフライン処理の流れを大きく帰る可能性があるとしています。
Apple intelligenceを支える技術。
まずAIといっても「オンライン」処理か「オフライン」処理に分かれ、Appleの新しいFoundation Modelは以下のようになるとしています。
| 特徴 | |
| オフライン処理 |
|
| オンライン処理 |
|
そして今回注目されているのが「AFM 3 Core Advanced」だとしています。通常であれば20B級のAIはスマホで動作することは出来ないとしています。そしてその理由としてはシンプルで「RAM」が不足するからだとしています。
ただAppleはRAMに保存するのでは「AFM 3 Core Advanced」自体はストレージに保存することで、RAM不足という問題を改善したとしています。
必要に応じて引き出す。
またAppleはElasticity（弾力的推論）」と呼んでいますが、要はユーザーの要求に合わせて引き出すパラメーターを調整する感じになります。常に20Bという大容量を動かすのではなく、基本的には1B~4Bをタスクに応じて引き出して処理するとしています。
なのでAIの巨大モデルを全てRAMに搭載するのではなく、必要な分だけをストレージから読み込むようにすることでAIのオフライン処理を強化するという流れになっています。
ちょっと調べた感じだと最大値としてはオンラインに匹敵するような20B相当のタスクを処理できるような雰囲気ですが、「理論値」にちょっと近いのかなという印象をどうしても受けてしまいます。
Pixelとの違い。
認識違いだったら申し訳ないですが、Google Pixel 10シリーズなど一部AndroidはAIモデルとして「Gemini Nano」を統合しています。さらにGoogle Pixel 10シリーズでみればAI CoreをRAMに常駐させることで処理速度や起動速度の改善を手出すけしていると言われています。
今回のAppleの違いをみると、Google Tensor G5だと最大8Bあたりの処理が可能とされています。つまり最大値でみればGoogle Pixel 10シリーズは半分以下ということになります。
一方でAIモデルをストレージに保存するデメリットとしては「ストレージ」から「RAM」の引き渡す際の処理速度がネックになるみたいです。なのでAppleはプロンプトに応じて必要な分をRAMに引き込むとしています。
つまり軽いタスクであれば効率的に処理することが可能だと思いますが、ただ重いタスクになったときは処理速度の問題にネックなのかなと思います。
| ちょっと整理 |
| そもそもスマホ向けのRAMに20B級のAIモデルをインストールは出来ない |
| だからストレージにインストールした |
| そして必要に応じてストレージからRAMに引き出して処理することで処理効率を担保している |
こう考えると仮に20B級の指示をした場合にRAMに移動させることが出来ないことからもストレージ上で結局処理するのではないのか？と思っちゃいます。一方でGoogleはそこまでの大容量に対応していないですが、いかに効率的に処理できるか重視している印象です。
何よりGoogleがGoogle Tensor G6でどのようにオフライン処理を強化してくるのかなと思います。とりあえずユーザーとしては「最大値」ではなく実用性が重要だと思います。
Appleが「20B」を強調しなかったことを考えると最大値に対して実用性があまりないのかもしれません。この中でGoogleがPixel 11シリーズでどのように見せるのか気になるところです。
