著者 | ヴァンダナ・ネア

ノアによる編集

AppleはAIの進歩において常に慎重で、保守的と言ってもいいでしょう。しかし、最近の報道によると、Appleはひっそりと何か大きなことに取り組んでいるようです。

2ヶ月前、Appleが生成型AIツールとチャットボットを開発しているというニュースが報じられると、市場の好感からAppleの株価は過去最高の198.23ドル（2.3%上昇）に達しました。しかし、AppleがLLMでAjaxを使用し、社内でAppleGPTと名付けていること以外、このモデルに関する詳細は公表されていません。

The Informationの最近の報道によると、Appleは2000億以上のパラメータを用いてAjax GPTを学習させており、GPT-3.5よりも強力だと噂されています。さらに驚くべきことに、Appleはこれまでにない行動に出ました。コードをGitHubでオープンソース化したのです！

1. 前例のない動き

今年 7 月、Apple は AXLearn コードを慎重に GitHub にアップロードし、一般の人がゼロから始めることなく、AXLearn を使用して独自の大規模言語モデルをトレーニングできるようにしました。

AXLearnは、Appleが過去1年間かけてAjax GPTのトレーニング用に開発した社内向け機械学習フレームワークです。機械学習モデルを迅速にトレーニングするためのビルド済みツールとして利用できます。AjaxはGoogleの研究者によって開発されたオープンソースフレームワークJAXから派生しており、AXLearnの一部のコンポーネントはGoogle TPU向けに最適化されるように特別に設計されています。

Appleは革新的なソリューションにおいてはるかに先を進んでいるかもしれませんが、同時に、自社の優先事項を何よりも優先するという悪い側面も持っています。Appleは長年、クローズドソース環境を推進することで悪名高く、その技術やコードは公開されていません。

Metaのlama-2、AnthropicのClaude-2、Falcon、Vicunaといった大手テクノロジー企業が優れたオープンソースモデルをリリースする一方で、Appleは一貫して伝統的な秘密主義を堅持しており、これはOpenAIも踏襲している。Appleのクローズドソースアプローチは、テクノロジーコミュニティから批判を浴びており、Appleは大手テクノロジー企業が公開する研究成果から利益を得ているにもかかわらず、何の見返りも与えていないと主張している。

Appleがトレーニングソフトウェア「AXLearn」をオープンソース化するという決定は、同社の秘密主義からの大きな一歩です。この動きは、AI研究コミュニティにおけるコラボレーションとイノベーションを促進する可能性があり、AI開発におけるオープン化への幅広い潮流を反映しています。

AppleがGitHubでコードを公開することを決めた正確な動機は明らかにされていないが、同社がAI開発に毎日数百万ドルもの巨額の投資を行っていることは、AI競争に積極的に参戦するという決意を反映していることは明らかだ。

興味深いことに、同社は先月香港で「AXLearn」の商標を申請した。

2. Googleの文化を模倣する

Apple の人工知能責任者である John Giannandrea 氏と、会話型 AI 基礎モデル チームの責任者である Ruoming Pang 氏は、ともに以前は Google に勤務しており、豊富な経験を持っています。

ジャンナンドレア氏は、AppleをGoogleのような企業にし、従業員に研究、論文発表、革新的なアイデアの探求といった自由度を高めるというビジョンを提示した。これまでAppleはこれらの分野に制約を設けており、人材の育成と採用を阻害していた。

AppleはGoogleとMetaのAIプラットフォームチームから優秀な人材を引き抜いたと報じられています。過去2年間、GitHub上のAXLearnへの貢献者18人のうち、少なくとも7人はGoogleまたはMetaで勤務経験があります。Appleは研究コミュニティを通じた人材育成へのアプローチを調整し、オープンソースこそが今後の正しい道であると認識したのかもしれません。

3. 手がかりを解読する

入手可能な情報に基づくと、Appleは言語モデルと画像モデルの研究のために2つの新しいチームを編成したようです。Appleの最近のAI研究レポートでは、画像、動画、3Dシーンを生成できるソフトウェアの開発が示唆されており、テキスト、画像、動画を処理できるマルチモーダルAIの研究を進めていることが示唆されています。

しかし、LLMのApple製品への統合については依然として不確実性があります。Appleはこれまで自社デバイスへの新ソフトウェアのインストールを好んできましたが、2000億パラメータのLLMをiPhoneに統合することは、必要なストレージ容量と演算能力の増加を考えると現実的ではないと思われます。同社は、電話機への統合用に小型モデルを開発するか、このモデルを他の用途に転用する可能性がありますが、詳細は依然として不明です。

オリジナルリンク:

https://analyticsindiamag.com/apple-springs-a-surprise-embraces-open-source-training-method/