- Metaは7月18日（米国時間）、次世代のオープンソース大規模言語モデル「Llama 2」の提供開始を発表します。
- Llama 2を研究および商用向けに無償で提供します。
- マイクロソフトとMetaは、長年のパートナーシップを拡大し、マイクロソフトはLlama 2 の優先パートナーになります。
- Metaは、今日のAI技術に対するオープン・イノベーションのアプローチを支持し、技術、学術、政策にまたがる幅広い企業や人々の支援を受けて、Llama 2 へのアクセスをオープンにしています。
- Metaは責任のある技術開発と構築に努めており、Llama 2の利用者がLlama 2を責任のある形で利用できるようにリソースを提供します。
AI、特に生成AIにおける近年の飛躍的な進歩は、人々の想像力を掻き立て、技術開発者が長年、想像していたことを実証しています。これまで考えられなかったことを可能にしたり、新時代の経済的・社会的機会を創出したり、個人やクリエイター、そしてビジネスに、自己表現と人々とつながる新しい方法をもたらす可能性があります。
Metaは、現在のAIモデル、特に技術が急速に進歩している生成分野のモデルの開発には、オープンなアプローチが適していると考えています。AIモデルをオープンにすることで、すべての人が利益を享受できます。ビジネス、スタートアップ、起業家、研究者が、他の方法では利用できないコンピューティング能力のもと、自社では構築できない規模で開発されたツールを利用できるようになることで、試行錯誤を重ね、エキサイティングな方法でイノベーションを起こし、最終的に経済的・社会的利益を得られる機会を広げます。
またMetaは、このアプローチが安全でもあると確信しています。今日のAIモデル利用のオープン化により、同一の世代の開発者や研究者が、コミュニティとして迅速にストレステストを行えるようになります。これらのツールが他のチームでどのように使用されているかを把握しながら、学び、ツールを改善し、脆弱性を修正することができます。
Metaは10年以上に渡り、探索的研究、オープンソース、学術界や産業界のパートナーとのコラボレーションをAIへの取り組みの中心に据えてきました。私たちは、オープンな場でのイノベーションが、より多くの人々に利益をもたらすテクノロジーにつながることを目の当たりにしてきました。大規模な言語モデルはすでに何十種類もリリースされ、開発者や研究者の進歩を牽引しています。それらは、AIを活用した新しい生成的な体験を導く中核要素として企業に利用されています。研究者からのLlama 1 に対する高い需要（大規模言語モデルの利用を求めるリクエストが10万件以上）を有するとともに、Llamaを用いて卓越した功績が達成されました。
この度、次期バージョンとなる Llama 2をオープンソースとする準備が整い、研究および商用向けに無償で利用いただけるようになります。これには、事前学習バージョンと会話型ファインチューニング・バージョンのモデルウェイトとスターティング・コードが含まれます。マイクロソフトが主催するイベント「Microsoft Inspire」でのサティア・ナデラ氏の発表にある通り、MetaはLlama 2の優先パートナーとしてマイクロソフトとのパートナーシップを一段引き上げ、生成AIにおける取り組みを拡大します。本日より、Llama 2はAzure AIモデルカタログで利用できるようになり、Microsoft Azureを使用する開発者はLlama 2を使って設計し、コンテンツフィルタリングや安全機能のためのクラウドネイティブツールを活用できます。また、Llama 2はWindows上でのローカル動作に最適化されているため、開発者は、顧客がさまざまなプラットフォームで生成AI体験を享受できるようにするシームレスなワークフローを実現できます。またLlama 2はAmazon Web Services (AWS)やHugging Face、その他のプロバイダーでもご利用いただけます。
マイクロソフトとMetaの長年のパートナーシップにより、人々や企業はさまざまな恩恵を享受してきました。私たちは共に、互換性のあるAIフレームワークのためのオープンなエコシステムを導入し、AIの最先端技術を発展させる研究論文を共著してきました。私たちは、MetaとAIコミュニティによって作成された今日の主要なAIフレームワークであるPyTorchのAzure上での採用拡大に協力しており、PyTorch Foundationの創設メンバーの一員でもあります。マイクロソフトとMetaは最近、シンセティック・メディアの作成と共有における集団行動のためのPartnership on AIのフレームワークを支持する支援者にも加わりました。私たちのパートナーシップはAIの枠を超え、未来の仕事と余暇のための没入型体験を提供するメタバースにも広がっています。
現在、マイクロソフトとMetaは、このパートナーシップの強化により、オープンなアプローチをサポートし、世界中のビジネスに利益をもたらす基礎的なAI技術へのアクセスを拡大しています。今日のAIモデルへのアクセスの民主化を信じているのは、Metaとマイクロソフトだけではありません。このオープンなアプローチを信じている世界中の多様なサポーターもいます。初期段階からフィードバックを提供し、Llama 2を活用した新製品の開発に期待している企業、Llama 2を顧客に提供するクラウドプロバイダー、大規模な生成モデルの安全で責任あるデプロイについてMetaと協力している研究機関、そして私たちと同じようにメリットを感じている技術、学術、政策に携わる人々などです。
責任への焦点
Metaのオープンソースのアプローチは、透明性と容易な利用を促進しています。私たちは、AIが社会に大きな進歩をもたらす一方で、リスクも伴うことを把握しています。Metaは、責任のあるAIの開発に取り組み、Llama 2を利用する人々も同じように責任のある利用を行えるように、多くのリソースを提供してまいります。
- レッドチーム演習: 微調整されたモデルには、社内外が注力しレッドチーム（安全性のテスト）が行われました。チームは、モデルのファインチューニングを促進するため、敵対的なプロンプトの生成に努めました。さらに、ファインチューニングしたモデルについて、同様に性能のギャップを特定するために、第三者に依頼して外部の敵対的テストを実施しました。これらの安全性のファインチューニング・プロセスは反復的なものです。私たちはファインチューニングとベンチマーキングを通じて安全性への投資を継続し、これらの取り組みに基づいてファインチューニングされたモデルの更新版をリリースする予定です。
- 透明性の概略図：モデルのファインチューニングと評価方法を説明し、その欠点を明らかにします。研究論文に含まれる私たちの透明性図式は、私たちが経験した既知の課題と問題点を開示し、講じた緩和策と今後検討する予定のものについてのインサイトを提供します。
- 責任ガイド：責任ある開発と安全性評価のベストプラクティスで開発者をサポートするリソースとして、このガイドを作成しました。このガイドには、業界やAI研究コミュニティで議論されている、責任ある生成AIに関する現在の最先端の研究を反映したベストプラクティスの概要が記載されています。
- 利用規定：これらのモデルが公正かつ責任を持って使用されていることを保証するために、特定の使用例を禁止するポリシーを設けています。
また、Metaは世界中の個人、研究者、開発者の洞察力と創造性を活用し、モデルがどのように機能し、どのように改善される可能性があるかについてのフィードバックを得るための新たな取り組みも行っています。
- オープンイノベーションAI研究コミュニティ：また本日、大規模言語モデルの責任ある開発と共有についての理解を深めることを目的とした、学術研究者向けの新しいパートナーシップ・プログラムも開始しました。研究者は、この重要なトピックに関する学びを共有するための実践者のコミュニティへの参加を申請することができ、コミュニティでは今後追求すべき研究課題を設定します。
- Llama for Impact Challenge：Metaは、Llama 2を使って困難な問題を解決しようとするイノベーターのコミュニティを活性化したいと考えています。私たちは、環境、教育、その他の重要な課題を解決するためにLlama 2を使用する多様な公共、非営利、営利団体を奨励するための挑戦プログラムを開始します。この挑戦プログラムのルールは、開始前に公開される予定です。
AIモデル利用の民主化は、新しい製品やサービスを開発する小規模なクリエイターや開発者、そして人々が発見した改善点を自社のモデルやビルドに採用できる大企業に利益をもたらします。開発者は、研究機関や企業を問わず、AI実践者の集合的な知恵、多様性、創意工夫を活用し、大規模言語モデルの可能性を活用できます。
Metaはその歴史を通して、他の事業分野でイノベーションを起こす際にも、オープンサイエンス的アプローチの利点を経験してきました。私たちのエンジニアは、ウェブやモバイルアプリケーションを作成するための主要なフレームワークであるReactや、今ではAIの主要なフレームワークであるPyTorchなど、現在の業界標準となっているフレームワークを開発し、共有してきました。これらはテクノロジー業界全体で一般的に使用されるインフラとなりました。私たちは、大規模言語モデルのオープンな共有化が、有益で安全な生成AIの開発をもサポートすると信じています。
私たちは、 世界中がLlama 2を用いてどのようなものを作り上げるかを楽しみにしています。