GENIACの第1期目に採択された事業者による成果報告会を開催しました！

第1部
個性豊かな採択事業者の成果報告とハイパースケーラーによる総括講演

はじめに、経済産業省 商務情報政策局 情報処理基盤産業室 室長 渡辺 琢也氏が、AI 戦略会議の構成員が整理した「AI に関する暫定的な論点整理」に記載された言葉を引用しながら、生成AIが社会にもたらす意義や改善のサイクルによってグローバルに大きな「豊かさ」を生み出すことの重要性を説明し、半年間の取り組みを振り返りました。

次に、本事業で採択された各開発事業者が達成した成果について発表しました。

 

「LLM（大規模言語モデル）の開発と社会実装の壁をいかに克服するかについて、本事業ではクオリティとコストのトレードオフの関係を乗り越えるために、低コストの個別モデル作成のための基盤モデルと高精度なRAGを組み合わせる仕組みを開発しました」（岡田氏）

 

「日本語に強いGPT-3級の大規模言語モデルの構築にあたり、その成果を失敗や改善方法も含めてすべてオープンにすることにしました。開発中の172B（1,720億）パラメーターモデルは、GCP利用終了後も別の計算資源で事前学習を継続していきます」（黒橋氏）

 

「Llamaなどの基盤モデルに対して独自の継続学習とモデルサイズの拡張（Depth Up-Scaling）によってGPT-4を超える性能を達成しました。また、日本での社会実装を見据え、法令・行政手続きなどの特化学習による性能向上を目指しています」（垣内氏）

 

「汎用性の高い13億と70億パラメーターの音声基盤モデルの開発に取り組みました。多様なスタイルで利用できる流暢な日本語生成や声真似、同時翻訳、オフラインでの利用に対応しています。また、商用APIやチャットボット公開を予定しています」（小島氏）

 

「1,000億パラメーターをゼロから開発した基盤モデル『Stockmark-LLM-100b』は、ビジネスシーンにおける生成AI活用で問題視されがちな“ハルシネーション”を大幅に抑止したことが特徴です。当モデルに社内の秘匿情報を学習することで、素材の用途探索など多用途なビジネスに利用できます」（有馬氏）

 

「本事業では、小型かつ高性能なエージェント向け基盤モデルを開発しました。基盤モデルを開発する価値は、構築した知見にあると考えます。蒸留、疎性、進化的モデルマージの研究成果はすべて公開準備中です。また、自律型エージェント『AI Scientist』についても開発を進めています」（秋葉氏）

 

「完全自動運転に向けたマルチモーダル基盤モデルの開発を進めています。本事業では、カメラ映像から何があるかを認識する視覚-言語モデル『HERON』を開発しました。730億パラメーターのモデルは国内最高水準の性能を発揮し、モデルやデータセットなども公開しています」（山口氏）

 

「自然言語テキストからのナレッジグラフの生成と、ナレッジグラフから回答を論理推論する2種類の特化型LLMを本事業で開発しました。日本語の知識処理能力のベンチマークで世界最高性能を達成し、今後の展開として、ナレッジグラフ拡張RAGや業務特化型LLM 「Takane」（高嶺：タカネ）についても開発を進めていきます」（白幡氏）

 

「国際競争力のある1,000億／1兆パラメーターからなる大規模マルチモーダル基盤モデルを国内でゼロから構築できる技術基盤を確立しました。この成果に基づき、商用のエッジ向け SLM『PLaMo Lite』を提供開始しており、近日中に『PLaMo Prime』のリリースも予定です。（岡野原氏）

 

「多様な日本語能力の向上を目指したオープンな基盤モデルの開発を行い、約4カ月の開発期間に229人のメンバーと3,000名を超える開発コミュニティが形成できました」（川崎氏）
「8×8Bの開発結果として、対話や作文能力で国内トップの性能を達成しました」（畠山氏）

ハイパースケーラーからの期待の声と第1サイクルの振り返り

採択事業者のプレゼンテーションの後、計算資源を提供したハイパースケーラーによる総括コメントが寄せられました。

 

「基盤モデルのベースとなるTransformerは、パラメーター数の増加とともに精度が飛躍的に向上してきました。しかし、今後は目的に応じてパラメーター数やデータセットの大きさ、その品質と計算資源コストのバランスを考えてデザインしていく時代になると感じています。そこにはそれぞれの基盤モデルの開発者の個性が現れますが、例えば、東京大学松尾・岩澤研究室さんのTanuki-8Bモデルには感動しました。今後は専門知識が求められる分野においても、さまざまな特化型の基盤モデルが求められる時代になってくるでしょう。

今回の成果報告では、例えばSakana AIさんのプレゼンテーションにあった『知見が大事である』ということや、東京大学松尾・岩澤研究室さんの『開発者コミュニティをつくる』といったキーワードがまさにGENIACの成果だと感じています。さらに日本と基盤モデルの関係に視野を広げると、今後は日本語をはじめとした言語の特殊性や、多様な産業に合わせた基盤モデルの開発が課題となります。GENIACコミュニティで培われた知見によって、事業者の皆様がイノベーションをリードしていく立場になっていくと感じています」（安原氏）

 

「生成AIがこの2年ほどのブームですが、これが一時的な流行ではなく、社会変革を引き起こす技術だと考えています。特に基盤モデル開発はデータの利活用が鍵となり、より大きな価値を生み出すものであるという認識が必要でしょう。この分野の世界のトレンドとして、まずテキストだけでなく音声や画像などを扱う『マルチモーダル』があります。さらに、A Iモデルの多様化、いわゆる『マルチモデル化』が進んでいて、本日の成果発表でもTuringさんの完全自動運転など特化型LLMが時流に乗っていると感じました。一つの汎用AIがすべてを独占的に支配するのではなく、特定の用途に応じたモデルが使われる『適材適所』の世界が形成されつつあるのです。また、これまでの人間対AIという関係だけでなく、複数のAI同士が協力して作業を進める『マルチエージェント』に向けた動きが今後盛んになり、『ハイパーオートメーション』によって多くの社会課題の解決が加速していくのではないかと予想しています。

GENIACの第1サイクルを振り返ると、汎用モデルから特化モデルに舵を切った事業者が多く、Kotoba Technologiesさんの音声基盤モデルや、ストックマークさんの社内に視点を定めて取り組むアプローチなど、それぞれ強いミッションを持って社会課題解決に挑む動きがさらに本格化していくでしょう。マイクロソフトとしても、計算資源や開発プラットフォーム、データプラットフォームの提供などを通じてイノベーションの加速を支援してまいります」（大谷氏）

 

「GENIACには、計算資源、データ、ナレッジシェアの3つの柱があると聞いています。特に大規模な計算リソースが必要な生成AI研究において、これらの資源が日本企業に提供される意義深さを感じています。NVIDIAには重要な週報をグローバルに共有する文化があり、CEOのジェン・スン・フアンから直接フィードバックがあることもあります。これは、オープンなコミュニケーションがグローバルな視点でトレンドを把握することにつながると考えているからです。

大規模言語モデルの研究開発も急速に進化しています。生成AIの学習や推論は、ほぼHPC（高性能計算）タスクと同等であり、大規模なインフラや大規模分散学習の専門知識が必要になるなど、一部の企業には追随が難しいと現状もあります。こうした状況の中、GENIACを通じて、日本からの技術的な貢献が国際的に評価された事例もあり、GENIACの取り組みが日本の研究基礎能力の向上に確実に貢献していることも大きな成果だと感じています」（村上氏）

 

第1部の最後には、経済産業省 渡辺氏よりGENIACにおけると今後の課題や展望についての説明が行われました。これまでの成果としては国内の生成AI研究開発の基礎体力づくりが実施できたことと、開発と利活用を促進する好循環をつくることに着手できたことを挙げ、今後の課題として生成AIの社会実装に向けて、シーズベースの研究開発から、特定のニーズを踏まえたさらなるモデル性能の向上や、データの利活用の拡大が必要となることが説明されました。

 

第1部を締めくくる挨拶として、NEDO 高田氏から、約半年間という限られた期間にも関わらず、計画を立て計算資源を調整し、トラブルにも対応いただいたハイパースケーラーや審査をご担当頂いた外部有識者への感謝が述べられました。

参加事業者と個人に5つのGENIAC賞が贈られる
第2部 成果報告会の各賞の表彰式

第2部は経済産業省 商務情報政策局長 野原 諭氏による乾杯の挨拶から始まり、野原局長をプレゼンターとして、今回の成果への貢献を讃える表彰式が執り行われました。5つの賞は参加事業者の投票によるピアレビューが行われ、受賞した事業者に賞状が授与されました。

 

新規モデル賞：Sakana AI株式会社
新規性の高いモデルを開発し、他の事業者からの評価が高かった「新規モデル賞」はSakana AIが受賞しました。「本気で取り組んでもダメなこともある中、3つの成果を出せたことをうれしく思っています」（秋葉氏）

 

技術モデル賞：株式会社Preferred Elements
実現のための技術難易度が高く、他の事業者からも評価が高かった「技術モデル賞」はPreferred Elementsが受賞しました。「チームメンバーの頑張りを認めていただきうれしく思います。この成果を早く世の中に届けたいです」（岡野原氏）

 

コミュニティ賞：大学共同利用機関法人情報・システム研究機構 国立情報学研究所 小田 悠介
GENIACコミュニティの中で積極的にイベントに参加し、コミュニティの活性化に貢献した個人としてNIIの小田 悠介氏が「コミュニティ賞」を獲得しました。当日は小田氏が欠席のため「大変身に余る光栄です。今後も尽力します」とコメントが代読されました。

 

ナレッジ賞：株式会社Preferred Elements
モデル開発の進捗状況や、開発に役立つ情報などナレッジシェアの観点で大きな貢献を果たした事業者として、Preferred Elementsが技術モデル賞に続き、「ナレッジ賞」を獲得しました。「LLM開発は研究分野が幅広く情報共有が重要と考えています」（鈴木氏）

 

GENIAC プレゼン賞：株式会社Kotoba technologies Japan
成果報告会において、聞き手によってわかりやすく先進性を感じさせるプレゼンテーションを行った事業者として、Kotoba technologies Japanが「GENIAC プレゼン賞」を獲得しました。「小規模な事業者でも音声モデルの可能性を感じていただき支援いただいたことを感謝しています」（笠井氏）

 

GENIAC 第1期目の成果報告会では、事業者による成果報告やハイパースケーラーによる総括コメント、表彰式等、多くのイベントが滞りなく開催されました。今後は第2サイクルの稼働に向けた動きが始まります。今後のGENIACの活動にご注目ください。

GENIACトップへ