* 本研究会は、以下の研究費等の支援を受けて開催されます:
JST CREST JPMJCR22D3「記号推論に接続する機械学習」
2023年8月29日(火), 30日(水)
以下の人工知能学会発表申込フォームより参加申込を行ってください。
https://www.ai-gakkai.or.jp/sig-system/sigusers/add/fpai/125
当研究会の聴講は無料です.
ハイブリッド開催
オンライン会場はZoom、リアル会場は岩手県盛岡市マリオスの18階188会議室になります。
特集「機械学習と記号推論」および一般
大規模言語モデルをはじめとしたAI技術が社会に急速に浸透しつつあり、その根幹技術である機械学習の重要性が増しています。一方、記号推論による厳密かつ解釈性が高いデータ処理技術は、これまで人工知能の中核技術として発展してきましたが、深層学習を中心とした現代的な機械学習とは少し隔たりがあります。そこで今回の研究会では、機械学習と記号推論の合流を見据えて、「機械学習と記号推論」に関する企画セッションを開催するとともに、このトピックに関連する研究発表を募集します。また、これに限らず、人工知能の基本問題に関する理論や応用の発表も幅広く募集します。
信頼されるAI-CPSのためのオートマトン学習によるアプローチ
近年、AIシステムや物理情報システム(CPS)が幅広く使われ始めている一方で、その信頼性の確保には未だ課題がある。本発表では、信頼されるAI-CPSのためのオートマトン学習と形式手法を組み合わせたアプローチについて紹介する。本アプローチでは、オートマトン学習を用いてブラックボックスなAI-CPSの挙動を近似し、近似したオートマトンに対して形式手法による検証・解析を行う。結果として、システムの挙動の説明と「正しさ」の保証の両立を目指す。より具体的には、オートマトン学習の概要紹介の後、オートマトン学習とモデル検査を組み合わせた自動テスト手法(ブラックボックス検査)の確率的システムへの拡張や、制御器生成を組み合わせた安全な強化学習手法(shielding)のオートマトン学習を用いた拡張などの成果について説明する。
生成AIと記号推論
生成AI技術、特に大規模言語モデル(LLM)の利用拡大に伴い、記号推論への関心が高まってきている。本講演ではまず、LLMにおける推論の可能性、LLMを拡張して推論を実行させる手法、LLMの基礎となっているトランスフォーマーを使った推論方法等について概観する。続いて、機械学習と記号推論の結合に関して、認識・学習・推論という一連の知能を共通の土台で扱うための基盤を提供するための我々のアプローチについて紹介する。その第一歩として、代数的手法を用いた記号推論手法を開発しており、行列やテンソルという代数的構造を用いて論理式や制約を表現し、線形代数計算や連続空間における最適化手法を用いることで、高い並列性とスケーラブルな高速計算を可能とし、ノイズに対して頑健であるようなロバストな推論方式の実現を目指している。
検証器つき機械学習モデル
機械学習技術を活用したAIシステムは様々な場面で用いられている。 しかし、機械学習モデルがどのように振る舞うのかを網羅的に予測することは 困難であり、結果としてシステムの開発コストの増加につながる。 そこで、機械学習モデルに検証器を接続することによって、 機械学習モデルの入出力が与えられた制約条件を満たすことを 保証可能な、検証器つき機械学習モデルに関する研究を紹介する。 発表では検証器を用いることで予測誤差がどのように変化しうるかを理論的に解析した結果などを紹介する。
統計多様体上での安定なテンソル・行列分解
テンソルから特徴を抽出するための方法としてデータに低ランク性を課す低ランク分解が行われてきた.しかし,低ランク分解はランクの設定が非自明であり,また一般に非凸最適化を含むために不安定となる.そこで,本発表ではテンソルや行列の分解を双対平坦な空間で特徴づけることで,隠れ変数をもたない指数型分布族の最尤推定として定式化し,凸最適化で大域最適解が求まる安定な分解を提案する.本手法では従来のランクの代わりに,テンソルのモード(軸)を確率変数とみなし,この確率変数間の相互作用を制限することで,より直感的な分解が可能となる.
AdamB:AdamWのベイズ拡張による安定したベイズ深層学習法
ベイジアンニューラルネットワーク(BNN)は重みを確率分布として扱うことで、パラメータの不確実性をモデル化します。しかし、その学習は難しく深層学習への応用は限定的です。BNNは重みがサンプリングされることで損失がノイジーになるため学習が難しいとされますが、そうした損失から上手くパラメータの更新幅を調整するはずのAdamが全く役に立ちません。本発表ではBNNにおいてAdamが上手くいかない理由について議論し、その原因を取り除いたAdam with decoupled Bayes by Backprop (AdamB)を紹介します。AdamBはAdamWのベイズ拡張ともいえる学習法で、深層アンサンブル法に劣らない不確実性の評価を可能にします。
発表時間の目安は,一般発表は25分(20分発表+5分質疑),招待講演は50分(45分発表+5分質疑)です.
趣旨説明
杉山 麿人(NII)
信頼されるAI-CPSのためのオートマトン学習によるアプローチ
和賀 正樹(京都大学)
統計多様体上での安定なテンソル・行列分解
ガラムカリ 和(理化学研究所)
生成AIと記号推論
井上 克巳(NII)
グラフニューラルネットワークに基づく極小充足不能部分集合の抽出
○森山 総太(東京工業大学)、渡邉 晃司(総合研究大学院大学)、井上 克巳(東京工業大学)
強化学習を用いた帰納論理プログラミングにおける探索戦略の学習
○磯邊 猛(総合研究大学院大学)、井上 克巳(国立情報学研究所)
確率的除去を組み込んだ検索拡張された言語モデルによる帰納的関係予測
○岩本 有生(電気通信大学)、兼岩 憲(電気通信大学)
グラフの識別や回帰におけるメッセージパッシングが与える影響の解析
○山田 正嗣(国立情報学研究所)、杉山 麿人(国立情報学研究所)
人工知能の説明性と不確かさの統一理解に向けて
○仲村 佳悟(株式会社アイシン)
検証器つき機械学習モデル
西野 正彬(NTT)
AdamB:AdamWのベイズ拡張による安定したベイズ深層学習法
西田 圭吾(理化学研究所)
変分拡散モデルによる多変量時系列予測
○竹原 健将(広島大学)、江口 浩二(広島大学)
Momentum-Difference Contrastive Learning Framework for Verifying Scientific Information
○Ze Yang(京都情報大学院大学)、Yimeng Sun(京都情報大学院大学)、Takao Nakaguchi(京都情報大学院大学)、Masaharu Imai(京都情報大学院大学)
Best-of-Both-Worlds Algorithms for Partial Monitoring
○土屋 平(京都大学・理化学研究所)、伊藤 伸志(日本電気株式会社)、本多 淳也(京都大学・理化学研究所)
SQL 型制約プログラミングシステム CombSQL+ の複数制約ソルバー連携
○小菅 脩司(名古屋大学)、酒井 正彦(名古屋大学)、番原 睦則(名古屋大学)
研究会資料は発表の有無に関わらずご購入頂けます.
主査: 石畠 正和
幹事: 杉山 麿人、栗田 和宏、小島 諒介、鈴木 浩史、伝住 周平
担当幹事: 杉山 麿人
連絡先アドレス:kanji@sig-fpai.org
人工知能学会第一種研究会に投稿された研究会資料は紙冊子として発行されると同時に,
学会事務局で資料ID(※1)を付与した上で学会文献提供サイト「J-STAGE」上のPDFファイルとして掲載されます.
SIG-FPAI はこちらからご覧いただけます.
発行日(※2)から一年間(エンバーゴ期間)は,PDF閲覧時に認証を求められますが,研究会登録メンバーは無料で閲覧可能です.
認証のための購読者番号やパスワードはオンライン会員情報管理システムにログインし,「学会からのお知らせ」にてご確認下さい.
なお,エンバーゴ期間中,研究会登録メンバー以外の方は,stores にて購入いただけます.
(※1)研究会資料ID付与規則の変更(2021年4月)
研究会資料ID(論文ID)の付与ルールを下記のように統一しました.
(※2)紙媒体の奥付に記載された発行日