2024/10/03 更新

お知らせ

 

写真a

タケイシ　ヨシナリ
武石 啓成
TAKEISHI YOSHINARI
所属
システム情報科学研究院 情報学部門 助教
工学部 電気情報工学科（併任）
システム情報科学府 情報理工学専攻（併任）
職名
助教
連絡先
メールアドレス
プロフィール
情報理論，機械学習及びそれらの応用として，以下の3項目を主に研究している． 1. 深層学習理論 深層学習の理論的な基盤を探求し，その仕組みを解き明かすための研究を行っている．具体的には，情報理論の視点から記述長最小化原理などに着目し，深層学習のモデルが高い汎化性能を持つことの保証を目指している． 2. 符号理論 情報通信における高速かつ信頼性の高い符号に関する理論的研究に取り組んでいる．特に，理論的性能限界を達成する符号の一つである，スパース重ね合わせ符号について詳しく研究している． 3. 応用研究 機械学習技術をMRI画像解析などの応用領域に活用する研究を行っている．具体的には，機械学習手法を利用したMRI画像の高品質化や，学習用画像のデータ拡張の研究に取り組んでいる．
ホームページ
外部リンク

学位

  • 博士(工学)

経歴

  • 2013年4月-2021年2月 三菱電機インフォメーションネットワーク株式会社（旧名 三菱電機情報ネットワーク株式会社）   

    2013年4月-2021年2月 三菱電機インフォメーションネットワーク株式会社（旧名 三菱電機情報ネットワーク株式会社）

研究テーマ・研究キーワード

  • 研究テーマ： 情報理論，機械学習及びそれらの応用について研究している．

    研究キーワード： 符号理論，情報理論，機械学習，深層学習，サイバーセキュリティ，磁気共鳴画像法

    研究期間： 2011年4月

受賞

  • 2022年SITA若手研究者論文賞

    2023年9月   情報理論とその応用サブソサイエティ   二項分布辞書を用いたスパース重ね合わせ符号

  • 第十二回（令和3年度）九州大学大学院システム情報科学府優秀学生表彰

    2022年3月   九州大学  

論文

  • Approximate spectral decomposition of Fisher information matrix for simple ReLU networks 査読

    Yoshinari Takeishi, Masazumi Iida, Jun’ichi Takeuchi

    Neural Networks   164   691 - 706   2023年7月

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（学術雑誌）  

    DOI： 10.1016/j.neunet.2023.05.017

  • An Improved Analysis of Least Squares Superposition Codes with Bernoulli Dictionary 査読 国際誌

    Yoshinari Takeishi, Jun'ichi Takeuchi

    Japanese Journal of Statistics and Data Science   2   591 - 613   2019年9月

    　詳細を見る

    記述言語：英語  

  • An improved upper bound on block error probability of least squares superposition codes with unbiased Bernoulli dictionary 査読

    Yoshinari Takeishi, Jun'ichi Takeuchi

    Proceedings of 2016 IEEE International Symposium on Information Theory   1168 - 1172   2016年8月

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（その他学術会議資料等）  

    For the additive white Gaussian noise channel with average power constraint, it is shown that sparse superposition codes, proposed by Barron and Joseph in 2010, achieve the capacity. We study the upper bounds on its block error probability with least squares decoding when a dictionary with which we make codewords is drawn from an unbiased Bernoulli distribution. We improve the upper bounds shown by Takeishi et.al. in 2014 with fairly simplified form.

    DOI： 10.1109/ISIT.2016.7541483

  • Least Squares Superposition Codes With Bernoulli Dictionary Are Still Reliable at Rates up to Capacity 査読

    Yoshinari Takeishi, Masanori Kawakita, Jun'ichi Takeuchi

    IEEE TRANSACTIONS ON INFORMATION THEORY   60 ( 5 )   2737 - 2750   2014年5月

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（学術雑誌）  

    For the additive white Gaussian noise channel with average power constraint, sparse superposition codes with least squares decoding are proposed by Barron and Joseph in 2010. The codewords are designed by using a dictionary each entry of which is drawn from a Gaussian distribution. The error probability is shown to be exponentially small for all rates up to the capacity. This paper proves that when each entry of the dictionary is drawn from a Bernoulli distribution, the error probability is also exponentially small for all rates up to the capacity. The proof is via a central limit theorem-type inequality, which we show for this analysis.

    DOI： 10.1109/TIT.2014.2312728

  • Least squares superposition codes with Bernoulli dictionary are still reliable at rates up to capacity 査読

    Yoshinari Takeishi, Masanori Kawakita, Jun'ichi Takeuchi

    Proceedings of 2013 IEEE International Symposium on Information Theory   1396 - 1400   2013年7月

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（その他学術会議資料等）  

    For the additive white Gaussian noise channel with average power constraint, sparse superposition codes with least squares decoding were proposed by Barron and Joseph in 2010. The codewords are designed by using a dictionary which is drawn from a Gaussian distribution. The error probability is shown to be exponentially small in code length for all rates up to the capacity. This paper proves that when the dictionary is drawn from a Bernoulli distribution, the error probability is also exponentially small for all rates up to the capacity. © 2013 IEEE.

    DOI： 10.1109/ISIT.2013.6620456

  • Risk Bound on MDL Estimator for Simple ReLU Networks 査読

    Yoshinari Takeishi, Jun'ichi Takeuchi

    Proceedings of 2024 IEEE International Symposium on Information Theory   256 - 261   2024年7月

    　詳細を見る

    担当区分：筆頭著者   記述言語：英語   掲載種別：研究論文（国際会議プロシーディングス）  

    researchmap

  • 単純なReLUネットワークにおけるタイトなリスク上界をもつMDL推定量の構成

    武石啓成, 竹内純一

    電子情報通信学会技術研究報告   123 ( 423 )   368 - 373   2024年3月

    　詳細を見る

    記述言語：日本語  

  • MR画像分類における腫瘍の位置情報の有用性評価

    西中川司, 武石啓成, 竹内純一

    電子情報通信学会技術研究報告   123 ( 410 )   21 - 28   2024年3月

    　詳細を見る

    記述言語：日本語  

  • Stabilization and Acceleration of Stochastic Gradient Descent Based on Eigenvalue Decomposition of the Fisher Information Matrix

    Masazumi Iida, Yoshinari Takeishi, Siyang Wang, Jun'ichi Takeuchi

    電子情報通信学会技術研究報告   123 ( 311 )   13 - 17   2023年12月

    　詳細を見る

    記述言語：英語  

  • 高精度なネットワーク侵入検知のための特徴量の統合

    飯田昌澄, 宮本耕平, 武石啓成, 川中翔太, 韓燦洙, 班涛, 高橋健志, 竹内純一

    電子情報通信学会技術研究報告   122 ( 422 )   43 - 48   2023年3月

    　詳細を見る

    記述言語：日本語  

  • 二項分布辞書を用いたスパース重ね合わせ符号

    武石啓成, 竹内純一

    第45回情報理論とその応用シンポジウム予稿集   247 - 252   2022年12月

    　詳細を見る

    記述言語：日本語  

  • Fisher 情報行列の固有値分解に基づく勾配法の安定化と高速化

    竹内純一, 武石啓成, 飯田昌澄, 村田昇, 三村和史, 長岡浩司

    電子情報通信学会技術研究報告   122 ( 292 )   80 - 85   2022年12月

    　詳細を見る

    記述言語：日本語  

  • パケット単位分類に基いたセッション単位での通信分類

    宮本 耕平, 武石 啓成, 飯田 昌澄, 韓 燦洙, 班 涛, 高橋 健志, 竹内 純一

    コンピュータセキュリティシンポジウム2022論文集   50 - 56   2022年10月

    　詳細を見る

    記述言語：日本語  

  • ニューラルネットワークの汎化誤差解析について

    竹内純一, 村田 昇, 三村和史, 武石啓成, 飯田昌澄, 長岡浩司

    電子情報通信学会技術研究報告   122 ( 189 )   31 - 38   2022年9月

    　詳細を見る

    記述言語：日本語  

  • On Fisher Information Matrix for Simple Neural Networks With Softplus Activation 査読

    Masazumi Iida, Yoshinari Takeishi, Jun'ichi Takeuchi

    Proceedings of 2022 IEEE International Symposium on Information Theory   3014 - 3019   2022年7月

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（その他学術会議資料等）  

  • 単純なソフトプラスニューラルネットワークにおけるフィッシャー情報行列の分解条件の緩和

    飯田昌澄, 武石啓成, 竹内純一

    電子情報通信学会技術研究報告   122 ( 90 )   53 - 60   2022年6月

    　詳細を見る

    記述言語：日本語  

  • ソフトプラス活性化関数を用いた単純なニューラルネットワークのフィッシャー情報行列

    飯田昌澄, 武石啓成, 竹内純一

    電子情報通信学会技術研究報告   122 ( 25 )   1 - 6   2022年5月

    　詳細を見る

    記述言語：日本語  

  • Approximate Eigenvalue Decomposition of Fisher Information Matrix for Simple ReLU Networks

    Yoshinari Takeishi, Masazumi Iida, Jun'ichi Takeuchi

    電子情報通信学会技術研究報告   121 ( 327 )   225 - 230   2022年1月

    　詳細を見る

    記述言語：英語  

  • An Improved Upper Bound on Block Error Probability of Least Squares Sparse Superposition Codes with Bernoulli Dictionary (信号処理)

    TAKEISHI Yoshinari, TAKEUCHI Jun'ichi

    電子情報通信学会技術研究報告 = IEICE technical report : 信学技報   115 ( 394 )   107 - 112   2016年1月

    　詳細を見る

    記述言語：英語  

    An Improved Upper Bound on Block Error Probability of Least Squares Sparse Superposition Codes with Bernoulli Dictionary

  • 中心極限定理とスパース重ね合わせ符号

    武石啓成, 川喜田雅則, 竹内純一

    第35回情報理論とその応用シンポジウム予稿集   2012年12月

    　詳細を見る

    記述言語：日本語  

  • Sparse Superposition Codes with Bernoulli Dictionary

    武石啓成, 川喜田雅則, 竹内純一

    電子情報通信学会技術研究報告   112 ( 215 )   41 - 46   2012年9月

    　詳細を見る

    記述言語：英語  

  • ベイズ符号長による確率的コンプレキシティの評価とモデル選択への応用

    武石 啓成, 川喜田 雅則, 竹内 純一

    電子情報通信学会技術研究報告 = IEICE technical report : 信学技報   111 ( 194 )   9 - 14   2011年9月

    　詳細を見る

    記述言語：日本語  

▼全件表示

講演・口頭発表等

  • Eigenvectors of Fisher Information Matrix for Simple ReLU Networks

    武石啓成, 飯田昌澄, 竹内純一

    第24回情報論的学習理論ワークショップ（IBIS2021）  2021年11月 

    　詳細を見る

    開催年月日： 2021年11月

    記述言語：日本語  

    開催地：オンライン   国名：日本国  

    リポジトリ公開URL： https://hdl.handle.net/2324/7174507

  • 単純なReLUネットワークにおけるMDL推定量のリスク上界

    武石啓成, 竹内純一

    第26回情報論的学習理論ワークショップ（IBIS2023）  2023年10月 

    　詳細を見る

    記述言語：日本語  

    国名：その他  

  • Studies on the Deep Learning Theory

    Yoshinari Takeishi

    MIRAI 2.0 AI-TEG Workshop Theoretical aspects and foundations of AI  2022年4月 

    　詳細を見る

    記述言語：英語  

    国名：その他  

  • スパース重ね合わせ符号と辞書の離散化について

    武石啓成

    情報通信の技術革新のための基礎数理  2022年9月 

    　詳細を見る

    記述言語：日本語  

    国名：その他  

    On Sparse Superposition Codes and Discretization of Their Dictionaries

  • Sparse superposition codes with Bernoulli dictionary

    Yoshinari Takeishi, Masanori Kawakita, Jun'ichi Takeuchi

    Forum “Math-for-Industry” 2012 “Information Recovery and Discovery”  2012年10月 

    　詳細を見る

    記述言語：英語  

    国名：その他  

  • A novel method to stabilize gradient descent learning

    Yoshinari Takeishi

    MIRAI2.0 Research & Innovation Week 2022 Theoretical aspects and foundations of AI  2022年11月 

    　詳細を見る

    記述言語：英語  

    国名：その他  

  • Multimodal Feature Integration for High-Accuracy Network Intrusion Detection

    Masazumi Iida, Kohei Miyamoto, Shota Kawanaka, Yoshinari Takeishi, Chansu Han, Tao Ban, Takeshi Takahashi, Jun’ichi Takeuchi

    International Conference on Computer Applications and Information Security (ICCAIS)  2023年3月 

    　詳細を見る

    記述言語：英語  

    国名：その他  

  • Characterizing Eigenspaces of Fisher Information Matrix in Simple ReLU Networks

    Yoshinari Takeishi, Masazumi Iida, Jun'ichi Takeuchi

    10th International Congress on Industrial and Applied Mathematics (ICIAM 2023)  2023年8月 

    　詳細を見る

    記述言語：英語  

    国名：その他  

  • スパース重ね合わせ符号の最適性能と効率的復号

    武石啓成

    離散数学とその応用研究集会2023  2023年8月 

    　詳細を見る

    記述言語：日本語  

    国名：その他  

  • Stabilizers for the stochastic gradient descent method with application in deep learning

    Siyang Wang, Yoshinari Takeishi, Jun'ichi Takeuchi

    MIRAI 2.0 R&I Week 2023  2023年11月 

    　詳細を見る

    記述言語：英語  

    国名：その他  

▼全件表示

所属学協会

  • 電子情報通信学会

  • IEEE

学術貢献活動

  • 実行委員

    第26回情報論的学習理論ワークショップ（IBIS2023）  （ 北九州国際会議場 ） 2023年10月 - 2023年11月

    　詳細を見る

    種別：大会・シンポジウム等 

  • 学術論文等の審査

    役割：査読

    2023年

    　詳細を見る

    種別：査読等 

    外国語雑誌　査読論文数：1

  • 学術論文等の審査

    役割：査読

    2022年

    　詳細を見る

    種別：査読等 

    国際会議録　査読論文数：1

共同研究・競争的資金等の研究課題

  • Fisher情報行列と記述長最小原理に基づく深層学習の理論と実践

    2023年4月 - 2028年3月

    　 詳細を見る

    担当区分：研究分担者 

  • Deep learning by the stochastic gradient descent with stabilizer and its application 国際共著

    2023年2月 - 2023年12月

    　 詳細を見る

    担当区分：研究代表者 

  • Fisher情報行列と記述長最小原理に基づく深層学習の理論と実践

    研究課題/領域番号：23H05492  2023年 - 2027年

    日本学術振興会  科学研究費助成事業  基盤研究(S)

    　 詳細を見る

    担当区分：研究分担者  資金種別：科研費

教育活動概要

  • 主に学部生向け授業対応（実験，演習），大学院生向け授業対応（演習），所属研究室の学生指導を行っている．

担当授業科目

  • 課題協学科目

    2023年10月 - 2024年3月   後期

  • 電気情報工学実験Ⅰ（C）

    2023年4月 - 2023年9月   前期

  • プログラミング技法演習

    2022年10月 - 2023年3月   後期

  • 電気情報工学実験Ⅰ（C）

    2022年4月 - 2022年9月   前期

FD参加状況

  • 2024年3月   役割：参加   名称：【シス情FD】高度データサイエンティスト育成事業の取り組みについて

    主催組織：部局

  • 2023年10月   役割：参加   名称：【シス情FD】価値創造型半導体人材育成センターについて

    主催組織：部局

  • 2023年9月   役割：参加   名称：【シス情FD】Top10%論文／Top10%ジャーナルとは何か: 傾向と対策

    主催組織：部局

  • 2023年7月   役割：参加   名称：【シス情FD】若手教員の研究紹介⑨

    主催組織：部局

  • 2023年4月   役割：参加   名称：【シス情FD】若手教員による研究紹介⑧

    主催組織：部局

  • 2023年3月   役割：参加   名称：全学FD:メンタルヘルス講演会

    主催組織：全学

  • 2023年3月   役割：参加   名称：【シス情FD】独・蘭・台湾での産学連携を垣間見る-Industy 4.0・量子コンピューティング・先端半導体-

    主催組織：部局

  • 2023年1月   役割：参加   名称：【シス情FD】若手教員による研究紹介⑦

    主催組織：部局

  • 2022年11月   役割：参加   名称：【工学・シス情】教職員向け知的財産セミナー（ＦＤ）

    主催組織：部局

  • 2022年10月   役割：参加   名称：【シス情FD】若手教員による研究紹介⑥

    主催組織：部局

  • 2022年9月   役割：参加   名称：【シス情FD】研究機器の共用に向けて

    主催組織：部局

  • 2022年7月   役割：参加   名称：【シス情FD】若手教員による研究紹介⑤

    主催組織：部局

  • 2022年6月   役割：参加   名称：【シス情FD】電子ジャーナル等の今後について

    主催組織：部局

  • 2022年5月   役割：参加   名称：【シス情FD】若手教員による研究紹介④「量子コンピュータ・システム・アーキテクチャの研究～道具になることを目指して～」

    主催組織：部局

  • 2022年4月   役割：参加   名称：【シス情FD】第4期中期目標・中期計画等について

    主催組織：部局

  • 2022年4月   役割：参加   名称：令和４年度 第１回全学ＦＤ（新任教員の研修）The 1st All-University FD (training for new faculty members) in FY2022

    主催組織：全学

▼全件表示