Updated on 2024/10/03

Information

 

写真a

 
TAKEISHI YOSHINARI
 
Organization
Faculty of Information Science and Electrical Engineering Department of Informatics Assistant Professor
School of Engineering Department of Electrical Engineering and Computer Science(Concurrent)
Graduate School of Information Science and Electrical Engineering Department of Information Science and Technology(Concurrent)
Title
Assistant Professor
Contact information
メールアドレス
Profile
情報理論,機械学習及びそれらの応用として,以下の3項目を主に研究している. 1. 深層学習理論 深層学習の理論的な基盤を探求し,その仕組みを解き明かすための研究を行っている.具体的には,情報理論の視点から記述長最小化原理などに着目し,深層学習のモデルが高い汎化性能を持つことの保証を目指している. 2. 符号理論 情報通信における高速かつ信頼性の高い符号に関する理論的研究に取り組んでいる.特に,理論的性能限界を達成する符号の一つである,スパース重ね合わせ符号について詳しく研究している. 3. 応用研究 機械学習技術をMRI画像解析などの応用領域に活用する研究を行っている.具体的には,機械学習手法を利用したMRI画像の高品質化や,学習用画像のデータ拡張の研究に取り組んでいる.

Degree

  • Dr. Eng

Research History

  • 2013年4月-2021年2月 三菱電機インフォメーションネットワーク株式会社(旧名 三菱電機情報ネットワーク株式会社)

    2013年4月-2021年2月 三菱電機インフォメーションネットワーク株式会社(旧名 三菱電機情報ネットワーク株式会社)

Research Interests・Research Keywords

  • Research theme:I study information theory, machine learning and their applications.

    Keyword:Coding theory, Information theory, Machine learning, Deep learning, Cyber security, Magnetic Resonance Imaging

    Research period: 2011.4

Awards

  • 2022年SITA若手研究者論文賞

    2023.9   情報理論とその応用サブソサイエティ   二項分布辞書を用いたスパース重ね合わせ符号

  • 第十二回(令和3年度)九州大学大学院システム情報科学府優秀学生表彰

    2022.3   九州大学  

Papers

  • Approximate spectral decomposition of Fisher information matrix for simple ReLU networks Reviewed

    Neural Networks   164   691 - 706   2023.7

     More details

    Language:English   Publishing type:Research paper (scientific journal)  

    DOI: 10.1016/j.neunet.2023.05.017

  • An Improved Analysis of Least Squares Superposition Codes with Bernoulli Dictionary Reviewed International journal

    Yoshinari Takeishi, Jun'ichi Takeuchi

    Japanese Journal of Statistics and Data Science   2   591 - 613   2019.9

     More details

    Language:English  

  • An improved upper bound on block error probability of least squares superposition codes with unbiased Bernoulli dictionary Reviewed

    Yoshinari Takeishi, Jun'ichi Takeuchi

    Proceedings of 2016 IEEE International Symposium on Information Theory   1168 - 1172   2016.8

     More details

    Language:English   Publishing type:Research paper (other academic)  

    DOI: 10.1109/ISIT.2016.7541483

  • Least Squares Superposition Codes With Bernoulli Dictionary Are Still Reliable at Rates up to Capacity Reviewed

    Yoshinari Takeishi, Masanori Kawakita, Jun'ichi Takeuchi

    IEEE TRANSACTIONS ON INFORMATION THEORY   60 ( 5 )   2737 - 2750   2014.5

     More details

    Language:English   Publishing type:Research paper (scientific journal)  

    DOI: 10.1109/TIT.2014.2312728

  • Least squares superposition codes with Bernoulli dictionary are still reliable at rates up to capacity Reviewed

    Yoshinari Takeishi, Masanori Kawakita, Jun'ichi Takeuchi

    Proceedings of 2013 IEEE International Symposium on Information Theory   1396 - 1400   2013.7

     More details

    Language:English   Publishing type:Research paper (other academic)  

    DOI: 10.1109/ISIT.2013.6620456

  • Risk Bound on MDL Estimator for Simple ReLU Networks Reviewed

    Yoshinari Takeishi, Jun'ichi Takeuchi

    Proceedings of 2024 IEEE International Symposium on Information Theory   256 - 261   2024.7

     More details

    Authorship:Lead author   Language:English   Publishing type:Research paper (international conference proceedings)  

    researchmap

  • 単純なReLUネットワークにおけるタイトなリスク上界をもつMDL推定量の構成

    武石啓成, 竹内純一

    電子情報通信学会技術研究報告   123 ( 423 )   368 - 373   2024.3

     More details

    Language:Japanese  

  • MR画像分類における腫瘍の位置情報の有用性評価

    西中川司, 武石啓成, 竹内純一

    電子情報通信学会技術研究報告   123 ( 410 )   21 - 28   2024.3

     More details

    Language:Japanese  

  • Stabilization and Acceleration of Stochastic Gradient Descent Based on Eigenvalue Decomposition of the Fisher Information Matrix

    Masazumi Iida, Yoshinari Takeishi, Siyang Wang, Jun'ichi Takeuchi

    123 ( 311 )   13 - 17   2023.12

     More details

    Language:English  

  • 高精度なネットワーク侵入検知のための特徴量の統合

    飯田昌澄, 宮本耕平, 武石啓成, 川中翔太, 韓燦洙, 班涛, 高橋健志, 竹内純一

    電子情報通信学会技術研究報告   122 ( 422 )   43 - 48   2023.3

     More details

    Language:Japanese  

  • 二項分布辞書を用いたスパース重ね合わせ符号

    武石啓成, 竹内純一

    第45回情報理論とその応用シンポジウム予稿集   247 - 252   2022.12

     More details

    Language:Japanese  

  • Fisher 情報行列の固有値分解に基づく勾配法の安定化と高速化

    竹内純一, 武石啓成, 飯田昌澄, 村田昇, 三村和史, 長岡浩司

    電子情報通信学会技術研究報告   122 ( 292 )   80 - 85   2022.12

     More details

    Language:Japanese  

  • パケット単位分類に基いたセッション単位での通信分類

    宮本 耕平, 武石 啓成, 飯田 昌澄, 韓 燦洙, 班 涛, 高橋 健志, 竹内 純一

    コンピュータセキュリティシンポジウム2022論文集   50 - 56   2022.10

     More details

    Language:Japanese  

  • ニューラルネットワークの汎化誤差解析について

    竹内純一, 村田 昇, 三村和史, 武石啓成, 飯田昌澄, 長岡浩司

    電子情報通信学会技術研究報告   122 ( 189 )   31 - 38   2022.9

     More details

    Language:Japanese  

  • On Fisher Information Matrix for Simple Neural Networks With Softplus Activation Reviewed

    Masazumi Iida, Yoshinari Takeishi, Jun'ichi Takeuchi

    Proceedings of 2022 IEEE International Symposium on Information Theory   3014 - 3019   2022.7

     More details

    Language:English   Publishing type:Research paper (other academic)  

  • 単純なソフトプラスニューラルネットワークにおけるフィッシャー情報行列の分解条件の緩和

    飯田昌澄, 武石啓成, 竹内純一

    電子情報通信学会技術研究報告   122 ( 90 )   53 - 60   2022.6

     More details

    Language:Japanese  

  • ソフトプラス活性化関数を用いた単純なニューラルネットワークのフィッシャー情報行列

    飯田昌澄, 武石啓成, 竹内純一

    電子情報通信学会技術研究報告   122 ( 25 )   1 - 6   2022.5

     More details

    Language:Japanese  

  • Approximate Eigenvalue Decomposition of Fisher Information Matrix for Simple ReLU Networks

    Yoshinari Takeishi, Masazumi Iida, Jun'ichi Takeuchi

    121 ( 327 )   225 - 230   2022.1

     More details

    Language:English  

  • An Improved Upper Bound on Block Error Probability of Least Squares Sparse Superposition Codes with Bernoulli Dictionary (信号処理)

    電子情報通信学会技術研究報告 = IEICE technical report : 信学技報   115 ( 394 )   107 - 112   2016.1

     More details

    Language:English  

  • 中心極限定理とスパース重ね合わせ符号

    武石啓成, 川喜田雅則, 竹内純一

    第35回情報理論とその応用シンポジウム予稿集   2012.12

     More details

    Language:Japanese  

  • Sparse Superposition Codes with Bernoulli Dictionary

    112 ( 215 )   41 - 46   2012.9

     More details

    Language:English  

  • ベイズ符号長による確率的コンプレキシティの評価とモデル選択への応用

    武石 啓成, 川喜田 雅則, 竹内 純一

    電子情報通信学会技術研究報告 = IEICE technical report : 信学技報   111 ( 194 )   9 - 14   2011.9

     More details

    Language:Japanese  

▼display all

Presentations

  • Eigenvectors of Fisher Information Matrix for Simple ReLU Networks

    2021.11 

     More details

    Event date: 2021.11

    Language:Japanese  

    Country:Japan  

    Repository Public URL: https://hdl.handle.net/2324/7174507

  • スパース重ね合わせ符号の最適性能と効率的復号

    武石啓成

    離散数学とその応用研究集会2023  2023.8 

     More details

    Language:Japanese  

    Country:Other  

  • Stabilizers for the stochastic gradient descent method with application in deep learning

    Siyang Wang, Yoshinari Takeishi, Jun'ichi Takeuchi

    MIRAI 2.0 R&I Week 2023  2023.11 

     More details

    Language:English  

    Country:Other  

  • 単純なReLUネットワークにおけるMDL推定量のリスク上界

    武石啓成, 竹内純一

    第26回情報論的学習理論ワークショップ(IBIS2023)  2023.10 

     More details

    Language:Japanese  

    Country:Other  

  • Characterizing Eigenspaces of Fisher Information Matrix in Simple ReLU Networks

    Yoshinari Takeishi, Masazumi Iida, Jun'ichi Takeuchi

    10th International Congress on Industrial and Applied Mathematics (ICIAM 2023)  2023.8 

     More details

    Language:English  

    Country:Other  

  • Studies on the Deep Learning Theory

    Yoshinari Takeishi

    MIRAI 2.0 AI-TEG Workshop Theoretical aspects and foundations of AI  2022.4 

     More details

    Language:English  

    Country:Other  

  • スパース重ね合わせ符号と辞書の離散化について

    武石啓成

    情報通信の技術革新のための基礎数理  2022.9 

     More details

    Language:Japanese  

    Country:Other  

  • Sparse superposition codes with Bernoulli dictionary

    Yoshinari Takeishi, Masanori Kawakita, Jun'ichi Takeuchi

    2012.10 

     More details

    Language:English  

    Country:Other  

  • A novel method to stabilize gradient descent learning

    Yoshinari Takeishi

    MIRAI2.0 Research & Innovation Week 2022 Theoretical aspects and foundations of AI  2022.11 

     More details

    Language:English  

    Country:Other  

  • Multimodal Feature Integration for High-Accuracy Network Intrusion Detection

    International Conference on Computer Applications and Information Security (ICCAIS)  2023.3 

     More details

    Language:English  

    Country:Other  

▼display all

Professional Memberships

  • 電子情報通信学会

  • IEEE

Academic Activities

  • 実行委員

    第26回情報論的学習理論ワークショップ(IBIS2023)  ( 北九州国際会議場 ) 2023.10 - 2023.11

     More details

    Type:Competition, symposium, etc. 

  • Screening of academic papers

    Role(s): Peer review

    2023

     More details

    Type:Peer review 

    Number of peer-reviewed articles in foreign language journals:1

  • Screening of academic papers

    Role(s): Peer review

    2022

     More details

    Type:Peer review 

    Proceedings of International Conference Number of peer-reviewed papers:1

Research Projects

  • Fisher情報行列と記述長最小原理に基づく深層学習の理論と実践

    2023.4 - 2028.3

      More details

    Authorship:Coinvestigator(s) 

  • Deep learning by the stochastic gradient descent with stabilizer and its application International coauthorship

    2023.2 - 2023.12

      More details

    Authorship:Principal investigator 

  • Fisher情報行列と記述長最小原理に基づく深層学習の理論と実践

    Grant number:23H05492  2023 - 2027

    日本学術振興会  科学研究費助成事業  基盤研究(S)

      More details

    Authorship:Coinvestigator(s)  Grant type:Scientific research funding

Class subject

  • 課題協学科目

    2023.10 - 2024.3   Second semester

  • 電気情報工学実験Ⅰ(C)

    2023.4 - 2023.9   First semester

  • プログラミング技法演習

    2022.10 - 2023.3   Second semester

  • 電気情報工学実験Ⅰ(C)

    2022.4 - 2022.9   First semester

FD Participation

  • 2024.3   Role:Participation   Title:【シス情FD】高度データサイエンティスト育成事業の取り組みについて

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2023.10   Role:Participation   Title:【シス情FD】価値創造型半導体人材育成センターについて

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2023.9   Role:Participation   Title:【シス情FD】Top10%論文/Top10%ジャーナルとは何か: 傾向と対策

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2023.7   Role:Participation   Title:【シス情FD】若手教員の研究紹介⑨

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2023.4   Role:Participation   Title:【シス情FD】若手教員による研究紹介⑧

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2023.3   Role:Participation   Title:全学FD:メンタルヘルス講演会

    Organizer:University-wide

  • 2023.3   Role:Participation   Title:【シス情FD】独・蘭・台湾での産学連携を垣間見る-Industy 4.0・量子コンピューティング・先端半導体-

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2023.1   Role:Participation   Title:【シス情FD】若手教員による研究紹介⑦

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2022.11   Role:Participation   Title:【工学・シス情】教職員向け知的財産セミナー(FD)

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2022.10   Role:Participation   Title:【シス情FD】若手教員による研究紹介⑥

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2022.9   Role:Participation   Title:【シス情FD】研究機器の共用に向けて

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2022.7   Role:Participation   Title:【シス情FD】若手教員による研究紹介⑤

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2022.6   Role:Participation   Title:【シス情FD】電子ジャーナル等の今後について

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2022.5   Role:Participation   Title:【シス情FD】若手教員による研究紹介④「量子コンピュータ・システム・アーキテクチャの研究~道具になることを目指して~」

    Organizer:[Undergraduate school/graduate school/graduate faculty]

  • 2022.4   Role:Participation   Title:令和4年度 第1回全学FD(新任教員の研修)The 1st All-University FD (training for new faculty members) in FY2022

    Organizer:University-wide

  • 2022.4   Role:Participation   Title:【シス情FD】第4期中期目標・中期計画等について

    Organizer:[Undergraduate school/graduate school/graduate faculty]

▼display all