[ 新入生募集] [JAIST] [内平研究室の詳細] [研究テーマ] [研究室の運営方針] [プロジェクト] [メンバー] [社会人学生ゼミ] [出版リスト] [最近の活動] [写真] [連絡先] [english] [機械学習工学]

機械学習応用システム開発における課題・ニーズマップ

Difficulty Map for Project Management of Machine Learning Application Systems

内平研究室では,機械学習応用システム開発における課題とニーズ整理してマップを作成し,随時更新ています.

機械学習応用システム開発における課題・ニーズマップ
2021年2月26日版

  1. 信頼性・安全性
    学習時と運用時のデータの違い,悪意を 持ったユーザへの対応,モデル洗練化とコ ストのバランス,どこまで検証すればよい か不明,帰納(機械学習)と演繹(ルール・ 物理モデル)との融合.
  2. 効率・生産性
    適切なモデル・アルゴリズムの選択,タグ 付けコストの削減,モデルの再利用,バー ジョン管理.
  3. プロセス管理
    モデルの精度が事前に予想できない,ゴー ルが変動する,開発工数が読めない,現場 からのデータ収集時の様々な困難,運用時 のモデルのメンテナンスの体制.
  4. 人間とAIの関係
    現場・顧客がAI の結果を受け入れない(解 釈可能性),AI に頼る人間の能力の低下.
  5. ビジネス・経営
    PoC (Proof of Concept) 貧乏,マネタ イズの難しさ.
  6. AI の正しい理解
    AI ブームに翻弄(AI 導入が目的化),AI の限界の理解不足.
  7. AI 人材育成
    AI を活用できる経営者・ユーザ・マネー ジャ・システム開発者の人材不足.
  8. リスク対策ガイドライン
    安全性基準,品質保証ガイドライン,契約時の免責,損害補償,トラブル時の責任
  9. データ・モデル流通
    データ・モデル流通支援,流通と保護,輸出先からのデータ入手, データプラットフォーム,オープンデータ推進,モデル・データの帰属, 知財とデータ,データ独占
  10. セキュリティ・プライバシー
    セキュリティ,プライバシー,個人情報保護,ハッキング対策
  11. 政策・社会システム
    AI活用の仕組みづくり,AI研究支援,資金援助,税制,AIシステムへの投資
  12. 法制度・規制
    AIユーザの権利保護,現状の法律と最新AI応用のギャップ, コンテンツの法制度,AIシステムの法的承知
Category Explanation Typical Difficulties
Reliability and Safety Difficulties in quality assurance of MLAS (reliability, safety, and performance). Gaps between training data and operational data; Balancing model refinement and cost; No stop condition for model verification ; Integration of induction (machine learning) and deduction (logical rules); Dealing with malicious users.
Efficiency and Productivity Difficulties related to the efficiency and productivity of MLAS development (cost and time) Appropriate selection of models and algorithms; Tagging cost reduction; Model reuse and versioning.
Process Management Difficulties in process management of MLAS implementation and operation. Moving goals; Unpredictable model accuracy; Unpredictable implementation cost, Difficulties in collecting data from the field; Appropriate model maintenance during operation.
Relationship between Humans and AI Difficulties arising from the immaturity of the human-AI relationship Refusal of the field/customer to accept the results of AI; Diminished human ability due to relying too much on AI.
Business and Monetizing Difficulties related to investment and return in MLAS The effect of MLAS cannot be predicted in advance; Limitation of Proof of Concept (PoC); Difficulty in monetizing.
Standards and Guidelines Difficulties caused by the lack of standards and guidelines recognized in society and industry Necessity of safety standards and quality assurance guidelines; Liability and indemnification in case of failure and accident.
AI Awareness Difficulties caused by stakeholders' misperceptions of AI Phenomenon tossed around in the AI boom (the introduction of AI has become a goal); Lack of understanding of the limitations of AI.
AI Human Resource Development Difficulties related to the talent shortage capable of leveraging AI Shortage of executives, users, managers and system developers who can properly use AI; AI human resources education.
Data and Model Distribution Difficulties related to the distribution and protection of data and models Ownership of models and data; Distribution and protection of data and models; Elimination of data monopoly.
Policy and Social System Difficulties due to the immaturity of the policy and social system for AI National AI research support system; Tax system for AI industries.
Security and Privacy Difficulties in ensuring security and protecting privacy Hacking; Anti-attack strategies; Personal information and confidential information protection.
Legal Systems and Regulations Difficulties due to the immaturity of the legal and regulatory system Protection of AI users' rights; Gaps between current law and latest AI applications.

関連文献:
内平 直志, 森 俊樹, 大島 丈史 「人工知能とプロジェクトマネジメント」 電子情報通信学会 基礎・境界ソサイエティ Fundamentals Review 13 巻 4 号 p. 277-283, 2020.


内平研究室の紹介記事(朝日新聞広告記事) 「本学で最先端のイノベーションデザインを」
内平研究室の詳細