科学の箱

科学・IT・登山の話題

機械学習

仕事で始める機械学習 – 1. 機械学習プロジェクトの始め方

投稿日:

機械学習プロジェクトの流れ

  1. 問題の定式化
  2. 機械学習を利用しない方法
  3. システム設計
  4. アルゴリズム選定
  5. 特徴量・教師データ・ログの設計
  6. 前処理
  7. 学習・パラメータチューニング
  8. システム統合

問題の定式化

目的+KPI+解き方

目的 KPI 解き方
ECサイトの売り上げを向上 ユーザー一人当たりの売り上げ ユーザーにお勧め商品の掲示
工場のコスト削減 工場の電力消費量 消費電力予測
ECサイトの売り上げを向上 有料会員数 有料会員への変わる確率予測

機会学習をしなくてもよい方法

機械学習には様々な技術的負債がある

機械学習に向いているシステム

  • 大量データから高速・安定した出力(予測、分類など)
  • 一定数の間違いは許容

MVPによりPOCを進めて、既存オペレーションとの相性を確認する

システム設計

予測結果の配布

  • Web経由
  • データベース
  • API

撤退方針

  • 時間軸に対して予測結果を決めておく。例)2か月で90%の予測

アルゴリズム選定

過去の類似問題の解き方、正解ラベルが利用できるか、問題の種類による絞り込み

EDAによる絞り込み

特徴量・教師データ・ログの設計

特徴量 – 選定したアルゴリズムに対する説明変数

教師データ – 選定したアルゴリズムに対する実際のデータ(目的変数・説明変数)

ログ – 教師データの取得方法

前処理

NAの変換

異常値の処理

テキストデータの変換

数値データのとりあつかい

ダミー変数生成

学習・パラメータチューニング

シンプルなモデル

適切なパラメータ

  • Grid Search

過学習を避ける

  • Cross Validation
  • 正則化
  • Learning Curveの検証

システムへの組み込み

メタ情報

inarticle



メタ情報

inarticle



-機械学習

執筆者:


comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

関連記事

no image

線形回帰と最急降下法

線形回帰 世の中の様々な出来事(y)はある事象(x)に対して比例することが多い。もちろん厳密に比例するわけではなくずれは生じる。しかしこのxとyが比例すると仮定した場合、中学校で習った一次式でこの関係 …

no image

kaggle Titanic Tutorial – 3

DecitionTreeのパラメータを調整する。 まずはMaxDepthから from sklearn.model_selection import LeaveOneOut from sklearn. …

no image

DictVectorizerを使ってカテゴリデータについて特徴抽出をする

都市における温度データを考える。 measure = [ {‘city’: ‘Dubai’, ‘temperature’: 33.}, {‘city’: ‘London’, ‘temperature’ …

no image

仕事で始める機械学習 – 2.機械学習で何ができるか – 分類 – SVM

SVMの決定境界 SVMの決定境界はSVMで利用するカーネルにより異なる。 線形カーネル→線形 RBFカーネル→非線形 損失関数 損失関数としてはヒンジ関数を利用するが、パーセプトロンとは異なり、横軸 …

no image

AWStatで基本指標を読む

ウェッブサイトの分析でまず見るべきことは月ごとのトレンドである。確認すべき指標はPV, 訪問数、UUdとなる。 AWStatではこれらの項目はWhen -> Month Historyで棒グラフ …

2019年11月
« 10月   12月 »
 123
45678910
11121314151617
18192021222324
252627282930  

side bar top



アーカイブ

カテゴリー