1. まえがき

2018年11月〜2019年1月にHuman Protein Atlas Image Classificationに挑戦しました。
www.kaggle.com
結果は122位/2172と、銀メダルに届きませんでした。。悔しい。
f:id:kurupical:20190210220746p:plain

自分がやった取り組みは余力があれば書くとして、今回は上位の皆様の解法を読んでまとめていきます。

2. コンペ

灰色文字は私の考察、それ以外は記事の記載内容と書き分けています。
訳しきれなかったところは、注釈で原文を入れています。

2-1. 概要

たんぱく質の蛍光顕微鏡画像から、たんぱく質の種類を予想
マルチラベル分類
画像は蛍光顕微鏡で、RGBYの4Channel
クラス分布はアンバランス*1

コンペの概要については、以下を参考にしてください。
tawara.hatenablog.com

2-2. 上位Solution

2-2-1. 1st place solution

www.kaggle.com

全体像は以下の通り。　※ディスカッションより転載
f:id:kurupical:20190210162255p:plain

CVはMultilabel Stratification*2で切っている。
Augmentation
- Rotate 90
- flip
- randomly crop 512x512 patches from 768x768 images(or crop 1024x1024 patches from 1536x1536 images)
学習
- 学習率のスケジュール:

lr = 30e-5
if epoch > 25:
    lr = 15e-5
if epoch > 30:
    lr = 7.5e-5
if epoch > 35:
    lr = 3e-5
if epoch > 40:
    lr = 1e-5

損失関数
- FocalLoss+Lovasz.
  Lovasz lossはSemantic segmentationのものでは？と思ったのですが、Lovasz lossの考え方はPrecision/Recallの考え方に一部適用できるということだそうです(Lovasz lossよくわかっていないです…)
NN
- DenseNet121
  DenseNetについては以下が分かりやすかったです。
  qiita.com
  分類レイヤーは以下の通り。

  (1): AdaptiveConcatPool2d(
    (ap): AdaptiveAvgPool2d(output_size=(1, 1))
    (mp): AdaptiveMaxPool2d(output_size=(1, 1))
  )
  (2): Flatten()
  (3): BatchNorm1d(2048, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
  (4): Dropout(p=0.5)
  (5): Linear(in_features=2048, out_features=1024, bias=True)
  (6): ReLU()
  (7): BatchNorm1d(1024, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
  (8): Dropout(p=0.5)
  (9): Linear(in_features=1024, out_features=28, bias=True)

参考：DenseNetの元論文の構造*3
f:id:kurupical:20190210163224p:plain

原論文はAvgPoolingだけなのに対し、この解法はAdaptiveMaxPoolingも加えています。全体の情報に加えて、特徴的な情報も食わせることで、より「よしなに」やってくれる感じなんでしょうか。※AdaptiveXXXPool2d(output_size(1, 1))はGlobalXXXPooling2dと同義。

TTA
- lossが一番低いepochのモデルを分類器とし、random cropで予想を4回作成→予測の最大値をpredictionとする？*4
Metric Learning　※筆者の解釈を多く含みます。間違っていたらご指摘ください。。
」 ※(2/14追記：metric learningについては、以下がわかりやすいと情報いただきました。)
techblog.zozo.com
- Metric Learningとは、平たく言えば、testデータに対してtrainデータとの類似度を計算し、その類似度が一定以上であればtrainデータのラベルに書き換える処理？のようです　
  いくつか、デモがされていました。（ディスカッションより転載）
一番左が「予想したいデータ」、一番左以外は、スコア(≒類似度)が高い画像から順に並べたものです。
スコアのしきい値によって1000枚ほどの画像を書き換えたところ、LBのスコアが0.03以上向上したそうです。

この「Metric Learning」ですが、スコアを向上する以外だけでなく、以下のように応用ができると述べられています。
- アノテーションをするときや、アノテーションの質の確認、アノテーションの方法の教育の際に、一番スコアの高い画像と比較することでアノテーションの参考する。
- 画像を距離に基づきクラスタリングし変にアノテーションされたデータを見つけることによる、教師データのラベルの質の向上。
- 予測の見える化による、解釈可能性の向上
具体的にどのように画像間の距離を計算したのかが気になるところですが、「開催中の別コンペでも使っているのでまだ教えられない」ということでした。
最後に
if we compete only for win,we may loss,if we compete for learning and providing useful solution to the host,nothing to loss.

2-2.2. 3rd place solution

www.kaggle.com

CV
- trainの10%を、アンサンブル検証用に除外(holdout)
- 残り90%で5fold cv
- 異なるfold間で類似の画像がないようにする。(ahashなどで画像をハッシュ化して調べた)
normalization.(officialデータとexternalデータで、画像の平均と分散が大きく異なったため)
Augmentation
- AutoAugmentation*5を参考にした。最適なaugmentationの探索は、強化学習ではなくランダムサーチで行った。
損失関数
- FocalLoss(gamma=2)
Optimizer
- Adam(lr=5e-4)
- learning rate scheduling無し
大きいモデルで大きい画像を扱うときは、32枚ごとに重みをupdateするようにした？※原文の意味が読み取れず…バッチサイズ32だとメモリ不足になるのでこの対応をしている？*6
一番メジャーなクラスのF1スコアが減少したところで訓練を止めた(Early stopping)
推論
- 各訓練の最終10個のチェックポイントの重みの平均を使ったNN
- 8 TTAs
- weighted average ensemble
- 分類のしきい値
  - validation setの予測割合とあうようにしきい値を選択
- モデル(以下3つをアンサンブル)
  - 512*512
    - ResNet34(5fold ensemble)
  - 1024*1024
    - inceptionv3
    - se_resnext50
- NN構造
  - 1024*1024だとglobal average poolingがworkしなかったので以下変更(よくわからなかったので原文)
    - remove global average pooling.
    - compute MxM logits using 1x1 convolution.
    - compute weight maps using 1x1 convolution followed by softmax.
    - using weight maps, compute weighted averaged logits.
      global average poolingの代わりに、セルの値×各セルの重みをsoftmaxで計算した感じなんでしょうか…。

2-2-3. 4th place solution

www.kaggle.com

GAPNet*7を使った
- GAPNetはmultiscaleの能力がある点で優位。→multiscaleのニュアンスは、画像全体（マクロ）と細かい点（ミクロ）の両方から判断できる、ということかなと解釈しています。
- GAPNetの発想をResNet18+SE-Blocksに適用した。
Dual Loss ResNet
- ３０分格闘してさらにいろいろ教えてもらったのですが消化できなかったので、後で書きます。現時点では、何が分かってなきゃいけないのか分かってないです。。

2-2-4. 5th place solution

www.kaggle.com

Augmentation
- Rotation
- Flip
- Shear
- Random Cropの代わりにFiveCrop*8が有効だった
NN
- ImageNetでpretrainした重みを使用
- 最終的に採用したのは
  - Inception-v3
  - Inception-v4
  - Xception
- モデルの変更点
  - 最後のpooling層をglobal poolingに変更した→Inception-v4, Xceptionはもともとglobal average poolingになっているが、どういうニュアンスなんでしょうか？1st place solutionみたいに、global (average + max) pooling？
  - pooling層とoutput層の間に、dense(128)を加えた
  - 2-stage制にした
    - まず512サイズで訓練
    - その後650サイズ、800サイズで訓練
10-fold CV
損失関数
- MultiLabelSoftMarginLoss
オプティマイザ
- SGD(lr=0.05)
- StepLR(gamma=0.1, step=6)
25epochs(650か800サイズは15epoch程度でearly stopping)
lossが一番低いものを選択(F1scoreではない)
sampling weightを設定。（レアなクラスほどよくサンプリングされるように）
workしなかったもの
- DenseNet
- SENet
- ResNet
- 3-channel input
- サイズ1024以上での訓練
- focal loss
- C3D
- TTA
- 古典的な機械学習手法：決定木やランダムフォレスト、SVMなど

2-2-5. 7th place solution

www.kaggle.com

RGB入力
最後のpooling層を、concat([attention weighted average pooling*9, global max pooling, global std pooling])に変更
augmentation
- contrast(各チャネル独立に)
- rotate
- scale
- shear
- shift
損失関数:BCE loss
NN
- ResNet18(1024*1024)
- ResNet34(10241024, 768768)
- inceptionv3(768*768)
trick
- テストデータ間で重複している思われるものは、重複しているデータ間で予測の平均を取るようにしたところ、スコアが0.04-0.05が向上した

2-2-6. 8th place solution

www.kaggle.com

NN
- SE-ResNext50(256, 512, 768)
- InceptionV4(512)
- BN-Inception(512)
- Xception(512)
CyclicLR(最初のサイクルは長くして、逓減させる）
Focal Loss, LSEP loss*10
Augmentation:
- Brightness
- D4 and wrap transforms
32TTAの平均

3. 感想

bestfitting氏、single modelで優勝スコアだわ、、実務への適用まで考えたソリューションを提案しているわでカッコ良すぎでした。
多くのsolutionは、最後のpooling層はいくつかのGlobalXXXPoolingをconcatしていて(論文では単純にGlobalAveragePoolingが多い)、これが主流なのかな〜と思いました。（確かに、MaxPoolingも与えてあげるとよさそう）
externalデータはラベルの質がよくなかったようです。また、OfficialデータとExternalデータにいくつか重複があったり、分布が違ったり…というところは上位陣はしっかりおさえていました。ネットワークの調整だけでなくデータの質もしっかり見ることが大事ですね。
最後のほう、力尽きました。（ごめんなさい）
solutionのまとめ記事書くだけでかなり勉強になりました。こうでもしないと流し読みして何も頭に入らないですね。

*1:https://www.kaggle.com/allunia/protein-atlas-exploration-and-baseline

*2:https://www.kaggle.com/c/human-protein-atlas-image-classification/discussion/67819

*3:https://arxiv.org/abs/1608.06993

*4:原文：I predicted the test set by using best focal loss epoch with 4 seeds to random crop 512x512 patches from 768x768 images, and got the max probs from the predictions.

*5:https://arxiv.org/pdf/1805.09501.pdf

*6:For the large model with 1024x1024 images, I used gradient accumulation so that weights are updated every 32 examples.

*7:https://openreview.net/pdf?id=ryl5khRcKm

*8:torchvision.transforms.FiveCrop(size)　Crop the given PIL Image into four corners and the central crop

*9:3rdと同じ発想のよう。github.com

*10:https://arxiv.org/pdf/1704.03135.pdf

2018-09-10

＜実践＞はじめてのKaggle体験記

機械学習を勉強し始めて１年が経ちました。
そろぞろ何か一つ目に見える実績を上げたいと思いたち、
５月から８月までHomeCreditというKaggleのコンペをやっていました。

Home Credit Default Risk | Kaggle

f:id:kurupical:20180902183535p:plain

最終的に、7198人中62位で終わることができました！

Kaggleをやってみようかなと思っている人向けに、自分の体験記を残しておこうと思います。

わからない用語は、Kaggle Words For Beginnerを参考にしてください。

文系卒(数学は好き)
SIerでCOBOLとjavaを５年→業務で機械学習1ヶ月(研修みたいなもの)
個人でちゃんと勉強した本（ちゃんと＝写経した≠理解した）
- ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装
  - この本を読んでから、機械学習に興味を持ちました。(当時はDeepLearning最強、それ以外は雑魚だと思ってました・・・)
- [第2版]Python 機械学習プログラミング達人データサイエンティストによる理論と実践 (impress top gear)
  - scikit-learnの「分類」「回帰」「クラスタリング」あたりのライブラリの使い方と簡単な理論を勉強できました。

前準備

コンペを始める前に（一部は始めてから）、Kaggleのノウハウを探りました。
いろいろな記事を読み*1、以下が大事なのかなと思いました。

一番時間を費やすべきなのは特徴量*2作成。（特徴作成８：チューニング２くらい）
Discussion/Kerneｌはvoteが最低限沢山付いているものだけでも読む。
ドメイン知識（データ自身に対する専門知識）を入れる。
最後まであきらめない。

1. コンペ内容と基本的な内容の確認

Kaggleの公式ページ

詳しいコンペの内容は割愛しますが、データから「ユーザーが契約したローンを、遅延なく返せるかどうか」を当てるコンペでした。
すごくざっくり説明すると下の図のような感じです。赤枠を当てるコンペです。
f:id:kurupical:20180908102220p:plain:w500

Titanicのように1ファイルではなく、複数ファイル（テーブル）でデータが与えられています。
また、実際には、たくさんの特徴量があります。
１ユーザーに対して複数行の情報があるため、機械学習にかける前にデータの集計が必要でした。

EDA

Kaggleには各コンペごとにフォーラムがあり、コンペ参加者がコードを公開する場(Kernel)、議論する場(Discussion)があります。
その中でもまず見るべきなのがEDA(Exploratory Data Analysis)です。
EDAのKernelでは、投稿者が行ったデータ分析の内容を投稿してくれています。
いろいろな投稿者がEDAを投稿しており、人によってデータの分析の角度や可視化のやり方が違います。
これらの記事を見ることで、HomeCreditに留まらずデータ分析のハウツーや可視化の引き出しを増やすことができました（デキる人からすれば常識的なスキルかもしれませんが）

今回は幸運なことに、人気のEDAの日本語訳が投稿されており、この記事*3にはお世話になりました。

ただ、公開されているEDA以外にも、自分自身でEDAをやる必要があったなと反省しています。

2. コンペ参加

コンペの活動履歴を綴っていきます。
（）内は、その時点のだいたいの最終順位です。

とにかく１サブミット - ３特徴量だけを使う　（6600位 / 7200)

Kaggleに限らず新しいことを始めるにあたって一番しんどいのは、最初の一歩を踏むことだと思います。
完璧主義を目指して挫折するよりも、まずはどんな手法でもいいから、「１サブミット」をすることを目標にしました。

Kernelをざっと見ると、明らかに大事そうな特徴「EXT_SOURCE_1,2,3」があることに気づきました。
この３特徴量を抽出して、RandomForest(自分が最近よく使ってた手法)で分類するモデルを作りました。

１ファイル全部使う＋LightGBMにチャレンジ　(6100位 / 7200)

f:id:kurupical:20180908102329p:plain:w500

次は、

図の赤枠部分を使って予測すること
LightGBMを使うことにチャレンジしました。

LightGBMは使ったことがなく理論もわからなかったのですが、Kernelを見ながらプログラムを書いていきました。
パラメータもKernelのものを使いました。
LightGBMの場合、欠損値はそのまま処理してくれますし、カテゴリ変数も指定してあげればonehotencodeしなくてもそのまま処理してくれるので、とても便利です。

特徴量作成

特徴量作成は、思いついたものは片っ端から作って、最後に絞り込む方針でやりました。

特徴量作成①　全ファイルを機械的に集計　(1500位 / 7200)

f:id:kurupical:20180908112138p:plain

次は、使っている全ファイルを機械的に集計することにしました。
LightGBM（に限らずほとんどの機械学習アルゴリズム）を使うとき、特徴量の数は固定でないといけません。
ユーザー1は購買履歴が３行、ユーザー２は購買履歴が１０行・・・のように、各ユーザーごとにデータの特徴量が違うと都合が悪いので、図のような集計を全部の数値項目に対して行いました。

この発想は独自のものではなく、Kernelの丸パクリ*4です。

特徴量作成②　項目同士の突き合わせー数値編　( - )

f:id:kurupical:20180908110337p:plain

次は、項目同士の突き合わせです。
木のアルゴリズムはif文の集まりであるため、項目同士の関係を捉えにくいようです。
なので、元の特徴量をもとに新しく特徴量を生成しました。
例えば図にあるように、年収と子供の数の比を見れば、その家族が支払える金額の指標になりえます。

項目の意味を考えて、様々な特徴量を作成しました。
特徴量を作成するには、その業界特有の知識（＝ドメイン知識）が必要とされます。

私はドメイン知識がなかったので、特徴量の重要度（LightGBMが出力してくれる）を参照し、重要な特徴量同士を四則演算して特徴量を作成しました。

これも、基本的な発想はKernelの丸パクリ*5で、そこから自分のアイデアを肉付けしていく形にしました。

特徴量作成③　項目同士の突き合わせーカテゴリ編 ( - )

項目同士の突き合わせですが、カテゴリ変数は割り算ができません。
ので、以下２つのアプローチで行いました。

Target Encoding
ドメイン知識による数値変換

TargetEncodingとは、カテゴリ変数をTargetの平均で埋めることです。(今回であれば支払遅延有無：１を「あり」とする)
f:id:kurupical:20180908112824p:plain

また、ドメイン（もしくは常識的な）知識によりカテゴリ変数を数値に変換しました。
f:id:kurupical:20180908111911p:plain

これらの処理を行うことで、数値特徴量とカテゴリ特徴量の四則演算が可能になります。

特徴量作成④　時系列アプローチ　( - )

f:id:kurupical:20180910200457p:plain

また、時系列的な考え方も取り入れました。
普通に考えると、直近３ヶ月の履歴はそれより前の履歴よりその人の特性を表すと思ったからです。
例として、図のような特徴量を取り入れました。

また、過去３０日金額÷過去９０日金額など、直近の金額が過去と比べてどうであるか、のような特徴量も作りました。

このアプローチはこのdiscussion*6から自分で考えました。

特徴量選択 (600位 / 7200)

ここまでで作成した特徴量は、およそ１８００個となりました。
「LightGBMは冗長な特徴量があっても大丈夫」という意見もありましたが、特徴量が多いとメモリが足りないという都合と、やっぱり特徴量絞ったほうがいい結果が出る実感があったので*7、特徴量を絞りました。

特徴量選択は、Kernelでも様々な手法が紹介されていましたが*8、自分が試したのは以下です。

相関が高い特徴量を削除
LightGBMのfeature importance(gain/split)
Null Importances*9
SHAP*10

結局、1で相関係数>0.95のものは片方削除→4で重要度ベスト400,500,600をそれぞれ選び、モデルに学習させました。

パラメタチューニング①　hyperopt/BayesianOptimization ( - )

LightGBMのパラメータの意味がわからなくとも自動的にパラメータチューニングしてくれるすごいライブラリの使い方がKernelに公開されていたので、試しました。

hyperopt *11
Bayesian Optimization *12

ただ、これらを使うには調整するパラメータの範囲や種類を指定しなければなりません。

範囲や種類が多いほど時間がかかる。
特徴量の数によっても、最適なパラメタは違う（らしい）。

しばらく試していたのですが、上記のような理由もあり、やっぱりある程度LightGBM、GBDTの簡単な理屈を知ったうえで手でチューニングしたほうがいいかなと思い、使うのをやめました。

実際、過去の似たようなコンペの上位解法を見ると、「パラメタチューニングは勘で決めました」であったり、「我々が時間を割くべきはパラメタチューニングではない」といった記述もありました。

パラメタチューニング②　LightGBMの勉強 (150位 / 7200)

パラメタの意味を知るため、簡単にLightGBMの勉強をしました。
LightGBMを知るためにはxgboostを知ってる必要があり、xgboostを知るには勾配ブースティング木(GBDT)を知る必要があり、GBDTを知るには決定木を知る必要があるということがわかりました。

参考になった資料のリンクを貼っておきます。（自分が読んだ順）

過去コンペのパラメタ参照

Kaggle Past Competitions
Porto Seguroとか見ました。

結局

いろいろ見て、（結局半分も理解できませんでしたが）以下の方針を立てました。

モデルをロバストにする
- colsample_bytree 0.05-0.2くらい -> 0.05がよかった
- lamdba_l1とl2をそれぞれ0.1,1,5,10,20で組み合わせて試す -> l1=1, l2=20がよかった
- subsample 0.9で決め打ち
木の形はわからんからとりあえずいろいろ試す
- max_depthは-1とsqrt(max_leaves) * 2、max_leavesは30〜130くらいを試した -> max_depth=-1, max_leaves=30がよかった
gbdt, dart, gossはわからんからそれぞれ試した -> dartメイン、gbdtもちょっと使った
- 精度; dart>gbdt>goss
- 計算時間: dart>gbdt>goss
learning_rateは0.0025〜0.05まで試した -> アンサンブル考えると(後述)、以下がよかった。
- gbdt: 0.0025
- dart: 0.01

※この方針はあまりよくなかった気もしています。実際、２位のikiri_DSのonoderaさんのgithub見てみると*13、colsample_bytree 0.9くらいなので・・・

アンサンブル/スタッキング①　アンサンブル ( 62位 / 7200 )

最後にアンサンブルをしました。
「◯×クイズに６０％正解する人が３人。３人の答えがそれぞれ独立だとすると、３人のうち多数決を取ったときのクイズの正解率は？」
答え：
３人とも正解：0.6 * 3 = 0.216、２人が正解: 3 * 0.6 ^ 2 * 0.4 = 0.432なので、0.216 + 0.432 = 0.648。
正解率は一人の時より上がります！！

つまり、いろんなモデルを作って多数決をさせることで、それぞれのモデルよりよい性能が出る可能性があります。
ただし重要なのは、「モデル同士の予想の相関が低いこと」です。

モデル同士の予想の相関を低くするために、以下を行いました。

異なるアルゴリズムを使う(Neural Network) -> 精度が全く出ず断念
異なるパラメータを使う -> LightGBMのdart,gbdtを組み合わせることで精度が良くなった。
異なるseedを使ってK-Foldする -> 単一モデルより精度が良くなった
低すぎるlearning_rateを使わない(単一モデルの精度はよいが、異なるseedを使っても多様性がなく、アンサンブルの効果が薄くなった)

相関と精度を見て、最終的に、dart(500特徴量)・dart(400特徴量)・gbdt(500特徴量)のアンサンブルを組みました。（これが最終順位62位のサブミットでした）

アンサンブル/スタッキング②　スタッキング ( - )

「スタッキング」とは、「複数のモデルが出した予想値」を入力にしてもう一度学習させ、最終的な予想を行うことです。
スタッキングもやったのですが、アンサンブル以上に精度が出なかったので断念しました。

結果

LB: 498位→PB:62位
LBの順位は低かったですが、公開されているソースよりもCVが高かったので、Trust Your CV*14の精神で耐えました。
CV0.794->LB0.804のようなLBにOverfitしてると思われるものもありましたが、自分はCV0.8018 -> LB0.802でした。

3. 感想

とても勉強になりましたし、楽しかったです。
データの分析の仕方もLightGBMもわからない状態でスタートしましたが、ほとんどKernelに助けられながら、最後までできました。
実際、Kernelを全く見ないでやったら、半分より上にも行けなかったと思います。
scikit-learnあたりの使い方が少しわかってきたけど次何すればよいか・・・という人には、Kaggleを強くおすすめします！

また、コンペ参加中は、データ分析をみんなで一緒にやってる気持ちでした。
discussionを読みながら、時々参加したり。
リーダーボード（ランキング）をみて、「自分はこのスコアが限界だと思ってたけど、もっと伸びるのか」と、分析を投げずに最後までがんばれたり。
中だるみもありましたが、充実した３ヶ月でした。

自分自身が、Kaggleに参加する前とした後で変わったことは以下かなと思っています。

特徴量作成が超大事だと分かった。（データを入れたら答えが帰ってくるわけじゃない）
「テーブルデータの分類モデルの構築をどこから始めたらよいか」が分かった。
特徴量作成の定石を少し覚えた。
LightGBMの分類が使えるようになった。(ある程度パラメータも理解できた)
GCPの使い方がわかった*15

泥臭い部分も含めたノウハウを、少しだけ、Kaggleを通じて習得できたかなと思います！

超長くなってしまいましたが、最後まで読んで頂きありがとうございましたm(＿＿)m

*1:全部は覚えていないのですが以下が参考になりました
www.rco.recruit.co.jp
blog.kaggle.com

*2:データ項目, feature

*3:HomeCreditRisk : Extensive EDA + Baseline Model JP | Kaggle

*4:https://www.kaggle.com/jsaguiar/updated-0-792-lb-lightgbm-with-simple-features/code

*5:https://www.kaggle.com/jsaguiar/updated-0-792-lb-lightgbm-with-simple-features/code

*6:https://www.kaggle.com/c/home-credit-default-risk/discussion/58332

*7:上位の方は特徴あまり絞ってない方もいたので、間違ってるかもしれません

*8:https://www.kaggle.com/sz8416/6-ways-for-feature-selection

*9:https://www.kaggle.com/ogrellier/feature-selection-with-null-importances

*10:https://github.com/slundberg/shap

*11:https://www.kaggle.com/ogrellier/home-credit-hyperopt-optimization

*12:https://www.kaggle.com/sz8416/simple-bayesian-optimization-for-lightgbm

*13:https://github.com/KazukiOnodera/Home-Credit-Default-Risk

*14:https://www.kaggle.com/c/home-credit-default-risk/discussion/58332

*15:https://www.youtube.com/watch?v=NHQTw-ORcSQ

2018-08-17

＜メモ＞tensorflowのimport時のエラー(libcublas.so.9.0が見つからない)

tensorflowのimport時にlibcublas.so.9.0: cannot open shared object file: No such file or directoryと出る時の対処法メモ

環境

CUDA 9.0
tensorflow 1.8.0
Pycharm community 2018.1

状況

コマンドラインでpython→import tensorflowはちゃんと動く
Pycharmの問題っぽい？

解決方法

Pycharmを開き、[Run] => [Edit Configurations] => Python-[自分が動かしてるプログラム]を選択
Environment variablesに、LD_LIBRARY_PATH: /usr/local/cuda-9.0/lib64:$LD_LIBRARY_PATHを追加

f:id:kurupical:20180817101146p:plain

defaults→python→Environment variablesにLD_LIBRARY_PATHをセットしても動かなかったので、自分のプログラムにパスを通しました。

CUDAの環境まわりなどちゃんと入れてるのに何故かちゃんと動いてくれない・・・というときは、開発環境を疑ってみるとよいと思います。

参考記事：
github.com

2018-06-15

＜実践＞HomeCredit作業記録（６） - 進捗とメモ

f:id:kurupical:20180615203929p:plain:w500

いいところまで来ました。
淡々と、定石通りにやってるだけのつもりなんですが・・・

ただ、手法のPrivate shareが禁止ということで、規約にひっかかりそうなので過去の記事を非公開にしました。

いま使っているLightGBMがブラックボックスすぎるので、そこの勉強をしたいです。

ここまで作業時間４０時間くらい、思ったことややったことメモ

Kaggleだと限界がわかる

自分が１位じゃないかぎり、スコアの伸びしろがわかるっていうのは大きいですね。
実務だと一人でやるので、どこまでできるのかが不透明です。

しばらく誰も１００ｍ１０秒切れなかったのに切ったとたん、他の人も１０秒切れるようになった、みたいな感じですね
１位じゃないからまだまだやれるんだなというのがわかるのは大きいです。

Discussionが参考になる

今私は特徴量作成をやっているのですが、それすらも自動化する「Featuretools」というツールが出てるみたいですね。
Kaggleのディスカッションは以下です。
https://www.kaggle.com/willkoehrsen/intro-to-tuning-automated-feature-engineering

まだ使っていないのですが、いつかは使ってみたいです。

仕事でもプライベートでも作れるEDAツールにする

多分次の分析でもやるだろうな〜と思ったデータ加工のプログラムは、再利用可能＋テストを書いて多少の品質を確保しています。

データサイエンティストの人を片っ端からフォローした

議論を追ったりするとめっちゃ勉強になります！

2018-06-05

＜調査＞Kaggle過去コンペ上位入賞者のSolutionから学ぶ（１）

blog.kaggle.com
この記事に、「コンペに優勝するためには過去のコンペから学ぶことが大事だ」と書いてあったので、過去のコンペを調べることにしました。
過去のコンペのDiscussionを見ると、上位入賞者が解法を公開してくれています。

HomeCreditと同じ「分類」タスクのコンペを探しました。

以下、自分のメモ書きです。

Porto Seguro’s Safe Driver Prediction 1st solution

Porto Seguro’s Safe Driver Prediction | Kaggle

1ファイルのコンペ(主キー1に対して、レコードがN行みたいなことがない)

手法

Representation learning
- DAE(Deep Auto Encoder)による特徴抽出。
- Feature Engineeringが嫌い！それを自動化してこそAIだ！ということだそうです。
Normalizationには"RankGauss"を使った
- RankGauss http://fastml.com/preparing-continuous-features-for-neural-networks-with-rankgauss/
  - min/max scalingやmean/stdでの正規化より良いらしいです。
    あまり記事がないので、あとで調べます・・・
inputSwapNoize
- 0.15 means 15% of features replaced by values from another row.
- これって以下の認識であってるんでしょうか？
  - DAEはノイズ除去の役割を果たす
  - 人工的にノイズを作るため、各特徴の15%は別の行とスワップする
GANはやってみたけど失敗
- 連続値とカテゴリ変数が混在する場合のGANは難しい
- 疑問：GANを何に使おうとしたのでしょうか？
NN5個とLGBM1個をstacking(重みはすべて同じ)

感想

DAEによる特徴抽出が強い！今のコンペでもやってみたいです。ただ、主キー1に対してN行データがある場合は入力が動的になるから難しいですね。この問題が解決できたら、いよいよFeature Engineeringが要らなくなる？
inputSwapNoiseの考え方が個人的にとても面白かったです。

2018-06-04

＜実践＞HomeCredit作業記録（５） - FeatureEngineering続き

Kaggle挑戦中です！
債務不履行になる人を予想するタスクです。
Home Credit Default Risk | Kaggle

やったこと

FeatureEngineering

FeatureEngineering

前回の記事では、一つ一つの特徴量をじっくり見ていました
kurupical.hatenablog.com

ですが、やっぱりキリがないので、機械的に全部のデータをいろいろな形で集計しました。
参考にしたKernelは以下などです。
Good_fun_with_LigthGBM | Kaggle
LightGBM - all tables included [0.778] | Kaggle

結果

score: 0.735 -> 0.782
順位: 214位/1642 (上位15%)

今後やっていきたいこと

いったんFeatureEngineeringはやめて他のタスクを。

パラメタチューニング
RandomisedSearch, GridSearch以外もいろいろ試したいです。
- BayesianOptimization
  github.com
別のアルゴリズムも使う
今はLightGBMを使っているのですが、XGBoostやDeepLearningも試してみたいです。
アンサンブル学習
複数の学習器でStackingをやりたいです。

その他

参考になったDiscussion

この特徴量生成は正直引きました。え、そこまでやるの？みたいな
Hybrid Jeepy and LGB | Kaggle
いろんな特徴量を足したり引いたりミニマム取ったりtanh取ったり・・・
そこまでやるならDeepLearningでやればよいのでは？なんて思ったり。
でも、こういうアプローチもあるのかと勉強になりました。
Home Credit Default Risk | Kaggle
書き込んでみました。笑　質問した後、自分の凡ミスに気づくという・・・

2018-06-01

＜実践＞HomeCredit作業記録（４） - FeatureEngineeringのためのツール作成

Kaggle挑戦中です！
債務不履行になる人を予想するタスクです。
Home Credit Default Risk | Kaggle

やったこと

FeatureEngineeringのつづき

可視化ツールの作成
特徴量の作成

可視化ツールの作成

f:id:kurupical:20180601223524j:plain:w500

def visualize_bar(df,
                  target_name="TARGET",
                  output_path=None):
    """
    分析対象のcolumnとTARGETの関係を棒グラフにする

    :param df:
        columns=[分析対象column, TARGET]
    :return:
    """

    column = list(df.drop([target_name], axis=1).columns)
    df_count = df.groupby(column).count().sort_index()
    print("columns_unique_num:{}".format(len(df_count.values)))

    if len(df_count.values) > 200:
        print("columns is too big to output bar")
        return

    yticks = []
    for index, count in zip(df_count.index, df_count.values):
        tmp = "{} (N={})".format(index, count[0])
        yticks.append(tmp)

    plt.figure(figsize=(8, len(df_count)*0.6))
    sns.barplot(x=target_name, y=column[0], data=df, orient="h")

    plt.axvline(df[target_name].mean(), ls=":", label="all_mean")
    for i in range(len(df_count.values)):
        plt.text(0, i, "N={}".format(df_count.values[i]))
    plt.legend()
    plt.savefig(output_path)
    plt.close()

このツールを作ったことで、自分が作った特徴量の評価がしやすくなりました。

特徴量の作成

データから、「顧客IDごとの、現在返済中借金の件数」という特徴量を作りました。
棒グラフがカラフルなのはデフォルト設定で、僕のセンスじゃないです。

f:id:kurupical:20180601223822j:plain:w500

現在返済中借金の件数が多いほど、債務不履行になる確率が高くなるのがわかります！

以下は学習器が出力する「分類に使った大事な特徴ランキング」なのですが、僕が作った項目(*ACTIVE_COUNT)が上位にランクインしています。(全部で200項目くらいあるうちの30位) f:id:kurupical:20180601224432p:plain:w500

まとめ

特徴量作成が捗るツールを作った。
いい特徴量が１個つくれた。

こんな感じで、全体データを眺めては特徴量を作成する、というのをしばらくはもくもくと続けることになりそうです。

1. まえがき

2. コンペ

2-1. 概要

2-2. 上位Solution

2-2-1. 1st place solution

2-2.2. 3rd place solution

2-2-3. 4th place solution

2-2-4. 5th place solution

2-2-5. 7th place solution

2-2-6. 8th place solution

3. 感想

もくじ

0. スペックと前準備

スペック

前準備

1. コンペ内容と基本的な内容の確認

Kaggleの公式ページ

2. コンペ参加

とにかく１サブミット - ３特徴量だけを使う （6600位 / 7200)

１ファイル全部使う＋LightGBMにチャレンジ (6100位 / 7200)

特徴量作成

特徴量作成① 全ファイルを機械的に集計 (1500位 / 7200)

特徴量作成② 項目同士の突き合わせー数値編 ( - )

特徴量作成③ 項目同士の突き合わせーカテゴリ編 ( - )

特徴量作成④ 時系列アプローチ ( - )

特徴量選択 (600位 / 7200)

パラメタチューニング① hyperopt/BayesianOptimization ( - )

パラメタチューニング② LightGBMの勉強 (150位 / 7200)

概要

大事なパラメタとその意味を調査

論文

論文全然わかんなかったので参照

過去コンペのパラメタ参照

結局

アンサンブル/スタッキング① アンサンブル ( 62位 / 7200 )

アンサンブル/スタッキング② スタッキング ( - )

結果

3. 感想

環境

状況

解決方法

ここまで作業時間４０時間くらい、思ったことややったことメモ

Kaggleだと限界がわかる

Discussionが参考になる

仕事でもプライベートでも作れるEDAツールにする

データサイエンティストの人を片っ端からフォローした

Porto Seguro’s Safe Driver Prediction 1st solution

手法

感想

やったこと

FeatureEngineering

今後やっていきたいこと

その他

参考になったDiscussion

やったこと

可視化ツールの作成

特徴量の作成

まとめ

とにかく１サブミット - ３特徴量だけを使う　（6600位 / 7200)

１ファイル全部使う＋LightGBMにチャレンジ　(6100位 / 7200)

特徴量作成①　全ファイルを機械的に集計　(1500位 / 7200)

特徴量作成②　項目同士の突き合わせー数値編　( - )

特徴量作成③　項目同士の突き合わせーカテゴリ編 ( - )

特徴量作成④　時系列アプローチ　( - )

パラメタチューニング①　hyperopt/BayesianOptimization ( - )

パラメタチューニング②　LightGBMの勉強 (150位 / 7200)

アンサンブル/スタッキング①　アンサンブル ( 62位 / 7200 )

アンサンブル/スタッキング②　スタッキング ( - )