株ドラゴンをpythonでスクレイピング

株式投資
LINEで送る
Pocket

株の銘柄を選定する際、ランキングやその他の指標を継続的に監視したいことがあると思います。毎日の作業なので出来れば自動化したいところですが、自分にオリジナルなチェック基準がある場合、既存のサイトでのフィルタは物足りないことがあります。

私もいい方法がないかとネットで検索していたところ、pythonでスクレイピングすることでカスタマイズ性が上がりそうなので実装してみました。

各種インポート

私の環境は、今後得られたデータを使って機械学習を行うことを想定してGoogle Colabolatoryを使用しています。

Google ColabolatoryはGoogleアカウントさえ持っていれば気軽にPythonをいじれるので超簡単。ノートブックしかない私の環境でもサクサク動きます。

Google様には頭が上がりません。

とりあえず環境設定はこんな感じ。自PC環境でプロキシ設定がある場合はコメントアウト部分をいじればいけると思います。

株ドラゴンのサイト構造

株ドラゴン https://www.kabudragon.com/ こちらのサイトから情報を使用させていただきます。

スクレイピングはあまりURLへのアクセス頻度が高いと相手サイトのサーバー負荷が高くなるので、迷惑にならないようアクセス頻度に気を付けてコーディングしましょう。

ただ、数十日分のスクレイピングをするくらいなら現状は問題なさそうです。

さて、株ドラゴンのサイト構造は以下のようになっています。

のちに出てくるURL指定の際には、自身が取得したいランキングを上記のURLをカスタマイズして取得してください。

取得する日付の区間指定とデータ整備のための関数

ランキングを利用して分析する際は、日次ごとの変化を見たいはずなのでスクレイピング開始と終了の日付を指定する変数を作ります。

また、後で順番通りに取得できるよう、日付文字列を演算可能なdatetime型に変換しておきます。

それと、上記のto_intはとっても重要です。スクレイピングすると、株ドラゴンの表内の価格に関するデータはことごとくカンマ区切りの文字列で取得されるため、数値演算ができません!私はここで少し泣きました。まぁ変換は簡単で、後でDataFrame[‘列名’].map(to_int)としてやって、変換したい列を全部数値に置き換えます。

スクレイピング本体

今回は出来高ランキングを使ってみます。

2行目のtqdmは、取得する日付が多くなった時にプログラムの実行に時間がかかるとき進捗度合いをシークバーで表示する文です。自PCの際はただのtqdmをimportすることでもっと簡単に書けると思います。最下段のpbar.update(1)を忘れずに。

コーディングの大部分は他サイト様の情報を参考にしました。閲覧するランキングによってcolsの要素数が変化するので気を付けてください。

補足ですが、URLで平日を指定した場合、サイト情報は取得されないのでhtmlタグのtrを条件にサーチしてあげれば休日を飛ばしてDataFrameに突っ込めます。へぇ~。

さらに追記で、ランキング200件を選択した場合、14行目の範囲は50→200にしてください。

データの整形

取得した直後のDataFrameは、分析に要らない要素があるので適当にdropします。今回は順位,銘柄,終値,出来高が分かればいいことにしてその他は落としました。

取得したdekidakaの見た目はこんな感じ

取得したデータで条件をつけて抜き出したい場合も、DataFrame型なら不等号などですぐに検索できます。

また、dfに同じ要素がある場合にその要素をユニークに数えることもできます。

ということで、以下のように書いて1ヵ月分の中から、出来高が9桁以上になった銘柄をすべて取り出してみましょう。

結果

2020年の7月中に出来高が9桁到達したのは上記の2銘柄でした。

このようにカスタマイズ性が格段にあがるのでpythonを触ってみて楽しいなと思いました。いい売買ロジックを持っている方がいれば組んでみることをおススメします。

コメント

タイトルとURLをコピーしました