Pythonの特徴でデータ分析やインターネット上のデータにつなげられるというのがあります。そこでスクレイピングというプログラミングなどで情報を収集して抽出したり加工するのをPythonでやってみました。

「Python2年生スクレイピングのしくみ」という参考書のサンプルを動かしてどんなことができるかを簡単に紹介します。プログラミングの文法の説明については省きます。参考書での開発環境はIDLEですが今回はThonnyを使っています。

(ダウンロードしたサンプルを使うときは違う場所に移動させてからやりましょう。ダウンロードフォルダだと操作や変更が上手くいかないことがあります。)



🔵WEBサイトの情報を取得する。
このサイトの情報を取得してみます。

HTML情報を取得して表示プログラム

ファイルに保存もできます。

保存したファイル(メモ帳で開いたとき)

🔵一部の要素を取り出す
HTMLタグの種類を指定して取得

このWEBサイトで情報取得してみます

ClassやIDを指定して取得

指定して画像ファイルを保存

保存できた画像ファイル

画像ファイルを探して一括保存(表示してるのはプログラムの一部)

画像ファイル全てが保存できました。

🔵データの表示や並び替えなど
用意した学生の成績データ

データファイルを読み込んで表示

並び替えができる

グラフで可視化できる

🔵オープンデータを使って分析
郵便局から東京都の郵便番号のデータをダウンロード

郵便番号を指定して住所を求める

政府による都道府県人口のデータ

人口の多い順にグラフ化するプログラム

並び替えをしてグラフ化

人口増減をグラフ化

人口の増減が一目でわかりますね

🔵マップ機能
データシティ鯖江のサイトから「消火栓」と「店舗」をCSV形式でダウンロードします。


緯度経度より消火栓のある場所を表示

店舗のある場所を表示するプログラム


数年前に買った参考書でやったんですが現在のWEBサイトのオープンデータの形式が参考書と違うところもあったのでもし買うならなるべく新しいものがいいと思います。また「Python2年生データ分析のしくみ」と一緒に勉強するのがおすすめです!
どんなときにどのライブラリを使うと便利なのか、プログラムに出てくるものが変数なのか関数なのかクラスなのか、扱うデータの列と行の数を把握したり、見出し(ヘッダー)があるのかどうかを意識しながらやりました。

Pythonでのデータ分析やスクレイピングは市場分析などのマーケティングや業務の効率化につながったりするようです。
アプリケーション開発に関しては今の時点ではクライアント側というより運営側(サーバー、バックエンド)のプログラムで利用されているようです!

〈日常ブログ〉
散歩をしたときの鳥と花の写真です。



グリーンカレーはココナッツミルクでまろやかで美味しかったです。