Pythonの特徴でデータ分析やインターネット上のデータにつなげられるというのがあります。そこでスクレイピングというプログラミングなどで情報を収集して抽出したり加工するのをPythonでやってみました。
「Python2年生スクレイピングのしくみ」という参考書のサンプルを動かしてどんなことができるかを簡単に紹介します。プログラミングの文法の説明については省きます。参考書での開発環境はIDLEですが今回はThonnyを使っています。
(ダウンロードしたサンプルを使うときは違う場所に移動させてからやりましょう。ダウンロードフォルダだと操作や変更が上手くいかないことがあります。)
🔵WEBサイトの情報を取得する。
このサイトの情報を取得してみます。

HTML情報を取得して表示プログラム

ファイルに保存もできます。

HTMLタグの種類を指定して取得

指定して画像ファイルを保存

保存できた画像ファイル
郵便局から東京都の郵便番号のデータをダウンロード

郵便番号を指定して住所を求める

政府による都道府県人口のデータ

人口の多い順にグラフ化するプログラム

並び替えをしてグラフ化

人口増減をグラフ化

人口の増減が一目でわかりますね



数年前に買った参考書でやったんですが現在のWEBサイトのオープンデータの形式が参考書と違うところもあったのでもし買うならなるべく新しいものがいいと思います。また「Python2年生データ分析のしくみ」と一緒に勉強するのがおすすめです!
どんなときにどのライブラリを使うと便利なのか、プログラムに出てくるものが変数なのか関数なのかクラスなのか、扱うデータの列と行の数を把握したり、見出し(ヘッダー)があるのかどうかを意識しながらやりました。
Pythonでのデータ分析やスクレイピングは市場分析などのマーケティングや業務の効率化につながったりするようです。
アプリケーション開発に関しては今の時点ではクライアント側というより運営側(サーバー、バックエンド)のプログラムで利用されているようです!
〈日常ブログ〉

















