オークファンとは?
オークション、ショッピングの商品及び価格情報の比較・検索・分析が可能な主力事業である「aucfan.com」は、ヤフオク・楽天・amazonそれぞれの商品を比較・検討できます。過去10年間のオークション落札価格・情報を網羅し、カンタン出品・落札ツールなど、便利な機能を搭載します。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすい人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99%のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。
抽出されたデータをご覧ください。
![画像](https://assets.st-note.com/img/1707284267704-50bpqVanzt.png?width=800)
1.タスクを新規作成する
URLジェネレータ機能を利用し、直接リンクを生成してください。
(1)URLをコピーする
今回はアナログ(自動巻き)をキーワードとして、その検索結果ページから商品の情報を収得し、そのスクレイピング方法を紹介します。まず、第二ページのリンクをコピーしてください。
![画像](https://assets.st-note.com/img/1707284273189-LOczFF2nhv.png?width=800)
(2)パラメータを追加する
URLジェネレータでURLを入力して、パラメーターを追加画面にページ数を入力し、生成したURLはプレビュー画面でチェックしてください。
URLジェネレータの使い方
![画像](https://assets.st-note.com/img/1707284281855-bieDRBcc90.png?width=800)
![画像](https://assets.st-note.com/img/1707284355219-ZY9CgGia55.png?width=800)
2.タスクを構成する
(1)自動識別
ScrapeStormは自動的にリスト要素とページボタンを識別できます。ページボタンを「スクロールローディング」に設定してください。下記のチュートリアルも参照してください。
ページ分けの設定方法
![画像](https://assets.st-note.com/img/1707284396875-iSw8MQkOMo.png?width=800)
(2)詳細ページに行く
ソフトウェアの「詳細ページに行く」機能を利用し、即決価格、送料負担、発送元などの情報を抽出します。
![画像](https://assets.st-note.com/img/1707284402223-NkWyvTMFwH.png?width=800)
(3)フィールドの追加と編集
「フィールドを追加」ボタンをクリックして、画面に必要な要素を選択、データが自動的に抽出されます。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法
![画像](https://assets.st-note.com/img/1707284411007-F78WfjpFAf.png?width=800)
3.タスクの設定と起動
(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。サーバーに負荷しないように、遅延時間を設定してください。5秒以上を推薦します。スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法
![画像](https://assets.st-note.com/img/1707284418798-l7AcGz0Gwq.png?width=800)
(2)しばらくすると、データがスクレイピングされる。
![画像](https://assets.st-note.com/img/1707284424241-ybnWnq7sau.png?width=800)
4.抽出されたデータのエクスポートと表示
(1)エクスポートをクリックして、データをダウンロードする
![画像](https://assets.st-note.com/img/1707284428697-d5s8lagnzo.png)
(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法
![画像](https://assets.st-note.com/img/1707284433940-cfvR0E5GQw.png?width=800)
Demoタスク:
ネットオークション!オークファンから商品の情報をスクレイピング.sst
https://drive.google.com/file/d/1LLNJPml79CAWmfqksgPuB_vtwYWoGQ_J/view?usp=sharing
注意:法律違反しないため、抽出されたデータを悪用禁止です!