- 課題
- 複数のECサイトの商品情報をスクレイピングし、価格比較及び自社の価格設定への参考情報にしたいとのご依頼でした。
- 解決
- ECサイトのスクレイピングはグレーな部分も多くあまり相手側のサーバに負荷をかけるとトラブルになります。
そのため、取得範囲、スケジュールなどに注意を払い対応しました。
またAWSを採用することで初期コストを抑えつつ、データ分析ができる環境などスクレイピング以外の機能も合わせてご提供しました。
- 効果
- ・一部ECサイトはWebAPIによるデータ取得にすることで安定してデータ取得ができました。
・他のECサイトについては夜間など負荷の低い時間帯に実施、また取得間隔も極力空けるよう対応しました。
・分析できるBIツールを導入し価格推移及び今後の予測ができるようになりました。