Selenium＋PythonでWeb検針票から電気料金を自動確認する方法
年々こうも暑さが厳しくなると、気になるのは冷房の使用に伴う「電気料金の増加」です。 東京電力の場合、電気料金はこれまで「紙の検針票」で確認していましたが、2021年3月分で終了となりました。4月分から…
2021/7/21
ブログ
タグ： Webスクレイピング
requestsで取得できないWebページをスクレイピングする方法
スクレイピングの定番の方法と言えば「requests + BeautifulSoup」の組み合わせです。一般的はWebページであれば、大抵はスクレイピングできます。 しかし、この方法で読み取れないWe…
2019/12/20
サーバーレス ＋ Pythonで定期的にスクレイピングを行う方法
目の前のパソコンではなく、サーバーを用いればプログラムを24時間体制で動かすことができます。Pythonで仕事を自動化するには様々な事例が考えられますが、さらに応用範囲が広がります。 そのためにはサー…
2019/12/13
requestsモジュールでダウンロードに失敗する時の対策方法
WebサーバーからHTMLやPDFのファイルをダウンロードするには、requestsモジュールを利用すると、以下のようにrequests.get()を用いて簡単にプログラミングできます。 >>> im…
2019/11/13
Python本紹介：Python２年生 スクレイピングのしくみ
本書は「Python１年生」の続編です。今回も予想通り良書です。 内容はスクレイピングに始まり、データの加工・集計と可視化の方法、エクセルファイルの読み書き、オープンデータの活用方法、Web APIの…
2019/11/6