1. ホーム
  2. python

[解決済み] ScrapyプロジェクトのデバッグにPyCharmを使用する方法

2022-11-20 15:45:20

質問

Scrapy 0.20をPython 2.7で動かしています。私はPyCharmが良いPythonデバッガを持っていることを知りました。私はそれを使って私のScrapyスパイダーをテストしたい。誰かがそれを行う方法を知っていますか?

私が試したこと

実は、スパイダーをスクリプトとして実行することを試してみました。その結果、そのスクリプトをビルドしてみました。そして、このようなモデルとしてScrapyのプロジェクトをPyCharmに追加してみました。
File->Setting->Project structure->Add content root.

しかし、他に何をしなければならないかわからない。

どうすればいいのでしょうか?

この scrapy コマンドは Python スクリプトであり、PyCharm 内部から起動できます。

scrapyのバイナリ( which scrapy ) を調べると、これが実際にはpythonスクリプトであることに気づくでしょう。

#!/usr/bin/python

from scrapy.cmdline import execute
execute()

これは、以下のようなコマンドは scrapy crawl IcecatCrawler はこのように実行することもできます。 python /Library/Python/2.7/site-packages/scrapy/cmdline.py crawl IcecatCrawler

scrapy.cmdlineのパッケージを探してみてください。 私の場合、場所はここでした。 /Library/Python/2.7/site-packages/scrapy/cmdline.py

そのスクリプトを script として PyCharm 内に run/debug 設定を作成します。スクリプトのパラメータにscrapyコマンドとspiderを記入します。この場合 crawl IcecatCrawler .

このように

ブレイクポイントをクローリングコードの任意の場所に置けば、うまくいくはずです™。