1. ホーム
  2. javascript

[解決済み] JavaScriptのサポートが必要なページでのcURLリクエスト

2022-02-19 18:15:55

質問内容

pinnaclesports.com の HTML ソースを取得する必要があります。問題は、クッキーとJSが有効になっているかどうかを検出し、有効になっていない場合は、次のようなページを返すだけです。

<ブロッククオート

このサイトでは、JavaScriptとCookieを有効にする必要があります。ブラウザの設定を変更するか、ブラウザをアップグレードしてください。

cURLを使用する際に、JSサポートを偽装する方法はありますか?

EDIT: Perl/Rubyモジュールとして、またはPHPで書かれたヘッドレスブラウザを使用することができます。

どのように解決するのですか?

私はそれを理解しました。 クッキーなしのREQUESTを行うと、javascriptを使用してクッキーを設定するページが返されます。

次のように別のcurlを呼び出します。

curl https://www.pinnaclesports.com/ --cookie "YPF8827340282Jdskjhfiw_928937459182JAX666=122.167.231.139"

すなわち、2つの呼び出しを行う必要があります。 1) cookie less 呼び出しを行い、cookienameを見つけるためにreadとregexを行う。 2) クッキー名を設定した後、2回目のリクエストを行う。 これで問題解決です。

または
YQLを使うだけ

select * from html where url="https://www.pinnaclesports.com/" 

を指定し、curlを実行します。 ここで