ECCUBEのログにエラーログが出ているのではないかと思いますが
件数が少ないと正常にダウンロードできるのでしょうか？
件数が多いとエラーが発生するのであれば、メモリオーバーのエラーが発生している可能性があるかと思います。
php.iniのmemory_limit等を確認されてみては如何でしょうか？

文字化けしている部分ですが、多分エラーページを表示しようとしているような気がしますので
UTF-8を指定してファイルを開くと「システムエラー」という意図の文言が表示されているのだと思います。

----------------
株式会社シロハチ
■ECCUBE2系、3系構築カスタマイズご相談ください。
■EC-CUBE3マニュアル
■blog