このエラーメッセージはサーバでエラーが発生しました。というものなので
理由はここでは分かりません。

10分くらいして発生したという事ですので
PHPの実行時間を制限しているmax_execution_timeに引っかかったのではないでしょうか？

データ容量が大きい場合等、各種制限がかかってしまう可能性はあるかと思います。
（php.iniの設定を変更する事で各種制限を緩くする事は出来ますが
　専用サーバーでない限り限界があります。）

そうなってくるとssh等でコマンドラインでの操作(mysqldumpコマンド等)を行う必要が出てくると思いますが
ECCUBEの範囲を外れて、Linux上での操作などになってきますので
ここで手取り足取り伝えると言う事は難しくなってきます。
（ご利用のレンタルサーバによってSSHが利用できる・出来ない等条件も変わってきます）

今回対象のECCUBEは何年も運用されているようなサイトのデータなのでしょうか？
データベースのバックアップを取得される目的はどのようなものでしょうか？
サイト移転等の目的があるのでしょうか？
それとも復旧作業用にバックアップを取っておきたいという事でしょうか？

要件によっては、サーバの操作に詳しい方、
もしくは業者に有償で作業を依頼する必要があるかもしれません。
（変にサーバを触ってしまってデータを壊してしまうとマズイと思いますので...）

----------------
株式会社シロハチ
■ECCUBE2系、3系構築カスタマイズご相談ください。
■EC-CUBE3マニュアル
■blog