やっぱりアクセストリガーだと制御が難しそうですよね。
bratech様のようにcronでの処理はうまく使えれば改善できそうですが、
ECCUBEには反映は無理そうですね；

>トランザクションの開始、コミットによるロックがうまく効いていない印象です。
begin/commitはエラーなどの場合にデータ不整合を防ぐために
意図的にrollbackをかけられるようにする仕組みなのでちょっと違う気がします。

>cronにしても管理画面からのキャンセル処理と同タイミングになってしまえば、同じ現象が起きないでしょうか？
決済処理中で残ってしまった受注をキャンセルするということでしょうか。
これはもう、
「管理画面からは決済処理中の受注を弄らない」、
「既存の受注を決済処理中にしない」ようにするしかないのではないかと；
これらのロールバック処理がうまく動けば、特に運営者が意識せずとも片付けられると思いますので。
機会損失が気になる、ということであれば、
有効期間(PENDING_ORDER_CANCEL_TIME)を短くすることで解決しませんか。