PHPをCGIとして動かす方法

http://www.coreserver.jp/help/index.php/phpcgi/

これだと思います。

.htaccessに

AddHandler application/x-httpd-phpcgi .php

の1行を追加

あと、ファイル群はFTPではなくSSHを使って直接サーバ上で解凍したほうがいいです。

wget http://downloads.ec-cube.net/nightly/eccube-comu-r18327.tar.gz
でダウンロード。その後

tar zxvfp eccube-comu-r18327.tar.gz

でサーバー上に展開されます。

インストール時に
Warning: mkdir() [function.mkdir]: Unable to access

と出るのは、ファイルの所有者権限がapacheとなっているからでしょう。
coreserverの管理パネルで　メニューのツールというところで所有者変更できるので、押して3分ほど待つと変更されているはずです。その後再度インストール作業をしてください。

文字化けしているのはデータベースの作成時にUnicodeで作成されてないからではないでしょうか？

その他にもいくつか注意点はありますが、書ききれないのであしからず。（php.ini ファイルを各フォルダに用意する必要があるとか）
php.iniファイルの中身は下記URL参照
http://svn.ec-cube.net/open_trac/browser/branches/comu-ver2/php.ini-pc

ちなみに正式版でも comu版でもまたはMySQLでもPostgreSQLでも同サーバーで動作してますよ。