Какие настройки установить для подключения сервера к бд на vps?

Смотри, первым делом в конфиге БД (my.cnf / postgresql.conf) пропиши bind-address = IP твоего VPS или 0.0.0.0, если сервер приложения вне этой машины. Создай юзера в базе с разрешённым хостом (например, 'user'@'192.168.1.100'), а не только localhost. На VPS проверь файрвол (ufw/iptables), открой порт БД (3306/5432) строго для IP приложения, иначе заколебёшься банить брутфорсеров. Ну и в конфиге самого приложения пропиши хост, порт, юзера и пароль как обычно.