RHEL9のNSSライブラリでは、DBM形式のNSS DBファイルが非サポートになりました。
このため、OpenJDK8のSun PKCS#11プロバイダは、RHEL9でDBM形式のNSS DBファイルを使用できなくなりました。
DBM形式は古い形式のため、SQLite形式のNSS DBファイルを使用してください。