privateCertHash = CryptoLayer.getInstance().getCertificateHash(keystore, certName, String.valueOf(keystorePassword));
log.info("privateCertHash = " + privateCertHash);
if (privateCertHash == null) {
resultDTO.setSignature("@error введен неверный контейнер или пароль!");
return resultDTO;

Добрый день!

а что в коде getCertificateHash() ?

public String getCertificateHash(final String keyStorePath, String keyAlias, String password) {
return (String)AccessController.doPrivileged(new PrivilegedAction<String>() {
public String run() {
try {
X509Certificate cert;
if (SystemUtils.IS_OS_UNIX) {
System.out.println("Storepath++++" + keyStorePath);
CryptoAPISignatureLinux criptoAPISignaturex = new CryptoAPISignatureLinux(WindowsCryproAPILayer.this.getIntLayaerParam("PROVIDER_TYPE"), false);
cert = criptoAPISignaturex.getCertificate(keyStorePath);
return WindowsCryproAPILayer.this.getCertDigestString(cert);
} else {
CriptoAPISignature criptoAPISignature = new CriptoAPISignature(WindowsCryproAPILayer.this.getIntLayaerParam("PROVIDER_TYPE"), false);
cert = criptoAPISignature.getCertificate(keyStorePath);
return WindowsCryproAPILayer.this.getCertDigestString(cert);
}
} catch (Exception var3) {
var3.printStackTrace();
return null;
}
}
});
}

public String getCertificateHash(String keyStorePath, String keyAlias, String password) {
String retVal = null;
String err = null;
Key key = null;
byte[] signature = null;
X509Certificate cert = null;
final char[] passwordChr = password.length() > 0 ? password.toCharArray() : null;
final String storePath = keyStorePath;

try {
if (this.checkProvider()) {
System.out.println("Getting Certificate hash...");
final KeyStore ks = KeyStore.getInstance(this.getLayerParam("KEYSTORE_TYPE"));
Boolean result = (Boolean)AccessController.doPrivileged(new PrivilegedAction<Boolean>() {
public Boolean run() {
try {
FileInputStream keyStoreStream = null;
if (!JCPCryptoLayer.this.isHideContainerField()) {
keyStoreStream = new FileInputStream(storePath);
}

ks.load(keyStoreStream, passwordChr);
return true;
} catch (Exception var2) {
var2.printStackTrace();
return false;
}
}
});
cert = (X509Certificate)ks.getCertificate(this.getKeyAlias(ks));
retVal = this.getCertDigestString(cert);
} else {
System.out.println("JCP doesn't work!");
}

return retVal;
} catch (Throwable var16) {
var16.printStackTrace();
return retVal;
} finally {
;
}
}

приведите тогда полный стектрейс.

} else if (!privateCertHash.equals(certHash)) {
resultDTO.setSignature("@error Выбранный ключ не соответствует сертификату пользователя!");
return resultDTO;

ну без вывода и того как работает код вообще непонятно.
названия методов и текст тоже вводят в заблуждения.

откройте обращение на портале тп https://support.cryptopro.ru и в рамках него передавайте логи и другую необходимую информацию

это влияет на подпись.
если срок ЗК истек подписать в нормальных условиях нельзя.

а на винде может отключили проверку в разрез требованиям документации на СКЗИ