解決致しました。
鍵の変換の方法が間違っていました。ヒントはメ欄です。
AJさんのリドルに慣れている方ならピンと来ると思います。
あとは問題も同様に変換、そして反転文字から導かれる演算をします。