()の中を数字に変換するわけでは無さそうです。
式を解くための手がかりは得られましたか？
まだなら、これから辞書が活躍します。
辞書では気になるアルファベットを調べてきましたね。
また、新たにアルファベットが出たのではないでしょうか？
宝箱のパスワードもアルファベットでしたね…。

式を解くための手がかりが分かれば、()の中を何に直したら良いか分かると思います。

導き出したものはどうしたらいいかですが、このゲームの始まりを覚えていたら、どうしたらいいか分かりますよ。

具体的な答えは書けませんが、()の中の最初の記号がヒントになっていますので…はじめに辞書で調べたあの文字ですよね。

()には他にも指示があります。

その指示の例題に宝箱のアルファベットを調べてみてください。

数式はズラす指示です。