AWSに弥生会計をインストールしたら文字化けした

クラウド環境のマシンを作って欲しいと頼まれ、初めてAWSを触ってみた。
AWSの使い方はいろんな人のブログやらで紹介されてるから、それを見ながらなんとかできた。
無料のWindowsマシンを作ってみてリモートデスクトップで接続して弥生会計をインストールして見たんだが、
アプリのインストーラーやらアプリ本体のメニューが文字化けしている。

弥生会計 ネットワーク/プロフェッショナル2ユーザー
https://dlstore-cdn.yayoi-kk.co.jp/19/account/AccManual_Inst_NwPro2u.pdf

AWSの無料枠のWindowsは英語版でそこに日本語パックをいれて日本語版にしたのだが。写真だどごみ箱は日本語表示だが弥生会計のタスクバーとかメニューは化けている。
ググると弥生会計で文字化けした人がいるみたいで、日本語版のWindowsじゃないとだめていう記事もあった。
Win98の頃はこんな事象はよくあって強制的にシステムフォントを日本語フォントに置き換えるアプリとかがあったが、Windowsの言語の設定に「管理用の言語の設定」なるものがあることを発見。
これを日本語に変えてリブートしたら見事に日本語表示が可能に。

ロケールを日本にしたら、管理用だって日本語だろ。なんでこういうこういう設定があるのかね？