相続する者が死亡してしまった場合

＞その場合、はじめに亡くなった弟の遺産を相続できるのは母と兄の嫁になるのでしょうか？

基本的にはその通りです。
正確には、弟さんの遺産をお母さまとお兄様で各２分の１の割合で相続し、お兄様が亡くなったことで、お兄様の遺産をお母さま４分の１、お兄様の奥様４分の３の割合で相続します。
その結果、お兄様の奥様は、弟さんの遺産の８分の３（１／２×３／４）を相続することになります。

＞母も高齢な為どうしたらいいのか困っているようです。

親族間のことですので、お兄様の奥様と話し合いで解決できればいいですが、無理なようでしたら弁護士に依頼するか、家庭裁判所に遺産分割調停を申立ててください。

＞また、兄は亡くなった弟の預金を亡くなった後に数百万引き出していたようです。

正当な理由もなく引き出していた場合は、返還を要求することができます。
もっとも、実際には遺産分割時に勝手に引き出した金額を考慮して分けるということになるでしょう。

その場合、はじめに亡くなった弟の遺産を相続できるのは母と兄の嫁になるのでしょうか？

そうですね。

遺産の引き出しについては確認し戻してもらい、各相続については財産関係を調査の上で、遺産分割協議をしていくことになるでしょう。
調査や交渉については弁護士と相談しつつ進める方が良いかと思います。