喫茶店を継ぐと他の相続権も主張できるのか？

喫茶店が有限会社形態とのことですが、喫茶店（会社）の相続の効力が山に及ぶか否かは、山の所有者がお父様個人か、会社であるかによります。そのため、まずは山の登記簿を取得し、所有名義人を確認する必要があります。
その上で、ご指摘の事情だけでは不明確な点もありますが、お父様は遺言は残されていないとともに、相続財産全体についての遺産分割は行わず、会社の株式と実家不動産の名義変更のみ行なった、ということでしょうか。
上記前提に立った場合には、会社・実家・山その他全相続財産の価値について調査の上、ご相談者様の法定相続分（4分の1）を確保できるよう、きちんとした遺産分割協議を行う必要があるかと思います。
もっとも、会社や実家の価値の方がはるかに大きいと思いますので、後妻の方や弟さんに対する代償金請求という形になるかと思います。
資産額の評価については話し合いにもよりますが、会社株式の資産価値については、総資産額から負債を控除した純資産額が一つの目安となります。不動産の価値について話し合いがまとまらない場合には時価により計算することになります。山の価値について算定困難な場合には、固定資産税評価額の1～1.4倍程度を一つの目安とする方法もありますが、事実上売却困難な場合には、その点も踏まえて協議を行うことになると思います。