＞・最初、主人公は姉にそのお花畑思考を冷やかされる。そこで、怒った主人公が『じゃあ、騙されたと思って試してみなよ』とおまじないの方法を無理やり吹き込む。

これは別に不自然とは感じません。
売り言葉に買い言葉で突飛な提案をおしつけ、それが瓢箪から駒で思いがけない展開につながっていく。
そういう流れを呼び込むためのきっかけ作りですよね？　それはよくある手法で妥当だと思いますよ。

＞問題は主人公が何故、姉の恋愛について話を聞いてないのにそんな行動に出たのか、

そういうのは会話のテクニックで処理することで、根本的な問題点ではありません。
根本的な問題点というのは、会話を工夫するぐらいでは処理できないほど設定に無理があるという状態です。ご質問のアイデアは少なくともそこまで違和感はないですよ。

＞姉の恋愛について話を聞いてないのに

いや。
誰だっていちいち明確な理由があって行動しているというものでもなく、最初は軽い気持ちで話し始めたのがもつれて、だんだんムキになってくるというのは普通にあるじゃないですか。

スレ主様のアイデアを詳しく読むと、

＞・最初、主人公は姉にそのお花畑思考を冷やかされる。そこで、怒った主人公が『じゃあ、騙されたと思って試してみなよ』とおまじないの方法を無理やり吹き込む。

ここで、姉の恋愛について知らなくても、冷やかされて怒ったという感情的な裏付けはちゃんと考えられています。

それに対する姉のリアクションは、

＞・最初、『そんな子供っぽいこと、誰かするもんか』と思っていた姉だが、現在の恋の行方への不安が勝りついおまじないを試してしまう。

売り言葉に買い言葉で口論になったのなら意固地になって拒否しそうなものですが、たまたま実際に恋の悩みを抱えていて心が揺れていたため、後になってどうしても気になってしまい、つい試してしまった。
そんな感じなら、ありそうな話です。

なので、どうしてスレ主様が迷っているのかな？　と思うくらい、きっかけ作りのアイデアとしてはけっこうちゃんと考えられていると思いますよ。方針はそれでいいから、後はうまく書いて下さいというだけです。

＞あと、主人公がおまじないの効果を知っているのかも今のところ謎なのですが、

これはちょっと意味が分かりません。その辺についてスレ主様ご自身がまだ決めかめているということでしょうか？
意図的に読者に対して「謎」にするならいいのですが、作者も決めていないということだと少しまずいでしょうね。

そもそもオチは決まっていますか？
短編でこのネタなら、オチまでセットで考えないと成立しない気がします。もしオチが決まっているなら、そこから逆算して主人公がこの時点でおまじないの効果を知っている方がよいか知らない方がよいか考えてみることをお勧めします。

もしまだオチが決まっていないのなら、このきっかけから動き始める展開の先に、どういうオチに行き着けば最も面白くなるかを、まず考えるといいでしょう。で、最適と思えるオチが決まったら、中盤のディテールはそこから逆算して決めていくのがよいかと。