小説の書き方に決まりはありませんが、事実上の「ほぼ決まり」というのは有ります。
1)声に出すセリフ → 鉤括弧「 」 ……ほぼ決まり。
2)内心の声 → 括弧( ) ……決まりではないが、多用される。
ご質問のテレパシー会話は特殊なケースなので、作品ごとに様々に表現されているのが実情でしょう。
括弧( )も使われますが、上の2と紛らわしいので他の記号や表現に使い分ける作者もいます。わりとよく見かけるのは行頭に――をつける方法です。他の記号を選択してもかまいませんが、あまり見慣れない記号を使うと鬱陶しくなるかもしれません。
>この場合は双方とも普通の鉤括弧()でいいのでしょうか。
それでいいかという問題ではなく、作者のセンスで好きなように表現すればよいということになります。