読者層（短期に大量に読まねばならない審査員）を意識し、多数キャラだと覚えてもらえないリスク、話の複雑化のリスクをお考えなのは、慧眼だと思います。

②の3人は無難だと思います。①も大丈夫そうですが、多少注意が必要かもしれません。以下、簡単に説明を試みてみます。

１．理解してもらうには覚えてもらう必要がある

読者に話を理解してもらうためには覚えておいてもらわないといけません。お考えのように、特にキャラですね。（視点）主人公、ヒロイン、サブキャラのうち、常に登場するわけではないヒロイン、サブキャラが再登場のとき、読者（審査員）が「これ、誰だっけ？」では確かにマズい。

「余りにキャラクターを出し過ぎると覚えてもらえなかったり」について、もちろんですが、作者の力量という問題はあります。印象付けるテク、アイデアが出せるなら、それに比例して登場させて大丈夫なキャラ数は増えるでしょう。ですが、目安くらいは考えておくべきでしょう。

短期記憶で覚えておける上限は議論があり、例えば「マジカルナンバー」と呼ばれるものがあります。最初に提案されたのが「7±2のチャンク」です。
（注：チャンクとは情報の意味ある塊のこと。例えば、キャラ、アイテムなどが相当する。）

しかし、多すぎることが分かり「4±1」だろうというように変わりました。3～5ということですね。お考えのパターンも多いほうの①か5人ですので、ちゃんと収まっています。経験で割り出されたのなら鋭い直感だと思います。

２．覚えてもらうには理解してもらう必要がある

しかし覚えてもらうためには、読みながらのリアルタイムで把握できないといけません。人間が瞬時に把握できる上限は3らしい。厚切りジェイソンの持ちネタで「漢数字は一、二、三と来てパターンが読めたと思ったら、次が四」なんてありますが、四からパターンを外れるのは、おそらく偶然ではありません。ローマ数字でもI、II、IIIと来て、次はIVです。

信号機も普通はランプ3つ。山手線の駅名も3文字までが多い（最近入った長い駅名は工学的にはミスだと思う）。初登場のアイテム、キャラについては「3」が参考になりそうです。その意味においては、②の3人というのも有力です。①のほうが話が面白くできそうなら、スタート時はは3人にしておいて、ヒロインを1名ずつ追加する手もあります。

３．キャラ数が増えると複雑さはネズミ算式に増える

しかし、「話が複雑になりすぎて飽きられてしまい」と仰る点も大事です。キャラが多くなるほど複雑化するのは当然ですが、どのくらい複雑化するのか。少し定量的に考えてみたいと思います。

キャラの数が増えると作者・読者の負担（の可能性）は急速に増大します。人数比例ではなく、おおむね2乗比例かそれ以上です。

キャラが2人なら関係性の数は1つしかありません。キャラが3人だとどうか。キャラを点だとすると、3つの点を結ぶと三角形です。基本的な関係性は辺の数に対応して3つあります（2人の場合は1本の線分）。

さらに会話などで1対2の関係が生じもしますので、それを加えると6つになります。もし3人同時も含めるなら7つ。2人の場合と比べ、5～6も増えることになります。

もし4人ならどうか。四角形の辺と対角線は6本になります。これが1対1、1対2、…で数えて、さらに増えてしまいます。もしn人なら基本的な関係性は「n×(n-1)÷2」です（2乗で増える）。それの1対1、1対2、…があるわけですから、すぐに数え切れないものになります。

４．パターン①なら3つ以下になるよう整理する手がある

①の5人パターンで、キャラが一斉に登場するシーンを作り、めいめいが思い思いに自由に言動・行動を取ると、収拾がつかない事態に立ち入る恐れがあります。仮に作者には分かっていても、読者には伝わらない（あるいは一読して理解するのが面倒になる）可能性大です。

②の3人パターンなら、それほどでもないでしょう。しかし多いから単純に無理とはいえませ。4人以上になる場合は、3つ以下のグループ（これも情報の塊：チャンク）分けするなどの工夫がありますから。たとえば5人でもめるとして、1つの事項を2対2言いで争い、1人は傍観しているとかです。