うーんと、まず現実の先述の話をします。
　日本人は空爆のイメージが強いから分かりにくいかもだけど、炸裂弾や焼夷弾ならともかく、質量弾の攻撃範囲はぶっちゃけ滅茶苦茶狭いです。
　しかも、質料弾って言うのはそもそも『斜めにぶっ放して、重力で落とす』弾頭なので、『落ちてくる』スピードは結構遅いです。そのため、回避に時間がかかる船舶や建築物（回避不可）が相手でなければ、命中率はゴミです。
　具体的に言うと、アルファポリスの『GATE』なんかを見ればわかりやすいんですけど、ほぼロケラン・マシンガン・機載ガトリング・ミサイルあたりがメイン兵装です。実弾砲撃は船舶同士・対城塞・台場戦闘が関の山です。ま、十分でかいけど。

　その上、誘爆の危険性がとても高いため、電気信管が開発されるまでは、炸裂弾はまともに運用できませんでした。ま、そこを『魔道具』って名前で補っても良いですが。
　
　そういう訳で、
　①『艦砲射撃（質量弾）で』建築物ぶっ壊してから突入
　②乱戦に持ち込んだうえで焼夷弾・炸裂弾で味方諸共焼き払う

　の二択が作戦限界だと思われます。
　っていうか、その上で風向きや船の揺れが砲撃精度に影響するので、『味方諸共～』をやる場合は事前に了解（決死の覚悟）を取らないと、生きて帰ってきた場合に壮絶な身内争いになります。

　ここから先は、リアルとはかなり状況が違ってるから、想定しかできないけど。

　正直、聞いてる感じだと『捨て身特攻』が普通に行われていた時代イメージなので、奴隷兵などによる使い捨て部隊の場合や『敵対派閥の人間を戦死させたい』場合、『突撃』→『乱戦に持ち込む』→『前線の味方諸共砲撃（焼夷・炸裂弾）』→『前線部隊を回収せずに撤退』くらいはあり得る。
　この部隊運用の場合、『上陸部隊に居る魔法使いだけ、小型艇で途中撤退』とかもできる。

　いわゆる『てつはう』のような焼夷弾のプロトタイプに近いブツは結構早い技術段階で作ることが出来るはずなので、森ごと焼き払っちまえばいい。魔道具でも良いしね。
　ただ、洞窟に隠れられる可能性があるので、上陸部隊で乱戦に持ち込む必要はあるよね。味方が一杯死ぬなぁ。

　逆に、砲撃で島を更地にしてから上陸して殲滅する場合。これは迂闊に砲撃すると指揮系統の混乱や派閥争いに繋がるので、上陸後の砲撃はお勧めされない。

　さてその上で、軍隊として自然なことを言うと。

　『質量弾で建物を壊し、焼夷弾で森を焼いてから進軍すればいい。ヤバくなったら、味方諸共炸裂弾・焼夷弾で吹き飛ばして逃げる』
　を二回か三回繰り返すのが、一番『損害が少ない』ですよ。

　なにせ、人間の命は軍艦比較で安い上に、もし王政/貴族制なら命にも貴賤の差がある訳で。平民を200人ほどと、輸送船（ぶっちゃけ、筏でも良い）を何隻か犠牲にすれば勝てますよ。

　ただ、更にその上で、為政者の善性とか派閥争い・プロパガンダの問題が入って来るので、『一番良い策』が採用されるとは限らないですけどね。

　以上、まあ俺の妄想ですが、参考になれば幸いです。