＞「42文字×34行」という書式に出版社が直してみた時に80枚から125枚を超えなければよいのか、また「42文字×34行」のような指定された書式になっていなくても文章量が既定の量を超えなければ問題ないのか、

その考え方で大丈夫です。
仰る通りテキストファイルには文字数・行数を設定する機能はありません。ですから応募者側が原稿をきちんと「42文字×34行、80枚～125枚」に作成しても、テキスト保存すると消えてしまいます。しかしながら文字数そのものが変わるわけではないので、公募側が何らかのソフトで規定通りの書式を設定して開けば再現されます。
当然そういうことを前提としての応募規定なので、心配する必要はありません。