自分の小説に他の作品の要素(種族、アイテムなど)を入れたい場合、それはOKかNGか、また位置づけは何になるか (No: 1)

程度によるし、拝借するアイディアにもよる。
例えば完全にオリジナルの能力とキャラを出したとしても、「悪魔の実の能力者」という設定だったら、二次創作ですらないパクリ作品。
原作の能力やキャラが出てこないことが、逆に「二次創作ですらない」にかかってくると思う。
しかし、これが「どう見ても悪魔の実の設定だけど、名前が違う」だと、能力もキャラも物語もオリジナルなので、これはオマージュの域。原作に敬意を払えばまず問題にはならない。
二次創作でもパクリ作品でもなく、オリジナル作品に人気作品のオマージュがある、という形になると思う。
ただ、原作とはまったく関係ない場所を舞台にした二次創作と最初から言ってるなら、面白い試みではあると思う。

一方で、「スカウター」という道具を出す場合、その効果も名称も同じだったとして、まあ指摘は入るだろうけど特に気にされない、と思う。
二次創作ではないしパクリと言われるだろうけど「ドラゴンボールに出てくる道具をパクった」だけで「ドラゴンボールをパクった」わけではないので、あんまり非難されないというかむしろネタになる程度の、やはりオマージュの域ではないかなと思う。主にギャグ系でこういうのはよくありますよね。

＞それは大丈夫なのでしょうか？
基本的にはNGとされることが多いと思う。
例の「サイヤ人の設定を出したい」という場合、それ以外の設定は独自のものであるなら、そもそも「サイヤ人」を出す必要性がない。
設定的に魅力があるから借りたい、と思うのであれば、それは設定を借りるだけなので名称を変えたってなんの影響もないハズ。
設定にしても「サイヤ人っぽい戦闘民族」であれば良いはずなので、「サイヤ人」そのものをまんま出す必要性がないと思う。

例えば「別次元から戦闘民族がやってきて、彼らはサイヤ人と名乗ってる」みたいなジャンプのゲームみたいな設定であるなら、「サイヤ人」を出す必要性はあるし、それはクロスオーバー作品でしょう。

ただ、まあ、創作ってアイディア次第ですからねぇ。私がいくらココで想定しても、それ以外のアイディアは山程あるわけで、例外も山程あります。
例えば、ウルトラマンやバルタン星人のような特徴的なキャラクターなどは「名前が違えば良い」というわけでもないし、そして物語が不思議の国のアリスよろしく「主人公の夢の中の出来事」とか「誰かの空想が具現化してしまった」とかって設定なら、既存のキャラクターが出てくることには必要性がある。
更に、それは既存のキャラは出てきているけど、クロスオーバーでも二次創作でもない、と判断されると思う。

既存の作品の要素が出てこないと書けない内容であるなら、出しても問題ないと思う。
でも、個人的な見解で言えば、可能な限り出さないほうが良いと思う。
「既存の作品の要素」でなければならない理由や必要性がないのなら、それはあくまで「既存の作品の要素を参考にする」にとどめて、ご自身で考えたほうが良いと思う。

二次創作ではないかもしれませんが、版権にはダイレクトに引っかかりますね。

書いても・・・・・まぁ大丈夫でしょうが、書籍化は絶対無理。

【シャングリラ・フロンティア】という、既存のゲームをあてこすったクソゲー設定を織り込んだ作風で人気を博する作品がありますが・・・・・・シャングリラ専用wikiやニコ動で替え歌動画できているレベルの人気なのに、書籍化の話がまっっっったく出ていません！！！(;^_^A

あれを書籍化するには、警察沙汰になった「ハイスコアガール」以上に、ゲーム会社からの許可を取りまくんないと不可能ですからー。

ただ楽しく書くのみなら、いけると思う。

お尋ねの内容から考えますと、マナーやルールは置いておくとしても（既に良回答にありますね）、まず間違いなく不可でしょう。非常に損だからです。

何が損か。むしろ得になりそうですよね。ある作品に「サイヤ人」と書いてあれば、読者は「ああ、あれか」と思う。ドラゴンボールシリーズを一応は読んだ/見た人なら、サイヤ人がどういうものか分かる。その作品内のサイヤ人の描写で、ドラゴンボール通りのサイヤ人描写が部分的にでもあれば、描写されていない部分はドラゴンボールのサイヤ人で補ってイメージすることができる。有名な単語・記号の力は絶大です。

二次創作ならそれでいいわけです。ですが、オリジナルの一次創作ではまずいことが起こります。特に文章作品です。サイヤ人って、言っただけで分かる人が非常に多いですよね。くどいようですが、それくらい記号として力があります。だから、ドラゴンボールのサイヤ人のイメージが被ってしまうのです。

どんなに工夫を凝らして描写しても、オリジナル作品でサイヤ人とされたキャラに、悟空やベジータ等のドラゴンボールの有名サイヤ人のイメージが浮かんでしまう。（種族の）名前こそサイヤ人（で設定も踏襲してるん）だけど、オリキャラや設定の差別化で独自性を出してある、で済む問題ではありません。

オリジナル作品で「サイヤ人」と読むたび、そのサイヤ人とされたキャラが出てくるたびに、読者には、まずドラゴンボールが思い浮かんでしまう。読者はそのドラゴンボールのイメージをいったん否定して、オリジナル作品のサイヤ人はどうだったか思い出し、イメージをし直す必要に迫られます。作者からは見えづらい現象ですが、読者としては大変面倒臭い作業です。

だから、名前だけは変えておく必要があります。サイヤ人で思い出すドラゴンボール以外の作品では、「戦場のヴァルキュリア」（ゲーム：2008年～、アニメ：2009年）があります。「戦場のヴァルキュリア」では、戦闘民族とも呼ばれるヴァルキュリア人のが存在し、ヒロインがその1人となっています。

ヴァルキュリア人の設定・描写がなかなかにサイヤ人～スーパーサイヤ人でして。ヴァルキュリア人の能力を使うときは見た目が変わる、瀕死に陥ると能力に目覚める、ないしは能力が大幅に向上する。まるでサイヤ人の設定みたいです。同作の感想でも、サイヤ人、スーパーサイヤ人がよく引き合いに出されていました。

だけど「ヴァルキュリア人」だからイメージが揺らがないのです。少なくとも、リアルタイムでアニメ視聴していて、サイヤ人とイメージが被ってしまうことはない。後でサイヤ人と似ている設定・描写だなと思えてしまうんですが、混乱は起こりません。

もう一つ、読者にがっかり感が生じかねない点もリスクになります。「サイヤ人」とあったら、ドラゴンボールを思い出し、ドラゴンボールを期待します。だけどドラゴンボールのようではない作品だったら、期待を外されてしまいます。八百屋という看板を見て店に入ったら魚ばかり売っていた、みたいなことになります。

自作に「サイヤ人」という単語を出した作者としては、例えば「設定説明が省けるから、読者も読むのが楽だろう」という配慮かもしれません。ですが、読者は作者の心づもりは知る由もありません。どこまでドラゴンボールと似せたのか、あるいはまったく別の作風にしようとしたのか。読み終えないと分からないわけです。

ですが、読み終えるためのモチベに大切な要素の一つ「どういう作品か」が分からないのでは、何に期待して読めばいいか戸惑います。「サイヤ人」という単語さえ出さなければ、「ドラゴンボール風を期待していいのかな、違うのかな」という迷いは出ません。

上記「戦場のヴァルキュリア」を例に説明したように、有名な設定・キャラ等の名前を変えても二つか三つくらいの特徴を描写しておけば、全く違うジャンルのオリジナル作品で出しても、「ああ、あれだな」と思ってもらえます。記号は変えて、意味はオマージュする。それで充分ではないかと思います。