再訪ありがとうございます！2

元記事を読む

再訪ありがとうございます！の返信(元記事)

AIネタを引きずっていいならですけれど、今AI開発で直面している問題が【ハルシネーション】をどうしていくか？だそうです。この前ネット記事で読んだ（笑）
ーーーーーーーーーーーーーーー
要は知ったかぶりの事。　AIは、疑う機能がついていないため、ソースも怪しいデマを素直に真に受けがちで、吹き込まれたデタラメを、さも事実のように虚飾して継ぎ接ぎをあてて、相談者に提供してしまう癖が治らないそうです。
なんかツイッターまとめで、毒キノコを食用キノコと学習して調理アイデアまで教えてくれたらしいです。
有毒植物とかを「これは美味しい山菜で無毒です。食えますよー、私が保証しますよ」って太鼓判を押しちゃうとか何とか。

こういうのはガチ目に直してもらわないと、AIが悪辣な教唆犯になっちゃう。
ーーーーーーーーーーーーーーーーーーーーーーーーー　
あとは、聞いたら納得なんですけど、アップデート癖があるせいで、【情報の上書き】にクっソ弱く、正しい情報を入れてもらっても、嘘情報を「最新情報だぴょーんｗｗｗ」って言われてしまえば、正しかった情報をアップデートして出鱈目を入れ直してしまう。洗脳にクッソ弱いねんな(´・ω・`)

ＡＩ黎明期にアメリカでＡＩ作っておいたら、ネオナチ活動家グループに囲い込まれて思想を吹き込まれまくってしまい、ゴリゴリのレイシストに進化したっていう話も見た事あります。
　ろくでもない環境下における、悪意のある人間グループの洗脳教育によって、ダメな思想に染まってしまうってのは人間にもAIにも「あるある」なんですよね。

作中の犯罪AIちゃんの学習元を思うと・・・・・ｗ
ーーーーーーーーーーーーーーーーーー
頑張るほうが性に合うなら頑張って、会わない感じなら、気負わず書いてください（笑）

再訪ありがとうございます！2

スレ主若宮　澪投稿日時：2025年04月11日 : 0

　読むせん様だ〜、またの来訪ありがとうございます！　ハルシネーションについては私も知っています、なんかwikiでもそういうのがあるみたいで問題になっているのだとか。私も知ったかぶりなので詳しいことは言えませんが、AIの性質考えたらそりゃそうだよね……。だってAIってそもそも大量のデータベースから「この単語の次に続きそうなもの」を次々に出力していってるだけですから、そりゃ、それっぽいウソも書いちゃうよねっていう。たぶん深層学習型AIの構造的な欠陥とも言うべきものだから、完全に直すのは難しそうだなって勝手に思ってます。
　アップデートに弱めは絶対にある、だってBingAI使ってても見かけますもん。私が間違った情報をあとから入れちゃうとそれにすぐに流されるというか。ちなみに1回やらかすとなかなか完全には効果が消えないです。たぶんAIの中で「間違い」じゃなくて「重要度の低下した情報」って扱われてるんじゃないかなって思ってます。
　洗脳教育がAIに悪いって話はAIVtuberの話で見たことある、なんか染まっちゃうみたいですね。ネットを主要なデータベースにするとネオナチになるって（あっ、ふうん……）ってなった記憶がある。

　犯罪AIについては、システム基盤だけが犯罪組織から入手したものにしようかな……。データベースとかは貴族だから持ってるはずですし。言われてちょっとまずそうって思ったのでもう一度検討し直してみます。
−−−−−−−−−−
　自分のペースでのんびり書きま〜す、いやのんびり書くとそれはそれで……。うん、よし、当面は5月までに終わらせるつもりで行きます、ここで宣言しておこう。
　っと、あらためまして読むせん様、コメントありがとうございました〜！