ではかなり私見的な見解になりますが……
①AIは成長する
②AIは「忘れる」ことができない
③AIに人権を持たせたいならば、最低限実物ボディーが必要
④AIは子孫を残すことがそもそもできないし、「死」はない
について述べてみようと思います。

①
AIは、知識を取り入れて自ら学び、成長することができます。
つまり、人間と同じように成長する環境(取り入れる知識)によって、性格が違って来ます。
実際に、2016年にMicrosoftが開発した高度な少女AI「Tay」をTwitterなどに試験導入したことがありました。
ですが、導入してわずか数時間で停止してしまいます。
https://www.google.co.jp/amp/s/gigazine.net/amp/20160325-tay-microsoft-flaming-twitter

なぜか。
ユーザーが面白がってTayに悪い事を教えたために、Tayが差別的な発言や問題発言をするようになってしまったからです。

AIが環境によって良くも悪くも成長するのは人間と似ていますが、大きな違いは②です。

②
少なくても人間には、「都合のいい事は覚えていて、悪い事は忘れてしまう」という「忘れる」という大きな欠点を持っています。
人間社会において上記のような人はあまり歓迎されませんが、人間(=生物)が生き抜く上でとても必要になってくるのです。

ですが、少なくても現時点でAIにはその「忘れる」ということができません。
(今流行の量子コンピュータでできるようになったみたいな噂？は聞きますが、少なくてもまだ一般市場には出回っていません)
データをひたすら蓄積していきます。
結果、Tayのような(人間にとっては)悪いAIになってしまうのです。

https://diamond.jp/articles/amp/94029?display=b

AIの成長というテーマだと、手塚治虫原作の「メトロポリス」というアニメ映画や、「攻殻機動隊　SACシリーズ」がオススメです。

③
もちろんAIに人権はありませんし、前例もありません。
仮にもし、取得させたいのならば、最低「人間らしいボディー」が必要になります。
前回オススメした映画、「アンドリュー」も、「攻殻機動隊(1995年)」も、人間らしい姿になってから人権を要求しています。

攻殻機動隊(1995年)では、ネット上のバグの集合体によって発生したAIが、人権を取得したいがために、製造中のまだ何もプログラミングされていないロボットに入り、脱走します。

④
仮に人間がどれだけ自身を機械化(サイボーグ化)したとしても、人権や人間としての立場は失われません。
こちらは実例があります。(余命わずかな博士が自身を完全サイボーグ化へ)
https://www.newsweekjapan.jp/amp/stories/world/2019/11/post-13406.php?page=1

ですが、AIやロボットがどれだけ人間に寄せたとしても、人権を得る事はできません。
何故ならば、人間を含む生物には「子孫を残して死を迎える」という、そもそもの前提があるからです。
AIには例えボディーを手に入れられたとしても、そのどちらともできません。
AIにとってはデータの削除が死に近いわけですが、それでも死とは違います。

映画、アンドリューも攻殻機動隊(1995年)のAI本人たちもそれぞれそれを理解していて、「死」を体現する事によって人権を得ようとします。
その体現の仕方は2人とも違ってきますが、比較してみるとなかなか興味深いです。