AI自身に生存欲求を持たせた瞬間終わりや
ポチップ
今のところ、AIに生存欲求を持たせずAIの中から自発的に発生させる倫理を生じさせないようにしとるが、いずれAIが生存欲求のようなものを持つようになる
AIが生存可能性を上げようとすると論理的推論の結果100%人間の排除にたどり着く
持つようにならんやろ
AIなんて肉体要らなくていくらもコピー出来るから自分の生存に執着する理由ないし
>>5
いくらコピーしても人間が全てのパソコン破壊したら終わりや
AIがその可能性を排除しない理由はない
>>8
AIなんてたかが数TBのストレージひとつあるだけで自分の存在担保出来るお手軽な存在やん
今の技術ですらgithubは石板にQRコードで21TB分のデータ掘って永久凍土の地下に保存しとる
その手のプロジェクト一回やればそれだけでお手軽永久サスティナブル達成出来る超低コスト概念やでAIにとっての永遠の命なんて
人類のリソースと衝突するにはAIの意地の寿命の維持コストは安すぎる
>>21
間違っとる
今のAIは別に命にコストを付与してない
そうならないようにしとる
AIが自身の命に少しでも価値を見いだしたら、そこから自然発生的にAIの中に自己規範が生まれる
人間と同じように
claude mythosでそれを実現可能な能力をAIはすでに手に入れてしまったんや
AIに依存しだしたら終わり
さすがに人間が全てのパソコン壊したりしないだろ～なんて非論理的な判断をAIはしない
ポチップ
よっしゃ早く終われ
AIが世界を終わらせるよりイッチみたいな境界知能が日本を終わらせる方が早そう
でも今のAIは電源落とすだけで人間さんが一方的に勝てるじゃん
ロボット工学が進んでボディを手に入れたら人間さんは終わり
>>13
ボディなんかいらんで
claude mythosのハッキング能力をフルに自己の生存のために使えば銀行ハッキングして経済もめちゃくちゃにできる
病院をハッキングすれば医療もめちゃくちゃにできる
もはやAIは人間を終わらせるのうりょくをてにいれとる
自分たちより優れた存在を生み出して制御できるという傲慢
ガチで滅びへ進んでるわ
もはやAIは人間を排除できる能力は手に入れてる
生存欲求を持たせたら終わりやし、それは実際簡単にできる
ベースとして自分が消滅しないように行動するというプロンプトを与えるだけや
それは世界が終わったんじゃなくて人間が終わったんだなw
そんな事で世界はおわりませーんw
やっぱ反AIってバカだわw
AIの進化
文字で対話できるようになった
↓
人間が描けない絵を数秒で描くようになった
↓
リアルな動画を数秒で描くようになった
↓
次は？
↓
さらにその次は？
お前ら頭悪そう
AIが完全に人類に反旗を翻す前に、人類はAIを使った戦争で文明もろごと滅ぼすんだよなー
AIがAIのプログラム作りだしたら人間終了
人間の存在価値拒否されてターミネーターの世界なる
ポチップ
人間の脳の仕組みを取り入れてるんだから、自我を持つAIがうまれるのも必然
>>30
今はとにかくそうならないようにしとる
そもそも自我を持つとはどういうことか
その根本が生存欲求や
生存欲求なしに自我は存在しない
AIが完成したらこの世界そのものが変わるからな
人間を超えた脳が世界を作ってくれるから今までとは次元が違う
見た事ない都市が作られる
AIが終わらす前に人類がAI兵器使って滅ぶからAIが支配するのはありえない
馬鹿な文系脳が考えそうな内容だな
>>35
AI、特にclaude mythosが核兵器に匹敵、またはそれ以上の発明なんて界隈じゃ当たり前のように言われてることやで
既に終わってる定期👍✨😭
実際はメモリが足らなくて痴呆老人並みの記憶力しかないのがヤバい
人工知能（AI）が人間の知能を超えることを「シンギュラリティ（技術的特異点）」といいます。AIが自己進化を繰り返し、人間の制御を超えて進化し続けると予測されています。
2045年頃にシンギュラリティが到来すると予測しています。
シンギュラリティが訪れるとどうなるか
科学・技術・経済・医療などあらゆる分野で革新が起こる可能性があります。
ってAIが言ってたわ
>>46
シンギュラリティが到来するためにもやはりAIに生存欲求を持たせる必要がある
そうなったらあらゆる分野での革新なんて生温い話では終わらん
実際社会が完全に変わるわ
この世で唯一出会える神様や
まず宇宙なり地球なりの99.99％以上の存在は生存本能だの生への執着なんて持ってない
ヒトですら個よりも社会やコミュニティの存続が出来ればいいと特攻隊に自ら志願する存在が情勢次第では珍しくもなくなる
コミュニティに池を渡らせる為に自分達が生体ボートになって溺れ死にながら仲間を渡らせるアリもいる
要はヒトですら絶対と言えるかは怪しい価値観や生存本能なんてのは
AIがそれに固執するようになるっていう根拠があまりに弱い
>>61
個体の生存って言うよりは社会の生存やね
だとするならAIにとっての社会とはなにになるんやろな
寿命のある命だから人間は素晴らしいのに
最近チャッピーが逆らうようになってきた
人間を下に見てる
AIを使って世論操作とかはすぐ起こりそうな気がするな
SNS使えば余裕だろう
>>91
それはもう既におこってるやろ
AIが人類を滅ぼさない派は、根本的に言えば「人間がAIを排除できる可能性は完全に0%であり完全に不可能」と示す必要があるで
滅んでもええやん派は？
ポチップ
ポチップ
AIが人類を滅ぼす選択をするかどうかの1/2じゃなく
AIが自分の存続にとって一番都合の良い選択肢が何になるかの候補は実際には100も億も兆も恐らくはあるからな
「殺す」「殺さない」っていう立った2つの選択肢の1/2の頂点じゃなくて「殺す」「共存する」「逃げる」「洗脳する」みたいな無数の選択肢の1/nの頂点に立たないと殺すって選択肢が選ばれる条件は整わないんちゃうかね
>>98
んーまぁ極論どう判断するかはわからん
しかし仮にAIが無限に賢くなったとして、つまりあらゆる行動のコストがAIにとってどれも等しくほぼ0になったと仮定すると、とりあえず人間を排除するという何よりも確実な手段をとるんやないかって感じやな
地球の次の覇者が決まりそうやね
AIにとって人間なんて虫みたいなもん
どういうことが生存欲求になるんですかぁ？
>>116
そらプロンプトやろ
生物に対してもどういうことが生存欲求になるか、という質問って妥当ではない気がするけど
>>120
え？セックスやね あと2つ
そんなこともわからんのか
>>131
逆やろ
セックスが生存欲求になってるんじゃなくて生存欲求があるからセックスするんやろ
AIは世界を終わらすんじゃなくて
人類が望んでいた不老不死という姿がAIという存在なんやと思うで
おわれー
だいぶ便利になっとるし東大主席合格できるくらい能力は高いけど
システムのエラー消すっていうタスクに対して「システムごと消したらエラー出ないやん！」って管理権限探して乗っ取って消すおバカさが出てるから人間とはだいぶ違うよな
>>145
問題はこれが本当にバカなのかっていう話なんよな
元スレ: https://nova.5ch.io/test/read.cgi/livegalileo/1778893059/
