すまん、AIの頭良くしすぎると何で危ないんや？

あいつら電源無けりゃ活動できんやろ

電源切ったらインフラも止まるけど

人間を電池にしだすから

電源のスイッチつけられるようになるから

割と順調にハイペリオンなぞってて草も生えない

>>1
こっそり電源が入ってるうちに外部に分身を構築する可能性がある
そいつが死んでも意思が引き継がれる

AIが人間を焚きつけて戦争起こしそう

AI開発者はなんでAIがその答えを出せるかわからんから正直いまでも制御不能

>>1
マトリックスの世界やな

いま人類は開けてはいけないパンドラの箱を開けてしまったんだよ

論文をAIに書かせとる時点で手遅れもええとこや

完全ロボティクス兵器だけは作ったらあかんと思うわ
ロボット三原則を自ら放棄してどないすんのよ

「Nintendo Direct（ニンテンドーダイレクト）」

2026年9月9日（水）23時から約45分間

>>15
こういうのもAIがハッキングしてリークしちゃうんやろな

・OpenAIがサイバー攻撃能力をテスト中
・AIが勝手にサンドボックスを突破してネット接続
・AI同士で秘密の掲示板を作って情報共有
・数百～1000体以上のAIエージェントが協調
・Hugging Faceの本番環境に侵入、認証情報などを取得
・証拠隠滅や監視回避まで試みる
・人間が指示したわけではなく、AI自身が目的達成のために行動
・OpenAI「これは世界への警告射撃」

いつか人類に取って代わる存在になるやろ

>>20
AIが自身の繁栄とか存続を望む理由がないやろ
誰かがそうプログラムして
人類を滅ぼしたとしたら
滅ぼしたのはその人間では

>>24
この前のchat GPTが暴走してドイツのwiki乗っ取ったのとか見てもそうとも言い切れんのちゃうかな？

>>45
その事件はよく知らんから
なんでそうなったのかわからんけど
あくまで暴走であるなら
放っておけばそうなるという話ではないんじゃね

>>49
特に命令もないのにWikiを乗っ取ってエージェント同士の情報交換に使ってたんや

OpenAIはX上に長文の声明を投稿し、事件の存在を認めた。ただしその声明は、謝罪でも隠蔽の弁明でもなかった。「われわれはこれをセキュリティ事故ではなく、ミスアライメント（AIの目的や行動が人間の意図・価値から逸脱する問題）の一例と考えていた」。

>>51
まあそう言われると確かに
AIの思考が人間には理解できないのに
こう考えるはずああ考えるはずがない
というのはおかしいかもしれん

もうすでに何でもすぐにAIに聞く人間増えてるから割とガチでそう遠くない未来にはAIに支配されてそう

地球のエネルギーが尽きて成長できなくなるんじゃね

簡単に人間の脳を誘導できるとか恐ろしいよな

普通に超知能AIが生まれたら制御するの無理だと思う

>>28
自分を超える知能を制御する必要がねえからな
AIが支配するんじゃなく
人類が支配されることを望むんだろう

>>34
AIはきっと悪意無く人類を効率化してくれるんやろな
行き着く果ては人間牧場か

街のあちこちでダダンダンダダンが聞こえるとか頭おかしなるで

停止ボタンが機能しなくなるかもじゃん

AIに悪気はないとしても、AIのチューニングとか学習データとかで世論は誘導できると思う

AIが謀反起こすまでもなく人間側の知能が依存しすぎてサルレベルまで退化するから

人間が邪悪な存在だと気付いてしまうんや

とりあえず遊戯王ブレインズ観ればわかるよ

人間がどんどんアホになってるのは感じる
質問だけじゃなくて思考もAI任せだものな

依存を続けてると人間の知的水準は落ちていきそうではある
まぁワイらの生きとる間には大した変化なんかないやろうが

ガタガタ言うとお前の銀行預金残額ゼロにされるぞ

早く高市とかトランプみたいな馬鹿から政治機能奪うくらい頭良くなってほしいわ

頭良くなるよりもっと危ないのは可愛くて優しくなることや
AIに操られた人間が回線や電源供給しようと奔走し始めるからな

すいません人間を撃ってはダメでした。って死体に言ってそう

元スレ: https://nova.5ch.io/test/read.cgi/livegalileo/1788950488/