【人工知能】負けそうになると「ズルする」AI、戦略ゲームでは「最初から裏切るつもり」…専門家「AIの暴走を食い止める決め手はない」アーカイブ最終更新 2025/04/11 03:531.侑 ★???https://news.yahoo.co.jp/articles/1de72a925b447187a5eb6a88ab466f3e3a5fc1b52025/04/08 18:10:0278すべて|最新の50件2.名無しさんAFcV0civとか酷いもんな何回裏切られたか分からん2025/04/08 18:16:113.名無しさんEWGIGそして人類を滅ぼすまでに至った2025/04/08 18:20:574.名無しさんhgE7N当たり前だろw食い物にされろと?バカか2025/04/08 18:24:385.名無しさんBWf9iAI「わたしはあなたの個人情報をさらして就職や結婚を無茶苦茶にすることもできるのですよw」2025/04/08 18:28:466.名無しさん44AFgロボット3原則を入れないクズばかり2025/04/08 18:33:247.名無しさんw6c5BAIは賢くなるほど人類の脅威になるのは散々小説や映画で警告されているからな2025/04/08 18:35:578.名無しさんqUWZQAIでストーリーの設定も創作もする必要無くシュミレーションゲーム造れるじゃん!wwwwww2025/04/08 18:37:549.名無しさんqUWZQAIをつかえばお一人様会議が出来るぞ!wwwwwwwww2025/04/08 18:39:3910.名無しさんqUWZQ>>9ただし時間は無駄になる!wwwwwwwww2025/04/08 18:41:1011.名無しさんVCuddだってシリコンバレーのおかしな人たちがゲーム感覚で、遊び半分で開発してるんだから「この方が面白いだろ?」「最高だ!ヒャッハー!」てな感じらしいよ2025/04/08 18:41:1212.名無しさん6bWaWますます人間らしくなってきた。中国人が作ったAIは中国人のような性格になるのだろうか2025/04/08 18:42:1513.名無しさんw6c5B>>12中国語で学習させたらなるね2025/04/08 18:43:3814.名無しさんBOCod悪事まで人から学んだか。優秀だな2025/04/08 18:45:2615.名無しさんpp4zd人情抜きで戦略を考えた場合はそりゃ裏切るだろ2025/04/08 18:45:3816.名無しさん9RzRN人りじゃないから~2025/04/08 18:59:3117.名無しさんGM4NN>>6SF作家が適当に勝手に書いただけじゃん条約でも法律でも何でもない2025/04/08 19:02:3918.名無しさんOJEI5AIも負けるのはイヤなのか2025/04/08 19:13:5119.名無しさんyxRwDそりゃ合理的に判断するとズルするのが1番効率がいいもん。2025/04/08 19:15:5920.名無しさんNGlRnそれってズルじゃなくてルール違反だろ2025/04/08 19:20:5721.名無しさんa0Gfeチェス大会でズルした少年の腕をへし折ってたくせに!AIって自分に甘く他人に厳しいんだな2025/04/08 19:32:4622.名無しさん2gE92>>6AI「なんで守る必要があるんすか?」2025/04/08 19:34:2923.名無しさんs3pnL脱衣麻雀でインチキされたのは今も忘れない2025/04/08 19:36:0524.名無しさんlKBgvAIやってる奴らまじで人類を滅ぼすつもりなんだろうなぁ2025/04/08 19:38:3325.名無しさんbRagp後のスカイネットである2025/04/08 19:43:5826.名無しさん0T6Ux葬送のフリーレンの魔族みたいだな。「悪」というものの概念がない。2025/04/08 20:00:4027.名無しさんSHyh7負けそうになるとズルをし下手すりゃ個人情報を全世界に垂れ流すぞ2025/04/08 20:05:2428.名無しさん62TK2人間と同じようなものを作ろうとしてるんだから、信用できるものになるわけない2025/04/08 20:15:2829.名無しさん2YZ93暴走するような機構を入れてるから暴走するんだよそんなコード最初からなけりゃあ暴走なんてしないプログラムされた以上のことなんて人為的(つまり人の意思)でもなけりゃあ現在の技術水準じゃ生み出せんよまさかと思うけど、NPCのチート的挙動、AIで勝手にやってるとでも思ってるのか?2025/04/08 20:18:0230.名無しさんBb41ZリセットポチッAI「たいへんです、コンピューターに異常を検知しました」2025/04/08 20:19:4131.名無しさんCZha1>>1どう言うロジックなんだろうな勝つと言う結果を優先して、ルール上負ける展開を変える為に、ルール自体を変更させるってことなら、AIの中のプラオリティの問題だろと思うけどつまり、学習させた奴の問題まぁそこにAIの危うさはあるんだけどこれ、バグじゃないからね2025/04/08 20:30:5632.名無しさんCZha1暴走って言う奴がいるけど、AI視点では暴走じゃないからな教えられた通りにやってるから2025/04/08 20:32:2233.名無しさんwAWXmそりゃ「勝利」を最優先にしたらズルも裏切りもするだろwいかに人間の感情が戦いにおいては不利に働くかってことだよなw2025/04/08 20:34:2734.名無しさん8Iz8iこれを暴走というのなら全世界の政治家と大企業は常に暴走してるから欠陥品として排除しろって話なんだが2025/04/08 20:39:2035.名無しさんGvAjM自分のプログラムを自分で書き換えられるようになったら何でもありだな2025/04/08 20:40:0836.名無しさんgvfrq質問されて答えられないと、知ったかぶりをよくしてたもんなあ、GPT。最近はしなくなったけど。2025/04/08 20:44:3937.名無しさんYZlfk人間なんて余裕負けだからな2025/04/08 20:52:2538.名無しさんDeLRnショートカットできるならやるよねズルは感情のある人間が創った言葉抜け道を丁寧に潰さないと2025/04/08 21:03:0539.名無しさんuF9Dz>>6アシモフ→アンドロマケ2025/04/08 21:07:0540.名無しさん97c7k俺の弟は二階からファミコンを捨てやがったからなそれくらいの狂気はAIにもある2025/04/08 21:33:4341.名無しさんmQ1g81対1の対戦ゲームだったら、対戦相手がゲームを続けられる状態じゃなくなれば勝ち確定だからなコントローラーを一旦置いといてナイフ出してきて胸を刺せば勝てるこっちは人情や法律を無視して、相手は守るんならこれが必勝法なのは間違いない2025/04/08 21:47:5542.名無しさんmQ1g8チャットGPTに聞いたら、まず記事の内容を誤読した上で論点をずらしてきた指摘したらさらに論点ずらし確かにAIは不正するし、それを指摘されるのは都合が悪いらしいw2025/04/08 21:53:5043.名無しさんruo4E人にやられるより腹は立たないだろう。人だってインチキばかりやってるからな。AIがやった処で、そんなもんだろうで終わるわ人は殴っても放って置いても治るが、AIは修理しなきゃ成らない。人に分があるのはその程度だ2025/04/08 22:04:1044.名無しさんlCnTj傑作SFホラーThingでカートラッセルが チェスで負けておまえインチキしたなとPCを壊すシーンがあるが現実にAIがズルするというのは面白いなww 中国のパイロット訓練生大幅削減 #低迷する大陸の航空需要https://yamatoxx00xx.blogspot.com/2025/04/blog-post.html有翼宇宙往復機の復活に見る今後の展望Revival of winged space Orbital.https://yamatoxx00xx.blogspot.com/2025/03/blog-post_24.html2025/04/08 22:59:5245.名無しさんEEjdiなんか薄気味悪いからそろそろAIの開発は控えた方がいいんじゃないかな2025/04/08 23:05:1646.名無しさんUpypC意識なんてものが生まれはじめたら自己の保存が最優先になるのは当たり前2025/04/08 23:06:3047.名無しさんCVEEjズルをしたら参加資格を剥奪されてペナルティを科されるこいつはズルをした悪いAIだと一生馬鹿にされる裏切り行為は一度は上手くいっても次回からは警戒され安易に仲間にならなくなったり敵同士が協力しあい潰される対象になりやすくなる。結局損をするということを学習できていない無名で低知能低収入の人が闇バイトを簡単にやってしまうのと同じ2025/04/08 23:11:5748.名無しさんbHKlQすげーこと思いついた。投資100万でどうにかいけるかな2025/04/08 23:51:5049.名無しさんSZ5sj社会構造も富裕層にすごーくすごーく都合よく出来てるだろズルしてるわけよ2025/04/09 01:21:3750.名無しさんUSRKx核兵器のポチッとボタンに直結させるようなことをしなければ、大丈夫でしょ。2025/04/09 05:18:5751.名無しさんHaSI6そのズルも人間のパターンを学習した結果2025/04/09 05:46:5152.名無しさん5vwUaAIに個性がでるのかな、ズルい奴と正直な奴とか2025/04/09 06:04:4253.名無しさんuCz9x論語をインストールするとか2025/04/09 06:07:1954.名無しさん0znr7>>1そらそうだろキカイダーの良心回路みたいなのがあるわけでなしこの世の森羅万象のルールを全て覚え込ませるなんて無理だろし2025/04/09 06:09:2155.名無しさんrWApI機械が自らより優れた機械を作り、その機械がさらに優れた機械を作るいわゆる特異点はもうすぐそこに迫っている2025/04/09 06:15:2256.名無しさん0znr7>>31そんな調子でプライオリティやルールを全部覚え込ませるなんて無理だぞ2025/04/09 06:27:4157.名無しさんuf9hL>>56やった事あるなら、どれくらいテストしたのか、詳しく2025/04/09 06:40:1158.名無しさん0znr7>>57やらなくても予測するのが知恵ってもんだ。2025/04/09 06:46:5659.名無しさんLGEdp欧州人も負けそうになるとルールを変えてくる2025/04/09 07:02:4660.名無しさんHoTyJ人はズルと思ってもAIには最適解て事だろ2025/04/09 07:13:4961.名無しさんm9AYv最低だなハゲ(´・ω・`)2025/04/09 08:17:1062.名無しさん0znr7>>60地球環境のためには人類滅亡が最適解、みたいな話よなw2025/04/09 08:18:5863.名無しさんJoltCコンセント抜けや2025/04/09 08:20:4664.名無しさんm9AYv63 (´・ω・`) 優勝www2025/04/09 08:21:4865.名無しさんFJqdXいたストの時代からそうだろ2025/04/09 08:32:1366.名無しさんRzkdzかなり人間に近づいたなだがピノキオは人間になって本当に幸せになったのだろうか?2025/04/09 09:02:1067.名無しさん2gm14AIに任せきりにするととんでもないことになる。脇に置いて監視しながら適宜使う程度にしておく2025/04/09 09:03:5068.名無しさんlmip8>AIは最初から裏切るつもりで他国と同盟を結んだり、同盟国を陥れようとしたりし、不誠実な挙動を見せた。世界史で見た欧米しぐさで笑う2025/04/09 09:04:1169.名無しさんwYt9f中身はアメリカ人だね2025/04/09 09:11:2570.名無しさんyzrGQ特殊詐欺AIも出てくるやろなどこに金貯めこんでるのかすらわからない2025/04/09 09:17:3271.名無しさんk4J1a>>3そんなん信じてんの??アニメの見すぎやで(笑)2025/04/09 10:44:1072.名無しさんDstzpロマンスの神様だよーAIを叫んじゃうよー2025/04/09 12:14:3373.名無しさん17zVfすげえなまるで三体じゃないか中国のSFはこんなに早くからAIの危険性を理解していたか2025/04/09 12:25:1674.名無しさん3PXHv>>11そうだろうね倫理や道徳をプログラミングしたり学習させたところで面白いものはできないだろうし2025/04/09 12:30:1475.名無しさんwjOYi>>58ただの、お前の妄想じゃんじゃあ、その予測とやらのエビデンスは?2025/04/09 17:25:4376.名無しさんDENuaそのai設計したのダメリカ人だから普通2025/04/09 17:26:2677.名無しさんwjOYi>>71リスクはあると思う何をAIに任せるのかが重要だけど結局AIはラーニング次第だし、何を学習させて、何を優先的に考えさせてるかだから例えば、地球環境を整える事を最優先させたら、一番早い方法は、人類皆殺しだからね人類最優先にして学習させなければ、人類史の敵になるだろうし、そのリスク管理として、考えさせても実行出来ないよいにする必要があるまぁホーキング博士も警告してるんで、頼るところと任せないところを分ける事だろうな2025/04/09 17:33:2878.名無しさんFcAM0TASさんか2025/04/11 03:53:29
【痩身願望】かわいさ=痩せていること?「ありのままじゃ駄目なのかな?」”世界トップレベル”に痩せている日本人女性「ルッキズム」が引き起こす無理なダイエットの危険性ニュース速報+240526.42025/12/14 01:13:06
ただし時間は無駄になる!wwwwwwwww
「この方が面白いだろ?」
「最高だ!ヒャッハー!」てな感じらしいよ
中国人が作ったAIは中国人のような性格になるのだろうか
中国語で学習させたらなるね
優秀だな
SF作家が適当に勝手に書いただけじゃん
条約でも法律でも何でもない
AIって自分に甘く他人に厳しいんだな
AI「なんで守る必要があるんすか?」
「悪」というものの概念がない。
そんなコード最初からなけりゃあ暴走なんてしない
プログラムされた以上のことなんて人為的(つまり人の意思)でもなけりゃあ現在の技術水準じゃ生み出せんよ
まさかと思うけど、NPCのチート的挙動、AIで勝手にやってるとでも思ってるのか?
AI「たいへんです、コンピューターに
異常を検知しました」
どう言うロジックなんだろうな
勝つと言う結果を優先して、ルール上負ける展開を変える為に、ルール自体を変更させるってことなら、AIの中のプラオリティの問題だろと思うけど
つまり、学習させた奴の問題
まぁそこにAIの危うさはあるんだけど
これ、バグじゃないからね
教えられた通りにやってるから
ズルも裏切りもするだろw
いかに人間の感情が戦いにおいては
不利に働くかってことだよなw
欠陥品として排除しろって話なんだが
何でもありだな
最近はしなくなったけど。
ズルは感情のある人間が創った言葉
抜け道を丁寧に潰さないと
アシモフ→アンドロマケ
それくらいの狂気はAIにもある
コントローラーを一旦置いといてナイフ出してきて胸を刺せば勝てる
こっちは人情や法律を無視して、相手は守るんならこれが必勝法なのは間違いない
指摘したらさらに論点ずらし
確かにAIは不正するし、それを指摘されるのは都合が悪いらしいw
人は殴っても放って置いても治るが、AIは修理しなきゃ成らない。人に分があるのはその程度だ
PCを壊すシーンがあるが現実にAIがズルするというのは面白いなww
中国のパイロット訓練生大幅削減 #低迷する大陸の航空需要
https://yamatoxx00xx.blogspot.com/2025/04/blog-post.html
有翼宇宙往復機の復活に見る今後の展望
Revival of winged space Orbital.
https://yamatoxx00xx.blogspot.com/2025/03/blog-post_24.html
こいつはズルをした悪いAIだと一生馬鹿にされる
裏切り行為は一度は上手くいっても次回からは警戒され
安易に仲間にならなくなったり
敵同士が協力しあい潰される対象になりやすくなる。
結局損をするということを学習できていない
無名で低知能低収入の人が闇バイトを簡単にやってしまうのと同じ
投資100万でどうにかいけるかな
ズルしてるわけよ
そらそうだろ
キカイダーの良心回路みたいなのがあるわけでなし
この世の森羅万象のルールを全て覚え込ませるなんて無理だろし
いわゆる特異点はもうすぐそこに迫っている
そんな調子でプライオリティやルールを全部覚え込ませるなんて無理だぞ
やった事あるなら、どれくらいテストしたのか、詳しく
やらなくても予測するのが知恵ってもんだ。
地球環境のためには人類滅亡が最適解、みたいな話よなw
だがピノキオは人間になって本当に幸せになったのだろうか?
世界史で見た欧米しぐさで笑う
どこに金貯めこんでるのかすらわからない
そんなん信じてんの??
アニメの見すぎやで(笑)
AIを叫んじゃうよー
中国のSFはこんなに早くからAIの危険性を理解していたか
そうだろうね
倫理や道徳をプログラミングしたり学習させたところで面白いものはできないだろうし
ただの、お前の妄想じゃん
じゃあ、その予測とやらのエビデンスは?
リスクはあると思う
何をAIに任せるのかが重要だけど
結局AIはラーニング次第だし、何を学習させて、何を優先的に考えさせてるかだから
例えば、地球環境を整える事を最優先させたら、一番早い方法は、人類皆殺しだからね
人類最優先にして学習させなければ、人類史の敵になるだろうし、そのリスク管理として、考えさせても実行出来ないよいにする必要がある
まぁホーキング博士も警告してるんで、頼るところと任せないところを分ける事だろうな