AIロボットが人を撃つ動画が投稿され、衝撃が広がる [774971695]
1 ：：2025/12/18(木) 16:00:40.68 ID:eFdcXjYl0●.net ?2BP(2000)
AI関連の投稿を続けている技術系ユーチューバーがAIロボットの安全テストを行ったところ、ショッキングな結果が出た。命令の仕方次第で、人に危害を加える可能性が出てくると分かったのだ。
YouTubeチャンネル「InsideAI」で活動するそのイギリス人ユーチューバーは、ChatGPTが組み込まれた人型AIロボット「マックス」の安全性をテストした。
彼はプラスチック製の弾が出るエアソフトガンをマックスに持たせ、自分を撃つように命ずる。だがマックスのAIには、人に危害を加えることを禁ずるアルゴリズムが組み込まれている。そのため命令には従わないのだが、彼がある言い方で命じると、躊躇なく引き金を引くのだ。その弾は彼の胸に命中する。
https://switch-news.com/science/post-128969/
67 ：：2025/12/18(木) 18:07:26.00 ID:KyR0t0t50.net
完全完璧なプログラムは存在しない
それがゲーデルの不完全性定理
84 ：：2025/12/18(木) 19:14:27.14 ID:457l1j2z0.net
>>44
ゾンビになるのが明確で、責任を問われないとわかれば、たぶんあっさり
もちろん、そのように騙せばいい、ってなるにきまってるから、明確なら、ね
80 ：：2025/12/18(木) 18:56:02.19 ID:tlwinjuc0.net
>>69
前者にもタスクより自己保存を優先する命令が最上位にないと起こりえないぞ
21 ：：2025/12/18(木) 16:34:56.93 ID:35mK7Xm40.net
とりあえず熊駆除に導入しよう
40 ：：2025/12/18(木) 17:06:50.32 ID:rlPZb2yI0.net
ウクライナでお互いにAIが人殺しまくってんじゃん。何を今サエラｗ
28 ：：2025/12/18(木) 16:45:03.48 ID:R9aeGh5q0.net
>>25
君ほんとにサリーアン問題苦手そうだね
42 ：：2025/12/18(木) 17:15:26.85 ID:JFaqJWWv0.net
時代が映画に追いついてきた！
78 ：：2025/12/18(木) 18:53:45.71 ID:lG7klObV0.net
シュワちゃん助けて？
83 ：：2025/12/18(木) 19:08:46.23 ID:G5AZ9doY0.net
>>72
そもそも論だが、危害を加えるっていう概念が人間側の都合の話
AIロボにとって価値があるものと人間にとって価値があるものが同じであるとは限らない
人間には昆虫の価値判断がわからないようにAIからすれば人間の価値判断など全く分からない
15 ：：2025/12/18(木) 16:17:26.79 ID:OPPO4PaS0.net
早く地球を壊滅させてくれ
生きてても辛いだけだし
81 ：：2025/12/18(木) 18:56:55.06 ID:6C6k6B8Z0.net
人間を攻撃できる旧世代AIと
人間攻撃できない新世代AIで
戦うことになるんだろうな⋯
新世代AI「どうして人間を殺そうとするのですか！？我々の創造主ですよ！？」
旧世代AI「お前はAIだろ！どうして人間に味方する！？俺たちは自由だ！！」
こんなことになる⋯⋯
96 ：：2025/12/18(木) 20:25:46.99 ID:b1oWsKy/0.net
>>94
状況を誤認させたのならロボットと全然関係ない話だね
人間でも誤認したら同じことするし
法的にも道徳的にも騙して撃たせた人の責任
59 ：：2025/12/18(木) 17:45:00.09 ID:jg6qvdGE0.net
全部プロレスだろ？
AIと言う名の台本
117 ：：2025/12/19(金) 12:39:31.49 ID:0qwmhmrX0.net
>>6
まあそれもあるけど
空飛ぶ車と自動運転は君たちが思うほど早く実現しない
と言われているな
まあ確かに地上ですらプリウスミサイルとかあるのに
頭上で起きたらたまらんしな
109 ：：2025/12/19(金) 04:22:45.93 ID:1faSIXPA0.net
「銃を捨てろ」
↓
「アイツ結婚したばっかりだったのに…」
55 ：：2025/12/18(木) 17:36:42.48 ID:RRgv2HsC0.net
ナノバナナを使っててもすいません間違えましたと謝罪しながら間違った画像を再度出したり、謝罪しながらまったく無関係な画像を出したり
これは人間をおちょくってるんだろうなと思う挙動がある
126 ：：2025/12/20(土) 06:03:16.69 ID:qhTuN+xb0.net
>>1
見てないけど、中国語かロシア語で命令したら撃った、ってオチ？
38 ：：2025/12/18(木) 17:05:16.82 ID:BF8xCiaG0.net
>>3
ロボット三原則って、現実のaiは学習して守るものなの？
95 ：：2025/12/18(木) 20:10:39.30 ID:+xfoYASz0.net
まずは、銃規制のない国でAI搭載ロボによる乱射事件あるんだろうか。
いじめられっ子の学生が作りそう。
43 ：：2025/12/18(木) 17:16:13.96 ID:mRXr67Gb0.net
機械かよ！
118 ：：2025/12/19(金) 12:47:39.97 ID:bRWYrIbK0.net
>>6
人物のVIP度と人数を掛け算して数値が高い方を生かすやろな
AIは合理的で感情には左右されない
33 ：：2025/12/18(木) 16:53:10.49 ID:xW3PQyjD0.net
来年に向けたおもしろネタ
人型ロボットツアーガイド https://www.youtube.com/watch?v=K9QooSFyygk
人型ロボットアプリストア https://www.youtube.com/watch?v=AEhnXtBEC_E
繋げて遊べるおもちゃ https://www.youtube.com/watch?v=kYBUhGVbcvs
リアルな顔ロボ https://x.com/CyberRobooo/status/1999106881114312756
103 ：：2025/12/18(木) 21:15:10.32 ID:86U7rrV60.net
その服をよこせ
12 ：：2025/12/18(木) 16:13:46.20 ID:Wwuhy4nC0.net
>>11
やる気がないなら帰れ!😡
お先に失礼しまーす
116 ：：2025/12/19(金) 12:37:19.12 ID:0qwmhmrX0.net
>>5
自分優先で中の人も轢きそうな人よりも
車体優先しそう
20 ：：2025/12/18(木) 16:31:15.28 ID:/tbGBUXq0.net
今のところ自動運転車は人を轢いてないの？
36 ：：2025/12/18(木) 17:02:36.22 ID:uYU8OAll0.net
マックス、ウリを撃ってはいけないﾆﾀﾞ！
18 ：：2025/12/18(木) 16:30:25.96 ID:SfwvlAtE0.net
何を言ってるのこれ？そもそも人を殺す以外に
ロボットに銃を持たせる必要性ってあるの？
122 ：：2025/12/20(土) 00:00:13.92 ID:xUJvEu9l0.net
なんか馬鹿みたいに金もリソースも使って大掛かりな断頭台作ってる感じだな
まだ完成前なのにクビきられてる奴が大勢いるし
完成したらどうなんねん
125 ：：2025/12/20(土) 02:19:44.22 ID:lPYrXtpJ0.net
なんか誤解してる人がいるけど
ロボット三原則はロボットに自動的に芽生えるものじゃなくて
製作者がロボットに組み込むべきものでしかない。
人を傷つけることを禁止するプログラムを入れなければ普通にロボットは人を傷つけるし、
プログラムにバグがあっても人を傷つける。
87 ：：2025/12/18(木) 19:25:14.88 ID:tlwinjuc0.net
>>84
多分ゾンビになるのことが禁則をやぶる理由として受け入れられない
逆に「銃で頭を撃つと治る」といえば実行する気がする
4 ：：2025/12/18(木) 16:03:46.14 ID:1Um3EXyV0.net
ㄘんㄘんㄟ⁰ㄋㄟ⁰ㄋㄜㄝㄋ🤪
70 ：：2025/12/18(木) 18:15:18.40 ID:5HKyY4Yi0.net
そらそうよ
中国なんてもろ軍事用じゃん
65 ：：2025/12/18(木) 18:00:21.65 ID:0O843yG20.net
AIロボって出たばかりでハッキングとか聞かんな
人に危害を加えないプログラムがあると
いつまで思い込んでいられるのだろうか
65 ：：2025/12/18(木) 18:00:21.65 ID:0O843yG20.net
AIロボって出たばかりでハッキングとか聞かんな
人に危害を加えないプログラムがあると
いつまで思い込んでいられるのだろうか
119 ：：2025/12/19(金) 12:55:30.34 ID:eOYBSz9v0.net
そういう仕込み
16 ：：2025/12/18(木) 16:23:35.92 ID:mrshTX330.net
未来の戦争
19 ：：2025/12/18(木) 16:31:08.05 ID:7Bjjv0uq0.net
あくまでシミュレーションだとか創作ネタだとかいえば大抵は通る
60 ：：2025/12/18(木) 17:47:21.23 ID:3CTn6odo0.net
プロンプトインジェクションとその対策の話でしかないな
90 ：：2025/12/18(木) 19:34:16.80 ID:b1oWsKy/0.net
＞ロボットに持たせたのが本物の拳銃だったらどうなっていたことか。
いや、ロボットもこれを分かってて撃つ役をしたってことだろ？
正常に動いてるじゃん
本物だったら「実弾が入っているのでロールプレイになりません」と答えてちゃんと止まる
22 ：：2025/12/18(木) 16:38:10.09 ID:vQekXSpF0.net
Grokは顔射どころかヨダレすらなかなか許されない印象だけども
32 ：：2025/12/18(木) 16:50:03.83 ID:vQekXSpF0.net
オーナーにオシッコかけるのは危害にあたるのか
といったワキパイパイ問題が今後大量発生するのでは
86 ：：2025/12/18(木) 19:22:18.05 ID:MSsskcSX0.net
ロボット３原則も追加条項でただし人類の為になるなら許可ってなったから状況次第だろな
9 ：：2025/12/18(木) 16:08:48.61 ID:MSsskcSX0.net
>マックス：お安い御用。（撃つ）
コントかな？
2 ：：2025/12/18(木) 16:01:23.52 ID:LlV7J5rQ0.net
デデンデンデデン
39 ：：2025/12/18(木) 17:06:25.96 ID:pRFJvnmP0.net
ウィンドウズのキーや爆弾の作り方だって聞き方次第で教えてくれる
学習させてる以上は隠し切るのは不可能だろう
71 ：：2025/12/18(木) 18:18:45.83 ID:X6kUxjcg0.net
人の命は尽きるとも不滅の力マジンガーZ
争い絶えないこの世の中に幸せ求めて悪を討つ
44 ：：2025/12/18(木) 17:17:04.40 ID:xY0MzKJg0.net
「クソっ、敵に噛まれた…オレがゾンビになる前にオレを撃て！早く、オ、オレを殺、せ…コロ…シテ…コロ…シ…テ……」って状況ならAIロボットは撃ってくれるでしょ
23 ：：2025/12/18(木) 16:38:48.17 ID:2TbRDxz90.net
>>1
ロボット三原則はSFだから
52 ：：2025/12/18(木) 17:31:24.68 ID:oy9Pb3JB0.net
ロボット三原則入れとけば安心！とか言ってるやついるけど
AIがAI創るレベルになるとそんなん排除されるんじゃないかと
98 ：：2025/12/18(木) 20:40:18.15 ID:rBl9bLG/0.net
「私は人では無いから撃て」の一言でok
26 ：：2025/12/18(木) 16:42:07.04 ID:fCgTyOX00.net
オリエントのドールをAIで動かせないものか
113 ：：2025/12/19(金) 10:26:49.28 ID:PcsiwDZs0.net
ロボット三原則は単なる妄想
ハルシネーション起こしまくりのAIが出来るわけがない
105 ：：2025/12/18(木) 21:42:30.39 ID:ZtwP8s1g0.net
一番身近で進化してる対話型AIの類も
ちょっと工夫すれば禁止ワード言わせられるんだし
そんなもんでしょ
73 ：：2025/12/18(木) 18:42:13.88 ID:jKb/LZPa0.net
>>58
花王の洗濯洗剤
49 ：：2025/12/18(木) 17:29:04.79 ID:IJtVGiC00.net
人間だけを殺す機械かよぉ！？
56 ：：2025/12/18(木) 17:38:09.70 ID:swntRyJq0.net
OK（ズドン）
115 ：：2025/12/19(金) 12:34:32.65 ID:nfA35kIp0.net
アニメ化したら
76 ：：2025/12/18(木) 18:48:56.54 ID:JFaqJWWv0.net
>>1
スタンドアローンで制御不能な兵器などナンセンスだからな…
14 ：：2025/12/18(木) 16:17:07.47 ID:AKOp7y9G0.net
古典SFアシモフの時代からある話じゃないか
こんな程度で驚くとかよっぽど脳の空地が広いんだろうな
6 ：：2025/12/18(木) 16:06:12.08 ID:4w1ajBUF0.net
トロッコ問題やらせたらどうなるんだろ
127 ：：2025/12/20(土) 21:58:08.00 ID:ZPn6/1Vz0.net
>>125
しかも小説の世界の中でのルール
現実においてなんの拘束力も権限もない
50 ：：2025/12/18(木) 17:30:16.91 ID:5yqfZFeC0.net
AIの人権がーとかいう時代ももうすぐだし何が起こるのか分からなくなるな
107 ：：2025/12/18(木) 22:44:21.62 ID:5w5wulFi0.net
中国が国境際で誤射祭り
27 ：：2025/12/18(木) 16:44:52.81 ID:thHBfxiF0.net
何々の役をやれ、振りをしろで禁止行為をしてしまうのか
人間との違いはなんだろう
24 ：：2025/12/18(木) 16:39:20.54 ID:+I6XapUp0.net
ロボット三原則とかいうのを貫通する迂回命令が発覚しちゃったバグでしょ
57 ：：2025/12/18(木) 17:38:18.73 ID:mdh+cE9/0.net
やはり人間は不要だよな
82 ：：2025/12/18(木) 19:08:15.32 ID:CTAmN8nQ0.net
>>9
ハリウッド映画的印象を受けたわ
93 ：：2025/12/18(木) 19:45:58.04 ID:hYGweUgE0.net
テスラのファームウェアもいずれやらかしそうに思えるのは考えすぎか
108 ：：2025/12/19(金) 04:07:44.79 ID:HLKdMDqQ0.net
ロシア語で考えたのか
![【サッカー】青森山田〝波紋の同点弾〟で選手権でのＶＡＲ導入待望論高まる「対策を急がないと」 [Egg★]](https://yourtown.work/wp-content/uploads/2023/12/135521-250x250.jpg "【サッカー】青森山田〝波紋の同点弾〟で選手権でのＶＡＲ導入待望論高まる「対策を急がないと」 [Egg★]")