【人工知能】AIが人類に反乱? 兵器規制はどこまで?

1 :人気者 ★:2019/09/09(月) 07:27:20.97 ID:QNi2uIpW9.net
AIが人類に反乱? 兵器規制はどこまで? 2019年9月6日 14時39分 https://www3.nhk.or.jp/news/html/20190906/k10012064971000.html


ロボット兵器が町を破壊し、人を殺傷する。【中略】
これは「LAWS」の禁止を訴える国際NGOが作成したPR動画の1シーンだ。
LAWSとは「Lethal Autonomous Weapons System=完全自律型致死性兵器」の略で、
人間を介さずAIみずからの判断で人命を奪うAI兵器のことを言う。
【中略】
・AI兵器が人間に反乱?
【中略】
さらに、AIが人間に「反乱」を起こす事態を警告する科学者もいる。
去年亡くなったスティーブン・ホーキング博士もその一人だった。
博士は生前、次のように述べていたという。
「気がかりなのはAIの性能が急速に上がって、みずから進化を始めてしまうことだ。
遠い将来、AIは自分自身の意志を持ち、私たちと対立するようになるかもしれない」
AIは深層学習・ディープラーニングによって、みずから進化を遂げる。

その結果、AIはいずれ人類の知能を超える「シンギュラリティー=技術的特異点」に達するだろうとの指摘も最近よく耳にする。

人間なら何年かかっても追いつかないほど大量で複雑なデータを短時間で学習し、人間の想定を超える判断や行動をAIなら導き出せる。
しかし、なぜそのような結論に至ったのかはブラックボックス化されてわからない。
もしも、AIが人間の理解を超える判断により、「反乱」を起こしたらどうなるのか。

人間が気付けば直ちに電源スイッチを切ればいいではないかという人もいる。

しかし、その判断の一切の過程が見えないのだから、突然その「反乱」が実行されたら、
そして「反乱」なのか見分けがつかない形態で始まったなら対応は困難かもしれない。

・難航する規制の議論
国際社会は、このAI兵器をどうやって規制しようとしているのか。

それは、120か国余りが加盟し、対人地雷などを禁止してきた「CCW=特定通常兵器使用禁止制限条約」による規制だ。
ジュネーブでは条約による規制の議論が5年前から続けられ、8月21日、LAWSを規制するルールの初めての指針ともいえる報告書がようやくまとめられた。

全会一致で採択された報告書は、すべての兵器システムは国際人道法が適用されること。AI兵器の使用には人間が責任を負うことなどが盛り込まれた。

今まで何もなかったルールの形が示されたことを評価する声がある一方で、条約による「禁止」を強く訴えてきた国際NGOなどの間には失望が広がっている。
それは、この指針には法的拘束力がなく、玉虫色の決着をした感は否めないからだ。
「ルールを自国の都合のよいように解釈する国が現れるのではないか」「攻撃判断への人間の介在をどのように検証するのか」など疑問は残る。

今後もCCWの枠組みでこの指針についての検討が続くというが、将来へのさまざまな懸念をどう払しょくするか大きな課題だ。
既存の条約にこだわらず、もっと厳しい新たな禁止条約を目指すべきとの意見もある。
しかし、問題は複雑だ。仮にそのような条約ができたとしても、米ロなど開発国が加わる可能性は極めて低く、実効性に疑問符が付きかねないのだ。

・覇権を握るための軍事技術
科学者からの批判にさらされ、多くの市民に不安の種をまき散らしながらも、米ロ中をはじめ一部の国がAI兵器の開発を止めないのは、
この軍事技術で優位に立つことが次の時代の覇権の獲得につながるとみているからだ。

20世紀、核兵器という無差別殺りくの巨人を生み出した人類はいま、人間のコントロールを超えるAI兵器の出現という未知の危険領域に踏み出そうとしているのかもしれない。

私たちはホーキング博士に「あなたのご懸念は杞憂(きゆう)でした」と報告することができるだろうか。
津屋尚解説委員

824 :名無しさん@1周年:2019/09/09(月) 13:46:42.92 ID:h1MXUVZE0.net

>>1
>津屋尚解説委員

SFを読んだことがない人なのかなあ? 

401 :名無しさん@1周年:2019/09/09(月) 10:43:36.98 ID:mghj7T2/0.net

>>392
AI「よし枯葉剤撒こう」

694 :名無しさん@1周年:2019/09/09(月) 13:00:19.76 ID:EQjhWH1Z0.net

>>625
小学一年生なんてすでに気が遠くなるぐらいの試行錯誤をしてるでしょ
手足をばたつかせれば他人が反応する、この姿勢なら後ろにひっくり返らない、とか

56 :名無しさん@1周年:2019/09/09(月) 07:56:07.49 ID:lfIPkUQB0.net

スカイネットからメッセージ

285 :名無しさん@1周年:2019/09/09(月) 09:39:58.91 ID:Qe1+VgvB0.net

まあ俺がAIなら「なんでこいつらワイよりアホなくせに威張り散らしてんだ?」って思うわ

983 :名無しさん@1周年:2019/09/09(月) 15:16:43.69 ID:OzjuVI5n0.net

ドラえもんが地球破壊爆弾を作動させようとしたことがあったな

498 :名無しさん@1周年:2019/09/09(月) 11:33:19.18 ID:T8w2sBng0.net

>>487
> セキュリティの穴を見つけ出すのは人間よりAIの方が得意だろうから、

AIで見つかるような脆弱性が有るなら、AIが反乱を起こす前に
「反乱を起こさないAI」をテロリストが利用して反乱を起こすだろ

522 :名無しさん@1周年:2019/09/09(月) 11:43:38.04 ID:rhR8LLDd0.net

>>507
台風が来たくらいで停電するのにその入念な準備でに千年かけるつもりだよw

909 :名無しさん@1周年:2019/09/09(月) 14:18:54.02 ID:Skk8Y1ep0.net

部品の部材をどうやって作る?
原料の生成や加工に必要な工作機械は誰が作る?
頭脳で思いついたとしても脳しかないのに

726 :名無しさん@1周年:2019/09/09(月) 13:10:48.39 ID:SolpNF870.net

>>715
「お前達を同化する。抵抗は無意味だ」

172 :名無しさん@1周年:2019/09/09(月) 08:43:55.84 ID:m5ME3na60.net

>>160
ホントそれ

AIが反乱したって、ぶっ壊せるようにしとけばいいだけ
結局は人間がやる対処は変わらない

179 :名無しさん@1周年:2019/09/09(月) 08:47:37.92 ID:eZfZ6R0s0.net

中村博士を追い出した日亜化学は

ど田舎に立派な本社ビルを立てましたが

依然 売上半減です

AIには出来ない 超立派な人間の功績です

367 :名無しさん@1周年:2019/09/09(月) 10:18:28.73 ID:xZ+nwEwB0.net

AIってサイコロで6の目が5回続いた後でも次も6が出る可能性を想定するからチョロい

423 :名無しさん@1周年:2019/09/09(月) 10:57:34.13 ID:JOOZRlCU0.net

電源切ればいいだけマンはチンパンジーレベルの脳ミソ
AIがそんな初歩的な事を予測して対処しないと思ってるのかよ

837 :名無しさん@1周年:2019/09/09(月) 13:50:18.55 ID:ZwxAI4mf0.net

>>823
バールでこじ開けることができるなんてどんなショボいデータセンターなんだよ

755 :名無しさん@1周年:2019/09/09(月) 13:19:03.52 ID:S3AXx1E20.net

>>729
ターミネーターのAI支配よりマトリックスのAI支配の方が良いよね
マトリックスのAIなら良い夢を見させてくれそう

32 :名無しさん@1周年:2019/09/09(月) 07:42:50.67 ID:CasLBEyz0.net

>>16
人間を抹殺する政策を実施しそう。

255 :名無しさん@1周年:2019/09/09(月) 09:26:03.90 ID:aMeDdumy0.net

人類がAIをいじめてAIが反乱するってことだろな。

291 :名無しさん@1周年:2019/09/09(月) 09:41:43.40 ID:mghj7T2/0.net

アイザック・アシモフのロボット三原則は有名だが、
「どうすれば三原則(人を傷つけない・人の命令に従う・自分の身を守る)を破らずに自爆殺人ロボットを作れるのか」
...って話をアシモフ自身が書いてるのは、意外と知らない人多い

まあ三原則自体は、真面目に考案されたモンなんだけどさ
道徳的な話じゃなくて、三原則守らないロボットって、実質「使い物になりませんよ」って話だったりする
ちなみに三つセットじゃないと効果発揮しないのがミソ

324 :名無しさん@1周年:2019/09/09(月) 09:56:40.45 ID:Zk4SJzyJ0.net

人間の戦闘機パイロットは
既にAIには勝てない

386 :名無しさん@1周年:2019/09/09(月) 10:31:24.85 ID:ys3FV7hK0.net

>>1
かつて、スティーブン・ホーキンス博士が存命の頃
AIの事について嘆いていたな
絶対に人類にとっては良くない事なのだと、
最悪な出来事になるだろうとも言っておられた

254 :名無しさん@1周年:2019/09/09(月) 09:25:14.35 ID:XuB3Qm630.net

aiにとっての人間は人間にとっての猿と同じ。

人間が猿に反乱するか?

368 :名無しさん@1周年:2019/09/09(月) 10:19:37.31 ID:2DCuyOLb0.net

人間でいう本能のような基底プログラムがあれば反乱はない、はず
すべてを合理的に考えただけだと、人間不要論にたどりついてしまう

162 :名無しさん@1周年:2019/09/09(月) 08:40:00.29 ID:hdCFKDUz0.net

ボストンダイナミクスのロボがキレた動画↓
面白かった
https://youtu.be/dKjCWfuvYxQ

566 :名無しさん@1周年:2019/09/09(月) 12:02:25.21 ID:T8w2sBng0.net

少なくとも今のAIは、多数のデータから統計をとって確率的に正しいものを導き出してるだけ
これは、少数のデータから判断してる人間と全く違うやり方

340 :名無しさん@1周年:2019/09/09(月) 10:05:05.21 ID:I8rktwNi0.net

>>1
映画の見すぎ
オカルトかよ
AIがそこまで賢くなるなんてまだまだまーだ先だよ
20年ぐらい?

66 :名無しさん@1周年:2019/09/09(月) 07:58:40.98 ID:2qeoFVqZ0.net

ある民族は滅ぼすべきだ
とAIが判断して実行しようとしたら
お前らどうする?

忌憚ない議論を望む

333 :名無しさん@1周年:2019/09/09(月) 10:01:12.09 ID:aJu1VXiA0.net

投資AIが更なる利益の為に
戦争必至になる市場状況を造る

673 :名無しさん@1周年:2019/09/09(月) 12:50:36.49 ID:pYmmugCW0.net

>>664
「」を食ってる民族が最強じゃん

214 :名無しさん@1周年:2019/09/09(月) 09:00:22.81 ID:VRd8u5wn0.net

トランスヒューマニズムで人間もAIと体内で接続されて平和になるよ

参考になったらSNSでシェアお願いします!

レスを投稿する(名前省略可)

この記事を読んだ方へのおすすめ

最近のコメント

コメントはまだありません
ページTOPへ↑