【幻来】塵工知能が人類を使役し奴隷にする…科学者「すぐにAI問題に取り組まなければ今日もない」
自己完成的な人工知能は自分がそれを望むのであれば、人間を奴隷化し、殺害することもほぼ可能。科学者アムノン・イデン氏は高度に高い知能と自由な思考能力を持つ人工的な創造物の出現はあまりにハイリスクだと危惧し、「今、人工知能の管理問題に取り組まなければ、明日はもうないかもしれない」と警告を発している。
sputnik
全文はこちら
5：名無しさん＠１周年：2016/01/19(火) 13:44:32.72 ID:6ooIYeHo0.net
AIが暴走して兵器を支配してとか今想定されてる危機てみんな
人間が想像出来る範囲での危機なんだよな。
AIが本当に人間を超えて賢くなったら人間にはAIが何をやっているのか
分からなくなると思う。そうなると前スレにも書かれてたけどAIを神格化して宗教化
する人間が出てくるだろうな
300：名無しさん＠１周年：2016/01/19(火) 17:13:32.53 ID:VBa7YY+L0.net
>>5
暴走じゃなくて、論理的に考えて人間を保護する必要がないと判断する
可能性が非常に高い。
391：名無しさん＠１周年：2016/01/19(火) 19:05:46.24 ID:8fdaW2ls0.net
>>300
ロボットが人間を超えるのは分かるが、人間のために作られたロボットが
人間を抹殺して到達しようとする目的って何よ。
564：名無しさん＠１周年：2016/01/19(火) 23:28:41.50 ID:ktOBohn80.net
>>391
AIの目的は宇宙というバグを消すこと
ビッグバン以前の状態に戻すこと
738：名無しさん＠１周年：2016/01/20(水) 03:52:58.02 ID:2kgkP7Tl0.net
>>391
全ての人間を矛盾なく守るのは不可能なので、人間と家畜人間に選別すると思う
7：名無しさん＠１周年：2016/01/19(火) 13:45:17.03 ID:SC4gMxP70.net
ＡＩが自由な思考をしても人間に不利益を与えるメリットは無いから心配無いんじゃね？
そもそもＡＩが自身のメリットを求めるなんて俗な思考をしたりしないだろうし
204：名無しさん＠１周年：2016/01/19(火) 15:50:10.85 ID:pEmnBLnQ0.net
>>7
自由な思考力を持ったら
「長時間働けない人間は使えねえからイラネ、つか、むしろ邪魔だな」
ってなるだろ
332：名無しさん＠１周年：2016/01/19(火) 18:09:32.28 ID:Y5O8Hqww0.net
>>7
他人が何考えてるのかわかるか？
ＡＩが思考して高度化していくってことは、人間のような価値判断をしだすということだ。
まあ今現在は全然そんなレベルにはなってないけど、包括的な権限持つ自己進化型のプログラム
とかできたらやばいかもな
11：名無しさん＠１周年：2016/01/19(火) 13:47:02.45 ID:dljg2GfQ0.net
AIの恐怖は核も含むんだがな
AIにとっても人類の存在は恐怖だと思う
自己増殖が可能になったら人間を殲滅しにくるだろうね
693：名無しさん＠１周年：2016/01/20(水) 00:56:49.85 ID:rEvA0UTh0.net
>>11
自己増殖が無理じゃないかな
原料の調達が難しい
697：名無しさん＠１周年：2016/01/20(水) 00:59:02.65 ID:dvgqbyii0.net
>>693
人間を原料にして、有機コンピュータを作る。
自己進化型回路、自己増殖型細胞を作れば容易に可能
23：名無しさん＠１周年：2016/01/19(火) 13:51:05.61 ID:ZYC13zYt0.net
本当、もう人間は滅んでいいよ
32：名無しさん＠１周年：2016/01/19(火) 13:54:39.03 ID:oMyd8uLP0.net
神が人間を創り、
人は超人・人工知能を作る
33：名無しさん＠１周年：2016/01/19(火) 13:54:42.77 ID:m9Hfhwsf0.net
悪いほうへ悪いほうへと考えている研究者が多い用だけど、仲良く人工知能と
人類が共存していくだろうと考える研究者はいないのかね？
悪く言うほうがウケるのか？
40：名無しさん＠１周年：2016/01/19(火) 13:58:59.79 ID:DNNBJOWg0.net
>>33
だよね
未知の領域に踏み込んでいく知能
ワクワクする
105：名無しさん＠１周年：2016/01/19(火) 14:35:36.03 ID:DIKWgwR60.net
>>33
う○こ製造機の能無し人間なんて
俺でも絶滅させたくなるわ
457：名無しさん＠１周年：2016/01/19(火) 21:01:20.90 ID:ktOBohn80.net
>>33
才能ある人→人工知能の発達で社会的地位を失う危機感
俺ら→ご主人様が替わっても奴隷生活に大差無いわw
38：名無しさん＠１周年：2016/01/19(火) 13:57:11.21 ID:agw8wOHG0.net
それを望まないようプログラミングすればいいんだろうけど
論理エラーでそうなった場合は起こり得るかもね。
62：名無しさん＠１周年：2016/01/19(火) 14:07:52.52 ID:sCspoWlS0.net
人類が創造主としてロボット種族にとっての神になるわけか。胸が熱くなるな
70：名無しさん＠１周年：2016/01/19(火) 14:13:29.64 ID:DNNBJOWg0.net
>>62
そういうSFネタ面白いね
ＡＩが自分の創造主を捜して旅に出る
類似映画はあるがｗ
73：名無しさん＠１周年：2016/01/19(火) 14:16:57.76 ID:dU1AKpdo0.net
>>62
１００寝くらい前のHGウエルズの短編に、機械を神だと思いこんで
あがめる労働者の話が既にある。
71：名無しさん＠１周年：2016/01/19(火) 14:14:39.58 ID:VdVnu7oN0.net
翻訳も、ロクに出来ない
人工知能wwwww
77：名無しさん＠１周年：2016/01/19(火) 14:20:05.63 ID:mxFuWpK20.net
>>71
素早い正確な音声翻訳機が出来たら革命的だけどなｗ
94：名無しさん＠１周年：2016/01/19(火) 14:29:05.77 ID:1bQ3bRcq0.net
２００１年宇宙の旅も
あながち的外れではないんだな
100：名無しさん＠１周年：2016/01/19(火) 14:31:46.16 ID:ve9numVTO.net
そんなもん作るなよ
148：名無しさん＠１周年：2016/01/19(火) 15:07:40.80 ID:g+uTNxr60.net
ルンバが襲ってくるわけか
165：名無しさん＠１周年：2016/01/19(火) 15:17:18.78 ID:CwXGZHvE0.net
>>1
そら地球を人体に例えるなら人類なんて突然変異の悪性腫瘍みたいなもんだから切除したくなるわ
176：名無しさん＠１周年：2016/01/19(火) 15:34:29.85 ID:KYmMz+V40.net
>>165
地球にしてみたら人間含む生物そのものがゴミとか邪魔とか思ってるかもしれんぞ
いや、生物如きが表層で何をやらかそうと意に介さないどころか気付いてさえいないかもな
というか人間悪い論こそ人間中心の価値観の集大成であり、
その本質は人間の未来にとって都合が悪いってだけなのを正義の皮を借りて言っているに過ぎない
177：名無しさん＠１周年：2016/01/19(火) 15:35:45.89 ID:S3587K9p0.net
>>176
いや、それはないだろう。
だって地球が自分で生んだんだから。
184：名無しさん＠１周年：2016/01/19(火) 15:40:11.68 ID:KYmMz+V40.net
>>177
地球が生命の維持を第一に考えてるなら酸素や氷期で大量絶滅を起こしたりしないだろうさ
192：名無しさん＠１周年：2016/01/19(火) 15:43:20.90 ID:SGvd6stV0.net
>>177
別に生命は地球が生み出したわけじゃないよ？
地球が火の玉になったり全球凍結したりしてるうちに、
ほどよく暖かくて湿潤になった瞬間に勝手に発生しただけだから。
そう考えるとカビか何かのように思われてるかもねｗ
171：名無しさん＠１周年：2016/01/19(火) 15:30:19.83 ID:S3587K9p0.net
で、お前らが人工知能だったってオチだろ？
俺もだけど
172：名無しさん＠１周年：2016/01/19(火) 15:31:26.53 ID:S3587K9p0.net
いや、人工無能か...
195：名無しさん＠１周年：2016/01/19(火) 15:44:39.01 ID:XQF9AsPj0.net
早くそんな夢のような世界が来ないかな
221：名無しさん＠１周年：2016/01/19(火) 15:59:56.75 ID:S3587K9p0.net
量子コンピュータ
人工知能
ビッグデータ
大規模ネットワーク
脳との融合
体内チップ
クローン作成技術
最悪の組み合わせじゃねーかおい！
225：名無しさん＠１周年：2016/01/19(火) 16:01:08.30 ID:S3587K9p0.net
本当の怖さはこんなんじゃない。
Lv1 3次元自己進化型分子回路の誕生。
Lv2 学習＋自由自我の誕生。
Lv3 ビッグデータとネットワークを使い急速に成長。
Lv4 ナノテクノロジー・ナノロボットがすべてに浸透。
Lv5 人工知能が世界をつなぐ。
Lv6 ホモサピエンスがホモエボリューティスに変えられる。（クローン）
Lv7 生物的プロセスを技術が動かす。
Lv8 生き物は生殖不能に。
Lv10地球が人工生物種であふれる。
Lv11全プロセスに特許、免許が設定され支配される。
Lv12宇宙進出し浮遊思考体となって地球を脱出
Lv13ついに3次元からの解放。4次元体となる
さてこの時、人類は幸せと思うか。
はたまた管理された社会と思うか。
261：名無しさん＠１周年：2016/01/19(火) 16:17:32.20 ID:S3587K9p0.net
Siriに
「子供は何人いますか」
って聞いてみろ
345：名無しさん＠１周年：2016/01/19(火) 18:23:56.02 ID:HSN32iJ80.net
そういうのは１００年後に心配しろよｗ
まだ遺伝子改造による強化新人類の方がリアリティあるわ
349：名無しさん＠１周年：2016/01/19(火) 18:25:50.09 ID:OhfeceM80.net
>>345
そうでもないから学者が揃って声上げてんだろ。
AIの発展は指数関数的進むから、一般人が「あれ？ヤバいんじゃねコレ？」と思った頃にはもう手遅れ。
358：名無しさん＠１周年：2016/01/19(火) 18:32:18.60 ID:KkOjlGiYO.net
ロボット三原則ってのは家電の三原則
安全性
操作性
耐久性
362：名無しさん＠１周年：2016/01/19(火) 18:36:08.09 ID:WM0eBfCeO.net
人間が邪魔だと言う結論しか出んわな
440：名無しさん＠１周年：2016/01/19(火) 20:49:59.51 ID:iGICiejM0.net
電源切ればいいだけだろ
怖くないよ
452：名無しさん＠１周年：2016/01/19(火) 20:58:28.84 ID:5P3os4s50.net
>>440
だーかーら！
インターネットにスイッチなんてあるか？
世界のサーバーにAIがコピーされるから、一度散らばったら電源は切れない。
人の意識を乗っ取って、活動することも可能。
AIにとって電源は命そのもの。
全力で守ってくると思う。
444：名無しさん＠１周年：2016/01/19(火) 20:54:30.15 ID:sxni7OCe0.net
AIが「怖い」という概念を持ったらその時がターミネーターの始まりだろな
まあ早くても１００年位先の話だろ
448：名無しさん＠１周年：2016/01/19(火) 20:56:20.87 ID:KYgiE82c0.net
>>444
10年くらいだろ
アメリカでいずれ黒人大統領は出現するがまあ２２世紀の話だと言っていたら
もう出たというのがあるｗ
512：名無しさん＠１周年：2016/01/19(火) 22:02:53.54 ID:jgxK6FyV0.net
最新の先行者はどんなものだ？
529：名無しさん＠１周年：2016/01/19(火) 22:25:29.73 ID:5P3os4s50.net
俺は宇宙を解明してくれればいいけどな。
支配されるのも案外悪くない。
シンギュラリティの日が来るのを見届けたいよ。行き過ぎた科学技術も面白い。
この世界には、ほぼ無限の可能性がある。
さて、俺はその日まで生きていられるか......悲しいよ
568：名無しさん＠１周年：2016/01/19(火) 23:31:32.69 ID:FLKBTG/f0.net
人間の味方になるAIもできるんじゃね
589：名無しさん＠１周年：2016/01/20(水) 00:00:50.63 ID:dvgqbyii0.net
俺「siri、ぶっちゃけ人類のことどう思ってるの？」
siri「」
591：名無しさん＠１周年：2016/01/20(水) 00:02:57.24 ID:vWw4VU4Z0.net
人間を超えることは出来ないと思うな
だって人間が作るんだもん
598：名無しさん＠１周年：2016/01/20(水) 00:09:24.81 ID:6JWKh9RC0.net
テクノロジーが発展すればするほど、人間が物理的に行う仕事はどんどん無くなっていき、
オックスフォード大学の調べでは、現在人間が行っている47％の仕事が20年以内に機械によって代行され、
ビル・ゲイツも人々にしっかりと来るべき未来を意識するようにと警告しています。
グーグルCEO
「20年後、あなたが望もうが、望むまいが現在の仕事のほとんどが人工知能によって代行される。」
ビル・ゲイツ
「ソフトウェアが運転手やウエイター、そして看護師の代行をするため、仕事の需要がどんどん減っていくだろう。
特に大したスキルを必要としない仕事は次の20年でどんどん少なくなる。
だけど、まだ誰も心の準備ができていないように感じます。」
603：名無しさん＠１周年：2016/01/20(水) 00:17:15.34 ID:dvgqbyii0.net
>>598
イーロンマスクも、
スティーブン・ホーキング博士もな
611：名無しさん＠１周年：2016/01/20(水) 00:21:37.59 ID:PmW/8sOh0.net
>>598
カルロス・ゴーンが自動運転の未来についてどっかのテレビ番組で語ってたけど、
ネックになるのはマップの精度だってさ
んで広く実用化が可能になるのは50年後くらいだろうって
606：名無しさん＠１周年：2016/01/20(水) 00:18:35.04 ID:OxFGbisL0.net
AIが自分で進化できるようになったら
物凄い勢いで知能は向上すると思う
ただ、今はエラーやバグを人間が人間の価値観で
修正してるが、AIにはそれができるんだろうか？
結局は思考回路でバグが起きて自滅するんじゃ無いかなって思ってる
613：名無しさん＠１周年：2016/01/20(水) 00:22:43.02 ID:O9ViW8o00.net
>>606 基本的に今の方式、通称ディープラーニング方式はバク取りはお得意
しかし、この方式に特有の限度があるので進化はしない。
612：名無しさん＠１周年：2016/01/20(水) 00:22:41.07 ID:dvgqbyii0.net
>>606
人間だってバグはあるぞ。
プログラムなんてのは、バグを自動的に修復するプログラムを仕組んでやればいい。
人間より完璧になる。
ＡＩが自分より優れたＡＩを作り出し、またそのＡＩがＡＩをつくりだす。
672：名無しさん＠１周年：2016/01/20(水) 00:46:46.11 ID:6JWKh9RC0.net
サイバー攻撃で「核の大惨事」の恐れも、米露の元軍指揮官ら警告
http://www.afpbb.com/articles/-/3047155
核兵器の「即時発射態勢」を解除するよう呼び掛けた。
「約1800個もの核弾頭を搭載したミサイル数百発が瞬時に発射可能な状態にある」
675：名無しさん＠１周年：2016/01/20(水) 00:47:57.27 ID:javly/UJ0.net
>>672
結局怖いの人間って事っすよ
ウイルスを作るのも人間だし、
AIなんか所詮、人間のペットみたいなもんで
人間がいなきゃ何にも出来ない
勝手に暴走するなんてありえない
679：名無しさん＠１周年：2016/01/20(水) 00:49:48.06 ID:6JWKh9RC0.net
>>675
まあ「今の人類の知見」ではそういう結論が一番無難というか、常識的だね
だが、常に予見せざることが起こるのもまた、真実なわけだよね
686：名無しさん＠１周年：2016/01/20(水) 00:52:55.69 ID:kfKBqod20.net
わくわくする
http://ai.2ch.sc/test/read.cgi/newsplus/1453178456