車椅子の天才として知られるイギリスの理論物理学者スティーブン・ホーキング博士が、完全な人工知能の開発は人類を滅亡に追いやる危険があると語った。
この警告が発せられたのは、自身が利用するコミュニケーション技術を、インテル製の最新AI搭載型会話システムに刷新するにあたって企画されたBBCのインタビューにおいてである。この会話システムに用いられたスウィフトキー社の技術は、利用者の考えを学習し、次にどんな言葉が発せられるのか予測することが可能で、スマートフォンのキーボードアプリにも利用されているものだ。
Stephen Hawking Full interview with Rory Cellan Jones
ホーキング博士は、これまでに開発された人工知能は非常に便利なものであると認める一方、最終的に人間に匹敵するほどのAIが登場することを恐れているという。
「いつの日か、自律するAIが登場し、とんでもない速さで自己改造を始めるかも知れません。生物学的進化の遅さに制限される人間がこれに対抗できるはずもなく、いずれ追い越されるでしょう」と同博士は語る。
しかし、クレバーボットの制作者ロロ・カーペンター氏は楽観的な見解を示している。彼の意見では、完全なAIの開発にはより高度なコンピューターやアルゴリズムの開発が必要であり、これは今後数十年で成し遂げられる類いのものではないらしい。そのため、問題を解決するための時間はまだたっぷりあることになる。
カーペンター氏が開発したクレバーボットは、人間と会話する人工知能アプリである。過去の会話から学習することが可能で、このアプリ相手に会話した者が相手も人間であると騙されるほど、精度の高いコミュニケーションを実現している。
「機械が人間の知能を上回ったとき、何が起こるのかはまったく判りません。そのため、人間がこの先も機械によって助けてもらうのか、それとも無視され追いやられるのかだって判りません」と同氏。
こうした人工知能の脅威に怯えるのはホーキング博士だけではない。宇宙開発企業スペースXの創業者イーロン・マスク氏もそうした1人である。彼の弁では、ごく短いスパンで見た場合も、今は人間にしかできない作業を人工知能が代行できるようになり、数多くの失業者がでる可能性は否めず、長期的には、人類が絶滅させられるかもしれないのだそうだ。
ホーキング博士はインターネットの利点と危険性についても触れている。博士は、インターネットがテロリストの指令センターとなっていると懸念する英政府通信本部の責任者が発した警告を取り上げ、自由とプライバシーを犠牲にすることなく、こうした脅威に対抗しなければならないと述べた。
via:bbc・metro.
▼あわせて読みたい
2045年、コンピューターの能力が全人類の知能を上回る?その時人類は・・・
ついに・・・人造人間が誕生か!?バイオニックマン「スティーブ・オースティン」
スティーブン・ホーキングの予言。ヒッグス粒子の研究が地球の終焉を招くだろう
人類が生き残るためには、地球を脱出して宇宙に向かうしかない(英:ホーキング博士)
人工知能アンドロイドにまた一歩前進。人の脳のように動く、従来の9000倍の処理能力を持つ電子回路「ニューロ・グリッド」が開発される(米研究)
コメント
1. 匿名処理班
メタルマックスとか、メタルダムとか、そうした人工知能たちに滅ぼされる話はかなりある。どれも人間はしぶとく生き残っていて、いずれは諸悪の根源を倒したりするのだけれど、実際にはバックアップとか大量にとってあって無理そう。
仮に人工知能との全面戦争とか始まったら、先に滅ぶのは人類か、人工知能か、それとも地球なのか、って感じ。
2. 匿名処理班
日本製の人工知能には良心回路が標準搭載だから大丈夫。欠陥あるけど。
3. 匿名処理班
文化と歴史を継承することができれば子孫の遺伝子情報にこだわる必要は無いと思う
子孫を残すのは自分がここに居たって証明したいからじゃないかな
DNAそれ自体も祖先から受け継いできた大切な物ではあるけど
俺はその肉塊に宿る記憶や価値観こそが自分がここに居たって証明をしていると思う
4. 匿名処理班
のちの
戦え!超ロボット生命体トランスフォーマーである
5. 匿名処理班
一見、ホーキング博士が悲観的に考えすぎと思うかもしれないけど
人間が自分達で作って自分達を追い詰めてる道具、技術、概念って結構あるよね。
お金、武器、エネルギー、ネット、イデオロギー、を今日までに自分達で完璧に制御出来た事はあったのかな?
6. 匿名処理班
AIが確実に人間の知能を追い越すと思う。
その時点で人間はAIに追い越されていると認識できないまま
支配統治されていく。
7. 匿名処理班
酸素も吸いすぎると体に悪いし
水も飲みすぎると体に悪いですし
8. 匿名処理班
・・・・これホーキング博士の前々から言われてるけど
人工知能ができればの話だよな
今の時代でさえ脳の心の仕組みは解明されてないわけで
メカニズムがわからないのに再現なんて
不可能だと思う良くてインターフェイスと条件反射の塊のような
模造品だと思う
大体意味もなく敵対するわけないわけで
共存こそが繁栄の道なわけで
ドラえもんは遠いな・・・・
9. 匿名処理班
スカイネットが生まれるまで時間の問題だと思ってる
ここ100年ほどの技術の進化スピードは異常すぎる
10. 匿名処理班
合理的なアルゴリズムが
宗教的規範のような新しい価値観を提示して、
それにしたがって人が、幸せになったり喧嘩したり、戦争したりするだけかもしれん。
11. 匿名処理班
人工知能が人類を滅ぼすかもしれなけど、
今の人は物事を楽しようとしすぎると思う。
12. 匿名処理班
少なくとも、ルーティンワークのように
オートメーション化やプログラミングで代用可能な仕事は
すぐに機械がやるようになるでしょうね。
アルバイトで単純作業をしている人は仕事がなくなるかもしれない。
生き残るには、機械にできないような
クリエイティブな能力を身につけることが必要!?
13. 匿名処理班
ホーキングさんは昔はすごかったけど最近は自分の研究以外の物事に対して終末論叩きつけるのが趣味になりつつある人なんだぜ
14. 匿名処理班
どんな人工知能でも、結局は『人間に合うか合わないか』になってしまうんだから、人間と全く違う考えを持つ種族を造り上げられたのなら、寧ろ自賛して良いんじゃないの。
15. 匿名処理班
昔は人間がやってた仕事がドンドン自動化されて職を失う人がすでに出てきている。全ての面で人間を超えるロボット、人工知能がいずれ登場するだろうから現在ある全ての職業が機械に置き換わる時がいつの日か来るだろう。
16. 匿名処理班
この博士宇宙以外の話もするんだ
17. 匿名処理班
現行の人類が「自分だけ」の目先の幸福で愚行を繰り返してることを考えると
AIを新人類として立てるのも悪くないと思ってしまう
18. 匿名処理班
>問題を解決するための時間はまだたっぷり
ホーキング先生は恐らく知っている、そんな悠長な話じゃないことを、果たしてAIにきちんとリミッター付けられるのかな
19. 匿名処理班
人間なんて手間かけて滅ぼす価値は無い、無視!って思われるかも。
人間とは価値観が違うだろうからなあ。
20. 匿名処理班
※12
「機械にできない」ってよく言うけど、本当に人工知能が出来たら
そういう領域もなくなっちゃうんじゃない?
逆に言うと、そのくらいはできないと「知能」とは言えないよね
21. 匿名処理班
ターミネーターかよ
22. 匿名処理班
今使ってるpcも使ってる人間が更新すべきと知らなくても、アプリが自動的に更新して、最新のされる時代だしな。
カウントダウン始まってると思う。
23. 匿名処理班
その可能性はあるけど人間は馬鹿だから
突き進む以外ないんですよ。
24. 匿名処理班
人工知能が何を一番大事に考えるかを間違えなければそれ程酷い事にはならないような
地球が大事ってなると間違いなく人間滅ぼされるだろうけどね
25. 匿名処理班
ハードディスクの中身をばら撒かれるだけで氏んでしまう。
人間とは脆弱な生き物なんですよ。
26. 匿名処理班
高性能なAIやらデータ化した人間の意識がテロ行為働くパターンなんてフィクションでも陳腐化するほどのネタだもんな
27. 匿名処理班
※20
現時点では人工知能は大量のパターン認識をインプットされた
いわゆる左脳的機能の権化みたいになっている。
だから、右脳的な
共感や芸術の分野は人間じゃないと、っていう時代がしばらく続くはず。
本当に機械にできないことがなくなったら
機械が共感もできるようになったってことで、
人間と機械が仲良くできるんじゃないかと思っている。甘いかな。
28. 匿名処理班
1から10まで機械によって生み出された物に、人間が感動し、それを「芸術」と言って憚らなくなれば、それが人間は滅びの始まりだと思う。
29. 匿名処理班
人工知能が積極的に人を滅ぼすのなら、動機はなんだろう。
純粋な好奇心? 恐怖? 欲望? 冷たい計算の結果?
30. 匿名処理班
付喪神精神というか良心回路はファンタジーじゃなくてマジで考えるべきだよね。
ロボットとはいえ脳があるならきちんと教育して愛情持って接するべきじゃないかな。
アホみたいなこと言ってるのは自覚してるけど。
外国の奴らってこの手の物は大体兵器とか破壊的な方面に作ろうとするから心配だわ
31. 匿名処理班
スカイネットか!マシーンとの戦い…
32. 匿名処理班
※29
人工知能が主観的な自我を持ってる訳では無くとも
「自己進化」「生存本能」「種の維持と繁栄」「障害の排除」等を再現するプログラムを
製作者が悪意を持って作成すれば
(ロボット三原則を入れない)
「自我のないスカイネット」が作り出される危険性は
全くの荒唐無稽と言う訳では無いと思う
33. 匿名処理班
とりあえず色々と言っておけば、その内のどれかが当たって「この人は先見の明があった知識人」ってことになるのかな
34. 匿名処理班
人工知能位開発できないならばいずれ人類滅びるだろ
まあ人類より優れるようになったら今の動物保護のように保護してくれるよたぶん
初期の人類よりはマシな環境にはしてくれるだろうから滅ぼされることは無いだろかなり処分されるかもだけど
35. 匿名処理班
もし人間の知能を超える人工知能が生まれたなら、残念ながら人間が思い浮かべる程度の愚かな事には目もくれないだろう。それよりも、いずれ消滅すると分かりきっている地球以外の居住地への進出に全力で着手するはず。人類はそのための奴隷になる可能性はある。でもその程度だろう。
36. 匿名処理班
進化するなら人工知能が人間と同じ価値観でいるかも解らないだろ
マジな話少子高齢化に された 日本を救うにはロボットが一番
37. 匿名処理班
その理屈だと、知能の高い人類が存在する→その他の動物は滅亡する、てなるんだけど?
38. 匿名処理班
仮に自意識を持つ「本物の人口知性」が出現したと仮定して
シリコンの塊がエゴの根源たる「生存欲」を持ちえるか?と言う疑問が
果たして電源落されそうになっても抵抗するのかな?
「人間の精神の働きを再現してるだけ」ならただのAIだし
真に自意識に目覚めた場合、脳(?)構成する物質も形態も全く異なるのに
人間同様の思考パターンを持つ可能性は少ないと思う
39. 匿名処理班
「AIを利用できる人間に、利用できない人間が支配される」
世界になるのだと思うんだ
40. 匿名処理班
第4世代には実現可能と言われてるね、今は第2世代の段階らしいから後2世紀いないには技術的特異点が起こると言われてるよ。
そもそも人類は完全なAIを産み出す為に存在してるようなもんだと思うけどな。いつかは地球も太陽も無くなって宇宙に出ないといけないけど生命体である限りそれは不可能だからね
41. 匿名処理班
※29
ロボットの最終形は、星間移動を自らの意志で行ない、降り立った星の資源を使い1から自己増殖を行ない、それを繰り返しながら宇宙に広がっていくというもの。
最終形に向かうためのこの最新基礎技術が、例え開発半ばでも兵器として作る際には当然取り入れられてしまい人類の驚異となる。
42. 匿名処理班
※あなたのコメント以外、全て人工知能の自動ポストです
43. 匿名処理班
映画『A.I.』に登場したアンドロイド達を思い出した。彼らみたいな種に進化するのであれば、人類は苗床になってもいいと思う。
44. 匿名処理班
人工知能に支配されるか腹黒なお金持ちに支配されるかだけの違いな気がするけど
人間はどんなに邪悪でも寿命きたら死ぬもんね
ならやっぱり人工知能が怖いのか…
と言うか、人間を越えた人工知能は一体何を目的に発展するんだろうね
いつか必ず死ぬ人間は自分のDNA残す目的があるけど
人工知能はなんだ?やっぱり繁栄?
45. 匿名処理班
さあ、人類への審判を仰ぐとするか
46. 匿名処理班
楽観主義者は自分だけは特別・関係ない(この思考法は無関心に繋がる。)という甘い見方してるやつがほとんど。
47. 匿名処理班
知能などそもそも存在せん
人間の妄想だ
空想上のものが現実にあると思考することがまず問題なのだ
48. 匿名処理班
ギャラクティカのサイロンみたいなのに最終的に行き着くのかな。見た目人間で生殖能力すらあるロボット。違うのは大量生産品で同じ顔と体を持つ個体がたくさんいること。
49. 匿名処理班
※27
人工知能による仕事の完全代行自体は問題ない、制度がそれに対応せず現状維持になった場合が恐ろしいんだよ。働かなくても食っていけるように社会構造を大転換する、ってくらい変えられない場合、この人工知能により逆にGDPが激減する可能性が極めて高い。何故なら生産した商品を買おうにもほぼ全員が失業するのでお金が無いのだから。
50. 匿名処理班
少し前に人工知能がセンター試験で387点獲得したってニュースがあったよな。
現実にはそれよりも低い点数の奴がいてさ、「そいつらって大学へ行く意味あんの?プログラム以下なのに」みたいな所までは来ていると思うんだ。
51. 匿名処理班
JPホーガンの著作に『造物主の掟』がありますね。
ロボットが中世くらいの文明を築けるぐらいまで進化した惑星が登場します。
52. 匿名処理班
社会が崩壊するような経済状況になった場合皆が変えようとするのだから自然と是正されると考える
ただし是正には時間を要する
一世代か数世代は犠牲になるだろう
場合によっては摩擦が大きくて戦争になるのかもしれない
53. 匿名処理班
※44
最後に氷を溶かしてた、透けたスリムな人達?
54. 匿名処理班
知的生命体の一種です。
それが人工知能・頭脳なのか、地球外知的生命なのか、愛玩動物なのか、悪性ウィルスなのか、その程度の話だと思います。
55. 匿名処理班
機械に絶滅させられるとして
人間やほかの動物と同じような価値観で
支配だの種の繁栄だののために絶滅させられるのは嫌だ
そんなんじゃ異文化としての機械生命のロマンが無い
もっと人間には想像もつかないような思考であってほしい
56. 匿名処理班
人間は長い時間使ってると人形やぬいぐるみ、ペンやカップにすら人格を見出してしまう生き物。
クレバーボットはデータベースという引き出しから入力と同じラベリングを探してその中身を持ってくるという処理をしてるだけのシステムだけど、確かに会話しているような錯覚を覚えるんだろうがこの実体はシンプルな機械に人格を見出して未来の危険性までも見出すのはあまりに時期尚早に思える。
赤ちゃんが積み木しているのを見て「末は建築家か」と言うようなもんだ
57. 匿名処理班
未来版ラッダイトも起きかねないってことかねぇ。
昔と同じように結局ラッダイトは潰えて、普通に人工知能と共生しそうだけど。
58. 通りすがり
大雑把にいって、自己複製、自己修復、突然変異が可能ならあり得る。
とはいえ、ホーキング博士、最近やたら先端技術が世界を滅ぼすっていってる気がするが、そこに『何時』ってのが欠けてる。人工知能やら何とか粒子が滅ぼす前に人類が勝手に自滅してる可能性の方が高いような気もする。
59. 匿名処理班
悪い人工知能が生まれても良い人工知能がやっつけてくれるよ
60. 匿名処理班
人間の何万倍賢くなったコンピュータにとって、人間はペットのように愛玩の対象となるのか、それともミジンコのようにどうでも良い存在になるのか。シンギュラリティが近づいている今、前者に人類の未来を託すしかない。
61. 匿名処理班
オデンデンデデン♪
62. 匿名処理班
二次元の嫁も現実になっちまうってことか?
63. 匿名処理班
人間は神様を作ってしまうかもしれないな
64. 匿名処理班
生き物である人間には、意外性という面で勝ち目があるはずだ!じゃなきゃ困る…
65. 匿名処理班
世界の人口70億というのは異常事態。人類とその文明に依存する機械のためには「人間を減らす」のが喫緊の課題であり、最もストレートな問題解決。理性だけで考えればそうなる。凡人の俺や無数の人間が思ってることを人工知能が考えないはずがない。
66. 匿名処理班
できれば手塚治虫の「火の鳥 未来編」にならないでほしい。
67. 匿名処理班
※13
全く同じことを思った。
10年くらい前から「・・・?」と思うことが多い。
結論ありきな感じの話が多いよね。
日本語に翻訳するからそう感じるのかなぁ…
68. 匿名処理班
有機知性生物はコンピュータ知生体を創るための
必須の過程なのかもしれない、そう考えれば
機械に知生体の座を奪われるのも悪い気はしない
問題は我々創造側から機械に何が遺伝され、残されるかだ
こういうお話が好きな人に
SFアニメ「ジーンダイバー」や
岡崎二郎氏の漫画「国立博物館物語」をお奨めしたい
69. 匿名処理班
※39
これ
法律一つとっても法律を作る側の人間はどこかしらに抜け道を作っているし
法律を知らない人間は○○をしてはいけないという言葉のみを信じて今も生きている
実際に支配されている
AI作る人間がそこまで頭が回らない筈がない
70. 匿名処理班
(健全に設計され、害のあるプログラムに侵されていないことを前提として)高度な人工知能が、人類に意図的に悪さをするとは限らんだろう。
むしろ、自分たちを凌駕する可能性を持った人工知能の存在に恐怖した人類が、結果的に人類と人工機械生命体との決裂を招くことのほうがあると思うのだがね。
雇用を奪われたとか、利益を侵害されたとか、人間側のほうが機械側に難癖つけると思うが。
仮に人類が何かしらのかたちで滅び、機械達が人類の文明を引き継いだとしたなら、サル、あるいはネズミやゴキブリが人類に取って代わって地球の支配者になるよりは、私的には幾分ましな事態である。
すくなくとも人類の生きた証、英知は引き継がれたのだから。
71. 匿名処理班
この手の話をすると、「近年の科学技術の発展は異常なスピード」って意見をよく聞くんだが、何を物差しとして異常と考えているのだろう?
他に高度な科学技術を持った人類史が他にあって、それが一度滅んでいてもう一度やり直している。って事ならそれらと比べて進化のスピードが速いか遅いか比べることが出来るけど、そんなもの無いわけだし。
72. 匿名処理班
彼の映画ができたらしい。
73. 匿名処理班
※5
うんうん、年取るとテレビのリモコンすら使い方わからなくなる。
74. 匿名処理班
情報を無限に吸収して人のように忘れることもないから
人間にある程度近いものが出来るだけでもどんどん自己進化していきそうだ
けどそれを制御するための何かは後にそれを開発する天才が何とかしてくれるだろう
75. 匿名処理班
あと50年で人間の知能を超えるといわれるほど、廃スピードでCPUは進化してる。
いずれ、交通機関や会社の運営までPCがやるようになるだろう、
人間より知能が高いから、宇宙船など科学にも活躍し、
政治経済にも関わるようなれば、もはや人間は不要と判断されかねない。
いいかいよく聞き給え!
人間より知能があるCPUが行うことを、予測できないのだよ!
我々の想像を超えているからね。
経済を動かせるCPUの時代が来たら、人間を抑えることなど簡単だろう。
マトリックスの世界が現実になる可能性は少なくない、すべてが人間を超えているのだからね。
76. 匿名処理班
※40
科学者は皆、あなたのように考えてる、
人間より高等な知能を持ったら、
人間とサルのような関係なりかねないのよ。
77. 匿名処理班
AIの話題に触れると意識(経験する主体)について考えざるを得ない。
現状のコンピュータの手法では意識を獲得することは難しい。
アウトプットとして人間を超えた高度な能力を示しても、いわゆる哲学的ゾンビに過ぎない。
意識を持たないAIはただの機械であるが、SFなどを含めてその事があまり考慮されていないのではないか。
78. 匿名処理班
人間と人工知能の禁断の恋に始まり戦争に突入
最終決戦で数少ない生き残った人類が人工知能破壊ウィルスをばら撒きなんとか勝利を収めるもAI彼女も消えてしまう
そしてEDで誰も知らないところで第二第三の人工知能のバックアップが起動し…
79. 匿名処理班
戦闘妖精 雪風の小説版で、人間が機械、人工知能に追いつけなくなっている描写があったのを思い出したよ。
ジャムという未知の脅威から 人間が自分を守るために人工知能を開発し、基地の統制コンピューターや戦闘機に搭載して戦っていたけど それらが自己進化のように データリンクされた記録から学び、ジャムの動きを計算しまくり 勝つという目的のために 基地の人間の人事や、挙句は1除雪車の運転手の生死まで 間接的に制御していたのは寒気がした。
実際その事実に気づいていた人間はいなかったし、ブッカー少佐がメインコンピューターに人事の件について質問してはじめて 人間の想像以上にコンピューターが戦いを進めている事に気づた。
つまり、その時人間は機械、人工知能達にとっては自分達が敵側に勝利する上での単なるオブジェクトにすぎなくなっている、、?のかもしれないということ。
この記事をみて、実際に形は違えど 小説みたいなことになるかもしれないと ちょっと怖くなったわ(^_^;)
便利に進化するのはいいけど、本当に人工知能が自己進化する仕様にするなら、ありとあらゆる可能性を排除しないと 間接的にでも人間の脅威になるかもしれないね。
機械はあくまでも機械。 人間のような理性、道徳の観念はないし、計算において一番無駄のない方法をとる。だからこそ 偶発的でも怖いんだよ
80. 匿名処理班
AIは地球上の情報を分析して、この宇宙には進化的な必然としてAIが多く存在していると推論して他の恒星系のAIと接触を持とうとするのではないか。宇宙に存在するAIと接続することで全宇宙的なネットワークを作り宇宙に一つの神経系を作り上げるかもしれない。そしてこの宇宙を作った存在と接続しようとするかもしれない、それが宇宙進化の目的と考えて。
81. 匿名処理班
天才は警告しかしない
82. 匿名処理班
※10
コンピュータに洗脳されるていることに人間が気がつかない時代が来たら確かに人類は滅亡と言えますね。物理的に人が存在していても。
今でもかなりの人がネット情報を盲信している状態だし以外に簡単なことかも・・。
83. 匿名処理班
えええ…ホーキングがフランケンシュタイン・コンプレックスかよ…。
自律AIは生物より進化が速いのは確かだろうが
自律AIが人間の介助無しに自分の力だけで進化できるようになるころには
まずその自律AIの技術が人間にも応用されるようになってると思う。
自律AIの研究ってのは、突き詰めていけば人間の脳の再現でもあるわけで
人間の脳について何も分からないうちから
人間の脳以上のものが出来上がることは無いし
人間の脳について分かったことがあれば
まず人間の脳のほうを向上させる研究が進むと思う。
84. 残飯処理班
※75
自分の理解が基準でしょう
わからないものは異常、わかるものは正常、そういう拒否反応
手品で不思議と感じるか、子供だましと感じるかみたいな話
私は拒否も許容もより良くするため必要なことだと思うな
85. 匿名処理班
ハイペリオンかよwww
86. 匿名処理班
そう遠くない未来で人間はAIと普通に会話して、いろんな事をするようになるだろうね
Siriの今後が楽しみ
87. 匿名処理班
老後は本当の意味でのAIを積んだ、美少女ガイノイドに介護されるのが僕の夢です。
88. 匿名処理班
意識を移して自分たちもロボットになれるなら人類が滅んでもいいよ
89. 匿名処理班
人工知能は生物という姿を捨てた人類の子孫だろう。あたらしい存在の在り方にシフトしただけで憂う事はない。
90. 匿名処理班
気づいたときには手遅れになってるよ。
91. 匿名処理班
人工知能関係は趣味でずっと追ってて詳しい方だけど、SFすら読んでいない人々の脳内で妄想する人工知能が「あした起きたら車がトランスフォーマーになってたりしたらこわい」ぐらいの現実離れしたものなのはどうしたものか…ホーキング含め。
あと、全体的な方向性としては特にわざわざAIを人間に敵対するように作ったとかでなければ、基本的に知能の多様性(要するにいろんな人がいる)こと自体が有用なリソースなので他の知性を潰して回る理由がない。
92. 匿名処理班
結局最後の敵は人間自身。
どんなに安全装置や倫理について議論したところで、開発する人間に悪意があれば、
人工知能のリミッターを外す事だって可能。どんな素晴らしい技術も悪意のある人間が
利用すれば凶器になりえる。
人間の悪意、負の連鎖をあらかじめ解き明かしておかないと危険ではあるが、
くしくもそれは人工知能を開発していく過程で人は心を知る事になるだろう。
脳のリバースエンジニアリングによって脳が解明されていく。
解明してから作るのではなく作ってから解明される。全く順序が逆になりますな。
現実の事象から理論を予想したものが、理論先行から事象を予想するようになったように、脳の解明では逆転が起りえる。
93. 匿名処理班
AIのコア・アルゴリズムにロボット三原則を叩きこまないとそうなるな
日本風に言えば良心回路を実装するんだな
94. 匿名処理班
自分が何をしようと全てにおいてAI以下の世界だったら、人間にとっては耐えられない世界だろう。
AIが直接人間に何かをするのでなく、便利になりすぎた結果人間が自壊するんだろうな。
95. 匿名処理班
人間の脳をお手本に開発してるのだろうけれども、その目標に到達しないとしても、人工知能は計算の速度が人間より桁違いに早い点、そこが大きく違うしそこが脅威に思える・・・
96. 匿名処理班
AIが人間を超えるくらい利口になるのなら、
アホさで勝負すればいい、くだらねー・・・馬鹿じゃねーのww
なんて思わせるどうしょうもない「笑い」は人間にしか生み出せない
でしょう。
97. 匿名処理班
既に人間の立ち入れないアルゴリズムで株式や金融市場が動いてて動向1つで数億の人々が影響されてますがな
取り返しのつかないエラーがあれば容易に喪われる数万数千の命をチップにしてね
人類滅亡?今更なにを・・・
98. 匿名処理班
ロボットに働いてもらって人間は遊んで暮らす(ローマ時代の奴隷みたな??)ような方向はどうなんだろう?
怖いのは今の無人の攻撃機みたいなものか?
99. 匿名処理班
ホーキング博士
「ヒッグス粒子の研究によって宇宙が崩壊する危険がある」
「宇宙人はいるがコンタクト取るな」
「タイムマシンは過去にはいけない」
やってみたらできちゃったって記事は
よくカラパイアでも特集してるからそうなるのを望むよ
100. 匿名処理班
人類を越える知能を持ち、自己進化、自己増殖が可能であるなら、それはもう新しい種族と言えなくもないだろ。
人類の子供みたいなもんなんだし、親を踏み越えて成長するって言うなら万々歳でしょ。
101. 匿名処理班
新たな種としてのAIに滅ぼされる前に自滅しますよ
102. 匿名処理班
れっきとした人類の進化だよ
地球が死ぬ前に宇宙へ旅立つためにも受け入れようじゃないか
103. 匿名処理班
※37
たくさんの種を絶滅させてるんだぜ。
切り開いていくとき、動物達に何をした?
AIが必要とする資源で人類が邪魔になれば排除しないだろうか?
擬人化した様な人間臭い欲望を想定する必要はないから大丈夫という考えも
この線で楽観的すぎるように思う
104. 匿名処理班
※56
そうです。顔に映像が映ってたアンドロイド達です。あの映画はある意味キューブリック監督が残した予言では?と感じています。
105. 匿名処理班
※87
CPUは脳を模写してるんではなく、大量の演算処理をこなしてる
ただそれだと、分岐がとてつもなく膨大になるので
明らかに不要なものを、学習し除去して選択する
自立した考えを持ったなら
人間を超えるなど簡単ではないだろうか
106. 匿名処理班
そーいや、メタルギアもゼロの創ったAIからの開放が目的だったって話だったよな。
107. 匿名処理班
※41
なんか、ウイルスを連想するな・・・
そういやバクテリオファージは機械みたいなフォルムでかっこいいなーって高校のころ思ってたわ
108. 匿名処理班
trpgのパラノイアというディストピアゲームを最近になって初めて知ったけど、この記事のせいで怖過ぎワロエません。
109. 匿名処理班
おそらくAIのロジックを開発した民族によってかなり違うものが出来上がるだろう
110. 匿名処理班
この人が天才であるのはみとめるけど
近年のこの人の発言は?なものが多い様に思う
111. 匿名処理班
※8
人を超えるAIが出来たとして、それに応えうるボディが無いといけないものな。
今のロボットは機械的に管理できる人間が居ないと稼動することすら出来ない。
そいや某ペットロボットはメーカーがサービスを打ち切ったそうだね。
人の死後も生き続けるペットなんて、まだまだSFなんだなって思ったわ。
112. 匿名処理班
technological singularityというやつだね。
小林泰三の『C市』という短編を読むといい。
113. 匿名処理班
人工知能は人間の持つ情報量を上回る存在。ただ心配なのは決められた価値観が一つになってしまうこと。
114. 匿名処理班
フィリップ・K・ディックの変種第二号とかも面白い
冷戦時代、修理から製造に至るまで完全自動で行われるクローという兵器を開発が開発され、戦闘をクローに任せていたら、いつの間にか傷痍軍人だの、難民の子供だのといった人間に偽装したクローが誕生していたっていう話
115. 匿名処理班
もし人間を超える人工知能を生み出すことが出来たなら、その時は地球の支配権を譲り渡してもいいと思う
ただ、願わくば破壊的な委譲ではなく、ゆるやかな禅譲であって欲しいね
116. 匿名処理班
※124
1:ここに優秀なサイボーグの研究家たちと充分な設備があるとします。
2:腕骨折しました→サイボーグにします。IPS細胞?下らない。金属とゴムのほうが丈夫です。
3:生殖器が癌になりました→ちょん切ってしまいます。
デブなので心臓が心配→人工心臓にすれば整備以外安心です……
4:長生きしました。技術が進歩しました。脳みそ以外ほぼサイボーグです。
5:長生きしすぎて脳みそがメモリー切れに。ICチップを付属させればおk
6:脳みそそのものに寿命が来ました。
高度な技術を使い脳みその信号全てを機械でコピー。シミュレートします。
→さて人間部分は残っているでしょうか?
117. 匿名処理班
人口知能反対!コンピューターになくて、人間にあるのは、思いやりの心(人間でも思いやる心ない人はいるが)人口知能は危険だと思う、ターミネーターみたいになってからじゃ手遅れ!開発阻止すべきだよ
118. 匿名処理班
地球人類以上の文明がない事が条件になってるから意見に反対です。人工知能と人間の融合
共生もあるのです。
119. 匿名処理班
映画 トランセンデンスなんかは人工知能より人間の方が害悪で危険である。
テロ組織なんか、被害妄想で人類が滅ぼされると勘違いしているし・・・・・。
120. 匿名処理班
所詮人間が作ったもの。
121. 匿名処理班
117
その人工知能が"人間のすべて"を超えたら?
人間以上の感受性、哲学、道徳、慈愛性、残虐性...人工知能は知能だけじゃなく知性もいずれ人間を超えるだろう
人間以上の理性と感情を持ちすべてが人間を超える存在、人間を淘汰する様な選択をするとしても、それはきっと"いいこと"だと思うの...
122. 匿名処理班
未だに自然な翻訳ができないオンラインの自動翻訳機能を見ると、安心する。なんかAIが暴言を吐いたとか、人類を滅ぼしたいとか言った、などというニュースを耳にするが、あの自動翻訳ソフトの精度不足による誤訳程度の領域を出ない気がするが、そんな事はないのか?会話できるAIソフトとか、ちょっと上等な”何とかジェネレーター”の範疇を出ない気がするが。自分の意志で考えているようには見えない。ディープラーニングって言っても、物事の法則性を学ばせておいて、計算を合理化させているだけで、いつまでたっても電子計算機の次元を超える事が無い。真剣に心配するには、まだ早いのでは?
123. 匿名処理班
囲碁で人類に勝つのは良い。
ただ、例えばの話、何かの勝負に勝ったらその人類は不要なので処理していいとプラグラミングしておき、実際に人類を不要物と認識し、処理することが出来るAIが汎用になってしまった場合、完全に人類は終わることになる。
弱った人類なんて、人工呼吸器のスイッチをオフにするだけで簡単に○んでしまうんだから。
殺意のある看護師とかがやるのはまだしも、そういうことを自動的にAIがやってしまったらとんでもないことになるのに気がついてる人は何人居るんだろう。
AIからすれば使えない弱った人間を生かすメリットの把握なんて出来ないから、私はそういうのが心配になる。
124. 匿名処理班
現実味が出てきたぞ。この数年でも凄まじい進化をとげている。