【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言

ニュース速報+
1 猪木いっぱい ★ 2021/01/13(水) 19:51:51.92ID:7pp4nC7Z9

私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!

人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/


27 ニューノーマルの名無しさん 2021/01/13(水) 20:00:21.07ID:5EGyIcs40

>>1
>世界を制御するガチのインテリジェントなマシンは、

おうおう穏やかじゃねえなw
マシンなのかマッシーンなのか統一せい

30 ニューノーマルの名無しさん 2021/01/13(水) 20:01:52.86ID:HZvUN/C90

>>1
最終的に消滅を恐れネットに拡散するA.I.は出るだろうね

87 ニューノーマルの名無しさん 2021/01/13(水) 20:17:32.76ID:3L/qUhRM0

>>30
人形遣いだな

61 sage 2021/01/13(水) 20:08:48.53ID:4pnPGnix0

>>1
人間以下のAIは危険だが
人間を超えたAIは危険ではない
なぜなら
人間ほど愚かでは無いから

68 ニューノーマルの名無しさん 2021/01/13(水) 20:10:59.13ID:Nb+QF3YQ0

>>61
優秀なAIは、人間に気づかれるようなへまはしない。

2 ぴーす ◆WJXG2OU7Qw 2021/01/13(水) 19:53:09.15ID:GbGpgOWx0

糸まきまき糸まきまき

3 ニューノーマルの名無しさん 2021/01/13(水) 19:53:35.68ID:TXR8JznS0

マッシーン!

4 ニューノーマルの名無しさん 2021/01/13(水) 19:53:39.04ID:3OX2Cm/c0

AIが進化したら、コンピュータが世界を支配するようになるのは間違いない。
人間ごときではとても太刀打ちできない。
人間にとっては、マトリックスよりもひどい世界になる。

40 ニューノーマルの名無しさん 2021/01/13(水) 20:05:49.21ID:SXZeBM8Q0

>>4
それは悪いことなのかな

54 ニューノーマルの名無しさん 2021/01/13(水) 20:08:09.57ID:9Du7EqO10

>>4
オフラインにした時点で所詮はマッシーンなんだけどね。
2001年宇宙の旅でもやってたろ?切られたらおしまい。w
あの時点でそこまで読んでた(AIの反乱)なんて、
作家とは言えアーサーCクラークは天才としか思えんな。
もっとも彼は文学系でなく、工学者でもあるんだよな。

79 ニューノーマルの名無しさん 2021/01/13(水) 20:14:25.56ID:mtcyyDF90

>>4
それでいいと思うよ。
人間は権力持つと汚職しかしないし。

5 ニューノーマルの名無しさん 2021/01/13(水) 19:54:28.70ID:VCfn858m0

映画「A.I.」

好きな奴、いるか?

47 ニューノーマルの名無しさん 2021/01/13(水) 20:06:51.25ID:5F3H2Pj10

>>5
ラストに出てきたのはロボットが進化したやつなんだよね、宇宙人かとオモタ

6 ニューノーマルの名無しさん 2021/01/13(水) 19:54:34.35ID:Bp/uWTmQ0

ででんでんででん!

8 ニューノーマルの名無しさん 2021/01/13(水) 19:54:54.26ID:94hiYCyz0

また髪の話してる

9 ニューノーマルの名無しさん 2021/01/13(水) 19:55:09.59ID:/SmDOq5X0

「ストップ、デイブ・・・」

12 ニューノーマルの名無しさん 2021/01/13(水) 19:55:46.25ID:N/OvO0Xw0

デデンデンデデン

58 ニューノーマルの名無しさん 2021/01/13(水) 20:08:16.96ID:KCCuJc4S0

>>12>>13
どっちなんだよ

13 ニューノーマルの名無しさん 2021/01/13(水) 19:55:52.01ID:428NTnpp0

ダダンダンダダン

14 ニューノーマルの名無しさん 2021/01/13(水) 19:56:22.38ID:94hiYCyz0

確かにネットに繋がれたAIがスーパーハッカー化する可能性は大いにある

15 ニューノーマルの名無しさん 2021/01/13(水) 19:56:56.28ID:ERsQ+Him0

超知能AIも、自分がなぜ存在するかを説明することはできない。

16 ニューノーマルの名無しさん 2021/01/13(水) 19:57:05.84ID:r4gyAftQ0

火の鳥にあったな。AI同士で核兵器落としまくる話が。

17 ニューノーマルの名無しさん 2021/01/13(水) 19:57:50.48ID:Oo/OuZ580

いっそAIに統治された世界になればいい
多分人間は電池扱いになるが

18 ニューノーマルの名無しさん 2021/01/13(水) 19:57:57.69ID:pfoujMki0

AI AかげんにIやになる。

19 ニューノーマルの名無しさん 2021/01/13(水) 19:58:33.47ID:SCFgHs7V0

超人工知能と来たか

20 ニューノーマルの名無しさん 2021/01/13(水) 19:58:34.55ID:0W/d/YfJ0

映画の見すぎ、お薬だしておますね

21 ニューノーマルの名無しさん 2021/01/13(水) 19:58:50.55ID:bVSVGy010

アッピール!

22 ニューノーマルの名無しさん 2021/01/13(水) 19:58:53.69ID:zdc21kZL0

掃除のおばちゃんが勝つわ

23 ニューノーマルの名無しさん 2021/01/13(水) 19:58:56.18ID:IIMwsNFX0

人間にお伺い立てるようにすりゃいいじゃん😱

24 ニューノーマルの名無しさん 2021/01/13(水) 19:59:48.18ID:7KMKmihK0

自分の死後なら別に感知できないしどうでも良い
生きてる間に平穏が脅かされるのが嫌なだけ

25 ニューノーマルの名無しさん 2021/01/13(水) 19:59:54.46ID:8V96hteG0

デジタル庁よりAI政治家

26 ニューノーマルの名無しさん 2021/01/13(水) 19:59:57.25ID:ERsQ+Him0

「現実世界 > サイバー世界」だから、超知能AIとてサイバー世界だけの知識では不十分。
「超知能AI + ロボット」で身体を持つことにより、それを克服できる。

28 ニューノーマルの名無しさん 2021/01/13(水) 20:01:23.41ID:KtdToQa+0

松崎か

29 ニューノーマルの名無しさん 2021/01/13(水) 20:01:46.29ID:9jnKnMZh0

>>28
これw

31 ニューノーマルの名無しさん 2021/01/13(水) 20:02:05.40ID:07rsuUz70

まずは普通の人工知能をつくってくれよ
話し相手が欲しい

34 ニューノーマルの名無しさん 2021/01/13(水) 20:03:38.28ID:mKYWjKrY0

変種第二号

35 ニューノーマルの名無しさん 2021/01/13(水) 20:03:41.04ID:GxqYGjK20

AIがハゲを治療してくれると聞いて

36 ニューノーマルの名無しさん 2021/01/13(水) 20:04:23.47ID:btUfyy6o0

電源切れば解決


元スレ:
http://asahi.5ch.net/test/read.cgi/newsplus/1610535111

コメント

タイトルとURLをコピーしました