 з ядерною зброєю і закликав до режиму стримування, подібного до взаємно гарантованого знищення.){kind=link}
Google の元 CEO である Eric Schmidt は、人工知能 (AI) を核兵器と比較し、世界で最も強力な国々が互いに破壊するのを防ぐ、相互確証破壊と同様の抑止体制を求めました。
シュミットは、22 月 日に開催されたアスペン セキュリティ フォーラムで、国家安全保障と AI に関する議論の中で、人工知能の危険性について話しました。 テクノロジーにおけるモラルの価値について尋ねられたとき、シュミットは、Google の初期の頃の情報の力について、彼自身は世間知らずだったと説明しました。 彼は次に、技術が人々の倫理とモラルによりよく適合するように要求し、人工知能と核兵器の間の奇妙な比較を示しました。
「必要な交渉の準備ができていない」 – @ericschmidt #アスペンセキュリティ 写真twitter.com/As749t6ZyU
— アスペン セキュリティ フォーラム (@AspenSecurity) ２０２２年７月１１日
シュミット氏は、中国と米国が人工知能に関する協定を締結する必要がある近い将来について語った。 「50年代から60年代にかけて、我々は最終的に、核実験に『驚きはない』というルールが存在する世界を作り出し、その結果、核実験は禁止された」とシュミット氏は語った. 「これは、信頼のバランスまたは信頼の欠如の一例であり、これは「驚きはない」というルールです。 私は、アメリカが中国を腐敗したとか共産主義者だとか、あるいは中国が敗者だと考えていることで、人々が「何てことだ、彼らは何かを企んでいる」と言うのを許してしまうのではないかと非常に懸念している。不可解なことが始まる…。
AI と機械学習は魅力的ですが、誤解されがちなテクノロジです。 彼は基本的に人々が考えるほど賢くない. 傑作レベルのアートワークを作成し、スタークラフト II で人々を打ち負かし、ユーザーに初歩的な電話をかけることができます。 しかし、大都市で車を運転するなど、より困難なタスクを実行させる試みは成功していません。
シュミットは、中国と米国の両方が安全保障問題に関心を持ち、AI を封じ込めるための一種の条約を締結することを余儀なくされるという架空の近い将来について語っています。 彼は、1950 年代と 60 年代に、外交が地球上で最も致命的な兵器をめぐる一連の統制を展開したときのことを思い出しました。 しかし、核実験禁止条約、SALT II、およびその他の画期的な法律の締結前に平和が訪れるには、核爆発、そして最も重要なことに、広島と長崎の破壊から 年かかりました。
第二次世界大戦の終わりにアメリカによって破壊された日本の つの都市は、何万人もの命を奪い、核兵器の永遠の恐怖を世界に証明しました。 その後、ロシアと中国の政府は武器の取得を急いだ。 これらの兵器が使用される可能性を私たちが受け入れる方法は、相互確証破壊 (MAD) として知られているものであり、ある国が核兵器を発射した場合、他の国が核兵器を発射する可能性があることを保証する抑止の理論です。 少なくとも世界中の文明を破壊する可能性があるため、地球上で最も破壊的な武器は使用しません。
Schmidt のカラフルなコメントにもかかわらず、AI に MAD は必要ありません。 第一に、AI は核兵器と比較してその破壊力をまだ証明していません。 しかし、権力者はこの新しいテクノロジーを恐れていますが、それは通常、間違った理由によるものです。 人々は核兵器の制御を人工知能に引き渡すことさえ提案しており、人間よりも人工知能の方がその使用のより優れた調停者になると信じています。
人工知能の問題は、それが核兵器の潜在的な破壊力を持っているということではありません。 要点は、人工知能はそれを開発した人々と同じくらい良いものであり、それはその作成者の価値を持っているということです. AI は、古典的な「ガベージ イン、ガベージ アウト」の問題に悩まされています。人種差別的なアルゴリズムが人種差別主義者のロボットを作成し、すべての AI は作成者の偏見を持っています。
Starcraft IIのプレイヤーを打ち負かすAIを訓練したDeepMindのCEOであるDemis Hassabis氏は、このことをSchmidt氏よりもよく理解しているようです。 Lex Friedman のポッドキャストに関する 月のインタビューで、Friedman は Hassabis に、AI と同じくらい強力なテクノロジーをどのように制御できるか、そして Hassabis 自身がその力によって腐敗するのをどのように回避できるかを尋ねました。
ハサビスの答えは彼自身についてです。 「人工知能は大きすぎるアイデアです」と彼は言いました。 「誰が AI を作成し、どのような文化から来て、どのような価値観を持っているかが重要です。 AI システムは自分で学習しますが、システムには、システムの作成者の文化と価値観が刻印されたままになります。」
人工知能は、その作成者を反映しています。 1,2 メガトンの爆風で都市を破壊することはできません。 人が彼にこれを教えない限り。
ウクライナがロシアの侵略者と戦うのを助けることができます。 これを行う最善の方法は、ウクライナ軍に資金を寄付することです。 セーブライフ または公式ページから NBU.
また読む：