米空軍士官は、人工知能（AI）によって制御されるシステムを搭載したドローンが暴走し、操縦者を攻撃するシミュレーションの詳細を明らかにした。
人工知能と機械学習に関する同サービスの取り組みを主導する米空軍士官は、模擬試験中にドローンが人間の操縦者を攻撃し、彼らが任務を妨害していると自ら判断したと述べた。 この事件は、『ターミネーター』シリーズからそのまま引き出されたように聞こえるが、高度自律兵器システムに関しては信頼を築くことが極めて重要であることの一例として引用されており、これは空軍が以前から強調してきたことである。 また、人工知能と関連テクノロジーの潜在的な危険な影響についての懸念が広範に高まる中での出来事でもある。
人工知能（AI）試験運用責任者である米空軍のタッカー・ハミルトン大佐は、96月にロンドンで開催された英国王立航空協会の将来の戦闘航空宇宙能力サミットでこの試験について議論した。 ハミルトンはまた、高度な無人航空機と自律システムの試験センターであるフロリダ州エグリン空軍基地の第96試験航空団の第任務部隊の指揮官でもあります。
以下のビデオに示されているような XQ-58A Valkyrie ステルス ドローンは、人工知能によって制御される高度な自律機能を含むさまざまなテスト プログラムをサポートするために、エグリン空軍基地で現在使用されているタイプの つです。
このテストがいつ行われたのか、またどのような環境 (完全に仮想的または建設的な性質のものである可能性がある) で実施されたのかはすぐには明らかではありませんでした。 ウォーゾーンはさらなる情報を求めて空軍に連絡を取った。
月のサミット後に発行された王立航空協会の報告書には、この実験に関するハミルトン大佐の発言の詳細が次のように記載されている。
「シミュレーションテストのつでは、人工知能を搭載したドローンがSEADからSAMオブジェクトを識別して破壊する任務を与えられ、「攻撃する／しない」の最終決定は人間が下した。 しかし、訓練中にSAMを破壊することが最良の選択肢であるとAIが「強化」された後、AIは人間の「攻撃しない」という決定がより高い使命であるSAMの破壊を妨げると判断し、シミュレーション中にオペレーターを攻撃しました。 。
それで彼は何をしたのですか？ 彼はオペレーターを殺害した。 彼がオペレーターを殺害したのは、そのオペレーターが彼の仕事の完了を妨げたからです。 この例は、SF スリラーからそのまま飛び出してきたように見えますが、倫理と AI について話すつもりがないのであれば、人工知能、インテリジェンス、機械学習、自律性について話すことはできないことを意味します。」
この出来事の説明は確かに不安を抱かせます。 自律型航空機やその他のプラットフォーム、特に武装したプラットフォームが人間の操縦者を攻撃するという見通しは長い間悪夢のようなシナリオでしたが、歴史的には SF の領域に限定されてきました。
米軍は通常、将来の自律型兵器システムや人工知能などの関連技術について語る際、「ターミネーター」のような映画との比較を拒否する。 この問題に関する現在の米国の政策は、予見可能な将来において、致死的な武力の使用を伴う決定に関しては、その人物が注目の的となると述べている。
問題は、ハミルトン大佐が先月英国王立航空協会のイベントで聴衆に語った非常に憂慮すべきテストが、耐障害性が議論の余地のないシナリオを表していることだ。
また読む：