ドローン徘徊型兵器といった自動化兵器はすでに現存し、SFの世界が現実となっています。殺人ドローンの群れが間も無く世界中の戦場で標準装備になりそうです。
そして、AI技術の最新の進歩により、戦闘機への搭載は自律型致死兵器へと。自律型致死兵器は今に始まったことではありませんが、最終的には生死の判断をAIプログラムに委ねることになるのではないかと言う懸念を持つのは私だけでしょうか。
これまでとは違う次元に人類は今直面しています。AIに学習させ、AIが判断する世界。倫理観の欠如がもたらす危険と隣り合わせの世界を私たちは制御できるのでしょうか？
US Air Force Shows Fighter Plane Piloted by AI
The military planes were taking part in training, practicing a wartime maneuver called a dogfight.
One of the planes had a human pilot inside. The other did not. It was operated by artificial intelligence, or AI, software.
A human was in the airplane’s other seat.
The Air Force was demonstrating how far its AI piloting technology has come.
The United States is competing to stay ahead of China on AI and its use in weapon systems. The focus on AI has led to public concern. People worry that future wars will be fought by machines that choose and strike targets without direct human intervention. The U.S. has said it would never send a pilotless fighter plane into war because of concerns that civilians could be harmed mistakenly. But it is unclear if other countries have the same policy.
So the U.S. is working on AI piloting technology, just in case.
Admiral Christopher Grady is vice chairman of the Joint Chiefs of Staff, the top U.S. military leadership group. When speaking about the use of AI in war, he said: “China’s working on it as hard as we are.”
Here is a look at the U.S. history of machine learning and AI in the military.
The military started putting computers in control of some systems in the 1960s and 1970s. The Aegis missile defense system was programmed by humans. They gave the system a set of “if/then” commands because the computer could detect incoming missiles faster than humans. The system could not learn, it could only carry out the rules. So it was not AI as we understand it today, said Christopher Berardi, an Air Force Lt. Colonel who is working with the Massachusetts Institute of Technology (MIT) on AI development.
AI took a step forward in 2012 when faster computer processors started to analyze information and write rules. Computer experts call that period “the big bang” for AI. The new data created by a computer is considered artificial intelligence.
Air Force Secretary Frank Kendall was the human on board the F-16 fighter jet called Vista. The Vista jet is the most visible AI project, but the U.S. Department of Defense has hundreds in place.
One project going on at MIT includes recordings of Air Force pilots speaking with people in air operations centers on the ground. Service members are training the AI systems to detect the most important conversations and separate them from mundane chatter. The plan is to use AI to alert pilots to critical messages.
The Air Force is also working on an AI-powered navigation system that does not depend on satellites. The concern is that satellites could be targeted in war.
So instead of using satellite navigation, the Air Force is working on a navigation system that uses the magnetic fields of the Earth. The idea is not new, but before AI, experts worried that navigation systems would not work due to the electromagnetic signal created by most aircraft. But programmers are training an AI system to ignore the signal created by the airplane and instead pay attention to the Earth’s magnetic emissions.
Col. Garry Floyd is head of the Air Force-MIT Artificial Intelligence Accelerator Program. He said magnetometers are so sensitive they would pick up the signal from flashing lights on a C-17 airplane. Floyd called the work so far, “very, very impressive.”
“We think we may have added an arrow to the quiver in the things we can do, should we end up operating in a GPS-denied environment. Which we will,” Floyd said.
The system has only been tested on the C-17 so far.
There are some limits to what AI can do. So there is always a human safety pilot on board. For example, AI cannot learn in mid-flight. It can only learn from the data it collects each time the plane is in the air. When the plane is back on the ground, the new information is loaded into a simulator and the AI system learns and creates more flight rules.
But unlike in the past, AI now learns fast. Today’s computers have more power than ever before and sometimes the AI system learns new ways to fly the planes. Sometimes it can beat human pilots in tests.
But there are still “guardrails.” AI may learn a new way to fly a plane, but a human observer will prevent the computer from transferring the details on how to do an unsafe maneuver in the air. The Air Force said it hopes the system it is working on today can be used to create a fleet of 1,000 unpiloted airplanes.
Words in This Story
focus –n. attention or concern
detect –v. to study information in order to come up with a conclusion
big bang –n. a time of fast discovery or change
mundane –adj. usual, routine or unimportant
chatter –n. words spoken quickly
alert –v. to direct someone’s attention to something important
impressive –adj. causing great appreciation or interest
arrow to the quiver –expression. another kind of weapon added to a group of weapons
simulator –n. a machine or computer system that permits a user to experience an activity such as flying without getting into an airplane
transfer –v. to move information from one place to another
米空軍がAI操縦の戦闘機を公開（和訳）
May 18, 2024
軍用機は訓練に参加しており、ドッグファイトと呼ばれる戦時中の機動作戦を練習していました。 ※maneuver ：【mənúːvər】《軍事》作戦行動、機動作戦
機のうち１機には人間のパイロットが乗っていました。もう１機はそうではありませんでした。
人工知能（AI）ソフトウェアが操縦していました。
人間は機のもう一方の座席に座っていました。
空軍はAIの操縦技術がどこまで進歩したかをデモンストレーションしていたのです。
米国はAIとその兵器システムへの利用について、中国に先んじようと競い合っていました。AIへの注目は国民の懸念につながっています。将来の戦争は、人間が直接介入することなく標的を選択し、攻撃する機械によって戦われるようになるのではないかと人々は心配しています。米国は、民間人に誤って危害が及ぶことを懸念し、パイロットのいない戦闘機を戦場に送ることはないと述べています。しかし、他の国も同じ方針かどうかは不明です。
2024年5月2日、カリフォルニア州エドワーズ空軍基地上空で、敵のF-16戦闘機と1,000フィート以内で競り合うように飛行するAI搭載の米空軍F-16戦闘機X-62A VISTA（右）（AP Photo/Damian Dovarganes）
そこでアメリカは、万が一に備えてAI操縦技術に取り組んでいます。
クリストファー・グレイディ提督は、統合参謀本部の副議長で、米軍の最高指導部であす。戦争におけるAIの利用について、彼はこう語っています： 「中国は我々と同じように懸命に取り組んでいます。
ここで、軍における機械学習とAIの米国の歴史を見てみましょう。
軍は１９６０年代から１９７０年代にかけて、いくつかのシステムの制御にコンピューターを導入し始めました。イージス艦（The Aegis） ミサイル防衛システムは人間によってプログラムされました。コンピューターが人間よりも早くミサイルの飛来を検知できたため、”if/then"”もしこうなったら・こうする”司令のセットをシステムに与えたのです。システムは学習することができず、ルールを実行するだけです。ですからそれは今日我々が理解しているAIではないとマサチューセッツ工科大学（MIT）でAI開発に携わっている空軍中佐のクリストファー・ベラルディは言います。
※”if/then：「ifもしも」の後に続く部分が条件を、「thenそしたら」の後に続く部分がその条件が満たされた ときの結果を示す。
AIが一歩前進したのは２０１２年で、より高速なコンピューター・プロセッサーが情報を分析し、ルールを書くようになりました。コンピュータの専門家は、この時期をAIの”ビッグバン”と呼んでいます。コンピューターが作り出した新しいデータは、人工知能とみなされています。
2024年5月2日木曜日、カリフォルニア州エドワーズ空軍基地で離陸するAI対応の空軍F-16戦闘機の実験機、X-62A VISTA機（AP Photo/Damian Dovarganes）
フランク・ケンドール空軍長官は、ビスタと呼ばれるF-１６戦闘機に登場していた人です。ビスタ・ジェットは最も注目されているAIプロジェクトですが、米国防総省には数百のプロジェクトがあります。
マサチューセッツ工科大学（MIT）で進められているプロジェクトのひとつには、空軍パイロットが地上の航空作戦センターの人々と会話する様子を録音したものがあります。サービスメンバーは、最も重要な会話を検出し、（mundane 【mʌndéin】chatter）ありふれた雑談から切り離すためにAIシステムを訓練しています。計画では、AIを使って重要なメッセージをパイロットに警告することになっています。
空軍はまた、人工衛星に依存しないAIを搭載したナビゲーションシステムにも取り組んでいます。懸念されるのは、人工衛星が戦争で標的にされる可能性があることです。
そこで空軍は、衛星ナビゲーションを使う代わりに、地球の磁場を利用したナビゲーション・システムに取り組んでいます。このアイデアは新しいものではありませんが、AI以前は、ほとんどの航空機が作り出す電磁信号のためにナビゲーション・システムが機能しないのではないかと専門家が心配していました。しかし、プログラマーたちは、飛行機が作り出す信号を無視し、代わりに地球の磁気放射に注意を払うようにAIシステムを訓練しています。
ギャリー・フロイド大佐は空軍-MIT人工知能アクセラレーター・プログラムの責任者です。磁力計は非常に感度が高いので、C-17飛行機の点滅するライトの信号を拾うだろうとの彼は言っています。フロイド氏はこれまでの研究を ”非常に、非常に印象的 ”と呼んでいます。
「もしGPSが使えない環境で活動することになった場合、我々ができることに追加の武器ができたと思う。我々はそうするだろう。」とフロイド氏は言います。
このシステムは、今のところC-１７でしかテストされていません。
AIができることには限界があります。そのため、常に人間の安全パイロットが搭乗しています。例えば、AIは飛行中に学習することはできません。飛行機が空中にあるたびに収集したデータからしか学習できないのです。飛行機が地上に戻ると、新しい情報がシミュレーターに読み込まれ、AIシステムが学習し、さらに飛行ルールを作成します。
しかし昔と違って、今のAIは学習スピードが速いのです。現在のコンピューターは以前よりもパワーアップしており、AIシステムが飛行機の新しい操縦方法を学ぶこともあります。テストでは人間のパイロットを打ち負かすこともあるのです。
しかし、まだ ”ガードレール（指導原則と制御） ”があります。AIは飛行機の新しい操縦方法を学ぶかもしれませんが、人間の監視者が、空中で危険な操縦をする方法の詳細をコンピューターに伝達するのを防ぐでしょう。空軍は、現在取り組んでいるシステムが１，０００機のパイロットなしの飛行機を作るために使われることを望んでいると述べています。
