【新たなる脅威ＡＩ兵器】NHK紅白「AI美空ひばり」の違和感とは異質・別次元！完全自律型の致死性兵器（LAWS）！

NHK紅白歌合戦に登場した「AI美空ひばり」

令和初のNHK紅白歌合戦に最新の人工知能（ＡＩ）技術でよみがえらせた「AI美空ひばり」が登場、驚きや感動を呼ぶ一方で「違和感がある」「気持ち悪い」などと不評も買ったようです。深層学習（ディープラーニング）により、ＡＩ関連の技術は急速に進展しており、新たな技術や社会システムの変革が進んでいますが、その先にあるのは輝かしい未来の予想だけではありません。

問題となっているのは、高度な人工知能（ＡＩ）を搭載した兵器が、自らの判断で攻撃して相手を殺傷する自律型致死兵器システムLAWS（ローズ＝Lethal Autonomous Weapons Systems）です。LAWS、またの名を「キラーロボット」。

ロボット工学の専門家として世界的に知られ、ベンチャー企業の会長も務める広瀬茂男氏の話が産経新聞に掲載されました。広瀬氏と記者の一問一答をご紹介します。

広瀬茂男氏「開発には歯止め必要」

記者：ＬＡＷＳの開発に反対する国際的な公開書簡に２０１７年、唯一の日本人として署名した。

広瀬氏：ＡＩの開発がこのまま進んだら、非常に危ないと考えた。個人を認識する能力などが上がり、かなり知的な判断ができるようになってきた。なかでもＬＡＷＳは正確な攻撃で大きな被害を与えるだけでなく、味方の損失を避けられるため戦争へのハードルを下げかねない。

テロや特定の民族への攻撃も可能、コピーで簡単に拡散も！

記者：ＡＩは近年、急速に開発が進んでおり、もはや私たちの暮らしに欠かせない。

広瀬氏：確かにＡＩは現代社会のキーテクノロジーで、もっと可能性を追求すべきだが、悪用も簡単だ。例えば自動車の自動運転で、安全のために人や障害物を避けるのではなく、逆にぶつけるようにソフトウエアを書き換えればテロに利用できる。ビッグデータをうまく使えば民族を見分けることも可能となり、特定の民族だけを攻撃できる。これはもはやＳＦの世界ではないと感じる。しかもＬＡＷＳをはじめとしたＡＩのプログラムは一度作るといくらでもコピーでき、容易に拡散してしまう。

記者：ＬＡＷＳは特定通常兵器使用禁止制限条約（ＣＣＷ）の締約国会議で開発規制に向けた初の指針がまとまった。

広瀬氏：人間を関与させる方向で指針をまとめた点は評価できる。でも、規制はとても難しい。今の機械はみんな簡単にＡＩを組み込んでしまうのに、どうやって規制すればよいのか。ＡＩはソフトウエアの世界で、銃や地雷のようにはっきりとした姿がない。この点がＡＩの怖いところでもある。

記者：指針には法的拘束力がなく、今後も国際社会は規制の在り方を議論していく。

広瀬氏：実効性があるかどうかは別としても、ＬＡＷＳの開発を規制しないわけにはいかないだろう。常識的な国家であれば規制にはそれなりの効果がある。また、変な国やテロリストなどが使い出したら非常に危ないが、何も規制する動きがないと制裁を加える根拠も無くなり、それこそ開発に歯止めが利かなくなる。ＡＩの危険性を常にはっきりさせ、何とかしようと考え続けていく以外にないのではないか。

記者：日本は完全自律型のＬＡＷＳを開発しない方針だ。

広瀬氏：それで良いと思うが、最先端の技術を使わないと防衛にならない。相手がＬＡＷＳを含め、ＡＩでいかに攻撃してくるかを考えて準備することは、絶対にすべきだと思う。何をしてくるか分からない相手に対し、「こちらが何もしなければ、攻めてこない」などということは、あり得ないのだから。

2015年にも公開書簡、「ＬＡＷＳは火薬・核兵器に続く『第３の革命』」

広瀬氏が署名した公開書簡に先立つこと2年、2015年にはテスラモーターズCEOのイーロン・マスク氏、理論物理学者のスティーヴン・ホーキング博士、アップル共同創業者のスティーブ・ウォズニアック氏ら1000人を超す人工知能（ＡＩ）・ロボットの専門家や企業関係者が、ＡＩによる自律型兵器の開発禁止を訴える公開書簡に署名しました。
マスク氏らはＬＡＷＳを火薬・核兵器に続く「第３の革命」と位置付け、世界で開発競争が起き、ロボット戦争勃発確率が高まると警告しています。

ホーキング博士「完璧なＡＩ開発は人類の終焉をもたらす」

ＡＩを備えた兵器は核兵器などに比べて製作しやすく、大量生産によってコストを低く抑えることが可能です。
さらにシステムの複製も容易なため、安く量産されてどこにでも存在するようになると言われています。自立型兵器が「明日のカラシニコフ（自動小銃）」と言われるのはそのためです。

惜しくも2018年3月に亡くなったホーキング博士は「ゆっくりとした進化しか遂げられぬ人類はＡＩと競争はできず、取って代わられるだろう。自ら発展し、加速度的に自身を再設計する完璧なＡＩ開発は人類の終焉をもたらす」とも予言しています。

↓「ホーキング博士の警告はもうSFレベルの話じゃないんだな」と感じた方はクリックをお願いします。


人気ブログランキング

■スティーヴン・ホーキング博士の著書ご紹介

ビッグ・クエスチョン―〈人類の難問〉に答えよう


ホーキング、宇宙を語る―ビッグバンからブラックホールまで (ハヤカワ文庫NF)