FC2ブログ

【新たなる脅威AI兵器】NHK紅白「AI美空ひばり」の違和感とは異質・別次元!完全自律型の致死性兵器(LAWS)!

2020/01/01
NHK紅白歌合戦に登場した「AI美空ひばり」
NHK紅白歌合戦に登場した「AI美空ひばり」

令和初のNHK紅白歌合戦に最新の人工知能(AI)技術でよみがえらせた「AI美空ひばり」が登場、驚きや感動を呼ぶ一方で「違和感がある」「気持ち悪い」などと不評も買ったようです。深層学習(ディープラーニング)により、AI関連の技術は急速に進展しており、新たな技術や社会システムの変革が進んでいますが、その先にあるのは輝かしい未来の予想だけではありません。

問題となっているのは、高度な人工知能(AI)を搭載した兵器が、自らの判断で攻撃して相手を殺傷する自律型致死兵器システムLAWS(ローズ=Lethal Autonomous Weapons Systems)です。LAWS、またの名を「キラーロボット」。

ロボット工学の専門家として世界的に知られ、ベンチャー企業の会長も務める広瀬茂男氏の話が産経新聞に掲載されました。広瀬氏と記者の一問一答をご紹介します。

広瀬茂男氏「開発には歯止め必要」

記者:LAWSの開発に反対する国際的な公開書簡に2017年、唯一の日本人として署名した。

広瀬氏AIの開発がこのまま進んだら、非常に危ないと考えた。個人を認識する能力などが上がり、かなり知的な判断ができるようになってきた。なかでもLAWSは正確な攻撃で大きな被害を与えるだけでなく、味方の損失を避けられるため戦争へのハードルを下げかねない。

テロや特定の民族への攻撃も可能、コピーで簡単に拡散も!

記者:AIは近年、急速に開発が進んでおり、もはや私たちの暮らしに欠かせない。

広瀬氏:確かにAIは現代社会のキーテクノロジーで、もっと可能性を追求すべきだが、悪用も簡単だ。例えば自動車の自動運転で、安全のために人や障害物を避けるのではなく、逆にぶつけるようにソフトウエアを書き換えればテロに利用できる。ビッグデータをうまく使えば民族を見分けることも可能となり、特定の民族だけを攻撃できる。これはもはやSFの世界ではないと感じる。しかもLAWSをはじめとしたAIのプログラムは一度作るといくらでもコピーでき、容易に拡散してしまう。

記者:LAWSは特定通常兵器使用禁止制限条約(CCW)の締約国会議で開発規制に向けた初の指針がまとまった。

広瀬氏:人間を関与させる方向で指針をまとめた点は評価できる。でも、規制はとても難しい。今の機械はみんな簡単にAIを組み込んでしまうのに、どうやって規制すればよいのか。AIはソフトウエアの世界で、銃や地雷のようにはっきりとした姿がない。この点がAIの怖いところでもある。

記者:指針には法的拘束力がなく、今後も国際社会は規制の在り方を議論していく。

広瀬氏:実効性があるかどうかは別としても、LAWSの開発を規制しないわけにはいかないだろう。常識的な国家であれば規制にはそれなりの効果がある。また、変な国やテロリストなどが使い出したら非常に危ないが、何も規制する動きがないと制裁を加える根拠も無くなり、それこそ開発に歯止めが利かなくなる。AIの危険性を常にはっきりさせ、何とかしようと考え続けていく以外にないのではないか。

記者:日本は完全自律型のLAWSを開発しない方針だ。

広瀬氏:それで良いと思うが、最先端の技術を使わないと防衛にならない。相手がLAWSを含め、AIでいかに攻撃してくるかを考えて準備することは、絶対にすべきだと思う。何をしてくるか分からない相手に対し、「こちらが何もしなければ、攻めてこない」などということは、あり得ないのだから。

2015年にも公開書簡、「LAWSは火薬・核兵器に続く『第3の革命』」

広瀬氏が署名した公開書簡に先立つこと2年、2015年にはテスラモーターズCEOのイーロン・マスク氏、理論物理学者のスティーヴン・ホーキング博士、アップル共同創業者のスティーブ・ウォズニアック氏ら1000人を超す人工知能(AI)・ロボットの専門家や企業関係者が、AIによる自律型兵器の開発禁止を訴える公開書簡に署名しました。
マスク氏らはLAWSを火薬・核兵器に続く「第3の革命」と位置付け、世界で開発競争が起き、ロボット戦争勃発確率が高まると警告しています。

ホーキング博士「完璧なAI開発は人類の終焉をもたらす」

AIを備えた兵器は核兵器などに比べて製作しやすく、大量生産によってコストを低く抑えることが可能です。
さらにシステムの複製も容易なため、安く量産されてどこにでも存在するようになると言われています。自立型兵器が「明日のカラシニコフ(自動小銃)」と言われるのはそのためです。

惜しくも2018年3月に亡くなったホーキング博士は「ゆっくりとした進化しか遂げられぬ人類はAIと競争はできず、取って代わられるだろう。自ら発展し、加速度的に自身を再設計する完璧なAI開発は人類の終焉をもたらす」とも予言しています。

↓「ホーキング博士の警告はもうSFレベルの話じゃないんだな」と感じた方はクリックをお願いします。


人気ブログランキング

■スティーヴン・ホーキング博士の著書ご紹介

ビッグ・クエスチョン―〈人類の難問〉に答えよう


ホーキング、宇宙を語る―ビッグバンからブラックホールまで (ハヤカワ文庫NF)
関連記事
スポンサーサイト



comment (0) @ AI兵器・LAWS
『北朝鮮の核が「現実的な脅威」なのか?』と言ってのける毎日新聞にこそ感じる脅威! | 【中国のミカタ】沖縄県知事・玉城デニー、石垣市への陸上自衛隊「工事いったん止めろ」

comment

コメントを送る。

URL:
Comment:
Pass:
Secret: 管理者にだけ表示を許可する