Aiは人類を超えるのか？人工知能の危険性やリスクについて解説

スマートフォンの音声アシスタントや家庭用お掃除ロボットにはじまり、最近では、自動車の自動運転や医療機器への導入など、私たちの生活に利便性と安全性をもたらしてくれる革新的なAiテクノロジー。

今回は、Aiが人間の知性を超えてしまうシンギュラリティの可能性や、それによって生じるリスク、Aiの暴走を止めるための具体的な対策方法などに焦点を当てて、Aiに対するリテラシーや理解を深めていきましょう。

Aiが人類の知能を超えることはあるのか

Ai技術の発達により、近ごろでは、Aiが人間の知能を超える「シンギュラリティ（＝技術的特異点）」の可能性が、さまざまな研究者によって示唆されるようになりました。

Aiが人間を超える事例

Aiが人間の知能を超えた事例で言えば、囲碁の世界チャンピオンを倒した「AlphaGO（アルファゴー）」が有名なところでしょう。

2010年に行われた囲碁のプロ棋士との対局にて、コンピュータ史上初の勝利を収めてからは人間相手には全戦全勝という快挙を成し遂げ、Aiやディープラーニングへの興味関心を集めました。

過去の膨大なデータを分析することによって、よりベストな解決方法を導き出すAiは、特定の分野においては、すでに人間の知能を凌駕するまでに成長を遂げているということをまずは理解しなくてはいけません。

『強いAi』について

そもそも「強いAi」とは、特定の課題にのみ対応するものではなく、人間と同じようにさまざまな課題に対しての柔軟な処理を行うことができる汎用型のAiを指すものです。

逆に汎用性が低く、特定の課題にのみ対応できるAiは「弱いAi」と呼ばれ、近ごろでは、Ai技術やディープラーニングの発達によって、より汎用型のAiの開発が進められるようになりました。

汎用性の向上による柔軟な問題処理の実現などは、一見するとメリットのようにも聞こえますが、Aiが自ら思考できるようになるということは、人間では想定し得なかったようなさまざまな弊害を起こす危険性があるということです。

シンギュラリティについて

さまざまな業界分野へのAi導入が当たり前となりつつある昨今ですが、近ごろでは、Ai技術の発達による「シンギュラリティ」の訪れが、多くの研究者から示唆されるようにもなりました。

シンギュラリティとは、端的に言ってしまえば、Aiがまるで人間のように考えて動くようになることで、人間の生活を脅かすようになり始める地点を指すもので、Ai研究の第一人者であるレイ・カーツワイルによって提唱された「2045年問題」などが有名です。

Aiの発達やディープラーニングの進歩によって、こうしたシンギュラリティの問題などは、もはやSF映画だけの話ではなく、現実に起こり得るであろう深刻な問題として捉えなければならないと言えるでしょう。

Aiの危険性やリスクについて

では、Aiが自ら思考を行えるようになることで、私たちの社会生活は一体どのように脅かされるのでしょうか。

知能の向上

Aiの普及が進むことによって、今後はAiが人間に取って代わるようになり、最終的には深刻な雇用の喪失や、国家や市民の間での貧富の格差を助長してしまう恐れがあります。

特定の国家や企業におけるAi技術の独占などが発生することで、Aiを所有している側とそうでない側で、貧富の格差を招いてしまう恐れがあることは否定できません。

Ai技術を牽引する立場にあるものは、積極的な技術公開やAiツールのオープンソース化などを通して、Aiによる格差拡大を生まないための努力が必要と言えるでしょう。

良心の欠如

Aiには、道徳や良心などといった、人間であれば誰しもが生まれながらに備えているような、倫理に関する概念というものが存在しません。

Aiはその特性から、設定されたゴール（目標）に対しては、常に効率よく、合理的で最適な計算処理を行います。

こうした善悪の判断ができないAiが、自ら考え行動できるようになることで、恐ろしい事態を招いてしまう可能性があるのです。

イチゴ摘みAiの例

たとえば、イチゴの収穫量を増やす目的でAiを活用しようとしたとき、通常の人間であれば、畑の面積を拡張したり、イチゴそのものに対する品種改良を検討したりなど、ごく一般的で常識的な解決策が思いつくことでしょう。

ところが、Aiの導き出した解決策は違います。

Aiの計算した結果によると、この一帯で最も効率的にイチゴを収穫するためには、まずは周辺の集落を滅ぼし、その土地をイチゴ畑に変えたうえで、集落の人間を収穫の労働力として活用することこそが、最も合理的でベストな解決策であると言うのです。

Aiの暴走を止める対策とは

上記はAiの危険性の警鐘に用いられる極端な例え話ですが、Aiに与える目標設定の方法や教師データの選定を誤ってしまうと、最悪の場合には、無差別な破壊行為や大量虐殺を肯定するような恐ろしいAiが誕生してしまうということを、私たちは忘れてはいけません。

そうした事態を防ぐためにも、Aiにおける運用ルールの整備や法規制によるヒューマンコントロール、緊急停止装置の設置などは非常に重要な課題となります。

そして何よりも、使う立場である私たち一人ひとりが、Aiに対する理解を深め、過信や依存を招かないように日々考えながら利用していくことが重要であると言えるでしょう。

まとめ

Aiの発達によって享受することのできるメリットには非常に大きなものがありますが、Aiという存在が貧富格差の拡大、、戦争や争いの火種となるきっかけになってしまっては本末転倒です。

あらゆる可能性を秘めたAiですが、あくまでもそのAiを利用するのは私たち人間であり、使う側のモラルやリテラシーが欠如している場合には、最悪の事態を引き起こしかねません。

Aiそのものの技術研究だけでなく、Aiを制御可能にするためのルールの整備や、個人レベルでのAiリテラシーの向上などが求められているのではないでしょうか。