最近、AIを使ったサイバー攻撃の話を調べていて、少し気になることがありました。
AIでまったく新しい攻撃手法が生まれているというより、昔からある攻撃の準備や実行が効率化されている。
ここまではかなり理解しやすい話です。
ただ、そこでふと思いました。
「これって、情報分野だけの話ではないのでは？」
今はサイバー攻撃が一番目立っているだけで、AIが人間の能力を底上げするという性質自体は、他の分野にもそのまま当てはまりそうです。
今は情報分野が一番“結果が出やすい”
AIとサイバー攻撃の相性がいい理由の一つは、かなりデジタル寄りだからだと思います。
文章、コード、ログ、脆弱性情報、Webサイト、アカウント情報。
こういったものは、もともとAIが扱いやすいです。
さらに、試した結果もすぐに返ってきます。
うまくいかなければ修正する。
また試す。
そのサイクルをかなり短く回せます。
つまり、AIの強みである
- 大量の情報整理
- 文章やコードの生成
- パターンの比較
- 試行錯誤
- 自動化
が、そのまま活きやすい分野なんですよね。
だから今は、サイバー分野でAIの悪用が特に目立っているのだと思います。
ただし、攻撃手法そのものは昔からあるものが多い
ここは少し重要です。
AIが普及したことで、まったく新しいハッキング手法が突然生まれた、というよりは、
昔からある手法を、より速く・安く・大量に使えるようになった
という方が近そうです。
フィッシング、脆弱性探索、情報収集、コード作成、文面の多言語化などは、以前から存在していました。
AIはそれらの工程を効率化し、これまでより少ない人手でも実行しやすくしている。
つまり、AIそのものが新しい武器というより、
既存の道具を扱う人間の能力を増幅している
という感じです。
でも他の研究分野でも同じことは起こり得る
考えてみると、AIは研究分野でもかなり強力です。
たとえば、
- 論文を大量に読む
- 仮説を出す
- 実験条件を絞る
- シミュレーションする
- 設計候補を比較する
- 過去の失敗例を整理する
といった作業は、研究者にとってかなり時間がかかる部分です。
ここをAIが高速化できれば、研究そのものの速度が上がります。
これはもちろん、医療、材料、エネルギー、製造などでは非常に良いことです。
一方で、同じ能力は危険な研究にも使えてしまいます。
生物分野は特に慎重さが必要かもしれない
AIの悪用を考えたとき、個人的に特に気になるのが生物分野です。
病原体や感染症の研究は、人類にとって非常に重要です。
ワクチンや治療法の開発、感染経路の解明、新しい検査技術など、多くの恩恵があります。
ただ、生物研究には昔からデュアルユースの問題があります。
つまり、
人を助けるための研究成果が、使い方によっては危険な方向にも利用できてしまう
という問題です。
新型コロナウイルスの起源についても、自然由来か研究施設由来かについて、現在も完全には結論が出ていません。
また最近では、ロシアの抗ペスト研究施設の職員が重い肺炎で死亡した件をめぐって、一時は研究施設由来ではないか、肺ペストではないかという懸念も広がりました。
ただし、この件についてはペスト感染や研究施設からの病原体流出が確認されたわけではありません。
ここは切り分けて考える必要があります。
それでも、こういった出来事を見ると、生物分野では、
「研究を速くするAI」のメリットと、「危険な研究まで速くしてしまう可能性」
の両方を考える必要があると感じます。
AIは善悪を理解して研究を加速するわけではない
ここが少し怖いところです。
AIは、
「この研究は社会にとって良いか悪いか」
を人間と同じ意味で理解して、研究を進めているわけではありません。
与えられた目的に対して、情報を整理したり、候補を出したり、効率化したりするだけです。
そのため、使う人間側の目的が悪ければ、その能力も悪用される可能性があります。
大手のAIサービスには安全対策が入っていて、危険な命令は拒否されるようになっています。
ただ、実際の悪用を考えると、
- 安全対策が弱いモデル
- 自前で動かすモデル
- 複数のAIやツールを組み合わせる方法
- AIに部分作業だけさせる方法
などが使われる可能性があります。
サイバー分野でもそうですが、AI一つにすべてをやらせる必要はありません。
一部の作業だけでも効率化できれば、全体としてはかなり強力です。
危険な研究に使われている可能性はある？
ここは断定できません。
具体的な証拠がない以上、
「今もどこかで危険な研究にAIが使われている」
とは言えません。
ただ、可能性そのものは否定できないと思います。
世界中でAIモデルが普及していて、ローカル環境で動かせるモデルも増えています。
それを独自に調整したり、別のツールと組み合わせたりすることもできます。
利用者全員の目的を監視するのは現実的ではありません。
そう考えると、サイバー攻撃と同じように、表に出ていないところで危険な用途に使われる可能性はあるのかもしれません。
物理世界とつながると影響はさらに大きくなる
今のAIは、基本的には情報を扱うのが中心です。
でも将来的には、
- ロボット
- 実験装置
- ドローン
- 製造設備
- 自動運転機械
などとAIが直接つながっていくはずです。
そうなると、
「考える」だけではなく「実際に試す」
ところまで自動化できます。
これはものすごく便利です。
研究開発も早くなりますし、人手不足の解消にもつながると思います。
ただ同時に、AIの判断が物理世界へ直接影響するようになります。
サイバー攻撃以上に、慎重な管理が必要になるかもしれません。
AIは“能力を増幅する道具”なのかもしれない
今回考えていて、一番しっくりきたのはこれです。
AIそのものが危険というより、
人間の能力を増幅する道具
なのかもしれません。
優秀な研究者が使えば、良い研究をさらに速く進められる。
一方で、悪意のある人間が使えば、今まで難しかったことを簡単にできるようになる可能性もある。
サイバー攻撃は、その影響が最初に分かりやすく出ているだけなのかもしれません。
便利になるほど、安全対策も重要になる
私はAIがかなり好きです。
実際、ブログを書いたり、ツールを作ったり、ゲーム開発を手伝ってもらったりしています。
AIのおかげで、一人でもできることがかなり増えました。
だからこそ、AIそのものを怖がって使わない方向には進んでほしくありません。
ただ、性能が上がるほど、
「何ができるか」だけではなく「何をさせないか」
も重要になってきそうです。
今はサイバー攻撃が目立っていますが、数年後には生物、化学、ロボットなど、まったく別の分野で同じ議論をしているかもしれません。
AIが便利な未来を作ってくれることに期待しつつ、危険な使われ方も同時に考えていく必要がありそうです。
※本記事はAIの悪用リスクについて一般的に考察したものです。新型コロナウイルスの起源や、ロシアの研究施設をめぐる件について、研究施設由来や病原体流出を断定するものではありません。
コメント