ブログ

Aug 29, 2023

お金、市場、機械学習: 敵対的 AI のリスクを解明する

人工知能 (AI) とそのサブセットである機械学習が今日の株式市場で果たしている重要な役割を無視することはできません。 AI とは、次のようなタスクを実行できるマシンを指します。

人工知能 (AI) とそのサブセットである機械学習が今日の株式市場で果たしている重要な役割を無視することはできません。

AI は通常人間の知性を必要とするタスクを実行できる機械を指しますが、機械学習 (ML) にはデータからのパターンの学習が含まれ、これにより機械の予測と決定を行う能力が強化されます。

株式市場で機械学習が使用される主な方法の 1 つは、アルゴリズム取引です。 ML モデルは、膨大な金融データからパターンを認識し、これらのパターンに基づいて、ほんの一瞬で何千もの取引を実行します。 これらのアルゴリズム取引モデルは継続的に学習し、継続的に発生するプロセスで予測とアクションを調整します。これにより、特定のパターンがフィードバック ループを引き起こし、市場の特定のセグメントが突然フリーフォールに陥るフラッシュ クラッシュのような現象が発生することがあります。

アルゴリズム取引は、時折欠点があるにもかかわらず、私たちの金融システムにとって不可欠なものとなっています。 それには大きな利点があります。 これは別の言い方をすれば、それが一部の人々に非常に多くのお金を稼いでいるということです。 テクノロジー サービス会社 Exadel によると、銀行はアルゴリズム取引のおかげで 2030 年までに 1 兆ドルを節約できる見込みです。

ただし、金融における機械学習モデルへのこのような依存にはリスクがないわけではなく、フラッシュ クラッシュを超えるリスクさえあります。

これらのシステムに対する重大かつ過小評価されている脅威の 1 つは、いわゆる敵対的攻撃です。 これらは、悪意のある攻撃者が ML モデルに供給される入力データを操作し、モデルが誤った予測を行う場合に発生します。

この敵対的攻撃の 1 つの形式は「データ ポイズニング」として知られており、悪意のある攻撃者が入力に「ノイズ」、つまり偽のデータを導入します。 この汚染されたデータをトレーニングすると、モデルがデータセット全体を誤って分類する可能性があります。 たとえば、クレジット カード詐欺システムは、不正行為が行われていないにもかかわらず、誤って不正行為を認定する可能性があります。

このような操作は単なる理論上の脅威ではありません。 データポイズニングと敵対的攻撃の影響は、財務予測モデルを含むさまざまな機械学習アプリケーション全体に広範な影響を及ぼします。 イリノイ大学、IBM、その他の機関の研究者が実施した研究では、財務予測モデルが敵対的攻撃に対して脆弱であることが実証されました。 彼らの調査結果によると、これらの攻撃は最適とは言えない取引判断につながり、投資家に 23% ～ 32% の損失をもたらす可能性があります。 この調査は、これらの脅威の潜在的な深刻さを浮き彫りにし、敵対的な攻撃に対する堅牢な防御の必要性を強調しています。

こうした攻撃に対する金融業界の反応は、受け身であることが多く、攻撃が発生して初めて防御力が強化されるモグラ叩きのようなものです。 ただし、これらの脅威が ML アルゴリズムの構造そのものに内在していることを考えると、より積極的なアプローチが、この進行中の問題に有意義に対処する唯一の方法です。

金融機関は、潜在的な弱点を検出し、これらの攻撃から保護できる、堅牢かつ効率的なテストおよび評価方法を実装する必要があります。 このような実装には、厳密なテスト手順、攻撃をシミュレートするための「レッド チーム」の採用、悪意のある攻撃者や劣悪なデータによってモデルが侵害されていないことを確認するためのモデルの継続的な更新が含まれる可能性があります。

アルゴリズム取引における敵対的攻撃の問題を無視すると、重大な経済的損失から企業の評判の低下、さらには広範な経済的混乱に至るまで、壊滅的な結果が生じる可能性があります。 ML モデルへの依存度が高まる世界では、金融セクターは金融システムのセキュリティと完全性を確保するために、事後対応型からプロアクティブ型に移行する必要があります。

Joshua Steier 氏はテクニカル アナリスト、Sai Prathyush Katragadda 氏は非営利、無党派の RAND Corporation のデータ サイエンティストです。

Copyright 2023 Nexstar Media Inc. 無断複写・転載を禁じます。 この素材を出版、放送、書き換え、または再配布することはできません。