目次
人工知能(AI)とは何か?
人工知能(AI)とは、通常人間の知能を必要とするタスクを機械やコンピュータが実行することを指す幅広い概念である。これには、問題解決、学習、計画、言語の理解、パターンの認識、知覚などのタスクが含まれる。AIは本質的に、人間の行動や知能を模倣するために機械を訓練する科学である。
AIは主に2つのタイプに分類される:狭いAIと一般的なAI。ナローAIは、音声認識のような特定のタスクを実行するように設計されている。限られたコンテキストのもとで作動し、設計された特定のタスクにおいて高い能力を発揮する。一方、一般的なAIは、その最高の状態で、人間ができるあらゆる知的タスクを実行することができる。さまざまな分野の知識を理解し、学習し、適応し、実行する能力を備えている。
AIの究極の目標は、人間の介入なしに自律的かつ知的に機能するマシンを創造することである。AI開発の頂点は、環境を認識し、人間の目標を達成するために自立した行動をとるシステム、インテリジェント・エージェントの創造である。
This article is a part of a series on AI cyber security.
機械学習(ML)とは?
Machine learning (ML) is a subset of AI that focuses on the development of computer programs that can learn from and adapt to new data, without being explicitly programmed to do so. In other words, ML is a method of feeding data to algorithms, and training them to make decisions based on that data.
機械学習アルゴリズムには、主に3つのタイプがある:
- 教師あり学習:ラベル付けされたデータを使ってモデルを学習する。
- 教師なし学習:分類もラベル付けもされていないデータを使ってモデルを学習する。
- 強化学習:モデルが過去の経験から学習し、成功した場合は報酬を与え、失敗した場合はペナルティを与えることで、特定の決定を下すようにモデルを訓練する。
エキスパートからのアドバイス
スティーブ・ムーアは、Exabeamのバイスプレジデント兼チーフ・セキュリティ・ストラテジストで、脅威検知のためのソリューションの推進を支援し、セキュリティ・プログラムの推進や侵害対応について顧客にアドバイスを行っています。The New CISO Podcast」のホストであり、Forbes Tech Councilのメンバー、ExabeamのTEN18の共同創設者でもあります。
私の経験から、特にセキュリティ・オペレーションにおいてAIとML技術を効果的に活用するための高度なヒントを紹介しよう:
MLモデルを安全にトレーニングするための合成データの導入
機密データや専有データを使用できない場合に、AIモデルをトレーニングするための合成データセットを生成します。これにより、堅牢なトレーニングパイプラインを維持しながら、プライバシー規制へのコンプライアンスを確保できます。
AIとMLのハイブリッドシステムを導入し、重層的な防御を実現
従来のルールベースのAIと高度なMLモデルを組み合わせてハイブリッドシステムを構築する。ルールベースのAIは明確なパターンを持つ既知の脅威に対応し、MLは異常やゼロデイ脅威を検出することで、包括的なカバレッジを提供します。
MLモデルにおける敵対的ロバスト性の重視
データポイズニングや回避などの敵対的攻撃に耐えるMLモデルを設計する。敵対的トレーニング、勾配マスキング、防御的蒸留のようなテクニックは、モデルの耐性を高めることができます。
転移学習を使ってAIの導入を加速
あらかじめ訓練されたモデル(例えば、視覚のImageNetやNLPのGPTのような大規模なデータセットから)をドメイン固有の問題に適用します。このアプローチは、精度を向上させながら、開発時間と計算コストを削減します。
説明可能性ツールをAI主導のセキュリティシステムに組み込む
SHAP(SHapley Additive exPlanations)やLIME(Local Interpretable Model-Agnostic Explanations)のようなツールを使用して、AIの決定を解釈する。これは、セキュリティ・ワークフローにおいてアラートを正当化し、規制コンプライアンスを維持するために不可欠です。
Recommended reading: UEBA (User and Entity Behavior Analytics): Complete Guide
AIとMLはどのようにつながっているのか?
AIとMLは相互に関連した分野である。AIは、人間が知的であると考えるような方法で機械がタスクを実行できるという、より広い概念である一方、MLは、機械がデータから学習することを可能にする、AIのアプリケーションまたはサブセットである。
機械学習は、AIを実現するための手段である。Netflix、YouTube、Spotifyのようなレコメンデーション・システム、GoogleやBaiduのような検索エンジン、FacebookやInstagramのようなソーシャルメディア・フィード、ChatGPTやGoogle Bardのようなチャットボットなど、私たちが毎日使っているサービスの多くを動かしているプロセスだ。目標は、特定のタスクを実行するように明示的にプログラムされることなく、行動を適応させることができるマシンを開発することである。
機械学習はAIの一分野であり、広範なアプリケーションに強力かつ実用的なソリューションを提供してきた。しかし、AIの分野は単なるMLにとどまらず、展開と運用(MLOpsとも呼ばれる)、ガバナンス、説明可能性(AIシステムがある決定を下した理由を説明したり正当化したりする能力)、安全性、AIシステムが個人や社会一般に与える全体的な影響など、より広範な側面を含んでいる。
AIとML:主な違い
1.目的
AIの主な目的は、知的に独立して機能するシステムを作ることである。AIは、人間の知性を必要とする作業を自動化することで、私たちの生活を容易にすることを目指している。
The main objective of ML is to enable machines to learn from data so they can give accurate predictions or make decisions without being explicitly programmed to perform the task.
2.テクノロジー
AI技術には、エキスパート・システム、自然言語処理(NLP)、ロボット工学、ニューラルネットワークなど、幅広いツールが含まれる。これらの技術により、AIシステムは複雑なデータを解釈して対応し、意思決定を自動化し、人間のような相互作用をシミュレートすることができる。例えば、ロボット工学とAIアルゴリズムを組み合わせることで、さまざまな環境でタスクを実行できる自律型マシンを実現することができる。
MLの技術は、主にアルゴリズムと統計モデルに焦点を当てている。MLの主要テクノロジーには、決定木、分類器、ニューラルネットワークなどがある。MLのサブセットであるディープラーニングは、大規模なデータセットを分析するために階層化されたニューラルネットワークを利用し、機械が正確な予測を行ったり、複雑なパターンを特定したりすることを可能にする。これらのML技術は、画像認識、音声認識、予測分析などのタスクに不可欠であり、システムは膨大なデータから学習し、特定のタスクを長期的により効率的に実行する。
3.必要条件
AIシステムには、複雑な計算やデータ処理をサポートする堅牢なインフラストラクチャーだけでなく、それらが動作するように設計された領域の包括的な理解が必要です。これらのシステムは、人間の知性や意思決定プロセスを効果的に模倣するために、しばしば大きな計算能力、洗練されたアルゴリズム、大規模なデータセットを必要とする。さらに、AIの開発には、心理学、神経科学、言語学などの分野の知見を統合する学際的なアプローチが求められる。
MLは、主にデータを中心に、より焦点を絞った前提条件を必要とする。MLでは、データの質、量、関連性が非常に重要である。なぜなら、アルゴリズムは与えられたデータから直接学習するからだ。つまり、正確なMLモデルを学習するためには、十分な注釈が付けられた広範なデータセットが不可欠なのだ。さらに、MLは統計的手法と分析に大きく依存するため、確率、統計、データ分析などの分野に習熟する必要がある。MLに必要なハードウェアはタスクの複雑さによって異なり、基本的なモデル用のパーソナルコンピュータから、一部のディープラーニング・アプリケーション用の何千台もの強力なサーバーまで多岐にわたる。
4.スキルと専門知識
AIやMLに求められるスキルや専門知識は、これらの分野の技術的・概念的な複雑さを反映している。AI分野では、プログラミング能力(Python、R、Javaなどの言語)、アルゴリズムやデータ構造に関する深い理解、ニューラルネットワークに関する知識、AIフレームワークやツールに関する知識など、幅広いスキルが求められます。さらに、AI開発では人間の複雑な行動や認知プロセスをエミュレートするシステムを設計することが多いため、問題解決能力、批判的思考、創造性などのソフトスキルも不可欠です。
対照的に、MLの専門知識はデータ中心のスキルに重点を置いている。これには、統計分析、データマイニング、データ処理の熟練が含まれる。MLの専門家は、TensorFlow、Keras、scikit-learnなどのMLフレームワークやライブラリを使いこなす必要があります。また、様々なMLアルゴリズムとその適切なアプリケーションを理解する必要がある。大規模なデータセットを扱い、MLモデルを改良するための実験を実施した実務経験も重要である。MLデータやアルゴリズムに内在する倫理的な意味合いやバイアスに対する理解は、この分野において不可欠であると認識されつつある。
生成AIと大規模言語モデルはどのようにフィットするのか?
ジェネレーティブAIとは、人間が生成したコンテンツに似たテキスト、画像、音楽などの新しいコンテンツを生成することに焦点を当てたAIのカテゴリーである。GoogleのBardやGeminiシリーズのような大規模言語モデル(LLM)は、ジェネレーティブAIの代表的な例である。これらのモデルは、膨大な量のテキストデータを処理し、人間の文体を模倣し、高度にニュアンスに富んだ自然言語の指示に応答できるコンテンツを生成する。
LLMは現在、コンテンツ作成、言語翻訳、チャットボット用のリアルな対話生成などのタスクに広く使用されている。LLMの有効性は、文脈に応じた適切な方法でテキストを理解し、生成する能力にあり、教育、カスタマーサービス、コンテンツモデレーションなど、幅広い用途で利用されている。
ジェネレーティブAIはテキスト生成にとどまらない。例えば、ビジュアルアートの分野では、生成的敵対ネットワーク(GAN)が非常にリアルな画像や芸術さえも作り出すことができる。このようなシステムでは、2つのニューラルネットワークがゼロサムゲームで競い合い、一方のエージェントの利益は他方のエージェントの損失となる。
この能力は、バーチャルリアリティやゲーム開発、他のAIモデルの学習データ生成などのアプリケーションにとって極めて重要である。ジェネレーティブAIの適応性と創造的な可能性は、機械が創造できるものの境界を押し広げ、創造的なプロセスで人間とどのように協力できるかを押し広げ、AI分野で急速に進化するフロンティアとなっている。
AIとMLの一般的な例
人間の生活を改善するAIシステム
- 製造ロボット:これらのロボットは、工場における反復的で肉体的に過酷な作業を自動化する。AIを搭載することで、生産プロセスを最適化し、精度と品質を向上させ、MLとセンサーデータ分析によってさまざまなタスクに適応することができる。
- 自動運転車:AIは、これらの車両がセンサーデータを解釈し、リアルタイムで判断を下し、新たな運転シナリオから学習することを可能にする。この技術は、事故を減らし、交通の流れを改善し、運転できない人々にモビリティ・ソリューションを提供することを目的としている。
- 大規模言語モデル(LLM):OpenAIのChatGPTやGoogleのBardのようなLLMは、人間のようなテキストを処理・生成し、バーチャルアシスタント、コンテンツ作成、言語翻訳、情報検索などのアプリケーションを可能にする。膨大なテキストデータセットから学習し、文脈を理解し、クエリに答え、さらには会話をシミュレートします。
- AIによる医療管理:医療におけるAIには、患者ケアのための予測分析、個別化医療、医療画像分析などがある。これらのシステムは、患者データのパターンを特定し、早期診断を支援し、治療計画を最適化することができる。
- 自動化された金融投資:AIシステムは市場動向を分析し、株価パフォーマンスを予測し、ポートフォリオを管理する。過去のデータと機械学習を用いて、投資判断に必要な情報を提供し、投資家にパーソナライズされたアドバイスと自動売買を提供する。
一般的な機械学習アルゴリズム
- 線形/ロジスティック回帰:連続的結果(線形)またはカテゴリー的結果(ロジスティック)を予測するために使用される。これらのアルゴリズムは、従属変数と1つまたは複数の独立変数の間の関係をモデルする。
- 決定木:フローチャートのような構造で、各内部ノードは属性のテスト、各ブランチはテストの結果、各リーフノードはクラスラベルを表す。分類や回帰のタスクに有用。
- ランダムフォレスト:学習時に多数の決定木を構築し、クラスの最頻値(分類)または個々の木の平均予測値(回帰)を出力するアンサンブル学習法。
- 畳み込みニューラルネットワーク(CNN):主に画像処理で使用されるこのネットワークは、畳み込みと呼ばれる数学的演算を採用しており、画像認識、分類、物体検出のタスクで効果を発揮している。
- Transformers:シーケンシャルなデータを扱うために設計されたディープラーニングアーキテクチャだが、これまでのモデルとは異なり、データを順番に処理する必要はない。Transformersは、NLPタスクにおいて最先端の結果を達成している。
AIと機械学習:いつ使うか?
完全なAIシステムとMLモデルのどちらを選択するかは、プロジェクトの具体的な要件と目的によって決まる。AIがより広範なテクノロジーとアプリケーションを包含するのに対し、MLはデータ分析と確率計算を伴うパターン認識のための特定のテクニックを提供する。
AIは、人間の認知機能をシミュレートできるシステムを作ることを目的とする場合に、最もよく活用される。複雑な意思決定、問題解決、学習能力を必要とするタスクに最適だ。例えば、人間の言葉を理解し応答できる対話型チャットボットや、ダイナミックな環境をナビゲートし適応する必要のある自律走行車、個々のユーザーに合わせてコンテンツを調整するインテリジェントな推薦システムなどを開発するには、完全なAIシステムが必要となる。AIはまた、人間の知性に似た機能を発揮するために、NLP、ロボット工学、コンピューター・ビジョンなど、さまざまな技術をミックスする必要があるシステムの開発にも使われている。
MLモデルは、大規模なデータセットを分析し、そのデータに基づいて予測や分類を行うことを主な目的とする場合に適している。MLは、人間にはすぐには分からないパターンや傾向を特定する必要があるシナリオで特に効果的である。これには、MLアルゴリズムが不審なパターンを識別するために学習できる金融取引における詐欺検出や、MLモデルが過去のデータに基づいて患者の転帰を予測できるヘルスケアなどのアプリケーションが含まれる。MLはまた、音声認識、画像分類、予測分析などの分野でも広く使われており、システムは大量のデータから学習し、時間の経過とともに精度を高めていく。
AIと機械学習:セキュリティにどのように役立つか
AIとMLは、組織がセキュリティに取り組む方法に大きな影響を与えている。これらのテクノロジーを活用することで、潜在的な脅威をプロアクティブに特定し、被害が発生する前に緩和することができます。AIとMLは、脅威検知の精度を高め、レスポンスタイムを短縮し、人的介入への依存を減らすのに役立っています。
パターンマッチングとML:UEBAのコア技術
ユーザーとエンティティの行動分析(UEBA)システムは、潜在的なセキュリティ脅威を特定するためにパターンマッチングとMLを活用する。これらのシステムは、ユーザーとエンティティの行動を継続的に監視し、ML アルゴリズムを使用して正常な行動パターンを確立します。この確立されたパターンからの著しい逸脱は、潜在的なセキュリティ脅威としてフラグが立てられます。
UEBAにおけるパターンマッチングは、現在のユーザーまたはエンティティの振る舞いを、確立された通常のパターンと比較することを含む。これは大量のデータを扱うので複雑なタスクである。しかし、MLアルゴリズムの助けを借りれば、このタスクは管理可能で効率的になる。MLアルゴリズムは膨大な量のデータを短時間で処理し、人間が見つけることが不可能なパターンを特定することができる。
NLPと翻訳エンジン
NLP、翻訳エンジン、テキストパターン認識は、潜在的なセキュリティ脅威についてテキストベースのデータを分析する上で重要な役割を果たす。
NLPは、機械が人間の言葉を理解し解釈することを可能にする。セキュリティの文脈では、電子メールやネットワーク経由で送信されるデータ、ログデータなどのテキストデータを分析し、潜在的な脅威を発見するために使用できる。例えば、電子メールで使用されている言語を分析することで、フィッシングメールの特定に役立てることができる。
生成AIとLLM
LLMは従来のNLPモデルを進化させたもので、ここ数年で驚くべき進歩を遂げている。LLMは、人間の能力に匹敵するレベルで、テキスト中のパターンを理解し、再現することができる。つまり、サイバー脅威のパターンの分析、セキュリティ・ツールのドキュメントの読み取り、セキュリティ・システムの高度なクエリの生成にも使用できる。
過去のサイバーセキュリティ・データで訓練されたLLMは、共通のパターンと傾向を学習し、未知のデータから脅威を予測できるようになる。これは、セキュリティ・アナリストが事前に脅威を予測し、セキュリティ・ツールの価値を最大化するのに役立ちます。
エクサビーム・セキュリティ・ソリューションのAI
Exabeam Fusion Enterprise Edition Incident Responderは、AIと自動化をセキュリティ運用ワークフローに適用することで、サイバー脅威と戦うための総合的なアプローチを実現し、最も効果的な脅威の検知、調査、対応(TDIR)を提供します。AI主導の検知は、ユーザーやエンティティの正常な行動を学習することで高リスクの脅威をピンポイントで特定し、コンテキストを考慮したリスクスコアリングで脅威の優先順位をつけることで、より迅速で正確、一貫性のあるTDIRを実現します。
ExabeamプラットフォームのAIとMLツールは、セキュリティ・オペレーション・チームにより迅速で正確な調査と対応を提供します。Exabeamは、TDIRのワークフローをAIで補完することで、アナリストのスキルアップを支援し、集中的かつ一貫した調査と対応のためのタスクを自動化します。
Exabeamについてもっと知る
ホワイトペーパー、ポッドキャスト、ウェビナーなどのリソースで、Exabeamについて学び、情報セキュリティに関する知識を深めてください。