ウェブサイト検索

自動連想ニューラル ネットワークとは何ですか?


オートエンコーダ ネットワークは、自動連想ニューラル ネットワークとも呼ばれ、出力層で入力パターンを複製することに非常に優れた特定のタイプのニューラル ネットワークであり、次のようなさまざまなドメインで重要な成果を達成できます。パターンの識別、生物学的情報の分析、音声認識、信号の検証などです。これらのネットワークは、関連付けのプロセスを模倣して調査することにより、データを表現し、その複雑さを軽減するための非常に効果的なツールを提供します。

自動連想ニューラル ネットワークではトレーニング手順を使用して、入力パターンとそれに関連する出力を収集します。入力が歪んでいたり、音量が大きい場合でも、ネットワークはパターンを保存および取得することを学習します。入力ベクトルと出力ベクトルは、これらのパターンを表すために使用されます。

自動連想ニューラル ネットワークを理解する

自動連想ニューラル ネットワークは、入力ベクトルと出力ベクトルが同一である特別な種類のニューラル ネットワークであり、これらのネットワークの主な目的は、入力パターンとそれに対応する出力の間の関連性を学習することであり、それはトレーニング プロセスを通じて達成されます。ネットワークは、歪んだ入力やノイズの多い入力からパターンを保存および取得することを学習します。

自動連想ニューラル ネットワークのトレーニング

自動連想ニューラル ネットワークのトレーニング プロセスには、入力ベクトルと出力ベクトル間の相関に基づいてユニット間の重みを設定することが含まれます。古典的な学習ルールである Hebb ルールは、重みを決定するためによく使用されます。ヘッブの法則によれば、2 つのベクトルが正の相関がある場合、それらの間の結合の強度は増加します。負の相関は、2 つのベクトル間の接続強度の低下を示します。

自動連想ニューラル ネットワークのアーキテクチャ

自動連想ニューラル ネットワークのアーキテクチャは、5 層のパーセプトロン フィードフォワード ネットワークで構成されます。ネットワークは、直列に接続された 3 層の 2 つのニューラル ネットワークに分割できます。最初のネットワークは、入力ベクトルの情報をより小さい次元に縮小します。 2 番目のネットワークは、圧縮された情報を使用して元の入力を復元することにより、逆方向に機能します。このアーキテクチャの重要なコンポーネントは、データ圧縮とレイヤーの強力な特徴抽出機能を提供するボトルネック レイヤーです。

以下はアーキテクチャを視覚的に表現したものです。

自動連想ニューラル ネットワークのトレーニング

自動連想ニューラル ネットワークのトレーニング プロセスには、入力ベクトルと出力ベクトル間の相関に基づいてユニット間の重みを設定することが含まれます。古典的な学習ルールである Hebb ルールは、重みを決定するためによく使用されます。ヘブの法則によれば、2 つのベクトルが正の相関がある場合、それらの間の接続強度は増加するはずです。負の相関について言えば、接続強度の低下を示します。

W で示される重み行列は、次の式を使用して計算されます。

$$\mathrm{\mathrm{W=\sum_{p=1}^pS^{T}(p)S(p)}}$$

ここで、T は学習率、S(p) は個別の n 次元プロトタイプ パターンを表します。

自動連想ニューラル ネットワークによるテストと推論

入力がモデルにとって「既知」であるか「未知」であるかを判断するには、テスト アルゴリズムまたは推論アルゴリズムが使用されます。アルゴリズムの手順は次のとおりです。

  • トレーニング段階で生成された重みを使用します。

  • 入力ユニットのアクティブ化を入力ベクトルと等しく設定します。

  • 次の式を使用して、各出力ユニットへの正味入力を計算します。

  • $$\mathrm{y-in_{j}=\sum_{i}x_{i}w_{ij}}$$

  • 活性化関数をネット入力に適用して出力を計算します。ネット入力が 0 より大きい場合、出力は +1 になり、それ以外の場合は -1 になります。

出力ユニットがネットワークに格納されているものと同じパターンを生成する場合、入力ベクトルは「既知」であると認識されます。

自動連想ニューラル ネットワークのストレージ容量

直交ベクトルは自己連想ニューラル ネットワークの記憶容量を増やすことができますが、直交ベクトルの数とネットワークの再現能力の関係は n-1 よりも複雑です。次元、ネットワーク アーキテクチャ、トレーニング アルゴリズムなどの要素がストレージ容量に影響します。直交ベクトルは干渉を軽減しますが、活性化関数や最適化アルゴリズムなどの他の要素も影響します。したがって、正確な関係は複雑であり、さまざまな要因によって決まります。

自動連想ニューラル ネットワークの応用

自動連想ニューラル ネットワークは、パターンを学習して認識する優れた能力により、幅広い用途に利用できます。主要なアプリケーションのいくつかをさらに詳しく見てみましょう。

  • パターン認識: 自動連想ニューラル ネットワークは、さまざまなドメインのパターン認識タスクに広く使用されています。彼らは複雑なパターンを学習し、正確に分類する能力を持っています。画像認識の領域では、これらのネットワークは物体、顔、複雑な視覚パターンを識別できます。音声認識では、話された言葉を解読し、さまざまな音声を区別できます。さらに、自動連想ニューラル ネットワークは手書き認識に効果的であり、手書き文書のデジタル化を可能にします。

  • 音声認識: 自動連想ニューラル ネットワークは、音声認識システムにおいて重要な役割を果たします。さまざまな音声をトレーニングすることで、これらのネットワークはさまざまな話者を識別して区別する方法を学習できます。この機能により、ネットワークが特定の音声コマンドを正確に認識して応答できる、音声制御デバイスの開発が可能になりました。話者検証システムでは、自動連想ニューラル ネットワークが音声の特徴に基づいて主張された話者の信頼性を検証し、セキュリティ対策を強化します。

  • 信号検証: 自動連想ニューラル ネットワークは、信号検証タスクにおいて非常に効果的です。信号がノイズや干渉によって破損する可能性があるシナリオでは、これらのネットワークは有効な信号と無効な信号を区別することを学習できます。この機能により、信号処理システムの精度と信頼性が向上します。たとえば、電気通信では、自動連想ニューラル ネットワークが受信信号からノイズを除去するのに役立ち、その結果、データの送信と受信の品質が向上します。

結論として、自動連想ニューラル ネットワークは、連想プロセスをシミュレーションおよび探索するための貴重なツールを提供します。その優れたパターン認識能力は、バイオインフォマティクス、音声認識、信号検証などのさまざまな分野での応用と相まって、人工知能と機械学習の進歩を推進し続けています。