ウェブサイト検索

Ubuntu/DebianでGPUなしでDeepSeek AIをインストールして実行する方法


DeepSeekは自然言語処理のために設計された最先端のAIモデルで、テキスト生成、要約、推論などの強力な機能を提供します。Linux上でローカルに実行できるため、プライバシー、コントロール、オフラインでのAIアクセスを求めるユーザーにとって優れた選択肢です。

DeepSeekの強みの一つはその柔軟性で、CPU専用システムでも実行できますが、専用GPUを使用することでパフォーマンスが大幅に向上します。CPUの場合、応答時間が遅くなる可能性があり、大きなモデルはかなりのRAMを必要とする場合があります。GPUを使用することで、DeepSeekは並列処理を活用して応答をはるかに迅速に生成でき、リアルタイムのインタラクションをよりシームレスにします。

このガイドでは、DeepSeekのインストールと設定UbuntuまたはDebianベースのLinuxディストリビューションで行う手順を説明し、高性能GPUがあるかどうかにかかわらず、自分のマシンでAIを始められるようにします。

このチュートリアルでは学びます:

  • DeepSeekを実行するためのOllamaのインストールと設定方法
  • システムリソースを最適化して最高のパフォーマンスを得る方法

前提条件

始める前に、システムが最低要件を満たしていることを確認してください。DeepSeekはCPUのみのマシンで動作できますが、高性能のプロセッサと十分なRAMがあれば、実行速度が向上します。
互換性のあるGPUがインストールされている場合、Ollamaは自動的にそれを検出し、加速処理に利用します。GPUが見つからない場合、モデルがCPUで実行されていることを示すメッセージが表示されます。
手動設定は必要ありません。

知っていましたか?<&47;b>DeepSeekは単なるAIモデルではなく、最先端のAI研究で使用される強化学習技術<&47;b>に触発されています!従来のモデルが受動的にテキストを生成するのに対し、DeepSeekは目標指向のトレーニング<&47;b>を取り入れており、ユーザーの意図に合わせて応答を継続的に洗練させます。

DeepSeekの671Bモデルは、これまでに訓練された中で最も大きなAIモデルの一つであり、ペタバイトを超えるストレージを必要とし、数千のGPUで同時に動作します!しかし、その効率的なアーキテクチャのおかげで、より小さな1.5Bモデルでも消費者向けハードウェアで高品質な結果を生成できます。

インストール手順

  1. Ollamaをインストールする: OllamaはDeepSeekモデルを実行するために必要です。機械学習モデルを効率的に実行するための最適化されたローカルランタイムを提供します。まず、curlがシステムにインストールされていることを確認してください。インストールされていない場合は、次のコマンドでインストールできます:

    sudo apt install curl

    curlが利用可能になったら、公式のOllamaインストールスクリプトをダウンロードして実行します。

    curl -fsSL https://ollama.com/install.sh | sh

    インストール後、Ollamaが正しくインストールされていることを確認するために、そのバージョンを確認してください。

    ollama --version

    さらに、Ollamaサービスが次のように実行されていることを確認してください:

    systemctl is-active ollama.service

  2. DeepSeek-R1のダウンロード</strong>: 今、実行したいモデルを取得してください。DeepSeek-R1モデルはサイズが異なり、ハードウェアの能力に基づいて速度と精度のバランスを取ります。大きなモデルはより良い推論と精度を提供しますが、より多くのRAM、VRAM、およびディスクスペースを必要とします。例えば、7Bモデルをインストールするには、次のコマンドを実行します:

    ollama pull deepseek-r1:7b

    適切なモデルの選択:

    • 1.5B – 7Bモデル:日常的なタスク、チャットアプリケーション、軽量推論に最適です。
    • 8B &8211; 14Bモデル: 改善された推論を提供しながら、比較的効率的なバランスの取れたモデルです。
    • 32B &8211; 70Bモデル: 高度に進化しており、研究や深い分析に適していますが、かなりのリソースを必要とします。
    • 671Bモデル: データセンター級のハードウェアが必要です。最先端のAI研究に使用されます。

    注意
    512GB以上のRAMと100GB以上のVRAMを持つ複数のGPUがあっても、DeepSeek-R1:671Bモデルは6710億のパラメータのために遅く、応答ごとに膨大な計算が必要です。複数のGPUは全体的なスループットを改善しますが、データの移動、メモリ帯域幅、計算の制限がボトルネックを生むため、単一のリクエストのレイテンシを大幅に削減することはありません。このスケールでは高性能なAIインフラストラクチャでも苦労しており、リアルタイムアプリケーションには7Bから14Bの小型モデルがはるかに実用的です。671Bモデルは、精度が速度を上回る研究や大規模なAI実験に最適です。

    不明な場合は、一般的なモデルとしてdeepseek-r1:7bから始めてください。

  3. DeepSeekの使用を開始する: モデルがダウンロードされたら、直接対話を開始できます。DeepSeek-R1モデルを実行するには、次のようにします:

    ollama run deepseek-r1:7b

    Ollamaのドキュメントで、より高度な使用法や設定を探ることができます。

  4. 統合のためにローカルAPIを使用する: DeepSeekとプログラム的に対話する必要がある場合は、APIを有効にしてください。

    ollama serve & curl http://localhost:11434/api/generate -d '{"model": "deepseek-r1:7b", "prompt": "Hello, how are you?"}'

結論

DeepSeekはさまざまなモデルサイズを提供しており、それぞれ異なるハードウェア要件があります。システムが大きなモデルで苦労している場合は、`1.5b`のような小さいバリアントを使用することを検討してください。GPUなしでDeepSeekを実行することは可能ですが、最適化を行うことで効率が向上します。

関連記事: