本文へスキップ
Cortex Wiki
目次

パソコンでローカルAI

オープンなモデルをインターネットなしでパソコンで動かせます。Cortex がパソコンを分析し、快適に動くモデルを示して、ダウンロードまで行います。

対応: Windows、macOS、Linux更新バージョン 6.75.342

ローカルAI は、すべてがあなたのパソコンの中で動きます。データはパソコンの外に出ず、インターネットなしで使え、プランの上限も消費しません。オフにすれば、何も動いていません。

ローカルAI を開く

パソコンで、ショートカットバーの ローカルAI をタップします。ページには 概要、モデル、カタログ、マイコンピューター、設定 のタブがあります。

ローカルAI のページ。パソコンの分析結果とモデルのカタログ
分析では、メモリ、グラフィックボード、プロセッサー、ディスクを確認できます

モデルを選んでダウンロードする

  1. カタログ タブを開きます。Cortex はすでにパソコンのメモリ、プロセッサー、グラフィックボードを分析しています。
  2. 一番上に あなたのPCにおすすめ のモデルが表示されます。各モデルにはファミリーの公式ロゴとバッジが付いています。緑 は快適に動く、黄 は動くが遅い、赤 は入らない、という意味です。理由も 1 行で表示されます。
  3. 用途(プログラミング、推論、軽量)、サイズ、ファミリー で絞り込み、おすすめ順・小さい順・ダウンロード数順・新しい順に並べ替えできます。公式ファミリーの新しいモデルは自動で追加され、新規 バッジが付きます。Hugging Face 全体から検索することもできます。
  4. ダウンロード をタップします。ダウンロードは一時停止して途中から再開でき、最後に検証されます。
ローカルAI のカタログ。このパソコンでの性能バッジ付き
カタログで、パソコンで快適に動くモデルが分かります

オンにしてチャットで使う

  1. 概要 で ローカルAIをオン にし、使用するモデルを選びます。
  2. チャットでモデル選択を開き、Cortex Local を選びます。
  3. いつもどおり会話します。処理はすべてパソコンの中で行われます。
オンになったローカルAI。エンジン、使用中のモデル、「スマホで使う」の設定
概要:エンジンの状態、使用中のモデル、スマホで使う

ショートカットバーの ON と OFF

ショートカットバーのローカルAI のアイコンで状態が分かります。緑の ON(オン)、灰色の OFF(オフ)、黄色は読み込み中、赤はエラーです。マウスを重ねると、モデルと速度が表示されます。

会話の途中でローカルAI をオフにすると、「ローカルAIはオフです — Cortexで続けます。」と表示され、会話は自動的に Cortex のクラウドに切り替わり、ローカルモデルは選択肢から外れます。ローカルAI が 応答しなくなった 場合は、その場でお知らせし、設定 の 予備のクラウド がオンならクラウドで続けます。オフの場合は、ローカルAI をもう一度オンにするか、モデルを切り替えるよう求められます。

モデルを削除する

モデル タブで PCから削除 をタップすると、空き容量を増やせます。使用中のモデルは、先に切り替える必要があります。

スマホで使う

スマホからパソコンのモデルと会話したいときは、マイPCのAI をご覧ください。

アプリの実際の画面です(デモ用アカウント・架空のデータ)。