膨大な量のテキストで学習した大規模言語モデル(LLM)とは、GoogleのChatGPTやGeminiのような生成AIチャットボットを動かす極めてスマートなエンジンのこと。

そんなLLMのローカル統合を可能にする初のウェブブラウザとなったのが、「Opera」です。

LLMがローカルにインストール可能だということは、すでに読んだことがある人もいるでしょう。こうしたAIモデルは各自のコンピュータに保存されるため、クラウドには何も送信する必要がありません。

機能させるにはそれなりのハードウェアを組み合わせることが必要ですが、プライバシーの観点からはローカルにインストールするほうが優れています。入力したプロンプトを盗み見られたり、AIの学習のために会話を使われたりする心配がないからです。

そして、さまざまなAI機能を導入してきたOperaが、この度ローカルLLMにまで拡張され、150種類以上のモデルから選択ができるようになりました。

OperaのローカルLLMとは?

さっそくOperaのローカルLLMを使ってみる前に、留意するべき点がいくつかあります。

まず、まだ実験段階のため、バグに気づくこともあるかもしれません。次に、ストレージに多少の空き容量が必要です。2GB以下のLLMもありますが、中には40GBを超えるものもあります。

LLMが大きければ大きいほど優れた答えが得られますが、ダウンロードや実行にかかる時間も長くなります。

モデルの性能は、実行しているハードウェアのセットアップにある程度依存するため、古いマシンを使っている場合は、反応が返ってくるのに少々待たされることもあるかもしれません(繰り返しますが、これはまだベータテストです)。

Credit: Lifehacker

こうしたローカルLLMには、大手企業(Google、Meta、Intel、Microsoft)がリリースしたモデルと、研究者や開発者が製作したモデルが混在しています。

そして、多くがインストールも使用も無料です。理由の1つは、ユーザーが各自のコンピュータを使ってLLMを動かすため、LLMの開発チームにはランニングコストがかからないため。

こうしたモデルの中には、コーディングなど特定のタスク向けのものもあり、ChatGPTやCopilot、Geminiに期待するような一般常識の問題に対する回答は得られないかもしれないことを留意しましょう。

それぞれのモデルに説明が付いていますので、インストールする前に一度目を通して概要を把握することをおすすめします。

実際に使ってみた

執筆時点(2024年4月4日)では一般公開前の段階で、Operaの初期テスト版でのみ利用可能な機能です。試してみたい場合は、Opera Oneの開発者版をダウンロードして設定する必要があります。

それができたら、「Aria(小さなAのマーク)」のボタンをクリックして左側のサイドパネルを開き、指示にしたがって内蔵のAIボット「Aria」を設定します。なお、無料のOperaアカウントを作成するか、サインインが必要です。

「Aria」の準備ができたら、上部に「Choose local AI model」というボックスが表示されます。

これをクリックして「Go to settings」を選択すると、利用可能なLLMの一覧とそれぞれの関連情報が表示。LLMを選ぶと、バージョン一覧(ファイルサイズも併記)とローカルインストール用のダウンロードボタンが表示されます。

Credit: Lifehacker

Operaでは複数のLLMを設定することもできます。「Aria」ウィンドウの上部にあるドロップダウンメニューから各チャットで使用したいものを選ぶだけ

ローカルLLMを選択しない場合は、クラウドベースの「Aria」チャットボットを使用できます。チャットウィンドウの右上にある「+ボタン」をクリックすれば、いつでも新しいチャットを開始可能です。

こうしたローカルLLMの使い方は、クラウド上で動作するものとまったく同じ。文章を作成したり、人生から宇宙のことまで何でも質問したり、知りたいことについて何でもヒントを得ることができます。

なお、このようなモデルにはクラウドへのアクセスがないため、比較的新しい話題や時事的な話題をウェブで調べることはできません

Windows 11の今回のアップデートで、AI機能がさらに充実!すぐに使える新機能おすすめ5選 | ライフハッカー・ジャパン https://www.lifehacker.jp/article/2404-windows-11-moment-5-update/

ChatGPTは要約の鬼! 大量の情報から一瞬でデータを抽出するコツ | ライフハッカー・ジャパン https://www.lifehacker.jp/article/2404-ai-case/

YouTubeの動画を1分で要約できるSummarize.ing を使ってみた | ライフハッカー・ジャパン https://www.lifehacker.jp/article/2404-ai-work-hack-summarize-ing/

Source: Opera