Intel iMac 2019で「gpt-oss」を試してみた結果

効率化

やめたほうがいいです。

あくまで Intel iMac 単体スペックでの検証であり、ハイエンドモデルであれば異なる感想になったかもしれません。
知識もないのに無謀なチャレンジをした筆者の話ですので、以下は参考程度にお読みください。

検証したPC環境では「Gpt-oss:20b」が走らなくはないけれど、簡単な1つの質問の回答を得られるまで5分ぐらいかかりました。
その他にも100字程度の文章の表記揺れなど、いくつか試してみましたが「実用レベルではない」というスピード感です。


検証したPCスペック
iMac 2019 27inch(Fusion Drive 1TB モデル)*Fusion Drive起動ではありません。
CPU:3.1 GHz 6コアIntel Core i5
起動ディスク(外付け):M.2 SSD 1TB(PCIe Gen3×4) Thunderbolt3 接続、空き領域700GB
GPU:Radeon Pro 575X 4 GB
メモリ:64 GB 2667 MHz DDR4
MacOS:Sonoma


ローカルAI環境 *Open webUIで操作する設定にしています
モデル:Gpt-oss:20b
LLM:Ollama (LM StudioはIntel Mac非対応)
Docker Desktop

まずは「Docker Desktop」のデフォルトの設定でスタート。「こんにちは」の返事になんと10分! しゃれにならないくらい遅い!
少しでも快適にしようとメモリやSwap領域を解放したり、試行錯誤を繰り返しましたが、設定を変更する度にContainerのエラーが起こり、修正方法もわけがわからず散々な目にあいました。(Docker Desktop 設定変更後のエラーはIntel Macで起こりやすいのだそうです)
最後はChatGPT-5に泣きつき、たどりついたのが下記です。

●GPT-5に推奨されたDockerの設定

 項目   推奨設定 
 CPU 4コア(物理6コアなら4コア程度)
メモリ 16GB
 Swap  2GB
Disk usage limit 256GB
ポート 3000(コンテナ8080へマッピング)

この設定で、冒頭に書いた「簡単な1つの質問の回答を得られるまで5分ぐらい」のスピードです。
ド素人なので詳しいことはわかりませんが、起動中にアクティビティモニターを見てみるとCPUを95%前後で使用していて、メモリプレッシャーは低いままでした。
これについてGPT-5に質問すると「MacのIntel CPUだと、20B級モデルは推論がかなり重く、GPU(特にNVIDIA系)がないと高速化はほぼ無理です」ということでした。
想像はしてたけど、こうきっぱり言われるとなんだかね……相棒がディスられたみたいでちょっと悲しい。
「gpt-oss」ならいけるかも!? と無謀なチャレンジをした私がバカなのであって、iMacはまだまだ優秀なのだ!

これ以上、相棒に無理をさせるわけにもいかないので、AIローカル環境用にインストールしたアプリや設定ファイルはすべて削除しました。
もう少しIntel iMacには現役で頑張ってもらいます!

追記:
ちなみにGPT-5には「ollama3:8b」モデルも勧められたので、削除する前に試しました。
スピード感はある程度快適だったので、性能を問わない雑談用なら良いかも知れません。


参考 iMac 2019-2020 Ratina 5K 27inch シリーズのCPU一覧

■2019
3.0GHz 6コア Intel Core i5
3.1GHz 6コアIntel Core i5 ←検証したスペック
オプション:3.6GHz 8コアIntel Core i9に変更可能
3.7GHz 6コアIntel Core i5
オプション:3.6GHz 8コアIntel Core i9に変更可能

■2020
3.1GHz 6コアIntel Core i5
3.3GHz 6コアIntel Core i5
3.8GHz 8コアIntel Core i7
3.6GHz 10コアIntel Core i9