ELYZA-LLAMA3-8Bによる日本語LLM推論速度比較

背景と目的

本記事では、ローカル環境で大規模言語モデル(LLM)を実行するためのオープンソースツール Ollama を使用し、日本語対応のLLMモデル ELYZA-LLAMA3-8B の推論性能をGPUごとに比較します。焦点は処理速度 (推論時間) にあり、出力内容の質には踏み込みません。

具体的には、太宰治の小説『走れメロス』のストーリー要約をモデルに指示し、500字要約1000字要約の2種類の出力を生成させた際の処理時間を計測し、GPU間で比較しました。

前回記事:もし、LLMに太宰治の『走れメロス』を要約させたらGPU構成ごとのパフォーマンスはどうなるのか?

テスト環境

推論を実行したマシンの主なハードウェア構成は以下の通りです。

CPU

AMD EPYC 9554 64コア/128スレッド

メモリ

合計384GB DDR5

ストレージ

1TB SSD S-ATA

GPU

  • NVIDIA GeForce RTX 5090 (32GB GDDR7)
  • NVIDIA RTX 5000 Ada (32GB GDDR6)
  • NVIDIA GeForce RTX 4090 (24GB GDDR6X)

OS

Ubuntu Linux

上記の単一マシン上で、OSはUbuntu Linuxを使用しています。各GPUごとに上記構成を揃え、他の要素は共通としました。

 

使用モデルと推論方法

テストに使用したモデル Llama-3-ELYZA-JP-8B は、ELYZA社が日本語向けに開発したパラメータ約80億の大規模言語モデルです。
Ollamaは公式のDockerイメージが提供されており、Linux環境ではDockerコンテナ上でNVIDIA GPUを利用して動作させることが可能です。
本テストでもOllamaのDockerコンテナ (GPU対応) を使用し、REST API経由でモデルにプロンプトを投げて推論を行いました。

実施方法

  • あらかじめollama/ollamaイメージをGPU対応で起動 (例: docker run -d –gpus=all -p 11434:11434 ollama/ollama)
  • ローカルにモデルデータ dsasai/llama3-elyza-jp-8b:latest を用意

500字要約の場合、以下のようなコマンドで推論を行いました。

推論コマンド例 (500字要約)

curl -X POST http://localhost:11434/api/generate \
  -H "Content-Type: application/json" \
  -d '{"model":"dsasai/llama3-elyza-jp-8b:latest","prompt":"太宰治著『走れメロス』のストーリーを500字で要約してください。","stream":false}'

各GPUについて、このようなリクエストを500字要約・1000字要約それぞれ3回ずつ実行し、開始から終了までの経過時間を計測しました。
出力された要約結果の内容には立ち入りませんが、モデルからは指定の字数に近い日本語テキストが返されています。
ここではその推論処理時間 (秒) の平均のみを比較対象とします。

入力プロンプト

テストでモデルに与えた指示 (プロンプト) は次の2種類です。

  • 500字要約: 「太宰治著『走れメロス』のストーリーを500字で要約してください。」
  • 1000字要約: 「太宰治著『走れメロス』のストーリーを1000字で要約してください。」

いずれも太宰治の短編小説『走れメロス』の内容を指定した文字数で要約するよう求めるものです。
モデルは日本語での出力に対応しており、指示も日本語で与えています。

推論時間の比較結果

各GPU上で上記プロンプトを実行した際の推論時間の測定結果を表にまとめます。
500字要約と1000字要約それぞれについて、推論に要した平均時間 (秒) を示し、併せてRTX 5090を基準(1.0x)とした相対的な所要時間 (倍率) も示しています。

表:各GPUにおける要約生成時間

GPU RTX 5090(基準)
500字要約平均時間(秒) 2
5090との比較 1.00
1000字要約平均時間(秒) 3.34
5090との比較 1.00x

 

GPU RTX 4090
500字要約平均時間(秒) 2.46
5090との比較 1.23x
1000字要約平均時間(秒) 3.82
5090との比較 1.14x

 

GPU RTX 5000 Ada
500字要約平均時間(秒) 4.43
5090との比較 2.22x
1000字要約平均時間(秒) 7.22
5090との比較 2.16x

※測定値は1回あたりの推論処理にかかった時間の実測であり、秒数は小数点以下3桁までの平均的な値です (端数四捨五入) 。

 

生成された要約文(参考)

各GPUで生成された要約文 (500字/1000字) ※Clickで表示

GPU RTX 5090
500字要約

太宰治の小説「走れメロス」は、友人王子に裏切られてもなお友情を信じる主人公メロスの物語です。メロスは王子から借りた鎖と金貨を返すために旅に出ますが、王子はメロスを騙し、鎖を切って逃亡します。\n\nメロスは悲嘆に暮れながらも、王子が必ず追い付いてくることを信じて走り続けます。途中、メロスは老婆と出会い、彼女の「友情」をテーマにした話を聞きますが、それでもなお、メロスの足は止まりません。\n\nやがて、メロスは疲労で倒れますが、王子が現れることはありませんでした。メロスはこの事実を受け入れて絶望し、王子の欺罔に気付いたのです。結局、メロスの鎖は切られていたため、王子は死刑を免れることができました。\n\n小説は、友情と裏切りを描きながらも、最後にはメロスが「走り続ける」ことの意味を問いかけます。メロスが走る理由は、王子との友情を信じていたからです。走り続けた結果、メロスは自らの命を落とすことで、「友情」を守ったとも言えるのです

2.005176301秒

1000字要約

太宰治の小説「走れメロス」は、1947年に発表された短編小説です。物語は、王様が命じた「自分の友人を殺す」という命令に従うかどうかで主人公メロスの信頼性を試そうとするという奇怪な話から始まります。\n\nメロスは、友人のセリヌンティウスを殺害するよう王様に命じられますが、メロスは断固として拒否します。彼は「私はあなたの犬ではありません」と宣言し、「私には友達がおり、私の生命はその友人によってのみ支えられている」と告げる。\n\n一方で、セリヌンティウスは王様に嘘を吐き、メロスが命令を実行したと告発します。王様は怒り狂い、メロスの首を切断するように命じます。しかし、メロスはこの命令も拒否し、「私は走らなければなりません」と宣言して逃亡します。\n\n追手の兵士に捕まってしまうが、メロスは「私の友人セリヌンティウスを殺した」などと嘘を吐き、王様を欺く。処刑寸前で、メロスは真相を語り始める。彼は「私はあなたの命令に背いた」と告げ、「私には命が惜しいからではない」として「友人セリヌンティウスを殺した」ことを否定します。\n\n王様は怒りを爆発させ、メロスを首を切断するように命じる。メロスは最後の力を振り絞って走り始めますが、途中で疲労して倒れ、「私が友人セリヌンティウスを殺す」ことを認める。王様の兵士に捕まってしまうと、メロスは「私は友人セリヌンティウスを殺した」と告げる。\n\n処刑台で、王様の前でメロスは首を切断される直前に、真相を語り始める。「友人セリヌンティウスは私が殺さなかった」ことを明かし、「彼は今も生きている」と告げた。王様は激怒し、メロスを処刑するように命じる。\n\n「走れメロス」の物語は、王様の命令に従うかどうかで主人公メロスの信頼性を試すという奇怪な話から始まりますが、実際にはメロスは友人セリヌンティウスを殺害することを拒否し、真相を明らかにするために最後の力を振り絞って走り続ける物語です。

3.335268747秒

GPU RTX 4090
500字要約

太宰治の短編小説「走れメロス」は、友情と忠誠心をテーマにした物語です。主人公メロスは、幼なじみの王子様から宝石を奪った罪で投獄されるが、王子様の命令で100万回鞭打ちの刑を受けながらも脱獄する。\n\n脱獄後、メロスは王子様に会うため、王都を目指して走ります。途中、出会った友人や知人から王子様が死んだという情報を得るものの、メロスは信じず、必死で探します。\n\nついに王宮に到着したメロスは、王子様に会うが、すでに死亡していた。ショックを受けるメロスだったが、その後、王子様の侍従から衝撃的な事実を知らされます。王子様は、メロスが脱獄することを予測し、自らの死を偽装して、メロスを罠にはめる計画を立てていたのです。\n\nメロスは王宮の庭で絶望し、「走れ」という王子様の命令に反して立ち尽くします。物語は、友情と忠誠心の犠牲となったメロスの哀しい結末で幕を閉じます。

2.463307045秒

1000字要約

走れメロス」は太宰治の短編小説であり、1938年 (昭和13年) に発表された。物語は、主人公メロスと親友セリオネ、メロスの妹シマの三人を中心に展開される。\n\nメロスは、村の祭りで一等賞を獲るために、約束の時間までに戻らなければならないという義務を負う。ところが、途中で出会ったセリオネから「王様は裸だ」と聞かされ、真実を知ろうとメロスはその場から動けなくなる。\n\n一方、待ち続けるシマは心配し始め、村人にメロスのことを尋ねるが誰も知らないという。セリオネは、「王様が裸なのは事実」と言い残して去り、メロスは結局祭りの時間を逃す。\n\nその後、メロスはシマと共に王様の正体を探し始める。村人から「王様」について話を聞き、真相が明らかになりつつある中で、メロスは自分の過ちに気づく。祭りの時間を逃したことで、妹シマは一等賞を取る機会を失ったのである。\n\nメロスは激しく後悔し、自責の念にかられる。セリオネが嘘を吐いていたと知りつつも、真実を教えてくれた彼に対して感謝する心境になる。結局、メロスはシマに一等賞を獲るという約束を果たすことができなかったが、妹の理解や友人セリオネとの関係を通じて成長し、新しい道を歩み始める。\n\nこの小説は「走れメロス」というタイトルから期待される展開と異なり、実際には主人公が走る描写は短い。物語の主眼は、メロスの精神的変化や成長に置かれており、太宰治の作風である心理的葛藤や人間の複雑さを深く掘り下げている。

3.823552286秒

GPU RTX 5000 Ada
500字要約

太宰治の短編小説「走れメロス」は、1950年に発表された作品です。物語は、古本屋の主人である私と、ある青年が、奇妙な会話を交わすところから始まります。\n\n青年は、友人メロスに金貨三十枚を預けて王に会いに行くよう頼みました。私は彼に、メロスが約束を守らない場合はどうするつもりかと尋ねたところ、青年は「その時は私が走ってメロスの首を斬り落として持ってくる」と答えます。\n\n不思議な会話を交わした後、私はある疑問を持つようになりました。もしメロスが約束を破った場合、青年は果たして本当にメロスを殺すだろうかと。私自身も含め、人々の善悪や倫理観に疑問を投げかけます。\n\n物語は、メロスが王に会いに行き、約束通り金貨三十枚を受け取る場面でピークを迎えます。しかし、青年が「走れ」と叫びながら必死に追いかけてくるのです。メロスは恐怖し、友人に裏切られたと思い、自ら王のもとに戻り首を差し出します。\n\n最後に、私は私自身や読者に対して問うのです。青年がメロスの首を斬り落とした場合、果たしてそれが正しい行為であったのかどうか。物語は、倫理や道徳の曖昧さを浮き彫りにし、読者に深い考察を促す作品となっています

4.431237901秒

1000字要約

「走れメロス」は太宰治の短編小説です。物語は、友人同士であるメラとサンショウが互いに嘘をついて、メロスという男に一本の針金を渡すよう命令することから始まります。\n\nメラがメロスに会うと、「国王様に一本の針金を差し出してはならない」と命令されました。メロスはこれを受け、国王の命令に背くことを決意します。一方、サンショウもメロスに会い「国王様の一番好きな物は何ですか?」と尋ね、「リンゴ」だと答えられると、「それを国王様に差し出してください」と命令します。メロスは再び国王の命令に背く決心を固めます。\n\nメラがサンショウに会うと、互いに嘘をついていたことを知り激怒します。メラは「メロスが国王様に針金を差し出さないでいる」と嘘を吐き、「お前はメロスに一本の針金を渡すように命令したはずだ!」と詰め寄られますが、サンショウは「それはメラがメロスに会う前ですから、その時点では国王様の一番好きな物はリンゴでなかった」と嘘を重ねて答えました。\n\nこのような状況下で、メロスはついに国王の前に現れます。国王は、メロスが一本の針金を持っていないことを知り激怒しますが、メロスは「持っておりません」と嘘を吐きます。国王はメロスを鞭打ちの刑に処すと宣言し、「お前には二つの選択肢がある。走れ、そして針金を持ってくるか、立って、そして国王に一本の針金を差し出してください」と告げます。\n\nメロスは「針金を持ってくる」と選択しますが、実際には持っていません。メロスは走り続け、「リンゴ」を探すために野原や町を駆け回ります。日も暮れ始めた頃、メロスはようやくサンショウの家にたどり着き、針金が見つからないことを知ります。\n\nこの物語は、国王の命令に背いたメロスの決心とその後の行動を中心としています。メロスは「走れ」という国王の命令に忠実であり続けましたが、「針金を持ってくる」ことはできませんでした。この小説は太宰治の代表作の一つとして、長い間読み継がれてきています。

7.223672692秒

グラフによる可視化と考察

上記の結果をグラフ化したものが以下の画像です。各GPUごとの500字および1000字要約の処理時間を棒グラフで示しています。

結果を見ると、最新世代のRTX 5090が最も高速で、500字の要約生成を約2.0秒で処理しました。これは、同条件でRTX 4090が要した2.46秒の約1.2倍、RTX 5000 Adaの4.43秒と比べると約2倍の速さで処理を完了させています。1000字要約の場合も、RTX 5090は約3.3秒で処理を終え、RTX 4090の3.82秒に対して約10%以上高速、RTX 5000 Adaの7.22秒に対しては約2倍近い速度を示しました。

このように、GPUの世代およびグレードによってLLM推論速度に大きな差が出ることが確認できます。特にRTX 5000 AdaはハイエンドのゲーミングGPUである4090/5090と比べて明らかに処理が遅く、推論時間が2倍前後に伸びています。一方、RTX 5090と前世代の4090を比較すると、500字要約で約1.2倍、1000字要約で1.1倍程度の速度向上に留まっており、5090世代での性能向上幅は10~20%前後と読み取れます。

ただし、今回の比較は、ひとつのモデル (elyza-llama3-8b) に、ひとつの課題 (小説の要約) をさせたものであり、他のモデルや別の課題では違う結果になる可能性があることに注意が必要です。

また、出力の長さが500字から1000字に増えても、処理時間はちょうど2倍にはなりませんでした。実際にはおよそ1.6〜1.7倍で済んでいます。これは、モデルが文章を作るときに、最初にかかる準備時間や、内部で効率的に処理する工夫 (キャッシュなど) が影響していると考えられます。

おわりに

本検証では、Docker上のOllamaを用いて日本語LLMモデル (8B) の推論を行い、異なるGPU環境での速度差を比較しました。
結果として、最新のRTX 5090 GPUは旧世代に比べて大幅に高速な推論を実現し、特にプロ向けのRTX 5000 Adaに対しては約2倍のスピード優位があることが分かりました。RTX 4090と比べても、RTX 5090は1~2割程度高速化しており、LLM推論処理においてGPU性能向上の恩恵が着実に現れていることが確認できます。 今回はモデル出力の内容 (要約の質) には踏み込みませんでしたが、ローカルLLM環境において応答速度を重視する場合、より計算能力の高いGPUを用いることが効果的であると示唆されます。今後、モデル規模の拡大や最適化手法の改良によって推論速度はさらに変化し得るため、引き続きハードウェアとソフトウェア双方の観点から性能検証を行っていくことが重要かと思われます。

弊社ではLLMでの学習・推論を目的としたワークステーションの得意としており、数多くの研究開発者様のご相談に対応した実績がございます。
用途やご予算、研究内容などに合わせて、最適な構成をご提案しますので、お気軽にお問い合わせください。

 

 

GPU RTX 5090
500字要約

太宰治の小説「走れメロス」は、友人王子に裏切られてもなお友情を信じる主人公メロスの物語です。メロスは王子から借りた鎖と金貨を返すために旅に出ますが、王子はメロスを騙し、鎖を切って逃亡します。\n\nメロスは悲嘆に暮れながらも、王子が必ず追い付いてくることを信じて走り続けます。途中、メロスは老婆と出会い、彼女の「友情」をテーマにした話を聞きますが、それでもなお、メロスの足は止まりません。\n\nやがて、メロスは疲労で倒れますが、王子が現れることはありませんでした。メロスはこの事実を受け入れて絶望し、王子の欺罔に気付いたのです。結局、メロスの鎖は切られていたため、王子は死刑を免れることができました。\n\n小説は、友情と裏切りを描きながらも、最後にはメロスが「走り続ける」ことの意味を問いかけます。メロスが走る理由は、王子との友情を信じていたからです。走り続けた結果、メロスは自らの命を落とすことで、「友情」を守ったとも言えるのです

2.005176301秒

1000字要約

太宰治の小説「走れメロス」は、1947年に発表された短編小説です。物語は、王様が命じた「自分の友人を殺す」という命令に従うかどうかで主人公メロスの信頼性を試そうとするという奇怪な話から始まります。\n\nメロスは、友人のセリヌンティウスを殺害するよう王様に命じられますが、メロスは断固として拒否します。彼は「私はあなたの犬ではありません」と宣言し、「私には友達がおり、私の生命はその友人によってのみ支えられている」と告げる。\n\n一方で、セリヌンティウスは王様に嘘を吐き、メロスが命令を実行したと告発します。王様は怒り狂い、メロスの首を切断するように命じます。しかし、メロスはこの命令も拒否し、「私は走らなければなりません」と宣言して逃亡します。\n\n追手の兵士に捕まってしまうが、メロスは「私の友人セリヌンティウスを殺した」などと嘘を吐き、王様を欺く。処刑寸前で、メロスは真相を語り始める。彼は「私はあなたの命令に背いた」と告げ、「私には命が惜しいからではない」として「友人セリヌンティウスを殺した」ことを否定します。\n\n王様は怒りを爆発させ、メロスを首を切断するように命じる。メロスは最後の力を振り絞って走り始めますが、途中で疲労して倒れ、「私が友人セリヌンティウスを殺す」ことを認める。王様の兵士に捕まってしまうと、メロスは「私は友人セリヌンティウスを殺した」と告げる。\n\n処刑台で、王様の前でメロスは首を切断される直前に、真相を語り始める。「友人セリヌンティウスは私が殺さなかった」ことを明かし、「彼は今も生きている」と告げた。王様は激怒し、メロスを処刑するように命じる。\n\n「走れメロス」の物語は、王様の命令に従うかどうかで主人公メロスの信頼性を試すという奇怪な話から始まりますが、実際にはメロスは友人セリヌンティウスを殺害することを拒否し、真相を明らかにするために最後の力を振り絞って走り続ける物語です。

3.335268747秒

GPU RTX 4090
500字要約

太宰治の短編小説「走れメロス」は、友情と忠誠心をテーマにした物語です。主人公メロスは、幼なじみの王子様から宝石を奪った罪で投獄されるが、王子様の命令で100万回鞭打ちの刑を受けながらも脱獄する。\n\n脱獄後、メロスは王子様に会うため、王都を目指して走ります。途中、出会った友人や知人から王子様が死んだという情報を得るものの、メロスは信じず、必死で探します。\n\nついに王宮に到着したメロスは、王子様に会うが、すでに死亡していた。ショックを受けるメロスだったが、その後、王子様の侍従から衝撃的な事実を知らされます。王子様は、メロスが脱獄することを予測し、自らの死を偽装して、メロスを罠にはめる計画を立てていたのです。\n\nメロスは王宮の庭で絶望し、「走れ」という王子様の命令に反して立ち尽くします。物語は、友情と忠誠心の犠牲となったメロスの哀しい結末で幕を閉じます。

2.463307045秒

1000字要約

走れメロス」は太宰治の短編小説であり、1938年 (昭和13年) に発表された。物語は、主人公メロスと親友セリオネ、メロスの妹シマの三人を中心に展開される。\n\nメロスは、村の祭りで一等賞を獲るために、約束の時間までに戻らなければならないという義務を負う。ところが、途中で出会ったセリオネから「王様は裸だ」と聞かされ、真実を知ろうとメロスはその場から動けなくなる。\n\n一方、待ち続けるシマは心配し始め、村人にメロスのことを尋ねるが誰も知らないという。セリオネは、「王様が裸なのは事実」と言い残して去り、メロスは結局祭りの時間を逃す。\n\nその後、メロスはシマと共に王様の正体を探し始める。村人から「王様」について話を聞き、真相が明らかになりつつある中で、メロスは自分の過ちに気づく。祭りの時間を逃したことで、妹シマは一等賞を取る機会を失ったのである。\n\nメロスは激しく後悔し、自責の念にかられる。セリオネが嘘を吐いていたと知りつつも、真実を教えてくれた彼に対して感謝する心境になる。結局、メロスはシマに一等賞を獲るという約束を果たすことができなかったが、妹の理解や友人セリオネとの関係を通じて成長し、新しい道を歩み始める。\n\nこの小説は「走れメロス」というタイトルから期待される展開と異なり、実際には主人公が走る描写は短い。物語の主眼は、メロスの精神的変化や成長に置かれており、太宰治の作風である心理的葛藤や人間の複雑さを深く掘り下げている。

3.823552286秒

GPU RTX 5000 Ada
500字要約

太宰治の短編小説「走れメロス」は、1950年に発表された作品です。物語は、古本屋の主人である私と、ある青年が、奇妙な会話を交わすところから始まります。\n\n青年は、友人メロスに金貨三十枚を預けて王に会いに行くよう頼みました。私は彼に、メロスが約束を守らない場合はどうするつもりかと尋ねたところ、青年は「その時は私が走ってメロスの首を斬り落として持ってくる」と答えます。\n\n不思議な会話を交わした後、私はある疑問を持つようになりました。もしメロスが約束を破った場合、青年は果たして本当にメロスを殺すだろうかと。私自身も含め、人々の善悪や倫理観に疑問を投げかけます。\n\n物語は、メロスが王に会いに行き、約束通り金貨三十枚を受け取る場面でピークを迎えます。しかし、青年が「走れ」と叫びながら必死に追いかけてくるのです。メロスは恐怖し、友人に裏切られたと思い、自ら王のもとに戻り首を差し出します。\n\n最後に、私は私自身や読者に対して問うのです。青年がメロスの首を斬り落とした場合、果たしてそれが正しい行為であったのかどうか。物語は、倫理や道徳の曖昧さを浮き彫りにし、読者に深い考察を促す作品となっています

4.431237901秒

1000字要約

「走れメロス」は太宰治の短編小説です。物語は、友人同士であるメラとサンショウが互いに嘘をついて、メロスという男に一本の針金を渡すよう命令することから始まります。\n\nメラがメロスに会うと、「国王様に一本の針金を差し出してはならない」と命令されました。メロスはこれを受け、国王の命令に背くことを決意します。一方、サンショウもメロスに会い「国王様の一番好きな物は何ですか?」と尋ね、「リンゴ」だと答えられると、「それを国王様に差し出してください」と命令します。メロスは再び国王の命令に背く決心を固めます。\n\nメラがサンショウに会うと、互いに嘘をついていたことを知り激怒します。メラは「メロスが国王様に針金を差し出さないでいる」と嘘を吐き、「お前はメロスに一本の針金を渡すように命令したはずだ!」と詰め寄られますが、サンショウは「それはメラがメロスに会う前ですから、その時点では国王様の一番好きな物はリンゴでなかった」と嘘を重ねて答えました。\n\nこのような状況下で、メロスはついに国王の前に現れます。国王は、メロスが一本の針金を持っていないことを知り激怒しますが、メロスは「持っておりません」と嘘を吐きます。国王はメロスを鞭打ちの刑に処すと宣言し、「お前には二つの選択肢がある。走れ、そして針金を持ってくるか、立って、そして国王に一本の針金を差し出してください」と告げます。\n\nメロスは「針金を持ってくる」と選択しますが、実際には持っていません。メロスは走り続け、「リンゴ」を探すために野原や町を駆け回ります。日も暮れ始めた頃、メロスはようやくサンショウの家にたどり着き、針金が見つからないことを知ります。\n\nこの物語は、国王の命令に背いたメロスの決心とその後の行動を中心としています。メロスは「走れ」という国王の命令に忠実であり続けましたが、「針金を持ってくる」ことはできませんでした。この小説は太宰治の代表作の一つとして、長い間読み継がれてきています。

7.223672692秒

 

お問い合わせ

関連情報

大規模言語モデル計算処理向けマシン
用途:Llama推論、ローカルLLM、Difyアプリケーション開発

お問い合わせ

CPU Intel Xeon W5-2565X 3.20GHz (TB3.0時 最大4.8GHz) 18C/36T
メモリ 合計256GB DDR5 5600 REG ECC 32GB x 8
ストレージ 2TB SSD M.2 NVMe Gen4
GPU NVIDIA RTX 6000 Ada 48GB x  2基構成
NVIDIA RTX A400 4GB (MiniDisplayPort x 4)
OS Microsoft Windows 11 Professional 64bit
機械学習・大規模言語モデル (LLM) 処理向けマシン
用途:画像解析、自然言語処理
遺伝子解析用・構造予測向けマシン

お問い合わせ

CPU Intel Xeon W7-2575X 3.00GHz (TB3.0時 最大4.8GHz) 22C/44T
メモリ 合計512GB DDR5 5600 REG ECC 64GB x 8
ストレージ 2TB SSD S-ATA + 8TB HDD S-ATA
GPU NVIDIA RTX 6000 Ada 48GB (DisplayPort x 4)
OS Ubuntu 24.04
このエントリーをはてなブックマークに追加