IBM独自のLLMであるGraniteモデルが、2024年10月21日、さらにパワーアップし、Granite 3.0としてリリースされました：

IBM Granite 3.0: open, state-of-the-art enterprise models

今回ご紹介する記事は、「いち早く、そのGranite 3.0を試してみたい！」という方のために執筆いたしました。

今回のリリースでは、目的別に4種類のLLMが提供されました。

• 一般的な使用を目的とした高密度LLM (Dense, general purpose LLMs)
• 入出力ガードレールモデル (LLM-based input-output guardrail models)
• 混合モデル (Mixture of experts (MoE) models for minimum latency)
• 推論速度と効率を高めるモデル (Speculative decoder for increased inference speed and efficiency)

また、これらのモデルはオープンソースモデルとして公開されているため、Hugging Faceからダウンロード可能です。

リンク：https://qiita.com/yanagih/items/a298f37124914514b58a