測試 Gemma

今天早上我測試了 Gemma 模型。 我的電腦有 32G RAM 和 RTX 2070 顯示卡（8G）。 我下載的是 2B 模型。 有 untuned version 和 instruction-tuned version，每個版本解壓縮後約 3.9G。 我在 CPU 模式下執行，但是過了一會兒程式就當掉了，我猜想可能是記憶體不夠的原因。然後我用 GPU 模式執行，結果如下：

Untuned 2B

Instruction-tuned 2B

在 GitHub 頁面還包含了一個 Colab 的範例，說明對於如何針對任務（例如英語到法語翻譯）進行微調，也許之後可以再測試看看。

---

Google 建議的系統需求

Gemma 可以在 CPU、GPU 和 TPU 上運作。對於 2B 模型，我們建議 GPUT 8GB+ RAM，對於 7B 模型，我們建議 GPU 24GB+ RAM。