测试 Gemma

今天早上我测试了 Gemma 模型。 我的电脑有 32G RAM 和 RTX 2070 显示卡（8G）。 我下载的是 2B 模型。 有 untuned version 和 instruction-tuned version，每个版本解压缩后约 3.9G。我在 CPU 模式下执行，但是过了一会儿程序就崩溃了，我猜想可能是记忆体不够的原因。然后我用 GPU 模式执行，结果如下：

Untuned 2B

Instruction-tuned 2B

在 GitHub 页面还包含了一个 Colab 的范例，说明对于如何针对任务（例如英语到法语翻译）进行微调，也许之后可以再测试看看。

---

Google 建议的系统需求

Gemma 可以在 CPU、GPU 和 TPU 上运行。对于 2B 模型，我们建议 GPUT 8GB+ RAM，对于 7B 模型，我们建议 GPU 24GB+ RAM。