kanhatakeyama
commited on
Commit
•
e1c9884
1
Parent(s):
99221bd
Update README.md
Browse files
README.md
CHANGED
@@ -22,6 +22,9 @@ Tanuki-8x8B-dpo-v1.0は、SFTおよびDPOにより対話用に調整されてい
|
|
22 |
*GGUF版は性能低下が発生している可能性があり、非推奨
|
23 |
|
24 |
## 使い方
|
|
|
|
|
|
|
25 |
本モデルの推論にはflash attentionが必須です。以下のようにインストールしてください。
|
26 |
```bash
|
27 |
pip install --no-build-isolation flash_attn
|
@@ -141,4 +144,4 @@ GPT-4による評価 (gpt-4-0613、平均スコア算出においてスコア-1
|
|
141 |
| writing | 9.05 | 8.85 |
|
142 |
|
143 |
## 開発メンバー
|
144 |
-
畠山
|
|
|
22 |
*GGUF版は性能低下が発生している可能性があり、非推奨
|
23 |
|
24 |
## 使い方
|
25 |
+
[こちらの記事](https://zenn.dev/matsuolab/articles/a3b42ddbf5d121)にTanuki-8x8Bおよびその量子化モデルの各種推論方法についてまとめていますので、ご確認ください。
|
26 |
+
以下に一部の推論方法を解説します。
|
27 |
+
|
28 |
本モデルの推論にはflash attentionが必須です。以下のようにインストールしてください。
|
29 |
```bash
|
30 |
pip install --no-build-isolation flash_attn
|
|
|
144 |
| writing | 9.05 | 8.85 |
|
145 |
|
146 |
## 開発メンバー
|
147 |
+
畠山 歓 [リーダー]、asaoka_tadashi、Atsushi Saito、Chattso-GPT、Chihiro Arata、Chihiro HIGUCHI、Daichi Kohmoto、Esty、Hideaki Hayashi、hiroaki shioya、Issei Fujimoto、Issei Fujimoto、Jie Zeng、Jinsei Shiraishi、K. Nishizawa、Kazutaka Nishimae、Kunihiro Watanabe、masaki okamura、Minami Someya、Mさん、Nishi、Nishijima、p1atdev、Rumi Nakagawa、Ryota Mitsuhashi、Susumu Ota、takagi、Toshio Nishida、y_morinaga、Yuki Namiuchi、Yukie Kawano、永原恒治、加藤純、河越 淳、岩田 兼太朗、菊池満帆、熊田匡仁、江國翔太、佐野敏幸、山口 裕輝、西井康隆、川村 正春、片上 舜、堀江吏将、林寛太 (Kanta Hayashi)
|