Update README.md
Browse files
README.md
CHANGED
|
@@ -3,6 +3,7 @@ language:
|
|
| 3 |
- zh
|
| 4 |
- en
|
| 5 |
tags:
|
|
|
|
| 6 |
- codeshell
|
| 7 |
- wisdomshell
|
| 8 |
- pku-kcl
|
|
@@ -56,7 +57,7 @@ Shell在保留Codeshell优异的代码能力的同时,具有以下特性:
|
|
| 56 |
|
| 57 |
## Quickstart
|
| 58 |
|
| 59 |
-
Shell系列模型已经上传至 <a href="https://huggingface.co/WisdomShell
|
| 60 |
|
| 61 |
在开始之前,请确保已经正确设置了环境,并安装了必要的代码包,以及满足上一小节的环境要求。你可以通过下列代码快速安装相关依赖。
|
| 62 |
|
|
@@ -100,7 +101,7 @@ print(output)
|
|
| 100 |
|
| 101 |
### Shell in c/c++
|
| 102 |
|
| 103 |
-
由于大部分个人电脑没有GPU,Shell提供了C/C++版本的推理支持,开发者可以根据本地环境进行编译与使用,详见[
|
| 104 |
|
| 105 |
|
| 106 |
## Finetune
|
|
@@ -149,19 +150,19 @@ python demos/cli_demo.py
|
|
| 149 |
|
| 150 |
### API
|
| 151 |
|
| 152 |
-
|
| 153 |
|
| 154 |
```
|
| 155 |
python demos/openai_api.py
|
| 156 |
```
|
| 157 |
|
| 158 |
-
启动后即可通过HTTP请求与
|
| 159 |
|
| 160 |
```
|
| 161 |
curl http://127.0.0.1:8000/v1/chat/completions \
|
| 162 |
-H "Content-Type: application/json" \
|
| 163 |
-d '{
|
| 164 |
-
"model": "
|
| 165 |
"messages": [
|
| 166 |
{
|
| 167 |
"role": "user",
|
|
|
|
| 3 |
- zh
|
| 4 |
- en
|
| 5 |
tags:
|
| 6 |
+
- shell
|
| 7 |
- codeshell
|
| 8 |
- wisdomshell
|
| 9 |
- pku-kcl
|
|
|
|
| 57 |
|
| 58 |
## Quickstart
|
| 59 |
|
| 60 |
+
Shell系列模型已经上传至 <a href="https://huggingface.co/WisdomShell" target="_blank">Hugging Face</a>,开发者可以通过Transformers快速调用Shell-7B和Shell-Chat-7B。
|
| 61 |
|
| 62 |
在开始之前,请确保已经正确设置了环境,并安装了必要的代码包,以及满足上一小节的环境要求。你可以通过下列代码快速安装相关依赖。
|
| 63 |
|
|
|
|
| 101 |
|
| 102 |
### Shell in c/c++
|
| 103 |
|
| 104 |
+
由于大部分个人电脑没有GPU,Shell提供了C/C++版本的推理支持,开发者可以根据本地环境进行编译与使用,详见[Shell C/C++本地化版](https://github.com/WisdomShell/llama_cpp_for_codeshell)。
|
| 105 |
|
| 106 |
|
| 107 |
## Finetune
|
|
|
|
| 150 |
|
| 151 |
### API
|
| 152 |
|
| 153 |
+
Shell也提供了基于OpenAI API的部署方法。
|
| 154 |
|
| 155 |
```
|
| 156 |
python demos/openai_api.py
|
| 157 |
```
|
| 158 |
|
| 159 |
+
启动后即可通过HTTP请求与Shell交互。
|
| 160 |
|
| 161 |
```
|
| 162 |
curl http://127.0.0.1:8000/v1/chat/completions \
|
| 163 |
-H "Content-Type: application/json" \
|
| 164 |
-d '{
|
| 165 |
+
"model": "Shell-7B-Chat",
|
| 166 |
"messages": [
|
| 167 |
{
|
| 168 |
"role": "user",
|