地址：
https://github.com/THUDM/ChatGLM-6B
https://huggingface.co/THUDM/chatglm-6b

git clone https://github.com/THUDM/ChatGLM-6B conda create -n chatglm python=3.8 conda activate chatglm cd ChatGLM-6B/ pip install -r requirements.txt

試用以下代碼，下載模型 https://cloud.tsinghua.edu.cn/d/fb9f16d6dc8f482596c2/

import requests url_ = 'https://cloud.tsinghua.edu.cn/d/fb9f16d6dc8f482596c2/files/?p=%2Fpytorch_model-0000{i}-of-00008.bin&dl=1' save_path_ = 'pytorch_model-0000{i}-of-00008.bin' headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/86.0.4240.198 Safari/537.36'} for i in range(1, 9):url = url_.format(i=i)save_path = save_path_.format(i=i)res = requests.get(url, headers=headers)with open(save_path, 'wb') as file:file.write(res.content)print(f'finish download {i}')

其余文件從 huggingface 下載

vim cli_demo.py 修改模型下載的路徑

demo試用

python cli_demo.py (chatglm) [web@bdp-measure3 ChatGLM-6B]$ python cli_demo.py Explicitly passing a `revision` is encouraged when loading a model with custom code to ensure no malicious code has been contributed in a newer revision. Explicitly passing a `revision` is encouraged when loading a configuration with custom code to ensure no malicious code has been contributed in a newer revision. Explicitly passing a `revision` is encouraged when loading a model with custom code to ensure no malicious code has been contributed in a newer revision. Loading checkpoint shards: 100%|█████████████████████████████████████████████████████| 8/8 [00:27<00:00, 3.49s/it] 歡迎使用 ChatGLM-6B 模型，輸入內(nèi)容即可進行對話，clear 清空對話歷史，stop 終止程序用戶：

加載完模型后 GPU 使用情況

用戶：你好，我中午想吃魚香肉絲，我現(xiàn)在有一條魚，我應(yīng)該怎么做這道菜？ChatGLM-6B：魚香肉絲是一道經(jīng)典的川菜，需要注意以下幾點：材料：- 瘦豬肉(切絲):200克 - 青椒(切絲):1個 - 紅椒(切絲):1個 - 蔥姜蒜(切末)：適量 - 料酒：適量 - 生抽：適量 - 鹽：適量 - 糖：適量 - 醋：適量 - 淀粉：適量 - 食用油：適量做法：1. 將豬肉絲用鹽、料酒和淀粉拌勻腌制10分鐘左右；2. 熱鍋涼油，將腌制好的豬肉絲煸炒至變色撈出備用；3. 鍋中留底油，加入蔥姜蒜末爆香；4. 加入青紅椒絲煸炒；5. 加入適量的生抽、糖、醋和水，燒開后加入炒好的豬肉絲；6. 用水淀粉勾芡，翻炒均勻即可。希望這個簡單的步驟能幫助你制作出美味的魚香肉絲。祝你用餐愉快！

在生成答案的過程中，GPU顯存使用在一直上漲。

用戶：我沒有豬肉這個食材，我可以用雞肉代替嗎？做出來好吃嗎？ChatGLM-6B：可以用雞肉代替豬肉做魚香肉絲，雞肉的口感和味道與豬肉相似，也比較容易制作出嫩滑的口感。以下是使用雞肉做魚香肉絲的簡易做法：材料： - 雞胸肉(切絲):200克 - 青椒(切絲):1個 - 紅椒(切絲):1個 - 胡蘿卜(切絲):1根 - 蔥姜蒜(切末)：適量 - 料酒：適量 - 鹽：適量 - 糖：適量 - 生抽：適量 - 醋：適量 - 淀粉：適量 - 食用油：適量做法：1. 將雞胸肉絲用鹽、料酒和淀粉拌勻腌制10分鐘左右；2. 熱鍋涼油，將腌制好的雞肉絲放入鍋中煸炒至變色撈出備用；3. 熱鍋再加入一些油，放入蔥姜蒜末爆香；4. 加入胡蘿卜絲和青紅椒絲煸炒；5. 加入適量的鹽、糖、生抽和醋翻炒均勻；6. 將炒好的雞肉絲加入翻炒均勻；7. 最后加入適量的水，燜煮5分鐘左右，直到湯汁濃稠即可。雞肉版的魚香肉絲和傳統(tǒng)版的基本相似，但可能會略微缺少豬肉的一些口感和香味，不過可以根據(jù)自己的口味進行微調(diào)，比如加入適量的辣椒或者豆瓣醬來提升口感和味道。祝你做出一道美味的雞肉魚香肉絲！

模型記憶了上下文的 菜名

用戶：你可以幫我解方程嗎？x+y=1, x+2y=0,求x,yChatGLM-6B：首先，將第二個方程除以2，得到：x + 2y = 0 / 2化簡后得到：x = -2y將第一個方程中的 x 替換為 -2y，得到：-2y + y = 1化簡后得到：y = 1 - 2y將 y = 1 - 2y 代入第一個方程，得到：x + (1 - 2)y = 1化簡后得到：x + 1 = 1解得：x = 0因此，方程組的解為 x = 0,y = 1。

解方程的答案是錯的，模型不擅長數(shù)學(xué)問題

用戶：我有一個孩子，我剛怎么教他做減法，還有帶括號的減法呢，請說的有童趣一些，簡單易懂ChatGLM-6B：���孩子做減法是一種很有童趣的事情，下面是一些有趣味的方法，可以讓孩子更容易理解和掌握減法：1. 用游戲的方式進行減法練習(xí)：可以和孩子玩“減法游戲”，例如，讓孩子數(shù)1到10，然后你告訴他們，如果你看到這個數(shù)字減去他們的數(shù)字，哪個數(shù)字最小(或最大)就消失了。這個游戲可以幫助孩子理解減法的概念，并且讓他們在游戲中體驗到成就感。2. 利用圖形進行減法練習(xí)：可以和孩子一起繪制一些圖形，例如正方形、圓形、三角形等等。然后讓孩子嘗試用這些圖形減去另一個圖形，例如讓孩子把圓形減去三角形，看看得到的結(jié)果是什么。這種方法可以幫助孩子理解減法的概念，并且讓他們通過繪制圖形來體驗到數(shù)學(xué)的樂趣。3. 利用游戲和謎語進行減法練習(xí)：可以和孩子一起玩一些減法謎語和游戲，例如讓孩子猜一個數(shù)字，然后你告訴他們，這個數(shù)字減去他們的猜測結(jié)果，哪個數(shù)字最小(或最大)就消失了。這種方法可以幫助孩子在游戲中掌握減法的概念，并且讓他們體驗到樂趣和成就感。對于帶括號的減法，可以使用類似于上述的方法進行練習(xí)，例如：- 讓孩子數(shù)1到10，然后告訴他們，如果你看到這個數(shù)字減去括號中的數(shù)值(例如5減去4)，哪個數(shù)字括號里的數(shù)值最小(或最大)就消失了。 - 繪制一些圖形，例如正方形、圓形、三角形等等。然后讓孩子嘗試用這些圖形減去另一個圖形，例如讓孩子把圓形減去三角形，看看得到的結(jié)果是什么。 - 玩一些減法謎語和游戲，例如讓孩子猜一個數(shù)字，然后你告訴他們，這個數(shù)字減去括號中的數(shù)值(例如5減去4)，哪個數(shù)字括號里的數(shù)值最小(或最大)就消失了。 用戶：chatgpt用到了哪些神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) chatgpt用到了哪些神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)ChatGLM-6B：ChatGPT 是由 OpenAI 于 2022 年 11 月推出的一個人工智能聊天機器人程序，其架構(gòu)使用了多個神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，包括：1. Transformer 模型：Transformer 是用于自然語言處理的一種神經(jīng)網(wǎng)絡(luò)模型， ChatGPT 使用了 Transformer 模型來對輸入的文本數(shù)據(jù)進行建模，并輸出回復(fù)。2. 遞歸神經(jīng)網(wǎng)絡(luò) (RNN):RNN 是一種能夠處理序列數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，ChatGPT 中的 RNN 用來對輸入的文本數(shù)據(jù)進行時序建模，從而能夠更好地理解用戶輸入的上下文信息。3. 卷積神經(jīng)網(wǎng)絡(luò) (CNN):CNN 是一種用于圖像識別的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，ChatGPT 中的 CNN 用來對圖像數(shù)據(jù)進行特征提取，從而也能夠?qū)ξ谋緮?shù)據(jù)進行特征提取。4. 自注意力機制 (self-attention mechanism)：自注意力機制是一種能夠?qū)π蛄袛?shù)據(jù)進行有效建模的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，ChatGPT 中的自注意力機制用來對回復(fù)進行有效加權(quán)，以便更好地理解用戶反饋。除此之外，ChatGPT 還使用了其他一些神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，例如轉(zhuǎn)換器 (Transformer 變種)、長短時記憶網(wǎng)絡(luò) (LSTM)、門控循環(huán)單元 (GRU) 等，以便更好地處理自然語言處理和序列數(shù)據(jù)相關(guān)的任務(wù)。

寫代碼

用戶：如你能幫我寫一個python版本的快速排序代碼嗎？ChatGLM-6B：當(dāng)然可以！以下是Python快速排序的實現(xiàn)代碼：def quicksort(arr):if len(arr) <= 1:return arrelse:pivot = arr[0]left = []right = []for i in range(1, len(arr)):if arr[i] < pivot:left.append(arr[i])else:right.append(arr[i])return quicksort(left) + [pivot] + quicksort(right)這個實現(xiàn)中，首先判斷傳入的數(shù)組長度是否小于等于1，如果是，則直接返回該數(shù)組，因為這種情況下快速排序無法使用。否則，選擇數(shù)組的第一個元素作為基準(zhǔn)點(pivot)，并將數(shù)組分成兩部分：左邊的部分的所有元素都小于基準(zhǔn)點，右邊的部分的所有元素都大于基準(zhǔn)點。然后，對左右兩部分分別進行快速排序，并將排序后的元素合并起來，以得到未排序的數(shù)組。你可以像這樣使用這個函數(shù)：arr = [3, 6, 1, 8, 4, 2, 9, 7, 5] sorted_arr = quicksort(arr) print(sorted_arr)這將輸出 `[1, 2, 3, 4, 5, 6, 7, 8, 9]`，即原數(shù)組經(jīng)過快速排序后的的結(jié)果。

輸出的結(jié)果是正確的

用戶：你能幫我寫一個react版本的web表單頁面嗎？用來收集用戶的調(diào)查問卷。ChatGLM-6B：當(dāng)然可以！以下是一個使用 React 編寫的簡單表單頁面，可以收集用戶的調(diào)查問卷。首先，我們需要創(chuàng)建一個名為問卷表單的組件，它包含一個輸入框和一個提交按鈕。在組件的 props 中，我們可以傳遞一個調(diào)查問卷的問題列表和選項列表，用于在表單中填寫問卷信息和選擇選項。接下來，我們可以在組件的 state 中保存表單中填寫的信息，并在組件的生命周期方法中處理表單的提交和顯示。import React, { useState } from 'react';function問卷表單() {const [問題的答案， set問題的答案] = useState([]);const [問題的答案List, set問題的答案List] = useState([]);const [問卷調(diào)查， set問卷調(diào)查] = useState([]);const handleSubmit = (event) => {event.preventDefault();// 將填寫的信息保存到數(shù)據(jù)庫或文件系統(tǒng)中set問卷調(diào)查(問卷調(diào)查.concat([問題的答案，問題的答案List，問題的答案List]))}return (<form onSubmit={handleSubmit}><div><label htmlFor="question-1">問題 1</label><input type="text" id="question-1" name="question" value={問題的答案[0]} onChange={e => set問題的答案(e.target.value)} /></div><div><label htmlFor="answer-1">答案 1</label><select id="answer-1" name="answer" value={問題的答案[1]} onChange={e => set問題的答案List(問題的答案List.concat([e.target.value，問題的答案[0]]))} /></div><div><label htmlFor="question-2">問題 2</label><input type="text" id="question-2" name="question" value={問題的答案[2]} onChange={e => set問題的答案(e.target.value)} /></div><div><label htmlFor="answer-2">答案 2</label><select id="answer-2" name="answer" value={問題的答案[3]} onChange={e => set問題的答案List(問題的答案List.concat([e.target.value，問題的答案[1]]))} /></div><div><button type="submit">提交</button></div></form>); }export default問卷表單；最后，我們可以在組件的渲染函數(shù)中顯示表單，并在用戶點擊提交按鈕時將表單數(shù)據(jù)保存到數(shù)據(jù)庫或文件系統(tǒng)中。import React from 'react'; import axios from 'axios';function App() {return (<div><問卷表單 /></div>); }export default App;希望這可以幫助你創(chuàng)建一個 React 版本的 Web 表單頁面！

不懂前端，不好判斷正確與否

用戶：大模型時代，我們應(yīng)普應(yīng)該怎樣跟上技術(shù)的發(fā)展，學(xué)習(xí)哪些知識ChatGLM-6B：大模型時代，我們應(yīng)普應(yīng)該怎樣跟上技術(shù)的發(fā)展，學(xué)習(xí)哪些知識，可以參考下述建議： 1. 學(xué)習(xí)機器學(xué)習(xí)和深度學(xué)習(xí)的基礎(chǔ)知識：了解機器學(xué)習(xí)和深度學(xué)習(xí)的基本概念、算法和工具，包括監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、強化學(xué)習(xí)等等，這些知識對于理解大模型的實現(xiàn)和應(yīng)用非常重要。 2. 掌握數(shù)據(jù)科學(xué)和數(shù)據(jù)處理的技能：大模型需要大量的數(shù)據(jù)來訓(xùn)練，因此需要掌握數(shù)據(jù)預(yù)處理、數(shù)據(jù)清洗、數(shù)據(jù)可視化等技能，以及如何使用深度學(xué)習(xí)框架來處理和可視化數(shù)據(jù)。 3. 學(xué)習(xí)計算機視覺和圖像處理：大模型在計算機視覺和圖像處理領(lǐng)域也有廣泛的應(yīng)用，因此需要了解計算機視覺的基礎(chǔ)知識、圖像處理的基礎(chǔ)知識以及相關(guān)的技術(shù)，如卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)等。 4. 熟悉自然語言處理：自然語言處理是大模型在自然語言領(lǐng)域應(yīng)用的重要技術(shù)，因此需要了解自然語言處理的基礎(chǔ)知識、相關(guān)算法和工具，如詞向量、序列標(biāo)注、文本分類等。 5. 關(guān)注最新的研究進展和行業(yè)趨勢：關(guān)注機器學(xué)習(xí)和深度學(xué)習(xí)領(lǐng)域的研究進展和行業(yè)趨勢，了解最新的算法和應(yīng)用，可以幫助跟上技術(shù)的發(fā)展。 大模型時代需要掌握多個領(lǐng)域的知識和技能，因此需要不斷學(xué)習(xí)和更新自己的知識，保持對新技術(shù)的關(guān)注和了解。 用戶：你好，你會繼續(xù)升級嗎？ChatGLM-6B：你好！作為一個人工智能語言模型，我是通過在大量數(shù)據(jù)的訓(xùn)練中度過來學(xué)習(xí)和改進自己的。我的開發(fā)者們會持續(xù)地對我進行維護和更新，以確保我能夠更好地為用戶提供服務(wù)。因此，我會繼續(xù)升級，并不斷提高自己的技能和能力。用戶：好的謝謝你ChatGLM-6B：不客氣，如果有任何其他問題或需要幫助，請隨時向我提問。

我說謝謝之后，GPU顯存占用降到12613MB，識別到對話結(jié)束，應(yīng)該是清空了上下文。

那我再把上面的 我沒有豬肉這個食材，我可以用雞肉代替嗎？做出來好吃嗎？ 不帶上下文問一下

用戶：我沒有豬肉這個食材，我可以用雞肉代替嗎？做出來好吃嗎？ChatGLM-6B：沒有豬肉，可以用雞肉代替。雞肉是一種營養(yǎng)豐富、味道不錯的食材，可以用來制作各種菜肴。以下是一些可以用雞肉代替豬肉的做法：1. 雞肉炒飯：將雞肉切成小塊，和米飯一起炒，口感香脆，營養(yǎng)豐富。2. 雞肉三明治：將雞肉切成小塊，和面包屑、蔬菜和醬料一起拌勻，制成三明治，口感豐富，味道好。3. 雞肉沙拉：將雞肉切成小塊，和蔬菜、沙拉醬一起拌勻，制成沙拉，口感清爽，營養(yǎng)豐富。4. 雞肉湯：將雞肉切成小塊，和蔬菜、湯料一起煮，制成湯，口感鮮美，營養(yǎng)豐富。當(dāng)然，用雞肉代替豬肉也可以做出各種美味的菜肴。只要選擇合適的食材和調(diào)味料，都可以制作出比豬肉更加美味的菜肴。

他沒有回答魚香肉絲相關(guān)的做法。是清空了上下文。

總結(jié)

以上是生活随笔為你收集整理的ChatGLM-6B 安装试用的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。