在pycharm中新建py文件，將下面代碼粘貼到文件中運行即可
運行前需要填入key
'''Usage:1. python3 -m pip install --user volcengine2. VOLC_ACCESSKEY=XXXXX VOLC_SECRETKEY=YYYYY python main.py'''import osfrom volcengine.maas import MaasService, MaasException, ChatRole # 導(dǎo)入所需的模塊def test_chat(maas, req): # 定義一個名為 test_chat 的函數(shù)，接受 MaasService 對象和請求參數(shù) req """ 測試聊天功能 參數(shù)： maas (MaasService)：MaasService 對象 req (dict)：請求參數(shù) 異常： MaasException：如果發(fā)生 MaasException 異常，將打印異常信息 """ try: resp = maas.chat(req) # 使用 maas 對象的 chat 方法發(fā)送請求 print(resp) # 打印響應(yīng)結(jié)果 print(resp.choice.message.content) # 打印消息內(nèi)容 except MaasException as e: # 捕獲 MaasException 異常 print(e) # 打印異常信息def test_stream_chat(maas, req): # 定義一個名為 test_stream_chat 的函數(shù)，接受相同的參數(shù) """ 測試流式聊天功能 參數(shù)： maas (MaasService)：MaasService 對象 req (dict)：請求參數(shù) 異常： MaasException：如果發(fā)生 MaasException 異常，將打印異常信息 """ try: resps = maas.stream_chat(req) # 使用 maas 對象的 stream_chat 方法發(fā)送請求 for resp in resps: # 遍歷響應(yīng)結(jié)果 print(resp) # 打印每個響應(yīng) print(resp.choice.message.content) # 打印消息內(nèi)容 except MaasException as e: # 捕獲異常 print(e) # 打印異常信息if __name__ == '__main__': # 主程序入口 maas = MaasService('maas-api.ml-platform-cn-beijing.volces.com', 'cn-beijing') # 創(chuàng)建 MaasService 對象，指定 API 端點和區(qū)域 maas.set_ak(os.getenv("VOLC_ACCESSKEY")) # 設(shè)置訪問密鑰，從環(huán)境變量中獲取 VOLC_ACCESSKEY maas.set_sk(os.getenv("VOLC_SECRETKEY")) # 設(shè)置保密密鑰，從環(huán)境變量中獲取 VOLC_SECRETKEY # document: "https://www.volcengine.com/docs/82379/1099475" req = { # 定義請求參數(shù) "model": { # 模型相關(guān)信息 "name": "skylark-chat", "version": "1.0" # 使用默認(rèn)版本 }, "parameters": { # 參數(shù)設(shè)置 "max_new_tokens": 1000, # 輸出文本的最大 tokens 限制 "min_new_tokens": 1, # 輸出文本的最小 tokens 限制 "temperature": 0.7, # 用于控制生成文本的隨機性和創(chuàng)造性 "top_p": 0.9, # 用于控制輸出 tokens 的多樣性 "top_k": 0 # 選擇預(yù)測值最大的 k 個 token 進(jìn)行采樣 }, "messages": [ # 消息列表 { "role": ChatRole.USER, "content": "天為什么這么藍(lán)？" }, { "role": ChatRole.ASSISTANT, "content": "因為有你" }, { "role": ChatRole.USER, "content": "花兒為什么這么香？" }, ] } # 定義消息內(nèi)容 test_chat(maas, req) # 調(diào)用 test_chat 函數(shù)進(jìn)行聊天測試 test_stream_chat(maas, req) # 調(diào)用 test_stream_chat 函數(shù)進(jìn)行流式聊天測試
