Ver Fonte

update max token

kevin há 1 ano atrás
pai
commit
5247d9eabe
1 ficheiros alterados com 2 adições e 2 exclusões
  1. 2 2
      main.py

+ 2 - 2
main.py

@@ -138,8 +138,8 @@ def gpt():
                 summarize = json_payload['summarize'] == "1"
                 if summarize:
                     chat_messages = app.summary_messages.copy()
-                    max_char_msg = 10000
-                    max_resp_token = 10000
+                    max_char_msg = 2000
+                    max_resp_token = 4096
                 else:
                     chat_messages = app.chat_messages.copy()
                 json_payload['payload'][-1]['content'] = f"Please summarize this article:\n" + json_payload['payload'][-1]['content']