String input = "这是什么"; int tokenCount = 0; for (int i = 0; i < input.length; i++) { if (input[i] == " ") { tokenCount++; } else if (input[i].codeUnitAt(0) > 255) { tokenCount += 2.5; } else { tokenCount++; } if (tokenCount > 4000) { int semicolonIndex = input.indexOf(";"); if (semicolonIndex != -1) { input = input.substring(semicolonIndex + 1).trim(); tokenCount = 0; for (int j = 0; j < input.length; j++) { if (input[j] == " ") { tokenCount++; } else if (input[j].codeUnitAt(0) > 255) { tokenCount += 2.5; } else { tokenCount++; } } break; } } } if (tokenCount <= 4000) { // continue with AI response } else { // handle error message for exceeding token limit }

human 这是什么; AI 我不知道请描述一下具体情况或提供更多的上下文信息。; 使用dart语言判断是否超过4000个token一个英文单词是一个toekn一个中文是25个token如果超出则根据分号先删除最前面的对话给出相应的dart代码

原文地址: http://www.cveoy.top/t/topic/B4P 著作权归作者所有。请勿转载和采集!

免费AI点我,无需注册和登录