2

哪家的 AI 可以处理 29247 个字符，相当于 26,650 个 Tokens 的文本输入？有免费的么...

 1 month ago
source link: https://www.v2ex.com/t/1034124
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

V2EX  ›  OpenAI

哪家的 AI 可以处理 29247 个字符，相当于 26,650 个 Tokens 的文本输入？有免费的么？

  BeyondReach · 10 小时 3 分钟前 · 582 次点击
9 条回复  •  2024-04-20 18:42:47 +08:00
neteroster

neteroster      8 小时 54 分钟前 via Android

Claude3 全系列 200K 上下文，GPT4 Turbo 128K 上下文。绰绰有余。

开源模型这边，Qwen1.5 词表有中文词汇，如果是中文的话 Tokens 量会比汉字数量少不少，32K 完全足够。但上下文较长时效果可能下降。
macaodoll

macaodoll      8 小时 44 分钟前 via Android

这个问题之前也测试过，谷歌 genmini 1.5 最优，能吐完所有东西，国产几个吐着吐着就开始省略号了
BeyondReach

BeyondReach      8 小时 41 分钟前

@neteroster

免费版的 Claude3 Sonnet 提示我超出限制：
Message is 12128% over the remaining length limit. Try replacing the attached 1 file with smaller excerpts.

Coze 里的 GPT4 Turbo 128K 模型，支持我输入这么长的文字，但是输出的答案非常短，只有 Tokens 801 ，Characters 803
wwhc

wwhc      6 小时 26 分钟前

MistralAI 的开源模型支持 32K Tokens 或 64K Tokens
mrp

mrp      4 小时 25 分钟前 via iPhone
BeyondReach

BeyondReach      3 小时 0 分钟前

@mrp

kimi 支持长文本的输入输出，就是输出的时候需要点击 “继续”按钮

但是对输入输出的审核太严苛，我输入的关于台版的理财投资信息，它有时都不愿意处理
BeyondReach

BeyondReach      2 小时 44 分钟前

@mrp
输入一个 80 分钟视频的字幕后（ 29510 个字符），kimi 返回了 3670 个字符，就开始提示其他内容了
BeyondReach

BeyondReach      2 小时 1 分钟前

@wwhc 8g 内存的 mac mini m2 ，使用 Jan 运行 Mistral Instruct 7B Q4 无响应
BeyondReach

BeyondReach      1 小时 59 分钟前

@macaodoll Gemini 可以输入 3w 字文本后，会提示"我只是一个语言模型，无法为你提供这方面的帮助。"

如果将文本减少到 2w 字左右，可以进行回答，但是输出时会进行删减

report

Recommend

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK