Home Sign Up Sign In
ttgo
V2EX  ›  问与答

主流的能用的大语言模型中，速度最快的是哪个？

  •   
  •   ttgo · Mar 27, 2024 · 1691 views
    This topic created in 802 days ago, the information mentioned may be changed or developed.
  • 速度
  • 模型
  • 主流
    4 replies  •  2024-03-27 16:33:28 +08:00
    PbCopy111
        1
    PbCopy111  
       Mar 27, 2024
    我在用智谱 AI 的
    TimePPT
        2
    TimePPT  
    PRO
       Mar 27, 2024
    如果没有国内合规要求，看看 Groq ?
    ohazyi
        3
    ohazyi  
       Mar 27, 2024
    开源的，mistral 8x7b 这种基于 moe 的，推理速度快多了
    mumu
        4
    mumu  
       Mar 27, 2024
    Groq 确实快，但是想让他回复中文，提示词改得有点蛋疼。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1274 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 35ms · UTC 17:12 · PVG 01:12 · LAX 10:12 · JFK 13:12
    ♥ Do have faith in what you're doing.