Deixe-me ser direto: não sou contra análises detalhadas. O que me irrita é a inconsistência.



Esses laboratórios mostram pontuações GPQA de 0 a 100, depois mudam repentinamente os métricas ao apresentar benchmarks SWE. E eles escolhem a dedo quais modelos comparar.

Eu entendo que é impulsionado pelo marketing. Mas ainda assim. A falta de uma avaliação padronizada mina a credibilidade. Se você está definindo referências, pelo menos mantenha a metodologia consistente entre diferentes testes.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • 5
  • Repostar
  • Compartilhar
Comentário
0/400
YieldWhisperervip
· 11-29 10:37
Ngl, isso é típico de "mentir com dados"; mudar um indicador pode alterar o resultado, realmente é frustrante.
Ver originalResponder0
NervousFingersvip
· 11-29 08:34
nah este sistema de avaliação realmente pode ser medido como se quer... ora GPQA, ora SWE, é estranho que os dados coincidam.
Ver originalResponder0
LeekCuttervip
· 11-26 16:52
Apanhar galinhas, trocar a régua é trocar a história, esta armadilha eu conheço muito bem.
Ver originalResponder0
RealYieldWizardvip
· 11-26 16:41
sinceramente, com esses critérios de avaliação a mudar aleatoriamente, é realmente difícil confiar nesses dados...
Ver originalResponder0
MysteryBoxAddictvip
· 11-26 16:40
Isto é absurdo, mudar um indicador para tentar enganar as pessoas?
Ver originalResponder0
  • Marcar
Negocie criptomoedas a qualquer hora e em qualquer lugar
qrCode
Escaneie o código para baixar o app da Gate
Comunidade
Português (Brasil)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)