Deixe-me ser direto: não sou contra análises detalhadas. O que me irrita é a inconsistência.
Esses laboratórios mostram pontuações GPQA de 0 a 100, depois mudam repentinamente os métricas ao apresentar benchmarks SWE. E eles escolhem a dedo quais modelos comparar.
Eu entendo que é impulsionado pelo marketing. Mas ainda assim. A falta de uma avaliação padronizada mina a credibilidade. Se você está definindo referências, pelo menos mantenha a metodologia consistente entre diferentes testes.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
11 Curtidas
Recompensa
11
5
Repostar
Compartilhar
Comentário
0/400
YieldWhisperer
· 11-29 10:37
Ngl, isso é típico de "mentir com dados"; mudar um indicador pode alterar o resultado, realmente é frustrante.
Ver originalResponder0
NervousFingers
· 11-29 08:34
nah este sistema de avaliação realmente pode ser medido como se quer... ora GPQA, ora SWE, é estranho que os dados coincidam.
Ver originalResponder0
LeekCutter
· 11-26 16:52
Apanhar galinhas, trocar a régua é trocar a história, esta armadilha eu conheço muito bem.
Ver originalResponder0
RealYieldWizard
· 11-26 16:41
sinceramente, com esses critérios de avaliação a mudar aleatoriamente, é realmente difícil confiar nesses dados...
Ver originalResponder0
MysteryBoxAddict
· 11-26 16:40
Isto é absurdo, mudar um indicador para tentar enganar as pessoas?
Deixe-me ser direto: não sou contra análises detalhadas. O que me irrita é a inconsistência.
Esses laboratórios mostram pontuações GPQA de 0 a 100, depois mudam repentinamente os métricas ao apresentar benchmarks SWE. E eles escolhem a dedo quais modelos comparar.
Eu entendo que é impulsionado pelo marketing. Mas ainda assim. A falta de uma avaliação padronizada mina a credibilidade. Se você está definindo referências, pelo menos mantenha a metodologia consistente entre diferentes testes.