type
status
date
slug
summary
tags
category
icon
password
机遇巧合认识了Groq这个平台
后来找了很多便宜API才发现这个是免费的
额度大，速度和响应都是第一梯队
测试llama3 8b大概800+token/s
而llama3 70b大概300+tokens/s
听说是设计了专用芯片LPU
而领队的是以前给谷歌设计TPU的
速度和耗电都优于GPU
官方说收费价格将是最便宜的
- 作者:jlak
- 链接:https://blog.888122.xyz/article/free-api-llama3
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。