ERNIEkit

paddlepaddle-github

ERNIEkit是训推一体的

Fastdeploy是快速部署的

显卡环境

• V100显卡 🚫FM流式多处理器7.0，不支持bf16精度，flatter attention
• SM8.0 80/90 都支持 A800是A100的阉割版