llama3-70b-instruct fp8 GH200 trtllm engine
收藏官方服务：
资源简介：
Built with TRTLLM 0.10.0.dev2024043000 for 1xGH200 96GB GPU
构建于TRTLLM 0.10.0.dev2024043000版本，适用于搭载1xGH200 96GB GPU的系统。
创建时间：
2024-06-03
社区交流群
科研交流群
商业服务
Built with TRTLLM 0.10.0.dev2024043000 for 1xGH200 96GB GPU
构建于TRTLLM 0.10.0.dev2024043000版本，适用于搭载1xGH200 96GB GPU的系统。