服务详情
服务内容全部包含: 大语言模型并发部署,docker容器化部署,网页点击操作,在用户提供服务器的情况下可以远程部署,可长期稳定运行,支持多种开源模型。 服务优势: 大语言模型并发部署,docker容器化部署,网页点击操作,在用户提供服务器的情况下可以远程部署,可长期稳定运行,支持多种开源模型。 服务前需客户提供的信息: 1.部署服务器需要GPU,系统环境为centos或者ubuntu,能远程ssh连接,GPU的大小会严重影响大语言模型的性能,建议16G以上,V100或者30系列以上显卡 其他: 1.部署服务器需要GPU,系统环境为centos或者ubuntu,能远程ssh连接,GPU的大小会严重影响大语言模型的性能,建议16G以上,V100或者30系列以上显卡