开源大语言模型(LLMs)探索之部署试用

• 本视频部署和试用了6个开源大语言模型(LLMs)，包括lamma2，ChatGLM3，通义千问，Alpaca2，Aquila2，百川2。基于huggingface、modelscope、flagai等Python开源工具编写程序。运行平台包括英伟达A800 GPU一片，显存为80G；操作系统为Ubuntu。使用不同提示词对各个模型进行测试。
• 本代码仓库的配套视频地址在B站.
• 声明：本视频并非精确测评，仅对开源大语言模型进行部署和试用。视频中评论为个人观点，仅供参考。
• 鸣谢：武汉工商学院电子商务学院、武汉工商学院数字商务研究所