Skip to content

Coder 搭建vllm-ascend开发环境 #31

@menogrey

Description

@menogrey

1. 创建Coder容器镜像

请参考这个#29,进行Coder容器环境的创建
镜像选择时,可以

  • 使用vllm-ascend直接发布的合一镜像 m.daocloud.io/quay.io/ascend/vllm-ascend:<xxx>
  • 也可以使用CANN的镜像,自己进行vllm和vllm-ascend的从源码安装 m.daocloud.io/quay.io/ascend/cann:<xxx>
  • 也可以使用dev_images自定义自己的镜像,特别是有一套自己熟悉的工具时

NOTE:由于Coder会留一个目录挂载,所以选择了镜像使用一段时间后,也可以进行镜像的更换,只要将自己的配置等文件都在该目录下就可以
Image

2. 进行基础的一些配置

SSH/GIT配置

https://docs.github.com/zh/authentication/connecting-to-github-with-ssh/generating-a-new-ssh-key-and-adding-it-to-the-ssh-agent
https://docs.github.com/zh/get-started/git-basics/set-up-git

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions