week12
说实话已经是3个月了,上周人力找我续签实习合同,我还是答应下来了但是不敢保证到位的时间
星期一
还是继续思考一下怎么设计容器比较好。
星期二
完成基于YOLO11的目标检测和实例分割算法,建立转义层将算法转换为命令行命令和RESTful风格的可提供网络服务的API。
完成带有国产GPU适配层和目标检测、实例分割算法的镜像封装,并推送到本地registry仓库
完成k8s集群控制面板的适配,能够通过控制面板的前端页面拉起服务,并基于服务API建立用于演示的简易前端页面,
完全实现基于vllm框架的大模型部署功能,对k8s集群内部和外部均提供服务部署,可通过前端控制面板调整显存限制、上下文长度等模型部署参数,通过指定挂载路径实现不同大模型的更换(受限于国产GPU兼容的vllm版本落后主流版本,比较新的模型暂时无法支持)
完成大模型推理的服务化搭建:在使用k8s前端控制面板拉起以后,可以在集群外部通过v1/chat/completions接口实现与模型的对话。
星期三
优化前端控制面板使用体验:现在选择服务镜像后,前端会加载镜像对应的默认运行指令和端口等服务参数,并建立镜像名称和默认配置的对应关系存储在json文件中,方便后续增加内容和改动。
完成向集群本地仓库上传镜像的RESTful API开发,并配置对应的前端面板操作界面。
星期五
搜集寻找遥感图像前处理相关算法,为满足云部署平台项目的智能前处理演示任务需求
完成针对遥感场景的目标识别模型调研和部署,完成镜像封装上传到本地仓库,能够通过前端控制面板拉起任务实现识别车辆、飞机、船等目标测试通过。
License:
CC BY 4.0