工作层面上,全是我一个人干。
1,有几个项目是直接用 rust 实现的ai推理服务:有用li***orch,也有用onnx,还有用candle的。
2,某个 aigc 项目,不过是多语言多架构,rust 只是提供 web 服务层的功能,ai部分还是python,不用 rust 实现的原因是,虽然rust 也能推理,但是我发现生成的图片效果不如python 版本,哪怕所有参数一致,说明底层的推理框架有一些差异。
还有一个是aigc 都有大量的插件配套,这个如果全rust化,我估计…。
当前位置: 首页 >
工作层面上,全是我一个人干。
1,有几个项目是直接用 rust 实现的ai推理服务:有用li***orch,也有用onnx,还有用candle的。
2,某个 aigc 项目,不过是多语言多架构,rust 只是提供 web 服务层的功能,ai部分还是python,不用 rust 实现的原因是,虽然rust 也能推理,但是我发现生成的图片效果不如python 版本,哪怕所有参数一致,说明底层的推理框架有一些差异。
还有一个是aigc 都有大量的插件配套,这个如果全rust化,我估计…。
这是IISS的我军部署图。 然后这是台湾的部署图 ...
因为之前给的基调是美国一直在衰落,现代的美军无法打过20年前...
...
我恰好32gb,最大的感受是 打开任务管理器,内存占用20多...
查看详情>>