Nvidia Jetson Orin 适配大模型参考用例
在英伟达官网针对Jetson提供很多现有适配大模型方法,想学习的进入网站链接有参考适配步骤。
·
在英伟达官网针对Jetson提供很多大模型适配方案,参考相关的脚本可以轻轻松松在ORIN 平台搭建模型测试平台
想学习的点击网站链接有参考适配步骤
https://www.jetson-ai-lab.com/

https://www.jetson-ai-lab.com/models.html
这个里面有关联hugging face 网站和openai 链接(国内无法访问,需要科学上网办法),建议先把模型文件先下载本地,放到对应的需要关联的目录下,后续文章写下怎么去适配经验。

https://www.jetson-ai-lab.com/tutorial-intro.html
内置手把手教程搭建各种大模型的步骤

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)