新闻动态

Conference related

当前位置 > 首页 > 新闻动态 > 行业动态 > 开发者新闻 | NVIDIA 推出 Jetson Generative AI Lab,将生成式 AI 引入边缘计算设备

开发者新闻 | NVIDIA 推出 Jetson Generative AI Lab,将生成式 AI 引入边缘计算设备

 借助 NVIDIA Jetson 实现生成式 AI


1699082028317971.png


最近,NVIDIA 推出了 Jetson Generative AI Lab,该实验室使开发人员能够利用 NVIDIA Jetson 边缘设备在现实环境中探索生成 AI 的无限可能性。与其他嵌入式平台不同,Jetson 能够在本地运行大型语言模型 (LLM)、视觉转换器和稳定扩散,其中包括 Jetson AGX Orin 上最大的 Llama-2-70B 模型。


要快速测试 Jetson上的最新模型和应用程序,请使用 Jetson Generative AI 实验室提供的教程和资源。现在,您可以专注于发掘物理世界中生成式 AI 的尚未开发的潜力。
在这篇文章中,我们探索了您可以在 Jetson 设备上运行和体验的令人兴奋的生成式 AI 应用,所有这些都在实验室教程中得到了全面介绍。


 高效的 CUDA 调试 : 使用 NVIDIA Compute Sanitizer 进行内存初始化和线程同步 


1699082058286920.png


NVIDIA Compute Sanitizer (NCS) 是一款功能强大的工具,可以节省您的时间和精力,同时提高 CUDA 应用程序的可靠性和性能。


在我们之前的文章《高效的 CUDA 调试:如何使用 NVIDIA Compute Sanitzer 查找 Bug》中,我们探讨了并行编程领域的高效调试。我们讨论了在 CUDA 环境中调试代码如何既具有挑战性又耗时,特别是在处理数千个线程时,以及 NCS 如何帮助这个过程。
这篇文章继续我们对高效 CUDA 调试的探索。它重点介绍了更多的 NCS 工具,并介绍了几个示例。


来源:NVIDIA企业开发者社区


相关文章链接
新型工控的历史机遇,《“十四五”软件和信息技术服务业发展规划》发布
Gartner发布十大战略科技发展趋势 “从云到边缘”位列其中
边缘计算产业联盟内参【2019年第1期】-行业动态
《网络数据安全标准体系建设指南》公开征求意见
中国自动化学会边缘计算专业委员会 正式成立

关于联盟

边缘计算作为新兴产业应用前景广阔,产业同时横跨OT、IT、CT多个领域,且涉及网络联接、数据聚合、芯片、传感、行业应用多个产业链角色。为了全面促进产业深度协同,加速边缘计算在各行业的数字化创新和行业应用落地,华为技术有限公司、中国科学院沈阳自动化研究所、中国信息通信研究院、英特尔公司、ARM和软通动力信息技术(集团)有限公司作为创始成员,联合倡议发起边缘计算产业联盟,致力于推动“政产学研用”各方产业资源合作,引领边缘计算产业的健康可持续发展。

加入联盟

联系我们

  • 北京市海淀区上地十街辉煌国际5号楼1416
  • +86 10 5711 6299 +86 13910146695
  • info@ecconsortium.net
×

登录

确定