ti德州仪器供应商TPSM53604
AI优化器可以将计算量较大的原始模型优化,从而提高模型在硬件上的运行性能;AI量化器可将浮点模型编译为8bit模型,高效部署在目标平台上;AI编译器可将定点过的模型编译成在平台上的可运行的机器代码;AI分析器可在模型运行时分析每层运行的状态、存储的带宽、计算量、运行效率等。目的是让客户能够高效开发神经网络应用,Xilinx在此方面针对具体的DPU有不同版本,包含高吞吐量、低延时、多通道等不同方案。值得一提的是,Vitis AI支持框架编译,不需要代码描述模型,从模型文件本身通过工具处理,即可生成在DPU上的机器代码,所以编译时间非常短。据悉,一个编译的时间大约为1-2分钟。在硬件代码编程中拥有Vivado?设计套件,而此次发布的独立于设计套件,后者仍然继续为希望使用硬件代码进行编程的用户提供支持。但是也能够通过将硬件模块封装成软件可调用的函数,从而提高硬件开发者的工作效率。对于层次不同的开发者拥有了自由的选择。传统的硬件工程师可以继续使用开发工具进行开发,也可利用调用库提高硬件开发效率;对于擅长底层移植或底层驱动的软件工程师,可调用中预先定义好Shell、I/O和部分编程工程的硬件库进行开发;对于应用软件开发者可使用熟悉的语言,直接完成语言开发;对于AI科学家也可以利用高层次框架训练自己的模型。
展开全文
相关产品