异质运算实现边缘LLM　CPU/GPU/NPU各有所长

生成式人工智慧(AI)技术及大型语言模型(LLM)逐步往终端应用拓展，在边缘端导入生成式AI的愿景，成为处理器厂商的兵家必争之地。面对市场上特定应用领域的AI推论需求，处理器厂商积极开发适用於终端装置的解决方案，期望未来终端应用可以导入生成式AI。…