过去几年中，边缘设备源源不断地生成大量数据，传输至云端的成本变得高昂，越来越多的AI应用被部署在边缘端，以便就地处理数据。
相比云计算，边缘计算在低延迟、高安全性上优势明显，但这种越来越分散和接近用户的数据处理方式，也带来了新的挑战。
由于终端设备的算力有限，且对功耗要求较高，因此在实际的产品设计和应用开发中，如何高效利用边缘计算设备有限的硬件资源，实现更优的边缘计算方案，是开发者们在不断思考的问题。
近日，英特尔举办2024 *** 与边缘计算行业大会，分享了对AI技术和边缘计算的最新洞察、未来展望及技术与产品的创新。
边缘AI成全球趋势，中国大模型聚焦行业应用
随着AI更多在边缘端部署应用，AI模型也将逐步从云端向边缘端转移。一场巨大的创新浪潮正在酝酿，当下正处于这一变革的关键时刻。
英特尔高级副总裁兼 *** 与边缘事业部总经理Sachin Katti指出：“边缘AI的应用领域，已逐步从机器视觉，扩展到大语言模型、生成式AI等新兴领域。未来英特尔也将更多关注大语言模型和生成式AI的开发与应用。”
Sachin Katti将AI的发展可以分为三个阶段：AI辅助时代（Age of AI Co-Pilots）、AI 助手时代（Age of AI Agents）、全功能AI时代（Age of AI Functions）
AI辅助时代，AI是能够辅助我们更高效地工作；
AI助手时代，AI可以自动地执行一些工作指令；
全功能AI时代，智能体之间将能够相互协作。
当下，我们正处在AI协同时代。
IDC数据显示，中国生成式AI投资2022到2027年五年的复合年增长率达到86.2%。Gartner预测，到2026年，80%的全球企业将使用生成式AI，50%的全球边缘部署将包含AI。
在这一大趋势下，中美两国边缘AI的发展，虽然在技术上有许多相似之处，但在落地策略上存在明显差异。
国外的大模型多用于消费类场景，如 ChatGPT 面向公众开放，Sora 主要面向教育机构用户，这些模型都涉及庞大的数据训练量和参数量。
中国的大模型更多应用于行业领域，通常训练中等规模的模型，并结合自身数据进行定制化调整，这种策略通常涉及多个模型的并行部署，以适应特定行业的需求。
英特尔中国区 *** 与边缘事业部首席技术官、英特尔高级首席AI工程师张宇博士强调，“中国在AI创新方面发展迅速，许多AI Agent的功能已经初见端倪。比如电信行业的AI大模型产品可以分析 *** 日志文件，及时发现异常并通知 *** 管理人员。”
AI与边缘计算的融合正在重塑产业的发展。英特尔中国团队正专注于利用英特尔的软硬件技术，鼓励本地创新，加速AI技术在行业中的应用。
用本土创新提升新质生产力
生成式AI为 *** 和边缘计算带来了许多机遇，同时也在重塑着产品和服务模式。
英特尔致力于为企业提供的，是开放、即插即用的解决方案，以及打造开放、可扩展的系统架构。
“未来合作伙伴不会单单采购芯片，而是需要一整套即插即用的系统解决方案。”Sachin Katti表示，英特尔的服务已经不仅仅局限于硬件供应，还扩展到了应用层、软件以及客户服务支持等多个维度，“主要目的在于帮助客户降低部署的复杂性，实现更加高效、便捷的技术应用。”
在全球市场，英特尔坚持提供统一的软件平台，与此同时，每个市场的本地团队，又会根据当地特定垂直领域的需求，进行微调和定制。这样既能在横向上满足全球市场的一致性要求，又能在纵向上针对本地市场的特殊需求提供解决方案。
在不同行业中，AI技术的应用场景和影响各不相同，英特尔携手众多中国本土合作伙伴，已支持大语言模型(LLM)在教育、制造业等不同行业的落地应用。
在教育领域，AI可以通过分析课堂互动生成教学报告，提高教师的效率。
十余年来，英特尔与希沃在“AI+教育”解决方案的开拓上展开紧密合作。基于英特尔(®)酷睿™Ultra处理器，希沃在本地即可完成AI教学大模型的运行，并显著提高系统响应速度和稳定性。希沃的产品如今已覆盖17万所学校，260万间教室，服务800万名教师，帮助完成了8亿个生成式课件的 *** 。
在工业领域，AI可以结合机器视觉和自动化技术，提升生产线的安全性和效率。
面向工业数字化转型升级的迫切需求，科东软件通过先进大语言模型实现任务理解及代码生成，并依托科东智能控制器的多模态视觉语言模型，实现对机器人动作的精准控制，极大简化了开发流程并提升了生产效率。通过在英特尔(®)酷睿™Ultra 处理器上部署大语言模型，还减少了对算力设备和 *** 传输的依赖，有效降低了操作延迟，满足工业场景对低延迟和高可靠性的需求。、
边缘计算的特点是碎片化，不同行业和用户对算力和性能的需求各不相同。提供丰富的产品组合和多样化的解决方案，以满足不同用户的具体需求。
数据量的限制是边缘调优的一个常见挑战，英特尔通过自动化手段完成数据标注和训练，解决了数据量小的问题，并结合大规模通用数据模型进行进一步优化。
硬件方面，在算力和能耗的平衡上，英特尔通过创新的冷却技术和智能能源管理策略，实现了高效的功耗管理和性能优化；其集成GPU和NPU解决方案为边缘设备提供了AI计算能力，支持一些AI模型的本地运行，展示了边缘AI的潜力。
打造开放、可扩展的企业级AI生态，才能“让AI无处不在”
在不断推动技术创新和解决方案升级的同时，英特尔也在全球范围内，构建了一个广泛、深入且多样化的合作生态系统。
据雷峰网了解，在这个合作系统中，合作伙伴主要分为三大类，合作方式各有不同：
针对原始设备制造商（OEM）和原始设计制造商（ODM），英特尔协助其进行硬件的设计和生产；
针对直接对接终端客户的系统集成商，英特尔提供定制化解决方案和软件培训，帮助他们显著减少开发时间和成本；
针对软件提供商，英特尔采取直接合作的模式，帮助他们优化软件和应用程序，以便在英特尔提供的多样化平台上高效运行。
作为拥有完整软硬件平台的公司，英特尔在AI领域拥有深厚的积淀与领先优势，提供开放、模块化的解决方案，帮助客户在AI时代以更低总拥有成本（TCO）实现更高价值。
张宇博士补充道，为了推动AI本地创新应用，英特尔还花了很大精力赋能开发者，帮助他们更快更好将想法落地。
今年上半年，中国区 *** 与边缘事业部和英特尔中国其它事业部合作，共同组织AI创新应用大赛。“除此之外，我们还跟包括开发者、ODM、OEM、系统集成商等合作伙伴来共同制定今后在我们国家适用的AI标准。”张宇博士对雷峰网(公众号：雷峰网)表示。
面向未来的AI转型，英特尔正在引入端到端、可扩展的系统级战略，通过开放的生态系统全速助力企业推进AI创新。
英特尔公司副总裁兼 *** 与边缘事业部中国区总经理陈伟博士表示：“英特尔对客户的技术支持始终与时俱进，不仅仅是技术的提供者，更是本地合作伙伴的倾听者和同行者，从运用AI进行创新的‘+AI时代’，到今天以AI为主导推动创新的‘AI+时代’，英特尔正站技术转型的前沿，进一步深化战略，确保英特尔的技术更贴近中国用户，更深入地推动各行业的数字化转型。”
数年深耕，通过持续不断的软硬件平台和产品创新，积极推动边缘AI等新兴领域的拓展，相信英特尔将与合作伙伴和客户共同迎接一个由AI驱动、智能优化的全新时代的到来。
发表评论