账号:
密码:
智动化 / 文章 /

与云端协同 AI边缘运算落地前需克服四关键
专访耐能智慧创办人暨执行长刘峻诚
[作者 季平]   2021年10月26日 星期二 浏览人次: [2476]

越来越多资料在生产现场产生,对于资料即时处理与分析的需求变高,因此越来越多产业看重IT应用,如边缘运算(Edge Computing)以及结合AI的AIoT,随着5G专网出线,COVID-19加速数位化脚步,边缘运算一跃成为企业战略要角。


安侯建业(KPMG)和国际数据资讯(IDC)预估,疫后全球经济复苏的关键在于5G和边缘运算,到2023年,工业制造、连结医疗、智慧运输、环境侦测和电竞娱乐等五类产业的连接、软硬体和服务所产生的合并市值将逾5,000亿美元,其中,工业制造领域中5G和边缘运算的相关技术约可创造2,600亿美元的市场商机。


IT研究与顾问咨询公司高德纳(Gartner)预估,2023年逾50%的大型企业会因为物联网或沉浸式体验而部署至少六个边缘运算解决方案,到2025年,全球边缘硬体基础架构将达170亿美元水准,而超过75%的企业资料会在资料中心或云端以外的地方被创造及被处理。


此外,Frost&Sullivan研究预估,为达节省网路频宽、提高安全、提升数据传输效率、降低成本等目的,2022年约有90%的工业企业将边缘运算视为基础建设的一环,而多接取边缘运算(Multi-access Edge Computing)市场规模在2024年将达72.3亿美元。


前述几大调研机构预测不难看出边缘运算商机无限。从实际应用来看,5G和边缘运算技术联手带动工业界高度自动化,促使自驾车、机器人、物联网设备、AR/VR、MES及ERP系统各领域蓬勃发展,边缘运算的发展进程与技术革新也带动边缘AI晶片的需求量。 IDC预测,未来人工智慧会走向「端、云共生」(Edge/Cloud AI Mutualism),2025年全球将有50%的终端装置拥有AI神经网路运算能力。


边缘运算趋势:云端协同概念

企业端主要将边缘运算应用于云端、工业物联网及5G等领域。边缘运算以分散架构模式处理运算,加速AI应用与运算,可以依照运算资源及分析软体的不同,处理复杂或简单的工作,也可以让云端接手。随着AI与5G的加入,边缘运算技术发展至今已走向云端协同。


终端边缘AI解决方案新创厂商耐能智慧(Kneron)以「AI晶片+边缘运算+图像算法」为核心,全面赋能智慧物联、自动驾驶、智慧安防、智能家居、手机等领域,提供完整的端到端软硬体解决方案,可在移动设备、个人计算机和IoT(如智慧家居、监控、支付等),从云的AI拓展到设备边缘AI的推理运算。


图1 : 耐能智慧创办人暨执行长刘峻诚。(source:耐能智慧)
图1 : 耐能智慧创办人暨执行长刘峻诚。(source:耐能智慧)

AI晶片与边缘运算

耐能智慧创办人暨执行长刘峻诚指出,边缘运算有非常边缘的AI,也有边缘跟边缘的AI互相沟通,比方边缘的sensor跟中间的大脑AI的沟通、互相沟通的AI跟AI,「我们不只赋予设备智能,还让智能跟智能之间可以分享彼此的资讯,做不同的判断。」


如车联网AI,除了两车内AI的沟通,还有中间的「虚拟交警」提供判断,所以有端的server及端的小sensor可以互相沟通与协同,不再局限单一点的智能,而是点跟点的智能,形成面,两车之外的虚拟交通警察可以观察并预测轨迹,如果发现两车靠近可能产生碰撞就会调整两车状况,避免发生意外,「这些沟通需要仰赖边缘运算及5G技术才可能落实。」


今年10月份,耐能智慧与广达旗下的云端伺服器大厂云达强强联手,透过耐能的边缘AI晶片KL520和KL720解决方案,协助云达的5G驱动智慧制造技术,以强化智慧制造的安全性,宣告AI、边缘运算及5G等技术应用更上层楼。


云达总经理杨麒令表示,加入耐能AI晶片后,相关设备处理速度变得更快,过去的边缘服务器方案可支持近100个镜头的传输,将耐能的AI晶片加入通用客户端设备(uCPEs)中,可在相同框架下支持更多镜头,成本降低至原来的25%左右。透过5G网络,uCPE可以在本地进行处理,减少需要发送到终端服务器的信息,进而减少宽带容量,降低成本。


耐能智慧逐步落实终端AI在终端设备而非云服务器上进行的创新理念,除了自驾车、汽车、智慧工厂内的机器人,AI云端运算也能运用在智慧医疗领域,如耐能与台中荣总合作,借AI医疗应用加值智慧医疗照护,边缘运算搭配的不是传统sensor或麦克风,而是3D sensor,透过医疗云端智慧平台导入人工智慧医疗技术等服务。


云端协同更顺畅的四个关键技术


图2 : AI边缘运算串联智慧网络。(source:Kneron)
图2 : AI边缘运算串联智慧网络。(source:Kneron)

不过,前述边缘运算趋势要能真正落地,除了edge server技术,还有三个技术门槛需要克服。


刘峻诚指出,端的AI优势是执行速度快,云的AI优势是综合讯息强,各有优势,如果要查台北天气,需要云的AI到气象局查,端的AI做不到,如果想知道台北到新竹的路况,端的AI无法判断车祸、塞车等细节,需要云的AI才能做到,但云跟端的AI要能更密集地沟通协同,包含了云跟端的沟通、边缘伺服器(edge server)跟云、边缘伺服器跟端的沟通,或者端的sensor彼此间的沟通,「边缘伺服器介于云跟端之间,是新的物种,但是不论是edge server AI或 roadside unit AI,都要靠5G传输速度快、低延迟性等特性才能顺利运作,4G很危险,所以第一个技术门槛就是5G。」


另一个技术门槛则是乙太网路(ethernet)的连线与传输速度。目前AI的运作是将资料上传至云端计算结果回传,不易满足即时需求,分散式架构的边缘运算透过嵌入或外加的运算设备处理不同运算,等于在靠近资料源或用户端处就能完成运算,快速获得分析结果。


好比人脑与四肢或其他器官,靠神经网络快速传达痛感等讯息,需要靠人脑下达指令才能有动作,避开危险,车内的各个sensor一如四肢或器官,要有很强的传输能力才能传到车的大脑,ethernet传输扮演重要角色,要让AI或边缘运送传输速度快才能越来越像人体的神经传导速度。


此外,边缘运算的通用性(能力)要很强才行,比方获IEEE CAS Darlington论文奖的耐能可重组式架构技术具有极佳的可变性,若将晶片比喻成乐高积木,当需要支持语音AI的模型时就能通过指令集进行组合,需要支持图像AI模型时再重新组合,可以很好地支持多种神经网络模型,保持架构的精简性,带来高性能、低成本、低功耗、高兼容性等优势,「可以支持语音、影像、2D讯息、3D讯息的边缘运算AI晶片不能只做影像,还必须有触觉、嗅觉、视觉等功能,兼容不同sensor的多变性与通用性。」



图3 : 耐能边缘AI技术联合云达科技共同升级智慧制造。
图3 : 耐能边缘AI技术联合云达科技共同升级智慧制造。

刘峻诚说,边缘运算在智慧工厂的应用相当普遍,可以透过小sensor协助产业链执行速度更快,如果第一时间发现瑕疵,可以透过edge server告诉产业链的控制系统或机械手臂,挑出瑕疵品,「新趋势是,每个设备都有智能可以快速沟通,不是单点智能,而是多点智能,还有一个主控端的edge server协助沟通判断,而大脑AI 搭配端的edge server可以做到协同沟通及判断,这个概念也可以套用在智慧居家、智慧医疗等领域。」也因为云端协同变得越来越重要,随着edge server、multi sensor的出现,边缘运算的AI要非常通用才行,另一方面,5G、ethernet等技术也必须到位。


自Alpha Go带动第三波人工智慧革命后,边缘运算与AI的结合带动新的可能性。市调公司MarketsandMartets针对人工智慧(AI)市场调查预估,AI晶片市场到2022年将达160.6亿美元。


耐能智慧2015年创立,进入市场时间早,加上人员多元,掌握软硬体技术及运算能力,因此拥有先发优势,挟AI晶片、边缘运算与图像算法等核心技术,短短六年间耐能智慧将AI边缘运算技术应用于智慧物联、自动驾驶、智慧安防、智能家居、智慧医疗等领域,不仅跟世界最大的server OEM供应链广达合作,在日本车市后装市场占有27-28%的市占率,与台中荣总合作智慧医疗,与台湾最大、世界第二大工业电脑厂商研华合作IoT智慧门锁,今年也成为鸿海MIH生态系战略伙伴。


AI生态系打造智慧网络

除了低功耗AI系统单晶片(SOC)主力产品,耐能智慧在2020年推出KNEO Marketplace平台,企图打造自己的AI生态系。 KNEO是由耐能驱动设备组成的私有网格智慧网络,可以提供个性化移动AI,一如智慧手机和APPs提供个性化的移动计算,KNEO为AI开发者提供开放平台,为使用KNEO的消费者和企业构建AI Apps,同时具有区块链的安全性和边缘AI隐私性的各种优势。


刘峻诚指出,不同产品使用不同平台会有沟通成本,速度也比较慢,效果不会比较好,AI传输速度要快才能突出,工业制造也是,所以同一个方案遍布所有设备就会在沟通与速度上产生一定的优势。 KNEO平台用同一种方案串联,有一样的语言(晶片),沟通起来效率最高,可以提供云端协同与云端服务。


「耐能不是只做AI晶片,真正想做的事是KNEO,也就是脑袋跟脑袋间的沟通引擎。」刘峻诚说,台湾有许多厂商面临产品升级的成本考量,耐能产品透过USB随插即用的优势,可以从插槽升级AI,节省成本,APP开发者可以上传软体到KNEO,使用者也可以在KNEO平台上挑选适合自己的APP软体,要做到如此互通有无的境界,AI晶片必须够通用才行,「晶片够通用才可以这样串联,只要平台够简单,大家都可以用,就可能达到这种境界。」


目前,KNEO平台有超过二万个APP开发商,耐能希望赋予设备智能,让智能设备彼此沟通,之后的服务串联也由耐能提供,如此可以遍布智慧工厂、智慧制造、智慧医疗、智慧汽车等领域。从AI边缘运算到KNEO平台,耐能智慧逐步打造更有影响力的AI生态系,努力落实云端协同的全面智慧网络。


相关文章
新一代可扩充边缘微型资料中心部署
嵌入式系统部署AI应用加速开发周期
边缘运算将成为下一个重大网路安全挑战
助智慧机械跨足核心战略产业 CNC数控系统聚焦专用需求
AI技术加值零售新视力 智慧应用方案增进效益
comments powered by Disqus
  相关新闻
» 意法半导体G3-PLC Hybrid融合通讯晶片组获FCC认证
» 浩亭亮相大型纪录片《工业传奇》第二季展现智造力
» 海德汉展示半导体检测平台 兼顾精准控制与稳定产能
» ABB推出新款机器人控制器 协助更快、更节能的弹性生产
» 浩亭技术集团销售额稳步增长 高投资迈向气候中性的未来
  相关产品
» 凌华推出新款COM-HPC Client Type与COM Express Type 6模组化电脑
» 智慧基础设施前进IIoT之路 浩亭提供可靠的乙太网工业应用方案
» 安勤推出新款采用EtherCAT的高效能Slot PC解决方案
» 德承推出新款高效低功耗强固型工业电脑─DI-1100系列
» 宇瞻发表新世代112层BiCS5 3D TLC工业用记忆卡


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2022 远播信息股份有限公司版权所有 Powered by O3
地址:台北市中山北路三段29号11楼 / 电话 (02)2585-5526 / E-Mail: webmaster@hope.com.tw