就人工智慧（AI）装置的硬体来看，关键的零组件共有四大块，分别是逻辑运算、记忆体、PCB板、以及散热元件。他们扮演着建构稳定运算处理的要角，更是使用者体验能否优化的重要辅助。而随着AI大势的来临，台湾业者也已做好准备，准备在这些领域上大展拳脚。

逻辑元件扮枢纽 台湾IC设计有商机

对整个AI运算来说，最关键就属於核心处理元件的部分。尽管台湾没有强大的CPU与GPU技术供应商，但在AI ASIC晶片设计服务与IP供应方面，则是拥有不少的业者，而且其中不乏领头羊的先进业者。

在AI ASIC晶片设计方面，台湾主要提供客制化的AI晶片设计服务（NRE）、矽智财（IP）、SoC设计，以及相关系统整合与生产等服务。主要的业者包含晶心科技、世芯-KY、智原科技、创意电子、联咏科技与凌阳科技等。

以世芯-KY为例，由於庞大的AI市场需求，该公司的先进AI ASIC设计业务已有十分耀眼的成长，尤其是在云端伺服器的应用上。世芯总经理沈翔霖在今年第一季的法说会就指出，世芯-KY业绩将会有很强势的成长，且将续创新高。

目前世芯-KY最主要的客户就是云端服务大厂AWS，该公司的云端伺服器的处理晶片多数交由世芯-KY来设计，并由台积电进行生产制造，晶片的节点制程也高达5/3奈米。

至於IC设计服务商智原科技与创意电子，也正积极发展AI晶片的设计，以回应市场与客户的需求。在智原方面，近期已加入Arm Total Design的设计服务合作夥伴，来提供创新的先进云端、HPC和AI晶片。日前更宣布，携手ARM与英特尔，共同开发基於英特尔18A制程的64核SoC，布局大规模数据中心、边缘基础架构和先进5G网路应用。

至於创意电子，近期则是在高速传输技术颇有斩获。该公司日前宣布，已顺利设计定案 8.6Gbps HBM3 控制器、实体层与GLink 2.3LL的测试晶片，将可运用在AI、HPC/xPU及网路应用。此测试晶片同样采用台积电 3 奈米制程，并以台积电 CoWoS技术封装。

晶心科技则是台湾的RISC-V核心供应商，过往已经智慧物联装置上有十分卓越的表现，近几年也切入AI云端伺服器的市场，并获得Meta（Facebook母公司）的青睐，将其核心运用在自行开发AI晶片中，用来加速模型训练与推论。

值得注意的是，台湾的IC设计服务业者除了本身的技术十分杰出外，更与台湾的半导体制造业与封装业者紧密合作，包含台积电、联电、力积与日月光等，能够提供从设计到量产的一条龙服务，这也是目前全球鲜见的半导体生态系统。

总结来说，台湾的IC设计服务与IP产业在AI应用上的发展正如火如荼的进行，主要有以下四点：

1.AI晶片设计服务：

· 台湾IC设计服务公司积极投入AI晶片设计，提供从架构设计、演算法开发到晶片验证的完整服务。

· 与国际大厂合作，叁与AI晶片开发，提升技术能力并拓展市场。

2.AI加速器IP开发：

· 开发各种AI加速器IP，如神经网路加速器、电脑视觉加速器等，提供给IC设计公司使用。

· 这些AI加速器IP可以大幅提升AI运算效能，缩短产品开发时程。

3.AI应用领域拓展：

· 积极拓展AI应用领域，如智慧医疗、智慧制造、智慧城市等。

· 透过提供客制化的AI晶片与IP解决方案，协助客户实现各种AI应用。

4.AI生态系建立：

· 台湾IC设计服务与IP产业积极叁与AI生态系建立，与上下游厂商合作，共同推动AI产业发展。

· 台湾在半导体产业链上的完整性，有助於建立完整的AI生态系。

图一 : AWS的AI晶片就由台湾业者设计制造。（source：AWS）

HPC需求节节高升PCB板与散热元件成要角

AI应用为台湾PCB板卡业带来了新的发展机遇，最主要就是受惠於生成式AI的运算需求，让AI伺服器成为PCB板卡商的新蓝海。这类型的伺服器是属於高阶、高价值的PCB终端应用，因此制程技术门槛高，同时产品的单价也高，成为目前台湾PCB产业积极进军的领域。

就技术端来看，由於AI伺服器皆搭载高性能的处里核心，以及针对AI运算加速的GPU与AI晶片，这篇处理晶片组都采用特殊的布线与导线架，因此对於所用的PCB规格也有不同的需求。而其中最主要的就是ABF载板及HLC需求增加。 AI伺服器推升ABF载板和高多层板（HLC）的需求，成为PCB产业少数的成长亮点。

AI伺服器PCB的技术发展

有别於以往的运算架构与环境，AI伺服器也需有新的PCB板卡技术来支持，以下就是几个PCB板技术的发展趋势:

· ABF载板朝高层数、大面积发展： AI算力需求提升，推动ABF载板朝高层数与大面积发展，良率为载板厂获利关键。

· PCB板朝高密度、多层化发展： 伺服器平台升级，PCB板朝布线更多、更密集，及更多层数发展，例如从10层以下增加到16层以上。

· PCB板高速传输需求提升： 平台升级带动PCB板高速传输需求，铜箔基板等级也从Mid-Loss升级至Low Loss、与Ultra Low Loss。

图二 : AI算力需求提升，推动ABF载板朝高层数与大面积发展。（source：Unimicron）

台湾AI伺服器PCB板供应商概况

而台湾有许多PCB板卡供应商在AI领域扮演重要角色，包含欣兴电子 (Unimicron)、金像电子 ( Kinsus Interconnect)、华通电脑 ( Compeq Manufacturing)、南电 (Nan Ya PCB)、景硕科技 ( Kinsus Interconnect )、瀚宇博德与臻鼎科技等。

其中欣兴电子布局AI伺服器有成，目前已是NVIDIA的主要供应商之一，并在ABF载板技术方面有领先地位；金像电子是台湾最大的PCB制造商之一，专注於高阶伺服器PCB板，包括AI伺服器用板，而在AI大势驱动之下，业绩呈现逐步成长的局面。

至於华通电脑是HDI板龙头厂商，专门提供AI伺服器所需的高密度连接板；

而南电主要生产BT载板，在ABF载板技术上也有所布局，并也陆续发展AI伺服器的业务；景硕同样也以BT载板为主要的产品，但近年来积极投入ABF载板开发，以回应市场对於AI伺服器的需求。

同样受惠於AI伺服器需求的，则是散热元件供应商。主要的原因，就是AI伺服器的运算能力强大，散热需求也大幅提升，是整体效能能否稳定发挥的关键所在。由於AI伺服器搭载大量高效能运算晶片，例如GPU、TPU等，且需进行复杂的AI运算。当这些晶片在高负载运算时会产生大量热能，若无法有效散热，将导致晶片过热，影响运算效能，甚至造成硬体损坏，也因此需要搭配更效能的散热模组和元件。

另一方面，过高的温度也会影响AI伺服器的稳定性，导致系统当机或运算错误。因此高效能的散热元件能确保AI伺服器在长时间高负载运算下保持稳定运作。再者，优异的散热元件也有助於延长硬体寿命，良好的散热系统能降低晶片的工作温度，延长硬体寿命，降低维护成本。

而在环保节能的要求之下，高效能散热元件能更有效地将热量排出，进而减少能源消耗，提升AI伺服器的能源效率，符合节能减碳的趋势。

AI伺服器散热技术发展趋势

也由於AI伺服器对散热性能有不同以往的要求，因此也刺激了散热技术开始出现新的发展趋势，以下就是三种主要的技术进展：

· 从气冷走向液冷： 传统的气冷散热技术已无法满足AI伺服器的高散热需求，因此液冷散热技术逐渐成为主流。液冷散热效率更高，能更有效地带走晶片产生的热量。

· 浸没式液冷技术： 将整个伺服器浸泡在特殊的冷却液中，直接接触所有发热元件，提供更均匀、高效的散热效果。

· 复合式散热方案： 结合气冷、液冷、均温板等多种散热技术，针对不同发热元件提供最隹散热方案。

图三 : 从气冷走向液冷是AI伺服散热技术的重要趋势。图为工研院的液体伺服散热系统。（source：ITRI）

台湾AI散热元件概况

从PC产业起家，并一路拓展至伺服器应用，目前台湾已拥有完整的散热产业供应链，从上游的材料、零组件到下游的模组组装，且具备一定的竞争力。尤其是在散热技术方面，台湾厂商拥有相当的竞争力，在长期的研发投入下，已拥有多项专利和技术优势。再者台湾业者的客制化能力强，能够根据客户需求，提供客制化的散热解决方案。

目前台湾主要散热元件供应商包含双鸿、超众、奇??、建准 与泰硕。总结来说，高效能散热元件是AI伺服器不可或缺的一部分，能确保其稳定性、效能和寿命，同时提升能源效率。随着AI技术的发展，散热技术也将持续演进，以满足未来更高阶AI伺服器的散热需求。

处理器与记忆体推动AI浪潮

在当今科技发展的浪潮中，人工智慧（AI）已成为推动创新的关键力量。AI的应用范围广泛，从智慧手机、自动驾驶汽车到数据中心，无不依赖於先进的处理晶片与记忆体元件。这些元件不仅是AI系统的核心，更是实现高速运算与大量数据处理的基石。

处理晶片，如CPU和GPU，是AI运算的大脑，负责执行复杂的演算法和模型。随着AI模型的日益复杂，对处理晶片的性能要求也随之提高。例如，联发科技推出的AI处理晶片，以其高效能和低功耗的特性，正逐渐成为智慧装置中不可或缺的部分。耐能则以其创新的AI晶片KL730，提供了强大的运算能力和能效比，驱动轻量级GPT解决方案的大规模应用。而鑫创智慧则以其AI晶片在能效上的突破，成功击败国际大厂，展现了台湾企业在AI晶片领域的竞争力。

记忆体元件，如DRAM和Flash记忆体，则负责储存和快速存取数据。在AI应用中，记忆体的速度和容量直接影响整体系统的效能。华邦电子和旺宏都积极开发针对AI市场的记忆体解决方案，以满足市场对高速和大容量记忆体的需求。??创则推出了MemoriaLink高效AI记忆体平台，提供了一个整合硬体和软体的解决方案，以加速AI应用的开发和部署。

联发科聚焦AI体验 打造旗舰级处理平台

在AI处理器领域，联发科技与辉达合作开发了基於Arm架构的AI PC处理器，这是一个重大的突破，因为它将AI的运算能力带到了个人电脑领域。

近期联发科发表了天玑9300+旗舰处理器，这是一款专为AI训练大模型而设计的行动处理器。天玑9300+的CPU配置包括一个3.40GHz Cortex-X4超大核心、三个2.85GHz Cortex-X4大核心，以及四个2.00GHz Cortex-A720效能核心，这样的组合使其在运算过程中更加迅捷。它还内建了12核心Immortalis-G720 GPU，能够执行多款AI大模型。

联发科的这些进展不仅提升了AI处理器的性能，也为开发者和使用者提供了更隹的AI体验。例如，天玑9300+支援广泛的大型语言模型（LLM），并整合了LoRA技术，这使得生成式AI应用的开发和部署变得更加容易。

图四 : 联发科技天玑9300处理器

耐能科技解决边缘AI三大问题

耐能科技推出了KL730 AI晶片，这款晶片在能效方面取得了显着进步，相比以往的产品提升了3至4倍的能效。KL730提供每秒0.35至4 tera的有效计算能力，支持最先进的轻量级GPT大语言模型，如nanoGPT等。

KL730晶片的技术优势在於其高能效轻量级可重构神经网路架构，这解决了边缘AI设备所面临的三个主要问题：延迟、安全性和成本。此外，该晶片整合了车规级NPU和影像讯号处理器（ISP），使其能够在各种应用场景中，如边缘伺服器、智能家居及汽车辅助驾驶系统等，提供安全且低能耗的AI能力。

耐能科技的KL730晶片还具有多通道介面，可以无缝接入图像、视频、音频和毫米波等各种数字讯号，支持多种产业的人工智慧应用开发。

图五 : 耐能创办人兼执行长刘峻诚

鑫创智慧打造低能耗、高性能AI加速晶片

鑫创智慧（NEUCHIPS）最近在MLPerf v3.0 AI推论效能基准测试中，公布了其RecAccel N3000 AI加速器的测试数据，该数据在伺服器领域的能源效率上超越了NVIDIA。这项成就不仅展现了鑫创智慧在技术上的突破，也展现了其对於环境友好解决方案的承诺。

鑫创智慧的AI晶片在低耗能上的优势得到了国际认证，其每瓦可处理1,060次查询的能效是对手NVIDIA H100的1.7倍，这一成绩在资料中心系统领域中位居榜首。这一突破源自於公司在边缘AIoT领域的投入，该领域对省电的要求极高。

此外，鑫创智慧的AI晶片采用台积电7奈米制程生产，这不仅保持了超低功耗，也大幅降低了记忆体需求，这些特色使其在AI时代下的电脑升级AI规格中占有一席之地。该公司的AI晶片主打推荐模型应用，可加速资料中心、社群平台的推荐模型效能，并已完成工程验证，陆续开发客户中。

锁定边缘AI应用 华邦推出创新记忆体方案

华邦电子在AI记忆体领域推出了创新的CUBE架构，这是一种专为边缘AI运算设计的记忆体解决方案，目的在提供超高频宽和低功耗的记忆体技术。

CUBE架构利用3D堆叠技术和异质键合技术（hybrid bonding），能够提供单颗256Mb至8Gb的高频宽低功耗记忆体。这种记忆体技术特别适用於那些需要高效能运算能力的AI应用，如穿戴设备、边缘伺服器设备、监控设备、ADAS及协作机器人等。

CUBE的主要特点包括节省电耗、更好的性能和较小的尺寸。例如，CUBE提供的电源效率极高，功耗效能低於1pJ/bit，这有助於延长执行时间并优化能源使用。

华邦电子的这些进展不仅提升了AI记忆体的性能，也为开发者和使用者提供了更隹的AI体验。随着AI技术的不断进步，华邦电子无疑将继续在全球半导体市场中扮演重要角色，推动AI技术的发展和应用。此外，华邦还正在积极与合作夥伴公司合作建立3DCaaS平台，该平台将进一步发挥CUBE的能力。

着眼CIM技术 旺宏为AI打造全新记忆体产品

旺宏电子为AI应用量身打造了FortiXTM系列3D NAND/NOR快闪记忆体，这些记忆体不仅提供高储存容量和稳定品质，还兼具储存及运算功能，支援即时资料处理、高传输频宽与低功耗。

FortiXTM系列产品具备记忆体内搜寻（In-Memory Search；IMS）与记忆体内运算（Computing-In-Memory；CIM）功能，这些功能是兼有数位与类比架构的运算功能，能够大量减少记忆体与CPU/GPU之间的资料传输，进而提升速度、降低功耗，并降低整体系统成本。

FortiXTM的IMS功能可以直接从记忆体的既存资料中进行资料搜寻与比对，支援平行输入，而CIM功能则可在深度神经网路（DNN）推论任务中，执行所需的MAC运算。这些功能使得FortiXTM系列产品在AI应用中，特别是需要快速资料处理和高速传输的场景中，具有显着优势。

此外，旺宏电子与IBM合作，将其相变化记忆体（PCM）产品应用在IBM的新类比AI晶片上。

??创整合子公司技术 打造AI次系统

??创科技致力於AI技术的研发，特别是在机器视觉感测、边缘运算以及隐私保护等方面的应用。??创科技开发「AI+」次系统方案，这些方案包括室外机器人在农业的创新应用、服务型机器人的领先技术、内视镜市场的AI+创新以及新兴视讯会议方案的推进。

??创科技的子公司eYs3D透过边缘运算引擎eCV系统晶片，提供了创新的「AI+」次系统方案，这些方案已经在多个领域实现了AI的创新。

在产品进展方面，??创科技推出了全新平台MemoraiLink，这是一个整合记忆体与记忆体控制器支援系统晶片AI SoC平台。MemoraiLink原本仅限集团内部使用，现在将正式对外开放，使合作夥伴在前期导入设计时，即能以高效开发创新AI终端应用。该平台提供多样化的记忆体选择，满足SoC设计的容量和频宽需求，并结合??创擅长的异质整合，进一步优化SoC的整体性能和成本。

图六 : 图为使用??创MemoraiLink平台的??群科技EJ523D影音撷取IC

结语

从处理晶片到记忆体技术，再到PCB与散热元件等，台湾在整个AI关键元件上的术上不断推动创新，并为AI应用提供强大的支持。台湾半导体厂商如联发科、耐能、鑫创智慧等在AI处理晶片方面的创新，以及华邦、旺宏、??创等在记忆体技术上的进步，将持续推动AI技术的发展。

目前台湾已在全球半导体市场中占有一席之地，未来将进一步巩固其市场地位，特别是在AI和5G等高成长领域。而跨领域的合作，如与车辆制造商、医疗设备公司和农业技术企业的合作，将开启新的市场机会。展??未来，台湾在AI领域充满机遇，但也面临挑战。透过持续的技术创新、市场开拓、人才培养和国际合作，台湾有??在AI时代扮演更加重要的角色。