媒體報導

生成式AI推升算力需求暴增，從雲端資料中心到企業內部伺服器，如何以更少能耗支撐大型語言模型（LLM）推論，成為硬體研發新戰場。成立於2019年的創鑫智慧，源自清華大學育成中心，以「用最少電力達到最佳效能」為使命，專注於低功耗AI晶片與推論加速卡的設計與整合。

體積小功耗低，裝了AI晶片的電腦就像吃下大補丸，灌入企業內部資料庫後，輕鬆化身客服機器人，就算離線也能秒答。

日前MLCommons公布最新人工智慧（AI）晶片評測結果，來自台灣的創鑫智慧，在做為推薦用途的AI推論（inference）晶片，每瓦處理次數上超越輝達（nVidia），這是台灣IC設計業者很少見超越世界一流大廠的成績，而且創鑫智慧成立於2019年，是一家創業才四年的小型IC設計公司，如何做到這項成就，相當引人關注。