／AI創智學院企劃 淡江時報整理 #### 前言 　在AI時代，企業工流結合AI的運作，每一個企業人都無法自外於AI運作的網絡。大學教育也在這個潮流之下，正在快速的變革，「培養＋AI的人才」是所有科系一體適用的教學目標。認清時代所趨，及快速跟上腳步，是跨域人才一致的方向。
　本文內容摘錄自114年6月2日臺灣AI 領域的三位重量級講者：遠傳電信總經理井琪、群聯電子創辦人潘健成、Nvidia AI 技術中心台灣區技術負責人李正匡應淡江AI創智學院之邀來校實體授課內容。在短短三小時的演說中，三位講者與美國加州大學柏克萊校區哈斯商學院（UC Berkeley Haas School of Business）高階管理碩士（EMBA）師生分享最新的 AI 應用趨勢與產業洞察，以及台灣在AI發展上的實務成果與前瞻布局。本報摘錄部分內文，以饗師生。
 遠傳電信總經理 井琪（圖／AI創智學院提供）
#### 從晶元到轉型：AI 如何影響我們所有人／遠傳電信總經理 井琪 　我想深入探討生成式AI對技術發展和企業轉型的重大影響，並強調全球AI趨勢、業務應用和我們遠傳的戰略洞察。
#### 全球人工智慧發展趨勢 　首先，讓我們來談談全球人工智慧的發展趨勢。在AI 領域，NVIDIA 的影響力是毋庸置疑的。特別是圍繞著其首席執行官黃仁勳先生所引發的現象，這確實讓臺灣的 AI討論熱度不減，甚至推動了股價的飆升。黃仁勳先生所倡導的「AI工廠」和「專用AI」等概念，更是激發了我們對 AI未來的無限想像。
　當然，我也必須強調臺灣在 AI 供應鏈中的關鍵作用。台積電和富士康等公司在優化 AI 硬體生態系統方面，都扮演著舉足輕重的角色。
#### AI真正的價值由使用者所創造 　簡單回顧 AI 的歷史，它從學術理論演變到實際應用，其中深度學習和大型語言模型的進步功不可沒，正是這些進步，推動了我們當前所處的生成式AI浪潮。
　ChatGPT 的出現，無疑將人工智慧推向了主流。我曾對此抱持懷疑，但後來我意識到，當你可以與 AI對話時，這就大大降低了使用AI的門檻 。以前，只有 IT人員才能真正讓 AI 實現，他們需要編程。但現在，每一個知識工作者，每一位員工，都可以透過自然語言使用 AI 。這正是 AI 如此受歡迎的原因，它降低了使用AI的門檻，推動了AI的廣泛應用 。這也讓我意識到，AI正在影響每一個人。
　在這裡，我必須點出一個關鍵觀念：科技本身並不會自動創造價值，應用也不保證市場，真正的價值是由使用者及其使用方式所創造。換句話說，真正決定AI成敗的，是最終用戶如何採用並利用技術來產生價值。因此，我們在實施AI時，必須更加關注實際應用和用戶參與度。
#### 遠傳電信的AI整合與應用 　接下來，我想詳細介紹遠傳電信（Far EasTone，EFT）如何將AI整合到我們的日常營運中，從而提高客戶服務、行銷和風險管理的效率。
　舉例來說，我們利用AI驅動的欺詐檢測，大大增強了客戶體驗。在風險管理方面，遠傳電信利用 AI進行網路安全、欺詐檢測和智慧安全系統，這充分展示了我們主動保護用戶數據的方法。在提升客戶體驗方面，人工智慧被用於預測商店的客戶流量，並透過 AI 聊天機器人來提高服務品質，這些都有效地提升了客戶參與度。
#### 企業採用生成式 AI 的五個階段策略 最後，我想概述一下企業採用生成式AI的5個階段策略。首先，是發現機會並設定明確的目標，其次，公司應選擇與現有系統無縫集成的適當工具和平臺。 我建議從小規模試點項目開始，這樣組織可以在觀察 AI 性能的同時降低風險。而員工培訓和讓員工積極參與 AI 計劃，對於成功的實施至關重要。在我們擴展 AI 應用之前，我們必須建立完善的治理和合規性框架，以確保 AI 應用的道德、安全和有效。
 Nvidia AI 技術中心台灣區技術負責人李正匡。（攝影／彭證睿）
#### AI發展速度 超乎你我想像／Nvidia AI 技術中心台灣區技術負責人 李正匡 　在過去六年裡，我在NVIDIA參與了許多不同的研究專案，可以視為AI進展的縮影。
　COVID-19 疫情期間，很多病人湧入急診室，因此需要評估各種病況。但資源明顯不充足，無法一次收集到所有資料，所以我們希望透過不同的人類與裝置來訓練模型。但這些資料是分散的，我們需要讓模型分別在各醫院訓練，也就是訓練分散式的 AI 模型。如此一來，便能保護資料不外流，模型只會留下參數，而不是原始資料。
#### ImageNet 競賽開啟現代 AI 　2012 年的 ImageNet 競賽，由史丹佛大學舉辦，共提供 1400 萬張照片，包括飛機、人類、貓等圖片，看誰的模型分類得最好。此為AI的重要起點，2012 年被視為「現代 AI」的開端。到了 2018 年，語言模型的挑戰興起，Google 發表了著名論文《Attention is All You Need》，提出 Transformer 架構，這個架構讓 AI 能理解、摘要、翻譯文件。現在像 ChatGPT 等模型就是基於 Transformer 架構。
#### 生成式 AI到AI Agent 　2018 到2022年是生成式 AI（Generative AI）的時代來臨。過去 AI 只能做預測，例如判斷你是否得癌症、股價會不會上漲，這是預測式AI。但生成式 AI 不只是預測，還能思考、規劃。像三年前的 ChatGPT，只會回答簡單問題，現在的模型可以思考並生成文字內容，這需要大量訓練資料。生成式 AI 越來越像人類，你可以與之互動。我們提出 AI Agent 的概念，讓 AI結合多種工具完成任務。現在的 ChatGPT 除了搜尋，也能寫報告、控制 API、訂位等。這就是 AI agent，不再只是單一 AI，而是「AI 的集合」。
#### 物理AI 用數位孿生訓練機器人 　黃仁勳說，下一代將是「物理AI」。什麼是物理AI ？我們現在的語言模型已經可以與人對話。如果你將模型下載到機器人中，機器人就能與人溝通。
　現在的挑戰是「控制系統」仍很困難。機器人需要大量訓練資料，例如練習抓取、烹飪等。但實體訓練成本很高，機器人練習幾千次會損壞，需要維修。所以，我們回頭看 GPU 最初是為遊戲與電影渲染設計的。很多青少年會用它建構非常真實的虛擬世界。既然可以建立虛擬世界，就可以讓機器人在其中訓練。
　這就是「數位孿生（digital twin）」，我們有通用軟體可以幫你建構虛擬世界，把機器人放進去，甚至成千上萬的機器人同時模擬、學習。學習完成後，可將「機器人大腦」下載到實體機器人上，大幅加速實體訓練的過程。
　另外，最重要的還有「物理引擎」，模擬重力、碰撞與摩擦。NVIDIA 幫助很多遊戲公司建構物理模擬系統，例如 Unreal Engine 裡的物理引擎。我們有 10～13 年的物理模擬經驗，現在要把 AI 模型下載到實體機器人中，幫助照顧長者或做家務，這就是「物理 AI」。我負責將這些硬體、軟體與完整運算整合起來加速發展。
#### 量子運算 下個世代的運算工具 　最後提到量子運算。量子電腦（Quantum computer）有「量子位元（qubit）」，像是同時翻轉的硬幣，傳統的電腦位元，只能是0或1，正面或反面，量子位元可以同時處於0和1的疊加狀態，既不是正面也不是反面，而是兩者兼具。1000 個 qubit可同時涵蓋所有組合，量子電腦只需進行 500～1000 次測量，就能知道哪種組合出現最多次，代表最好的選擇。這就是被譽為「下個世代的運算工具」的量子力學，可以描述微觀世界的理論。（文字整理／林庭安）
 群聯電子創辦人兼執行長潘健成。（攝影／張少凱）
#### 我如何看待 AI普及與邊緣運算的未來／研發製造第一個USB隨身碟 潘健成（群聯電子創辦人兼執行長） 　AI從NVIDIA 開始，自2022年以來，它已經建立起一個龐大的直接生態系統，涵蓋 GPU、伺服器、散熱等各個環節。然而，儲存的角色一直較為間接，因為資料的產生與儲存都發生在訓練和推論之後。身為群聯電子的創辦人，我一直在思考 AI產業的發展趨勢，我們能否找到一個空間，讓儲存與AI 產生更直接的連結？
#### AI 發展的挑戰：高昂成本與隱私顧慮 　談到 AI，大家首先想到的就是「昂貴」。預訓練大型 AI 模型需要投入十億美元，這筆開銷對任何公司來說都是巨大的負擔。雲端AI雖然提供了便利，但對企業而言卻有資料隱私，以及費用會不斷上升且必須永遠支付兩大隱憂。這讓許多客戶感覺像被鎖定在一個無限支付的模式中。
　將AI 部署到邊緣（Edge）雖然看似有機會，但同樣面臨「太貴了」的問題。我觀察到 DeepSeek 在中國的熱潮，使用者下載模型後只能進行推論，卻「不知道如何進行微調（fine-tune）」。這導致其準確度只有百分之八十，最終讓AI應用淪為「玩具」。我深知，對一家公司而言，我不相信有人力資源、財力資源去微調，因為太貴了。
#### 突破瓶頸：記憶體與群聯電子的 AI 快取方案 　我意識到AI運算的瓶頸都與記憶體有關。即使是強大的 GPU，也常因記憶體不足而無法有效運作。為了解決這個問題，群聯電子發明了一個解決方案——aiDAPTIV+。憑藉群聯電子的發明，我們在這裡放置一個儲存快取，我們解決了記憶體需求的所有問題。
　我認為，這項技術的核心在於這不再是「儲存」了，它是一個「快取」。我們將其定義為DRAM的補充。我們透過大量的韌體、ASIC硬體設計和中介軟體，來讓它本身具備DRAM的補充性。我們已經證明，這項技術的 DWPD（每天寫入的數據量）遠遠超越企業級SSD。
#### 邊緣 AI 的實際應用與普及化 　我們已經將這項技術應用於內部工程流程，並取得了顯著的效益。原本需要20位工程師花17週時間才能完成的韌體測試，現在透過我們的Copilot解決方案，僅需4個人力花2週時間。這證明了我們的方案在降低成本和提升效率方面的巨大潛力，也顯示了邊緣 AI 部署在本地（On-premise）的可行性與效益。我認為，這對初創公司而言是個好機會。透過小額投資，你可以將自己視為概念驗證（PoC）的執行者，然後發展成一家新公司。
　為了加速AI的普及，我特別關注教育。我常打個比方：您想學鋼琴，如果一套鋼琴要兩百萬美元。有多少市民能彈鋼琴？應該只有很少數人。同樣的道理，昂貴的GPU設備讓大多數學生無法親自實踐 AI。因此，我們發明了AI訓練PC。這台配備遊戲卡的桌上型電腦，可以讓您微調、推論，可以開始練習。價格將會少於4000美元。這讓學生能夠像在家練習鋼琴一樣，幫助訓練大量的AI工程師進入市場。我相信新技術來自那些瘋狂的人。他們只是玩，他們玩的時候就找到了解決方案。邊緣AI需要數百萬的開發者。
　我堅信，本地端運算一定會回歸。我認為，如果你依賴雲端，你就得永遠支付費用。而當你使用雲端，你可能成為開發者，但如果你轉向本地端，你就更有可能成為開發者，因為你必須為自己開發解決方案。我預測，從現在到 2030 年，許多新創公司將基於這種概念開始自己的業務。我相信在未來兩年內，本地端 AI將會流行，這將為早期參與者帶來巨大的商業機會。