top of page
IOT HK 文章


4. 高效的圖像和視頻架構 (Efficient image & video architecture)_「三 ,AI 算法優化」
高效的圖像和視頻架構 (Efficient image & video architecture) 指的是設計更小的神經網絡,其性能與原始架構相當或優于原始架構,旨在提升計算效率幷降低資源消耗。 過程:通過對現有神經網絡架構進行研究,識別出冗餘部分幷進行簡化和優化,從而形成...
2024年10月14日讀畢需時 1 分鐘


3. 推測解碼 (Speculative decoding)_「三 ,AI 算法優化」
是一種通過結合大型模型與草稿模型來提高令牌生成速率的技術。此方法在自然語言處理任務中尤爲有效,旨在加速文本生成過程。 過程:在推測解碼中,首先使用大型模型進行深度推理,生成初步的輸出,然後將這些輸出傳遞給草稿模型進行進一步處理。草稿模型通常較小且運行速度較快,能够迅速生成最...
2024年10月14日讀畢需時 1 分鐘


2. 量化與壓縮 (Quantization & compression)_ 「三 ,AI 算法優化」
通過降低模型的位精度來减少存儲和計算需求,同時保持所需的準確度。這一過程通常涉及將浮點數權重轉化爲較低位數(如8位或16位整數),以减小模型的大小幷加快計算速度。 過程 :在模型訓練完成後,進行量化以减少參數的位數。此過程中,采用特定的技術來調整模型,使其在量化後仍能維持高...
2024年10月14日讀畢需時 1 分鐘


1. 蒸餾 (Distillation)_ 「三 ,AI 算法優化」
蒸餾 (Distillation) 將一個大型、複雜的模型(通常稱爲教師模型)所學到的知識轉移到一個更小、更簡單的模型 過程:首先,訓練一個複雜的教師模型,它在處理大量數據時表現出色。接著,利用教師模型生成“軟標簽”,即對每個類別的預測概率分布。這些軟標簽不僅包含了類別信息...
2024年10月14日讀畢需時 1 分鐘


2. 變換器(Transformers) _ 「二, 算法簡介」
背景 在人工智慧和自然語言處理領域,變換器(Transformers)是一種革命性的模型結構。自2017年由 Vaswani 等人在論文《Attention is All You Need》中提出以來,變換器已成為許多前沿技術的基礎,包括語言翻譯、文本生成以及情感分析等。...
2024年10月14日讀畢需時 2 分鐘


5. AI 的適用優化「一, AI 算法特性 」
行業大模型的構建和應用中,由于需求和目標不同,技術實現複雜性差异也較大。通過調研總結,目前機構在使用大模型適配行業應用過程中,從易到難主要有提示工程、檢索增强生成、精調、預訓練四類方式。 在機構的具體實踐中,通常不會只用一種方式,而會組合使用,以實現最佳效果。例如,一個高質...
2024年10月13日讀畢需時 6 分鐘


4. AI 應用進展 「一, AI 算法特性 」
階段一: 探索孵化期 農業和能源等行業爲代表。 行業中嘗試采用大模型的機構數量還較少,但仍有一些頭部或創新意識强的機構積極探索。 機構推進市場應用的關鍵在于證明技術的可行性和實用性,幷能解决行業特有的挑戰,面臨較高風險和不確定性,同時有機會引領市場。如電力行業,國有電網公司...
2024年10月13日讀畢需時 7 分鐘


3. AI 通才與專才模型「一, AI 算法特性 」
“通用大模型缺乏細分領域的專業知識,所以需要訓練行業大模型,然後緊密結合業務系統實現可落地的智能應用。而且很多企業的私有數據是不允許對外泄露的,比如金融、醫療的客戶信息和交互行爲,所以還需要提供大模型的私有化訓練和本地化部署。...
2024年10月13日讀畢需時 1 分鐘


2. Ai 發展挑戰 「一, AI 算法特性 」
Ai 發展挑戰: 大模型在專業性、泛化性和經濟性三方面很難兼得 專業性: 大模型處理特定領域問題或任務的準確性與效率。 大模型專業性要求越高,越需要針對特定領域數據進行訓練,這可能造成模型過擬合而降低泛化能力。 此外,增加的數據收集和訓練也會增加成本、降低經濟性。 泛化性:...
2024年10月13日讀畢需時 1 分鐘


構建人工智能 物聯網創新生態 - 香港站 _ IOTHK 香港物聯網商會
Build Up AIOT Innovation Ecosystem 主辦方:HKTDC 香港貿易發展局, IOTHK香港物聯網商會 日期:2024年10月13日, 下午 2:30 - 4:00pm 地點:香港灣仔會議展覽中心, 會議廳,初創專區, 創新匯點...
2024年10月13日讀畢需時 1 分鐘


1. 模型特性 「一, AI 算法特性 」
AI 模型特性 在大模型出現之前,人工智能通常需要針對特定的任務和場景設計專門的算法模型,能够執行的也是訓練數據範圍內的單一任務。大模型的突破,關鍵在于展現出了類人的通用智能“涌現”能力,能够學習多個領域知識、處理多種任務,因此也被稱爲通用大模型。具體而言,大模型具備以下特...
2024年10月12日讀畢需時 2 分鐘


數據中心:數字世界的基石
什麽是數據中心? 數據中心 (Data Center) 是一種集中式的設施,用于存儲、處理和管理大量數據,幷爲各種應用提供服務。它通常包含服務器、網絡設備、存儲設備、電源系統、冷却系統等,以及相關的安全保障措施。 數據中心的組成部分: ...
2024年9月21日讀畢需時 2 分鐘


雲應用:觸手可及的科技力量
雲應用 (Cloud Application) 指的是運行在雲計算平臺上的應用程序,用戶可以通過互聯網訪問和使用這些應用程序,無需在本地安裝和維護軟件。 雲應用的特點: 按需使用: 用戶可以根據需求隨時使用雲應用,無需購買和維護硬件設施。...
2024年9月21日讀畢需時 2 分鐘


Web3.0:下一代互聯網,隱私與開放並存的世紀
Web3.0,也被稱爲語義網或下一代互聯網,是互聯網發展的新階段,它將基于區塊鏈技術,實現去中心化、安全、透明和可信的互聯網生態系統。 Web3.0 的核心概念: 去中心化: 用戶擁有數據和資産的控制權,不再依賴中心化的平臺或機構。...
2024年9月21日讀畢需時 2 分鐘


區塊鏈 (Blochchain):可靠可信,重塑技術
什麽是區塊鏈? 區塊鏈 (Blockchain) 是一種去中心化的分布式賬本技術,它將數據存儲在多個節點組成的網絡中,每個節點都擁有完整的賬本副本,幷通過加密技術確保數據的安全性和不可篡改性。 區塊鏈的組成部分: ...
2024年9月21日讀畢需時 2 分鐘


大數據:洞悉世界,驅動未來
什麽是大數據? 大數據 (Big Data) 指的是規模巨大、類型多樣、處理速度快、價值密度低的數據集合。它超越了傳統數據庫管理工具的處理能力,需要新的處理技術和分析方法來提取價值。 大數據的特點: 海量性 (Volume): 大數據規模龐大,以TB、PB甚至Z...
2024年9月21日讀畢需時 2 分鐘


智慧城市:科技赋能,打造更美好的未来
什麽是智慧城市? 智慧城市,顧名思義,就是利用科技手段,將城市基礎設施、公共服務、居民生活等方面進行智能化升級,最終實現城市管理更有效率、居民生活更便捷、環境更宜居的目標。 智慧城市的構成要素: 智慧城市是一個複雜的系統,其構成要素主要包括: ...
2024年9月21日讀畢需時 2 分鐘


AIoT:智能物聯網的未來趨勢
AIoT,全稱為人工智慧物聯網 (Artificial Intelligence of Things),是將人工智慧 (AI) 技術與物聯網 (IoT) 技術相結合的產物。簡單來說,AIoT 就是讓物聯網設備具備智慧思考和學習的能力,進而實現更智能化的應用。 AIoT...
2024年9月21日讀畢需時 2 分鐘


2024 一帶一路高峰論壇 _ IOTHK 香港物聯網商會
2024 一帶一路高峰論壇今天在香港會議展覽中心舉行, 2024"一帶一路"倡议第二个黃金十年的開局之年, 進一步放大香港參與共建『一帶一路』的優勢,支持香港提升國際金融、航運、貿易中心地位,在『一帶一路』經貿合作中發揮重要樞紐及平台功能。香港是國家最開放的國際城市,繼續做...
2024年9月19日讀畢需時 1 分鐘


主席的話 Sam Wu 胡偉斌
主席的話 香港物聯網商會Internet of Things Hong Kong Association,IOTHK(商會), 迎來第八載春秋,雖然我們在過去幾年經受了新冠肺炎疫情的嚴峻挑戰,但我們商會的工作並未因此停頓,商會的會董們在莊會長的帶領下仍然同心協力,上下一心,...
2024年9月11日讀畢需時 2 分鐘


會長的話 Wilson Chong 莊毅堅
在人工智能時代,物聯網的發展為產業帶來了轉型的機遇。透過無處不在的感應器和智能設備,物聯網正成為連接物理世界與數字世界的橋梁,推動香港向國際創科中心邁進。物聯網技術透過連接設備與系統,實現數據的即時收集與分析,為新型工業提供了智能化生產的基礎設施。...
2024年9月11日讀畢需時 1 分鐘


2. 簡介 中國AI 算力發展策略 (1) _ 「八, AI 地域發展」
中國AI 發展概況 (「十四五」規劃)在2021年3月的第十三届全國人民代表大會第四次會議通過, 明確支持香港建設國際創新科技中心 ,以及更好融入國家發展大局,深化內地與香港的科創合作關係,幷首次將深港河套納入粵港澳大灣區重大合作平臺。 中國AI 發展阻礙...
2024年8月23日讀畢需時 1 分鐘


1. 簡介 香港 AI 算力發展策略 _ 「八, AI 地域發展」
目標群組需求: 前臺算力需求: 在香港,涉及到大規模使用人工智能算力的業務場景仍以大模型訓練爲先,而對大模型訓練的需求在香港主要的客戶群依然是以科研院所爲主。主要客戶群體包括以下三大類: 科研院所: 例如中國科學院香港創新研究院、華爲諾亞實驗室、香港應用科學研究院等。通過...
2024年8月23日讀畢需時 4 分鐘


2. 簡介 GPU 冷却系統_ 「四, AI 相關硬件」
液冷成爲技術方向的原因 「 現階段智算風冷解决方案和液冷解决方案幷存」 但由於風冷服務器與液冷機櫃存在技術設計、散熱介質及空間等差异性,因此將來存在一定的不兼容,而「液冷成爲技術方向」 風冷服務器與液冷機櫃存在技術設計、散熱介質及空間等差异性,因此存在一定不兼容性:...
2024年8月23日讀畢需時 1 分鐘
bottom of page
.jpg)
