Ai 發展挑戰:
大模型在專業性、泛化性和經濟性三方面很難兼得
專業性:
大模型處理特定領域問題或任務的準確性與效率。
大模型專業性要求越高,越需要針對特定領域數據進行訓練,這可能造成模型過擬合而降低泛化能力。
此外,增加的數據收集和訓練也會增加成本、降低經濟性。
泛化性:
大模型處理訓練數據集之外新樣本的表現能力。
大模型泛化性要求越高,越需要多樣化的大規模訓練數據集、模型參數量也越多,
這意味著模型訓練和使用成本的增
加、經濟性降低,同時可能降低模型對特定問題處理的專業能力。
經濟性:
大模型訓練和應用的投入産出比。大模型經濟性要求越高,越需要消耗更少的算力
資源與成本滿足性能需要,然而降低資源消耗基本上需要采用更小的模型或更少的參數,這又會降低模型的性能表現。通用大模型以發展通識能力爲主要目標、更側重泛化性,在專業性和經濟性方面很難充分滿足具體行業/機構的特定需求,存在“有幻覺、成本高”等情况。
コメント