名家筆陣：企業應用GenAI留意風險

儘管GenAI有明顯的好處，如有助企業提高效率、生產力和創新，但並非所有企業都願意加入應用GenAI的行列。在大規模採用GenAI前，必須先行解決一些重大的挑戰和風險。

GenAI系統的主要缺陷之一是幻覺（Hallucination），指GenAI系統傾向產生不準確或捏造的訊息，如果這些訊息到達客戶手中，可能會造成災難性後果。例如GenAI系統可能會提供錯誤的產品規格，或「發明」不存在的折扣。原因在於GenAI系統依賴的統計方法，可能會被相似或過時的數據弄糊塗。此外，維護和更新GenAI系統使用的AI基礎模型，對於中小企業來說可能成本高昂且勞動密集，即使定期進行再培訓，GenAI系統也無法保證準確性和一致性。

另一個明顯缺陷，是GenAI系統通常不擅長數學，而只能執行之前受過訓練的計算。此缺陷為金融服務帶來嚴重風險，因為不正確的數字結果，尤其是貨幣金額，是不可接受的。

數據私隱是困擾GenAI系統的另一個問題。使用外部GenAI服務的企業，可能會無意中與第三方共享他們的敏感業務數據，如第三方可能在培訓AI時，存儲、瀏覽或使用這些數據；此舉將可能危及企業的商業戰略、銷售數據或知識產權。即使數據不用於訓練，GenAI服務供應商仍可讀取到，並可能將之合併到其基礎模型的未來版本中。

一家網絡安全公司最近發現，員工黏貼到ChatGPT的數據中，有11%是商業敏感數據；就算是亞馬遜（Amazon）和三星電子，也發生過由於使用GenAI工具，導致內部數據洩露的案例。因此，企業需實施額外的安全措施，以防止和監控數據共享。

GenAI系統還會產生所生成內容的版權和知識產權所有權的問題。首先，GenAI系統可能會為不同用戶產生相似的輸出，換言之內容並非獨創，因而欠缺競爭優勢。其次，根據美國版權局的規定，只有人類作者的原創和創造性作品，才能獲得版權。第三，使用GenAI時存在侵犯現有版權和剽竊他人創意的風險。目前，法律將如何適應GenAI系統創建的新內容仍未有定案。

圍繞GenAI系統的另一問題，是人工智能倫理。由於GenAI系統從各種來源學習，它們可能會承襲了一些偏見和成見，從而導致對某些群體或個人，生成出不公平或歧視性的內容。

儘管存在某些顧慮，GenAI仍可為企業提供明顯的生產力優勢，例如文檔和電子郵件編寫、創意生成、演示文稿設計和技能獲取等。企業只需正視問題，確保他們為員工制訂明確的AI管治和使用指南，加上增強安全工具來保護敏感數據。當然，企業還需要考慮使用GenAI可能令員工失業的影響。