ECI@HiTech | Gartner專家詳解：企業生成式AI的頂級問題解答（上）

轉載贊收藏評論

舉報 2023-07-31

掃描,分享朋友圈

【ECI @HiTech科技創新】每周精選熱門科技創新主題，幫助科技創新者和初創團隊取得成功！讓我們共同攜手，尋找改變現有游戲規則的科技創新，激發人類的智慧和挑戰，實現科技的創新和夢想。這就是科技創新的終極魅力！

通常來說，科技的發展都會交替經歷平臺期和爆發期。平臺期的科技創新更多聚焦于識別并解決客戶現在的痛點，而爆發期的科技創新更多聚焦于引領并創造客戶未來的需求，劃時代的偉大科技創新往往誕生于此。

在當今數字化時代，人工智能技術的發展和應用已經越來越廣泛，其中生成式AI更是成為了一個熱門話題。然而，對于企業而言，如何理解和應用生成式AI，如何解決其中所涉及的頂級問題，卻是需要深入探討的。Gartner專家針對這一話題，詳細解答了企業在應用生成式AI時所面臨的頂級問題，為我們提供了一份寶貴的參考。

有關生成式AI的相關問題

Q1：什么是生成式AI？

生成式AI是指能夠從現有藝術作品中學習，并生成新的、逼真的藝術作品（大規模）的能力的人工智能。它能夠產生各種新穎的內容，例如圖像、視頻、音樂、語音、文本、軟件代碼和產品設計等。

生成式AI使用許多不斷發展的技術。最重要的是人工智能基礎模型，這些模型經過廣泛的、未標記的數據訓練，可以用于不同的任務，并進行額外的微調。這些訓練模型的創建需要復雜的數學和巨大的計算能力，但它們本質上是一種預測算法。

如今，生成式AI最常見的應用是響應自然語言請求創建內容——不需要了解或輸入代碼——但其在企業中的用途眾多，包括藥物和芯片設計以及材料科學發展方面的的一些創新。

Q2：生成式AI突然受到熱捧的背后是什么？

Gartner自2020年起在人工智能技術成熟度曲線圖上對生成式AI進行了跟蹤（此外，生成式AI還被列入我們2022年的頂級戰略技術趨勢），該技術已從創新觸發階段進入到了期望膨脹頂點。但是，生成式AI只是在2022年末隨著能夠進行類人機交互的聊天機器人ChatGPT的推出才成為主流頭條新聞。:一夜之間變得廣受歡迎、激起公眾關注的ChatGPT由OpenAI推出。（OpenAI的DALL·E 2工具以相關生成式AI創新技術根據文字生成圖片。）

Gartner認為，生成式AI將成為一種通用技術，其影響將與蒸汽機、電力和互聯網類似。隨著實施的現實情況顯現，炒作將會消退，但生成式AI的影響將會隨著人員和企業發現該技術在日常工作和生活中的應用而不斷增強。

Q3：生成式AI的好處和用途是什么？

基礎模型，包括驅動ChatGPT的生成式預訓練轉換器，是可以用來實現自動化、增強人類或機器，以及自動執行商業和IT流程的AI架構創新之一。

生成式AI的好處包括更快的產品開發、更好的客戶體驗和更高的員工效率，但具體取決于使用案例。最終用戶應現實地看待他們希望實現的價值，尤其是在使用存在重大局限性的服務時。生成式AI創建的工具有時可能不準確或有偏見，因此人的驗證是必不可少的，并可能限制其為工作人員節省的時間。Gartner建議將使用案例與KPI掛鉤，以確保任何項目要么提高運營效率，要么創造凈新收入或更好的體驗。

在最近的Gartner網絡研討會的調查中，有2500多名高管參加，38%的人表示，客戶體驗和留存是他們投資生成式AI的主要目的。其次是收入增長（26%）、成本優化（17%）和業務連續性（7%）。

Q4：生成式AI的風險是什么？

與生成式AI相關的的主要風險包括：

不透明：生成式AI和ChatGPT模型是不可預測的，即使是它們背后的支持的公司也并不總是能完全理解它們是如何工作的。
準確性：生成式AI系統有時會產生不準確和虛構的答案。在依賴或公開傳播信息之前，請對所有輸出進行準確性、適當性和實際可用性評估。
偏見：需要制定政策或采用控制措施來檢測有偏見的輸出，并按照公司政策和任何相關法律規定處理這些有偏見的輸出。
知識產權（IP）和版權：目前沒有可驗證的數據管理和保護保證，以確保企業機密信息不被泄露。用戶應假設輸入ChatGPT及其競爭對手的所有數據或查詢將成為公開信息。我們建議企業制定控制措施，避免無意中泄露IP。
網絡安全和欺詐：企業必須為使用生成式AI系統的惡意行為者做準備，以防止他們進行網絡和欺詐攻擊，例如使用深度偽造技術對員工進行社交工程攻擊，并確保實施緩解控制措施。與網絡安全保險提供商協商，檢查您的現有政策在多大程度上涵蓋了與AI相關的漏洞。
可持續性：生成式AI使用大量電力。要選擇能夠降低能耗并利用高質量可再生能源的供應商，以緩解對可持續發展目標的影響。

Gartner還建議考慮以下問題：

誰定義了生成式AI的負責任使用，特別是隨著文化規范的發展和社會工程方法的地理差異？誰確保合規？不負責任使用的后果是什么？
如果出現差錯，個人可以采取什么行動？
用戶如何給予和取消同意（選擇加入或選擇退出）？從隱私辯論中可以學到什么？
使用生成式AI會幫助還是傷害組織和對整體機構的信任？
如何確保內容創作者和所有者保持對其IP的控制并得到公平補償？新的經濟模型應該是什么樣子？
誰將確保整個生命周期的正確運作，他們將如何實現？例如，董事會是否需要人工智能道德領導？

最后，不斷監控生成式AI的監管發展和訴訟情況很重要。中國和新加坡已經出臺了關于生成式AI使用的新法規，意大利則暫停了使用。美國、加拿大、印度、英國和歐盟目前正在制定各自的監管環境。

Q5:生成式AI目前的一些實際應用是什么？

生成式AI將在科學發現和技術商業化方面迅速發展，但在創意內容、內容改進、合成數據、生成式工程和生成式設計方面，用例正在迅速涌現。目前，高級實際應用包括以下內容。

書面內容擴充和創作：以所需風格和長度生成文本的“草稿”輸出
問答和發現：使用戶能夠根據數據和提示信息定位輸入的答案
語氣：文本操作，以軟化語言或使文本專業化
總結：提供對話、文章、電子郵件和網頁的縮短版本
簡化：分解標題、創建大綱和提取關鍵內容
針對特定用例的內容分類：按情感、主題等分類
聊天機器人性能改進：改善“實體”提取、整個對話情感分類以及根據一般描述生成旅程流
軟件編碼：代碼生成、翻譯、解釋和驗證

具有長期影響的新興用例包括：

創建顯示疾病未來發展的醫學圖像
合成數據幫助擴充稀缺數據，減輕偏差，保護數據隱私并模擬未來場景
主動向用戶建議附加操作并向其提供信息
遺留代碼現代化

Q6:生成式AI將如何創造商業價值？

生成式AI提供了新的、顛覆性的機會來增加收入、降低成本、提高生產力和更好地管理風險。在不久的將來，它將成為競爭優勢和差異化因素。

Gartner將機會分為三類：

收入機會

產品開發：生成式AI將使企業能夠更快地創建新產品，包括新藥、毒性更低的家用清潔劑、新型香料和香水、新合金以及更快、更準確的診斷。

新的收入渠道：Gartner的研究表明，人工智能成熟度較高的的企業將獲得更大的收益。

成本和生產力機會

工人擴充：生成式AI可以增強工人起草和編輯文本、圖像和其他媒體的能力，還可以總結、簡化和分類內容；生成、翻譯和驗證軟件代碼；提高聊天機器人性能。在此階段，該技術擅長快速、大規模地創造各種藝術品。

長期人才優化：員工將通過與AI合作構思、執行和完善想法、項目、流程、服務和管理關系的能力而脫穎而出。這種共生關系將加速熟練程度的，并大大擴展全體員工的工作范圍和能力。

流程改進：生成式AI可以從大量內容中得出真正、情境化的價值，而迄今為止這些內容可能還沒有被廣泛利用。這將改變工作流程。

風險機會

降低風險：生成式AI分析和提供更廣泛、更深入的數據可見性的能力，如客戶交易和潛在的故障軟件代碼，提高了模式識別和更快識別企業潛在風險的能力。

可持續性：生成式AI可以幫助企業遵守可持續性法規，降低擱淺資產的風險，并將可持續性嵌入到決策制定、產品設計和流程中。

Q7:哪些行業受到生成人工智能的影響最大？

生成式AI將通過人工智能模型增強核心流程，影響制藥、制造、媒體、建筑、室內設計、工程、汽車、航空航天、國防、醫療、電子和能源行業。它將通過增強跨多個組織支持流程的方式，影響營銷、設計、企業通信以及培訓和軟件工程。例如：

我們認為，到2025年，超過30%的新藥物和材料將系統地使用生成式AI技術發現，而現在為零。考慮到可以在藥物發現過程中降低成本、縮短時間，生成式AI在制藥行業看起來很有潛力。
我們預測，到2025年，大型組織的30%的對外營銷信息將從合成中生成，高于2022年的不到2%。像GPT-3這樣的文本生成器已經可以用來制作營銷文案和個性化廣告。
在制造、汽車、航空航天和國防工業領域，生成式設計可以創建針對特定目標和約束條件（如性能、材料和制造方法）進行優化的設計。這通過為工程師探索一系列潛在解決方案加快了設計流程。

Q8:使用生成人工智能的最佳實踐是什么？

提供人工智能信任和透明度的技術將成為生成人工智能解決方案的重要補充。此外，執行領導人應遵循LLM和其他生成人工智能模型的道德使用指南：