IBM的 Watson 以安全的 AI 替代品重新啟動

作者: Paul Elias   來源: scmagazine.com

上週,IBM推出了watsonx,跳入了生成式人工智能的競爭中。這個平台與IBM早在十多年前推出的Watson“認知計算”平台相去甚遠。Watson的奇才現在被宣傳為一個“安全”和“可信賴”的AI開發平台。

IBM希望其watsonx工作室能讓它重新參與到AI的對話中。它最後一次引人注目的嘗試,Watson,曾被認為是醫療保健、會計、網絡安全以及擊敗《危險邊緣》超級明星肯·詹寧斯等方面的AI突破。如今,正如其小寫的“w”所暗示的那樣,IBM的宏大抱負暫時被擱置了。

“這與大寫‘W’的Watson完全不同,”Omdia首席分析師布拉德利·希門對watsonx表示。“這標誌著IBM在如何應對AI方面的新方向。”

儘管在Watson的開發上投入了十年時間和100億美元,這台超級計算機從未能夠取得突破。它的明珠Watson Health 從未如其所望地在腫瘤學家和其他醫療專業人士中取得成功。Watson在網絡安全方面的抱負也遇到了類似的挑戰,儘管有一個有趣的試點計劃協助國家標準與技術研究所處理軟件漏洞並分配威脅評級。相反,在2022年1月,IBM以報道中的10億美元的價格將 Watson Health 出售給了私募股權公司Francisco Partners。

從夢想到現實的重力檢驗

IBM在人工智能競爭中落後的原因有很多,其中包括填充 Watson 所需的所有數據幾乎是不可能的任務,因為它需要成為所有人的萬能工具。訓練一個AI系統回答問答題是一回事,而讓它幫助診斷癌症則是完全不同的任務。

IBM Watson業務的前總經理Manoj Saxena告訴紐約時報:“挑戰的困難程度和耗時程度遠遠超出預期。”

IBM失去領先地位的另一個原因是“可能是因為他們專注於商業而不是在消費者端引起轟動”,Total Research Management的分析師John Todd表示。

2015年,當時的IBM CEO金妮·羅梅蒂在查理·羅斯節目中吹噓Watson Health是公司的“夢想成真”,該機器在當時的年度報告中被提及了100多次。

七年後,在IBM的2022年度報告中,Watson只被提及一次,作為一個有用的人力資源評估工具。

上週,IBM重新推出了華生品牌,並推出了watsonx,它被稱為企業級AI和數據平台或基礎計劃。Watsonx是一個AI開發平台,幫助企業構建、訓練、擴展和部署自己的AI平台。這與NVIDIA今年早些時候宣布的AI Foundations計劃類似。

IBM首席執行官阿文德·克里希納在今年5月對CNBC表示:“有些技術需要時間成熟”,當時公司宣布watsonx將於7月推出。

雖然此次推出的版本不包括直接的網絡安全組件,但該平台解決了許多AI明星(如OpenAI(ChatGPT)、亞馬遜(Bedrock)和谷歌(Bard))所面臨的潛在安全問題。

隱私、偏見和準確性等問題仍然存在,許多網絡安全專業人員對相關風險發出了警告。

微軟在3月份宣布推出Security Copilot時寫道:“AI生成的內容可能包含錯誤。隨著我們不斷從這些互動中學習,我們正在調整其回答,以創造更連貫、相關和有用的答案。”

IBM希望在watsonx中明確區分的地方,是其堅守的方法,利用語言模型作為生成AI的飼料。

Watsonx提供開發人員語言和數據訓練模型,以根據自己的數據集建立自己的生成AI模型。它們包括數據譜系審計工具,這意味著輸出或答案可以清楚地反向工程到創建它們的數據來源。重點不在於幫助高中生指點,點擊和自動生成學期論文或打敗遊戲節目的參賽者。相反,IBM打算幫助企業在行業特定的數據庫和數據集上建立語言模型。

垃圾進,垃圾出

IBM安全部門的產品管理副總裁Chris Meenan表示:“安全問題有非常高的門檻要達到。”

IBM希望避開兩個與生成式人工智能相關的主要安全問題。一個是與人工智能平台的完整性有關,另一個是技術被黑客濫用的問題。

一方面,人工智能安全問題存在於平台用於生成解決方案或答案的語言模型(或數據集)上。如果污染了人工智能用於生成答案的數據,就可能得到不可靠的結果。這就是一些人所描述的生成式人工智能的“黑盒子”問題。研究人員警告說,當開發人員無法可靠地理解或解釋他們的人工智能系統如何得出特定結論時,使用這項技術的公司就會變得容易受到新形式的“黑帽子關鍵詞操縱”的威脅。

這對於懶惰的高中生來說並不構成國家安全風險。但是,當生成式人工智能從安全信息和事件管理系統中綜合數據時,準確的數據對於生成關鍵的業務安全結果至關重要。

OpenAI的語言模型是通過訓練互聯網數據集(如Reddit用戶發帖)而得到的,但其回答和結果卻被批評存在語言解析異常,提供了奇怪、不正確甚至令人不安的回應。

Aura Labs的首席科學家Zulfikar Ramzan表示,人工智能正在被武器化。他說:“網絡犯罪的速度遠遠超過了現實世界。”對抗性人工智能將使罪犯獲得與企業一樣的優勢,提高特定瑣碎任務的生產力。

威脅行為者正在利用這項技術從事商業郵件欺詐活動等犯罪行為。其他惡意用途包括使用人工智能來建立惡意軟件、生成深度偽造、繞過CAPTCHA拼圖、撥號攻擊和製作更有效的密碼字典攻擊。

另一方面,人工智能也被視為一種強化身份訪問管理的強大工具,可以執行耗時的任務,如SOC和SIEM分析,或提供超強的擴展檢測和響應(XDR)解決方案,能夠自動進行即時緩解。

Meenan表示,watsonx在推出時不會作為一種防禦性安全解決方案進行市場營銷。

Meenan說:“我們有安全模型的概念證明。”對於watsonx安全版本的發布日期,他拒絕發表評論。

Meenan堅稱基於人工智能的網絡安全行業正處於“轉折點”。他相信,與OpenAI等面向公眾的服務相比,watsonx類型的人工智能將更具盈利性、安全性和可信度。

那麼,有什麼不同呢?

Watson vs. watsonx vs. 生成式人工智能 2011年,當Watson在Jeopardy!比賽中擊敗Ken Jennings時,IBM使用了十台Power 750服務器來解析Jeopardy問題和答案的語言。這些龐大的超級計算機存儲了15TB的數據(2億份文件),以幫助回答以答案形式提出的問題。在幕後,Watson使用了數百個算法來處理問題,並創建了一個加權列表,列出了可能的答案。然後,它使用了600萬個邏輯規則來給出最有可能正確的答案。不需要互聯網。

OpenAI的ChatGPT使用自然語言處理(NPL)將問題轉化為提示。然後,它搜索從公共互聯網(2021年之前)獲取的廣義數據,生成回答。NPL技術用於理解、解釋和生成人類語言回答。

請 ChatGPT 回答真正的Jeopardy!問題:“她於1914年10月7日的婚禮成為美國政治的焦點”,它會回答:“我無法提供詳細的回答”。(A. 誰是羅斯·菲茨傑拉德·甘迺迪?)

另一方面,Watson 能通過圖靈測試嗎?不行。ChatGPT 能通過圖靈測試嗎?這是有爭議的,但許多人認為是可以的。

Watsonx同時橋接了舊有的Watson——使用經過審核的數據來源——以及使用NLP創建對話型長文本的OpenAI生成模型。watsonx的三大支柱包括watsonx.ai、watsonx.data和watsonx.governance(預計在11月提供),而舊式的Watson則是一個平台工作室或基礎。

IBM能否重拾其人工智能的輝煌?

IBM表示,這種生成式人工智能的方法與十年前華生的計劃相似。IBM面臨來自首個進入市場的公司(如OpenAI)以及最近宣布的xAI(由埃隆·馬斯克推出)等後來者的激烈競爭。

今年3月,NVIDIA推出了面向企業的AI Foundations,該服務基於雲端,讓公司可以基於專有數據集創建大型語言和視覺模型。

在安全方面,Palo Alto Networks於2月收購了Expanse,一家開發攻擊面和威脅檢測方法的生成式人工智能公司。OpenAI、Darktrace、Cylance、Deep Instinct和Symantec也提供AI安全產品。

市場即將燃起。根據聯盟市場和Precedence Research分析師的估計,生成式人工智能市場從2021年的約82億美元增長到2022年的略高於110億美元。他們預計該市場將在2031年達到1,265億美元。

藍色巨人能否再次展現華生的魔力?當被問及時,ChatGPT-4 的一段摘錄表示:“沒有2021年9月後的更新信息,我無法提供華生最近的進展或成功的詳細評估。

新增留言