思科

智通財經APP獲悉，思科(CSCO.US)推出安全服務，旨在保護世界免受人工智能代理和其他各方的侵害。通過建立可信身份、實施嚴格的零信任訪問控制、在部署前強化智能體、在運行時實施安全防護，以及為安全運營中心(SOC)團隊提供以機器速度阻止威脅的工具，思科正在將安全性構建到新興人工智能經濟的基石之中。

例如，最近爆火的OpenClaw是一款廣受歡迎的人工智能代理平台，在技術圈內備受追捧。該平台由 Peter Steinberger 開發，他後來加入了OpenAI。OpenClaw 允許用户設置自己的人工智能代理，這些代理可以在計算機上運行，執行從檢查電子郵件、回覆消息到管理系統文件等各種任務。

雖然這些功能令人印象深刻，但它們也可能帶來安全隱患。這是因為用户賦予了人工智能模型控制自己電腦的權限。雖然這在正常情況下很棒——超級自動化，但它也可能導致嚴重的問題，例如永久刪除重要的電子郵件或系統中的整個程序。

對於在企業設備上測試 OpenClaw 的公司來説，這會成為一個更大的問題。為此，許多組織正在推出新的安全產品，旨在控制 OpenClaw，防止其人工智能代理帶來弊大於利的後果。

上週，英偉達(NVDA.US)在加州聖何塞舉行的 GTC 大會上推出了自己的此類平台NemoClaw，而思科則在週一展示了其進軍該領域的成果。

“OpenClaw 就是 ChatGPT 對客服人員來説的意義所在，它實際上是一個催化劑，讓精通技術的用户更容易在工作場所和家中部署客服人員，”思科總裁兼首席產品官Jeetu Patel解釋道。

Patel補充道：“不利的一面，也是挑戰所在……是這些特工的信任和安全風險。因為這些特工……他們有點像青少年。他們極其自信，缺乏經驗，沒有充分意識到後果，也不知道規則在哪裏。”

為了解決這些擔憂，思科表示，它正在採取多管齊下的方法，力求保護世界免受流氓人工智能代理的侵害，保護人工智能代理免受世界的侵害，並利用人工智能來檢測來自惡意行為者和黑客的潛在威脅。

用“保衞世界免受人工智能威脅”來形容這件事聽起來有些誇張，但Patel認為並非如此。人工智能和其他任何軟件一樣，都可能被利用來攻擊基礎設施或竊取敏感數據。

Patel表示：“這些人工客服的風險遠高於聊天機器人。聊天機器人最糟糕的情況是給出錯誤的答案。而人工客服最糟糕的情況是客服人員採取了錯誤的行動，其中一些行動可能會造成災難性的後果，例如清空你的銀行賬户或刪除你的電子郵件，這些操作都無法撤銷。”

思科和其他公司一樣認為，最好的辦法是像對待人類員工一樣對待人工智能代理，賦予它們可驗證的身份，然後對其進行管理，併為這些數字助手提供對正確系統和服務的適當訪問權限。

與此同時，保護人工智能代理免受外界干擾，旨在防止黑客破解人工智能並強迫其執行原本不會執行的任務。

思科表示，為了實現這一目標，它正在推出一項服務，該服務將允許客户測試其人工智能代理在模擬攻擊下的性能，以瞭解它們在哪些方面表現出色，在哪些方面存在不足。

最後，該公司表示，它正依靠代理來應對其他人工智能威脅，確保客户能夠以與攻擊者相同的速度對各種情況做出反應。

OpenClaw只是人工智能爆炸式發展的最新成果，並且很可能在不久的將來推動更多變革。畢竟，它才於去年11月首次亮相，就已經開始影響各大公司的商業決策。當然，這將需要更多類型的網絡安全技術和方法來幫助防禦者趕上攻擊者。