第一階段：從智能編碼工具開始擁抱GenAI，它對安全有積極作用
我們看到，亞馬遜以及亞馬遜云科技都在積極擁抱生成式AI技術。2023年上半年，亞馬遜云科技就宣布發布做大模型托管的專業服務Amazon Bedrock以及用于代碼生成的智能服務Amazon CodeWhisper。
具體到安全方面，Steve Schmidt肯定了生成式AI來寫代碼對于提高軟件開發安全性的價值。他表示，“我認為利用生成式AI提升安全代碼的編寫工作，能夠有效地推動整個行業進入更高級別的安全領域?！?/p>
Steve Schmidt認為，生成式AI能讓我們在一開始就編寫更加安全的代碼，對安全行業影響深遠。從安全和成本的角度來看，從最開始編寫安全的代碼，要比在軟件開發后期修改更有效。代碼編寫方式是信息安全的關鍵，早期的小問題可能導致嚴重的安全后果。
Amazon CodeWhisperer是一個具有內置安全掃描功能的AI編碼助手，能夠基于注釋生成代碼、追蹤開源參考并掃描查找漏洞。這個工具對個人開發者免費，對提高代碼的安全性具有實際幫助，是所有開發者都可以輕松用起來的工具。
業內很多技術專家都認可，程序開發是人工智能的最早落地的典型場景之一。因為AI可以處理復雜的數據分析任務，自動化重復性工作，還能提供智能決策支持，這些都是提高程序開發效率和質量的關鍵因素。
如果企業的開發者積極采用像Amazon CodeWhisperer這樣的智能代碼編寫工具，不僅能提高代碼編寫效率，還能幫助識別潛在的代碼缺陷和安全漏洞。對企業來說，可以從智能代碼編寫工具開始擁抱生成式AI，在安全方面帶來積極影響。
第二階段：企業落地GenAI時候要注意的安全挑戰
在談到企業在使用生成式AI要注意的安全問題時，Steve Schmidt認為應該先考慮三個主要的安全挑戰。
首先，是關于數據來源和管理的問題。企業需要了解用來用于模型訓練的數據來自哪里，以及這些數據在整個工作流程中是如何被處理和保護的。
第二，對查詢數據的保護也同樣重要。除了訓練數據，企業在使用生成式AI時輸入的查詢也可能會包含敏感信息。企業需要清楚這些數據如何被AI服務處理，以及查詢結果是如何產生的。所以，保護查詢數據的重要性不亞于訓練數據。
第三點，輸出的準確性。不同使用場景對AI模型輸出的準確性有不同的要求。企業需要確保AI模型的輸出不僅準確，還符合企業的最佳實踐和業務需求。比如在生成代碼時，需要確認代碼是否符合預期標準等。
結合亞馬遜內部的實踐經驗，Steve Schmidt也給出了企業內部落地生成式AI的三個安全建議。
第一個建議是幫助員工安全地用AI。他認為，安全團隊不要簡單拒絕員工使用新技術，而是應該教育、指導員工如何安全地使用AI，可以設置一些防護欄，在技術上使用能夠滿足安全預設目標的云服務。
第二個建議是增強數據使用的可見性。他認為，應該使用專業的工具來更好地監控員工是如何使用數據的。有了好的數據監控技術之后，就可以限制員工在工作需求之外訪問數據，監控員工如何使用外部服務，甚至可以主動解決可能違反數據使用政策的行為。
第三個，建立機制來引導和改善員工的行為。機制是可重復使用的工具，允許我們隨著時間的流失精確地驅動特定的行為。例如，當員工違規操作時，系統會通過如彈窗來提示員工，并建議使用特定的內部工具，并就相關問題進行報告。
第三階段：企業利用生成式AI來對抗安全威脅
Steve Schmidt介紹如何用生成式AI來對抗安全威脅。
首先，生成式AI可以提高安全工程師的工作效率。通過構建自動響應流程，AI可以幫助安全團隊優先處理發現的問題，并自動化事件響應。這種方法可以讓安全團隊將更多精力放在高價值任務上。
大型模型還有助于非技術管理人員在安全事件發生時快速理解情況。去年，亞馬遜云科技推出了Amazon Detective，它使用生成式AI來生成安全事件的文字描述，安全工程師就不需要從頭開始編寫報告了，只需調整和確保描述的準確性即可。
Steve Schmidt認為，生成式AI可以幫助緩解網絡安全人才短缺的問題，但并不認為AI會取代安全人員的工作。
他表示，生成式AI增強了人的能力，而不是替代人。生成式AI可以幫助安全人員更快更有效地識別和解決安全問題，消除安全工程師經常必須做的一些重復性工作，使他們能夠更有效地完成其他工作。在他看來，世界上真正有技術的安全工程師是不夠的。
Steve Schmidt表示，生成式AI讓亞馬遜能夠雇傭更少的人來完成必要的工作。它可以幫助企業降低運營費用，但是，由于合適的人才很難找，所以，亞馬遜一直在招聘安全人員，未來也會繼續招聘安全人員。
結束語
總之，Steve Schmidt的分享讓我們看到了生成式AI在提高企業網絡安全方面的潛力。雖然安全挑戰很多，但利用新的技術，企業可以不僅提高其安全防御能力，還可以優化資源分配和提升工作效率?？梢哉J為，企業在安全工作方面，應該積極擁抱生成式AI。
