Cloudera大中華區(qū)技術總監(jiān) 劉隸放
在當今競爭異常激烈的環(huán)境中，全球各地的企業(yè)都在大力投資人工智能（AI），以獲得更大的競爭優(yōu)勢。然而，隨著創(chuàng)新的加速，企業(yè)也深知倫理和監(jiān)管在AI發(fā)展中的關鍵作用。德勤對100位企業(yè)高管進行的一項調查顯示，88%的受訪者表示其企業(yè)正在采取措施向員工傳達AI的倫理使用規(guī)范。根據(jù)騰訊研究院的一項調查顯示，個人隱私保護與網(wǎng)絡安全已成為公眾最為關注的風險因素之一。在覆蓋各行各業(yè)的3,000名受訪者中，38%的受訪者認為企業(yè)在應用生成式AI過程中可能存在侵犯個人隱私的風險，另有33.5%的受訪者認為模型的可解釋性和透明度問題亦不容忽視。
AI創(chuàng)新帶來新的倫理問題
借助AI的進步，我們已經(jīng)從基于人工設定規(guī)則的決策系統(tǒng)，發(fā)展到通過海量數(shù)據(jù)訓練的復雜模型來自動定義規(guī)則、生成內(nèi)容并做出決策。然而，不受約束的AI系統(tǒng)往往會優(yōu)先優(yōu)化預設目標，而忽視更廣泛的社會影響和倫理考量，這將逐漸削弱公眾信任。
盡管AI技術取得了顯著進展，但偏見和“幻覺”等問題依然存在，甚至引發(fā)了一些爭議事件。例如，2021年4月，荷蘭六名司機因“算法手段”被不公平解雇，導致歐盟根據(jù)《通用數(shù)據(jù)保護條例》（GDPR）對此展開調查。兩年后，英國幾名送餐員因位置數(shù)據(jù)被懷疑多收費用，并在幾乎沒有解釋的情況下被解雇。
類似的爭議事件在國內(nèi)也內(nèi)屢見不鮮，從因性別歧視導致的不公平貸款發(fā)放，到使用侵犯隱私的面部識別技術處理保險索賠。例如，一位中國博主的個人形象未經(jīng)授權便被某AI應用使用，還引發(fā)了一場訴訟糾紛。這些問題的根源很大程度上在于AI的“可解釋性”。尤其是深度學習模型，其決策過程復雜且不透明，常被視為“黑匣子”，許多專家也難以理解其結論的形成機制。缺乏適當?shù)娜斯けO(jiān)督和理解，這些帶有偏見的決策便可能會引發(fā)嚴重的負面后果。
隨著諸如OpenAI SORA AI視頻生成器等生成式AI創(chuàng)新（）的涌現(xiàn)，AI在提升生產(chǎn)力和增強企業(yè)競爭力方面展現(xiàn)出巨大潛力。然而，這些工具也可能引發(fā)版權侵權等問題，甚至為濫用和虛假信息的傳播打開大門。因此，關注AI倫理變得比以往任何時候都更加重要。
公共與私營部門需攜手將倫理和監(jiān)管融入AI
盡管ChatGPT等生成式AI工具都設有防濫用規(guī)則，許多用戶仍找到了繞過這些保護措施的方法。網(wǎng)絡犯罪分子甚至創(chuàng)建了自己的GPT，用于編寫惡意軟件和生成極具欺騙性的釣魚郵件。
目前，有效識別和阻止這類有害產(chǎn)出的工具和法律仍很匱乏。因此，公共和私營部門需要加強合作，通過更嚴格的監(jiān)管降低AI濫用風險，并確保在模型開發(fā)中融入倫理考量。
為了構建合乎倫理的AI，需要將倫理原則、問責機制、透明度、可解釋性和良好治理融入模型。提升模型的可解釋性和倫理水平不僅能幫助解決當前AI的缺陷，還能顯著提高決策的準確性和有效性。
許多公共和私營部門實體正在共同努力推進AI的倫理建設。例如，澳大利亞近期投資1700 萬美元啟動了“AI應用計劃”，幫助中小型企業(yè)在利用AI提升業(yè)務決策能力。去年，新加坡政府與私營部門合作成立了“AI驗證基金會”， 以應對AI帶來的風險。該基金會今年又推出針對生成式AI的新框架，解決知識產(chǎn)權濫用等新問題的同時持續(xù)促進創(chuàng)新。2025年3月，中國《政府工作報告》提出將要持續(xù)推進“人工智能+”行動。在此背景下，自2023年起施行的《生成式人工智能服務管理暫行辦法》的重要性進一步凸顯。這些措施涉及內(nèi)容監(jiān)管和數(shù)據(jù)使用道德等領域，為負責任的AI發(fā)展提供了一個基礎框架。此外，具身智能（Embodied Intelligence）首次被納入國家戰(zhàn)略計劃，這表明在仿人機器人、無人機和倉庫自動化等技術可能在私營部門大規(guī)模應用的情況下，需要持續(xù)的監(jiān)管。
隨著相關法規(guī)和倡議的陸續(xù)出臺，企業(yè)可以通過使用可信數(shù)據(jù)，為推進倫理AI的倫理建設貢獻力量。
設計合乎倫理的AI系統(tǒng)需要可信數(shù)據(jù)
構建值得信賴的AI系統(tǒng)離不開可信的數(shù)據(jù)來源。以準確、一致、潔凈、無偏見且可靠的數(shù)據(jù)為基礎，企業(yè)可以設計出符合倫理的AI系統(tǒng)，確保其始終產(chǎn)出公平、無偏見的結果。這樣的系統(tǒng)能夠幫助企業(yè)輕松發(fā)現(xiàn)問題、彌補邏輯漏洞、優(yōu)化輸出，并評估其創(chuàng)新是否符合法規(guī)要求。
在Cloudera的AI倫理實踐中，數(shù)據(jù)隱私保護占據(jù)著基石地位。我們堅信，對數(shù)據(jù)隱私的尊重是贏得客戶信任的前提，也是平臺設計的核心原則。為此，Cloudera通過其開放數(shù)據(jù)湖倉（Open Data Lakehouse）架構，在數(shù)據(jù)層深度融合了統(tǒng)一的安全與治理能力（SDX）。這意味著隱私控制不再是上層應用的“補丁”，而是深入數(shù)據(jù)全生命周期的原生能力。它幫助企業(yè)在運用AI進行深度洞察時，依然能無縫地保護敏感數(shù)據(jù)、履行合規(guī)義務。這種貫穿數(shù)據(jù)生命周期的隱私保護設計，不僅提升了AI模型的安全性與透明度，更為企業(yè)構建值得信賴且符合法規(guī)的AI解決方案奠定了穩(wěn)固根基。
如果企業(yè)想要開發(fā)合乎倫理的AI系統(tǒng)，可采取以下建議：
●關注意圖：AI系統(tǒng)僅基于訓練數(shù)據(jù)進行決策，缺乏道德準則和公平參照。因此，設計者需明確而謹慎地構建系統(tǒng)設計動機的意圖表示方法，在量化倫理考量的同時平衡性能目標。
●優(yōu)化模型設計：設計良好的AI系統(tǒng)應避免偏見、因果關系和不確定性。企業(yè)應定期進行審查，以檢測是否存在模型漂移問題，即模型逐漸因數(shù)據(jù)過時而開始變得不準確，并廣泛建立因果模型以評估潛在負面影響。
●確保人工監(jiān)督：AI系統(tǒng)雖能基于高質量數(shù)據(jù)做出可靠決策，但缺乏情商，無法處理特殊情況。最有效的系統(tǒng)應結合人類判斷與AI能力，企業(yè)需始終確保人工監(jiān)督，尤其是在AI模型置信度較低時。
●加強安全性與合規(guī)性：以安全性和合規(guī)性為核心的倫理AI系統(tǒng)，不僅能增強系統(tǒng)可信度，還能加速其在企業(yè)中的普及，同時確保符合地方和區(qū)域法規(guī)。
●充分利用現(xiàn)代數(shù)據(jù)平臺：借助支持現(xiàn)代數(shù)據(jù)架構的數(shù)據(jù)平臺等先進工具，企業(yè)可以顯著提升其在數(shù)據(jù)和AI模型生命周期內(nèi)的管理與分析能力。理想情況下，平臺應具備內(nèi)置的安全和治理控制功能，使企業(yè)在大規(guī)模部署數(shù)據(jù)分析和AI時，仍能保持對AI驅動決策的透明度和控制力。
