算法：挑戰與治理

原標題：

算法：挑戰與治理

在人工智能迅速發展的今天，算法已成爲我們生活和工作中不可或缺的一部分。無論是社交媒體上的個性化推送、電商平臺的商品推薦，還是智能家居、自動駕駛等“智慧場景”，算法無處不在，爲我們的思考和決策提供着隱形的助力，在極大提升效率的同時，也帶來了挑戰。

算法的內涵及演變

算法是用於解決問題的一系列明確指令，使得複雜的問題可通過計算方法得到解決。目前，人工智能算法主要是指能夠從數據中進行歸納總結、學習規律，進而進行預測或決策的一類算法。

數據、算法、算力是人工智能的三大支柱，是圍成人工智能智力水平水桶的三塊木板。形象一點來說，如果將人工智能的發展看作一個人的智力成長，數據、算法和算力三者可分別對應書本、學習方法和學習時長，只有書本質量高數量足、學習方法得當、學習時間充分，才能獲得更高的智力水平。算法是人工智能研究的主要部分，其設計目的就是教會機器如何學習。

無論你是否瞭解，算法現已融入生活的方方面面。例如，短視頻平臺利用算法，通過分析你的歷史行爲推薦可能感興趣的內容，金融機構利用算法進行風險評估和信貸評分，自動駕駛汽車則依賴算法處理和分析路況信息，以及刷臉打卡、刷臉支付、拍照識物、自動翻譯、地圖導航……在這些習以爲常的生活場景中，從信息獲取到加工再到應用，涉及算法的任務數不勝數。可以說，算法正在重塑我們對世界的理解方式。

人工智能概念自1956年被提出以來，經歷了多次重大演化。2015年以來，人工智能研究向以神經網絡爲核心的深度學習方向飛速發展，支撐了目前的大部分智能應用場景。2022年以來，以OpenAI發佈ChatGPT爲標誌，人工智能進入大模型時代，這其中的關鍵是通過算法設計，能夠高效利用海量的無標註數據，通過大模型、大算力實現一定程度的通用智能。目前，算法技術正處於一個快速發展的階段。在國際比較中，中國的算法研究和應用正在迅速發展，並在某些領域與國際水平保持同步或領先。但是在大模型時代，由於國內芯片技術受限，算力可能會成爲目前國內算法發展的瓶頸。

算法的價值遠超簡單的技術進步，它爲我們提供了理解和處理信息的全新視角，從而改善決策過程。在醫療領域，算法能夠通過分析患者的歷史數據來預測疾病風險，爲醫生提供治療建議；在製造業中，算法通過優化生產流程，提升效率和質量，從而降低成本並提高產量；在金融領域，算法不僅用於信貸評分，還能在股市交易中進行模式識別，幫助投資者作出更明智的決策；在社會治理、科學研究、安全等領域算法都展現出巨大的應用潛力。未來，人工智能將是大國競爭的重要領域，隨着技術的發展，我們將看到越來越多的國家投資於人工智能技術，以期在全球範圍內獲得競爭優勢。這不僅僅是一場技術競賽，更是關乎經濟、政治和社會未來走向的戰略佈局。因此，算法的發展、應用與治理，在科技競爭愈發激烈的今天，顯得愈發重要。

算法的挑戰與治理

儘管算法爲我們帶來了許多便利，但也造成了一定的社會問題。信息繭房效應就是典型例子。正如前面所提到，短視頻、新聞平臺會根據用戶的觀看歷史推薦用戶可能感興趣的內容，這在方便用戶獲取信息的同時，也降低了用戶主動進行信息搜尋、尋找新視角的慾望。用戶不斷觀看這些推薦內容，又刺激算法繼續推薦相似內容。以此循環往復，最終使用戶觀看的都是同質化的內容、類似的觀點，無形中剝奪了用戶瞭解更廣闊世界的機會，導致個人偏見的放大，個人被束縛在自己的信息繭房裡，難以全面地認識外部世界。在宏觀層面，信息繭房會降低人與人間的同理心和認同感，加劇社會的分裂。再如“大數據殺熟”，根據用戶的購物歷史，算法知道用戶能承受更高的價格，可能會提供歧視性定價。在旅遊、網約車等領域，近年來都曾有過“大數據殺熟”的相關報告。此外，國外有研究發現，由真實數據訓練的算法可能存在種族偏見和不公，包括對不同種族不同的犯罪傾向預測，對不同種族不同的人臉識別精度等。這類問題目前在國內的研究尚不充分，但已經引起相關部門的重視。

面對算法可能帶來的風險，我們既不能因噎廢食，也不能視而不見。大衆、算法提供方和政府三方面應該共同努力，形成應對算法挑戰的合力。對於大衆而言，需要了解基本的算法理念，明確自己的需求以及與算法的關係，合理利用算法爲自己服務。對於算法提供方而言，需要從更長遠的角度出發，提高社會責任感，將具有社會責任感的算法作爲企業更高層次的價值理念。對於政府而言，需要建立相應的倫理指導原則和法律法規，要求企業加強算法的透明度，明確設立監管紅線，並制定安全測試方法，以保證市場的有序發展。當然，目前的監管制度難以完全管控算法技術快速迭代的特點，因此如何合理制定算法監管規範，使之既不滯後於技術發展又能確保公衆利益，是擺在監管部門面前的新課題。目前，我國已出臺《互聯網信息服務算法推薦管理規定》《生成式人工智能服務管理暫行辦法》等法規加強對算法的監管，日後，還需根據技術發展的新形勢，不斷調整完善監管方式方法。

總之，展望未來，我們有理由相信，算法必將爲世界帶來更多驚喜。與此同時，只有樹立算法倫理與價值導向，讓其在合理、公平的軌道上健康發展，算法才能真正造福人類社會。這需要政府、企業與公衆的共同努力。

（曹逸軒，作者系中國科學院計算技術研究所副研究員）

來源：大衆日報