數字人“莫迪”直呼選民名字拉票？印度大選成AI最新試驗場

4月19日，“全球最大規模選舉”印度議會下院（人民院）選舉正式拉開帷幕。在這個爲期6周的馬拉松式選舉投票過程中，印度的不少選民或許能感受到一種全新體驗——打開社交平臺，“總理莫迪”會喊出選民名字，呼籲爲他和他的政黨投票。

這是人工智能（AI）技術在大規模選舉中的最新應用。然而，隨着這項頗受關注的新技術工具在政治舞臺中發揮作用，有專家擔心，幾乎沒有任何防護措施可以防止其被濫用，選民或許也將越來越難以區分真實信息和合成信息。

省錢又省力，AI助力印度選舉

除了上述尚不清楚製作來源的印度總理莫迪的“數字人”形象出現在社交平臺外，莫迪所在印人黨的工作人員也正通過社交平臺向特定的選民發送他們各自的虛擬人物視頻，在視頻中，“AI政客”向選民們介紹政府福利，並請他們投票。

據《紐約時報》報道，33歲的印人黨成員拉托爾（Shakti Singh Rathore ）爲了向儘可能多的人宣傳莫迪的計劃和政策，決定使用AI技術製作自己的“數字人”。

爲此，拉托爾聯繫到了人工智能初創公司The Indian Deepfaker的經營者賈杜恩（Divyendra Singh Jadoun）。“只要看着鏡頭說話，就好像對方就坐在你面前一樣。”賈杜恩對站在綠幕前準備錄製的拉托爾說道。

在簡單的信息採集後，賈杜恩獲得了約五分鐘的素材。運用開源AI系統和自己寫的代碼，賈杜恩把拉托爾錄製的聲音和圖像逐幀分離，然後收集他的面部特徵數據，包括臉部和嘴脣的大小以及目光。數據集隨後被輸入AI模型，學習預測面部模式。“需要不斷地運行程序，微調面部，直到獲得最佳面部（表情）。”賈杜恩說。

AI同時還對拉托爾的聲音進行分析，學習其語音語調。賈杜恩介紹，通常需要6到8個小時的調整才能使“數字人”的臉部表情自然且嘴部動作與聲音同步。剩下的工作基本上都是自動完成的。

此前，賈杜恩的九人團隊一直在用AI生成寶萊塢演員頭像，以此製作廣告。而在今年早些時候，印度的政黨和政客開始要求他爲他們做同樣的事，賈杜恩告訴《紐約時報》，在大約200個類似申請中，他接受了14個。

在語言多元的印度，這些AI生成的視頻還可以消除障礙，自動生成爲印度選民所使用的幾十種語言中的任何一種，讓競選信息觸達各類羣體。AI聊天機器人也可以通過打電話的方式，以政治人物的聲音和口吻與選民聊天，尋求他們的支持。

“過去，政黨代表給選民打電話時，他們會掛斷電話。但現在，當‘地方領導人’說出選民的名字時，就會立即引起他們的注意。”在拉托爾看來，將AI技術運用於政治宣傳，將大大提高競選信息的普及程度。

不僅如此，報道稱，相較於傳統競選活動，這種新型的宣傳方式所需的時間和資金都大大降低，未來它有可能成爲選舉中的重要工具。例如，賈杜恩的團隊一天就能製作多達1萬段視頻，拉索爾告訴《紐約時報》，他花費了約 2.4萬美元，通過（AI生成的）視頻和電話聯繫了大約120萬人，並獲得了哪些人沒有接聽電話的信息。在他看來，這是對他所在的印人黨的未來的投資。

擔憂、監管與運用

不過，印度政府對待人工智能生成式內容的態度也並非全然開放。

去年11月，一段“莫迪”身着傳統服飾、歡快跳着印度加爾巴舞的視頻在網上瘋傳，莫迪曾親自闢謠，稱讚視頻做得好的同時，對濫用AI技術僞造視頻表示擔憂，認爲這可能引發一場大危機。

今年3月，據半島電視臺報道，隨着涉及9.68億合格選民的大選的臨近，印度政府推出新舉措，要求科技公司在公開推出“不可靠”或“未經測試”的AI模型或工具之前，須先獲得政府的批准。此外，這些AI產品不應產生“威脅選舉過程完整性”的結果。

《紐約時報》稱，The Indian Deepfaker和印度另外兩家人工智能初創公司的代表制定了一份名爲“人工智能聯盟宣言”的文件，承諾保護數據隱私和維護選舉公正。例如，The Indian Deepfaker會在視頻中標註“AI生成”，其聊天機器人也會標識自己是AI生成的聲音。

然而，儘管有上述提示，印度28歲的度假村老闆巴蒂 (Narendra Singh Bhati) 在接到“拉索爾”打來的AI電話後，仍未意識到這是一通AI電話，並對電話中個性化的內容留下了深刻印象。最後“我甚至向拉索爾先生說了再見”，巴蒂說。

公衆面對AI生成內容的意識需要提高，而另一方面，監管政策也未能阻擋印度主要政黨在競選活動中使用AI技術生成可能產生誤導的信息。執政的印人黨與主要反對黨國大黨相互指責對方在網上傳播與選舉有關的內容涉嫌AI深度僞造。

《紐約時報》援引印度網絡自由基金會（Internet Freedom Foundation）執行董事普拉蒂克·瓦格雷（Prateek Waghre）話說，人工智能監管問題值得注意，這項技術正在進入一個已經被虛假信息污染的媒體環境。

過去半年多來，世界各地的選舉已幾度成爲人工智能熱潮的試驗場。去年底的阿根廷大選被一些媒體與學者視爲“史上第一個AI選舉”——總統候選人被製作成印第安納·瓊斯和捉鬼敢死隊出現在選民眼前。今年美國新罕布什爾州初選期間，一些選民收到了敦促他們不要投票的電話，電話聲音聽起來很像總統拜登的聲音，事後，民主黨人稱，是拜登的黨內競爭對手用AI生成了“假拜登”電話以阻礙初選。在印尼，曾經的政治與軍事強人普拉博沃（Prabowo Subianto）在競選中用AI圖像將自己重塑爲“可愛的爺爺”。

而在此次印度大選中，AI生成式產品將展現出這項最新技術深入一個擁有近10億選民的國家的政治選舉中的可能性。這場4月19日開啓投票的選舉，將在6周內分7個階段在全印約105萬個投票站進行，直至6月4日公佈最終結果。路透社等媒體報道稱，選前民調顯示，現任總理莫迪極有可能勝選連任，開啓其第3個五年任期，追平印度開國總理尼赫魯的任期紀錄。