2018年6月13日

基於演算法（algorithm）的人工智慧，已經成為科技行業的熱門詞彙，中國更是將人工智慧用於“社會信用”體系建設。有科技政策專家警告，人工智慧技術本身存在缺陷，造成的錯誤，將產生政治影響和社會影響。
法國戰略分析家、哈佛大學甘迺迪政府學院高級訪問學者尼古拉·米埃勒（Nicolas Miailhe）說，人工智慧的運作是由大數據驅動、以機器學習為核心的演算法系統。他對美國之音說：“只要我們對人工智慧的運作的細節動態，也就是「大數據驅動、以機器學習為中心」缺乏瞭解，對人工智慧的演算法系統及其潛在的政治意義缺乏瞭解，我們就有可能會犯錯誤。”

中國搜集整理“大數據”，用人工智慧技術分析人們在網路和現實社會的行為、習慣和喜好，試圖打造一個“讓失信者寸步難行、讓守信者一路暢通”的所謂“社會信用”體系。中國官方媒體報導說，自社會信用系統試行以來，因為“失信”，700多萬人在買機票時受到限制，200多萬人買高鐵車票受到限制。
米埃勒認為，人工智慧分析是根據人們留下的“電子蹤跡”重新構建新的個體。他說：“你留下電子蹤跡，這些只是你的蹤跡；它們不能反映你真實自己的複雜度、強度、和你這個人的具體細節。（人工智慧）用演算法把這些電子蹤跡投射，並創建出新的解決方案。”

他對美國之音說：“從某種意義上來說，我們搜集人們的電子蹤跡、將這些蹤跡用演算法反映到現實，這個過程會丟失一些資訊。你作為一個人，遠遠比你的電子蹤跡和相關的推論所描述的多得多。”
米埃勒認為，人工智慧演算法的興起，給社會帶來新的機遇，同時帶來挑戰。
中國2012年開始在部分地區試行社會信用系統，希望在2020年之前全面建成。但這個系統將由誰來管理、被判“失信”的個人能否提出異議，以及系統本身的合法性，目前尚無定論。

人權活動者擔心，人工智慧技術可以被中國政府用於加強國家控制、打擊不同政見者。
中國為人工智慧發展，制定了策略目標，希望到2030年達到世界領先水準。外界認為，個人資料隱私保護的缺失和無處不在的監控設備所採集到的大量資料，有助於“訓練”演算法。