早安，在天靜晨自白的上海問候各位

最近，99歲的美國前國務卿在一個主題為“人、機器和上帝”的論壇上發表了一番關于人工智能的言論，把這項正在深刻改變人類社會的技術，與核相提并論。他說“人工智能是軍備控制的新前沿，如果主要大國不想辦法限制人工智能的影響力，這簡直是一場導致災難的瘋狂競賽”。老人家還呼吁世界兩個科技大國美國和中國就如何對人工智能設置道德規范和行為準則展開緊急對話。

基辛格的警告并不是空穴來風。核雖然破壞力巨大，但它好歹還是由人來控制的，而人工智能卻不一定由人來控制，或者說人或許控制不了人工智能系統。看看俄烏戰事中的無人機，如果這些智能化不是由人來控制，系統出現了什么致命的BUG，或許人類想去制止也會無能為力。

這種災難性場景以前或許只存在于科幻電影中，現在的技術進步已經使得這種場景有可能在現實中發生。在手機APP上為我們服務的已經普遍由活生生的人改為了機器人，它們搜集我們的各種數據和行為軌跡、行為習慣，并加以分析總結，可以說這些機器人比我們自己還更加了解我們自己。現在它們只是向我們推出各種各樣的商業服務。如果某一天它們有了獨立意識或者程序錯亂，是不是就會對我們構成不可逆的傷害？

因此，基辛格老先生對于人工智能的恐懼并不是嬌性，而是振聾發聵的提醒！

［論道出發點：所謂傳統企業，就是從產品出發去找顧客；所謂互聯網企業，就是先圈人，再根據這些人的需要提供產品/服務］