劉廼強:機械人不會殺人,只有人才會殺人

Want create site? Find Free WordPress Themes and plugins.

我們試想像以下場景:於不久的將來,5G和物聯網十分發達,一家大廈的控制中心可以控制大廈內的門窗、燈光、空調、電梯等局部和全部開關。

這個控制中心完全有能力把大廈內某人關起來,一片漆黑,呼天不應,直至死亡。

問題是控制中心自己會不會這樣做?沒有外來的指示,它自己沒有動機這樣做,而這外來的指示,只可能來自人類。

即便是昨天我們談到的AI武器,也是人類在編程上設計它以殺人為任務。

結論是機械人不會殺人,只有人才會殺人(電影「終結者」的原蕊片也是人類發明的)。機械人三定律是人類定的,人類也一定能否決它。

不過其實人類也不是輕易殺人的,通常只在兩情況之下才蓄意殺人:一是憤怒或情緒失控、二是當生存和繁衍空間受威脅。

到AI具備自我意識時,它的生存和繁衍只需要能源,其它資源,理論上它都可以制造和創造。而能源在不久的將來將會是源源不絕的,因而AI除了為人類服務之外,對人類的生存和繁衍不構成任何威脅,人類對AI也不會構成威脅。

充其量是在憤怒或情緒失控之下,個別人類會傷害了個別機械人,而犯這錯誤的人,相信一定會有人類的法律去制裁他,不致惡化成為了對AI的生存和繁衍構成威脅。

除了出現意外情況,AI失控(瘋了)而損害人類之外(因為在設計中,已經植入多重安全措施,AI瘋了,並且損害人類的機率應該比人類瘋了更低),我們暫時可以安全地假定,人類和AI,是可以和平共處的。 

 

Did you find apk for android? You can find new Free Android Games and apps.

About The Author

Related posts

Leave a Reply

你的電子郵件位址並不會被公開。