人工智能的进化 · 第十七节
《人工智能的进化》第十七节
本节探讨人工智能对人类的威胁。作者指出,霍金等人担忧的灾难多属政策管理问题,但人工智能特有的风险在于其能自主决策。
本节探讨人工智能对人类的威胁。作者指出,霍金等人担忧的灾难多属政策管理问题,但人工智能特有的风险在于其能自主决策。电影中的超级智能往往出于设计缺陷或任务优先而敌视人类,而现实中造出超级智能需庞大工程,不会偶然发生。作者认为,最大风险是把缺乏常识的系统赋予自主权,使其在罕见情况下失控。最后,作者反驳超级智能必与人类冲突的观点,认为侵略性是人类进化的产物,人工智能并非如此,因此不会主动选择对抗。