随着人工智能的发展，其对于就业等方面的影响正受到越来越大的关注，甚至于未来可能会引起人类末日危机的讨论也愈发激烈。对此，计算机专家拉塞尔建议，人类必须要在机器人内部预置不确定性，以防备它们的背叛。
随着人工智能的发展，越来越多的科学家及科技精英开始担忧人工智能会给人类带来各种难以预计的影响，甚至可能是灾难。
近日，特斯拉总裁兼spacex公司ceo埃隆·马斯克在推特上转发了一项研究，研究声称人工智能在2060年前会在所有任务的完成上超越人类。而马斯克认为这种转变会比科学家所认为的出现得更早，因为人工智能的水准正加速发展。他警告道，人工智能超越人类的那一天比最近研究所预计的要早几十年，这是因为人工智能的发展是呈指数性上升的，而不是线性上升的。
近几年，马斯克对人工智能的发展明确地表明了自己的态度。尽管他对促进这一科技的发展做出了巨大贡献，马斯克一直以来都警告说人类所建造的机器有一天可能会导致自身的毁灭。
除了马斯克外，著名物理学家史蒂芬·霍金对于人工智能危机也不断提出警告。今年3月8日，史蒂芬·霍金向英国《独立报》表示，人类必须建立有效机制尽早识别威胁所在，防止新科技(人工智能)对人类带来的威胁进一步上升。霍金警告，未来人工智能可能会以生化战争或核子战争的方式摧毁人类。
其实，早在2015年9月，霍金就发出过类似的警告：聪明能干的人工智能会让人类灭亡。霍金表示：一个超级聪明的人工智能可以非常好地实现它的目标，如果这些目标没有与我们人类一致，我们人类就麻烦了。
而在gmic 2017首日的领袖峰会上，史蒂芬·霍金再次谈到了他对于当前人工智能技术发展的认识，他说“人工智能的成功有可能是人类文明史上最大的事件， 但是人工智能也有可能是人类文明史的终结，除非我们学会如何避免危险。”
即使把人工智能所带来的影响回归现实，放眼于短期未来，就业也成为业内最主要的担忧。microsoft和facebook是美国乃至全球都非常成功的科技公司，最近两位公司创始人bill gates和mark zuckerberg对未来美国的就业发出了同样的担忧。
扎克伯格在哈佛的演讲中说到：“我们这一代人是非常艰难的，未来将会有数以百万计的工作被人工智能取代，比如无人驾驶汽车、卡车等等。我们父母毕业时，他们的目标是找到工作，但是今天，人工智能导致许多工作小时，社区成员之间的关系也渐渐变淡，许多年轻人感到沮丧。”
此前早些时候，比尔·盖茨也表达了同样的担忧。盖茨在twitter连发了14条推文，给将要毕业的大学生一系列建议。主要强调，未来人工智能的影响将覆盖社会的方方面面。建议毕业生从事和ai相关的职业。
根据forrester research的数据，未来10年机器人将取代1500万工作岗位，相当于美国就业市场的10%。正如盖茨所说的，现在的人工智能和自动化领域就像是上世纪80年代的电脑，10年前的社交媒体。
对于人工智能和可能给人类带来的“末日”危机，计算机专家斯图尔特·拉塞尔警告称，人类制造出的事物(人工智能)将可能进化得比人类更聪明。拉塞尔建议，人类必须要在机器人内部预置不确定性，以防备它们的背叛。
拉塞尔解释说，虽然他本人也支持人工智能的研究，但总感觉制造出一种比自身物种更为聪明的事物并不一定是好事情。拉塞尔建议，为了防止机器人接管我们人类，我们必须制造出无私心的机器人，即在它们的目标任务中存在一定程序的不确定性，应该教会它们人类价值观方面的知识。通过向人工智能系统中灌输“人类常识”，科学家必须重新定义人工智能，这样我们才能制造出有益的机器。 |
