科学家一直希望使用最简单的方法来确保以机器人为代表的人工智能不会对人类构成任何威胁。机器人的“三定律”规定：机器人不能伤害人类；他们必须服从人类。他们必须保护自己。后来，“零法”补充说明：机器人不得伤害整个人类，也不得由于无所作为而伤害整个人类。机器人不能伤害人，但是机器人可以以什么方式伤害人呢？伤害有多大？损坏可能以什么形式发生？什么时候会发生？如何避免呢？这些问题今天需要完善或需要更详细。应该使用特定的原理来防止它，并且它不能停留在70或80年前的理解水平上。”中国人工智能学会人工智能伦理委员会负责人，中国科学技术大学机器人实验室主任陈小平教授表示。享誉全球的艾伦人工智能研究所（Allen AI Institute）首席执行官Ezioni呼吁更新“机器人三定律”。在两年前的一次演讲中。他还提出，人工智能系统必须遵守适用于其运营商的所有法律规定；人工智能系统必须清楚地表明它不是人；未经信息源的明确许可，人工智能系统无法保留或披露机密信息。当时，这些颇具创新性的观点引起了业界的热烈讨论。美国人工智能伦理学领域的著名学者和麻省理工学院教授泰格马克（Tegmark）推动了“人工智能有益运动”的发展。近年来，并提出了新的道德原则，以确保人工智能和人类未来的目标保持一致。这项活动赢得了许多全球顶尖科学家的支持，例如霍金和著名的IT公司。关于人工智能新伦理的全球研究越来越活跃。许多人都对人工智能怀恨在心，这主要是由于其快速发展带来的未知，以及“保护人类”的发展。已成为首要关注的问题。美国机器智能研究所的创始人Yudkowski提出了“友好的人工智能”的概念，并认为“友好的”人工智能是可以理解的。从设计开始就应该将其注入到机器的智能系统中。不断提出新的道德原则，但强调以人为本的理念从未改变。百度的创始人李彦宏提出了“人工智能伦理的四项原则”。在2018年中国国际大数据产业博览会上。第一原则是安全和控制。美国电气电子工程师学会规定，人工智能应优先考虑最大限度地提高对人类和自然环境的利益。制定新的道德原则也在各国政府的议程上。当中国政府发布“新一代人工智能发展计划”时， 2017年7月，指出建立人工智能法律法规，道德规范和政策体系，以形成人工智能安全评估和控制能力;欧盟委员会于2018年4月发布了一份文件“欧盟人工智能”，建议有必要考虑建立适当的道德和法律框架，为技术创新提供法律保护；今年2月11日，美国总统特朗普签署了一项行政命令，发起了“美国人工智能计划”。公司的五个关键点之一是制定与道德相关的人工智能治理标准。他认为，尽管在短期内没有证据表明人工智能会带来重大风险，但仍然存在诸如隐私泄露和技术滥用等问题。无人驾驶和服务机器人的道德原则也必须尽快讨论和制定。美国电气电子工程师学会还规定，为了解决故障问题并避免公众困惑，人工智能系统必须在程序级别负责，以证明其以特定方式运行的原因。 “从长远来看，您不能等到出现严重问题后再制定预防措施。”陈小平认为，人工智能和其他技术具有不同的特征，许多人工智能技术是自主的。例如，自主机器人具有物理