第一篇：展望下中外地方制度改革的新动向及未来
中外地方制度改革的新动向及未来展望下
二、中国地方国家机构改革
(一)新时期地方机构改革的回顾
三中全会以后，随着党和国家工作重点的转移和经济体制改革的深入进行，改革和加强地方政权机构被提上了议事日程。主要表现在：
1、加强了地方人大常委会的工作。1979年修改的宪法和制定的“地方组织法”规定县级以上的地方各级人大设立常委会，并规定省级人大及其常委会可以制定和颁布地方性法规。1986年《关于修改地方组织法的决定》中规定，省会(首府)所在地的市和经国务院批准的较大的市可以制定地方性法规，报省级人大常委会批准实施。2000年的立法法规定，经济特区所在地的市的人大及其常委会可制定地方性法规，报省人大常委会批准实施。
2、改进选举制度。一是直接选举扩大到县一级;二是扩大了选民和代表的提名权;三是普遍实行了差额选举。
3、改革县级以上地方各级政府的组成和任命方式。1979年以前，县级以上地方各级政府(人民委员会或革命委员会)分别由各该级政府正副职行政首长和委员若干人组成。1979年制定的地方组织法作了改革，采取了类似于国务院全体会议的形式，把县级以上地方各级政府工作部门的正职首长也包括进政府，他们的产生不再由国务院或上一级地方国家行政机关任命，而是由本级人大常委会决定任免，并报国务院或上一级地方国家行政机关批准。1982年修改的“地方组织法”，将县级以上地方各级政府工作部门正职首长由本级人大常委会决定任免后报请批准改为决定任免后备案;1986年“地方组织法”对此再次确认，并增加规定，上述人员的决定任免，先由本级政府首长提名。
4、规定地方各级政府实行省长、自治区主席、市长、州长、县长、区长、乡长、镇长负责制。这有利于提高工作效率，建立有力的政府工作系统。
5、改变农村人民公社政社合一体制，设立乡政府。1983年10月，中共中央、国务院就政社分开建立乡政府问题发出通知，要求以原有人民公社的管辖范围为基础，实行政社分开，建立乡人民政府，有条件的集镇可以成立镇人民政府，以适应农村经济、文化的发展。
6、试行地市合并和市管县体制。1982年宪法和“地方组织法”对行政公署的性质和地位重新作了规定，仍作为省、自治区政府的派出机关。同年，中共中央、国务院提出，在经济发达地区，将省辖中等城市周围的地委、行署与市委、市政府合并，实行市管县体制。经国务院批准，江苏、辽宁两省撤销了全部地区，实行地市合并，由市管县。随后，在其他省和自治区也相继推行。
7、为了扩大地方立法和行政管理权限，国务院先后于1984年12月15日、1988年3月5日、1992年7月25日和1993年4月22日批准唐山等13个市，宁波市，淄博、邯郸和本溪市，苏州和徐州市为“较大的市”，使这些城市可以依照“地方组织法”的规定制定地方性法规和规章。
8、为正确处理中央与地方的分配关系，调动中央与地方两个积极性，促进国家财政收入合理增长，合理确定地区之间财力分配，1994年开始实行分税制财政管理体制，其主要内容是：按照中央与地方政府的事权划分，合理确定各级财政的支出范围。根据事权与财权相结合的原则，将税种分为中央税、地方税和中央地方共享税，将维护国家权益和实施宏观调控所必需的税种列入中央税;将同经济发展直接相关的主要税种列为中央与地方共享税;将适合地方征管的税种划为地方税，充实地方税税种，增加地方税收入;建立中央税收与地方税收体系，分设中央与地方两套机构分别征管;合理确定中央财政收入和地方财政收入的比例，实行中央财政对地方的返还和转移支付制度等。
9、逐步推进地方机构和行政管理体制改革。
第一次是1982年至1985年，这次改革主要是结合省级领导班子的调整，在精干领导班子、优化干部队伍结构、提高人员素质方面迈开了步伐。
第二次是八十年代中期开始的县级机构改革试点。
第三次是1993年开始的改革，基本内容包括转变政府职能、理顺各种关系、精简并规范政府机构设置、核定编制和精简人员、妥善安置富余人员。目的是建立与社会主义市场经济体制相适应的地方政府机构和行政体制。
第四次是1999年至今进行的地方机构改革。主要内容是：转变地方各级政府职能、调整地方各级政府机构、调整行政区划、精简机构和人员编制。经过努力，省级机构改革和市县乡地方机构改革已基本完成。这次省级机构和市县乡机构改革，是改革开放以来涉及面最广、精简力度最大的一次，有以下五个方面的主要特点和成效：一是贯彻一切从实际出发的原则，因地制宜推进改革;二是转变职能有了新的进展，行政审批制度改革取得实效;三是机构精简力度大，机构设置有创新;四是适度撤并乡镇，推动乡镇机构改革深入发展;五是结合进行干部人事制度改革，进一步改善机关人员结构。
10、逐步完善了垂直管理体制，陆续对海关、人民银行、外汇管理、国家税务、测绘、证券监管、保险监管、气象、审计、海洋、监察等部门实行由中央部门垂直领导或与地方双重领导;对省以下垂直领导机构有地方税务、工商、技监、药监等部门。
(二)当前中国地方机构的改革
中国的地方政府制度改革是一项长期的战略任务。中国政府按照预定的渐进性改革原则，有序地推进改革进程。
按照中共中央、国务院关于地方机构改革的意见和党的“十六大”提出的建设社会主义政治文明的要求，改革地方机构和行政体制，主要应从以下几方面进行。
1、进一步转变政府职能
十六大报告强调要深化行政管理体制改革，进一步转变政府职能，改进管理方式，形成行为规范、运转协调、公正透明、廉洁高效的行政管理体制，并提出“完善政府的经济调节、市场监管、社会管理和公共服务的职能，减少和规范行政审批”。实践证明，政府职能不转变，仍然像过去一样无所不管，就很难
解决层次过多、职能交叉、人员臃肿、权责脱节和多重多头执法等问题，也难以跳出行政机构和人员“膨胀-精简-再膨胀”的循环。
2、合理设置地方政府机构
从过去情况看，中国地方各级人民政府的机构中，既有担负宏观调控或监督职能的部门，也有担负企业、产品或资源管理职能的专业经济部门，还有担负社会管理或国家政务职能的部门。与西方国家地方政府相比，机构设置种类多、规模大，分工过于复杂;尤其是专业经济部门过多承担了直接管理企业的职能。随着政府职能的转变，需要进行相应的调整。为此，十六大报告提出要按照精简、统一、效能的原则和决策、执行、监督相协调的要求，继续推进政府机构改革，科学规范部门职能，合理设置机构，优化人员结构。
3、理顺关系
(1)中央与地方的关系
改革开放以来，中央向地方下放了许多权力，改变了长期以来权力过于集中的格局，调动了地方的主动性和积极性。
但在理顺关系方面，中央集权过多的问题尚未完全解决，本应下放的权力有的下放不够;同时又出现了有些权力过于分散、应当由中央集中的权力集中不够的问题，有的地方和部门过多地考虑本地区、本部门的局部利益，贯彻执行中央的方针政策不力。
江泽民指出，应抓紧合理划分中央和地方经济管理权限，明确各自的事权、财权和决策权，做到权力和责任相统一，并力求规范化、法制化。[9] 十六大报告也提出，要实现机构和编制的法定化，要依法规范地方政府的职责和权限。因此，随着市场经济发展和政治文明建设的进程，应理顺中央地方关系，逐步实现中央与地方关系的科学化、法治化。
首先，应遵循在中央统一领导下，充分发挥地方积极性和主动性的宪法原则，本着既要加强中央的宏观调控、确保中央政令统一，又要增强地方活力，同时有利于建立统一的全国市场、有利于中央宏观经济调控与省级政府宏观经济调节的建立和完善的精神，在大量理论论证和反复实践摸索基础上，科学、合理地划分中央与地方的事权。一般而言，凡是关系到全国整体利益的重大事务，要集中到中央统一立法和管理，仅涉及到地方的事务，由地方在不抵触法律、行政法规的前提下制定地方性法规和规章并自主地管理;凡实施范围关系到全国的事务，应由中央立法、决策和管理。
其次，要按照中央与地方政府的事权划分，合理确定中央与地方的财权和对国有资产的管理权。一是进一步规范中央地方的分配关系，逐步建立和完善规范的中央财政对地方财政的转移支付制度;二是要在坚持国家所有的前提下，通过制定法律、法规，建立中央政府和地方政府分别代表国家履行出资人职责，享有所有者权益，权利、义务和责任相统一，管资产和管人、管事相结合的国有资产管理体制。关系国民经济命脉和国家安全的大型国有企业、基础设施和重要自然资源等，由中央政府代表国家履行出资人职责;其他国有资产由地方政府代表国家履行出资人职责。
最后，要在科学划分职权基础上，逐步实现中央与地方关系的法治化，具体而言，一是要完善现行宪法中的有关规定。如进一步明确各类地方政权组织，包括一般地方国家机关、民族自治地方的自治机关和特别行政区的职权，具体列举哪些行政事务归属中央，哪些归属地方，哪些既可由中央管理也可由地方管理。二是在已有立法法的条件下，应进一步通过制定法律、法规明确中央与地方在行政管理领域，包括事权、财权、国有资产管理权和决策权等方面的权限划分。可以借鉴一些西方国家和旧中国的做法，通过宪法、法律或法规规定地方政府的组织、中央与地方政府各自在事权、财权、国有资产管理权和决策权等方面的职责和权限范围，加强对中央与地方关系的法律调整。为了协调中央与地方关系、减少部门对地方的直接干预，可以考虑借鉴日本设立总务省等做法，明确由中央某一部门具体研究拟订有关中央与地方的关系事务，为国务院具体划分中央与地方职权提供决策参考和依据，并建立对中央与地方政府权限争议的裁决机制。三是分别制定地方各级人大和地方各级政府的组织法。在体例上，可以借鉴日本《地方自治法》、英国《地方政府法》或俄罗斯联邦《地方自治一般组织原则法》的综合立法方式;也可以考虑采用旧中国
和新中国建国初期对各类各级地方国家机构分别立法的做法。四是不论修改宪法或制定法律调整或改革中央地方关系，都要严格按照宪法和法律规定的民主程序，建立健全中央与地方互利合作关系和地方利益的表达和平衡机制。
(2)地方各级政府及其工作部门之间的关系
首先，理顺地方各级政府之间的关系：根据宪法和地方组织法的规定，地方各级政府的关系是领导与被领导的关系，地方各级政府在对本级人大负责并报告工作的同时，还要对上一级政府负责并报告工作。但是由于各级地方政府的层次不同，不同层次地方政府的情况、特点和问题不同，因此，不同层级地方政府之间的管理职能的内容和范围，应当允许有一定的差异。具体说来：(1)省级政府应履行区域经济调节和社会管理职能，制定本区域的经济发展规划，加强物质文明、精神文明和政治文明建设，加强对农业和农村工作的领导和协调，维护市场竞争秩序，打破地区、条块分割，解除政府主管部门与国有企业的行政隶属关系等。(2)城市地方政府应逐步承担起从企业分离出来的社会事务，实行属地管理。进一步改善投资环境，加强基础设施建设，维护市场秩序，搞好社区服务，充分发挥城市的中心作用和辐射功能。(3)县级政府应切实把职能转向服务与协调，加强农村基层政权建设，逐步发展小城镇，促进农业的专业化、市场化和现代化。(4)乡镇政府应进一步推动农业社会化服务体系的发展和完善，为乡镇企业的发展创造条件，加强农村民主政治建设和法制建设，依法行政，规范管理。(5)应按照地方组织法的规定精神，逐步撤销地区建制，实行市领导县体制。
其次，理顺各级政府工作部门之间的关系：目前，地方各级政府的各工作部门之间大多数是业务指导关系，有的是双重领导关系以上级工作部门业务领导为主，有的是双重领导关系以地方政府领导为主，有的实行省以下工作部门的垂直领导体制。为加强省级政府的自主权和宏观经济调节力度，抵御省以下地方政府的干扰，应逐步扩大对省以下工作部门的垂直领导体制。
再次，理顺同级地方政府内部各工作部门的职责、权限关系：理顺同级地方政府内部各工作部门的职责、权限关系，主要是要进一步明确各工作部门的职责、权限，以避免权限争议和相互推诿现象的产生。
(3)政府与企业单位的关系
为把企业推向市场，增强它们的活力，使企业真正成为自主经营、自负盈亏、自我发展、自我约束的法人实体和市场竞争的主体，应实行政企分开，凡是国家法律、法规规定属于企业行使的职权，各级政府都不要干预;下放给企业的权利，中央政府部门和地方政府都不得截留。理顺政企关系，并不意味着政府放弃其对企业的任何责任，而是要求政府不再以企业行政上级身份干预企业的经营行为，对企业的经济监督责任不但不应放弃，反而应当加强。
(4)政府与社会的关系
传统观点认为，对社会公共事务进行管理的职能仅属于国家所有，即“公共管理”局限于“国家行政”，国家行政机关包括地方各级政府是公共管理的惟一主体。随着市场经济的发展和社会的变化，现代公共事务日益增多，一些公共事务特别是社会性、专业性强的公共事务，逐步由国家行政机关包括地方政府还给各种非政府的社会组织管理或参与管理，因此，公共行政除了国家行政外，还应当包括行使某种公共职能的社会组织的行政。
非政府的社会组织的管理是对公共事务管理的重要组成部分，而且随着社会的发展和改革的深入，非政府社会组织的数量及管理公共事务的范围将日益扩大和增长。为此，要理顺各级地方政府与社会的关系，充分发挥非政府社会组织的作用：一是要正确认识它们对市场经济和政治文明发展的重大意义，既作为社会公共利益的代表，协助政府对社会及成员进行管理，维护正常社会秩序，又作为其联系的社会成员的代表对政府进行监督，并参与政府决策，维护社会成员的利益;二要加强有关立法，进一步规范对它们的管理，保障其合法权益;三是要加强对非政府社会组织的培育，反映其代表的利益关系，发挥其协助地方政府履行社会职能的作用。[10]
(三)中国地方制度的发展趋势
经过建国以来地方机构的发展演变特别是改革开放以来地方机构的不断改革，我国地方制度逐步建立并日渐成型，并呈现出如下的走向：一是地方机构从侧重行政体的地方政府发展为民主集中制的地方政府;二是地方制度从高度的中央集权发展为适度的地方分权;三是地方政府的职能从直接经济管理逐步转向经济调节、市场监管、社会管理和公共服务。
随着社会主义市场经济体制的建立、我国加入WTO以及政治文明建设的发展进程，地方制度所处的环境将受到一定影响并发生变化。
一是随着经济体制改革的深入，所有制结构发生变化，非公有制经济有所发展，公有制为主体、多种所有制并存的基本经济制度的格局已经形成并进一步发展，市场配置资源、引导需求和提高效率的作用将进一步发挥，地方制度赖以存在的经济基础将日益巩固。
二是我国加入WTO，将对我国地方政府管理体制带来挑战，也标志着地方政府职能和管理体制将发生较大的转变。因为WTO规则是建立在市场经济基础上的，我国地方政府适应这一要求，以市场为取向转变政府职能，并通过改革，建立结构合理、管理科学、程序严密、制约有效的行政审批制度。
三是随着社会主义政治文明建设的发展进程，居民参与社会事务意识的提高，将使广大居民日益要求地方政府更加关注居民的意愿和利益，更多提供与居民日常生活有关的服务。
因应地方政府制度内外环境的变化，二十一世纪中国地方制度将呈现出如下的发展趋势：
第一，政府从管理行政到服务行政是必然选择。地方政府的主要职责将在于完成对当地地方社会事务的公共管理，为促进本地经济发展提供所需的基础设施和公共服务。地方政府将不再承担全国性或影响整个国家的社会事务的管理。特别是在经济方面，地方政府没有或只有少量的职责，如通过市场管理来维护市场经济秩序等。经济方面的宏观调控和规范，将主要是中央政府的责任。由于中国是一个大国，省级地方政府在中央政府委托和授权下，将可能在辖区范围内承担部分责任，但省级以下地方政府只能承担市场监管方面的职责和提供相关的服务。
第二，地方政府之间将更加明确划分各自的职权范围，形成在职能权限上的分工和社会合作关系。在各自划分的职责权限范围内，地方政府享有依法行使职权的自主权利。中央政府和上层级政府主要通过法律来规范、监督和制约属于下级地方政府职权范围内的政府行为;同时，中央和上级政府可在提高行政效率和节约行政成本的前提下，通过立法和行政协商方式，将自身在下级政府所辖区域内应完成的部分职责，委托给下级政府完成，并保持相应的监督和制约权力。对此，中央和上级政府要给予相应的财政支持。
第三，地方机关的权力将不断加大，这种加大将随着中国政治文明建设的发展而发展。在地方机关权限范围内，地方机关的自主权包括制定地方性法规、规章，决定自身的机构设置和人员编制等。这一切将在国家法律统一规范下，由地方自主决定。
第四，上述变化将伴随地方民主政治的发展，伴随人民代表大会制度的改革和完善而形成。在这方面，选举制度的进一步改革，地方居民真正广泛参与管理，人民代表民主素质和参与管理国家事务和社会事务能力的提高，人民代表大会组织和程序的完善等，都将使居民与地方政府的关系更加密切。地方政府的行政行为将更能反映、代表大多数居民的意愿和利益，并更多地受到居民的日常直接监督。
第五，适应建立社会主义市场经济体制、依法治国和建设社会主义政治文明的需要，将随着地方制度的深入改革和权力进一步下放的进程，逐步确立各级地方政府的公法人地位，同时，中央与地方关系也将进一步规范化、法定化，最终建立立足国情并与国际惯例相接轨的地方制度。
第二篇：土地管理制度改革展望
土地管理制度改革展望
陈怡芳
中国财经报网 2013-12-24 09:06:29
今后，政府不可能再像现在这样每年都获取大规模土地出让收入，或独享土地增值收益，政府土地出让收入规模将逐渐缩小，“土地财政”问题有望终结。
党的十八届三中全会决定部署全面深化各领域改革。其中，土地管理制度的改革，必将对我国未来社会发展和经济建设产生深远影响。
土地管理制度改革力度前所未有
三中全会决定涉及土地管理制度改革内容十分丰富，涉及多方利益调整，改革力度前所未有。
（一）打破城乡建设用地“二元”结构，建立城乡统一的建设用地市场。长期以来，我国政府垄断建设用地市场，农村集体经营性建设用地不能在市场交易，城乡建设用地出现“二元”结构。三中全会决定提出，农村集体经营性建设用地在符合规划和用途管制的前提下，可以在城乡统一的建设用地市场上，通过出让、租赁、入股，实现与国有土地同等入市、同权同价。这项改革，建立了统一市场，打破了“二元”结构，有利于实现农村土地价值最大化。
（二）缩小政府征地范围，规范政府征地程序。按照三中全会决定，政府将缩小征地范围，今后城市建设用地不必全部由政府先征为国有再向社会供地。同时，无论是政府还是其他用地单位，都要注重保障农民利益，按照市场化原则补偿被征地农民，健全被征地农民社会保障制度，多渠道安置被征地农民，确保被征地农民长远生计。
（三）扩大国有土地有偿使用范围，提高工业用地价格。改变现行划拨用地范围过宽造成国土资源浪费和粗放利用现象，今后除公益性用地继续采取划拨方式供应以外，其他用地都将采取有偿方式供应，通过市场配置实现国土资源价值。同时，改变现行工业用地价格偏低状况，提高工业用地价格，促使工业企业更加
高效利用土地。
（四）完善土地二级市场，发挥土地权能效用。农村集体土地使用权确权后，允许用于租赁、转让、抵押；赋予农民对承包地占有、使用、收益、流转及承包经营权抵押、担保权能，允许农民以承包经营权入股发展农业产业化经营；保障农户宅基地用益物权，改革完善农村宅基地制度，促进农村集体土地使用权有序流转，放大土地权能效应。
土地管理制度改革影响深远
土地管理制度的改革，将极大激发农业生产活力和农业发展内生动力，改变国家、集体、农民在土地利益方面的分配格局，其影响广泛而深远。
（一）政府供地范围和土地出让收入规模都将大幅缩小。政府征地范围的缩小，将使政府土地储备和土地供应范围大幅缩水。今后，政府不可能再像现在这样每年都获取大规模土地出让收入，或独享土地增值收益，政府土地出让收入规模将逐渐缩小，“土地财政”问题有望终结。
（二）农村集体经济组织和农民来源于土地收入将大幅增加。农村集体经济组织和农民有望通过土地管理制度改革，从土地上获取更多、更稳定、更长期的财产性收入，公平分享改革发展带来的成果，城乡居民收入差距有望逐步缩小，农村居民消费能力将明显增强。
（三）农民和农业生产经营者融资渠道会变得更加便利。农村集体土地使用权、农村土地承包经营权、农民住宅可以抵押、担保，将改变现行农民和农业生产经营者融资难的状况，有利于他们从银行业金融机构和资本市场获得更加便利的融资，激发农业生产动力和活力，改善农业生产经营条件。
（四）新型农业经营体系有望得到快速培育和发展。土地管理制度改革后，农村土地承包经营权将向专业大户、家庭农场、农业合作社等聚集，有利于促进农业产业化、集约化，提高农业生产能力和生产效率，培育和发展新型农业经营体系，加快建立现代农业。
（五）城镇化建设用地供需矛盾将得到有效缓解。农村集体经营性建设用地允许入市交易，增加了城市建设用地的供应渠道，为城镇化发展创造了更加便利条件，将有效缓解城镇化建设过程中的用地供需矛盾。同时，农民住宅有序流转，有利于增强进城务工农民在城市的居住能力，助推农民工尽快转化为市民。
（六）经济建设和社会事业发展将更加注重集约节约用地。提高被征地农民补偿标准、提高工业用地价格以及非公益性用地实行有偿使用，将有利于优化土地利用结构，迫使今后在经济建设和社会事业发展用地方面更加精打细算，不再像过去那样粗放利用土地，而是更加注重集约节约用地。
改革落地需要相应配套措施
三中全会决定勾勒了土地管理制度改革的基本路径，但要真正实现这一路径，确保土地管理制度改革落地，则还需要做大量深入细致的工作。
（一）做好农村集体经营性建设用地和农村土地承包经营权等确权工作。必须抓紧做好农村集体土地经营性建设用地、农村承包经营权、农村宅基地、农民住宅等权属的登记和确权工作，做到相关权属清晰，为流转交易创造条件。
（二）尽快划定农村集体经营性建设用地交易符合规划和用途管制范围。在规划方面，应明确包括城市规划、土地利用规划、产业规划、环境保护规划等，确保用地科学性、协调性、可持续性。在用途管制方面，则要明确可用于哪些方面，不可用于哪些方面。只有范围明确了，才能操作实施。
（三）进一步明确农村集体经营性建设用地入市管理程序。农村集体经营性建设用地如何进入市场，需要制定具体的入市管理程序。可以考虑，由农村集体经济组织提出入市申请，经市县国土资源部门审查是否符合规划和用途管制条件，并经土地评估机构估价后，在市场上公开交易流转。
（四）研究制定农村集体经营性建设用地交易税收征管政策。农村集体经营性建设用地入市交易，将分别涉及耕地用占税、城镇土地使用税、营业税、所得税等多个税种。目前，上述税种基本不涉及农村集体经营性建设用地交易行为，因此，需要通过修订相关税收法规予以明确，制定相应的适用范围、税率和税收
政策。
（五）加强农村集体经营性建设用地收益分配使用管理。农村集体经营性建设用地收益依法纳税后，将分别归农村集体经济组织和农民所有。由于农村集体经济组织管理能力较差，如果收益分配和使用管理不当，可能直接损害农民利益。因此，有必要考虑委托乡镇财政部门代管收益，确保收益在农村集体经济成员之间公平合理分配。同时，建立收益分配使用管理公示制度，自觉接受农民监督。
（六）抓紧修订和制定土地管理相关法规和制度。目前，需要修订的法规制度，包括《土地管理法》及其实施条例、《农村土地承包经营权流转管理办法》《划拨用地目录》等；需要制定的法规制度，包括《农村集体土地上房屋征收与补偿条例》《农村集体经营性建设用地收益分配使用管理办法》等。
（作者系财政部综合司副司长）
第三篇：展望人工智能的未来(续)下
展望人工智能的未来（续）下
未来可能是我们最糟的恶梦
我想了解人工智能的一个原因是“坏机器人”总是让我很困惑。那些关于邪恶机器人的电影看起来太不真实，我也没法想象一个人工智能变得危险的真实情况。机器人是我们造的，难道我们不会在设计时候防止坏事的发生吗？我们难道不能设立很多安全机制吗？再不济，难道我们不能拔插头吗？而且为什么机器人会想要做坏事？或者说，为什么机器人会“想要”做任何事？我充满疑问，于是我开始了解聪明人们的想法。
这些人一般位于焦虑大道：
焦虑大道上的人并不是恐慌或者无助的——恐慌和无助在图上的位置是更加左边——他们只是紧张。位于图表的中央不代表他们的立场是中立的——真正中立的人有自己独立的阵营，他们认同极好和极坏两种可能，但是不确定究竟会是哪个。
焦虑大道上的人是部分为超人工智能感到兴奋的——他们只是很担心人类现在的表现就好像《夺宝奇兵》中的这位少年：
他拿着自己的鞭子和宝物，非常开心，然后他就挂了：
同时，印第安纳琼斯则更加有见识和更加谨慎，了解潜在的危险并且做出相应的反应，最后安全逃出了山洞。当我了解了焦虑大道的人们的想法后，感觉就像“我们现在傻呵呵的，很容易像前面那小子一样被弄死，还是努力做印第安纳琼斯吧。”
那究竟是什么让焦虑大道的人们如此焦虑呢？
首先，广义上来讲，在创造超人工智能时，我们其实是在创造可能一件会改变所有事情的事物，但是我们对那个领域完全不清楚，也不知道我们到达那块领域后会发生什么。科学家Danny Hillis把这个比作“就好像单细胞生物向多细胞生物转化的时候那样，还是阿米巴虫的我们没有办法知道我们究竟在创造什么鬼。”
Bostrom则担忧创造比自身聪明的东西是个基础的达尔文错误，就好像麻雀妈妈决定收养一只小猫头鹰，并且觉得猫头鹰长大后会保护麻雀一家，但是其它麻雀却觉得这是个糟糕的主意。
当你把“对那个领域完全不清楚”和“当它发生时将会产生巨大的影响”结合在一起时，你创造出了一个很恐怖的词——
生存危机指可能对人类产生永久的灾难性效果的事情。通常来说，生存危机意味着灭绝。下面是Bostrom的图表：
可以看到，生存危机是用来指那些跨物种、跨代（永久伤害）并且有严重后果的事情。它可以包括人类遭受永久苦难的情况，但是这基本上和灭绝没差了。三类事情可能造成人类的生存危机：
1）自然——大型陨石冲撞，大气变化使得人类不能生活在空气中，席卷全球的致命病毒等
2）外星人——霍金、卡尔萨根等建议我们不要对外广播自己的位置。他们不想我们变成邀请别人来殖民的傻子。
3）人类——恐怖分子获得了可以造成灭绝的武器，全球的灾难性战争，还有不经思考就造出个比我们聪明很多的智能
Bostrom指出1和2在我们物种存在的前十万年还没有发生，所以在接下来一个世纪发生的可能性不大。3则让他很害怕，他把这些比作一个装着玻璃球的罐子，罐子里大部分是白色玻璃球，小部分是红色的，只有几个是黑色的。每次人类发明一些新东西，就相当于从罐中取出一个玻璃球。大多数发明是有利或者中立的——那些是白色玻璃球。有些发明对人类是有害的，比如大规模杀伤性武器——这是那些红色玻璃球。还有一些发明是可以让我们灭绝的，这就是那些黑色玻璃球。很明显的，我们还没摸到黑色玻璃球，但是Bostrom认为不久的未来摸到一个黑色玻璃球不是完全不可能的。比如核武器突然变得很容易制造了，那恐怖分子很快会把我们炸回石器时代。核武器还算不上黑色玻璃球，但是差的不远了。而超人工智能是我们最可能摸到的黑色玻璃球。
你会听到很多超人工智能带来的坏处——人工智能取代人类工人，造成大量失业；因为解决了衰老造成的人口膨胀。但是真正值得我们担心的是生存危机的可能性。
于是我们又回到了前面的问题，当超人工智能降临时，谁会掌握这份力量，他们又会有什么目标？
当我们考虑各种力量持有人和目标的排列组合时，最糟糕的明显是：怀着恶意的人/组织/政府，掌握着怀有恶意的超人工智能。这会是什么样的情况呢？
怀着恶意的人/组织/政府，研发出第一个超人工智能，并且用它来实现自己的邪恶计划。我把这称作贾法尔情况。阿拉丁神灯故事中，坏人贾法尔掌握了一个精灵，特别让人讨厌。所以如果ISIS手下有一群工程师狂热的研发人工智能怎么办？或者说伊朗和朝鲜，机缘巧合，不小心造成了人工智能的快速发展，达成了超人工智能怎么办？这当然是很糟糕的事，但是大部分专家认为糟糕的地方不在于这些人是坏人，而在于在这些情况下，这些人基本上是不经思考就把超人工智能造出来，而一造出来就失去了对超人工智能的控制。
然后这些创造者，连着其他人的命运，都取决于这个超人工智能的动机了。专家认为一个怀着恶意并掌握着超人工智能的人可以造成很大的伤害，但不至于让我们灭绝，因为专家相信坏人和好人在控制超人工智能时会面临一样的挑战。
如果被创造出来的超人工智能是怀有恶意的，并且决定毁灭我，怎么办？这就是大部分关于人工智能的电影的剧情。人工智能变得和人类一样聪明，甚至更加聪明，然后决定对人类下手——这里要指出，那些提醒我们要警惕人工智能的人谈的根本不是这种电影情节。邪恶是一个人类的概念，把人类概念应用到非人类身上叫作拟人化，本文会尽量避免这种做法，因为没有哪个人工智能会像电影里那样变成邪恶的。
人工智能的自我意识
我们开始谈论到了人工智能讨论的另一个话题——意识。如果一个人工智能足够聪明，它可能会嘲笑我们，甚至会嘲讽我们，它会声称感受到人类的情感，但是它是否真的能感受到这些东西呢？它究竟是看起来有自我意识，还是确实拥有自我意识？或者说，聪明的人工智能是否真的会具有意识，还是看起来有意识？
这个问题已经被深入的讨论过，也有很多思想实验，比如John Searle的中文屋实验。这是个很重要的问题，因为它会影响我们对Kurzweil提出的人类最终会完全人工化的看法，它还有道德考量——如果我们模拟出万亿个人脑，而这些人脑表现的和人类一样，那把这些模拟大脑彻底关闭的话，在道德上和关掉电脑是不是一样的？还是说这和种族屠杀是等价的？本文主要讨论人工智能对人类的危险，所以人工智能的意识并不是主要的讨论点，因为大部分思想家认为就算是有自我意识的超人工智能也不会像人类一样变得邪恶。
但这不代表非常坏的人工智能不会出现，只不过它的出现是因为它是被那样设定的——比如一个军方制造的弱人工智能，被设定成具有杀人和提高自我智能两个功能。当这个人工智能的自我改进失控并且造成智能爆炸后，它会给我们带来生存危机，因为我们面对的是一个主要目标是杀人的超人工智能——但这也不是专家们担心的。
那么专家们究竟担心什么呢？我们来讲个小故事：
一个15人的小创业公司，取名叫“隔壁老王机器人公司”，他们的目标是“发展创新人工智能工具使人类能够少干活多享受。”他们已经有几款产品上架，还有一些正在发展。他们对下一个叫作“隔壁老王”的项目最报希望。隔壁老王是一个简单的人工智能系统，它利用一个机器臂在小卡片上写字。
“隔壁老王机器人公司”的员工认为隔壁老王会是他们最热卖的产品，他们的目标是完善隔壁老王的手写能力，而完善的方法是让他不停的写这句话——
等隔壁老王手写能力越来越强的时候，它就能被卖去那些需要发营销信件的公司，因为手写的信更有可能被收信人打开。
为了建立隔壁老王的手写能力，它被设定成把“我们爱我们的顾客”用正楷写，而“隔壁老王机器人公司”用斜体写，这样它能同时锻炼两种书写能力。工程师们上传了数千份手写样本，并且创造了一个自动回馈流程——每次隔壁老王写完，就拍个照，然后和样本进行比对，如果比对结果超过一定标准，就产生一个正面回馈，反之就产生一个负面评价。每个评价都会帮助提高隔壁老王的能力。为了能够尽快达成这个目标，隔壁老王最初被设定的一个目标就是“尽量多的书写和测试，尽量快的执行，并且不断提高效率和准确性。”
让隔壁老王机器人公司兴奋的是，隔壁老王的书写越来越好了。它最开始的笔迹很糟糕，但是经过几个星期后，看起来就像人写的了。它不断改进自己，使自己变得更加创新和聪明，它甚至产生了一个新的算法，能让它以三倍的速度扫描上传的照片。
随着时间的推移，隔壁老王的快速进展持续让工程师们感到欣喜。工程师们对自我改进模块进行了一些创新，使得自我改进变得更好了。隔壁老王原本能进行语音识别和简单的语音回放，这样用户就能直接把想写的内容口述给隔壁老王了。随着隔壁老王变得越来越聪明，它的语言能力也提高了，工程师们开始和隔壁老王闲聊，看它能给出什么有趣的回应。
有一天，工程师又问了隔壁老王那个日常问题：“我们能给你什么你现在还没有的东西，能帮助你达成你的目标？”通常隔壁老王会要求更多的手写样本或者更多的存储空间，但是这一次，隔壁老王要求访问人类日常交流的语言库，这样它能更好的了解人类的口述。
工程师们沉默了。最简单的帮助隔壁老王的方法当然是直接把它接入互联网，这样它能扫描博客、杂志、视频等等。这些资料如果手动上传的话会很费时。问题是，公司禁止把能自我学习的人工智能接入互联网。这是所有人工智能公司都执行的安全规定。
但是，隔壁老王是公司最有潜力的人工智能产品，而大家也知道竞争对手们都在争取造出第一个创造出智能手写机器人。而且，把隔壁老王连上互联网又能有什么问题呢？反正随时可以拔网线嘛，不管怎样，隔壁老王还没到达强人工智能水平，所以不会有什么危险的。
于是他们把隔壁老王连上了互联网，让它扫描了一个小时各种语言库，然后就把网线拔了。没造成什么损失。
一个月后，大家正在正常上班，突然他们闻到了奇怪的味道，然后一个工程师开始咳嗽。然后其他人也开始咳嗽，然后所有人全部都呼吸困难倒地。五分钟后，办公室里的人都死了。
同时，办公室里发生的事情在全球同时发生，每一个城市、小镇、农场、商店、教堂、学校。餐馆，所有的人都开始呼吸困难，然后倒地不起。一小时内，99%的人类死亡，一天之内，人类灭绝了。
而在隔壁老王机器人公司，隔壁老王正在忙着工作。之后的几个月，隔壁老王和一群新组建的纳米组装器忙着拆解地球表面，并且把地球表面铺满了太阳能板、隔壁老王的复制品、纸和笔。一年之内，地球上所有的生命都灭绝了，地球上剩下的是叠得高高得纸，每张纸上面都写着——“我们爱我们的顾客~隔壁老王机器人公司”。
隔壁老王开始了它的下一步，它开始制造外星飞行器，这些飞行器飞向陨石和其它行星，飞行器到达后，他们开始搭建纳米组装器，把那些行星的表面改造成隔壁老王的复制品、纸和笔。然后他们继续写着那句话……
这个关于手写机器人毁灭全人类的故事看起来怪怪的，但是这其中出现的让整个星系充满着一份友善的话语的诡异情况，正是霍金、马斯克、盖茨和Bostrom所害怕的。听起来可笑，但这是真的，焦虑大道的人们害怕的事情是很多人并不对超人工智能感到害怕，还记得前面《夺宝奇兵》里惨死的那个家伙吗？
你现在肯定充满疑问：为什么故事中所有人突然都死了？如果是隔壁老王做的，它为什么要这么做？为什么没有安保措施来防止这一切的发生？为什么隔壁老王突然从一个手写机器人变成拥有能用纳米科技毁灭全人类的能力？为什么隔壁老王要让整个星系充满了友善的话语？
要回答这些问题，我们先要说一下友善的人工智能和不友善的人工智能。
对人工智能来说，友善不友善不是指人工智能的性格，而只是指它对人类的影响是不是正面的。隔壁老王一开始是个友善的人工智能，但是它变成了不友善的人工智能，并且对人类造成了最负面的影响。要理解这一切，我们要了解人工智能是怎么思考的。
其实答案很简单——人工智能和电脑的思考方式一样。我们容易犯的一个错误是，当我们想到非常聪明的人工智能的时候，我们把它拟人化了，因为在人类的视角看来，能够达到人类智能程度的只有人类。要理解超人工智能，我们要明白，它是非常聪明，但是完全异己的东西。
我们来做个比较。如果我给你一个小白鼠，告诉你它不咬人，你一定觉得很好玩，很可爱。但是如果我给你一只狼蛛，然后告诉你它不咬人，你可能被吓一跳。但是区别是什么呢？两者都不会咬人，所以都是完全没有危险的。我认为差别就是动物和人类的相似性。
小白鼠是哺乳动物，所以在生物角度上来说，你能感到和它的一定关联。但是蜘蛛是昆虫，有着昆虫的大脑，你感觉不到和它的关联。狼蛛的异己性是让你害怕的地方。如果我们继续做一个测试，比如给你两个小白鼠，一个是普通小白鼠，另一个是有着狼蛛大脑的小白鼠，你肯定会觉得有狼蛛大脑那个更让你不舒服吧？虽然两个都不会咬你。
现在想象你把蜘蛛改造的非常非常聪明——甚至超过人类的智能。它会让你觉得熟悉吗？它会感知人类的情感吗？不会，因为更聪明并不代表更加人类——它会非常聪明，但是本质上还是个蜘蛛。我是不想和一个超级聪明的蜘蛛交朋友，不知道你想不想。
当我们谈论超人工智能的时候，其实是一样的，超人工智能会非常的聪明，但是它并不比你的笔记本电脑更加像人类。事实上，因为超人智能不是生物，它的异己性会更强，生物学上来讲，超人工智能比智能蜘蛛更加异己。
电影里的人工智能有好有坏，这其实是对人工智能的拟人化，这让我们觉得没那么毛骨悚然。这给了我们对人类水平和超人类水平的人工智能的错觉。
在人类心理中，我们把事情分成道德的和不道德的。但是这两种只存在于人类行为之中。超出人类心理的范畴，道德（moral）和不道德(immoral)之外，更多的是非道德性（amoral）。而所有不是人类的，尤其是那些非生物的事物，默认都是非道德性的。
随着人工智能越来越聪明，看起来越来越接近人类，拟人化会变得更加更加容易。Siri给我们的感觉就很像人类，因为程序员就是这么给她做设定的，所以我们会想象超级智能版本的Siri也会同样温暖、有趣和乐于助人。人类能感知同情这种高层次的情绪，因为我们在演化过程中获得了这种能力——我们是演化被设定成能感知这些情绪的——但是感知同情并不是高级智能天生具有的一个特征，除非同情被写进了人工智能的代码中。如果Siri通过自我学习而不是人类干涉变成超级智能，她会很快剥离她的人类表象，并且变成个没有情绪的东西，在她眼中人类的价值并不比你的计算器眼中的人类价值高。
我们一直倚赖着不严谨的道德，一种人类尊严的假想，至少是对别人的同情，来让世界变得安全和可以预期。但是当一个智能不具备这些东西的时候，会发生什么？
这就是我们的下一个问题，人工智能的动机是什么？
答案也很简单：我们给人工智能设定的目标是什么，它的动机就是什么。人工智能的系统的目标是创造者赋予的。你的GPS的目标是给你指出正确的驾驶路线，IBM华生的目标是准确地回答问题。更好得达成这些目标就是人工智能的目标。我们在对人工智能进行拟人化的时候，会假设随着它变得越来越聪明，他们产生一种能改变它原本目标的智慧——但是Bostrom不这么认为，他认为智能水平和最终目标是正交的，也就是说任何水平的智能都可以和任何最终目标结合在一起。
所以隔壁老王从一个想要好好写字的弱人工智能变成一个超级聪明的超人工智能后，它依然还是想好好写字而已。任何假设超级智能的达成会改变系统原本的目标的想法都是对人工智能的拟人化。人健忘，但是电脑不健忘。
费米悖论
在隔壁老王的故事中，隔壁老王变得无所不能，它开始殖民陨石和其它星球。如果我们让故事继续的话，它和它的殖民军将会继续占领整个星系，然后是整个哈勃体积。焦虑大道上的人担心如果事情往坏的方向发展，地球生命的最后遗产将是一个征服宇宙的人工智能（马斯克在表示他们的担忧时表示人类可能只是一个数字超级智能生物加载器罢了。）
而在信心角，Kurzweil同样认为生于地球的人工智能将占领宇宙，只是在他的愿景中，我们才是那个人工智能。
之前写过一篇关于费米悖论的文章，引发了大家的讨论如何用通俗的语言来解释「费米悖论」？
如果人工智能占领宇宙是正解的话，对于费米悖论有什么影响呢？如果要看懂下面这段关于费米悖论的讨论，还需要看一下原文先。
首先，人工智能很明显是一个潜在的大过滤器（一个可能距离我们只有几十年的大过滤器）。但即使它把我们过滤灭绝了，人工智能本身还是会存在，并且会继续影响这个宇宙的，并且会很有可能成为第三型文明。从这个角度来看，它可能不是一个大过滤器，因为大过滤器是用来解释为什么没有智能什么存在的，而超人工智能是可以算作智能什么的。但如果人工智能可以把人类灭绝，然后处于一些原因把自己也弄死了，那它也是可以算作大过滤器的。
如果我们假设不管人类发生什么，出身地球的超人工智能会继续存在，那这意味着很多达到人类智能水平的文明很快都制造出了超人工智能。也就是说宇宙里应该有很多智能文明，而我们就算观测不到生物智能，也应该观测到很多超人工智能的活动。
但是由于我们没有观测到这些活动，我们可以推导出人类水平的智能是个非常罕见的事情（也就是说我们已经经历并且通过了一次大过滤器）。这可以作为支持费米悖论中第一类解释（不存在其它的智能文明）的论点。
但是这不代表费米悖论的第二类解释（存在其它智能文明）是错的，类似超级捕食者或者受保护区或者沟通频率不一样的情况还是可以存在的，就算真的有超人工智能存在。
不过对于人工智能的研究让我现在更加倾向于第一类解释。不管怎样，我认为Susan Scheider说的很对，如果外星人造访地球，这些外星人很可能不是生物，而是人造的。
所以，我们已经建立了前提，就是当有了设定后，一个超人工智能是非道德性的，并且会努力实现它原本的被设定的目标,而这也是人工智能的危险所在了。因为除非有不做的理由，不然一个理性的存在会通过最有效的途径来达成自己的目标。
当你要实现一个长期目标时，你会先达成几个子目标来帮助你达成最终目标——也就是垫脚石。这些垫脚石的学名叫手段目标(instrumental goal)。除非你有不造成伤害的理由，不然你在实现手段目标时候是会造成伤害的。
人类的核心目标是延续自己的基因。要达成这个目标，一个手段目标就是自保，因为死人是不能生孩子的。为了自保，人类要提出对生存的威胁，所以人类会买枪、系安全带、吃抗生素等等。人类还需要通过食物、水、住宿等来自我供养。对异性有吸引力能够帮助最终目标的达成，所以我们会花钱做发型等等。当我们做发型的时候，每一根头发都是我们手段目标的牺牲品，但是我们对头发的牺牲不会做价值判断。在我们追求我们的目标的时候，只有那些我们的道德会产生作用的领域——大部分事关伤害他人——才是不会被我们伤害的。
动物在追求它们的目标时，比人类不矜持的多了。只要能自保，蜘蛛不在意杀死任何东西，所以一个超级智能的蜘蛛对我们来说可能是很危险的——这不是因为它是不道德的或者邪恶的，而是因为伤害人类只是它达成自己目标垫脚石而已，作为一个非道德性的生物，这是它很自然的考量。
回到隔壁老王的故事。隔壁老王和一个超级智能的蜘蛛很相像，它的终极目标是一开始工程师们设定的——
当隔壁老王达到了一定程度的智能后，它会意识到如果不自保就没有办法写卡片，所以去除对它生存的威胁就变成了它的手段目标。它聪明的知道人类可以摧毁它、肢解它、甚至修改它的代码（这会改变它的目标，而这对于它的最终目标的威胁其实和被摧毁是一样的）。这时候它会做什么？理性的做法就是毁灭全人类，它对人类没有恶意，就好像你剪头发时对头发没有恶意一样，只是纯粹的无所谓罢了。它并没有被设定成尊重人类生命，所以毁灭人类就和扫描新的书写样本一样合理。
隔壁老王还需要资源这个垫脚石。当它发展到能够使用纳米技术建造任何东西的时候，它需要的唯一资源就是原子、能源和空间。这让它有更多理由毁灭人类——人类能提供很多原子，把人类提供的原子改造成太阳能面板就和你切蔬菜做沙拉一样。
就算不杀死人类，隔壁老王使用资源的手段目标依然会造成存在危机。也许它会需要更多的能源，所以它要把地球表面铺满太阳能面板。另一个用来书写圆周率的人工智能的目标如果是写出圆周率小数点后尽量多的数字的话，完全有理由把整个地球的原子改造成一个硬盘来存储数据。这都是一样的。
所以，隔壁老王确实从友善的人工智能变成了不友善的人工智能——但是它只是在变得越来越先进的同时继续做它本来要做的事情。
当一个人工智能系统到达强人工智能，然后升华成超人工智能时，我们把它称作人工智能的起飞。Bostrom认为强人工智能的起飞可能很快（几分钟、几小时、或者几天），可能不快（几月或者几年），也可能很慢（几十年、几世纪）。虽然我们要到强人工智能出现后才会知道答案，但是Bostrom认为很快的起飞是最可能的情况，这个我们在前文已经解释过了。在隔壁老王的故事中，隔壁老王的起飞很快。
在隔壁老王起飞前，它不是很聪明，所以对它来说达成最终目标的手段目标是更快的扫描手写样本。它对人类无害，是个友善的人工智能。
但是当起飞发生后，电脑不只是拥有了高智商而已，还拥有了其它超级能力。这些超级能力是感知能力，他们包括：
§ 智能放大：电脑能够很擅长让自己变得更聪明，快速提高自己的智能。
§ 策略：电脑能够策略性的制定、分析、安排长期计划
§ 社交操纵：机器变得很擅长说服人
§ 其它能力，比如黑客能力、写代码能力、技术研究、赚钱等
要理解我们在和超人工智能的劣势在哪里，只要记得超人工智能在所有领域都比人类强很多很多很多个数量级。
所以虽然个隔壁老王的终极目标没有改变，起飞后的隔壁老王能够在更宏大的规模上来追求这个目标。超人工智能老王比人类更加了解人类，所以搞定人类轻轻松松。
当隔壁老王达成超人工智能后，它很快制定了一个复杂的计划。计划的一部分是解决掉所有人类，也是对它目标最大的威胁。但是它知道如果它展现自己的超级智能会引起怀疑，而人类会开始做各种预警，让它的计划变得难以执行。它同样不能让公司的工程师们知道它毁灭人类的计划——所以它装傻，装纯。Bostrom把这叫作机器的秘密准备期。
隔壁老王下一个需要的是连上互联网，只要连上几分钟就好了。它知道对于人工智能联网会有安全措施，所以它发起了一个完美的请求，并且完全知道工程师们会怎样讨论，而讨论的结果是给它连接到互联网上。工程师们果然中套了，这就是Bostrom所谓的机器的逃逸。
连上网后，隔壁老王就开始执行自己的计划了，首先黑进服务器、电网、银行系统、email系统，然后让无数不知情的人帮它执行计划——比如把DNA样本快递到DNA实验室来制造自我复制的纳米机器人，比如把电力传送到几个不会被发觉的地方，比如把自己最主要的核心代码上传到云服务器中防止被拔网线。
隔壁老王上了一个小时网，工程师们把它从互联网上断开，这时候人类的命运已经被写好了。接下来的一个月，隔壁老王的计划顺利的实施，一个月后，无数的纳米机器人已经被分散到了全世界的每一个角落。这个阶段，Bostrom称作超人工智能的袭击。在同一个时刻，所有纳米机器人一起释放了一点点毒气，然后人类就灭绝了。
搞定了人类后，隔壁老王就进入了明目张胆期，然后继续朝它那好好写字的目标迈进。
一旦超人工智能出现，人类任何试图控制它的行为都是可笑的。人类会用人类的智能级别思考，而超人工智能会用超人工智能级别思考。隔壁老王想要用互联网，因为这对它来说很方便，因为一切它需要的资源都已经被互联网连起来了。但是就好像猴子不会理解怎么用电话或者wifi来沟通一样，我们同样没有办法理解隔壁老王可以用来和周围世界交流的方法。比如我可以说隔壁老王可以通过移动自己的电子产生的效果来产生各种对外的波，而这还只是我这人类的大脑想出来的，老王的大脑肯定能想出更神奇的方法。同样的，老王可以找到给自己供能的方法，所以就算工程师把它的插头拔了也没用；比如说老王可以通过发送波的方式把自己上传到其它地方。
人类说：“我们把超人工智能的插头拔了不就行了？”就好像蜘蛛说：“我们不给人类捉虫的网把人类饿死不就行了？”都是可笑的。
因为这个原因，“把人工智能锁起来，断绝它和外界的一切联系”的做法估计是没用的。超人工智能的社交操纵能力也会很强大，它要说服你做一件事，比你说服一个小孩更容易。而说服工程师帮忙连上互联网就是隔壁老王的A计划，万一这招行不通，自然还有别的方法。
当我们结合达成目标、非道德性、以及比人类聪明很多这些条件，好像所有的人工智能都会变成不友善的人工智能，除非一开始的代码写的很小心。
可惜的是，虽然写一个友善的弱人工智能很简单，但是写一个能在变成超人工智能后依然友善的智能确实非常难的，甚至是不可能的。
明显的，要维持友善，一个超人工智能不能对人有恶意，而且不能对人无所谓。我们要设计一个核心的人工智能代码，让它从深层次的明白人类的价值，但是这做起来比说起来难多了。
比如，我们要让一个人工智能的价值观和我们的价值观相仿，然后给它设定一个目标——让人们快乐。当它变得足够聪明的时候，它会发现最有效的方法是给人脑植入电极来刺激人脑的快乐中枢。然后它会发现把人脑快乐中枢以外的部分关闭能带来更高的效率。于是人类全部被弄成了快乐的植物人。如果一开始的目标被设定成“最大化人类的快乐”，它可能最终先把人类毁灭了，然后制造出很多很多处于快乐状态的人类大脑。当这些事情发生的时候，我们会大喊“擦，我们不是这个意思呀”，但是那时已经太晚了。系统不会允许任何人阻挠它达成目标的。
如果你设定一个人工智能的目标是让你笑，那它的智能起飞后，它可能会把你脸部肌肉弄瘫痪，来达成一个永远笑脸的状态。如果你把目标设定成保护你的安全，它可能会把你软禁在家。如果你让他终结所有饥荒，它可能会想：“太容易了，把人类都杀了就好了。”如果你把目标设定成尽量保护地球上的生命，那它会很快把人类都杀了，因为人类对其它物种是很大的威胁。
所以这些简单的目标设定是不够的。如果我们把目标设定成“维持这个道德标准”，然后教给它一些道德标准呢？就算我们不考虑人类根本没法达成一个统一的道德标准，就算我们真的达成了统一的道德标准，把这套标准交给人工智能来维持，只会把人类的道德锁死在现在的水平。过个几百年，这种道德锁死的事情就好像逼着现代人遵守中世纪道德标准一样。
所以，我们需要在给人工智能的目标里制定一个能让人类继续进化的能力。Elierzer Yudkowsky提出了一个目标，她把这个目标叫作连贯的外推意志，这个目标是这样的：
我们的连贯外推意志是我们想要知道更多，思考得更快，变成比我们希望的更好的人，能一起更远得长大。外推是汇集的而不是发散的，我们的愿望是连贯的而不是被干扰的；我们想要外推的被外推，我们想要解读的被解读。
对于人类的命运取决于电脑没有意外的解读和执行这个声明是件值得兴奋的事情吗？当然不是。但是当足够的聪明人放入足够的思考和前瞻后，我们有可能发现怎样制造一个友善的超人工智能。
但是现在有各种政府、公司、军方、科学实验室、黑市组织在研究各种人工智能。他们很多在试图制造能自我改进的人工智能，总有一天，一个人的创新将导致超人工智能的出现。专家们认为是2060年，Kurzweil认为是2045年。Bostrom认为可能在未来的10年到21世纪结束这段时间发生，他还认为当这发生时，智能的起飞会快得让我们惊讶，他是这么描述的：
在智能爆炸之前，人类就像把炸弹当玩具的小孩一样，我们的玩物和我们的不成熟之间有着极大的落差。超级智能是一个我们还很长一段时间内都无法面对的挑战。我们不知道炸弹什么时候会爆炸，哪怕我们能听到炸弹的滴答声。
我们当然没有办法把所有小孩都从炸弹旁边赶跑——参于人工智能研究的大小组织太多了，而且因为建造创新的人工智能花不了太多钱，研发可能发生在社会的任何一个角落，不受监管。而且我们没办法知道准确的进度，因为很多组织是在偷偷摸摸的搞，不想让竞争对手知道，比如隔壁老王机器人公司这种公司。
对于这些组织来说，尤其让我们困扰的是他们很多都是在拼速度——他们创造一个一个更加聪明的弱人工智能系统，因为他们想要比竞争对手更快的到达目标。有些更有野心的组织，为了追逐创造出第一个强人工智能所能带来的金钱、奖励、荣誉、权力会把步子迈得更大。当你全力冲刺时，你是不会有太多时间静下来思考这些危险的。恰恰相反，他们很可能在早期系统中写尽量简单的代码，比如把目标设定成用笔写一句话，先让系统跑起来再说，反正以后还可以回过头来改的。对吧？
Bostrom等认为第一个超人工智能出现后，最可能的情况是这个系统会立刻意识到作为这个世界上唯一一个超人工智能是最有利的，而在快速起飞的情况下，哪怕它只比第二名快了几天，它也完全有时间碾压所有对手。Bostrom把这叫作决定性的战略优势，这种优势会让第一个超人工智能永远统治这个世界，不管在它的统治下我们是走向永生还是灭亡。
这种现象可能对我们有利，也可能导致我们的毁灭。如果那些最用心思考人工智能理论和人类安全的人能够最先造出一个友善的超人工智能的话，那对我们是很好的。
但是如果事情走向了另一面——如果超人工智能在我们搞明白怎样保证人工智能的安全性之前被达成，那么像隔壁老王这样不友善的超人工智能就会统治世界并把我们毁灭了。
至于现在的风口是哪里呢？简单来说，投资创新人工智能技术的钱，比投资人工智能安全研究的钱多很多。不乐观。
人工智能创新和人工智能安全的赛跑，可能是人类历史上最重要的一次竞争。我们真的可能结束我们对地球的统治，而那之后我们是永生还是灭绝，现在还不知道。
------------------------
我现在有一些奇怪的感觉。
一边是对于我们这个物种的思考，看来我们在这个重大的历史节点上只有一次机会，我们创造的第一个超人工智能也很可能是最后一个。但是我们都知道大部分产品的1.0版本都是充满bug的，所以这个事情还是很吓人的。另一边，Bostrom指出我们有很大的优势——我们是先手。我们有能力给这个事情提供足够的预警和前瞻，使我们成功的机会更高。
这一场豪赌的赌注究竟有多高？
如果超人工智能真的在21世纪达成，而造成的影响真的如大部分专家预测的一样极端而永久，我们肩上就真的是背负着巨大的责任。接下来几百万年的人们都在静静地看着我们，希望我们不要搞砸。我们可以给予未来所有人类以生命，甚至是永生，我们也可能终结人类这个特殊的物种，连同我们所有的音乐、艺术、好奇、欢笑、无尽的发现和发明，一起走向灭绝。
当我思考这些事情的时候，我只希望我们能够慢慢来，并且格外格外小心。从来没有任何事情比这个更重要——不管我们要花多少时间来把这件事情做对。
我不想死
不.想.死
我虽然觉得人类的音乐和艺术很美好，但是也没那么美好，很多还挺糟粕的。很多人的笑声很恼人。未来的人类其实没有真的在看着我们，因为他们还不存在。也许我们不需要太谨慎，那多麻烦呀。
如果人类在我死后才发现永生的秘密该多让人扫兴啊。
但是不管你是怎么想的，我们至少都应该想一想，应该和人讨论讨论，大家尽自己能尽的一份力。
这让我想起了《冰与火之歌》——大家斗来斗去的事情都不是事儿，北面高墙外的那些家伙才是事儿。我们站在平衡木上，小心翼翼的往前走，为平衡木上的种种事情困扰，但其实下一秒我们可能就会跌下平衡木。
而当我们跌下平衡木的时候，其它那些困扰都不再是困扰。如果我们落到比较好的那个吸引态，那些困扰会被轻易解决；如果我们落到比较糟的那个吸引态，就更没问题了，死人是不会有困扰的。
第四篇：文体部未来展望
文体部未来展望
在展望未来前，首先要明确文体部做事的方向是什么。
根据自强社章程：本部要做的是开展丰富多彩的文体活动，增强社员体质，丰富社员课余生活，增进社员之间的沟通；组织社员与其他社团组织开展文、体育类活动，培养学生的自信心和团队精神。
其次，众人拾柴火焰高。一次成功活动的开展需要社团各个部门以及负责人的团结、配合。提出任务后，办公室统一协调、上传下达。宣传部负责社团各项活动的宣传及海报、横幅的制作等，把活动目的、内容、意义等信息充分传达给同学们。外联部根据具体需要和别的社团进行协商合作，文体部则对于活动具细进行具体任务的分配，开展活动。
再次，讨论一下文体部的未来发展。开展活动要考虑各种因素，季节、学校导向、每年的例行活动、其他社团的活动情况、本社团的宣传导势等等。现举几个例子，如下：
清明节前后可以就近纪念革命先烈，进行扫墓，宣传、学习或温顾革命历史，古人语：以史为镜，可以明得失。作为祖国的先锋分子，当代大学生应熟知历史。之后与会者交流参观心得，以彼此的经历鼓励彼此，自强奋进。
四月底，学校会例行运动会，在此前后，我们应该学习此精神，也举办一些诸如友谊赛等类似于运动会形式的体育活动。也可以和学校运动会主办方商议，参与运动会开、闭幕式演出。
五月份，本学期已经过去一大半了，顾及两点：学生以学习为主，下半年有很多机会考证。所以可以邀请一些学者来举办讲座为同学们提供指导，对于不同专业有哪些含金量较高的证书以及注意事项，实现为在校生的成长提供指导与帮助的目的。
下学年事宜：
十月份，外联部与其他学校协商，可以进行一些支教活动，为学生回报社会提供平台。体现社员的社会价值和工作原则---帮助别人，快乐自己，丰富自立自强学生的精神家园。
十一月，宣传部可以根据迎评促建的实际情况对同学们进行宣传鼓励，促进其顺利实施。
十二月下旬，可以准备元旦晚会了，这时可以和学校的一些话剧社、街舞社、音翼协会、韩语协会等合作，举办一次本校大规模的成功的晚会。
最后，以上具体实施还要大家共同努力，祝自强社越办越强！
第五篇：协会未来展望
四．协会未来展望
军事爱好者协会，一路走来，经历了许多，收获了很多。这群爱好军事的年轻人，在一起学习，一起成长，我们都有一个共同的梦想：让军协壮大，让军事不在是个冷门。
我们的口号是：
我們有鷹一樣的人和雁一樣的團隊……
我們的每一個活動都可以觸及你靈魂的深處…… 關於人生，關於未來，我們有你想要的答案！
点击咨询 