关于人工智能的论文_强人工智能论文
相关热词搜索:强人工智能论文 人工智能的发展论文 人工智能论文总结
人工智能话题,在经历多年沉寂之后,最近重新引起热议。基于“神经网络”构架的软件在机器学习能力方面的进展,让人耳目一新的同时,也让不少人焦虑乃至恐惧。以下是小编整理分享的强人工智能论文的相关资料,欢迎阅读!
强人工智能论文篇一
“强人工智能”将如何改变世界
【摘要】人工智能话题,在经历多年沉寂之后,最近重新引起热议。基于“神经网络”构架的软件在机器学习能力方面的进展,让人耳目一新的同时,也让不少人焦虑乃至恐惧。这是因为,“学习”能力原被认为是人类特有的能力,机器难以胜任。如今突破了这条界线,机器与人之间的界限似乎就被抹掉了。关于人工智能的忧虑中,最为值得关切的是人工智能的应用伦理及其价值植入的技术限度。实际上,人工智能的技术飞跃或者所谓“智能大爆发”带来的应用伦理问题,并不是新问题,而是一系列老问题的叠加。它会挑战我们过往的既有经验,却不是颠覆性的“消灭”。无论人工智能如何模仿人脑的“神经网络”,表现如何像人,只要人类心智现象的最终解释没有取得突破性进展,关于人工智能是否逼近人类智能的设问就缺少必要的前提。
【关键词】弱人工智能 强人工智能 量子力学 物理主义 伦理困境 价值理性
【中图分类号】 B82-057 【文献标识码】A
【DOI】10.16619/j.cnki.rmltxsqy.2016.07.003
AlphaGo的“胜利”与人工智能的演进
2016年,是人工智能(Artificial Intelligence,英文缩写为AI)议题高度亢奋的一年。谷歌DeepMind团队开发的AlphaGo程序以4比1的成绩“战胜”韩国棋手、世界冠军李世石,使这种亢奋达到了顶点。
AlphaGo程序利用“神经网络”来模仿专业棋手,并通过与其他同类程序比赛、加上程序自身的“对垒”进行“自我学习”,从而进一步提高其性能。AlphaGo对阵其他围棋程序的胜率达到了99%,并在过去的一场巡回赛中以5比0战胜了卫冕欧洲冠军樊麾。此番AlphaGo与李世石的对垒,五连胜还是负一赢四,并不妨碍我们对人工智能的发展作出进一步的评估。恰如本次赛前发布会上谷歌董事长施密特所表示的,输赢都是人类的胜利。因为正是人类的努力才让人工智能有了今天的突破,人工智能在围棋上“战胜”人类智能只是时间问题。
AlphaGo赢得围棋比赛,使得知识界科技界对待人工智能的两种典型态度再度引起关注:一种是霍金、比尔・盖茨式的“警惕人工智能”,一种是雷・库兹韦尔式的乐观兴奋与期待憧憬。2014年12月,英国理论物理学家史蒂芬・霍金警告说,人工智能的发展可能意味着人类的灭亡。2015年1月,比尔・盖茨在Reddit的“Ask Me Anything”论坛上表示,人类应该敬畏人工智能的崛起。盖茨认为,人工智能将最终构成一个现实性的威胁,虽然在此之前,它会使我们的生活更轻松。库兹韦尔是“奇点论”和“加速回报定律”主张的代表人物,他曾经表示:“要成为一位发明家或企业家,你必须得是个乐观派。对未来所存在的风险,我并非是浑然不觉,我只是对人类安然渡过奇点而无需以摧毁文明为代价持乐观态度而已。”①
自被1956年的达特茅斯学院会议正式确立为一个学科以来,“人工智能”的发展经历了多次起伏。到了1970年代,人工智能的发展开始遭遇更多的批评,随之而来的还有资金支持的锐减。研究者的过于乐观使得一些项目的承诺无法兑现,比较知名的诸如闵斯基(Marvin Minsky)对传感器技术的激烈批评,使得联结主义(即神经网络)近乎销声匿迹了10年。1973年,美国和英国政府更是严格控制对人工智能的投入,那些“没有明确目标的人工智能研究项目”被停止了拨款。
1980~1987年,人工智能重新迎来一个发展高潮,首先是日本投入了8.5亿美金研发机器人。受日本政府投资野心的刺激,发达国家进入了“人工智能”研究的竞赛状态,美国政府和企业再次在AI领域投入数十亿研究经费,但由于研究人员低估了人工智能研发的难度,进展有限,这些投资在80年代末再次受到质疑。1987~1993年,人工智能的发展又一次陷入低谷,美国研究机构DARPA(国防高等研究计划署)的主任甚至认为人工智能不再是研究的重要方向。卡内基梅隆大学移动机器人实验室主任莫拉维克(Hans Moravec)将这种挫败归咎于他的同行们不切实际的预言和承诺。②
从1993年到今天,人工智能进入了加速发展轨道。2012年6月23日,在位于米尔顿凯恩斯的布莱切利公园举行了纪念图灵百年诞辰的图灵测试。一个被设计为拥有“高度可信度”的个性化机器人“古斯特曼”在竞赛中获胜。这次竞赛主要有5台机器人、25名人类成员和30名评委参与,是有史以来规模最大的一次竞赛。经过一系列的5分钟对话后,29%的评委相信古斯特曼拥有类人的人工智能。③这次测试,使得人工智能乐观派相信,人工智能的飞跃式发展即将来临。早在2005年,雷・库兹韦尔在他的《奇点临近》一书中,预言机器的智能将在2045年超过人类的智能。④
在学术界,“奇点理论”遭到了强烈而持久的质疑。牛津大学哲学教授、人类未来研究院创始人和主任(人类未来研究院是一个多学科研究院,旨在帮助一些非常优秀的数学家、哲学家和科学家对人类大问题和全球大事务进行仔细的思考)波斯特姆(Nick Bostrom)在其出版于2014年的《超级智能:途径、危险与战略》一书中认为:“‘奇点’这一术语在很多不同领域被混乱地使用,并催生出一种不合理的技术乌托邦氛围,就好像我们会就此迎来太平盛世了。考虑到‘奇点’这个词所指的大部分涵义与本文的论述不甚相关,我们可以去掉这个词并代替以更精确的术语。”⑤波斯特姆使用“超级智能”(superintelligence)一词来描述机器“智能爆发”之后的智能状态。但是,波斯特姆的这个概念没有把工具性智能与人类的意识和自我意识等第一人称世界的内容区分开来,根据我们下面的讨论可以看出,这种混淆是误入歧途的,但这并不妨碍他的警示的有效性。
弱人工智能复杂化:人类的“超级秘书”
AlphaGo赢得围棋比赛,是不是像有些人惊呼的那样,人类智慧最后的壁垒即将坍塌,“人类应放下自己的骄傲”?⑥其实,人类以这种工具性智能为傲,本来就是概念错置。况且,以下围棋的能力来代表人类智能,也站不住脚。说到底,这是在单一的抽象博弈智能方面,体制化的学术集体战胜了天赋极高的自然个体。这种博弈,无论哪一方赢,都是人类在赢。 围棋作为一种古老的棋术,其规则简单明晰,却因组合可能性的数据庞大而令一些人感到痴迷。围棋棋盘上每一点,都有黑、白、空三种情况,棋盘上共有19*19=361个点,所以可能产生的合法棋局数为3的361次方种。可能性的难以穷尽,催生了围棋朗朗上口的口诀式经验总结,其实就是快速对应胜负的概率计算,这与AlphaGo通过“深度学习”而减少计算量的逻辑是一致的。不同的是,计算机可以记住趋于无穷多的作为程序的口诀和案例,而人穷其一生,也只能记住有限的经验,很多时候就只能靠现场推算,甚至靠直觉领悟了。一些对围棋技艺痴迷且不愿意相信电脑能赢的人,陷入的恰恰是将围棋神秘化的有限经验当中。更有意思的是,有些棋手按照平时训练的围棋技艺来评价人机大战时,会认为AlphaGo哪招哪式在下“臭棋”,哪招是“失误”,其实,在以最终取胜为目的的电脑程序里,只要达成程序设定目标,就不能有所谓“臭棋”或“失误”之说。
那么,会“深度学习”、用“神经网络”打造的AlphaGo究竟算不算“强人工智能”或波斯特姆所言的“超级智能”呢?
波斯特姆在美国《连线》杂志2016年1月刊发表了看法。在他看来,这(指此前AlphaGo的发展)并不一定是一次巨大飞跃。波斯特姆指出,多年来,系统背后的技术一直处于稳定提升中,其中包括有过诸多讨论的人工智能技术,比如深度学习和强化学习。谷歌击败围棋大师不过是一项重大进程中的一部分。这一进程始于很久以前,也将延续至未来几年。波斯特姆说,“过去和现在,最先进的人工智能都取得了很多进展”,“(谷歌)的基础技术只是过去几年中的技术研发的技术正常延续”。⑦
看起来,虽然波斯特姆在总体上有关智能本质的理解是不成立的,AlphaGo的表现也没有出乎他的意料。在《超级智能:路线图、危险性与应对策略》一书中,他曾经这样表述:“专业国际象棋比赛曾被认为是人类智能活动的集中体现。20世纪50年代后期的一些专家认为:‘如果能造出成功的下棋机器,那么就一定能够找到人类智能的本质所在。’但现在,我们却不这么认为了。约翰・麦肯锡曾不无惋惜地悲叹:‘这种机器被造出来之后,人们就不称其为人工智能了。’”⑧也就是说,能下棋能赢人类的机器,终究还是机器,与人类的心智本质无甚关联。感到不可思议或惊呼“聪明的人类输给了机器”的人,不是神化了下棋技艺的智力本质,就是给下棋程序横加赋予了“人性”特质。
初看起来,波斯特姆所谓的“超级智能”,应该是能够全面取代人类智能的一种“强人工智能”,区别于当前已经广泛应用中的“弱人工智能”(包括自动驾驶、下棋技能、机器视觉、指纹识别、人脸识别、视网膜识别、虹膜识别、掌纹识别、专家系统、自动规划,等等)。但他并没有深入探讨人类的智能现象的本质究竟是什么,对经典的“他心问题”也无涉及,这又让人觉得他说的“超级智能”还是属于工具性智能的“弱人工智能”的范畴。
就这一点,他本人也有所认识,他说:“用超级智能来指代在许多普遍的认知领域中,表现远远超越目前最聪明的人类头脑的智能。这个定义仍然十分模糊。按照这个定义,很多系统具有迥然不同的性能特质,都可以被视为超级智能。”⑨为了进一步解释他的构思,他试图通过区分智能层面的超级能力,将超级智能的这种简单定义分解。于是,他将超级智能分为三种形式:高速超级智能、集体超级智能和素质超级智能。由于未能把握人类意识现象的本质以及指出解释意识现象的方向,不管波斯特姆在展望“超级智能”时如何分类,都无法提供接近“机器人是人吗?人是机器人吗?”这个根本命题的方向乃至答案。
无论是谷歌的无人驾驶技术,还是如今的AlphaGo下棋程序,或者更早前的“微软小冰”,这些智能机器的发明,与人类从科技进步中期待得到的工具理性之间,并无根本的内在冲突,复杂程度日益提升、智能的日趋强大,与人们惊呼的“人类将要被机器消灭”的后果之间,并没有什么必然的关联。
可以说,迄今为止机器下棋技术的每一次重要进展,都可能是“弱人工智能”领域的路标,但其中涉及的主要并不是人工智能技术内部逻辑的断裂性突破,而这次AlphaGo赢了人类冠军所谓的重要意涵,是一些围棋爱好者把围棋和李世石预先设想为当然标杆后,标杆在某种光照中投下的张扬扭曲的影子。要超出这个,我们必须对人类意识的“整一性”难题和“他心问题”有了可操作的解释以后才有可能,就目前情况来看,玄机在哪里呢?不在棋局中,不在DeepMind的工坊里,也不在“阿法狗”的“神经网络”里,而在我们自己心智的幻影中。就“弱人工智能”范畴而言,智能再强大的机器,再像人的机器,也就是人类的一个不闹情绪的“超级秘书”而已。
价值失落:人类的身份认同危机与技术焦虑症
2014年,史蒂芬・霍金与麻省理工学院物理学家马克思・泰格马克(Max Tegmark)、诺贝尔奖得主弗朗克・韦尔切克(Frank Wilczek)、计算机科学家斯图亚特・罗素(Stuart Ressell)合写了一篇署名评论文章《在超级智能机器上超越自满》,该文引起了广泛关注。霍金在文章中表达了对人工智能的忧虑:“可以想象,人工智能会以其‘聪明’在金融市场胜出,在发明方面胜过人类研究者,在操纵民意方面将胜过人类领导人,研发出人类甚至理解不了的武器。尽管人工智能的短期影响取决于谁在控制人工智能,而它的长期影响则取决于人工智能到底能否受到任何控制。”⑩
关于人工智能的忧虑中,最为值得关切的是人工智能的应用伦理及其价值植入的技术限度。
人类的价值系统,粗泛地区分,可以分为外在价值和内在价值,即所谓“有用”与“无用”之辨。当我们说什么东西有用时,是就这东西对于它之外的某个目标、目的或者是功能而言的,比如钱可以拿来购买面包充饥,这叫工具价值。由于它把其他东西当作自己服务的对象,所以它没有内在价值,只有外在价值。外在价值即是那些工具性的价值,最终服务于人类的内在价值诉求。 那么,什么是内在价值呢?哲学家们或许会就某些含混地带进行争论,但无论如何,很少有人会把一些基本的要素排除出去,比如自由、快乐、尊严、情爱、创造、自我超越,等等。这些东西不是为了其它东西而存在,相反,生活中没有了这些东西,就等于失去了值得欲求的内容。当然,要有自由、尊严,需要一个最低版本的生存条件。这个条件,人和任何其他动物没有什么不同,不是人之为人的本质所在。如果我们谈论人类生活的内在价值及其意义系统,则必然集中在人所特有的东西上。康德的道德哲学已向我们表明,追求自由、尊严是所有理性存在主体的内在规定,鲜有其他哲学家会否认这一点。
在谈论人工智能对人的侵蚀和威胁时,有一部分研究人员会使用丧失“人类关切”(human-centric)一词来描述这种内在价值的亏损。比如法格拉(Daniel Faggella)采访了12位活跃在AI领域的权威专家和研究人员。其中,科尔奈(Kornai)博士和阿肯色大学的博尔林特(Daniel Berleant)博士都预见到了自动化金融算法被它们的所有者们用来作为赚钱工具所带来的潜在灾难性问题,他们说,这其中没有任何“人类关切”的目标。认知科学家巴赫(Joscha Bach)则说:“近期的人工智能引起的危机最终可能成为现在社会中已经存在的一样的危机。如果我们不能走出基于工薪的经济模式的话,人工智能的自动化会提高生产力,却不会改善我们的生存条件。”?这种忧虑不无道理,不过主要是基于财富分配的急遽变化而引起的社会阶层流动而言的,实际上,并不是技术进步和人工智能自身的问题。
如前所述,人类的内在价值并不在于谋生存的基本劳作,无论是体力劳动还是脑力劳动,都是为了解决问题来完成给自己设定的任务,这种设定源于我们的自我意识和意义系统。有了这种设定,才能知道什么是该干的“活”,什么是服务于我们的诉求的有效劳动。像下棋一类的智力活动,在人类这里刚好不是用来“干活”完成功利目标的技能,而是生活内容中的一部分高级游戏,这很有工具价值之外的意义。但是,这场人机大赛,引起哗然的并不是这个,而是人们感觉到的一种基于工具效能理解的自我认同危机。这种自我认同,其实是佣工思维,是一种价值上的自我贬损。
在单一的抽象博弈智能方面,体制化、学术化的集体战胜了天赋极高的自然个体。这令依赖这种禀赋的自然个体感到焦虑,正如有人马上反应过来:“以后还带不带孩子学围棋了?大街小巷的围棋兴趣班还有生意么?”围棋冠军们更是感受到一种职业性的惶恐:究竟我们此前对围棋的认知还有多少盲区?
其实,机器没有独立的意志,所谓“输”与“赢”的说法,都是我们人类单方面的投射,与AI“自己”无关,因为AlphaGo根本就没有所谓的“自己”。没有独立的意志,怎么和人发生“大战”呢?相反,棋盘之外,人们的反应,比如无名的焦虑,不可克制的兴奋,更具体点,汉语世界的看客几乎异口同声地把AlphaGo称作“狗”,这却是要超出现今任何人工智能可以“理解”的范围的。
一些围棋资深人士感到困惑,他们认为AlphaGo给出选点的思维方式与人类很不同,还有一个流行的说法是,“最可怕的不是AlphaGo战胜李世石,而在于它能赢却故意输掉”。这本来是个玩笑,但这个玩笑引出的问题确实切中要害的。什么叫“故意”输掉?AlphaGo并没有自我意识,没有自由意志,如何谈得上“故意”?“故意”可是一种截然不同的能力。这就要求我们理解“弱人工智能”与“强人工智能”的原则区别了。
波斯特姆似乎会把机器的所谓“故意”描述为“超级智能的意愿”,在他看来,智能大爆发将会导向一个叫做“背叛转折”的临界点。关于背叛转折,他这样定义:“当人工智能本来愚蠢时,变聪明是更安全的;但是当它本来就聪明时,变得更聪明则是更危险的。就像有一个轴心点,到这个点上,原来很有效的策略会突然产生相反的结果。我们把这个现象叫作背叛转折。”?
波斯特姆假想的人工智能厄运围绕的仍是人的动机,而不是机器真正有了意图。诸如他所列举的,“机器”为了使得开发人工智能的赞助者高兴,而“故意”表现得不那么“聪明”来蒙蔽人类,诸如在赞助者的大脑中植入负责快乐的电极,以使得赞助者被蒙蔽而不知觉,反而觉得很快乐。这里面涉及的,仍然是人与人之间的欺骗与控制。
只要没有出离人与人之间的关系,人工智能呈现的问题与危机,就没有超乎人类已经面对过的控制与反控制的议题。也就是说,人工智能的技术飞跃或者所谓“智能大爆发”带来的应用伦理问题,并不是新问题,而是一系列老问题的叠加。它会挑战我们过往的既有经验,却不是颠覆性的“消灭”;它会改变社会学阶层分析的经典框架,却不会产生什么新型的劫难。
对人工智能的过度期待或深度忧虑,大多基于缺乏学理根据的科幻想象或人们对自身的身份认同前景的恐慌。出版于1818年的《科学怪人》?就描述了“弗兰肯斯坦”这个科学狂人,他以“科学”的方式使死尸复活,结果那个被称为“弗兰肯斯坦的怪物”的人造人反过来控制了弗兰肯斯坦。文学作品展示人类的这种身份认同焦虑,已经源远流长,但今天的知识界科学界,如果还是止步于无的放矢的焦灼和恐惧,则无助于我们真正认识人工智能与人类意识的本质关系。
从人工智能目前的发展方向看,无论它再怎么“自动学习”“自我改善”,都不会有“征服”的意志,不会有“利益”诉求和“权利”意识。当前,无论从紧迫性上看,还是从终极可能性上看,“弱人工智能”问题都属于常规性问题,并且是渐进呈现的。如果说在可见的未来,技术发展领域有什么更值得担心、警醒、紧迫的事情,那么,或许基于虚拟技术的“扩展现实”的实现带来的影响将更具颠覆性。?
强人工智能的可能性与物理主义的困境
“弱人工智能”的机制比较清晰可控,那么,“强人工智能”会失控吗?这就要看我们究竟如何定义“强人工智能”。
在学界和业界,早有“强人工智能”相对“弱人工智能”的概念。这个命名容易让人误认为两者只是强弱程度的差别,但这种区别具有分立的性质――如果我们把“强人工智能”定义为出现真正有自主意识并且可确证其主体资格的“智能”,而不是AlphaGo这样仅仅比机械计算发展了更多层次的推理能力和学习能力的程序的话。这样定义下的所谓的“强”,指的是超越工具型智能而达到第一人称主体世界内容的涌现,还包括意向性、命题态度,乃至自由意志的发生。 这样的“强人工智能”是可能实现的吗?有的科学家哲学家说永远不可能,有的则说近在咫尺。
波斯特姆试图从“人工智能、全脑仿真、生物认知、人机交互以及网络和组织”等路径分析强人工智能或者他称之为“超级智能”的几种可能的实现方式,他详细评估了每种路径实现超级智能的可行性,并且认为“由于目前存在多条技术路径,因此至少有一条路径能实现超级智能的可能性很大”。?
波斯特姆的分析看起来庞大芜杂,但他给出的实现路径更多是在人脑上的直接迭代或高仿真,这很可能混淆了“强大的弱人工智能”与拥有主体性的“强人工智能”,他把通往不同本质的路径视为同一种性质的多种可能性。
在他看来,“若有足够先进的扫描技术和强大的计算机能力,即使只有很少的大脑理论知识也可以模仿全脑。极端情况下,我们可以想象采用施罗丁格(即薛定谔)量子力学方程在基本粒子水平来模拟大脑。这样我们就可以完全依靠现有的物理学知识,而不用任何生物模型。这种极端案例说明,没有计算机技术和数据分析也可以制造人工智能。一个听起来更合理的仿真水平是,将单个神经元和它们的连接矩阵合并,连带着它们的树状结构和每一个触突的变化状态。我们无法模拟单个的神经递质分子,但是可以粗略地将它们的波动浓度模型化。为了评价全脑仿真的可行性,人们必须理解成功的评判标准。我们的目的不是精确模拟出一个大脑,用它来预测在受到一系列刺激后,原始大脑会做出何种反应。相反,我们的目的是获得足够的大脑的计算机功能属性,以使最终得到的仿真进行智能工作。因此,真实大脑的很多复杂的生物学细节就无关紧要了。”?
这段论述是波斯特姆《超级智能:路线图、危险性与应对策略》一书中唯一一处提及量子力学,但他后面的分析却远离了量子力学才是对意识进行物理学研究的可能进路这一方向,回到了一般的计算主义/物理主义的“牢笼”。
在心智哲学和认知科学领域,的确有不少所谓的“计算主义者”“物理主义者”,他们认为,人的情感、意向性、自由意志等以及意识与自我意识直接相关的内容,在牛顿力学框架下的物理因果关系模已足具解释力,在人的第一人称主观世界与第三人称客体世界之间,也不存在最后的鸿沟。但是,也有一部分研究者持相反的看法,极力论证这种“计算主义”“物理主义”的悖谬本性,只承认从量子力学原理才有些许可能解决意识和自我意识这个真正的问题。
最近,美国量子物理学家斯塔普(Henry Stapp)、英国物理学家彭罗斯(Roger Penrose)、美国基因工程科学家兰策(Robert Lanza)都提出了人类意识的量子假设,中国清华大学副校长施一公院士、中科大副校长潘建伟院士等也大胆猜测,人类智能的底层机理就是量子效应。对于这个问题,笔者在出版于1998年的著作中尝试论证这个问题?,同样的看法日渐增强。
不久前,笔者把这种论证进一步系统化,在《哲学研究》上发表了分析物理主义(包括计算主义)如何在研究中陷入“整一性投射谬误”,并论证定域性假设为何与脑神经元细胞层次对意识现象的解释注定要失败的文章。?
也就是说,以定域性预设为前提的物理主义和计算主义,在原则上就不可能解释人类的意识现象,量子力学已经不得不抛弃定域性预设,这就在逻辑上打开了其解释意识现象可能性之大门。
包括计算主义在内的物理主义有一个基本预设,即设定任何物理系统都能够被分解为单个独立的局部要素的集合,且各要素仅同其直接邻近物发生相互作用。这是经典力学的基本原则,也是当代神经科学默认的前提,从而也是物理主义心智哲学的预设。计算主义则强调符号关系,它与其他版本的物理主义相比,主要是分析要素的不同,但这种不同却无关宏旨。这是因为,符号关系试图解释的,也是意识现象或心智事件的产生和关联的机理,而不是纯逻辑的关系。基于这种认知框架,他们倾向于认为,大脑的符号系统的状态,就是各个单一独立要素的神经元的激发/抑制状态聚合起来的某个区域的总体呈现。
这样也就不难理解,波斯特姆为什么认为“获得足够的大脑的计算机功能属性”,就能最终使得仿真大脑进行智能工作。于是,在计算主义/物理主义这里,神经元系统可望实现的某个整一性功能,就被他们完全等价于各个分立神经元符号功能的关系的总和。
但是,笔者和斯塔普都详细论证过,这样的出发点,连最基本的意识感知现象(比如说双眼综合成像)都解释不了,因为这类现象中涉及的同一时空点的变量的个数远远超出在局域性预设中每个空间点可容纳的物理变量个数。他们无视这种困境的存在,正是他们混淆了“内在描述”与“外在描述”功能而陷入“整一性投射谬误”的结果。?
尽管从量子力学效应解释人类智能的顶层机理尚未取得突破性成果,但意识导致坍塌这一原理似乎是量子力学与身心问题的最为接近的终极解释,研究者们正试图检测与物理事件相关的意识事件?,相对明确的结论暂时付诸厥如。
但无论如何,基于上述讨论,我们可以得知,所谓的“图灵测试”对判定“强人工智能”毫无用处,不能作为智能意识产生的推演依据,无论试验中的以假乱真效应有多么逼真。有鉴于此,本文拟提出一个“人工智能逆反图灵判据”,陈述如下:
任何不以已经具有意识功能的材料为基质的人工系统,除非能有充足理由断定在其人工生成过程中引入并随之留驻了意识的机制或内容,否则我们必须认为该系统像原先的基质材料那样不具备意识,不管其行为看起来多么接近意识主体的行为。
这里说的“充足理由”,在人类现有的科学视野中,按照笔者和斯塔普等人的论证,唯有量子力学才有可能提供。
因此,无论是图灵测试中的机器人还是新近由日本软银公司研发、富士康代工的所谓“情感机器人”Pepper,抑或如今被惊叹有了“深度学习”能力的AlphaGo等有了多么强大的所谓“超级智能”,也无论它们及其未来的升级版看起来多么像具有人类的情感,除非有人确凿证明,在制造或升级这些机器的过程中,在哪一个关节点把人类情感、人类意识整合了进去,否则,我们就只能认为把Pepper称作“有情感的机器人”只是一种比喻。 结语:“强人工智能”与人类繁殖伦理前瞻
如上所述,没进入量子力学之前,所有的人造机器,包括AlphaGo,必然只是在某些方面具备高于人类的能力。这本来就是人造机器的目的,即人为了自身的内在价值实现同时不断改进人类的生存处境而作出的努力。在现有条件下,人造机器不会失控,如果有所谓“失控”的话,这与我们对飞机、高铁、大坝、核能之类的失控基本上属于同类性质。
AlphaGo的确有隐喻意义上的“学习”能力,自行调整累积迭代的能力,但说到底仍是一种工具能力,是“弱人工智能”。这种“弱人工智能”很可能通过图灵测试,但这与人的意向性(intentionality)及主体感受内容(qualia)不相干。
当然,基于人类理性和道德能力的限度,我们有理由相信,即便是弱人工智能,在其应用中也应当秉持审慎的人文理性态度。
不少比较理性的研究者提出,由于人工智能的发展呈“加速回报”的态势,人类既有的道德资源和伦理框架或许难以覆盖技术飞跃变革提出的新议题。他们提出应当发展一种叫做机器伦理(Machine ethics)的道德态度,加利福尼亚大学伯克利分校计算机学教授拉塞尔(Stuart Russell)在美国时代杂志发表观点认为,避免机器的不当使用威胁人类的生存,就应该考虑如何把人类价值变成可编程的代码,把人类的道德转化为人工智能语言。他认为,在机器人领域,“道德哲学将是一个非常重要的产业部门”。
归根结底,这些诉求跟当前的一系列技术推进所遭遇的伦理困境并无实质上的差异,就像我们已经提出的在虚拟现实、扩展现实领域应当引起重视的“大宪章”问题一样,指向的都是如何避免少数人掌控技术以更便捷更隐蔽的手段损害人的自由与尊严的问题。其中需要的关键要素有两点:第一,如何更准确更敏锐地分析科技推进中的结构性变革,以技术手段防范技术黑箱操作,这需要技术的发展始终在一个社会开放空间中进行,使技术不被少数人的权力和资本所垄断;第二,如何在技术推进中注入人文理性,这需要哲学家、艺术家以及社会科学各界在技术变革中积极参与,及时发现技术当中隐含的道德议题、社会议题,向科学界、技术界和企业界发出他们观察慎思后的最强音,以起到建立一个人文伦理防火墙的作用。
此外,我们需要着重提出的是,弱人工智能和强人工智能之间,鉴于其生发机理性质的全然不同,在应对的伦理规则方面,也必然需要在认清本有的界限的基础上分别制定。
如果让我们对“强人工智能”的可能实现做一点伦理前瞻的话,那么,基于上述分析,“强人工智能”实现以后的这种造物就不能被当做纯粹的工具了。这时,它们已经具有自主意识,具有与人类对等的人格结构,今日人类成员所拥有的权利地位、道德地位、社会尊严等等,他们就应该平等地拥有。
与我们平起平坐的具有独立人格的“机器人”,还是机器吗?不是了,这才是真正的“奇点”和“智能大爆发”。但是,有人会认为,最为关键的问题是,这样的“强人工智能”主体,不就可以与人类对抗,毁灭人类了吗?
要理解这种担忧的实质,就需要我们以价值理性和科学理性出发进行自我反思。所谓的人类毁灭恐惧与人类身份认同焦虑,实际上是把基于个体经验形成的一己情怀,等价于有效的价值判断了。我们主动设计、制造了某种新型主体的存在,但并不对他们的个体特质进行设计,不就等于以新的途径繁殖了我们的后代吗?我们千万不要以一时的人文情怀来遮掩甚至拒斥可普遍化的人文理性,将人类引入迷途。
因此,如果真有强人工智能实现的一天,最合理的态度就是:承认他们是我们自己进化了的后代,人类进入了一种改变了繁殖方式的发展新阶段。后代取代前辈继续生存,实现更好的发展,这不是人类的灾难,而是人类的进化飞跃到了一个新阶段。退一万步讲,假如“后人类”真的联合起来向“前人类”造反并将前辈“征服”,那也不过就像以往发生过的征服一样,一批人征服了另一批人或新人征服了旧人,而不是人类的末日。
至于以量子计算为基础的人工智能到底会给我们的生活带来何种冲击,恐怕我们的想象力暂时还是鞭长莫及。
注释
http://www.thinkwithgoogle.co.uk/quarterly/innovation/transgressive-man.html.
Crevier, Daniel, AI: The Tumultuous Search for Artificial Intelligence, New York, NY: BasicBooks, 1993, p.115. Moravec explains, "Their initial promises to DARPA had been much too optimistic. Of course, what they delivered stopped considerably short of that. But they felt they couldn't in their next proposal promise less than in the first one, so they promised more."
https://www.newscientist.com/blogs/onepercent/2012/06/bot-with-boyish-personality-wi.html?DCMP=OTC-rss&nsref=online-news.
The Singularity Is Near: When Humans Transcend Biology是Raymond Kurzweil于2005年出版的关于未来学的书籍。中文译著已由机械工业出版社于2011年10月1日出版发行,译著书名为“奇点临近”。
[英]尼克・波斯特洛姆:《超级智能:路线图、危险性与应对策略》,北京:中信出版股份有限公司,2015年,Kindle位置:328/5236。 http://sports.sina.com.cn/go/2016-01-30/doc-ifxnzanh0397466.shtml.
Wired, "Google's Go Victory Is Just a Glimpse of How Powerful AI Will Be, " http://www.wired.com/2016/01/googles-go-victory-is-just-a-glimpse-of-how-powerful-ai-will-be/, 2016.1.29.
[英]尼克・波斯特洛姆:《超级智能:路线图、危险性与应对策略》,Kindle位置:518/5236。
[英]尼克・波斯特洛姆:《超级智能:路线图、危险性与应对策略》,Kindle位置:1199/5236。
One can imagine such technology outsmarting financial markets, out-inventing human researchers, out-manipulating human leaders, and developing weapons we cannot even understand. Whereas the short-term impact of AI depends on who controls it, the long-term impact depends on whether it can be controlled at all.见http://www.huffingtonpost.com/stephen-hawking/artificial-intelligence_b_5174265.html.
http://www.huffingtonpost.com/daniel-faggella/artificial-intelligence-r_b_9344088.html.
[英]尼克・波斯特洛姆:《超级智能:路线图、危险性与应对策略》,Kindle位置:2416/5236。
Frankenstein or The Modern Prometheus,又译作《弗兰肯斯坦》,后世有部分学者认为这部小说可视为科幻小说或恐怖小说的始祖。
见翟振明:《虚拟现实比人工智能更具颠覆性》,《高科技与产业化》,2015年11月。
[英]尼克・波斯特洛姆:《超级智能:路线图、危险性与应对策略》,kindle版位置:685/5236。
[英]尼克・波斯特洛姆:《超级智能:路线图、危险性与应对策略》,kindle版位置:867/5236。
翟振明:《有无之间――虚拟实在的哲学探险》,北京大学出版社,2007年。(Zhai, Philip, Get real: A philosophical adventure in virtual reality,Rowman& Littlefield, 1998.)
详见翟振明、李丰:《心智哲学中的整一性投射谬误与物理主义困境》,《哲学研究》,2015年06期。
见于:Dick J. Bierman and Stephen Whitmarsh, "Consciousness and Quantum Physics: Empirical Research on the Subjective Reduction of the State Vector," in Jack A. Tuszynski (Ed), The Emerging Physics of Consciousness, 2006, pp. 27-48.C. M. H. Nunn et. al.,"Collapse of a Quantum Field May Affect Brain Function," Journal of Consciousness Studies, 1994, 1(1), pp.127-139.
Anderson, Michael, and Susan Leigh Anderson, "Machine ethics: Creating an ethical intelligent agent," AI Magazine 28.4 , 2007, p.15.
Stuart Russell, "Moral Philosophy Will Become Part of the Tech Industry," http://time.com/4026723/stuart-russell-will-ai-overtake-humans/.
哲学家丹尼尔・丹尼特在其著作《意识的解释》(Consciousness Explained)里错误地认为,人也不过是一台有灵魂的机器而已,为什么我们认为:“人可以有智能,而普通机器就不能”呢?有的哲学家认为如果弱人工智能是可实现的,那么强人工智能也是可实现的。比如西蒙・布莱克本(Simon Blackburn)在其哲学入门教材Think里说道,一个人的看起来是“智能”的行动并不能真正说明这个人就真的是智能的。我永远不可能知道另一个人是否真的像我一样是智能的,还是说她/他仅仅是看起来是智能的。布莱克本认为这个“他心问题”是一个主观认定的问题。本文引入量子力学解释方向,就是试图回答意识和智能的认定问题的可能途径的问题。量子力学中的遥距纠缠,很可能就是解决“他心问题”的有效途径,最后并不需要诉诸“主观认定”。这种认定的实现,也许才是真正的“奇点来临”。
下一页分享更优秀的<<<强人工智能论文
- 范文大全
- 职场知识
- 精美散文
- 名著
- 讲坛
- 诗歌
- 礼仪知识
-
超星尔雅学习通《对话大国工匠致敬劳动模范》题库附答案
超星尔雅学习通《对话大国工匠致敬劳动模范》题库附答案 1、历史只会眷顾坚定者、奋进者、搏击者,而不会
【入党申请书】 日期:2021-05-12
-
对于政治生态考核整改工作方案
本文系作者原创投稿,仅供学习参考,请勿照搬照抄! 关于政治生态考核整改工作的方案 为做好推进风清气正
【经济工作】 日期:2020-06-05
-
大学生学习2024年两会精神心得感悟
大学生学习2024年两会精神心得感悟过去一年,是全面贯彻二十大精神的开局之年,中国共产党带领全国各族人民,付出艰辛努力,换来重大成
【心得体会】 日期:2024-03-07
-
中国传统故事英文版 中国古代故事英文版
历史学科蕴含着许多丰富的、生动的、有趣的素材,每一个历史事件、历史人物都有相关的、动人的历史小故事,都能给人以启迪。你对中国古代的故事了解多少呢?下面是小编为您...
【调查报告】 日期:2019-05-22
-
基尔霍夫定律验证实验报告
基尔霍夫定律的验证的实验报告本文关键词:基尔,定律,霍夫,验证,实验基尔霍夫定律的验证的实验报告本文
【思想宣传】 日期:2021-03-08
-
中小学党建工作实施意见
中小学党建设工作实施意见中小学校担负着培养德智体美全面发展的社会主义建设者和接班人的重要使命。加强中
【爱国演讲】 日期:2020-09-22
-
地藏经诵读仪规(完整版)
地藏经诵读仪规(完整版) 恭请文: 恭请大慈大悲大愿地藏王菩萨、护法诸天菩萨慈悲加持护念弟子***能
【个人简历】 日期:2021-03-31
-
青年学生学习全国人大十四届二次会议心得感想16篇
青年学生学习全国人大十四届二次会议心得感想16篇报告中提到政府在经济调控、消费政策、基础设施和制造业投资、房地产调控以及地方债务
【心得体会】 日期:2024-03-07
-
材料力学考题
材料力学考题本文关键词:材料力学,考题材料力学考题本文简介:材料力学1、简易起重设备中,AC杆由两根
【入党申请书】 日期:2021-03-06
-
2022读懂中国五老事迹征文5篇
2022读懂中国五老事迹征文5篇 放军经过两天的拼搏,到了马垅都筋疲力尽,马垅村的村民纷纷拿出自家的伙食到榕树下给解放军们食用,
【征文演讲】 日期:2022-07-07
-
执行信息公开网
执行信息公开网 执行信息公开网 执行信息公开网: zhi*ing (点击下图可直接进行访问) 全国
【职场知识】 日期:2020-07-03
-
年国家开放大学电大电子商务单选题题库
单选: 1、EDI是指A、电子商务B、电子数据交换C、电子交易 D、移动数据交换 答案: B 2、电
【职场知识】 日期:2020-06-05
-
有机磷酸酯类中毒及其解救(实验报告范文)
有机磷酸酯类中毒及其解救XXX、XXX一、实验目的1 观察有机磷酸酯类农药敌百虫中毒时的症状。 2
【职场知识】 日期:2020-08-30
-
“以学生为中心”的教学原则
以学生为中心的教学原则教师在开展以学生为中心的教学实践中,必须谨记学习目标不再是知识的获得,能力要比知识更重要。以下是蒲公英阅读网
【职场知识】 日期:2023-01-05
-
大学教师毕业设计指导记录4篇
大学教师毕业设计指导记录4篇 毕业设计是指工、农、林科高等学校和中等专业学校学生毕业前夕总结性的独立作业。是实践性教学最后一
【职场知识】 日期:2022-05-11
-
2021教育基础知识试题(附答案)
2021教育基础知识精选试题(附答案) 1、主张恢复西方传统教育核心价值,反对“进步教育
【职场知识】 日期:2021-03-17
-
男一分钟仰卧起坐标准表
表表11--13 男生一分钟仰卧起坐、引体向上单项评分表(单位:次) 等级 单项 得分 三年级 四年
【职场知识】 日期:2021-05-08
-
“从青风公司审计案例看销售与收款循环审计”案例说明书
“从青风公司审计案例看销售与收款循环审计”案例说明书一、本案例要解决的关键问
【职场知识】 日期:2020-09-28
-
机械加工创业项目_加工小本创业项目
现在在加工创业项目办小本加工厂有哪些?有什么项目推荐,下面这些小本加工厂项目个个都适合一个人创业,来看看吧!以下是小编分享给大家的关于,一起来看看加工小本创业项目吧!...
【职场知识】 日期:2020-03-19
-
发展党员工作部门联审征求意见表
发展党员工作部门联审征求意见表发展对象姓 名 性别 出生年月 身份证号 现工作单位及职务 家庭住址
【职场知识】 日期:2020-09-22
-
唐代诗人李昂个人信息
唐代诗人李昂个人信息 导读:我根据大家的需要整理了一份关于《唐代诗人李昂个人信息》的内容,具体内容:
【古典文学】 日期:2020-11-07
-
[关于中秋的朗诵诗词] 关于爱国的朗诵诗词
中秋,热闹的街头树起了灯彩,舞起了火龙。你知道多少关于中秋的朗诵诗词?下面小编为你整理了几篇关于中秋的朗诵诗词,希望对你有帮助。 关于中秋的朗诵诗词一 中秋佳节...
【古典文学】 日期:2019-06-06
-
叠加原理实验报告
一、实验目的1、通过实验来验证线性电路中的叠加原理以及其适用范围。 2、学习直流仪器仪表的测试方法。
【古典文学】 日期:2020-11-12
-
大气唯美黑板报【国庆节大气黑板报】
日本在投降的那一天,再也没有昔日的嚣张,我们中国的屈辱得到洗刷。下面就随小编看看国庆节大气黑板报内容,希望喜欢哦。 国庆节大气黑板报图片欣赏 国庆节大气黑板报...
【古典文学】 日期:2019-05-05
-
怎样认识世界处于百年未有之大变局
怎样认识世界处于百年未有之大变局 首先,“大变局”是对国际格局发生巨大变迁的
【古典文学】 日期:2020-10-28
-
输血查对制度
输血查对制度依据卫生部《临床输血技术规范》的要求,制订抽血交叉配备查对制度、取血查对制度、输血查对制
【古典文学】 日期:2020-09-24
-
【二人旅游英语情景对话】 二人英语对话2分钟旅游
随着国内外旅游业市场的不断扩大,旅游英语人才成为社会的紧缺人才。小编精心收集了二人旅游英语情景对话,供大家欣赏学习! 二人旅游英语情景对话1 A:Itsmyfirsttimeto...
【古典文学】 日期:2020-02-29
-
法律知识手抄报图片大全|法律知识手抄报
我国开展了全面的普法宣传工作,法制宣传教育、普及法律常识作为经常的重要任务。做法制教育手抄报,普及法律知识。下面是小编为大家带来的法律知识手抄报图片大全,希望大家...
【古典文学】 日期:2020-03-10
-
2021公安专业知识考试练习题(附答案)
2021公安专业知识考试练习题(附答案) 1 甲地公安机关接到群众举报,在当天举行的大型娱乐活动中,
【古典文学】 日期:2021-01-29
-
乳糖检测方法
附录A(规范性附录) 乳糖的测定A 1原理牛乳或乳粉样液经沉淀剂澄清后,样液中的乳糖在苯酚、氢氧化钠
【古典文学】 日期:2020-12-08
-
时尚女装店面装修效果图|韩式女装店面装修
在服装店的设计之中,我们要将多变、创新、品牌自身的定位与发展趋势相结合,用一种可持续的设计方式呈现出来,以便更加适应不断更新的展示主体。下面小编就为大家解开时尚女装店...
【中国文学】 日期:2019-05-16
-
2021年超星尔雅学习通《辩论与修养》章节测试试题(共183题附答案)
2021年超星尔雅学习通《辩论与修养》章节测试试题(共183题附答案)1、辩论的目的不是单纯获得某种
【中国文学】 日期:2021-05-12
-
【世界上最大的半岛】阿拉伯半岛
你知道世界上最大的半岛是什么吗?下面由小编来介绍一下。 阿拉伯半岛的简介 阿拉伯半岛(阿拉伯文:)位于亚洲,是世界上最大的半岛。沙特阿拉伯、也门、阿曼、阿拉伯联合...
【中国文学】 日期:2019-05-24
-
信息技术重要性
信息技术的重要性 信息技术与课程整合将带来课程内容的革新,信息技术的高速发展,要求传统的课程必须适应
【中国文学】 日期:2021-02-11
-
天地人格最佳搭配起名技巧|天地人格的五行怎么算
天地有阴有阳,物体刚柔表里,而数字则有一个诱导力,那么你知道怎么计算天地人格来取名吗?今天小编为你整理了天地人格最佳搭配起名技巧,一起来看看用天地人格取名的方法有哪些...
【中国文学】 日期:2019-06-06
-
雪天安全行车注意事项_雪天安全行车提示语
维护城市交通秩序,争做河源文明市民。你们想看看雪天安全行车提示语有哪些吗?以下是小编推荐雪天安全行车提示语给大家,欢迎大家阅读! 安全行车温馨提示语【经典篇】 1...
【中国文学】 日期:2020-03-15
-
2022年当前世界下中国面临国际形势论文范本
和平与发展仍然是当今时代的主题。谋和平、求合作、促发展是各国人民的共同愿望。为了大家学习方便,下面是小编为大家整理的当前世界下中国面临的国际形势论文范文内容,以供参...
【中国文学】 日期:2022-03-31
-
古代人物漫画女生唯美图片欣赏 漫画人物图片女孩唯美
中国漫画始于清末民初,而平面设计虽然其名称是在改革开放以后确立的,但设计活动却自古就有,二者的相互影响是本文的主要讨论范围。小编整理了唯美古代女生人物漫画,欢迎阅读!...
【中国文学】 日期:2020-03-19
-
小数乘法计算方法
小数乘法得计算方法理解小数乘法计算得法则,能够比较熟练得进行小数乘法笔算与简单得口算重点掌握小数乘法
【中国文学】 日期:2020-12-22
-
爱情的英语作文|关于爱情的英语作文
爱情的英语作文,书写了世界上伟大的爱情。下面是小编给大家整理的爱情的英语作文的相关知识,供大家参阅! 爱情的英语作文篇1 Loveisthemostbeautifulthingintheworld,i...
【中国文学】 日期:2020-03-10
-
山东省生产经营单位安全生产主体责任规定(303号令)
山东省生产经营单位安全生产主体责任规定(2013年2月2日山东省人民政府令第260号公布根据2016
【外国名著】 日期:2020-10-22
-
改革开放大事记简表(改革开放新时期1978-2012年)
改革开放大事记简表 (1978-2012年) 时间1978年12月18日至22日地点北京事件党的十一
【外国名著】 日期:2021-06-17
-
大学生音乐欣赏论文 大学音乐鉴赏论文3000
今天小编就为你介绍关于大学生音乐欣赏论文,下面是!小编给你搜集了相关资料!希望可以能帮助到大家。 大学生音乐欣赏论文—第一篇 音乐是生活不可缺少的一部分,学会欣...
【外国名著】 日期:2019-05-27
-
材料力学金属扭转实验报告
材料力学金属扭转实验报告 【实验目的】 1、验证扭转变形公式,测定低碳钢的切变模量G。;测定低碳钢和
【外国名著】 日期:2020-11-27
-
长豆角家常做法怎么做好吃营养 炒豆角的家常做法
豆角在我们日常生活中是很常见的食材,可能我们只知道它含有优质蛋白和维生素,其实它还有其他的营养价值。它也是可以和很多食材做搭配的。下面小编为大家整理了长豆角的做法...
【外国名著】 日期:2020-02-26
-
坚定不移全面从严管党治警研讨发言稿
坚定不移全面从严管党治警研讨发言稿政治建警、从严治警是党在新时代的建警治警方针。一年前的全国公安工作
【外国名著】 日期:2020-09-18
-
植物装饰画黑白图片欣赏|荷花装饰画黑白图片
装饰画是一种装饰性艺术,是装饰性和创造性相结合的艺术设计形式。小编整理了植物装饰画黑白,欢迎阅读! 植物装饰画黑白图片展示 植物装饰画黑白图片1 植物装饰画黑白...
【外国名著】 日期:2019-05-31
-
白烛葵的花语:白烛葵的不死幻想症
白烛葵,花名,花语为“不感兴趣”。现又指《知音漫客》上连载漫画《极度分裂》里主要角色之一。下面小编为你整理了白烛葵的花语。欢迎阅读。 白烛葵的花语:不感兴趣 ...
【外国名著】 日期:2019-05-11
-
(新版)就业知识竞赛题库及答案解析
(新版)就业知识竞赛题库(全真题库) 一、单选题1 (单选):在职业生涯规划工具中,组织在展开员工职
【外国名著】 日期:2021-07-21
-
[10.1旅游去哪里好玩] 旅游去哪里好玩
十月一到,秋意已在一个我们不经意的黎明走来,习习凉风,却是最适合出门游行。小编为您整理了10 1旅游去哪里好玩,秋天,我们一起出发吧。 1、云南建水古城 建水古城...
【外国名著】 日期:2020-03-01
-
梧桐花的花语|梧桐花的功效与作用
梧桐花为梧桐科植物梧桐的花,植物形态详梧桐子条。今天小编为你整理了梧桐花的花语,欢迎阅读。 梧桐花的花语是:情窦初开 在春季里晚开的花朵,有着恬淡的气息。 ...
【寓言童话】 日期:2020-03-03
-
西部计划笔试题库(99题含答案)
西部计划笔试题库(99题含答案) 1 第十三届全国人大三次会议表决通过了《中华人民共和国民法典》,自
【寓言童话】 日期:2021-06-16
-
大学生音乐欣赏论文 大学音乐鉴赏论文3000
今天小编就为你介绍关于大学生音乐欣赏论文,下面是!小编给你搜集了相关资料!希望可以能帮助到大家。 大学生音乐欣赏论文—第一篇 音乐是生活不可缺少的一部分,学会欣...
【寓言童话】 日期:2020-03-12
-
年学生资助诚信教育主题活动方案
各二级学院(部): 为深入贯彻落实习近平总书记关于教育的重要论述,落实立德树人根本任务,增强当代大学
【寓言童话】 日期:2020-06-21
-
主题教育调查研究工作方案2篇
主题教育调查研究工作方案1根据省、市、县开展“不忘初心、牢记使命”主题教育工
【寓言童话】 日期:2021-03-19
-
油管、套管规格尺寸对照表
API油管规格及尺寸 公称尺寸(in) 不加厚外径(mm) 不加厚内径(mm) 加厚外径(mm) 加
【寓言童话】 日期:2020-08-31
-
惊悚鬼故事50字 令人惊悚的故事
这些惊悚故事在短短的篇幅和时间之内让您感受到故事里传达出来的恐怖感,令你感到害怕。下面就是小编给大家整理的令人惊悚的故事,希望对你有用! 令人惊悚的故事篇1:学校...
【寓言童话】 日期:2019-05-13
-
北京最好吃的自助餐厅 北京高档自助餐排名
自助餐简直就是拯救大胃王的最佳饮食!没有之一!世界上没有什么事情是吃一顿自助餐解决不了的,如果有,那就吃两顿!下面小编给大家推荐北京几家好吃的自助餐。 北京最好吃的...
【寓言童话】 日期:2020-02-25
-
【古代男生漫画图片大全】男生漫画头像
漫画和动画组成了动漫产业的两大支柱。然而,与动画相比,漫画在业界和学界皆相对冷清。小编整理了古代男生漫画,欢迎阅读! 古代男生漫画图片展示 古代男生漫画图片1 ...
【寓言童话】 日期:2019-05-27
-
廉洁自律自我剖析材料(精选)
廉洁自律自我剖析材料((精选多篇)) 信念。科学文化,提高自身素质的终身学习的意识,紧密联系群众,调
【寓言童话】 日期:2020-07-20
-
学生高考动员演讲稿
学生高考动员演讲稿3篇高考动员演讲稿11 老师们、同学们: 大家下午好!漫漫高考长征路已经进入尾声了
【百家讲坛】 日期:2021-09-22
-
企业安全演讲稿2021
最新企业安全的演讲稿5篇 演讲稿是作为在特定的情境中供口语表达使用的文稿。在充满活力,日益开放的今天
【百家讲坛】 日期:2021-09-22
-
XX镇扶贫项目实施专项整治工作总结_1
XX镇扶贫项目实施专项整治工作总结 为深入贯彻精准扶贫精准脱贫基本方略,认真落实党中央、国务院,省委
【百家讲坛】 日期:2021-09-22
-
对乡镇领导班子干部成员批评意见例文
对乡镇领导班子干部成员的批评看法范文 一、对党委书记XXX同志的批评看法〔3条〕 1、与干部交流偏少
【百家讲坛】 日期:2021-09-22
-
群英乡扶贫资金项目芬坡村祖埇村生产道路硬化工程绩效自评报告
群英乡扶贫资金项目((芬坡村祖埇村生产道路硬化工程))绩效自评报告 一、基本情况(一)群英乡扶贫资金
【百家讲坛】 日期:2021-09-22
-
党委书记警示教育大会上讲话2021汇编
党委书记在警示教育大会上的讲话55篇汇编 党委书记在警示教育大会上的讲话(一) 同志们: 根据省州委
【百家讲坛】 日期:2021-09-22
-
对于2021年召开巡视整改专题民主生活会对照检查材料
关于12021年召开巡视整改专题民主生活会对照检查材料 按照中央巡视组要求和省、市、区委统一部署,区
【百家讲坛】 日期:2021-08-14
-
消防安全知识培训试题.doc
消防安全知识培训试题姓名: 部门班组: 成绩: 一:填空题,每空4分,共44分。 1、灭火剂是通过隔
【百家讲坛】 日期:2021-08-14
-
涉疫重点人员“五包一”居家隔离医学观察工作流程
涉疫重点人员“五包一”居家隔离医学观察工作流程 目前,全球疫情仍处于大流行状
【百家讲坛】 日期:2021-08-14
-
疫情防控致全体师生员工及家长一封信
疫情防控致全体师生员工及家长的一封信 各位师生员工及全体家长朋友: 暑假已至,近期我省部分地方发现确
【百家讲坛】 日期:2021-08-14