跳过内容
1.我们走在了正确的道路上吗
关于未来,首先可以看到的是智能机器的未来,即人工智能如果成功的话,肯定会改变大多数人的生活。但是人类是不是走在了正确的道路上,是一个值得讨论的话题。正如联合国教科文组织在其未来科教发展的报告中指出的那样:“人工智能为代表的技术进步蕴含着巨大潜力,但也引发了伦理和治理方面的严重关切,特别是创新和技术变革在为促进人类繁荣作贡献方面的前景尚不明朗。”这样的论述中隐含着一种可能的推论:技术和创新并不一定会为人类的可持续发展做出积极或者正面的贡献——虽然在历史上人们看到了这样的巨大贡献。但是,不容置疑的是,人类已经走在了这样的道路上。在这样的情况下,机器行为的设计与研究就显得非常重要。例如,核能技术的设计既可以是造福人类的核电站,也可以是毁灭世界的核武器。一方面,好的设计可以让科技向善。另一方面,需要通过实证研究,发现和探索机器行为对人类的影响作用的自然规律。
另外一个方面就是关于“正确”的道路问题。西蒙已经明确指出,所谓完美理性(perfect rationality)是一个不现实的目标,而有限理性(bounded rationality)是描述人为事物更为有效的方式。人工智能难以定义“最优”“足够好”这样的概念,那机器行为学的正确道路是什么本身也是一个有限理性的问题。美国第十六任总统林肯(A. Lincoln)说:“预测未来最好的方法就是去创造它们(The best way to predict your future is to create it)。”作为设计师和研究者,也许可以做到最优化的程序、设计与研究,而不是直接追求最优化的行为本身。行为由程序和设计产生,而设计师和研究者能做的,一方面,开展机器行为学实证研究;另一方面,开展机器行为的创造和设计,让设计的机器行为去检验道路的“正确”。
2.基于情境而非个体的机器行为
西蒙指出,“环境”是人为事物的核心,不同的环境造就了不同的人为事物。因此,关于机器行为这一人为事物的研究,必须建立在“环境”及其相关的概念(如情境、系统等)中去讨论。与人类行为相似,解释任何机器行为都不能完全与训练或开发这一智能体的情境与数据分开。理解“机器行为如何因为情境输入的改变而变化”就像理解生命体根据他们存在的情境而变化一样重要。因此,机器行为学应该专注于描述不同情境中的智能机器的行为,就好像行为科学家在不同的文化中描述人类的审美行为一样。
然而一个不容忽视的事实是:情境是复杂的。自动驾驶汽车在今天还没有普及在技术上很大程度是因为环境的复杂,使得自动驾驶汽车的制造企业不得不在大量的情境中开展测试以确保其行为的安全可靠。因此,对于机器行为学而言,未来的主要目标是在如此复杂的情境中进行科学抽象,发现机器行为的共性规律。这与当年达尔文发现自然选择规律的情境非常相似。
3.物理行为、生命行为与机器行为
机器行为学的一个重要出发点之一就是用行为科学的方法来研究智能机器、系统与算法等这些人造物的行为,并将其视为有生命的个体。但是,不可否认的是,机器行为与动物、人类的行为还是有着本质的不同。采用现有行为科学的方法对机器开展的研究也揭示出机器与人类甚至生命个体迥然不同的行为特征。因此,在开展机器行为设计和研究的时候,要避免过度地“拟人”或者“拟兽”。探寻机器行为与物理行为、生命行为的差异应该是机器行为学未来研究的重要关注点。
在机器行为的实践中可以看到,修改机器的算法比更改人类的生命系统(如基因)更加容易。虽然研究者会在整合系统里开展相关的研究,但是,机器行为研究就必然会与人类行为以及生命研究与所差异与不同。
目前,尚不能确定借用现有行为科学的方法来开展机器行为学是不是走到了一个正确的道路上,但是至少可以将行为科学的研究作为机器行为学研究的起点。从一个终极的目标而言,未来机器行为学研究范式的一个可能性就是建立起一个打破物质与生命的界限,物理行为、生命行为和机器行为一体化的全新的科学研究体系。
同时,从人为事物的设计和研究本身而言,还有不少其它人为事物的研究(例如社会系统、符号系统等,特别是作为人为事物的经济系统)目前已经取得了长足的进步。
1968年增设的诺贝尔经济学奖标志着“经济”这一人为事物的研究已经获得整个科学界的认可。西蒙本人也因为其“经济组织内的决策过程进行的开创性的研究”获得诺贝尔经济学奖。经济学研究可以为机器行为的研究提供重要的理论和方法支持,特别是针对不确定性条件下的行为研究以及自然状态实验研究范式等,都为机器行为学的发展提供了有力支撑。
4.学科融合的挑战
目前的时代就是一个跨界的时代。跨学科(inter-discipline)、多学科(multi-discipline)甚至是反学科(anti-discipline)的思潮在学术界此起彼伏。机器行为学从其定义来看就是一个跨学科的领域。因此,关于机器行为学的研究伴随着跨学科的合作会带来巨大的挑战,应对这些挑战对于机器行为学的发展至关重要。智能科学家、设计师和工程师专注于构建、实现和优化智能系统并使其性能达到最优;行为科学领域的专家更喜欢探寻在不同技术、社会和政治条件下的人类行为。而机器行为学家则希望去探寻:智能机器与算法在不同的环境中如何去行动,人类和算法的互动会不会影响社会结果之类的问题。
目前关于机器行为研究的一个富有挑战的领域来自于从机器行为发展的角度来解释其现在的行为以及预测未来的行为,虽然本书在理论上已经构建了机器行为的发展模型,但是,对于机器行为的产生、发展、进化等的相关研究还存在着不足。这可能和机器行为学作为一门年青学科和领域有关,因为关于“发展”的研究(如发展心理学)在行为科学领域本身就需要数年甚至数十年的时间,同时其研究受到的影响因素太多而导致研究结果的不可控特征非常明显。因此,必须整合多个学科的能力,开展融合研究。例如,在范式上,对于机器行为学而言,虽然可以通过加快实验速度模拟数年的机器行为发展,但是,这种机器行为进化和发展的复杂性会导致结果的爆炸性增长,特别是在关注机器行为的系统性发展的层面。因此,从行为发展的动力学的角度看,以达尔文主义为基础的动物行为学具有一定的优势,但是,学科融合是不可避免的。
另外,从基本研究的角度来说,随机实验、观察判断、统计描述等定量行为学方法对机器行行为学及其重要。但是,机器行为的概念框架、算法实现、研发工具等,也是非常重要的机器行为学的设计工具与方法。不管怎么样,学科融合始终是大趋势。跨学科的融合的本质也就是要构建起全新的设计与研究生态。大学、政府和科学基金可以在设计大规模、可信的、高水平、跨学科的智能机器以及相关研究中发挥重要的作用。而企业则需要在各自的领域,开展智能机器的产业应用,提出科学问题,验证研究结论。
5. 影响与改变世界的研究
要最大限度发挥人工智能对人类和社会的潜在价值,就必须要了解机器的行为。如果将人工智能融入人们的日常生活,就必须了解其对人类社会可能的影响。正如前面提及的,科学研究与经验感受、哲学思辨最大的差别在于其运用专业的方法,以实证的方式,支持或者反对某一假设,进而揭示机器行为影响和改变世界的规律。这种实证主义的精神正是人类理性主义的精髓所在。演绎与归纳、类比与假说、证明与反驳,这些逻辑推理论证的手段,让人类可以用自己有限物质的大脑去探索、感知、理解、预测和操纵这个比自己大得多的世界。
同时,也要看到所谓科学研究的局限与挑战,充分认识到科学研究并不代表着真理的发现。心理学家贝弗里奇说:“除了假设的提出者,没有人相信假设;除了实验的操纵者,每个人都相信实验”。所有的科学研究都建立在假设之上,所有的科学研究都是有前提的,正如数学家无法证明“两点确定一条直线”一样——因为这是“公理”。所谓公理,也正是科学研究无法证明的地方。特别是机器行为学研究的对象本身,从个体角度看,又是那么的多样化和差异化。作为人为事物的机器,虽然从物理学角度,所有物质都是客观存在的。但是从机器行为学的关心的其设计、功能的客观性和科学性来看,还面临很多争议。但是,通过机器行为学的研究,可以推进人们对智能机器、算法和系统的理解,创造更好的机器行为,并造福人类。
机器行为学设计者和研究者的使命就是创造和研究那些影响与改变世界的力量
——智能机器的行为。已经可以看到,机器行为学已经取得了初步的进展,这个领域正方兴未艾。回望历史,百万年来,作为人类诞生的标志之一石制工具这一人为事物被人类所设计创造开始,人与人造物、人与机器共同走进自然世界,和谐发展,已经建立如此奇妙的人为事物的世界。而最为美妙的是:至今,他们还在继续演化发展着,并必将成为未来这个星球上最美丽的风景之一。