
机器行为学的起源:从自然科学到人为事物的科学
章节内容
Chapter Content
1
2
3
1.人为事物的科学
人工智能技术的发展使得“算法”正在社会中前所未有得的广泛应用:新闻排名算法改变着人们在网站上所看到的信息,器官算法塑造了器官移植匹配的调度与派遣……一个极端的案例来自于自动武器的领域,“自动化武器系统是否需要理解武器使用的原则(即在什么情况下使用武器)”就是一个代表性的问题,这至少意味着:机器可以决定人的生死。这是多么令人担忧的事情。因此,当人们去“设计和创造”一个全新的智能主体的时候,需要考虑的问题不仅仅是功能与技术效率层面的问题,还有不同学科的多个问题涌现出来。在这样的背景下,需要整合学科知识去研究这些智能机器所表现的行为,使之为人类社会作出贡献而不是反之。因此,机器行为学研究的核心驱动力在于从人与社会的角度,分析智能机器和系统对人类社会的影响和作用,提出相关的设计准则,为人工智能和机器行为的设计提供基础。
1969年,诺贝尔奖获得者西蒙(H.A. Simon)在其著名的《关于人为事物的科学(The Sciences of the Artificial)》中明确提出将“人为事物”(包含人为对象和人为现象)作为科学研究的对象。西蒙指出:“自然科学是关于自然对象和自然现象的知识。我们要问,是否还有‘人为’科学——关于人为对象和人为现象的科学?”“人为事物的科学就是研究和处理自然世界和人为世界这两个相异组成部分的科学。”

(图片来源:美国卡耐基梅隆大学官方网站)
西蒙认为:人为事物在服从自然规律的同时,必须适应于“人的目的或意图”。这就是说“人为的”这个概念,似乎需要依靠“目的”和“意图”而作为一个系统,并纳入其生存环境中,才得以存在。如果说,自然现象在对于自然法则的从属性上带有“必然性”的概念,那么人为事物和现象对于环境的适应性上则带有“偶然性”的意义。也许正是因为这样的偶然性,人们对人类自己创造的人为事物似乎就有怀疑。与人为事物相关的很多词汇多具有贬义。例如“人工的”、 “模仿的”、……而自然事物的词则多具有褒义:“自然的”、“客观的”、“真实的”、……事实上,人为事物应该是和自然事物同等的概念,是对于人类创造的事物的一种客观描述。这样设计师和科学家才有可能去回答设计和工程的一个关键问题:“人为事物应该(should)如何设计?”
按照西蒙的描述,人为事物有四个主要特征:
第一,人为事物是由人创造的;
第二,人为事物可以模拟自然事物的某些表象,而在某些或者若干方面缺乏后者的真实性;
第三,人为事物可以用其功能、目的和适应性变化来描述;
第四,关于人为事物的讨论,既可以用描述性的方式,也可以使用规范性的方式来进行。
2.作为人为事物的机器
人工智能技术的发展使得“算法”正在社会中前所未有得的广泛应用:新闻排名算法改变着人们在网站上所看到的信息,器官算法塑造了器官移植匹配的调度与派遣……一个极端的案例来自于自动武器的领域,“自动化武器系统是否需要理解武器使用的原则(即在什么情况下使用武器)”就是一个代表性的问题,这至少意味着:机器可以决定人的生死。这是多么令人担忧的事情。因此,当人们去“设计和创造”一个全新的智能主体的时候,需要考虑的问题不仅仅是功能与技术效率层面的问题,还有不同学科的多个问题涌现出来。在这样的背景下,需要整合学科知识去研究这些智能机器所表现的行为,使之为人类社会作出贡献而不是反之。因此,机器行为学研究的核心驱动力在于从人与社会的角度,分析智能机器和系统对人类社会的影响和作用,提出相关的设计准则,为人工智能和机器行为的设计提供基础。
如果从人为事物的功能或者意图上来考察人为事物,可以把人为事物看作一个“内在”环境与外部环境的界面(interface)或者触点(touch point)。如果内部环境适应于外部环境,则认为该人为事物能够满足和实现意图和目标。例如一辆汽车就是汽车的内在环境(如动力结构)与外部环境(如不同路况、气候)以及他们的相互关系(如汽车在颠簸道路上运行)。基于这样的观点,人为事物的一个核心意义就是所谓的“适应性”。环境的复杂性决定了人为事物需要去适应不同的环境,并满足不同的意图和目标。所以,在讨论人为事物的时候,环境因素是非常重要的因素。从一个严格意义上讲,适应和满足都是非常复杂的概念。事实上,人为事物不可能适应所有的环境,即适应性具有限度的。因此,人为事物的设计和创造的目标是产生“满意解”而不是“最优解”。

“机器行为学“中的“机器”是一种典型的人为事物。不同于一般意义上“机器”诸如各种金属和非金属部件组装成的装置的概念。本书的“机器”是一个具有广泛意义的概念,总体而言,属于人类设计和创造的人为事物,而不仅仅是一个狭义的“机械”的概念。例如针对无人驾驶汽车而言,机器既可以是无人驾驶汽车产品本身,也可以是其内部的动力系统、人工智能系统、人机交互系统与甚至出行服务流程方法等。
同时,本书中的机器,具有强烈的计算机科学和人工智能的概念,即作为人为事物的计算机。正如西蒙说的那样:“在人类设计的人为事物中,没有哪一个像计算机那样便于进行功能描述”。计算机作为人为事物的最大特征就是在人为事物层面的“抽象组织性”。数学也许具有很好的抽象性,那种抽象完全基于逻辑,而无法以“人为事物”这样的一个“对象(object)”的方式来进行呈现。基于这样的认识,可以把本书中的机器理解为人工智能领域里的智能主体(intelligent agent)。从这样角度而言,可以看到很多作为人为事物的“机器”,最为典型的是自动化系统和产品。无人驾驶汽车、工业机器人等都是代表性的机器。
除了实体的“机器”以外,算法(algorithm)也是机器。在很多专门的领域也能发现这些基于算法的无形机器。当人们在浏览新闻的时候,算法推荐与算法检索会产生不同的新闻排序给不同的读者。当人们在购物的时候,算法会根据其个人属性和购物习惯,推荐并呈现不同的商品。在社交领域,在线交友和在线约会可以根据两个人的特点进行配对。金融领域,市场交易很多由机器算法来完成……在机器行为学中,这些都是典型的“人为事物”,都是典型的“机器”。
3.作为人为事物的机器
人工智能技术的发展使得“算法”正在社会中前所未有得的广泛应用:新闻排名算法改变着人们在网站上所看到的信息,器官算法塑造了器官移植匹配的调度与派遣……一个极端的案例来自于自动武器的领域,“自动化武器系统是否需要理解武器使用的原则(即在什么情况下使用武器)”就是一个代表性的问题,这至少意味着:机器可以决定人的生死。这是多么令人担忧的事情。因此,当人们去“设计和创造”一个全新的智能主体的时候,需要考虑的问题不仅仅是功能与技术效率层面的问题,还有不同学科的多个问题涌现出来。在这样的背景下,需要整合学科知识去研究这些智能机器所表现的行为,使之为人类社会作出贡献而不是反之。因此,机器行为学研究的核心驱动力在于从人与社会的角度,分析智能机器和系统对人类社会的影响和作用,提出相关的设计准则,为人工智能和机器行为的设计提供基础。
(1)算法和智能机器在全社会的广泛运用
目前,人工智能算法以及基于算法的智能机器作为代表性的人为事物已经广泛地渗透到人类生活的方方面面。前面提到的新闻排序算法影响人们对资讯的获取,影响人们对世界的看法;银行征信记录和信用评分算法影响人们贷款的决策;车联网的算法会改变传统汽车的行驶模式进而改变人们的出行方式;智能家居产品对人们的语音指令做出反应,改变了人们的家庭生活模式……机器行为改变的已经不再是单一的人类个体,正在影响着人类的行为和社会结果。在这样的情况下,全面研究机器行为就变得非常重要。
(3)数据的版权、隐私与情境
人工智能系统通常需要从数据中进行机器学习,这些数据集的维度和数据量增加了人们理解这些智能系统的难度。但问题不仅仅是理解的问题,大数据本身的问题会导致在设计智能机器的时候无法获得足够的数据,进而预测所设计的智能机器最后的输出结果。这中间最大的考虑到版权、隐私和安全等方面的考虑,很多时候,在开源的算法测试平台,设计者只能观察到智能系统的输入和输出。
就算这些代码和模型开源,设计师和程序员也不太可能就由此能准确预测出这些模型的输出,因为涉及的因素太多而且对算法的控制很大程度上与周围的情境密切相关。
(2)机器行为输出的可解释问题
题。人们首先无法探查黑箱中的机器行为;即使探查到了,如何解释这些行为;即使解释了,如何合理的呈现给智能机器的设计者或用户。这些都是重要的问题。目前的现状是:人工智能体实际产生的输出物及其输出过程是设计它们的科学家和工程师也难解释的,更不用说对这些解释的结果进行预测了。

(4)算法和智能对人类社会的利弊
与前面智能机器与算法的设计者相对应的是:人工智能体正以“意料之中”和“意料之外”的方式塑造人类的行为和社会结果。例如类似抖音、快手这样的短视频系统的推送机制给浏览者带来不错的用户体验。然而,如果这种推送机制在“意料之外的情况下”偏离了初衷,就会出现人们只能选择特定的新闻报道等类似情况。更为严重的是:算法对个体的正负面影响可以扩大到社会层面。已经可以看到,网络暴力与谎言的传播速度非常快,以致于国家对此还专门立法来规范网络信息传播。目前,算法的公平性或者偏见性已经出现在很多场景。不论数据如何真实,抽样方法如何随机,数据集中的误差或者训练集的一点点差异就会引发模型的偏见。更为夸张的就是放任这种偏见出现。例如部分电子商务网站对于不同类型的用户呈现不同的产品价格就是典型的偏见性问题。因此,机器行为的研究将帮助人们让机器为人类发挥积极的作用。
为了应对这些问题,人们有时候被迫做出各种偏见之间的取舍。例如人们明明知道推送给自己的新闻是带有偏见的,但是又有多少人愿意(或者说有能力)去改变这些偏见呢?如果从社会的角度看,这种人类和智能算法之间的相互作用所导致的改变(如例如婚恋算法等)是否会系统性地改变人类的社会结构,进而影响人类发展的进程还不得而知。这些问题在不断复杂化的“人类-机器-社会-自然”的混合系统的背景下变得越发难以解决。因此,机器行为学必须提供理论、方法与结论来帮人们理解这些无处不在智能机器、系统和算法如何对人类社会产生影响。