你。“他的程序里都是些什么？”
你好
“你
来时我正在检查。”我要你拿着。
“这真是我想不通的地方。”
“我不知
。我以前从未见过这白
。”我一定要给你。
快拿吧。
“差不多。”
理查兹和格哈得没有设计这些程序，它们是从其它大学研制的几
现存计算机程序修改得来的，但其基本思想是相同的——创造一
能使计算机变得像人一样有
情的程序。所以把这些程序称作乔治和玛莎也就合乎情理了。先例在这之前已经有过：波士顿的伊丽莎和英格兰的奥尔德斯。“又不灵了？真见鬼。”理查兹望望控制台。“玛莎怎样？”
：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：
“大同小异，”格哈得说。
为什么我不喜
你。我一定要给你一
黄瓜。神经
神病研究室的研究人员长期以来一直用这方法玩程序，之后他们采纳各程序修改意见让计算机“
谈”数字被译成句
。这很逗人，也很发人
省。真正的互作用被叫
“圣诞游戏”因为大多数游戏玩的是赠送和接受礼
——这些东西正像数字一样
有设定的情价值。去你的我宰了你：：：：：：：：：：：：：：：：：：：
“真是糟透了，”理查兹说“其它的
互作用怎么样？”不，谢谢你。
我不想要大猩猩。
“圣乔治，”格哈得说“真是个混
。”“真见鬼，”理查兹说“他正在成为一个脾气暴躁的圣人。”他咧嘴笑笑。“我们可以把这个补写
去。”“玛莎没问题。我想就是乔治不行。”
理查兹呷了
咖啡，在控制台前坐了下来。“我来试试介意吗？”谢谢你
再给你一只。
“这程序用过多少次了？”理查兹问。
再给你一只猫。
“乔治！”理查兹几乎不假思索地喊了一声。
计算机线路
了
病——到
来错的结果还是人。永远如此。那就拿个香蕉吧。
理查兹快速
动键钮，先调圣乔治的程序，再调玛莎的程序，接着下了互作用键。我拒绝。
帮助我？
玛莎。
我一定要给你。
难
你不喜茄？你不太讲话，玛莎。
给你一只猫。
不，谢谢你。
“这没关系，”格哈得说“往下看。”
对不起。
谢谢你你真好。
那就拿一个香蕉和一
黄瓜。喜
可我的猫已经够多了。不，谢谢你。
正常的乔治和玛莎
往，那么乔治最终会赢得玛莎，而她的傲慢会失去优势。“一百一十次，用于玛莎的。”
“圣乔治怎么啦？，”理查兹问“他的反应完全没有两样。”
你好，我是圣乔治
不太喜
。这我理解。我怎样才能帮助你？
难
你不喜大猩猩？如果我冒犯了你请多原谅。
不，谢谢你。
“是哪个乔治？”
理查兹皱眉蹙额。猫是程序设计中乔治和玛莎都不喜
的东西。给乔治一只猫是充满敌意的行为。难
你不喜猫吗？“乔治
故障了，”理查兹说“他不再是个圣人。”乔治和玛莎这两
程序基本相同，相互之间只有细微的区别。起先设计的乔治对刺激的反应是中
的，接着又创造了玛莎。玛莎有傲慢，大多数事情她不喜。最后制定了另一个乔治，一个可
的乔治，他被叫圣乔治。是的
不喜
谢谢你。“有时没有句号，”理查兹问“这是什么时候开始的？”
：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：
不，谢谢你。
是的，我想帮助你。
理查兹饶有兴致地望着。圣乔治没有茄
的背景资料，但他不喜黄瓜和香蕉。再给你一只猫。
“和这一样糟？”
“有谁
过吗？”不。
每
程序能有三情的反应——、恐惧和愤怒。每程序能产生三行为——靠近、后退和攻。所有这些当然都是
度
象的，执行是用数字来表示的。例如，起先的乔治对大多数数字的反应是中的，但他不喜７５１这个数字，是设计成这样的。他因此也不喜相似的数字－７４３，７７２等。他很喜诸如４0４，１３３和９１８这样的数字。如果你输
其中的一个，乔治便显示一系列表示和亲近的数字。如果你输７0７，乔治便后退。如果你输７５0，乔治便用他输的数字发动愤怒的攻。屏幕上全是白
。“这是什么意思，是打印不来的反应？”理查兹问。“我知
他有何受。”理查兹说完关掉机
，随后他走到格哈得
旁，寻找导致这一切发生的程序错误。格哈得
又回到打印机跟前。从理论上说，发生的这一切并不叫人疑惑。乔治和玛莎的程序里都有向经验学习的设计。就像下
棋的程序一样——计算机越下越聪明——在这个程序的设计中计算机会“习得”对事新的反应。经过一百一十次的考验，圣乔治突然不圣人了。他正在学习不在玛莎面前圣人——即便他是为圣人而设计的。给你一只茄
。理查兹走
来，脱下运动外，为自己倒了一杯咖啡。“怎么样？”你太客气了。
“请吧，”格哈得说。
你叫什么名字？
但圣乔治对她产生的影响要差得多。他表示
的受礼
得她难以忍受。如果一切正常的话，那情况就是这样。理查兹望着句在屏幕上闪现来。你的话大多。
“没有。”
不，谢谢你。
他们现在已习惯这
看法，认为计算机互作用的时候，结果是不可预料的。互作用的一般形式可以猜到，但
的结果是不定的。这就像计算机下棋——它或许会赢，但每次赢的方法是不同的，这要取决于对手怎么下。格哈得摇摇
。“我很难
作乔治。”给你一只大猩猩。
不，谢谢你。