卡辛斯基的警告

2018年01月10日 16:25 作者:阮一峰 来源:《读者》  

  1978年5月25日,美国西北大学的工程学教授巴克利·克利斯收到邮政局退回的一个包裹。他请保安打开包裹,里面是一颗炸弹,当即爆炸。保安身受重伤。

  此后18年,类似案件一再发生。凶手一共寄出16枚邮件炸弹,炸死3人,炸伤23人。袭击对象主要是大学的理工科教授,所以凶手被称为“大学炸弹客”。联邦调查局想尽办法查找凶手。十几年的调查,动用了500名特工,误抓了200多名嫌疑犯,接了2万多通检举电话,花费500万美元,仍一无所获。此案成为FBI史上花费最昂贵的调查案件之一。

  1995年,凶手又一次作案,这次寄出了4樣东西——两个邮件炸弹,炸死了加州林业协会的总裁吉卜特·莫里,炸断了耶鲁大学计算机科学教授大卫·加勒特的几根手指;一封警告信,警告1993年诺贝尔奖获得者、遗传学家理查德·罗伯茨、菲利普·夏普,要求他们立刻停止基因研究;一篇长达3.5万字的文章,并承诺如果美国主流媒体一字不改地全文刊登,他就将永久停止炸弹袭击。FBI和美国司法部最终同意。1995年9月19日,《纽约时报》和《华盛顿邮报》发表了这篇文章,题为“论工业社会及其未来”。

  读者惊讶地发现,这是一篇充满思辨的哲学论文,作者明显受过专业学术训练。论文称,工业革命将给人类带来灾难,技术使人类丧失自由,最终将导致社会的动荡甚至毁灭,因此人们应该摧毁现代工业体系。这就是凶手袭击大学教授的原因,因为他们推动了技术的发展。

  更让人吃惊的是,这篇论文很有说服力。许多人开始认真思考作者的观点,主流的知识分子杂志(比如《大西洋月刊》《纽约客》)均发表专文讨论。那位被炸断手指的教授大卫·加勒特承认,文章中的推断不无道理,工业文明时代以及人类的未来,也许真的险境重重。计算机学家比尔·乔伊则说,他对文章中预言的未来深感困扰。艺术家更是深受影响,从后来许多小说和电影(如《黑客帝国》)中,都能看到这篇论文的影子。

  就在论文发表后不久,联邦调查局收到一条线索:知情人说,此文的写作风格和论点,很像他的弟弟泰德·卡辛斯基的手笔。1996年4月3日,卡辛斯基在蒙大拿州被逮捕,他的小木屋里堆满了制作炸弹的原料。至此,邮包炸弹案告破。

  卡辛斯基的人生很不寻常。他生于1942年,从小就有超人的数学天分:16岁被哈佛大学数学系录取,20岁进入密歇根大学读数学博士,几个月就拿到了博士学位。指导教授说他的博士论文十分深奥,全美只有十几个人能看懂。25岁时,他被加州大学伯克利分校聘为助理教授,是该校史上最年轻的教授。

  他在伯克利待了不到两年就辞职了,从此离群索居。他在蒙大拿州的山区盖了间小木屋,屋里没有电灯、电话、自来水。平日他吃自己种的菜和猎捕的动物,晚上点蜡烛看书,砍柴做饭取暖。被捕后,他拒绝律师为其辩护。1998年他被判终身监禁,不得保释。

  卡辛斯基的这篇论文值得细读,它对人类现状和未来的分析描述令人震撼。作者的第一句话就是:“工业文明带给人类的是极大的灾难。”他认为,新技术的最大问题就是剥夺人类的自由。“自由与技术进步互不相容,技术越进步,自由越后退。”

  作者假设,人类面对高智能机器只有两种选择:一是允许机器在没有人类监督的情况下作出所有决策,二是人类保留对于机器的控制。前一种情况下,人类会沦落到完全依赖机器的地步,只能接受机器的决策。随着社会问题越来越复杂,而机器越来越聪明,人们已不能关上机器,关上就等于自杀。第二种结果也很糟。这种情况下,一般人也许可以控制自己的私人机器,如手机、私人电脑,但大型机器系统的控制权将落入一小群精英之手。大众成为多余的人,成了体系无用的负担。

  退一步说,如果人工智能没有取得成功,人的工作还是必要的,但当机器接管了大部分具有真正重要意义的工作以后,留给人类的都是一些相对不那么重要的工作。

  卡辛斯基的结论是:未来要么人类无法幸存,要么个人空前地依赖大型组织,空前地“社会化”;人类的生理和心理将是被设计和改造的结果,而不是自然的产物。他认为,唯一的解决方法就是放弃科学技术,“并勇敢地承受其后果”。

  这篇论文发表于20多年前。如今互联网和人工智能都大大进步,人类对于新技术的入迷简直到了无以复加的地步。一项新技术还在实验室中,人们就已开始计划如何占领尽可能多的市场。我们不能不担心,卡辛斯基的预言似乎正一步步变成现实。 (书 虫摘自《财新周刊》2017年第37期)

发表评论

电子邮件地址不会被公开。 必填项已用*标注

*