百道网
 您现在的位置:Fun书 > 算法霸权:数学杀伤性武器的威胁
算法霸权:数学杀伤性武器的威胁


算法霸权:数学杀伤性武器的威胁

作  者:[美] 凯西·奥尼尔(Cathy O'Neil) 著

译  者:马青玲

出 版 社:中信出版集团

出版时间:2018年09月

定  价:69.00

I S B N :9787508692067

所属分类: 大众新知(科普)  >  自然科学    

标  签:

[查看微博评论]

分享到:

TOP好评推荐   [展开]

TOP内容简介

       数据科学家凯西·奥尼尔认为,我们应该警惕不断渗透和深入我们生活的数学模型——它们的存在,很有可能威胁到我们的社会结构。
  我们生活在一个依赖“算法”的时代,它对我们生活的影响越来越大——我们去哪里上学,我是不是应该贷款买车,我们应该花多少钱来买健康保险——这些都不是由人来决定的,而是由大数据模型来决定的。理论上来说,这一模型应该让社会更加公平才是,每一个人的衡量标准都是一样的,偏见是不存在的。
  但是,正如凯西?奥尼尔书里所揭示的那样,事实并非如此。我们今天所使用的这些数学模型是不透明的、未经调节的、极富争议的,有的甚至还是错误的。*糟糕的是,数学模型和大数据算法加剧了偏见与不公。例如,一个贫困学生想申请贷款交付学费,但是银行大数据算法根据他居住地的邮政编码判断将钱带给他存在风险,因此,拒绝给他提供贷款。他因此失去了受教育的机会,而这个机会可能帮助他摆脱贫困。大数据算法做的常常只是锦上添花的事儿,有时甚至是落井下石。
  通过个案追踪,凯西?奥尼尔揭示了大数据是如何影响我们将来的,它不仅影响着个人,也影响着整个社会。这些数据评价着我们的老师、学生,筛选着我们的简历,审核着我们的贷款资格,衡量着员工的工作态度,监视着投票者,监控着我们的健康。
  凯西·奥尼尔呼吁数据模型的创造者们要对算法负责,政策的制定者及执行者们在使用这一威力极大的“武器”前应该更加慎重。但是*后,作者指出,大数据几乎掌控着我们的生活,我们应该增加对它的了解。这本书相当的重要,它让我们有能力去问一些十分尖锐的问题,帮助我们了解事实的真相,提出需要改变的地方。

TOP作者简介

       凯西·奥尼尔(Cathy O'Neil),数据科学家,mathbabe.org的博主。博士毕业于哈佛大学,主修数学专业。她曾在巴纳德学院任教,之后为私营企业服务,例如避险基金。她还在各类新型公司担任数据科学家,预测消费者购买与点击趋势。每周她都会出现在“财富记账”的播客上。

TOP目录

引文

第一章 盲点炸弹

不透明、规模化和毁灭性

第二章 操纵与恐吓

弹震症患者的醒悟

第三章 恶意循环

排名模型的焦虑与特权

第四章 数据经济

掠夺式广告的赢家

第五章 效率权衡与逻辑漏洞

大数据时代的正义

第六章 筛选

颅相学的偏见强化

第七章 反馈

辛普森悖论的噪声

第八章 替代变量和间接损害

信用数据的陷阱

第九章 “一般人”公式

沉溺与歧视

第十章 正面的力量

微目标的出发点

结束语

注释

索引


TOP书摘

  小时候,我常常盯着车窗外的车流,研究车牌号。我会把每个车牌号分解成素数,如:45=3*3*5。这叫做因式分解,是我最喜欢的研究消遣。我这个小数学迷对素数问题特别感兴趣。

  我对数学的爱好最终发展成热爱。14岁时我参加数学大本营,带回来一个心爱的魔方。数学使我彻底逃脱现实世界的混乱。经过一步步证明,数学不断发展,知识领域不断扩大。我也加入到数学领域中,上大学时主修数学,后来取得博士学位。我的论文研究代数理论,这一领域根源于我小时候爱做的因式分解。最后,我成为巴纳德学院的终身教授,该学院与哥伦比亚大学联合培养数学系。

  后来,我做了一个重大的改变。我从大学离职,到顶尖对冲基金D.E.Shaw担任数学分析专家。我离开学术界进入到金融领域,把抽象的数学理论应用到实践中。我们所做的数据分析为一个又一个账户变现数万亿美元。起初,在这新研究室研究全球经济我感到兴奋又震撼。但是,我在那儿工作一年多以后,2008年的秋天,全球金融危机爆发。

  很明显,金融危机使得我曾经的庇护所数学不仅卷入了世界问题中,还助推了其中的许多问题。房地产危机,重大金融机构倒闭,失业率上升,数学家通过运用神奇的公式成为这些问题的帮凶。而且,数学的功能特别强大,这一点我非常喜欢,一旦数学与科技结合,系统的效率会提高,规模扩大,混乱和不幸就会倍增,我现在意识到这是一种缺陷。

  要是我们当时头脑清醒的话,就会后退一步思考,数学是怎么被我们误用的,我们该如何防止未来发生同样的灾祸?但是,金融危机以后,数学新技术比以往更热门,甚至延伸到更多领域,每时每刻都在搅动着海量信息,大多数数据都是由社交媒体或者电子商务网站搜刮而来。而且,数学逐渐不再关注全球金融市场动态,而是关注我们人类。数学家和统计学家一直在研究我们的欲望、行动和消能费力。他们一直在预测我们的信用,评估学生、职员、情人以及罪犯的潜力。

  这是大数据经济,收益前景非常可观。一个电脑程序可以在1-2秒内快速扫描成千上万份简历或是贷款申请,然后整理成清晰的列表,最有潜力的求职者位居前列。这不仅节约时间,而且还公平客观。毕竟,电脑程序不像人类带有个人偏见,而只是一种处理无情数字的机器。到2010年左右,数学破天荒地介入人类事物,公众热烈欢迎数学这一工具。

  但是,我看到了麻烦。数学应用助推数据经济,但这些应用的建立是基于不可靠的人类所做的选择。有些选择无疑是出于好意。但是,其中有许多模型把人类偏见、误解和偏爱编入软件系统,这些系统日益操控我们的生活。这些数学模型像上帝一样模糊不清,只有该领域的最高牧师即数学家和计算机科学家才能明白模型是如何运作的。人们对模型得出的结论毫无争议,从不上诉,即使结论是错误的或是有害的。而且模型往往会惩罚社会中的穷人和受压迫的人,而富人因此更加富有。

  我为这些有害模型提出了一个名称:数学毁灭武器,或者简写成WMD。接下来我将用一个例子向你们阐明这种模型的破坏特点。

  这个案例和很多案例一样,出发点是好的。2007年,华盛顿特区新上任市长艾德里安?芬提(Adrian Fenty)下定决心改善本市教学质量不佳的学校。当时,几乎每两个中学生中就有一个九年级学生勉强才能毕业,只有8%的八年级学生在数学上的表现达标。市长芬提聘用教育改革者李阳熙(Michelle Rhee)担任华盛顿市教育总督。

  当时流行的理论是学生学得不够好是因为老师教得不好。所以,在2009年,教育总督李阳熙落实开除教学表现差的教师的计划。这是全美教学质量差的地区的一种趋势,而且从系统工程的角度看,这种想法非常有意义:评估教师。开除最差的教师,把最好的老师调到最有用武之地的地方发挥他们的才干。用数据专家的话来说就是,“优化”学校系统,尽可能保证提供给孩子好的教育。除了“差”教师,谁还能与此争论?教育总督李阳熙开发了一个叫作IMPACT的教师评估工具,在2009-2010学年底,华盛顿特区开除了得分垫底的2%的教师。第二年年底,又开除5%,也就是206名教师。

  华盛顿特区五年级教师萨拉?韦索基(Sarah Wysocki)似乎没有任何理由担心。她在麦克法兰中学仅任教两年就得到校长和学生家长的好评。校长表扬她对孩子专心,学生家长称她是“我接触过的老师中最好的一个”。

  但是在2010-2011年年底,韦索基得到IMPACT的评分很惨。她的问题来自一个叫作增值模型的新评分系统,该系统用于评估数学和语言技能教学的效果。这个系统算法得出的分数占她总评分的一半,并且重要性超过学校领导和社区的好评。华盛顿特区别无选择只好开除她,以及IMPACT得分在最低限度之下的另外205名教师。

  这看起来不像是政治破坏或者分数定论。该学区的这一评估办法确实有点逻辑。毕竟学校领导有可能是糟糕教师的朋友。他们可能喜欢他们的个性或是表面上的尽心尽力。糟糕教师看起来“挺好”。所以,像许多其他学校系统一样,华盛顿特区愿意减少人为偏差,更加注重分数,因为分数是根据实实在在的结果即数学和阅读成绩得出的。华盛顿特区官员承诺,分数可以清楚说明问题。分数更能体现公平。

  韦索基当然觉得这些数字极其不公平,她想知道这些分数怎么得来的。她后来告诉我说:“我认为没有人能理解这些分数。”一个优秀的教师怎么会得到如此低的分数呢?增值模型评估的到底是什么?

  她熟知,评估模型很复杂。华盛顿特区聘用麦斯迈提卡政策研究机构(Mathematica Policy Research),该机构提出这套评估体系。该机构遇到的难题是测量特区学生的进步,然后计算学生的进步或退步多少能够归因于他们的老师。这当然不容易。


TOP 其它信息

装  帧:精装

页  数:269

开  本:16开

加载页面用时:41.9943