U of T 新闻
  • 遵循Ť新闻ü

技术与平等:ruha本杰明,U牛逼的专家来解决棘手的问题,在第一施瓦茨赖斯曼事件

ruha本杰明,非裔美国人研究的普林斯顿大学的副教授,是在施瓦茨赖斯曼技术研究所和社会的就职研讨会(ruha本杰明提供照片)发表主题演讲

技术继续以惊人的速度发展,有前途的一些世界最大的问题的解决方案。

但快速创新也会造成自身的问题,从现有的加重社会经济鸿沟创造的产品,歧视某些群体 - 就像不承认与肤色较深的用户面部识别技术.

来自全国各地500彩票网的专家 - 从生命伦理学家对艺术家和人工智能的研究人员 - 是在6月11日走到一起在数字时代探讨这些问题和其他问题的公平和公正,新创建的施瓦茨赖斯曼技术研究所和社会的就职研讨会。

活动的主题演讲将由ruha本杰明,非裔美国人研究的普林斯顿大学,其研究探索的科学,技术和医学社会问题的副教授交付。

“U牛逼的专家都在探索社会和技术之间的交叉点,从大范围跨学科的大学,说:” 维韦克戈埃尔,U的研究和创新T公司的副总裁。

“本次研讨会汇集了这些重要的对话转变成一个公共论坛 - 设置阶段为交互和奖学金,我们期望发生在施瓦茨赖斯曼技术研究所和社会的难以置信的范围。” 

该研究所是由支持 一个历史性的,千万100 $的礼物 从 杰拉尔德·施瓦茨 和 希瑟·瑞斯曼。首先是下周的就职活动,学院将建立动态公众参与的论坛,通过活动稳步日历,其中包括备受瞩目的扬声器活动,讲习班研讨会和大型国际会议 - 同时促进领域的跨学科研究与合作从科学到人文。 

本杰明鼓掌牛逼研究所的新ü为应对大问题硬碰硬在其第一次研讨会。  

“我爱他们正在从优先考虑社会技术的关系权的事实GET-去,而不是事后的想法,”她说。 

ü效应的T新闻 最近与本杰明谈到了即将发生的事件和她的公平和创新的意见。


你会在事件谈论?

我要去寻找在创新和不平等之间的关系。我希望我们能够获得整个的要点之一是,如果我们做一切如常,并没有采取认真地存在于与技术进步比肩社会不平等现象,我们在默认情况下会重现凭借现有的不平等在创新搞。

那我倾向于借鉴的例子之一是看硅谷 - 地理,人口统计数据。的事情的发生出现在过去十年左右的一个是住房市场危机有与高新技术产业的发展相结合,确实升级。有一个在三学童谁遇到住房不安全,这是一种委婉说法实际上是无家可归的,它是相对于该承诺,它的投资在一个更美好的未来,但未来分层,一个行业的发展。 

我想那些谁参与所有的创新部门承担他们的责任的一部分的事情之一就是要认真想想 - 合作与谁拥有专业知识在社会科学和人文学科,要能该机构整合人知识纳入其工作。

如何不公平内置的技术设计?

的事情我试图通过我的作品画出来,在谈话与其他许多学者之一,是看社会投入到技术 - 所以开始的故事早,对社会秩序的思想,人口的人谁是设计该技术,以刺激行为的东西,真正的经济结构塑造了我们再想起来作为一个必然的发展。

的事情我试图去回归自然一个是这种想法,技术长在树上。我们来看看我们在这些技术嵌入。

什么是怎样的偏见中内置了工艺设计的例子吗?

一个例子很多人都会有遇到YouTube上皂液器不能识别肤色较深。这是一个简单的自动化,因为通过红外线技术,其设计,光不反射出皮肤较黑,所以肥皂不出来。一方面,这似乎是一种歧视肤浅的,无关紧要的形式。如果你去YouTube上,并期待“种族主义皂液器,”即使两个人 - 一个浅色皮肤,一个黑皮肤的 - 谁是证明它是通过视频傻笑,因为它似乎无关紧要。 

但是,当我们再缩小一点,想想那些相同的设计决策是如何被放大,我们认为关于自动化系统所决定谁应该在司法系统接收假释。在这里你有自动化的一个更复杂的形式,这是说低风险或高风险。此基础上,其判断要么释放某人或给他们一个较长的句子。

在这种情况下,比赛是从来没有明确设计的一部分,但所有这一切都引发人的风险程度的问题 - 他们的邻居是否具有高犯罪率,人们在他们的家庭是否失业,他们是否曾经去过被捕前 - 由种族主义的做法和程序状,他们曾经得到的地方,该算法决定,如果他们的风险点之前。

我们发现通过 这些系统的审计 是黑色的个体更可能被编码为较白的人​​风险较高。我们发现随着时间的推移,该白色个体更容易重新犯罪不是谁被编码的黑色个人“高风险”。

真正的外卖我希望与人讨论的一个是公共决策的私营部门发生的方式。受影响最严重的人没有发言权,以及谁正在被具有这些现实生活中的影响,这些设计决策个人未参加表决。我认为,我们必须变得更加透明,并在技术,我们制裁方面有更多的民主进程。

为什么你认为有公共活动和讨论,谈论公平和创新的问题,这一点很重要?

这些对话非常重要,因为它影响着每一个人,所以少数人拥有的技术和他们的进步,这是承诺作为通用公共利益真正的发言权。

但也超越谈话 - - 这是过程的一部分人的更大的品种,使我们真正想在谁有权条款一天到一天的过程实际上是说,“让我们继续和设计”或“我们不能这样做。”

这些机制和参与,必须要诚实地评估,如果我们想要做的不仅仅是谈论更多转化。

什么是教育在各地的股权和创新对话的角色?

我们要怎么过的事情在未来,我们厂在教育的种子。最有可能的,当我们继承过去的教育方式,我们让他们去,教育往往是在我们重现不平等的主要机制。 

因为这样,我们设计了教育系统本身,过于频繁再现的不平等。但它也意味着,如果我们要更加体贴,勤奋,有远见的我们如何教育下一代,它也可以成为更大的公平和正义的机制。 

特别是相对于技术,我们有我们的方式结构教育方面做的主要事情之一是没有关于平等和包容,以特定的学科限制的对话。它不应该仅仅是社会科学和道德的范围,并远离垄断在这些不同领域。谁正在接受培训,以实际设计技术的人也需要一个工具包,使他们能够在大约公平和包容这些问题的思考。 

我们在过去几年找到事情之一是许多科技工作者正在提高他们的声音质疑各种各样的事情,他们在工作的公司和组织生产。他们走出去,他们上访,他们被命名自己良心拒服兵役。有高科技产业,其中有关于这些问题日益意识内的整体运动 - 而且,如果我猜的话,我会觉得这些人接触到这些问题,这些问题作为大学生通过他们的培训课程。我不认为这是在工作中发生的顿悟。这些事情已经渗透。

腕表采用ruha本杰明在CTV采访时

了解更多关于施瓦茨赖斯曼技术研究所与社会,在这里观看研讨会

 

新闻