给我们发电子邮件hello@www.ex-todostenemosuno.com.

算法是否有偏见?

算法用于现代社会在线。虽然它们显得中立,但非常有效,但它们可以偏见。

什么是算法?

一个算法是计算机遵循的一组指令。一个例子是谷歌搜索算法:您输入一个单词进入搜索栏,谷歌查找与您所写内容最相关的结果。Facebook使用算法来选择帖子上的帖子,并以什么顺序。

算法有什么问题?

算法通常很好,因为它们提供了达到准确结果的非常有效的方法。标准的Google搜索需要不到一秒钟。但是,它们并不完美。他们似乎是中立的,因为他们遵循一套指示,但实际上它们可以非常偏见。偏见意味着对某人或一群人偏好的偏好。

算法如何偏见?

例如,美国的一些学校使用算法来判断教师的表现。如果一位老师的学生考试成绩很差,这位老师就会被解雇。这本书数学毁灭武器给出了Sarah Wysocki的例子。根据所有莎拉的过去的学生,她是一位好老师。一年,莎拉收到了一堂课,这是前一年真正高的成绩,可能是通过作弊。然后,次年,这些学生得分远得多,并且莎拉被解雇,因为算法给她一个非常低的分数。这是一个不公平,因为她是一位好老师。

算法甚至应该用来判断老师吗?

一般来说,判断老师就在给定年份的少数学生在给定年份做些什么是不足以判断老师是否好。有很多因素可能会影响学生的性能,例如他们的家庭情况。在此之上,判断成绩的教师为教师创造了激励,帮助他们的学生欺骗获得更高的成绩。然后,那些以人为高年级获得课程的教师必须尝试匹配错误等级的不可能的任务。

算法有什么大问题

问题是算法似乎是中立的。然而,很多算法可以再现人类偏差。这是特别危险的,因为算法无法纠正自己。教师算法背后的人只能说坏老师已经离开了。但事实上,教师留下可能是好的,比如莎拉。特别糟糕的是这个过程没有开放:莎拉无法上诉决定。算法可以具有不公平的结果并加强不平等。

我们如何改进算法?

改进算法的第一步是知道算法如何工作!我们甚至不知道谷歌的搜索算法如何工作,或Facebook的。那么,我们应该更加密切地研究结果:例如,教学算法是否消除了好老师?总的来说,算法非常有用,但我们需要更加关注他们的偏见。

Antoine Levie.

查看所有的帖子

发表评论

您的电子邮件地址不会被公开。必需的地方已做标记*

Baidu
map