位置:编程技术网 > 研发管理 > 正文 >

人工智能需要重置?看AI应用中的几大问题(4)

2018年11月18日 20:09来源:未知手机版

王家禧,qq空间个性日志,学好高中数学的方法,河北遵化,南笙妹妹,咏柳古诗

Karen 指出:

当我们试图修复现有系统以最小化这种偏见时,关键是要在不同的数据集上进行模型训练,以防止将来可能会出现危害。

由于错误模型的潜在风险遍布企业和社会,企业没有治理机制来监督不公平或不道德的决策,而这些决策将无意中影响最终的消费者。这是伦理学的讨论范畴了。

日益增长的隐私需求

Karen 和我都来自雅虎。我们与强大的研究和数据团队合作,在平台上将用户行为置于上下文中进行研究。我们不断研究用户行为,了解他们在音乐、网站首页、生活方式、新闻等众多属性上的倾向。当时,对数据的使用没有严格的标准或规定。和今天类似,隐私已经降级到用户被动接受平台的条款和条件。

最近 Cambridge Analytica 和 Facebook 的丑闻把个人数据隐私问题推到了风口浪尖。信贷机构 Equifax 以及 Facebook 和 Google+ 最近发生的数据泄露进一步加剧了这一问题的严重程度。随着 AI 继续修复自身的缺陷,所有权、许可和错误语境化等都让它成为一个成熟的话题。2018 年 5 月 25 日生效的欧洲通用数据保护条例(GDPR)将改变组织的游戏规则,特别是那些收集、存储和分析个人用户信息的组织。它将改变经营多年的商业规则。毫无节制地使用个人信息已经走到尽头,因为企业现在意识到,数据的使用和所有权将受到重大限制。

我们在基于位置信息的广告中看到了这个问题的早期效果。这个价值 750 亿美元的行业,预计在 2021 年之前将以 21% 的年复合增长率增长,但仍将被 Facebook 和谷歌垄断,他们将获得大部分收入。现在,GDPR 提升了他们的风险,让这些公司承担起更多的责任:

这种风险非常高,以至于广告商必须非常确信他们提供的内容是合规的。人们对于什么会构成违规似乎存在着普遍的困惑,人们正在采取广泛的措施,直到能够准确地了解什么才是合规为止。

尽管监管最终会影响到营收,但就目前而言,移动和广告平台行业也正面临越来越多的审查,这些行业多年来一直在从消费者身上赚钱。这一点加上围绕既定做法所进行的审查将迫使这个行业在收集、聚合、分析和共享用户信息方面做出改变。

完善隐私制度需要时间、重大的投资(这是一个需要给予更多关注的话题)以及心态的改变,这将影响组织的政策、流程和文化。

人工智能与伦理的必然耦合

人工智能的主要动因是确保社会效益,包括简化流程、增加便利性、改进产品和服务,以及自动化检测潜在危害。向后者妥协意味着已经准备好用制造工艺、服务、评估解决方案、生产和产品质量的更新结果来衡量投入和产出。

有关人工智能的讨论和报道还在继续, 人工智能 和 伦理 这两个词语的结合揭示了这个日益严重的问题,即人工智能技术所带来的社会危害将考验着人类的良知和价值观。

除了个人隐私问题,如今,我们也看到了一些近乎不合情理的创新示例。如前所述,Rekognition 和 Face++ 被用在执法和公民监控中,但这项技术被认为是有问题的。谷歌决定向国防部提供人工智能技术,用于分析无人机镜头,目标是创建一个复杂的系统来监控整个城市,并创建了一个名为 Project Maven 的项目,谷歌员工对此进行了抗议游行。这家科技巨头还在为中国打造 蜻蜓计划(Project Dragonfly) ,这是一个受审查的搜索引擎,能将个人搜索与身份联系起来。

决策者和监管机构需要引入新的流程和政策,以恰当地评估人工智能技术的使用方式、用途以及在这个过程中是否会出现意外的后果。Karen 指出,决定在人工智能算法中使用数据时需要考虑这些问题:

如何检测敏感数据字段并把它们匿名化,同时保留数据集的重要特征?我们在短期内能以合成数据作为真实数据进行训练吗?在创建算法时,我们需要问自己一个问题:我们需要哪些字段来交付我们想要的结果?此外,我们应该创建哪些参数来定义模型的 公平性 ,这是否意味着会区别对待两个个体?如果是这样,为什么呢?我们如何在系统中持续监控这一点?

本文地址:http://www.reviewcode.cn/yanfaguanli/10347.html 转载请注明出处!

今日热点资讯