近年来，人工智能以极快的速度发展，对我们的个人生活和职业生活都产生了许多积极的影响. 随着人工智能解决方案变得越来越强大, 人们已经开始关注与这项技术相关的伦理挑战. 公司怎样才能避免陷入这些道德陷阱呢? 关于无意识偏见，以及它在人工智能解决方案开发中的作用，我们需要了解什么?
这些问题和更多的问题将在本集的Bots中讨论 & Beyond as host 韦恩·巴特菲尔德 与ISG同事、思想领袖、文化和变革领导专家交谈 小姐Lawrence-Johnston. 韦恩和米西讨论的许多话题也在米西最近在《十大娱乐老平台》上的文章中提到: 我不是猫:人工智能的人性一面.
Transcript
韦恩·巴特菲尔德
大家好，欢迎回到Bots & Beyond. 这是我第一次在南湖的新家现场录制这一集, Texas. 我很高兴欢迎这周的客人，我新发现的地方的当地人，米西.
So hi Missy!
小姐Lawrence-Johnston
嗨，很高兴来到这里.
韦恩·巴特菲尔德
Brilliant. 很高兴你能上节目. 我知道这已经计划很久了. 我还在美国.K. 当我们最初计划这样做的时候. 所以，为了其他人的利益，Missy是ISG的同事. 她是我们的主要顾问之一. 在我看来，她是我们道德AI领域的思想领袖之一. 但我知道你做的还不止这些. So, 我要做的是, 这是我们机器人和超越者的标准, 我想请你做个自我介绍，让我们知道你是谁, what you do, and why you do it.
小姐Lawrence-Johnston
Sure. Thanks, Wayne. 我是米西·劳伦斯·约翰斯顿. 就像你说的，我喜欢，我是一个大书呆子，我对人工智能很着迷. 不断地，有很多东西要学. 但这不是我的主要关注点. 我在ISG的主要工作重点是领导我们在美洲的运营模式能力. 这就是企业的数字化运营模式，非it功能. 各种经营模式. 看看你的工作方式，你在这里做事的方式. 这就是你的运作模式. 通常文化, 或者我称之为C词，因为它对很多人来说是一个可怕的词, 是根植于你的工作方式还是你做事的方式. So, 我的激情在我的肥皂盒里, really, 我做我所做的事情的原因是真正围绕着人们和行为, and neuroscience, 以及劳动力动态和劳动力行为的心理学. So, 我真正关注的是数字技术的人性化方面, 无论是网络安全的人性化方面，还是云迁移的人性化方面, 或者只是任何类型的数字转型中人类的一面, 从传统的软件开发方式转向更IT化的业务对齐或产品模型. 这真的是让我晚上睡不着的好办法. 这就是让我抓狂的地方. 它只是试图帮助所有超级聪明的人类的一面, 像你这样的人关注的超级科技.
韦恩·巴特菲尔德
很好，很高兴听到这个消息. 我喜欢你在这些很酷的技术中关注人类的一面. 所以，这很有意义. 在ISG之前你在做什么? 让我们来了解一下背景. 所以，你现在对这一切都很好奇，但这是你过去的职业生涯中的一些东西吗?
小姐Lawrence-Johnston
你知道吗，有趣的是我从德州搬到南湖，没你那么远. 我在一家为旅游和酒店行业提供技术的公司担任首席产品和技术官, out in South Lake. 你可能正好知道我说的那家公司, 但那家公司把我调到了达拉斯, 或南湖地区, from Minnesota, Minneapolis, Minnesota. So, 在ISG之前，我实际上是一家大型医疗保健公司的战略企业转型主管, 该公司剥离了IT部门，并将其商业化. 在那之前，我在不同的生命科学技术组织工作过三到四次. So, 如果你想想所有主要的医疗保健提供者和生命科学工作, their enterprise, 内部IT部门, 我一直是支持他们的人力资源业务伙伴, 以及并购人力资源. So, 设计或有效性, 与组织和结构变化有关的一切, 由IT驱动的劳动力变化, 无论是资产剥离, or joint ventures, or any type of organizational structure; my role was to come in and make sure that, 我认为这是一种压榨人力资本的行为. 所以，你要确保你的投资回报率是最大化的. 在那之前，在私营部门工作的15年前，我在联邦政府工作. 所以我专门在美国的劳工部工作, 以及就业和培训管理局. 所以，人是我的血液.
韦恩·巴特菲尔德
这里有很多有趣的背景! Kind of public, private sector, 很明显，即使是在技术领域，我们也非常关注人的方面. 我非常想进入今天讨论的主题，关于道德人工智能. So, you know, 我觉得你有点像思想领袖, 有人就此问了我几个问题. 我真的对你说的一些事情产生了共鸣. 我知道你最近也写了一篇关于这方面的文章我们可以稍后再讨论一下, 但请告诉我你的观点:什么是道德AI? 让我们从观众开始. 然后我们从这里开始.
小姐Lawrence-Johnston
是的，我认为你知道，任何人都可以出去玩道德人工智能，对吧，或者什么是道德人工智能? 你知道，要遵守规范的标准和指导方针. 一些基本的行为准则，比如个人权利, 不歧视, non-manipulation, privacy. 但对我来说，这真的是在发展人工智能. 正如我们所考虑的测试驱动开发, 你想到的是AI的测试驱动开发, 从移情的角度来看, right? So, 你会把你的用户体验放在上面, 或者终端用户计算镜头, 考虑整个计划的生命周期, building, developing, operating, monitoring of AI or ML; do you have the right amount of diversity, 公平和包容自然地建立在那些正在发展和工作的人身上?
韦恩·巴特菲尔德
我认为这是一个很好的解释，所以我真的很喜欢. 我们听过很多关于道德的话题，偏见又从何而来呢. 你听说过偏见. Yeah. 跟我们多谈谈偏见吧.
小姐Lawrence-Johnston
那么，你们有人类参与吗? 如果答案是肯定的，我们就是行走的偏见，对吧? 我们基本上就是小黄瓜. 我们体内90%以上都是水，但我们的大脑会为我们做出预测，以保证我们的安全. 所以，我们所做的，一分钟数十亿次，就是思考和判断. 这就是我们进化的方式这就是我们聪明的原因，对吧? 这就是我们聪明的原因. 这就是我们的真实. 这就是帮助我们创造和创新的东西. 这是通过利用我们从未想过的内部预测. 这就是为什么我们是人类. Our amygdala, 现在我们来讲一点神经科学, is our fight, or flight, 或者冻结我们大脑的一部分. 杏仁核是大脑中最古老的部分. So, Wayne, as a child, you’re baby Wayne, 当你不喜欢某样东西时，你只知道该怎么做，那就是哭, or scream. 我得让别人知道我不喜欢什么. As we evolved, 我知道你有年幼的孩子，所以你可能也会和他们一起思考这个问题. As we evolve, 我们的大脑发展, 我们的前额叶皮层或PFC开始控制杏仁核. PFC的记录会对我不利, 这不会伤害我的, this is scary, this is not scary. If I see this, 这意味着如果你长这样, 这意味着如果你听起来像这样, 这意味着? 这是一个功能健全、发育完善的大脑的工作. 所以，作为一个人类，实际上就是要有这种智能来控制你的杏仁核. 如果你是人类, 这意味着你要做出判断, 你会产生偏见, 你会有偏见. 这就是我提炼偏见的方法. 有很多偏见是无意识的，但并不是恶意的. 没有malintent. 当然，我们也有自己的偏见. Specifically, 那些我们知道自己喜欢或不喜欢的事情, 我们想做或不想做的事, 这就是无意识偏见进入道德AI的原因. 你是否意识到无意识或内隐偏见? 您是否有适当的机制使其明确，并确保它不会对您的开发和部署方式产生不利影响?
韦恩·巴特菲尔德
这种无意识的偏见是无意识的? Right? It just happens. 一个企业，一个人到底该如何应对? 更不用说一个由多种无意识偏见组成的行业了. 你要怎么解决这个问题?
小姐Lawrence-Johnston
这是一个正确的问题. 这与整个企业无关. 我们稍后会讨论这篇文章, 整个企业将专注于测试过程, data governance, how you recruit, how you retain; that that's what the enterprise will do. 但这真的是群体免疫. 你必须从我的个人开始. 这是完全个人主义的. 这是非常特殊的. It's case by case. 最重要的是不要过于简化, 它是如此简单，如此容易, Wayne, but it's the hardest thing to do; and it's just to be introspective. 而是要看看你自己, 想一下你可能会做出的一些假设. 举个例子，我们最近讨论了对话式人工智能，我想是在上周吧? 我们在来回发送信号. 如果你把事情想成你谈话的代理人, or your chat bots, 随便你怎么称呼它们, 你想到的是NLP, 还有语言以及语言的触发作用. 你想一个像, 例如，你要预定一个航班, 或者你要去订机票. 这是两个非常相似的东西, 而是不同方言的文化含义, 基于你的社会经济经验, 只是基于你的世界观. 当你与CA上线时，你有四五个选择，对吧? 你无法处理你想做的事. 我想订一张机票. 选项是“您想预订吗??或者只是像这样的小例子. 你是怎么回到过去的, 当你开发, 当你处理, 当你输入数据, you're training; how do you make sure that you're taking things that are probably assumptions, 根据这些假设, 把他们扔到墙上说, 这是最好的表达方式吗? 这是语言的一个小例子? 所以，你必须保持它在你的前额皮质. Right? 不仅仅是战斗，逃跑或冻结. 这需要我所说的毅力，精神毅力. 你不能在认知上偷懒. 你必须不断地尝试去接受那些隐含普遍的假设, 把它们弄清楚, 然后在你做的每件事中尽可能地解构它. 不管是招聘, 无论是和同事一起工作, 无论是你输入的实际数据, 你永远都不会太确定，这是很难做到的一个人. 所以作为一个个体，我必须采取第二步. So, 我必须向内看, 我必须试着把这些假设弄清楚, 在他们身上戳洞. 那我就得负起责任来. So, I need Wayne to come in and say; is that the best way to approach this Missy? 我们有两种不同的生活方式. 你已经结婚生子了. I'm married too. You're a male. I'm a female. I'm a minority. 你占多数. 你来自英国. 我来自费城? 你需要这种思维的多样性, 体验的多样性, 能够真正地分解事物. 我认为这就是你获得集体免疫的原因, 如果每个人都这么做, 每个人都在梳理视野，向外寻找责任, 他们也接受这种责任, 这就是美之所在. 这就是你移动指针的方式.
韦恩·巴特菲尔德
It feels though, 好像每个人肩上都有很多负担, 以及所有与ML有关的人. 因此，总会有一些事情被遗漏. 在这一领域，技术是否可以帮助我们? 或者我们真的要依靠人们做正确的事情?
小姐Lawrence-Johnston
你知道，我认为双方都有争论，公平地说. 我想有些人会说你完全可以使用工具来解决使用工具的问题. 这是个好主意. 你绝对应该这么做. 但是这个工具仍然只能做这么多. It's, you know, 关于直觉的论证, 你的直觉会检查你的人际网络，然后变得更亲密, 很明显，随着时间的推移，我们会的. But this is the new ultra-senior leaders’ imperative; is to drive the culture change of the enterprise and the culture change of the individuals. 这意味着它们的价值, 这意味着他们的习惯, their behaviours, the mindsets, the outlook, the experiences, 我们的信念, 所有这些东西都不是很硬，也没有触感. 它仍然会回到是鸡还是蛋，个体. 该工具不会自行构建. 所以，你仍然依赖于这个人. 在我看来，这不是挑战，韦恩. 这就是机会.
韦恩·巴特菲尔德
Interesting. I like that. 我认为我们越来越依赖ML, 更广泛的团队也在成长, 偏见问题就像爆炸了一样, it gets bigger, and bigger, and bigger. 现在正是我们需要着手解决这个问题的时候. 这可能就是原因, 原因之一是, 道德人工智能和关于偏见的讨论是很多人关注的焦点. 你不可能没有注意到这是多么频繁地在公众的光下讨论. 我知道我之前提到的一件事是关于你最近关于这个主题的一篇文章. 所以，你为什么不给观众30秒的时间来解释. 当然，我会确保它在展示说明中可用. 所以，任何对阅读感兴趣的人都可以很容易地得到它.
小姐Lawrence-Johnston
Absolutely. 《十大娱乐老平台》的编辑确实问过了, “you know, Missy, 我们对此非常好奇, 数字的人性化一面. 你对人工智能的人类方面有什么看法? 特别是关于偏见和无意识的偏见?“我谈了很多关于认知失调、行为动力学以及帮助领导者从他们领导的个人身上理解自己的问题, 教他们教练. So, the article; the title always makes me chuckle. 题目是《十大赌博平台排行榜》. 而且不会剧透太多, 我会让观众们走出去，让对话继续, 但是你们必须知道——你们可能都知道, 这就是你的观众，吉娃娃对松饼. 这算不算是诱饵或诱饵?
韦恩·巴特菲尔德
I love that. 作为一个硅谷迷，我喜欢另一个，热狗/不是热狗. 很像吉娃娃/松饼. 米茜，这真是太棒了. 我很高兴我们能以邻居的身份来做这件事. 我们真的应该并排做的.
小姐Lawrence-Johnston
也许我们应该! 一开始我就想过了.
韦恩·巴特菲尔德
也许下次吧，非常感谢你们今天的时间. 真的很感激. 我相信观众们会从我们今天的讨论中获益良多. And of course, 如果有人想了解更多Missy的信息，可以在LinkedIn上联系. 我相信她收到你的来信会很高兴的.
小姐Lawrence-Johnston
Thank you so much.
韦恩·巴特菲尔德
My pleasure. And thank you. 也谢谢你的收听，我们很快就会在Bots上见到你 & Beyond.
About the host
韦恩是自动化的先驱, 在2010年开始作为RPA的早期采用者, 创建第一个企业规模的RPA操作. 他在西班牙电信(Telefonica UK)的早期挫折, 导致了许多最好的做法，现在渗透到全球各地的RPA优秀中心. 以客户为中心, Wayne还专注于客户服务转型, 并一直在帮助各品牌更加数字化地专注于他们的客户. 韦恩是在线聊天的专家, 社交媒体和在线社区, 这意味着他是利用聊天机器人的最佳人选 & 虚拟助手. 最近，韦恩专注于认知 & AI automation, 他在哪里领导欧洲的人工智能自动化实践, 帮助品牌利用这一新浪潮的自动化能力.