沈向洋创清华历史，成首位视频聘任的清华教授，呼吁进行可解释的AI研究

本篇文章1310字，读完约3分钟

今天上午，离开微软的沈向洋正式续聘清华，并在清华上了他的第一堂课。

沈向洋去年11月离开微软后，就在几天前的这个星期，沈向洋重新聘用了清华大学，他在清华的头衔是清华大学高级研究院的兼职教授。

清华大学校长邱勇表示，这是清华大学历史上首次以视频会议形式举行任命仪式，校长还在网上发了一封任命书。

任命仪式在中国和美国两地结束，校长和教职员工在北京的清华大学I型大厅，沈向洋博士在西雅图的清华大学全球创新研究院(gix)大楼127室。

邱勇校长还开玩笑说:“这是我第一次以这种形式与向阳博士见面。向阳博士在银幕上很帅，比以前更帅了。”

“再获任命”的原因是，这实际上是沈向洋在清华的第二次任命仪式。2005年，沈向洋第一次被聘为清华大学高级研究院的双教授已经有15年了。

任命仪式结束后，在zoom直播平台的帮助下，沈向洋做了一个主题为“工程责任人工智能”的讲座。

沈向洋提到，人工智能目前用于各行各业，人们使用人工智能来做决定。但是现在，人工智能已经做出了我们不理解的决定。

许多人工智能系统就像黑匣子。人工智能做决定，但是我们不知道它为什么这样做。

因此，负责任的人工智能是非常重要的，每个创建人工智能的人都应该知道一些人工智能创建的原则。

在那之后，沈向洋关注于可解释的人工智能和人工智能偏见

至于可解释的人工智能，沈向洋举了一个人工智能区分哈士奇和狼的例子。

在以下六张照片中，只有左下角的一张被错误地识别。

但事实上，人工智能可能无法通过我们所理解的动物形状来识别。它的识别方法可能是这样的:

艾不是由画中的动物部分来判断的，而是由画中除了动物以外的部分来判断的。

因此，可解释的人工智能是非常重要的，否则你永远不会知道人工智能可能使用这种欺骗的方法来区分哈士奇和狼。

至于偏见，沈向洋举了一个性别偏见的例子。

人们发现，在人脸识别系统中，所有不准确的照片都是女性，没有化妆，留短发，表情严肃，而其他照片相对更准确。

然而，在单词嵌入中，问题更加明显。

在同一段落中，当文本中使用诸如她/她这样的女性词汇时，人工智能判断该文本描述了教师；

当她/她变成一个像他/他/他这样的男性词时，人工智能会判断这篇文章描述的是一个律师。

一个典型的例子是“他很聪明，她很可爱。”

在单词嵌入系统中，当主语是“她”和“他”时，出现的单词是不同的:

她是“姐姐”，他是“哥哥”；

她是“护士”，他是“医生”。谈到这一点时，沈向洋吐了出来，说，你没发现什么不妥吗？

她是一个“家庭主妇”，而他是一个“程序员”；

她说“天哪”，他说“世界贸易联合会”；

她是“女权主义者”，而他是“现实主义者”；

她“怀孕了”，而他有“肾结石”；

……

这是单词嵌入的偏差，人们经常不加思考就直接使用它。

最后，沈向洋教授总结说，我们是与人工智能共存的第一代人，我们必须决定如何构建人工智能以及如何使用人工智能。我们能接受一个人工智能做决定而我们人类无法理解的世界吗？

还有一件事

最后，沈向洋还表达了他对nlp的期望。

他说简历现在仍然很热门，但他对未来十年的nlp持乐观态度:

"懂得语言的人拥有世界."

这是沈向洋整个旅程中唯一的中文句子。

来源：零点娱乐时刊