华人学者获AI顶会IJCAI 2022年奖项，揭示AI鲁棒性、隐私性等内在联系
source link: https://www.mittrchina.com/news/detail/10715
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
麻省理工科技评论-华人学者获AI顶会IJCAI 2022年奖项，揭示AI鲁棒性、隐私性等内在联系
近日，作为 AI 领域最主要学术会议之一的国际人工智能联合会议（International Joint Conferences on Artificial Intelligence Organization，IJCAI），颁布了其 2022 年度的部分奖项。
IJCAI 是一场 AI 研究人员和从业者的盛会，旨在传播有关 AI 领域的尖端科学成果和教育，形式包括会议记录、书籍、录像和其他教育材料等。
其始于 1969 年，之前每两年召开一次，后从 2016 年开始，改为一年一次。举办地点并不唯一，今年将在奥地利维也纳举行，时间为 7 月 23 日至 7 月 29 日。2024 年的 IJCAI 将在中国上海举行。
然后，本次 IJCAI 公布的奖项包括计算机与思想奖、卓越研究奖、约翰·麦卡锡奖、唐纳德·沃克杰出服务奖。
其中 2022 年的计算机与思想奖由美国伊利诺伊大学厄巴纳-香槟分校（University of Illinois at Urbana-Champaign，UIUC）计算机科学系教授李博获得。
IJCAI 表示：“该奖项主要颁发给 AI 领域的杰出青年科学家。”奖项名称来自《计算机和思想》（Computers and Thought）一书。
据了解，李博主要是由于在揭示 AI 鲁棒性、隐私性和泛化性之间的内在联系方面所做的贡献而获奖。其研究展示了 AI 模型更易受到恶意攻击的薄弱点及如何使用数学工具提高 AI 安全性。
根据其个人网站信息，她的“研究重点是机器学习、计算机安全、隐私和博弈论，大部分工作旨在探索机器学习系统对各种对抗性攻击的漏洞，并致力于开发现实世界的鲁棒性机器学习系统。”
李博还提到，她所在的安全学习实验室（Secure Learning Lab，SL2）的研究可直接应用于计算机视觉、自然语言处理、音频识别和隐私保护机器学习系统等领域。
值得注意的是，近年来，AI 在我们现实生活中的使用越来越广泛，几乎“侵入”社会各行各业。像自动驾驶、智慧医疗、智能制造等领域。
但 AI 的实际应用也引来人们对安全和隐私的担忧。比如，使用人脸等生物信息进行身份识别，可能导致隐私泄露风险。而一些不法分子可能伪造信息“欺骗”AI，让其做出错误判断，进而影响人们的人身和财产安全。
以自动驾驶为例，攻击者或可通过干扰相机、雷达影响自动驾驶系统识别道路上的标识牌等物体，自动驾驶系统可能会把“停止”识别成“限速”，从而增加了自动驾驶的危险性。这也是该行业一直以来面临的“安全度不足”问题。
因此，基于安全和隐私的可信机器学习成为当前 AI 领域研究的一个重点。如今已有自动驾驶企业正在利用李博的研究来增强它们 AI 模型的能力。
另外，值得一提的是，李博在 AI 领域的一项研究成果还成为英国伦敦科学博物馆永久藏品。
此成果主要体现了 AI 鲁棒性的重要性。李博表示，现在研究的抵抗攻击手段，仍会遭受新攻击方法的挑战，而可验证鲁棒性或可终止“攻防循环”。
她还提到，真实世界里的数据一直处在动态变化之中，而很多 AI 模型都是在静止数据集上训练的，其能否表现出较高的泛化性就是需要面对的一个重要问题。
不只是出色的理论研究，李博的一些科研成果已经进行了实际应用。比如用来保护 IBM 的 AI 系统 Watson、亚马逊的智能音箱 Alexa、腾讯的微信等。
另外，由于在 AI 领域的贡献，在本次获奖前，李博已经获得众多奖项。
凭借在对抗机器学习方面的研究，李博入选 2020 年《麻省理工科技评论》“35 岁以下科技创新 35 人”（MITTR 35）全球榜单。上榜理由为“她通过设计新方法来‘愚弄’ AI，进而使 AI 变得更安全。”
除此之外，她还获得了 2022 年斯隆研究奖、UIUC 颁发的院长研究卓越奖、C.W. Gear 杰出初级教师奖，并得到 Meta（原 Facebook）、亚马逊、英特尔等大型科技公司颁发的奖项。其还有着多项顶级会议的最佳论文奖。
最后，再介绍下本次获得 IJCAI 奖项的另外 3 位科学家。
IJCAI-22 卓越研究奖授予了加州大学伯克利分校工程学教授斯图尔特·罗素（Stuart Russell）。获奖理由为在“贝叶斯逻辑、有限理性和优化理论、不确定环境中的学习和推理策略方面有着基本贡献”。
而关于约翰·麦卡锡奖，IJCAI 表示：“该奖旨在表彰获得博士学位后 15~25 年之间在 AI 领域做出卓越贡献的研究人员。”奖项以 AI 领域创始人之一的约翰·麦卡锡（John McCarthy）的名字命名。本次获奖人为布朗大学计算机科学教授迈克尔·利特曼（Michael Littman），其在强化学习和 AI 规划方面的研究，为未来处理可观察性和形式化的状态抽象工作铺平了道路。
唐纳德·沃克杰出服务奖于 1979 年设立。2022 年的该奖项由德国弗莱堡大学教授伯恩哈德·内贝尔（Bernhard Nebel，已于今年退休）获得，以表彰其整个职业生涯为 AI 领域所做的广泛和重大贡献。
-End-
参考：
https://www.ijcai.org/awards
https://aisecure.github.io/
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK