时间：2021年10月21日(本周四) 09: 30
地点：望江校区基础教学楼B座318实验室
研读成员：高雯雯 陈富秋
Part1
研读成员：高雯雯
分享内容：
[1]Gomez O, Holter S, Yuan J, et al. AdViCE: Aggregated Visual Counterfactual Explanations for Machine Learning Model Validation[J]. arXiv preprint arXiv:2109.05629, 2021.
[2]Wang J, Zhang W, Yang H, et al. Visual Analytics for RNN-Based Deep Reinforcement Learning[J]. IEEE Transactions on Visualization and Computer Graphics, 2021.
论文简介：
[1]随着机器学习模型的广泛应用，人们有必要理解决策背后的原理，以确保决策的可信度、追溯模型决策失误的原因等等，这就突出了对模型可解释性和模型透明化的需求，这也是人工智能领域的关键挑战之一。为了识别偏差、过度拟合和不正确的相关性等问题，数据科学家需要工具来解释模型做出这些决策的机制。本文实现了一个指导用户进行黑盒模型的调试和验证的可视化分析工具AdViCE，并通过一个案例分析展示了AdViCE的功能和限制。
[2]深度强化学习（DRL）的目标是训练一个自动Agent与预先定义的环境交互。基于递归神经网络（RNN）的DRL已被证明具有优越的性能，因为RNN可以有效地捕捉环境的时间演化，并让Agent以适当的动作做出响应。然而，人们对RNN如何理解内部环境以及随着时间的推移记住了什么知之甚少，揭示这些细节对于深度学习专家理解和改进DRL模型极其重要。本文提出了一个可视分析系统DRLIVE，用于有效地探索、解释和诊断基于RNN的DRL模型。DRLIVE专注于为不同的雅达利游戏训练DRL Agent，目标是完成游戏情节探索、RNN隐藏/细胞状态检查和交互模型扰动三项任务。使用该系统，人们可以通过交互式可视化灵活地探索DRL Agent，然后通过一组度量对RNN隐藏/细胞状态进行优先排序来发现可解释的RNN细胞，并通过交互式扰动其输入来进一步诊断DRL模型。本文还通过与多位深度学习专家的具体研究验证了DRLIVE的功效。
Part2
研读成员：陈富秋
分享内容：
[1]Junxiu T, Yuhua Z, Tan T, et al. A Visualization Approach for Monitoring Order Processing in E-Commerce Warehouse[J]. IEEE Transactions on Visualization and Computer Graphics, 2021.
[2]Zikun D, Di W, Xiao X, et al. Compass: Towards Better Causal Analysis of Urban Time Series[J]. IEEE Transactions on Visualization and Computer Graphics, 2021.
论文简介：
[1]现如今，仓库的运行效率对电子商务的发展至关重要。然而，由于入库订单数量多、延迟订单模式的模糊定义以及订单处理优先级的复杂决策，对传统方法来说，实时监控、分析和操作订单处理是一项挑战。本文基于数据驱动的方法，提出了OrderMonitor，一个基于流数据仓库事件数据的可视化分析系统，帮助仓库管理人员实时分析和提高订单处理效率。基于沉降隐喻的视图设计，便于实时监控订单，提示潜在的异常订单。我们还设计了一种新颖的可视化方法，基于Gantt和Marey’s graph描述订单处理时间线。这样的可视化有助于管理人员深入了解订单处理的过程，并发现延迟订单的主要原因。此外，本文还提供了一个评估视图，以帮助用户检查订单细节和分配优先级，以提高仓库处理性能。最后，本文基于真实的仓库数据集，对OrderMonitor的有效性来进行评估。
论文链接：https://zjuidg.org/source/projects/warehouse/OrderMonitor.pdf
[2]基于城市传感器收集的时空序列，我们能够从中观察环境污染、交通拥堵等城市现象。然而，从这些观察中提炼因果关系来解释城市现象的来源是一项具有挑战性的任务，因为这些因果关系往往是时变的，需要适当的时间序列划分来进行有效的分析。以往的方法提取了单一的因果图，但不能直接用于捕捉、解释和验证动态的城市因果关系。本文提出了一种新的可视化分析方法Compass，用于深入分析城市时间序列的动态因果关系。我们确定并解决了三个挑战:检测城市因果关系，解释动态因果关系，揭示可疑的因果关系。首先，利用格兰杰因果检验扩展的因果检测框架，得到多个随时间变化的城市时间序列的因果图。然后，设计特定视图来揭示这些因果图之间的时序变化，并支持图表沿时间变化的探索。最后，开发了一个定制的多维可视化来支持伪因果关系的识别，从而提高了因果分析的可靠性。本文基于两个案例对Compass的有效性究进行了评估，其中包括真实的空气污染和交通速度数据集，并从领域专家那里得到了积极的反馈。
论文链接：https://zjuidg.org/source/projects/compass/compass.pdf
