学习时间：20211010–20211011
学习资源：如标题所示文献
学习内容：当前进度为前三章
学习说明：主要是对该文献进学习理解以及框架总结
学习小结：二型模糊系统的理解上存在较大问题，关于降型器
An Explainable Artificial Intelligence Approach Based on Deep Type-2 Fuzzy Logic System
摘要
-
阐述现有技术的问题：复杂的AI系统缺少透明度，而高维输入的系统解释性也困难，对于受监管应用的有效性降低
-
提出新的解决方法并阐述优点：将深度学习的预测能力与区间2型模糊逻辑系统的可解释性相结合，提出了一种新的人工智能系统
-
实现结果与其他方法的比较：阐述该模型的实现结果
CH1 介绍
先介绍什么是人工智能以及对其好处进行概括，再对其应用进行描述并说明在应用中的弊端，强调解决人工智能系统缺乏透明度的问题，需要有意义的解释，因此出现了相关的新的研究方向，还有很多方面的挑战，针对这些挑战，最后提出本文将探索一种利用深度学习和二类模糊逻辑系统的结合来实现可解释的人工智能。
Aims of the Thesis：将深度学习技术的预测能力和嵌入特征选择能力与模糊逻辑系统的可解释性相结合
Thesis Layout：共10章，慢慢学吧
CH2 可解释的人工智能（XAI）
- 阐释什么是XAI以及为什么需要XAI：透明度、公平性、交互性、信心（可靠性）、因果关系（相关性）
- XAI的目标：创建可解释的模型，在保持高精确度的同时提供可解释性，且解释性不局限于专家，也针对普通用户
- 一些介绍以及后文布局：介绍提出的实现XAI的3种方法，再提出本文实现XAI的第4种方法
1.<深度解释>
- 什么是Deep Explanations：修改现有深度学习模型以增加可解释性
- 实现方法： ①模型简化：规则提取（为所有层提取规则，再合并成规则集，也有其他方法）、从神经网络提取决策树
②特征相关性（计算输入特征对最终输出的重要性）：深度泰勒分解、分层关联传播、Deep LIFT
2.<使用可解释的模型>
①线性/逻辑回归
②决策树
③贝叶斯模型
④K-Nearest Neighbours(KNN)K-最近邻
⑤模糊逻辑
①②③④对于大量特征的输入，都会变得难以解释
3.<模型归纳>（看不懂这部分）暂且跳过
①Local Interpretable Model-Agnostic Explanations (LIME)
②Anchor Local Interpretable Model-Agnostic Explanations (aLIME)
③SHAP (SHapley Additive exPlanations)
④partial dependence plot (PDP)
⑤ICE (Individual Conditional Expectation)
⑥Interpretable Mimic Learning
4.<混合深度学习和模糊逻辑系统>
首先抛出使用清晰逻辑IF-THEN规则的问题弊端，然后提出将深度学习等高性能人工智能模型与模糊逻辑系统相结合能够缓解上述讨论问题，并列出该方法的优点，后续对一些深度学习和模糊逻辑结合的技术方法进行介绍。
①Fuzzy Restricted Boltzmann Machine 模糊受限玻尔兹曼机
②Fuzzy Deep Neural Network(FDNN)模糊深度神经网络：提高深度学习性能不提高可解释性
③Fuzzy Deep Learning(FDL)模糊深度学习：多个缺点
④Takagi Sugeno Deep Fuzzy Network (TSDFN)：规则爆炸、一些无法解释
⑤Fuzzy Deep Belief Network (FDBN)模糊深度置信网络：不可解释
⑥Active Fuzzy Deep Belief Network(active FDBN)：FDBN性能提高，仍不可解释
⑦Pythagorean Fuzzy Deep Boltzmann Machine (PFDBM)毕达哥拉斯模糊深玻尔兹曼机
CH3 模糊逻辑（FL）概述
关于一型模糊逻辑系统(FLS)和二型模糊逻辑系统(FLS)
1.<不确定性>
①规则词语含义的不确定（不同人群的定义不同）；
②规则中使用结果的不确定性（专家或者数据的得来的知识并不是所有专家都同意）；
③激活FLS时测量值的不确定性（噪声/系统局限性）；
④数据的不确定性（与3中描述些许对应，数据不一定可靠）
2. <一型模糊系统Type-1 Fuzzy Logic Systems>
①语言变量Linguistic Variables
②隶属度函数Membership Functions
③模糊集合运算Fuzzy Set Theoretic Operations
④规则Rules
⑤模糊器fuzzifier：单值/非单值（用于输入有噪声或者不确定的情况）
⑥模糊推理机Fuzzy Inference Engine：近似推理将模糊集映射到模糊集
⑦解模糊器Defuzzifier
3. <二型模糊系统Type-2 Fuzzy Logic Systems>
- 一型模糊逻辑系统在建模和处理不确定性上能力有限，一型隶属度函数加入不确定性后隶属度值不再是清晰值，因此用二型隶属度函数描述二型模糊集合，其为三维隶属度函数。二型模糊集合是一型的扩展。
- 关于理解二型模糊系统的其他资料参考说明：该文献是英文嘛，有些我不太能直观理解，因此找了些中文的资料参考帮助，基本上都为各文献内的总结性内容，因此也没有标具体的引用出处，只是简单列出来。
[1]https://blog.csdn.net/FrankieHello/article/details/108449392
[2]生龙. 二型模糊系统理论及应用[D].电子科技大学,2012.（第一章绪论理解二型）
[3]伍冬睿,曾志刚,莫红,王飞跃.区间二型模糊集和模糊系统:综述与展望[J].自动化学报,2020,46(08):1539-1556.（感觉这个讲区间二型挺易理解且清晰的）
①一般二型模糊集合General Type-2 Fuzzy Sets
- 当环境过于模糊，即使是隶属度是清晰的，也使用二型模糊集合
- 二型模糊系统的隶属函数隶属值不再是单一的清晰值而是模糊集
- Mendel给出的各术语说明在中文文献[2]中也有相应说明，具体可搜索查看
②基于一般二型模糊集的z-切片z-slices Based General Type-2 Fuzzy Sets
③区间二型模糊集合Interval Type-2 Fuzzy Sets(IT2FS)：具有最大的不确定性，将二型模糊集表示模糊逻辑系统输入和输出的优点：
（1）可以建模并处理FLS输入和输出相关的语言和数值不确定性
（2）可以使规则库缩减，当FLS输入数量增加，规则缩减将会更多 ?
（3）二型FLS可以被认为是许多不同嵌入式一型FLS的集合 ？
（4）二型可以比一型建模更复杂的输入-输出关系，提供更好的控制响应
④区间二型模糊系统Interval Type-2 Fuzzy Logic Systems
模糊降型是一型模糊系统解模糊的扩展，常用的三种降型算法：重心法、顶点法和集合中心法。（具体的不太明白，后续再查找资料）
⑤降型器和去模糊Type-Reduction + Defuzzification
KM（Karnik和Mendel）算法不太明白，暂且如此，脑壳大了