清华张悠慧：超越冯诺依曼模型，实现软硬件去耦合的类脑计算
报告的主要内容还是去耦合，不过在后面回答的时候提到了一种tradeoff，比较有意思：
中国脑计划与中国神经科学的未来【2018.2】
这个是个采访新闻，采访的是蒲慕明，中科院神经科学研究所所长、脑科学与智能技术卓越创新中心主任、《国家科学评论》执行主编。
闹计划去年出的指南，“继欧盟的人类脑计划、美国的大脑计划以及日本的脑/思维计划后的又一重要脑计划项目。”
欧洲，美国，日本都有了。不过要是看类脑芯片的话，德国和美国都做出来了
2016年是类脑计算机发展元年，全球同时上线3款类脑计算机，美国的TrueNorth、德国的BrainScales、英国的SpiNNaker，这些技术基于不同思路，使用不同架构。
出自新闻报道类脑芯片研究的春秋战国时代！清华北大中科院大牛联合谈进展与挑战
要理解脑是怎样工作的，我们需要三种图谱：一是“细胞类型图谱”，也就是说要鉴定各种细胞（神经元和胶质细胞）并确定它们在脑中各个区域的分布，以及每种细胞类型的分子表达模式。通过把不同细胞类型中特异性表达的分子作为标志物，我们就可以绘制第二种图谱——“连接图谱”（也就是所谓的“连接组”），连接图谱是表示脑中所有神经元相互之间连接关系的图谱。“连接组”的绘制经常被拿来与对生物体中所有基因进行测序的项目——“基因组”绘制相比较。三是“活动图谱”，它指的是表示脑中与特定状态相联系的所有神经元的放电模式的图谱。只有当“连接组”的信息与“细胞类型图谱”和“活动图谱”的信息相结合，我们才能够充分理解脑功能的神经环路基础。实际上，我认为细胞类型图谱将会先于或同时于连接图谱，在不久的将来完成
有关这里得连接认知，黄铁军老师在一次汇报中说过，他们组有一个学生研究得就是视觉细胞得连接，是真的分析人眼中细胞连接得方式，一个细胞一个细胞地取做，论文也很难发，做出来的确就厉害了。
院士大佬17年放弃美国国籍，恢复中国国籍
整体下来，因为专业方向差距还是比较大的，对于原理性的体会并不深刻，不过大佬很大方承认：
我现在自己并不做实验，因为我在实验室外还承担着许多职责，但是我会经常和我的同事讨论实验设计、数据分析以及解释。
这也是业界大佬默认得事实吧。
类脑芯片研究的春秋战国时代！清华北大中科院大牛联合谈进展与挑战
这里有一些拍的PPT，内容很有意思，尽量贴几张过来：
蒲慕明：科学界普遍的现象——很多人没有真正理解科学研究的本质
假说存在的意义，不是为了给实验“证实”的，而是用来反驳的。
假说是一种猜想（conjecture），最好的实验结果是能反驳（refute）它，从conjecture 到refutation，就完成了科研重要的一环。
证伪之后就可以表示阶段研究结束了。
符合假说的结果不能说就是证实了假说，只能说结果支持了假说，假说可以继续存在。
事实上，假说是永远无法被证实的，因为是不可能对涵盖所有实验参数空间进行所有可能的实验。
尽管精神上觉得说得很对，但是证明一个想法，对了，我们的领域一般不用prove这个词，而用effectiveness这个词，不过我们是做应用的，可能这就是理工科的区别吧。
这个导师所提出的假说，是依据目前神经科学领域一般想法的假说，是目前流行的理论和研究范式（existing paradigm）的产物，如果实验结果说明假说所预测的不正确，就说明目前领域的想法是有问题的，是需要修正的。
一个重要的假说、理论框架和范式（paradigm）能统治一个领域多年，就是因为所预测的现象与许多实验结果符合，但是迟早总会发现有某些实验结果是不符合的，不符合的结果多了，就到了推翻或革新假说的时候。
这时如果又有人提出了一个革新的修正假说，就会在这个领域造成Thomas Kuhn所说的研究范式的革新（paradigm shift）。
前面说的很符合科学证伪的调调，记得在雁栖湖的时候，信息论的老师也说过类似的话，不过下面就说出了我们常做的事情，也可能是因为理工的差异，我们做的其实反而是一种回顾式的创新retrospective.
我们一般关注的创新，做新的实验，观察新现象，研发出新技术，都是基于目前领域已有的范式。我称之为前瞻式（prospective）创新。
但是还有另一种模式的创新，是现在很少人做的，我称之为“回顾式（retrospective）”创新。
这种创新不需要提出新的假说，设计新的实验，而是用新方法或新技术去重新检验那些支撑教科书的假说、前人曾发表过的主要实验结果。
从后来来看，大佬的高度还是非常高的，我之前说的还是从应用角度出发，一些比较新的trick(不能称之为理论)，大佬是想要修改教科书的，失敬了。
突破式创新的源头常是一些特别有新颖性的想法，这种想法的出现常常是逻辑范畴外（beyond logic）的遐想和灵感，或统称为想象力（imagination）或是创新力（creativity）。
对话陈云霁：深度学习处理器之外，用人工智能指导芯片设计也渐成趋势|新方向
从计算维度上看，通用计算最主要是做加减乘除，但对于深度学习处理器来说，最基本的是我刚刚讲的五个算子。
从访存的角度来看，通用 CPU 在访问内存时是一个通道，而深度学习算法有一个共性，是里面的数据可以分为三个流，就像小朋友放学回家、会自动排成三个路队，比如说输入神经元、输出神经元与连接权重。
基于这些客观规律，我们在设计深度学习处理器的部件时，就会针对性地去设计。在计算层面，我们也可以把它拆解成五种共性的基本算法。在访存层面，它可以抽象成一个访存数据流，最后自动聚成三个流。
从实践的角度，具体的芯片你想怎么设计都是可以的。原先你可以把大家强行按在一个通道里。但我们把理论上的客观规律告诉学术界和工业界之后，大家一般就会设计三个独立的通道，兵分三路，那么效率肯定会提高。
下面这个例子是真的好啊：
我举个例子。如果你想听歌，听完歌后看电影，换个App就行，不需要将手机拆开、电路板拆开重组。但那个时候的ENIAC不是这样的。你想让它干别的事，得把机器里面的电线管子拔来插去，弄半天才能换个任务。然后冯·诺依曼总结了ENIAC的得失，进行了科学探索，形成了冯·诺依曼架构，才形成了我们现在计算机的最基本范式
还有一个不一样的看法，对于摩尔定律，陈天霁还是比较乐观的：
我上大学的时候就说摩尔定律要失效了，现在还没有失效。还有很多晶体管结构、封装、器件材料上的创新，有可能再延续摩尔定律更长的时间。我上大学的时候还听过一个说法，说地球上的石油还有XX年就用完了，但现在大家说还有很多（石油）。