谷歌团队的DeepMind深入研究团队通过将认知心理学和深度网络(DNN)紧密结合在一起,取得了重要发现。该团队发现这两者在小样本词汇学习过程中具有相似之处,特别是在形状偏好方面。这项研究不仅被国际机器学习学会收录,而且为DNN的机理以及脑网络的理论基础研究提供了新视角。尽管深度学习和科学的交叉研究为未来指明了方向,但DNN的黑箱问题仍然是一大挑战。这个黑箱模型虽然能解决许多实际问题,但从科学研究和实际应用的角度来看,我们需要理解并改进这个世界。DNN的黑箱问题至关重要。
关于黑箱问题,许多研究者都在努力寻找解决之道。他们认为,建立优秀且可理解的网络系统是突破点。研究者们普遍认为,DNN的图像处理模型与动物的视觉处理通路有相似之处。模仿动物视觉信息处理的DNN也表现出类似的特性,如感受野、方向选择性和分级处理等。许多学者主张通过交叉研究的方式来解决DNN的黑箱问题。这种研究方法需要系统全面的方法论作为支撑。虽然脑网络是一个更大的黑箱,但对大脑的研究已经建立了一套系统的研究方法,这为解决DNN的黑箱问题提供了基础。
尽管DNN和脑网络在某些方面存在共性,如形状偏好等,但它们之间的差异也是显而易见的。两者的拓扑结构大相径庭。真实的脑网络之间的连接极其复杂,而DNN往往具有非常规则的连接。DNN的计算方式与大脑的信息处理方式也有很大不同。尽管DeepMind团队认为认知心理学工具能够揭示DNN的隐藏计算过程,但这并不意味着二者的计算过程有很高的相似性。认知心理学本身也存在许多未解的黑箱问题,这使得我们不能单方面依赖它来DNN的黑箱问题。尽管如此,深度学习与脑科学的交叉研究仍是未来的必然趋势。例如,《Nature Neuroscience》上的一篇研究表明目标驱动的分层卷积网络能够揭示视觉皮层信息处理过程的机理。这表明随着对脑网络认识的深入,我们有可能发掘出更多有助于理解与完善DNN模型的切入点。总之,在解开这些神秘面纱的背后需要我们不断深入研究探索下去 。
参考文献:
[1] Ritter S, Barrett D G T, Santoro A等.认知心理学对深度网络的研究:一个形状偏好的案例研究[网络会议论文]。/pdf/1706.08606.pdf。(谷歌DeepMind团队的相关研究论文)