どうすれば脳を「理解」できるか について

https://rmaruy.hatenablog.com/entry/2019/01/29/225106 についてのコメントです。直接、コメントして、門外漢の全くの誤解だったときに、汚してしまうことになるので、独立させてコメントします。

本論文は、「神経科学者はマイクロチップすら理解できない」と結論するヨナス論文に対する反論として提示されています。

しかし、神経科学の方法をマイクロチップの解析に適用して、マイクロチップすら理解できなかった というのがヨナス論文の主張は、本当に正当なのでしょうか。コネクトミクス解析を行えば、マイクロチップの動作原理は、わかるはずです。損傷研究も、なんら問題ないはずです。

最近のAIの成功は、深層ニューラルネットを構築できるようになったからです。学習したニューラルネットは、入力を与えると正しい出力を出してくれますが、何故、その出力がでるのかは、全く、わからないのが、最大の問題点です。

AIは、犬と猫の判別もできますし、暖かい絵と、寒い絵を学習させば、暖かい、寒いの感情も学習できますので、どんどん人間の脳に近づいていきます。

深層ニューラルネットの何を調べると、深層ニューラルネットを理解できるのでしょうか。

神経科学者は、脳のニューラルネットの何を調べて、何をわかろうとしているのでしょうか。