>мы же можем только внешние характеристики проверять, они объективны.

Почему мы можем проверять только внешние характеристики и почему они объективны?
Что вообще такое внешние(и не внешние) характеристики? Объем модели в байтах это внешняя характеристика и мы можем ее проверять, но значение каждого байта уже внутреняя и, соответственно, не можем?

Ответ нейросети это результат работы математической функции, т.е. результат вычисления функции это внешняя харатеристика, но коэффициенты внутри функции, которые лежат в тех самых байтах, это внутреняя и их нельзя изучать? Или о чем речь, что такое "не внешние" характеристики? Ты знаешь про направление Explainable AI, например?