> вместо дальнейшего развития теории этого дела всё решается с помощью вычислительных мощностей

мощности конечно решают, но во-первых теория тоже очень активно развивается, во вторых допустим ты арендовал мощностей на 100M$, попробуй теперь обучи на нем огромную сеть так чтобы было хотя бы более-менее эффективно и все не шло по пизде каждые пару минут. Сложный инженерных задач овердохуя.

> индусы, обучающие гигантскую нейросеть за полтора доллара в час
такое существует но это довольно маленький сектор, копейки в общей cost structure компаний и в глобальной структуре занятости.