Квантовые данные для ML-инженера: без формул, но с реальными примерами

Доброго времени суток, уважаемые хаброжители! Сегодня поговорим о данных — о той самой основе, без которой в классическом машинном обучении да и в deeplearning, по большому счёту, не происходит вообще ничего, от слова совсем: ни обучения моделей, ни проверки гипотез, ни сколько-нибудь осмысленных выводов, ни построение пайплайнов. И в квантовом машинном обучении история, в сущности, та же самая. Только вот сами данные здесь устроены несколько иначе — и вот здесь как раз начинается самое интересное ;) Когда впервые слышишь словосочетание квантовые данные, реакция, как правило, одна из двух: либо это звучит как что-то из научной фантастики, где сейчас из-за угла выйдет кот Шрёдингера и испортит вам датасет, либо как "ну хорошо, ещё один датасет, просто теперь с модной квантовой приставкой" и всякими наворотами. Сразу скажу: на практике всё интереснее и более вариативно. Именно, последнее и приобретает особо важную роль в современном мире ИИ.

В этой статье мы разберём следующие важные положения:

Читать далее

(Comment on this)

Я написал симулятор квантового поля на Java. Вот что из этого вышло

Одним вечером я решил проверить: что если взять решётку из 10 000 узлов, задать одно правило передачи энергии между соседями — и просто запустить? Никакой теоретической физики из учебника, никакой подготовки. Посмотреть что вырастет само.

Спойлер: за один день появились волновое уравнение, интерференция, фазовый переход, рождение и аннигиляция частиц, и стрела времени. Всё из одного уравнения.

Читать далее

(Comment on this)

Частотный анализ сервопривода или как научить робота правильно ходить

В робототехнике один контроллер принимает решение, а другой следит за его выполнением. Один, командный, вырабатывает общую стратегию поведения, а другой – исполнительный, выполняет одну из текущих частных задач, из которых складывается картина всей общей стратегии командного контроллера. Путь к успеху – это правильная стратегия, помноженная на правильное её исполнение.

Сервоприводы – это мускулы любой системы, превращающие команды в реальное действие.

Сервопривод состоит из электродвигателя, редуктора и платы управления углом поворота выходного вала редуктора, на которой базируется тот самый исполнительный контроллер.

Каждый сустав робота должен точно выполнить команду, подаваемую в виде набора отдельных (дискретных по времени) цифровых значений угла вала редуктора и, если эти значения отобразить на графике, где горизонтальная ось (ось абсцисс) – это время, а вертикальная ось (ось ординат) – это значения команд, то получим набор точек, определяющих график кривой задания. Построим ещё один подобный график, но по вертикальной оси отложим показания датчика угла выходного вала сервопривода, получим график кривой выполнения задания.

Как оценить качество работы сервопривода? Качество работы сервопривода оценивается качеством совпадения графика кривой выполнения задания с графиком кривой самого задания.

Но тогда как подобрать некоторый набор тестовых заданий, качественное выполнения которых гарантировало бы качественное выполнение любого задания?

Известно, что любую дискретную по времени  функцию

Читать далее

(Comment on this)

Задача внешней баллистики. Третья часть

В этой статье мы завершим решение задачи внешней баллистики разбором шестого и седьмого случаев. В них мы учтём уменьшение гравитации с высотой, а также кривизну Земли.

Читать далее

(Comment on this)

Создание и тестирование пенсионных инвестиционных стратегий с помощью Okama

Если вы когда-нибудь задумывались о том, на сколько лет хватит ваших накоплений после выхода на пенсию — эта статья для вас. Мы разберём, как с помощью open-source библиотеки okama для Python можно моделировать и тестировать различные стратегии снятия денег с инвестиционного портфеля. От классического «правила 4%» до продвинутых адаптивных стратегий — всё с примерами кода.

Читать далее

(Comment on this)

Укрощаем рыночный хаос: Пишем Liquid Neural Network (LNN) на PyTorch для алготрейдинга

Если вы когда-нибудь пытались натравить классическую LSTM на минутные свечи волатильных активов, вы знаете эту боль. Сначала Loss красиво падает на трейне, вы предвкушаете покупку острова, а на тесте модель превращается в тыкву. Она либо предсказывает скользящую среднюю со сдвигом на один шаг, либо упирается в «стену» Loss = 0.693 (то есть −ln(0.5)), сводя всё к подбрасыванию монетки.

Проблема не в вас. Проблема в том, что рекуррентные сети (RNN, LSTM, GRU) живут в дискретном времени. Для них шаг между 10:00 и 10:01 абсолютно идентичен шагу между пятницей и утром понедельника. Они не умеют сжимать и растягивать восприятие времени, когда волатильность взрывается.

В этой статье мы отойдем от мейнстримных архитектур и напишем с нуля Liquid Neural Network (Жидкую Нейронную Сеть). Мы заставим время течь непрерывно, используя численные методы дифференциальных уравнений прямо внутри PyTorch-графа, и посмотрим, как она вытаскивает скрытый макро-тренд из абсолютного рыночного хаоса.

Теория без воды: Что делает сеть «жидкой»?

Концепция Liquid Time-Constant Networks была представлена исследователями из Лаборатории искусственного интеллекта MIT (CSAIL). Их изначальная цель — управление дронами и автопилотами в непредсказуемой среде. Но финансовые рынки — это та же турбулентность, только выраженная в долларах , рублях и других валютах.

В классической RNN скрытое состояние $h_t$ обновляется по дискретным шагам:

$$h_t = \tanh(W_{in} x_t + W_h h_{t-1} + b)$$

В Liquid Network мы отказываемся от дискретности. Состояние нейрона $h(t)$ — это непрерывная переменная, описываемая обыкновенным дифференциальным уравнением (ОДУ):

Читать далее

(Comment on this)

Краткий справочник про внимания (self-attention, cross-attention, multi-head attention)

Механизм внимания (Attention) - это метод в искусственном интеллекте, который позволяет нейросети динамически определять, какие части входных данных наиболее важны для текущей задачи. Он работает через вычисление весов важности для разных элементов входа: более важные элементы получают больший вес, а менее важные - меньший. Затем модель формирует взвешенную сумму представлений, создавая новый контекстный вектор.

Self-attention, в свою очередь, помогает модели понимать, как разные элементы входных данных связаны между собой. Например, как разные части информации взаимодействуют и влияют друг на друга в общем контексте. Этот механизм обеспечивает логическую связность и целостное понимание всей структуры данных

Читать далее

(Comment on this)

[Перевод] Кризис в физике элементарных частиц: есть ли свет в конце туннеля?

Большой Адронный Коллайдер не обнаружил никаких новых физических явлений. Что же делать дальше?

В июле 2012 года физики Большого Адронного Коллайдера (LHC) в Европе с триумфом объявили об открытии бозона Хиггса, долгожданной частицы — основополагающего элемента субатомного мира. Взаимодействие с полем Хиггса наделяет элементарные частицы инертной массой — благодаря этому они замедляются, объединяются в атомы, а те складываются во всё многообразие материального мира. Через пару месяцев я устроилась в только что созданный журнал — будущий Quanta — первым штатным репортёром. Так я оказалась в первом ряду разворачивающейся драмы.

Она развернулась не вокруг частицы Хиггса, к моменту её обнаружения на LHC в существовании бозона Хиггса почти никто не сомневался. Частица Хиггса была последним элементом Стандартной модели физики элементарных частиц — набора уравнений 1970-х годов, описывающих 25 известных элементарных частиц и их взаимодействия.

Но куда важнее оказалось то, чего в данных не нашлось.

Читать далее

(Comment on this)

Почему ваш персонаж телепортируется при высоком FPS: float precision в играх

Всем привет! Меня зовут Григорий Дядиченко, и я разрабатываю разные проекты на заказ. Сталкивались ли вы с ситуацией, когда персонаж в вашей игре начинает немного дёргаться, если поиграть достаточно долго? Или пуля иногда пролетает сквозь тонкую стену, хотя коллайдер на месте? Если да — добро пожаловать в мир проблем float precision.

Сегодня хочется поговорить о том, почему тип float — при всей его повсеместности — может создавать тонкие и неочевидные баги в играх. Разберём, как он устроен, где именно он начинает врать, и что с этим делать.

Если вам интересна эта тема — добро пожаловать под кат!

Читать далее

(Comment on this)

Что такое наблюдатель и при чём здесь фильтр Калмана

Прочитал на Хабр статью [1], в которой автор простым языком даёт достаточно глубокое представление такого сложного и важного математического объекта как фильтр Калмана и захотел предложить читателям посмотреть на него (фильтр Калмана) несколько с другого ракурса. Сразу хочу предупредить, что перед чтением данной статьи хорошо бы прочесть статью [1], так как даже формулы были специально взяты ровно оттуда, дабы данная статья базировалась на материале упомянутой работы [1].

Представим, что у нас есть объект, работу которого необходимо отслеживать, но для этого нет прямой, а есть только косвенная информация. Например, мы имеем дело с погружным нефтяным насосом и необходима информация о его работе, в частности частота вращения двигателя данного насоса. В своём распоряжении мы имеем информацию лишь о напряжениях и токах его фаз и нам необходимо разработать виртуальный тахометр.

Общая идея такова: берём математическую модель двигателя и в режиме реального времени «запитываем» её показаниями датчиков напряжений фаз работающего двигателя насоса. Показания датчиков тока используем для того, чтобы в реальном времени втянуть виртуальную модель в такой режим, при котором виртуальные показания квазидатчиков тока математической модели станут равны показаниям реальных датчиков тока. То есть в этом случае мы получим виртуальную real time модель из которой можем взять любую информацию, которой она располагает, в частности частоту вращения электродвигателя.

А теперь изложенную идею попробуем воплотить в виде математических абстракций.

Читать далее

(Comment on this)

Задача внешней баллистики. Вторая часть

В этой статье мы продолжим решать задачу внешней баллистики и разберём четвёртый и пятый случаи. Они более общие.

Мы учтём зависимость коэффициента лобового сопротивления от скорости, а также зависимость плотности воздуха от высоты.

Читать далее

(Comment on this)

Теорема о мажорировании: как сравнивать решения систем ОДУ через их правые части

Разбираем теорему о мажорировании систем ОДУ: когда и как можно сравнивать решения, опираясь на квазимонотонность правых частей. Внутри — строгая формулировка, план доказательства и пример.

Читать далее

(Comment on this)

Интересный способ сгруппировать натуральный ряд

Вопрос читателю: Как можно сгруппировать натуральный ряд в групп, чтобы внутри каждой лежали только взаимно-простые числа?

Далее в статье я расскажу о том, как я нашел нестандартный способ решения такой задачи.

Читать далее

(Comment on this)

Почему argsort(argsort(x)) возвращает ранги элементов массива

Иногда в программировании встречаются трюки, которые отлично работают, но почти нигде не объясняется — почему.

Один из таких приёмов в NumPy — вычисление рангов элементов массива с помощью двойного argsort: argsort(argsort(x)). Этот однострочник часто рекомендуют на форумах и в ответах на Stack Overflow, однако строгого объяснения обычно не приводят.

В этой статье я формализую задачу и покажу пошаговое доказательство того, что двойной argsort действительно возвращает ранги элементов массива.

Читать далее

(Comment on this)

Почему одна запись может изменить KPI: разложение агрегированных метрик на вклад отдельных событий

Меня зовут Иван Васильев, я ведущий аналитик в Ви.Tech, IT-дочке ВсеИнструменты.ру. Хочу показать, как из на первый взгляд простой формулы KPI выросла инженерная задача: нам нужно было не просто посчитать интегральный показатель эффективности поставщика, а объяснить, какая именно закупка его ухудшила и почему. В статье разберу, почему для агрегированных метрик не работает наивный подход, как мы пришли к remove-one analysis и где пришлось отдельно фиксировать логику расчета, чтобы результат вообще можно было интерпретировать.

В одной из систем, над которой я работаю, мы рассчитываем интегральный показатель эффективности поставщика. Сначала задача казалась очень простой: несколько метрик, несколько весов, обычная агрегированная формула. Но однажды бизнес задал вопрос:
| Почему показатель поставщика снизился?

Ответить на него можно было бы общими словами. Но затем появился уточняющий вопрос:
| А какая именно закупка ухудшила показатель?

И в этот момент простая аналитическая задача внезапно превратилась в интересную инженерную проблему: с агрегированными метриками, нелинейными функциями и неожиданными эффектами, которые больше похожи на задачи из дискретной математики, чем на обычный backend.

Читать далее

(Comment on this)

Как я взломал «исходный код» Вселенной на MacBook Pro и закрыл 90% экзопланет для жизни

Пока теоретики десятилетиями спорят о стабильности физических законов, мы решили просто взять и проверить их. Используя байесовскую математику, данные телескопа «Джеймс Уэбб» (JWST) и свой ноутбук, я запустил проект ExoLogica AI. Результаты оказались... отрезвляющими.

Читать далее

(Comment on this)

Почему при 136 рпс и 150 рпс лимита наблюдалось 7 рпс ошибок 429

На скрине показано 40 минут графиков с балансировки некоторого эндпоинта. На выделенном участке видно 129.01 рпс успехов и 7.27 ошибок 4xx, которые являлись 429 от рпс-лимитера. Настройка рпс-лимитера находилась на уровне “не более 150 запросов с интервалом в 1 секунду”. Не странно ли видеть такое уверенный и постоянный фон ошибок про превышение лимита?

Далее попробуем объяснить этот график

(Comment on this)

[Перевод] Мета-теория связей 0.0.3

Этому миру нужна новая теория — теория, которая могла бы описать все существующие теории на планете. Теория, которая смогла бы описать философию, математику, физику и психологию единым и вычислим языком, чтобы сделать все виды наук вычислимыми.

Именно над этим мы сейчас работаем. Когда нам удастся добиться успеха, эта теория станет единой мета-теорией всего и коснётся каждого на этой планете.

Прошел год с момента нашей последней публикации, и наша задача — поделиться достигнутым прогрессом с русскоязычной аудиторией. Это всё ещё не финальная версия, а черновик, перевод прошлогодней статьи на английском с улучшениями. Поэтому мы будем рады любым отзывам, а также вашему участию в развитии мета-теории связей.

Как и всё, что мы делали раньше, теория связей публикуется и передаётся в общественное достояние — она принадлежит человечеству, а значит, и вам. У этой работы много авторов, но сама работа гораздо важнее любого отдельного авторства. Мы надеемся, что уже сегодня она сможет принести пользу ещё большему числу людей.

Мы приглашаем вас стать частью этого захватывающего приключения.

Стать свидетелем рождения мета-теории

(Comment on this)

Вся музыка, все фотографии и весь Wi-Fi работают на одном трюке. Ему 200 лет

Откройте ваш плейлист и нажмите play на любом треке.

Эта песня попала в ваши наушники благодаря одной идее. Той самой, за которую француза в 1807 году высмеяли на заседании Парижской академии наук. Лаплас был «за», но Лагранж встал и сказал: «Это невозможно.» Француза звали Жан-Батист Жозеф Фурье. Его идея была настолько простой, что учёные отказались ей поверить.

Читать далее

(Comment on this)

Задача внешней баллистики. Первая часть. Аналитическое решение

   В данной работе рассмотрим одну из важнейших задач прикладной механики, а именно задачу внешней баллистики(задачу о плоском движении тела, под действием земного тяготения, брошенного под углом к горизонту с некоторой начальной скоростью).

Сформулируем задачу и рассмотрим несколько случаев.

Читать далее

(Comment on this)